10 Teknik Deep Learning Teratas Yang Harus Anda Ketahui

Diterbitkan: 2020-05-29

Daftar isi

pengantar

Pembelajaran Mesin dan AI telah mengubah dunia di sekitar kita selama beberapa tahun terakhir dengan inovasi terobosannya. Selain itu, berbagai teknik pembelajaran mendalam yang membawa Machine Learning ke tingkat yang sama sekali baru di mana mesin dapat belajar membedakan tugas, terinspirasi oleh jaringan saraf otak manusia. Itulah alasan mengapa kami memiliki kontrol suara di ponsel cerdas dan remote TV kami.

Ada berbagai jenis model pembelajaran mendalam yang akurat dan efektif mengatasi masalah yang terlalu kompleks untuk otak manusia. Berikut caranya:

10 Teknik Pembelajaran Mendalam Teratas

1. Jaringan Saraf Klasik

Juga dikenal sebagai Jaringan Saraf Terhubung Sepenuhnya, sering diidentifikasi oleh perceptron multilayer, di mana neuron terhubung ke lapisan kontinu. Ini dirancang oleh Fran Rosenblatt, seorang psikolog Amerika, pada tahun 1958. Ini melibatkan adaptasi model menjadi input data biner mendasar. Ada tiga fungsi yang termasuk dalam model ini: yaitu:

  • Fungsi linier: Diistilahkan dengan tepat, ini mewakili satu baris yang mengalikan inputnya dengan pengali konstan.
  • Fungsi Non-Linear: Ini dibagi lagi menjadi tiga himpunan bagian:
  1. Kurva Sigmoid: Ini adalah fungsi yang ditafsirkan sebagai kurva berbentuk S dengan rentangnya dari 0 hingga 1.
  2. Tangen hiperbolik (tanh) mengacu pada kurva berbentuk S yang memiliki rentang -1 hingga 1.
  3. Rectified Linear Unit (ReLU): Ini adalah fungsi titik tunggal yang menghasilkan 0 ketika nilai input lebih kecil dari nilai yang ditetapkan dan menghasilkan kelipatan linier jika input yang diberikan lebih tinggi dari nilai yang ditetapkan.

Bekerja Terbaik di:

  1. Kumpulan data tabel apa pun yang memiliki baris dan kolom yang diformat dalam CSV
  2. Masalah Klasifikasi dan Regresi dengan input nilai nyata
  3. Model apa pun dengan fleksibilitas tertinggi, seperti ANNS

2. Jaringan Saraf Konvolusional

CNN adalah tipe lanjutan dan berpotensi tinggi dari model jaringan saraf tiruan klasik. Itu dibangun untuk mengatasi kompleksitas yang lebih tinggi, pra-pemrosesan, dan kompilasi data. Dibutuhkan referensi dari urutan susunan neuron yang ada di korteks visual otak hewan.

CNN dapat dianggap sebagai salah satu model fleksibel yang paling efisien untuk mengkhususkan diri dalam data gambar maupun non-gambar. Ini memiliki empat organisasi yang berbeda:

  • Ini terdiri dari lapisan input tunggal, yang umumnya merupakan susunan dua dimensi neuron untuk menganalisis data gambar primer, yang mirip dengan piksel foto.
  • Beberapa CNN juga terdiri dari lapisan output satu dimensi dari neuron yang memproses gambar pada inputnya, melalui lapisan konvolusi terhubung yang tersebar.
  • CNN juga memiliki lapisan ketiga yang dikenal sebagai lapisan pengambilan sampel untuk membatasi jumlah neuron yang terlibat dalam lapisan jaringan yang sesuai.
  • Secara keseluruhan, CNN memiliki satu atau beberapa lapisan terhubung yang menghubungkan pengambilan sampel ke lapisan keluaran.

Model jaringan ini dapat membantu memperoleh data gambar yang relevan dalam bentuk unit atau potongan yang lebih kecil. Neuron yang ada di lapisan konvolusi bertanggung jawab atas cluster neuron di lapisan sebelumnya.

Setelah data input diimpor ke dalam model convolutional, ada empat tahap yang terlibat dalam membangun CNN:

  • Konvolusi: Proses memperoleh peta fitur dari data input, diikuti oleh fungsi yang diterapkan pada peta ini.
  • Max-Pooling: Ini membantu CNN untuk mendeteksi gambar berdasarkan modifikasi yang diberikan.
  • Flattening: Pada tahap ini, data yang dihasilkan kemudian diratakan untuk dianalisis oleh CNN.
  • Koneksi Penuh: Ini sering digambarkan sebagai lapisan tersembunyi yang mengkompilasi fungsi kerugian untuk model.

CNN memadai untuk tugas-tugas, termasuk pengenalan gambar, analisis gambar, segmentasi gambar, analisis video, dan pemrosesan bahasa alami. Namun, ada skenario lain di mana jaringan CNN terbukti bermanfaat seperti:

  • Kumpulan data gambar yang berisi analisis dokumen OCR
  • Setiap data input dua dimensi yang dapat diubah lebih lanjut menjadi satu dimensi untuk analisis yang lebih cepat
  • Model perlu dilibatkan dalam arsitekturnya untuk menghasilkan keluaran.

Baca lebih lanjut: Jaringan saraf konvulasi

3. Jaringan Saraf Berulang (RNNs)

RNN pertama kali dirancang untuk membantu memprediksi urutan, misalnya, algoritma Long Short-Term Memory (LSTM) dikenal dengan banyak fungsi. Jaringan tersebut bekerja sepenuhnya pada urutan data dari panjang input variabel.

RNN menempatkan pengetahuan yang diperoleh dari keadaan sebelumnya sebagai nilai input untuk prediksi saat ini. Oleh karena itu, ini dapat membantu dalam mencapai memori jangka pendek dalam jaringan, yang mengarah ke manajemen yang efektif dari perubahan harga saham, atau sistem data berbasis waktu lainnya.

Seperti disebutkan sebelumnya, ada dua jenis desain RNN secara keseluruhan yang membantu dalam menganalisis masalah. Mereka:

  • LSTM: Berguna dalam prediksi data dalam urutan waktu, menggunakan memori. Ini memiliki tiga gerbang: Input, Output, dan Lupakan.
  • Gated RNNs: Juga berguna dalam prediksi data urutan waktu melalui memori. Ini memiliki dua gerbang— Perbarui dan Atur Ulang.

Bekerja Terbaik di:

  • One to One: Satu input yang terhubung ke satu output, seperti klasifikasi Gambar.
  • Satu ke banyak: Satu masukan yang ditautkan ke urutan keluaran, seperti Teks gambar yang menyertakan beberapa kata dari satu gambar.
  • Many to One: Serangkaian input yang menghasilkan output tunggal, seperti Analisis Sentimen.
  • Banyak ke banyak: Serangkaian masukan yang menghasilkan rangkaian keluaran, seperti klasifikasi video.

Ini juga banyak digunakan dalam terjemahan bahasa, pemodelan percakapan, dan banyak lagi.

Dapatkan kursus pembelajaran mesin terbaik secara online dari Universitas top Dunia. Dapatkan Master, PGP Eksekutif, atau Program Sertifikat Tingkat Lanjut untuk mempercepat karier Anda.

4. Jaringan Permusuhan Generatif

Ini adalah kombinasi dari dua teknik pembelajaran mendalam jaringan saraf – Generator dan Diskriminator. Sementara Jaringan Generator menghasilkan data buatan, Diskriminator membantu membedakan antara data yang nyata dan yang salah.

Kedua jaringan tersebut bersaing, karena Generator terus menghasilkan data buatan yang identik dengan data nyata – dan Diskriminator terus mendeteksi data nyata dan tidak nyata. Dalam skenario di mana ada persyaratan untuk membuat perpustakaan gambar, jaringan Generator akan menghasilkan data simulasi ke gambar asli. Ini kemudian akan menghasilkan jaringan saraf dekonvolusi.

Kemudian akan diikuti oleh jaringan Image Detector untuk membedakan antara gambar asli dan palsu. Dimulai dengan peluang akurasi 50% , detektor perlu mengembangkan kualitas klasifikasinya karena generator akan tumbuh lebih baik dalam pembuatan citra buatannya. Persaingan seperti itu secara keseluruhan akan berkontribusi pada jaringan dalam keefektifan dan kecepatannya.

Bekerja Terbaik di:

  • Generasi Gambar dan Teks
  • Peningkatan citra
  • Proses Penemuan Obat Baru

5. Peta yang Mengatur Sendiri

SOM atau Self-Organizing Maps beroperasi dengan bantuan data tanpa pengawasan yang mengurangi jumlah variabel acak dalam model. Dalam jenis teknik pembelajaran mendalam ini , dimensi keluaran ditetapkan sebagai model dua dimensi, karena setiap sinapsis terhubung ke simpul masukan dan keluarannya.

Karena setiap titik data bersaing untuk representasi modelnya, SOM memperbarui bobot node terdekat atau Best Matching Units (BMUs) . Berdasarkan kedekatan BMU, nilai bobot berubah. Karena bobot dianggap sebagai karakteristik simpul itu sendiri, nilainya mewakili lokasi simpul dalam jaringan.

Bekerja paling baik di:

  • Ketika dataset tidak datang dengan nilai sumbu Y
  • Eksplorasi proyek untuk menganalisis kerangka dataset
  • Proyek kreatif dalam Musik, Video, dan Teks dengan bantuan AI

6. Mesin Boltzmann

Model jaringan ini tidak datang dengan arah yang telah ditentukan sebelumnya dan oleh karena itu node-nya terhubung dalam pengaturan melingkar. Karena keunikan tersebut, teknik deep learning ini digunakan untuk menghasilkan parameter model.

Berbeda dari semua model jaringan deterministik sebelumnya, model Boltzmann Machines disebut sebagai stokastik.

Bekerja Terbaik di:

  • Pemantauan sistem
  • Menyiapkan platform rekomendasi biner
  • Menganalisis kumpulan data tertentu

Baca: Metode Langkah-demi-Langkah Untuk Membangun Sistem AI Anda Sendiri Hari Ini

7. Pembelajaran Penguatan Mendalam

Sebelum memahami teknik Deep Reinforcement Learning, pembelajaran penguatan mengacu pada proses di mana agen berinteraksi dengan lingkungan untuk mengubah keadaannya. Agen dapat mengamati dan mengambil tindakan yang sesuai, agen membantu jaringan untuk mencapai tujuannya dengan berinteraksi dengan situasi.

Di sini, dalam model jaringan ini, ada lapisan input, lapisan output, dan beberapa lapisan ganda yang tersembunyi – di mana keadaan lingkungan adalah lapisan input itu sendiri. Model bekerja pada upaya terus menerus untuk memprediksi imbalan masa depan dari setiap tindakan yang diambil dalam keadaan situasi tertentu.

Bekerja Terbaik di:

  • Permainan Papan seperti Catur, Poker
  • Mobil Self-Drive
  • Robotika
  • Manajemen persediaan
  • Tugas keuangan seperti penetapan harga aset

8. Autoencoder

Salah satu jenis teknik deep learning yang paling umum digunakan , model ini beroperasi secara otomatis berdasarkan inputnya, sebelum mengambil fungsi aktivasi dan decoding output akhir. Formasi bottleneck seperti itu mengarah pada menghasilkan kategori data yang lebih rendah dan memanfaatkan sebagian besar struktur data yang melekat.

Jenis Autoencoder adalah:

  • Jarang – Di mana lapisan tersembunyi melebihi jumlah lapisan input untuk pendekatan generalisasi untuk mengurangi overfitting. Ini membatasi fungsi kerugian dan mencegah autoencoder menggunakan semua nodenya secara berlebihan.
  • Denoising – Di sini, versi input yang dimodifikasi diubah menjadi 0 secara acak.
  • Kontraktif – Penambahan faktor penalti pada fungsi loss untuk membatasi overfitting dan penyalinan data, jika lapisan tersembunyi melebihi jumlah lapisan input.
  • Ditumpuk – Untuk autoencoder, setelah lapisan tersembunyi lainnya ditambahkan, itu mengarah ke dua tahap penyandian ke satu tahap penguraian kode.

Bekerja Terbaik di:

  • Deteksi fitur
  • Menyiapkan model rekomendasi yang menarik
  • Tambahkan fitur ke kumpulan data besar

Baca: Regularisasi dalam Deep Learning

9. Propagasi balik

Dalam pembelajaran yang mendalam , teknik backpropagation atau back-prop disebut sebagai mekanisme sentral untuk jaringan saraf untuk mempelajari kesalahan apa pun dalam prediksi data. Propagasi, di sisi lain, mengacu pada transmisi data dalam arah tertentu melalui saluran khusus. Seluruh sistem dapat bekerja sesuai dengan perambatan sinyal ke arah depan pada saat pengambilan keputusan, dan mengirimkan kembali data apa pun mengenai kekurangan dalam jaringan, secara terbalik.

  • Pertama, jaringan menganalisis parameter dan memutuskan data
  • Kedua, ditimbang dengan fungsi kerugian
  • Ketiga, kesalahan yang diidentifikasi akan disebarkan kembali untuk menyesuaikan sendiri parameter yang salah

Bekerja Terbaik di:

  • Debug Data

10. Keturunan Gradien

Dalam konteks matematika, gradien mengacu pada kemiringan yang memiliki sudut yang dapat diukur dan dapat direpresentasikan ke dalam hubungan antar variabel. Dalam teknik pembelajaran mendalam ini , hubungan antara kesalahan yang dihasilkan dalam jaringan saraf dengan parameter data dapat direpresentasikan sebagai "x" dan "y". Karena variabel bersifat dinamis dalam jaringan saraf, maka kesalahan dapat ditingkatkan atau dikurangi dengan perubahan kecil.

Banyak profesional memvisualisasikan teknik ini seperti jalur sungai yang menuruni lereng gunung. Tujuan dari metode tersebut adalah — untuk menemukan solusi optimal. Karena ada beberapa solusi minimum lokal di jaringan saraf, di mana data dapat terjebak dan menyebabkan kompilasi yang lebih lambat dan salah – ada cara untuk menahan diri dari peristiwa tersebut.

Sebagai medan gunung, ada fungsi tertentu dalam jaringan saraf yang disebut Fungsi Cembung, yang menjaga data mengalir ke tingkat yang diharapkan dan mencapai yang paling minimum. Mungkin ada perbedaan metode yang diambil oleh data yang memasuki tujuan akhir karena variasi nilai awal fungsi.

Bekerja Terbaik di:

  • Memperbarui parameter dalam model tertentu

Baca juga: 15 Ide Proyek Pembelajaran Mesin yang Menarik Untuk Pemula

Membungkus

Ada beberapa teknik pembelajaran mendalam yang hadir dengan fungsionalitas dan pendekatan praktisnya. Setelah model ini diidentifikasi dan dimasukkan ke dalam skenario yang tepat, ini dapat mengarah pada pencapaian solusi kelas atas berdasarkan kerangka kerja yang digunakan oleh pengembang. Semoga beruntung!

Lihat Program Sertifikasi Lanjutan dalam Pembelajaran Mesin & Cloud dengan IIT Madras, sekolah teknik terbaik di negara ini untuk membuat program yang mengajarkan Anda tidak hanya pembelajaran mesin tetapi juga penerapannya secara efektif menggunakan infrastruktur cloud. Tujuan kami dengan program ini adalah untuk membuka pintu institut paling selektif di negara ini dan memberi pelajar akses ke fakultas & sumber daya yang luar biasa untuk menguasai keterampilan yang tinggi & berkembang

Apa itu jaringan permusuhan umum?

Ini adalah gabungan dari dua teknik jaringan saraf pembelajaran mendalam: Generator dan Diskriminator. Sementara Jaringan Generator menghasilkan data fiktif, Diskriminator membantu membedakan antara data aktual dan fiktif. Karena Generator terus menghasilkan data palsu yang identik dengan data asli – dan Diskriminator terus mengenali data nyata dan tidak nyata – kedua jaringan tersebut bersaing. Jaringan Generator akan menghasilkan hasil simulasi untuk foto-foto otentik dalam kasus di mana perpustakaan gambar diperlukan. Setelah itu, akan dibuat jaringan saraf dekonvolusi.

Apa gunanya peta yang mengatur dirinya sendiri?

SOM, atau Self-Organizing Maps, bekerja dengan mengurangi jumlah variabel acak dalam model dengan menggunakan data yang tidak diawasi. Karena setiap neuron terhubung ke node inlet dan outletnya, dimensi hasil ditetapkan sebagai model dua dimensi dalam teknik pembelajaran mendalam semacam ini. SOM menyesuaikan nilai node terdekat atau Unit Pencocokan Terbaik karena setiap titik data menawar untuk representasi modelnya (BMU). Nilai bobot bervariasi tergantung pada seberapa dekat BMU. Karena bobot dianggap sebagai karakteristik simpul itu sendiri, nilai menandakan posisi simpul dalam jaringan.

Apa itu backpropagation?

Algoritma backpropagation atau pendekatan back-prop adalah persyaratan penting bagi jaringan saraf untuk mempelajari kegagalan apa pun dalam prediksi data dalam pembelajaran mendalam. Di sisi lain, propagasi mengacu pada transfer data dalam arah tertentu melintasi saluran yang ditentukan. Pada saat pilihan, sistem lengkap dapat bekerja sesuai dengan propagasi sinyal dalam arah maju, dan mengirimkan kembali data apapun mengenai kelemahan jaringan dalam arah sebaliknya.