Pengantar Jaringan Neural Feedforward: Lapisan, Fungsi & Pentingnya

Diterbitkan: 2020-05-28

Teknologi pembelajaran mendalam adalah tulang punggung mesin telusur, terjemahan mesin, dan aplikasi seluler. Ia bekerja dengan meniru otak manusia untuk menemukan dan membuat pola dari berbagai jenis data.

Salah satu bagian penting dari teknologi luar biasa ini adalah jaringan saraf umpan maju, yang membantu insinyur perangkat lunak dalam pengenalan dan klasifikasi pola, regresi non-linier, dan aproksimasi fungsi.

Mari kita mendapatkan beberapa wawasan tentang aspek penting dari arsitektur jaringan saraf inti ini.

Daftar isi

Apa itu Jaringan Neural Feedforward?

Umumnya dikenal sebagai jaringan neuron berlapis-lapis, jaringan saraf umpan maju disebut demikian karena fakta bahwa semua informasi hanya bergerak ke arah maju.

Informasi pertama memasuki node input, bergerak melalui lapisan tersembunyi, dan akhirnya keluar melalui node output. Jaringan tidak mengandung koneksi untuk memasukkan informasi yang keluar pada simpul keluaran kembali ke jaringan.

Jaringan saraf feedforward dimaksudkan untuk memperkirakan fungsi.

Berikut cara kerjanya .

Ada pengklasifikasi y = f*(x).

Ini memasukkan input x ke dalam kategori y.

Jaringan feedforward akan memetakan y = f (x; ). Kemudian mengingat nilai yang paling mendekati fungsi tersebut.

Jaringan saraf umpan maju untuk dasar pengenalan objek dalam gambar, seperti yang dapat Anda temukan di aplikasi Google Foto.

Lapisan Jaringan Neural Feedforward

Sebuah jaringan saraf feedforward terdiri dari berikut ini.

Lapisan masukan

Ini berisi neuron penerima input. Mereka kemudian meneruskan input ke lapisan berikutnya. Jumlah total neuron pada lapisan input sama dengan atribut dalam dataset.

Lapisan tersembunyi

Ini adalah lapisan tengah, tersembunyi di antara lapisan input dan output. Ada sejumlah besar neuron di lapisan ini yang menerapkan transformasi ke input. Mereka kemudian meneruskannya ke lapisan output.

lapisan keluaran

Ini adalah lapisan terakhir dan tergantung pada model yang dibangun. Juga, lapisan keluaran adalah fitur yang diprediksi karena Anda tahu seperti apa hasilnya.

Berat neuron

Kekuatan hubungan antar neuron disebut bobot. Nilai bobot berkisar antara 0 hingga 1.

Ketahui lebih lanjut: Model Jaringan Syaraf Tiruan: Pengantar Singkat, Glosarium

Fungsi Biaya di Jaringan Neural Feedforward

Memilih fungsi biaya adalah salah satu bagian terpenting dari jaringan saraf umpan maju. Biasanya, perubahan kecil pada bobot dan bias tidak memengaruhi titik data rahasia. Jadi, untuk mencari cara untuk meningkatkan kinerja dengan menggunakan fungsi biaya yang mulus untuk membuat perubahan kecil pada bobot dan bias.

Rumus untuk fungsi biaya kesalahan kuadrat rata-rata adalah:

Sumber

Di mana,

w = kumpulan bobot dalam jaringan

b = bias

n = jumlah input pelatihan

a = vektor keluaran

x = masukan

v‖ = panjang biasa vektor v

Fungsi Rugi di Jaringan Neural Feedforward

Fungsi loss pada neural network dimaksudkan untuk menentukan apakah ada koreksi yang dibutuhkan proses pembelajaran.

Neuron lapisan keluaran akan sama dengan jumlah kelas. Untuk membandingkan perbedaan antara distribusi probabilitas yang diprediksi dan benar.

Cross-entropy loss untuk klasifikasi biner adalah:

Cross-entropy loss untuk klasifikasi multi-kelas adalah:

Sumber

Algoritma Pembelajaran Gradien

Algoritme ini membantu menentukan semua nilai terbaik yang mungkin untuk parameter guna mengurangi kerugian dalam jaringan saraf umpan maju.

Gambar

Semua bobot (w₁₁₁, w₁₁₂,…) dan bias b (b₁, b₂,….) diinisialisasi secara acak. Setelah ini dilakukan, pengamatan dalam data diulang. Kemudian, distribusi prediksi yang sesuai ditentukan terhadap setiap pengamatan. Akhirnya, kerugian dihitung menggunakan fungsi cross-entropy.

Nilai kerugian kemudian membantu mencari perubahan yang harus dilakukan dalam bobot untuk mengurangi kerugian keseluruhan model.

Baca: 13 Ide & Topik Proyek Neural Network yang Menarik

Kebutuhan akan Model Neuron

Katakanlah input yang dimasukkan ke dalam jaringan adalah data piksel mentah yang berasal dari gambar karakter yang dipindai. Agar keluaran dalam jaringan dapat mengklasifikasikan digit dengan benar, Anda perlu menentukan jumlah bobot dan bias yang tepat.

Sekarang, Anda perlu membuat perubahan kecil pada bobot di jaringan untuk melihat bagaimana pembelajaran akan bekerja. Agar ini menjadi sempurna, perubahan kecil pada bobot seharusnya hanya menyebabkan perubahan kecil pada output.

Namun, bagaimana jika perubahan kecil pada bobot menghasilkan perubahan besar pada output? Model neuron sigmoid dapat memecahkan masalah seperti itu.

Sumber

Baca Juga: 7 Jenis Jaringan Syaraf Tiruan yang Dibutuhkan Engineer ML

Kesimpulan

Pembelajaran mendalam adalah wilayah rekayasa perangkat lunak dengan tingkat penelitian yang sangat besar. Ada banyak arsitektur jaringan saraf yang diaktualisasikan untuk berbagai tipe data. Sistem saraf convolutional, misalnya, telah mencapai eksekusi terbaik di kelasnya di bidang prosedur penanganan gambar, sementara sistem saraf berulang umumnya digunakan dalam pemrosesan konten dan suara.

Ketika diterapkan pada kumpulan data besar, sistem saraf memerlukan ukuran besar dari kekuatan komputasi dan akselerasi perangkat, yang dapat dicapai melalui desain pengaturan unit pemrosesan grafis atau GPU. Jika Anda baru menggunakan GPU, Anda dapat menemukan pengaturan konfigurasi gratis di web. Yang paling disukai adalah Notebook Kaggle atau Notebook Google Collab.

Untuk mencapai jaringan saraf umpan maju yang efektif, Anda melakukan beberapa iterasi dalam arsitektur jaringan, yang membutuhkan banyak pengujian.

Untuk informasi lebih lanjut tentang cara kerja jaringan ini, pelajari dari para ahli di upGrad. Kursus kami sangat komprehensif, dan Anda dapat menyelesaikan pertanyaan Anda dengan langsung menghubungi guru kami yang berpengalaman dan terbaik di kelasnya.

Jika Anda tertarik untuk mempelajari lebih lanjut tentang pembelajaran mesin, lihat PG Diploma IIIT-B & upGrad dalam Pembelajaran Mesin & AI yang dirancang untuk para profesional yang bekerja dan menawarkan 450+ jam pelatihan ketat, 30+ studi kasus & tugas, IIIT- B Status alumni, 5+ proyek batu penjuru praktis & bantuan pekerjaan dengan perusahaan-perusahaan top.

Apakah aljabar linier diperlukan dalam jaringan saraf?

Jaringan saraf adalah model matematika yang memecahkan masalah kompleks apa pun. Jaringan mengambil satu set input dan menghitung satu set output dengan tujuan mencapai hasil yang diinginkan. Ketika mempelajari teori jaringan saraf, sebagian besar neuron dan lapisan sering diformat dalam aljabar linier. Aljabar linier diperlukan untuk membangun model matematika. Anda juga dapat menggunakan aljabar linier untuk memahami jaringan model. Jadi, untuk menjawab pertanyaan tersebut, ya, pengetahuan dasar aljabar linier adalah wajib saat menggunakan jaringan saraf.

Apa yang dimaksud dengan backpropagation pada neural network?

Dalam kasus jaringan saraf yang menggunakan penurunan gradien, backpropagation digunakan. Algoritma ini memperkirakan gradien fungsi kesalahan sehubungan dengan bobot jaringan saraf dan pada dasarnya merupakan propagasi kesalahan yang mundur. Pendekatan ini digunakan karena fine-tuning bobot mengurangi tingkat kesalahan dan dengan demikian meningkatkan generalisasi model jaringan saraf, sehingga lebih dapat diandalkan. Backpropagation umumnya dikategorikan sebagai bentuk pembelajaran mesin yang diawasi karena memerlukan hasil yang diketahui dan dimaksudkan untuk setiap nilai input untuk menghitung gradien fungsi kerugian dalam jaringan saraf.

Bagaimana backpropagation berbeda dari pengoptimal?

Dalam jaringan saraf, baik pengoptimal dan algoritma backpropagation digunakan, dan keduanya bekerja sama untuk membuat model lebih dapat diandalkan. Backpropagation digunakan untuk menghitung gradien secara efisien, dan pengoptimal digunakan untuk melatih jaringan saraf menggunakan gradien yang diperoleh menggunakan backpropagation. Singkatnya, apa yang dilakukan backpropagation bagi kami adalah menghitung gradien, yang kemudian digunakan oleh pengoptimal.