Spiking Sinir Ağı: Bilmeniz Gereken Her Şey

Son zamanlarda, bir nöroteknoloji girişimi olan Neuralink'in beyne küçücük bir arayüz yerleştirerek insan beyninin hesaplamasını iyileştirmeyi planladığını duyduk. Beyin-makine arayüzlerindeki elektrotlar, nöronal bilgileri harici sistemleri kontrol etmede yetkin komutlara dönüştürür. Ortaya çıkan en büyük soru, beyninizdeki sinyallerin nasıl işleneceğidir.

Bunu anlamak için nöronların beyinde nasıl yapılandırıldığını ve bilgiyi nasıl ilettiklerini bilmemiz gerekir. Son makine öğrenme trendlerini takip eden herkes 2. nesil Yapay Sinir Ağlarının farkındadır. Yapay Sinir Ağları genellikle tamamen bağlantılıdır ve sürekli değerlerle ilgilenir. YSA'lar birçok alanda muazzam ilerleme kaydetmiştir.

Ancak, beynin nöronlarının mekanizmasını taklit etmezler. Artan sinir ağı olan yeni nesil Sinir Ağı, sinirbilimde makine öğreniminin uygulanmasını kolaylaştırmayı amaçlıyor.

Nöronların Beyindeki Bilgileri Nasıl İlettiğini Bilin

Bir nöron tarafından bilgi nasıl gönderilir ve alınır? Nöronların kendi aralarında iletişim kurabilmeleri için bilgi aktarmaları gerekir. Bilginin iletimi hem nöron içinde hem de bir nörondan diğerine yapılır. İnsan beyninde, dendritler genellikle duyusal reseptörlerden bilgi alır. Alınan bilgiler hücre gövdesi aracılığıyla aksona iletilir.

Bilgi aksona ulaşır ulaşmaz, aksiyon potansiyeli olarak bilinen bir elektrik sinyali olarak aksonun tüm uzunluğu boyunca aşağı doğru hareket eder. Aksonun sonuna ulaşıldığında, gerekirse bilginin bir sonraki nöronun dendritlerine iletilmesi gerekir. Akson ve bir sonraki nöronun dendritleri arasında sinaptik bir boşluk vardır. Bu boşluk kendi başına veya nörotransmitterler yardımıyla doldurulabilir.

Kaynak

Artan Sinir Ağı

Bir yükselen sinir ağı (SNN), makine öğrenimi topluluğunda bilinen geleneksel sinir ağlarından farklıdır. Spiking sinir ağı, sivri uçlar üzerinde çalışır. Ani yükselmeler, belirli zaman noktalarında gerçekleşen ayrı olaylardır. Bu nedenle sürekli değerler kullanan Yapay Sinir Ağlarından farklıdır. Diferansiyel denklemler, bir ani yükselme durumunda çeşitli biyolojik süreçleri temsil eder.

En kritik süreçlerden biri nöronun zar kapasitesidir. Bir nöron, belirli bir potansiyele ulaştığında yükselir. Bir nöron artışından sonra, o nöron için potansiyel yeniden kurulur. Bir nöronun bir aksiyon potansiyeli ateşledikten sonra kararlı durumuna dönmesi biraz zaman alır. Membran potansiyeline ulaştıktan sonraki zaman aralığı, refrakter periyot olarak bilinir.

Refrakter dönemde, uyarıcı girdiler güçlü olsa bile başka bir aksiyon potansiyelini tetiklemek oldukça zordur. Sodyum iyon kanalları, aksiyon potansiyelinin inaktif kalmasını ve membran potansiyeline ulaşmamasını sağlar. Böylece, bir nöron, sürekli uyarıcı girdiler alsa bile, bir ateşleme çılgınlığına devam etmez.

Leaky Integrate-and-Fire(LIF) modeli en yaygın olanıdır. Spiking Sinir Ağları yoğun bir şekilde bağlı değildir.

LIF modelinde membran kapasitesi için Diferansiyel Denklem

Sıçrayan sinir ağında, nöronlar her yayılma döngüsünde deşarj olmazlar. Nöronların ateşlenmesi ancak zar potansiyeli belirli bir değere ulaştığında gerçekleşir. Bir nöron boşalır boşalmaz bir sinyal üretir. Bu sinyal diğer nöronlara ulaşır ve zar potansiyellerini değiştirir. Spike train, uzaysal-zamansal verileri işlemek için bize artan bir potansiyel sağlar.

Uzaysal karakteristik, nöronların yalnızca kendilerine yerel olan diğer nöronlara bağlı olduğunu gösterir. Bu nedenle, girdilerin işlenmesi, bir filtre kullanan Evrişimli Sinir Ağı'na benzer şekilde çalışır. Zamansal özellik, ani artışların belirli bir zamanda meydana geldiğinden bahseder. İkili kodlamada kaybolan bilgiler, sivri uçlardan geçici bilgi biçiminde alınır.

Bu, Recurrent Neural Networks'teki gibi hantal hale getirmeden, zamansal verileri doğal olarak işlememize izin verir. Spiking sinir ağlarının geleneksel yapay sinir ağlarından daha fazla hesaplama gücüne sahip olduğunu gösteren kanıtlarımız var.

Ortaya çıkabilecek bir soru, hesaplama açısından daha güçlü olmasına rağmen, Spiking Sinir Ağlarının neden geleneksel sinir ağları kadar yaygın olarak kullanılmadığıdır. SNN'leri sık kullanmamanın ana nedeni, eğitim algoritmalarının eksikliğidir. Hebbian öğrenme ve STDP gibi denetimsiz biyolojik öğrenme algoritmaları vardır, ancak SNN'ler için denetimli eğitim yöntemleri eksikliği vardır.

Ani trenler ayırt edilemediğinden, belirli zamansal bilgileri kaybetmeden gradyan inişi gibi geleneksel yöntemler kullanarak Spiking Sinir Ağlarını eğitemeyiz. Bu nedenle, Spiking Neural Network'ü gerçek hayat senaryolarında kullanmak için verimli bir denetimli öğrenme algoritması araştırmamız ve geliştirmemiz gerekiyor. Beynin nasıl bir anlayış kazandığını ve nöronlar arasında bilgiyi nasıl ilettiğini tam olarak bilmemiz gerektiğinden bu zor bir iştir.

Kaynak

Çivili Desenler

Bir başak dizisi, iki boyutlu bir zar potansiyeli grafiğini ve birden çok sivri uçlara sahip olan zamanı belirtir. Belli bir zaman aralığında boşalan nöron çok daha fazla bilgiyi tutabilir.

Çeşitli sivri desenler

Kaynak

Yukarıda gösterilen a,b,c ve d parametreleri Izhikevich model nöronlara aittir.

Toplama

Spiking Neural Network'ün geleceği oldukça belirsiz. SNN'ler, mevcut sinir ağlarının halefleri olarak anılır, ancak daha gidilecek çok yol var. Spiking Sinir Ağlarının uygulanması, çoğu pratik görevde hala zordur. SNN'lerin görüntü ve ses işleme alanında gerçek zamanlı uygulamaları vardır.

Ancak, bu alanlardaki uygulamaların sayısı az kalmaktadır. Spiking Sinir Ağları hakkındaki araştırma makaleleri çoğunlukla teoriktir. Bazı durumlarda, SNN'lerin performans analizi, tamamen bağlı bir sinir ağı altında gösterilir. Büyük bir kısmı hala keşfedilmemiş olduğundan, bu alanda çok geniş bir araştırma kapsamı vardır.

Bulutta Makine öğrenimi hakkında bilgi edinmek istiyorsanız, IIT- Madras ile işbirliği içinde olan upGrad, Bulutta Makine Öğrenimi programını sunar. Kurs sizi bu rol için gerekli becerilerle donatacak: matematik, veri tartışması, istatistik, programlama, bulutla ilgili beceriler ve ayrıca sizi hayallerinizdeki işi almaya hazırlayacaktır.