Modern Yaşamda Dil Modellemenin Evrimi

Bir önceki yüzyılın ortalarında tasarlanan dil modelleme, modern hayattaki pratik uygulamalarla nasıl yapay zekanın ayrılmaz bir parçası haline geldi? Yapay zeka ve hesaplamalı dilbilimin bu karışımı nasıl dünyamızın çekirdeği haline geldi? Doğal dil işleme (NLP) kavramı ve sohbet robotları, sesli komutlar ve Google Asistan, Siri, Cortana ve Amazon'un Alexa'sı gibi sanal asistanlar gibi popüler uygulamaları üzerinde bir yolculuk yapalım.

NLP nedir?

Basit bir deyişle, NLP bilgisayarların insan dilini anlamasına, yorumlamasına ve kullanmasına yardımcı olur ve ayrıca daha incelikli bir şekilde eksiksiz iletişime izin verir. NLP, dilbilim ve bilgisayar bilimi dahil olmak üzere çeşitli disiplinlerden yararlanır ve bilgisayarlara metin okuma, konuşmaları duyma ve büyük miktarda veriyi yorumlama yeteneği sağlar. 1950'lerden bu yana kapsamlı bir şekilde gelişti ve günlük hayatımızın bir parçası haline geldi. Zamanı, insan çabasını ve maliyeti azaltarak ortak sorunlara standart ve yenilikçi çözümler sunmaya devam etmesi muhtemeldir.

NLP'nin Tarihçesi

Teorik bir bilgisayar bilimi ve yapay zeka uzmanı olan Alan Turing , ilk olarak 1950'lerde doğal dil işleme fikrini tasarladı. Bir makine testini açıklayan bir makale yazdı ve burada bir makinenin bir teleprinter kullanarak bir konuşmanın parçası olabildiğini, o zaman bir insanı nasıl taklit edeceğinin de öğretilebileceğini belirtti. Tekrarlanan kalıplar, bir makinenin bu eylemi öğrenmesine izin verecek ve sonrasında düşünebildiği kabul edilebilecektir.

1954'te Georgetown Üniversitesi ve IBM tarafından yapılan bir deney, altı Rusça cümleyi otomatik olarak İngilizce'ye çevirmeye çalıştı ve kısa sürede makine çevirisinin mümkün olabileceğine dair umut tohumlarını ekti. Ancak, ilk istatistiksel makine çeviri sistemi (istatistiksel bir model aracılığıyla üretilen çeviriler) 1980'lerin sonlarına kadar geliştirilmedi. 1950'ler-80'ler döneminde, diğer doğal dil programlarının oluşturulmasında ilerleme kaydedildi.

Bunlardan ELIZA , 1960'ların ortalarında merkez sahneyi aldı. Bu, Joseph Weizenbaum tarafından MIT Yapay Zeka Laboratuvarı'nda insanlar ve makineler arasındaki iletişimin yüzeyselliğini aydınlatmak için geliştirilen bir bilgisayar programıydı. Makinelerle iletişimin olayları bağlamsallaştırmayı içermediğini ve yalnızca bir senaryoyu takip ettiğini ortaya çıkardı. Yine de kullanıcılar programa insani duygular yükledi. ELIZA, zamanla gelişen ve şimdi sohbet robotları ( chatterbot olarak da bilinir) olarak bildiğimiz şeyin yolunu açtı .

1970'ler, bilgisayar tarafından anlaşılabilir verilere yapılandırılmış gerçek dünya bilgisi yaratmanın on yılıydı ve mevcut teknoloji üzerinde geliştirilmiş bir dizi program. Kayda değer olanlar arasında PARRY (duygusal tepkilere sahip 1972 tarihli bir sohbet robotu) ve daha sonra, Racter (1984'te yaratılan şakacı bir sohbet robotu) ve Jabberwacky (1988'de tasarlanan ve bir insan konuşmasını eğlenceli bir şekilde simüle etmeyi amaçlayan bir sohbet robotu) vardı.

1980'ler, dil işleme için makine öğrenimi algoritmalarının kullanıldığı doğal dil işlemede devrim niteliğindeydi. Hesaplama gücünde bir artış ve dilbilimin kademeli olarak basitleştirilmesi vardı. Karar ağaçları, konuşma etiketleme ve istatistiksel modellere odaklanma, önbellek dili modelleri ve konuşma tanıma ile sonuçlar daha güvenilir hale geldi.

Makine öğreniminin ilk başarıları, tüm hükümet işlemlerinin Kanada ve Avrupa Birliği'nin tüm resmi dillerine çevrilmesi de dahil olmak üzere, daha karmaşık istatistiksel modellerin art arda geliştirildiği IBM Research'e atfedilebilir.

21. yüzyıl , en son sonuçları elde etmek için temsili öğrenme (otomatik özellik öğrenme) ve derin sinir ağı tarzı makine öğrenme yöntemlerini getirdi . Bu, bir kelime dizisini tahmin etmek için yapay bir sinir ağı kullanan ve tüm cümleyi tek bir entegre modelde modelleyen nöral makine çevirisini (NMT) doğuran, anlambilimi ve daha üst düzey soruları ve cevapları yakalamak için kelime yerleştirmelerini içerir .

Son yirmi yılda, NLP daha fazla sinirsel dil modeli, çok görevli öğrenme, kelime yerleştirme, daha gelişmiş sinir ağları, diziden diziye modeller, hafıza tabanlı ağlar ve önceden eğitilmiş dil modelleri keşfetti. Bu ilerleme, akıllı klavyeler ve makineler tarafından konuşma destekli yardıma yönelik e-posta yanıt önerileri gibi uygulamalara yol açmıştır.

Artık, Doğal Dil İşleme'den (NLP) Doğal Dil Anlama'ya (NLU) sürekli bir geçiş var, burada makinelerle insani bir duygusal bağa sahip bir kullanıcı sapkın olmayacak.

İstatistiksel NLP'ye Karşı Kodlama

Başlangıçta, dil işleme sistemleri, esas olarak dilbilgisi yazarak veya buluşsal kurallar geliştirerek, elle kodlama ile tasarlandı. Bununla birlikte, 1980'lerin ortalarında, bu, çok sayıda gerçek dünya örneğinin analizi yoluyla bu kuralları otomatik olarak öğrenmek için istatistiksel çıkarımı kullanan makine öğrenimine dönüştü. Bu, dil işleme sistemlerinin hızında ve anlaşılmasında gözle görülür bir farkla sonuçlandı.

Makine öğrenimi sırasında kullanılan öğrenme prosedürleri otomatik olarak en yaygın durumlara odaklandı. Algoritmalar aracılığıyla hatalı girdileri işaret edip düzeltebilir, yanlış yazılmış sözcükleri ve daha karmaşık görevleri gerçekleştirebilirler. Bu bir oyun değiştiriciydi ve NLP'nin küresel ölçekte yaygın ve başarılı bir şekilde kullanılabileceği bir senaryoya ulaştı.

Dilbilgisi tümevarım, lemmatizasyon, morfolojik bölümleme, konuşma etiketleme, ayrıştırma, cümle kırma, kök çıkarma, kelime bölümleme ve terminoloji çıkarmanın NLP'yi kullanmak için sağlam platformlar oluşturmak için kullanılabileceği bir noktaya ulaşmak uzun bir yoldu.

Gerçek Hayatta NLP Uygulamaları

1. Makine Çevirisi

NLP, özellikle son on yılda hayatımızda birçok temas noktası geliştirdi. En popüler uygulamalardan biri , en iyi Google Translate olarak bilinen makine çevirisidir . Google Çeviri, SMT'ye (istatistiksel modeller temelinde oluşturulan makine çevirisi anlamına gelen istatistiksel makine çevirisi) dayanarak, kelime kelime çeviri yapmaz, ancak sözcükleri tutarlı bir şekilde çevirmek için anlamsal değer atar.

Bununla birlikte, insan dilindeki doğal belirsizlik ve esneklik nedeniyle, bu tür bir çeviri tamamen doğru değildir. Bununla birlikte, Google Çeviri seyahat ederken çeviri için hala en popüler araçtır ve dil boşluğunu doldurur.

2. Konuşma Tanıma

NLP'nin bir başka örnek ve ilişkilendirilebilir örneği. Konuşma tanıma yazılım programları, mobil telefon, ev otomasyonu, eller serbest bilgi işlem, sanal yardım, video oyunları ve daha pek çok alanda kullanılabilen insan sesinin kodunun çözülmesine olanak tanır. Bunun günlük hayatımızda en popüler kullanımı Google Assistant, Siri ve Amazon'un Alexa'sının ortaya çıkmasıyla geldi .

Bu nasıl çalışıyor? Google Asistan söz konusu olduğunda, konuşma Gizli Markov Modeli (HMM) sistemi kullanılarak metne dönüştürülür. HMM sistemi, 10–20 milisaniyelik konuşulan kelimelerin kliplerini dinler ve fonemleri arar ve bunları önceden kaydedilmiş konuşmayla karşılaştırır. Anlama sürecini, dil ve bağlamın belirlenmesi takip eder.

Sistem, her kelimeyi konuşmanın kendi bölümüne (isim, fiil, vb.) ayırır ve ardından siparişlerinizin bağlamını belirler. Ardından bu komutu sınıflandırır ve bir görevi etkin bir şekilde yürütür. Alexa ise biraz farklı çalışıyor.

Ne zaman bir şey söylesen, kelimeler deşifre edilmek üzere Amazon sunucusuna geri döner. Sistem, bir komutu değerlendirmek ve yürütmek için büyük bir kelime ve talimat veritabanına dayanır. Örneğin, Alexa 'pizza' veya 'akşam yemeği' gibi kelimeleri algılarsa, bir yemek uygulaması açar veya 'oynat' kelimesini algılarsa müzik seçeneklerine bağlanır.

3. Duygu Analizi

NLP hakkında konuşurken, duygu analizi göz ardı edilemez. Bu aynı zamanda insanların fikirlerinin eğilimini ölçen fikir madenciliği veya duygu AI olarak da bilinir. Metindeki öznel bilgileri tanımlamayı içerir ve bir takım uygulamaları vardır. Marka izleme ve itibar yönetimi, endüstrilerde duygu analizinin en yaygın kullanımıdır.

İşletmelerin bir marka algısını takip etmesine, trendleri belirlemesine, etkileyiciler ve etkilerine kulak vermesine, bir ürün veya hizmetin incelemelerini izlemesine, yeni fikirler ve varyasyonlar için araştırma yapmasına ve buna göre pazarlama stratejilerini değiştirmesine olanak tanır. Marka algısı ve müşteri görüşü dışında, pazar araştırması da duygu analizi uygulamasının öne çıkan bir diğer alanıdır.

Kullanıcı tarafından oluşturulan içeriğin (incelemeler), haber makalelerinin, rakip içeriğin oluşturulması ve izlenmesi ve pazar istihbaratındaki boşluğun doldurulması genellikle duygu analizinin alt kümeleridir. İtibar yönetimi ve ürün analizi, endüstriler arasında kullanılan bir başka duygu analizi uygulamasıdır. Bununla markalar, ürünleri hakkında ayrıntılı geri bildirimler alabilirler.

En-boy temelli duygu analizi, markaların duygu analizini verimli bir şekilde kullanabileceği başka bir yoldur. Görünüm tabanlı analiz yaklaşımı, müşteri geri bildirimleriyle ilgili en uygun noktaların çıkarılmasını sağlar. Bu zengin bilgi ve analizler ışığında markalar ince ayar yapabilir, yenileyebilir ve iletişimi yönlendirebilir ve buna göre ürün veya hizmette değişiklik yapabilir.

4. Sanal Asistanlar

Daha olgun sohbet robotlarının yardımıyla sanal yardım, tüketicilerle hızlı ve etkili iletişime yönelik modern bir yaklaşımdır. Herhangi bir beceri gerektirmeyen, düşük öncelikli ancak yüksek cirolu görevler, chatbotlar yardımıyla kolaylıkla sağlanabilmektedir. Yakın gelecekte müşteriye kişiselleştirilmiş yardım sunacak akıllı sohbet robotlarının hızlı gelişimine doğru ilerlerken, kullanıcılar ve geliştiriciler arasında artan bir güven ve popülerlik var .

Aslında, sohbet robotlarının uygulanması, pazarlama uzmanlarını sanal yardımı daha verimli kullanmaya iterek, sohbet robotu programlarına uyan yeni reklam ve iletişim biçimleri yarattı.

5. Sağlık

Tıp dünyasında, AI destekli birincil bakım hizmeti, birçok NLP görevini çözmeyi içerir. NLP'nin tıpta mevcut kullanım örneklerinden bazıları, büyük miktarda bilgiden semptomlar, hastalıklar veya tedaviler dahil olmak üzere farklı tıbbi varlıkların çıkarılmasını içerir.

Yapılandırılmamış tıbbi metinlerden kalıplar ve ilişkiler çizmeye yönelik bilgi keşfi, tıbbi bakım uzmanları için son derece yararlıdır. NLP bilgi çekmek için kullanılabildiği kadar, ilgili yanıtları iletmek ve tıbbi olarak bilinçli bir iletişim sistemi için otomatik tamamlama işlevselliği oluşturmak için de kullanılabilir.

6. E-posta Sistemi

2017'de Google , e-postalara çok az çabayla yanıt vermek için makine öğrenimi tabanlı becerisi olan SmartReply'yi kullanıma sundu . Daha hızlı yazma, tahmine dayalı yazma, yazım denetimi ve dil bilgisi denetimi bunun bir parçasıdır. Akıllı Yanıt, gelen bir mesajın metnini tarar ve kullanıcının ince ayar yapıp gönderebileceği üç temel yanıt önerir, böylece basit veya sıradan yanıtlar için harcanan süreyi azaltır.

Bu tamamen mesajları analiz etmek ve onları anlamlarını temsil eden sayısal kodlara dönüştürmek için eğitilmiş sinir ağlarına dayanmaktadır. E-posta sistemi içinde, e-posta sınıflandırması ve SPAM tespiti, NLP'nin hayatımızı kolaylaştırdığı diğer yöntemlerdir.

7. Arama davranışı

Arama davranışı , günlük olarak karşılaştığımız başka bir NLP destekli yöndür. Arama motorları, benzer arama davranışlarına veya kullanıcı amacına göre alakalı sonuçları göstermek için NLP'yi kullanır, böylece ortalama bir kullanıcı ihtiyaç duyduğu şeyi kolaylıkla bulur. Örneğin, Google, yalnızca bir kişinin sorgusuna yazmaya başladığında hangi popüler aramaların uygulanabileceğini tahmin etmekle kalmaz, aynı zamanda alakalı teğetsel sonuçları gösteren kapsamlı bir şekilde resmin tamamına bakar.

8. Dijital Telefon Görüşmeleri

Sesli bir pazarlama mesajı sizinle konuşurken, dijital telefon görüşmeleri günün rahatsız edici bir parçası gibi görünebilir, ancak bu, çok sayıda insana ulaşmak ve sorunları hızlı bir şekilde çözmek için harika bir araçtır. NLP, bir tüketiciden bilgi toplayabilen ve bilgi aktarma ve randevu alma gibi basit görevleri gerçekleştirebilen, insan sesine yakın bilgisayar tarafından oluşturulan bir dil sağlar.

9. Akıllı Evler

Kapıları kilitleme, camları aşağı indirme veya belirli müzikleri çalma gibi araç içi sesli komutlar, NLP'nin otomobil endüstrisinde etkinleştirdiği işlevlerden sadece birkaçıdır . Otomasyon alanında, ev otomasyonu aynı zamanda, 'akıllı evlerin' merkezinde panjurları, ışıkları ve aletleri kapatmak veya açmak için sesli komutların yer aldığı NLP ile yakından bağlantılıdır .

Bunlar hayatımızda karşılaştığımız birçok NLP kullanımından sadece birkaçı. Temas noktaları iş, kişisel gelişim, İK, satış, öğretim, tıp, telekomünikasyon, otomobiller, altyapı, koçluk ve daha birçok dünyadır.

Sıradaki ne?

NLP, büyük veri ve derin öğrenme ile karşılaştırıldığında henüz olgunlaşmamış olsa da, müşteri hizmetlerinin geleceği olarak kabul ediliyor. Verileri daha kullanıcı dostu ve sohbete dayalı hale getirmeyi vaat ederek, onu iş analitiğinin çadır direği haline getiriyor. Örneğin, sohbet robotları, karmaşık ve uzun biçimli istekleri gerçek zamanlı olarak çözme yeteneği ile daha da karmaşık ve sağlıklı olacaktır.

Mevcut NLP yetenekleriyle ilgili olarak değişmesi muhtemel olan şey, dilin nüanslı anlayışıdır. Geleceğin NLP'si, dilin inceliklerini ve tonunu anlamayı sağlayacak ve yıllık raporlar, çağrı dökümleri, yatırımcıya duyarlı iletişimler veya yasal ve uyumluluk belgeleri alanında olabilecek faydalı bilgi ve anlayışlar sağlayacaktır.

NLP'nin genişletilmiş kullanımı, günlük kullanımdaki temas noktaları ile robotik, sağlık, finansal hizmetler, otomobil ve altyapı endüstrilerinde de görülebilir. Geleceğin NLP'si, dünya çapında işletmeleri geliştirmek ve büyütmek için analitiğin özü olacaktır.

Doğal dil işleme hakkında daha fazla bilgi edinmek istiyorsanız, çalışan profesyoneller için tasarlanmış ve 30'dan fazla vaka çalışması ve ödevi, 25'ten fazla endüstri mentorluğu oturumu, 5'ten fazla uygulamalı uygulamalı Makine Öğrenimi ve Yapay Zeka programında PG Diplomamıza göz atın. capstone projeleri, en iyi firmalarla 450 saatten fazla sıkı eğitim ve işe yerleştirme yardımı.