Yapay Zeka 'Sahte Haber'in Düşmanı mı Olacak?

Panik ve kafa karışıklığını yaymak için yanlış haberlerin kasıtlı olarak yayılması, son beş yılda aşırı bilgi paylaşımının baş belası oldu. Seçim sonuçlarını değiştirmek için siyasi önyargı oluşturmaktan COVID-19 salgını sırasında dünyada paniğe neden olmaya kadar, sahte haberlerin sosyal ve siyasi meseleler üzerinde kalıcı bir etkisi var.

Sahte haberlere karşı güçlü bir düşmana sahip olmak için artan bir ihtiyaç var. Gelişmiş AI araçları, dünyaya gerçek haberler ve güvenilir bilgiler sunmak için gerçek kontrol algoritmaları çalıştırmak için hızlanıyor. Ancak sahte haberleri tamamen ortadan kaldırabilecekler mi? Bu, veri bilimcilerinin hala boğuştuğu bir sorudur.

Tanıtım

2019, Hindistan için genel seçimler, Jammu ve Keşmir'deki güvenlik personeline yönelik korkunç bir saldırı, 370 . WhatsApp, Twitter, Facebook ve diğer sosyal medya kanalları sayesinde eşit ve kapsamlı bir yanlış bilgi dağılımı dönüyordu.

Economic Times'taki bir makale (Link: https://tinyurl.com/w86mclp ), 2019'u neredeyse tüm yıl boyunca gerçekleri kontrol eden ekiplerle 'sahte haberlerin yılı' olarak işaretledi. Sahte haberlerin toplum üzerindeki etkisi sadece ideolojik ve politik farklılıklar anlamına gelmiyordu. Çoğu durumda, azınlıkları öldürmek ve onlara karşı mafya şiddeti kadar olumsuzdu. Dünyanın ikinci en yüksek İnternet kullanıcısı (560.000.000 kişi) olarak, Hindistan'ın dijital olarak güçlenmek amacıyla sosyal medya tüketimi, sahte haberler söz konusu olduğunda anticlimactic olmuştur.

Dünyanın önde gelen ekonomisi ve ilerlemenin feneri olan Amerika Birleşik Devletleri'nde de durum pek farklı değil. ABD'deki demokratik seçimlerin zemini, sahte haberler, vatandaşların korkuları ve önyargıları ile oynama nedeniyle aşırı partizan görüşlerle dolu. 2016 Amerika Birleşik Devletleri başkanlık seçimlerinde insanların oy verme planlarının ve davranışlarının ciddi şekilde değiştirildiğine inanılıyor.

Söylemeye gerek yok, uydurma içerik ve ikna edici doğası toplum için gerçek bir tehdit olabilir ve bununla ısrarla savaşabilecek güçlü bir düşmana ihtiyaç duyar.

Sahte haber oluşturma

Bir zamanlar gazetecilerin ve medya kuruluşlarının birincil bilgi kaynakları olduğu ve kaynakları ve bilgileri yayınlamadan önce doğrulamaları gerekiyordu. Ancak 7 gün 24 saat haber verme teklifinde, şimdi durum böyle değil. Propaganda fabrikaları, sistemleri inandırıcı ama gerçek olmayan içerikle doldurmak için fazla mesai yapıyor.

Sahte siyasi, kültürel ve bilimsel haberler nasıl bu kadar büyük oranlarda üretiliyor? Ne yazık ki, Yapay Zekanın (AI) bunda oynayacak büyük bir rolü var. Viralliği teşvik etmek için makaleleri güvenilir bir tonla doldurmak için AI araçları kullanılıyor. 2019'un ortalarında, BBC'deki bir makale (Link: https://tinyurl.com/yxfsqzwe ), araştırma firması OpenAI tarafından inşa edilen ve sosyal medyada kolayca sahte haberler ve kötüye kullanım amaçlı spam oluşturabilen bir metin oluşturucu hakkında bilgi verdi.

Sekiz milyon web sayfası temelinde oluşturulan modelleri GPT-2, ilk metnin stilini ve tonunu kopyalayabildi, ancak kötü amaçlı uygulama olasılığı nedeniyle güvenli olmadığı kabul edildi. Model daha sonra daha az parametre ile piyasaya sürüldü, ancak insan müdahalesi ve önemli gerçek kontrolleri olmaması nedeniyle tartışmalı kaldı.

Bir kişinin fiziksel ve yüz özelliklerini üst üste getirebilen, üzerinde oynanmış video ve fotoğraflara atıfta bulunan deepfake'lerin (2018'de bir Reddit kullanıcısı tarafından ortaya atılan bir terim) oluşturulması, sahte haberlerin ciddi sonuçlara yol açabilecek başka bir versiyonudur. Nefreti ve şiddeti kışkırtmak için propaganda yapmaktan, kamuya mal olmuş kişileri kötülemeye kadar, derin sahtekarlıklar 2018'den beri haberlerde kötü bir üne sahip oldu. Yapay zeka destekli yazılımlar, çeşitli sonuçlara sahip ayrıntılı görüntüler oluşturmak için birkaç dakika içinde bir dizi görsel veri oluşturabilir, geliştirebilir ve değiştirebilir. .

yayıcılar

İnsanlar doğal olarak tıklama tuzağına düşüren başlıklara ve heyecan verici içeriklere çekilir. Kolay erişim göz önüne alındığında, sosyal medya yanlış içeriğin en büyük yayıcısıdır. Sahte haberlere gönülsüz müttefikler olan Facebook ve Whatsapp, dünyada yanlış içerik yayma eylemine hakim olan iki sosyal medya platformu haline geldi. Dünya çapında 2,4 milyardan fazla aktif Facebook kullanıcısı var (Hindistan'da yaklaşık 336 milyon).

Aktif WhatsApp kullanıcıları için istatistikler dünyada 1,6 milyardır (Hindistan'da yaklaşık 300 milyon). Gerçekleri kontrol eden ekiplere ve grup mesajlarını sınırlamak gibi eylemlere rağmen, sahte haberleri ortadan kaldırmak için yapılacak çok şey var.

Facebook'un gerçek kontrolünü hızlandırmak dışında sahte haberleri azaltmak için aldığı en son önlemlerden biri, COVID ile ilgili yanlış bilgilerle mücadele etmek için Dünya Sağlık Örgütü (WHO) ile yaptığı işbirliğidir. Facebook, gerçek bilgileri geniş kullanıcı tabanına yayabilmesi için Dünya Sağlık Örgütü'ne ücretsiz reklam sağlıyor. Bu konuyla ilgili birçok güncelleme arasında Facebook CEO'su Mark Zuckerberg, şirketin virüs hakkında zamanında ve doğru bilgiler yayınlamak için ulusal sağlık bakanlıkları ve küresel kuruluşlarla birlikte çalıştığını da duyurdu.

Yapay zeka sahte haberlerle savaşmanın cevabı mı?

AI iki ucu keskin bir kılıç olabilir. AI müdahalesi, haber oluşturmak için aktif olarak kullanılsa da, onu tanımlamada ve ortadan kaldırmada da yardımcı olabilir. AI artık haber alanındaki sahteyi gerçek olandan ayırmanın temel taşı olarak görülüyor. Bunun nedeni, AI'nın örüntü tanıma yoluyla davranışları öğrenmeyi kolaylaştırmasıdır. Son birkaç yılda, insan ve yapay zeka tarafından oluşturulan içerik arasındaki farkı ayırt etmek için çok sayıda algoritma geliştirildi.

Birincil işlevleri, makalelerdeki tutarsızlıkları vurgulayabilen ve güvenilirliği belirleyebilen sinir ağı teknolojisiyle desteklenen yanlışlık tespitidir. Algoritmalar, özgün bilgi ve kaynaklar içeren devasa sanal veri kitaplıklarından oluşan çeşitli sahte haber veri kümelerinden mevcut makaleleri besleyerek geliştirilir. Teorik olarak, AI web sayfalarını tarayabilir, gerçekleri tartabilir, alan adı ve Alexa web sıralaması gibi unsurları göz önünde bulundurarak kaynağın itibarını tahmin edebilir ve sahte haberleri tespit etmek için sansasyonel kelimeler keşfedebilir.

Yapay zeka destekli analitik araçlar ayrıca, yazarın yazı stilini analiz etmek için metni işleyerek ve Photoshop değişikliklerini tespit etmek için adli görüntü kullanarak bir başlığın makale gövdesiyle uyumlu olup olmadığını belirlemek için duruş sınıflandırması içerebilir. Bu, anormallikleri vurgulamaya ve sahte haberleri ve üzerinde oynanmış fotoğrafları belirlemeye yardımcı olabilir.

Sahte haberleri belirlemek ve bunlarla mücadele etmek için popüler araçlar

Birkaç şirket, son birkaç yılda sahte haberlerle mücadele etmeye çalıştı. COVID-19 ile mücadeleye yönelik son çabalarda, Facebook, Google, Twitter ve YouTube, koronavirüs pandemisi ile ilgili yanlış bilgileri sınırlamak ve ortadan kaldırmak ve platformlarında resmi yönergeleri zorlamak için bir araya geldi.

COVID-19 ışığında gerçek bilgilerin aciliyetinden önce bile şirketler, İnternet ve sosyal medyada yanlış ve yanıltıcı bilgilerin sistematik olarak yayılmasını engellemek için çalışıyorlar. Hindistan merkezli bilgi kontrol platformu MetaFact, çevrimiçi olarak oluşturulan tüm verileri eleyerek sahte haberleri gerçek zamanlı olarak tespit etmek ve izlemek için yapay zeka kullanır.

“MetaFact, Yapay Zeka, Doğal Dil İşleme (NLP) destekli meta veriler ve konuşmaya dayalı bir bilgi dağıtım platformu kullanarak sahte haberler, propaganda ve yanlış bilgilerle mücadele etmek için kendi kendine sürdürülebilir, kullanıcı dostu bir ekosistem inşa ediyor. Sosyal medyanın ve diğer endüstrilerin yapay zekayı nasıl kullandığını öğrenin.

Topluluklar arasında sosyal medya farkındalığı oluşturmayı ve gelişen dünyaya güçlü bir şekilde odaklanarak dijital medya okuryazarlığı programlarının kullanımı yoluyla yeni nesil profesyonellerin eğitilmesine yardımcı olmayı amaçlıyoruz” diyor. BOOM ve Check4Spam gibi diğer platformlar aynı etki alanında çalışır ve yanlış bilgi yayabilecek hikayeleri ve etiketleri kontrol etmek için sosyal medya gönderilerini doğrular.

Küresel olarak, Spike, Hoaxy ve CrowdTangle gibi şirketler de anormallikleri kontrol etmek için muazzam miktarda veriyi kapsayan içeriği izler. Hatta daha fazla etkileşimi neyin tetikleyeceğini tahmin ediyor ve yakından izliyorlar. Pheme adlı bir şirket, kullanıcı tarafından oluşturulan ve çevrimiçi içeriğin doğruluğunu okumak için bir teknoloji atılımı yaptı. İçerik ve teknoloji devi Google Trends, aramaları gözlemleyerek ve anormallikleri seçerek değerini kanıtlıyor. Sahte olmayan içerik sunmak için yayıncılarla rezonans bulan bir dizi başka araç var.

Sahte haberlerin geleceği

AI tarafından 'makine tarafından oluşturulduğunda' haberlerin meşruluğunu değerlendirmek, onu ortadan kaldırmaya yönelik yalnızca ilk adımdır. Otomatik tamamlama, metin özetleme vb. araçlar hem güvenilir yayıncılar hem de yayıncılar tarafından yaygın olarak kullanıldığından, sahte haberleri belirlemek ve kaldırmak için daha fazla kontrol yapılması gerekir.

Uzmanlar, her bir içeriğin yayımlanmadan önce gerçek zamanlı olarak AI teknolojileri tarafından doğrulanacağı gelecek konusunda umutlu olmaya devam ediyor. Sahte haberlerle ilgili artan farkındalık, insanların doğası gereği gerçek olmayan bilgilere direneceklerini düşünmelerinin bir başka nedenidir. Daha sofistike AI araçları ve farkındalığın bir kombinasyonu ile, umarım dünyayı etkileyen daha az sahte haber olacaktır.