¿Será la IA la némesis de las 'noticias falsas'?

La difusión deliberada de noticias inexactas para sembrar el pánico y la confusión ha sido la ruina del intercambio excesivo de información en los últimos cinco años. Desde crear sesgos políticos para cambiar los resultados de las elecciones hasta causar pánico en el mundo durante la pandemia de COVID-19, las noticias falsas tienen un impacto duradero en los problemas sociales y políticos.

Existe una necesidad creciente de tener un némesis fuerte contra las noticias falsas. Las herramientas sofisticadas de IA se han estado intensificando para ejecutar algoritmos de verificación de hechos para ofrecer noticias auténticas e información confiable al mundo. Pero, ¿serán capaces de eliminar las noticias falsas por completo? Esta es una pregunta con la que los científicos de datos todavía están lidiando.

Introducción

2019 fue un año lleno de acontecimientos para la India con las elecciones generales, un ataque atroz contra el personal de seguridad en Jammu y Cachemira, la derogación del artículo 370 y las protestas nacionales contra la Ley de Enmienda de Ciudadanía que dominaron las noticias y los medios nacionales. Una distribución equitativa y extensa de información errónea estaba dando vueltas, gracias a WhatsApp, Twitter, Facebook y otros canales de redes sociales.

Un artículo en el Economic Times (enlace a: https://tinyurl.com/w86mclp ) marcó 2019 como 'el año de las noticias falsas' con equipos de verificación de datos alerta durante casi todo el año. El impacto de las fake news en la sociedad no se reduce a diferencias meramente ideológicas y políticas. En muchos casos, fue tan adverso como matar a las minorías y la violencia de las turbas contra ellas. Como el segundo usuario de Internet más alto del mundo (560 000 000 de personas), el consumo de las redes sociales en India como un intento por empoderarse digitalmente ha sido decepcionante en lo que respecta a las noticias falsas.

La situación no es muy diferente en la primera economía mundial y faro de progreso: los Estados Unidos de América. El telón de fondo de las elecciones democráticas en los EE. UU. ha estado plagado de puntos de vista hiperpartidistas debido a las noticias falsas, que juegan con los miedos y prejuicios de los ciudadanos. Se cree ampliamente que los planes y el comportamiento de votación de las personas se vieron gravemente alterados en las elecciones presidenciales de Estados Unidos de 2016.

No hace falta decir que el contenido inventado y su naturaleza persuasiva pueden ser una amenaza real para la sociedad y necesita un némesis fuerte que pueda combatirlo persistentemente.

Creación de noticias falsas.

Hubo un tiempo en que los periodistas y los medios de comunicación solían ser las principales fuentes de información y tenían que verificar las fuentes y la información antes de publicarla. Pero en el intento de proporcionar noticias las 24 horas del día, los 7 días de la semana, este no es el caso ahora. Las fábricas de propaganda trabajan horas extras para llenar los sistemas con contenido que suena creíble pero no auténtico.

¿Cómo se crean noticias políticas, culturales y científicas falsas en proporciones tan grandes? Desafortunadamente, la Inteligencia Artificial (IA) tiene un papel importante que desempeñar en esto. Las herramientas de inteligencia artificial se utilizan para llenar artículos con un tono creíble para estimular la viralidad. A mediados de 2019, un artículo en la BBC (enlace a: https://tinyurl.com/yxfsqzwe ) informó sobre un generador de texto, construido por la firma de investigación OpenAI, que fácilmente podría crear noticias falsas y spam abusivo en las redes sociales.

Su modelo, GPT-2, creado sobre la base de ocho millones de páginas web, fue capaz de replicar el estilo y el tono del texto inicial, pero se consideró inseguro, debido a la posibilidad de sus aplicaciones maliciosas. El modelo se lanzó más tarde con menos parámetros, pero siguió siendo controvertido debido a la falta de intervención humana y verificaciones de hechos cruciales.

La creación de deepfakes (término acuñado por un usuario de Reddit en 2018), que hace referencia a videos y fotos manipulados que pueden superponer el físico y los rasgos faciales de una persona, es otra versión de las noticias falsas que pueden tener consecuencias drásticas. Desde la difusión de propaganda para incitar al odio y la violencia hasta la difamación de figuras públicas, las falsificaciones profundas han sido famosas en las noticias desde 2018. El software impulsado por IA puede crear, mejorar y alterar una gran cantidad de datos visuales en solo minutos para crear imágenes detalladas con diversas consecuencias. .

Difusores

Las personas se sienten naturalmente atraídas por los titulares que provocan clics y el contenido excitante. Dado el fácil acceso, las redes sociales son el mayor difusor de contenido falso. Aliados reacios a las noticias falsas, Facebook y Whatsapp se han convertido en las dos plataformas de redes sociales que dominan el acto de difundir contenido falso en el mundo. Hay más de 2400 millones de usuarios activos de Facebook en todo el mundo (alrededor de 336 millones en India).

Las estadísticas de usuarios activos de WhatsApp ascienden a 1600 millones en el mundo (alrededor de 300 millones en India). A pesar de los equipos de verificación de hechos y acciones como limitar los mensajes grupales, queda mucho por hacer para eliminar las noticias falsas.

Una de las últimas medidas tomadas por Facebook para reducir las noticias falsas, además de aumentar la verificación de hechos, es su colaboración con la Organización Mundial de la Salud (OMS) para combatir la información errónea relacionada con COVID. Facebook proporciona publicidad gratuita a la Organización Mundial de la Salud para que pueda difundir información auténtica a la amplia base de sus usuarios. Entre las muchas actualizaciones sobre este tema, el CEO de Facebook, Mark Zuckerberg, también anunció que la compañía está trabajando con los ministerios de salud nacionales y organizaciones globales para publicar información oportuna y precisa sobre el virus.

¿Es la IA la respuesta para luchar contra las noticias falsas?

La IA puede ser un arma de doble filo. Si bien se usa activamente para crear noticias, la intervención de la IA también puede ser útil para identificarlas y eliminarlas. La IA ahora se considera la piedra angular para separar lo falso de lo auténtico en el dominio de las noticias. Esto se debe a que la IA facilita el aprendizaje de comportamientos a través del reconocimiento de patrones. En los últimos años, se han desarrollado numerosos algoritmos para distinguir la diferencia entre el contenido humano y el generado por IA.

Su función principal es la detección de falsedades respaldada por tecnología de red neuronal, que puede resaltar las discrepancias en los artículos y determinar la credibilidad. Los algoritmos se desarrollan alimentándolos con artículos existentes de varios conjuntos de datos de noticias falsas, hechos de enormes bibliotecas de datos virtuales que contienen información y fuentes auténticas. Teóricamente, la IA puede explorar páginas web, sopesar hechos, predecir la reputación de la fuente al considerar aspectos como el nombre de dominio y la clasificación web de Alexa y descubrir palabras sensacionales para detectar noticias falsas.

Las herramientas analíticas impulsadas por IA también pueden incluir la clasificación de la postura para determinar si un titular está en conjunto con el cuerpo del artículo mediante el procesamiento del texto para analizar el estilo de escritura del autor y el uso de imágenes forenses para detectar modificaciones de Photoshop. Esto puede ayudar a resaltar anomalías e identificar noticias falsas y fotografías manipuladas.

Herramientas populares para identificar y combatir noticias falsas

Varias empresas han intentado combatir las noticias falsas en los últimos años. En los últimos esfuerzos para luchar contra el COVID-19, Facebook, Google, Twitter y YouTube se han unido para limitar y eliminar la información errónea sobre la pandemia del coronavirus e impulsar las pautas oficiales en sus plataformas.

Incluso antes de la urgencia de información auténtica a la luz de COVID-19, las empresas han estado trabajando para reducir la difusión sistemática de información inexacta y engañosa en Internet y las redes sociales. La plataforma de verificación de hechos con sede en India, MetaFact, utiliza IA para detectar y monitorear noticias falsas en tiempo real, analizando todos los datos que se generan en línea.

“MetaFact está construyendo un ecosistema autosostenible y fácil de usar para luchar contra las noticias falsas, la propaganda y la desinformación mediante el uso de inteligencia artificial, metadatos basados ​​en procesamiento de lenguaje natural (NLP) y una plataforma de distribución de información basada en conversaciones. Obtenga más información sobre cómo las redes sociales y otras industrias están utilizando la inteligencia artificial.

Nuestro objetivo es crear conciencia sobre las redes sociales en las comunidades y ayudar a educar a la próxima generación de profesionales mediante el uso de programas de alfabetización en medios digitales con un fuerte enfoque en el mundo en desarrollo”, dice el sitio web, que muestra sus historias verificadas de manera destacada. Otras plataformas como BOOM y Check4Spam operan en el mismo dominio, verificando publicaciones en redes sociales para verificar historias y etiquetas que pueden difundir información errónea.

A nivel mundial, empresas como Spike, Hoaxy y CrowdTangle también monitorean el contenido, cubriendo cantidades colosales de datos para detectar anomalías. Incluso predicen qué generará más compromiso y lo monitorean de cerca. Una empresa llamada Pheme ha dado un salto tecnológico para leer la veracidad del contenido generado por los usuarios y en línea. El gigante de contenido y tecnología Google Trends demuestra su valía al observar las búsquedas y detectar anomalías. Hay una serie de otras herramientas que han encontrado resonancia con las emisoras para ofrecer contenido libre de falsificaciones.

Futuro de las noticias falsas

Evaluar la legitimidad de las noticias cuando son 'generadas por máquinas' por IA es solo el primer paso para eliminarlas. Dado que las herramientas como el autocompletado, el resumen de texto, etc. son ampliamente utilizadas tanto por emisoras como por editores confiables, es necesario que haya más controles para identificar y eliminar noticias falsas.

Los expertos siguen teniendo esperanzas en el futuro, donde cada pieza de contenido será verificada por tecnologías de inteligencia artificial en tiempo real antes de su difusión. La creciente conciencia sobre las noticias falsas es otra razón por la que sienten que las personas se resistirán a la información que no es auténtica por naturaleza. Con una combinación de herramientas de inteligencia artificial más sofisticadas y conciencia, es de esperar que haya menos noticias falsas que afecten al mundo.