L'IA sera-t-elle la Némésis des "Fake News" ?

La diffusion délibérée de nouvelles inexactes pour semer la panique et la confusion a été le fléau du partage excessif d'informations au cours des cinq dernières années. Qu'il s'agisse de créer un parti pris politique afin de faire basculer les résultats des élections ou de semer la panique dans le monde pendant la pandémie de COVID-19, les fausses nouvelles ont un impact permanent sur les questions sociales et politiques.

Il est de plus en plus nécessaire d'avoir un ennemi fort contre les fausses nouvelles. Des outils d'IA sophistiqués se sont intensifiés pour exécuter des algorithmes de vérification des faits afin d'offrir des nouvelles authentiques et des informations fiables au monde. Mais seront-ils capables d'éliminer complètement les fausses nouvelles ? C'est une question à laquelle les data scientists sont encore confrontés.

introduction

2019 a été une année mouvementée pour l'Inde avec les élections générales, une attaque épouvantable contre le personnel de sécurité au Jammu-et-Cachemire, l'abrogation de l'article 370 et les manifestations nationales contre la loi sur la citoyenneté qui ont dominé les nouvelles et les médias nationaux. Une diffusion égale et étendue de la désinformation circulait, grâce à WhatsApp, Twitter, Facebook et d'autres canaux de médias sociaux.

Un article de l'Economic Times (Lien vers : https://tinyurl.com/w86mclp ) a marqué 2019 comme "l'année des fausses nouvelles" avec des équipes de vérification des faits sur leurs gardes pendant presque toute l'année. L'impact des fausses informations sur la société ne se résume pas à de simples divergences idéologiques et politiques. Dans de nombreux cas, c'était aussi néfaste que le meurtre de minorités et la violence de la foule à leur encontre. En tant que deuxième plus grand utilisateur d'Internet au monde (560 000 000 de personnes), la consommation par l'Inde des médias sociaux dans le but de s'autonomiser numériquement a été décevante en ce qui concerne les fausses informations.

La situation n'est pas trop différente dans la première économie mondiale et phare du progrès : les États-Unis d'Amérique. La toile de fond des élections démocratiques aux États-Unis a été marquée par des opinions hyper partisanes en raison de fausses nouvelles, jouant sur les peurs et les préjugés des citoyens. Il est largement admis que les plans de vote et le comportement des gens ont été gravement modifiés lors de l'élection présidentielle américaine de 2016.

Inutile de dire que le contenu fabriqué et sa nature persuasive peuvent constituer une menace réelle pour la société et ont besoin d'un puissant ennemi capable de le combattre de manière persistante.

Création de fake news

Il fut un temps où les journalistes et les médias étaient les principales sources d'information, et ils devaient vérifier les sources et les informations avant de les publier. Mais dans le but de fournir des reportages 24 heures sur 24, 7 jours sur 7, ce n'est plus le cas actuellement. Les moulins à propagande font des heures supplémentaires pour remplir les systèmes avec un contenu crédible mais inauthentique.

Comment se fait-il que de fausses nouvelles politiques, culturelles et scientifiques soient créées dans de si grandes proportions ? Malheureusement, l'intelligence artificielle (IA) a un rôle important à jouer à cet égard. Des outils d'intelligence artificielle sont utilisés pour remplir des articles avec un ton crédible afin de stimuler la viralité. À la mi-2019, un article de la BBC (Lien vers : https://tinyurl.com/yxfsqzwe ) a fait état d'un générateur de texte, construit par la société de recherche OpenAI, qui pourrait facilement créer de fausses nouvelles et du spam abusif sur les réseaux sociaux.

Leur modèle, GPT-2, créé sur la base de huit millions de pages Web, était capable de reproduire le style et le ton du texte initial mais a été jugé dangereux, en raison de la possibilité de ses applications malveillantes. Le modèle a ensuite été publié avec moins de paramètres, mais est resté controversé en raison du manque d'intervention humaine et de vérifications cruciales des faits.

La création de deepfakes (terme inventé par un utilisateur de Reddit en 2018), qui fait référence à des vidéos et des photos trafiquées pouvant superposer le physique et les traits du visage d'une personne, est une autre version de fake news qui peut avoir des conséquences dramatiques. De la diffusion de la propagande afin d'inciter à la haine et à la violence à la calomnie des personnalités publiques, les deepfakes sont tristement célèbres dans l'actualité depuis 2018. Les logiciels alimentés par l'IA peuvent créer, améliorer et modifier une multitude de données visuelles en quelques minutes pour créer des images détaillées aux conséquences variées. .

Diffuseurs

Les gens sont naturellement attirés par les titres appâtés au clic et le contenu émouvant. Compte tenu de la facilité d'accès, les médias sociaux sont le plus grand diffuseur de faux contenus. Alliés récalcitrants aux fake news, Facebook et Whatsapp sont devenus les deux plateformes de médias sociaux qui dominent l'acte de diffusion de faux contenus dans le monde. Il y a plus de 2,4 milliards d'utilisateurs actifs de Facebook dans le monde (environ 336 millions en Inde).

Les statistiques des utilisateurs actifs de WhatsApp s'élèvent à 1,6 milliard dans le monde (environ 300 millions en Inde). Malgré les équipes de vérification des faits et des actions telles que la limitation des messages de groupe, il reste beaucoup à faire pour éliminer les fausses nouvelles.

L'une des dernières mesures prises par Facebook pour limiter les fausses nouvelles, outre l'intensification de la vérification des faits, est sa collaboration avec l'Organisation mondiale de la santé (OMS) pour lutter contre la désinformation liée au COVID. Facebook fournit de la publicité gratuite à l'Organisation mondiale de la santé afin qu'elle puisse diffuser des informations authentiques à la large base de ses utilisateurs. Parmi les nombreuses mises à jour concernant ce sujet, le PDG de Facebook, Mark Zuckerberg, a également annoncé que la société travaillait avec les ministères nationaux de la santé et les organisations mondiales pour publier des informations opportunes et précises sur le virus.

L'IA est-elle la solution pour lutter contre les fake news ?

L'IA peut être une épée à double tranchant. Bien qu'elle soit activement utilisée pour créer des informations, l'intervention de l'IA peut également être utile pour l'identifier et l'éliminer. L'IA est désormais considérée comme la pierre angulaire pour séparer le faux de l'authentique dans le domaine de l'information. En effet, l'IA facilite l'apprentissage des comportements grâce à la reconnaissance de formes. Au cours des dernières années, de nombreux algorithmes se sont développés pour faire la différence entre le contenu généré par l'homme et celui généré par l'IA.

Leur fonction principale est la détection des mensonges soutenue par la technologie des réseaux neuronaux, qui peut mettre en évidence les divergences dans les articles et déterminer la crédibilité. Les algorithmes sont développés en les alimentant en articles existants à partir de divers ensembles de données de fausses nouvelles, constitués d'énormes bibliothèques de données virtuelles contenant des informations et des sources authentiques. Théoriquement, l'IA peut parcourir les pages Web, peser les faits, prédire la réputation de la source en tenant compte d'aspects tels que le nom de domaine et le classement Web Alexa et découvrir des mots sensationnels pour détecter les fausses nouvelles.

Les outils analytiques alimentés par l'IA peuvent également inclure une classification de position pour déterminer si un titre est en tandem avec le corps de l'article en traitant le texte pour analyser le style d'écriture de l'auteur et en utilisant l'analyse des images pour détecter les modifications de Photoshop. Cela peut aider à mettre en évidence les anomalies et à identifier les fausses nouvelles et les photographies trafiquées.

Outils populaires pour identifier et combattre les fausses nouvelles

Plusieurs entreprises ont tenté de lutter contre les fausses nouvelles au cours des dernières années. Dans les derniers efforts pour lutter contre le COVID-19, Facebook, Google, Twitter et YouTube se sont réunis pour limiter et éliminer la désinformation concernant la pandémie de coronavirus et pousser les directives officielles sur leurs plateformes.

Même avant l'urgence d'informations authentiques à la lumière du COVID-19, les entreprises s'efforçaient de limiter la diffusion systématique d'informations inexactes et trompeuses sur Internet et les médias sociaux. Plate-forme de vérification des faits basée en Inde, MetaFact utilise l'IA pour détecter et surveiller les fausses nouvelles en temps réel, en passant au crible toutes les données générées en ligne.

« MetaFact construit un écosystème autonome et convivial pour lutter contre les fausses nouvelles, la propagande et la désinformation grâce à l'utilisation de l'intelligence artificielle, des métadonnées alimentées par le traitement du langage naturel (NLP) et d'une plate-forme de diffusion d'informations basée sur la conversation. Découvrez comment les médias sociaux et d'autres industries utilisent l'intelligence artificielle.

Notre objectif est de sensibiliser les communautés aux médias sociaux et d'aider à éduquer la prochaine génération de professionnels grâce à l'utilisation de programmes d'éducation aux médias numériques avec un fort accent sur le monde en développement », explique le site Web, qui affiche ses histoires factuelles bien en évidence. D'autres plates-formes comme BOOM et Check4Spam opèrent dans le même domaine, vérifiant les publications sur les réseaux sociaux pour vérifier les histoires et les balises qui peuvent propager des informations erronées.

À l'échelle mondiale, des entreprises comme Spike, Hoaxy et CrowdTangle surveillent également le contenu, couvrant des quantités colossales de données pour vérifier les anomalies. Ils prédisent même ce qui va générer plus d'engagement et le surveillent de près. Une société appelée Pheme a fait un saut technologique pour lire la véracité du contenu généré par les utilisateurs et en ligne. Le géant du contenu et de la technologie Google Trends fait ses preuves en observant les recherches et en sélectionnant les anomalies. Il existe un certain nombre d'autres outils qui ont trouvé un écho auprès des diffuseurs pour offrir un contenu sans contrefaçon.

L'avenir des fake news

Évaluer la légitimité des informations lorsqu'elles sont "générées par une machine" par l'IA n'est que la première étape vers leur élimination. Étant donné que des outils tels que l'auto-complétion, la synthèse de texte, etc. sont largement utilisés à la fois par les diffuseurs et les éditeurs crédibles, il doit y avoir davantage de contrôles en place pour identifier et supprimer les fausses informations.

Les experts continuent d'être optimistes quant à l'avenir où chaque élément de contenu sera vérifié par les technologies de l'IA en temps réel avant sa diffusion. La sensibilisation croissante aux fausses nouvelles est une autre raison pour laquelle ils pensent que les gens résisteront aux informations de nature inauthentique. Avec une combinaison d'outils d'IA plus sophistiqués et de sensibilisation, nous espérons qu'il y aura moins de fausses nouvelles qui auront un impact sur le monde.