Станет ли ИИ Немезидой «фейковых новостей»?

Преднамеренное распространение неточных новостей с целью посеять панику и замешательство стало бичом чрезмерного обмена информацией за последние пять лет. От создания политической предвзятости с целью повлиять на результаты выборов до создания паники в мире во время пандемии COVID-19 фальшивые новости оказывают постоянное влияние на социальные и политические вопросы.

Растет потребность в сильном возмездии против фейковых новостей. Сложные инструменты искусственного интеллекта активизировались для запуска алгоритмов проверки фактов, чтобы предлагать миру достоверные новости и достоверную информацию. Но смогут ли они полностью избавиться от фейковых новостей? Это вопрос, над которым ученые данных до сих пор бьются.

Введение

2019 год был богатым на события для Индии: всеобщие выборы, ужасающее нападение на сотрудников службы безопасности в Джамму и Кашмире, отмена статьи 370 и общенациональные протесты против Закона о внесении поправок в Закон о гражданстве, которые доминировали в национальных новостях и СМИ. Благодаря WhatsApp, Twitter, Facebook и другим каналам социальных сетей распространялась равномерная и обширная дезинформация.

В статье в Economic Times (ссылка на: https://tinyurl.com/w86mclp ) 2019 год отмечен как «год фейковых новостей», а команды по проверке фактов почти весь год были в напряжении. Влияние фейковых новостей на общество сводилось не только к идеологическим и политическим разногласиям. Во многих случаях это было так же неблагоприятно, как убийство меньшинств и насилие толпы против них. Будучи вторым по величине пользователем Интернета в мире (560 000 000 человек), Индия использует социальные сети как попытку расширить свои цифровые возможности, когда дело касается фейковых новостей.

Ситуация не слишком отличается в ведущей экономике мира и маяке прогресса: Соединенных Штатах Америки. Фон демократических выборов в США изобилует гиперпартийными взглядами из-за фейковых новостей, играющих на страхах и предрассудках граждан. Широко распространено мнение, что планы и поведение людей при голосовании сильно изменились на президентских выборах в США в 2016 году.

Излишне говорить, что сфабрикованный контент и его убедительный характер могут представлять реальную угрозу для общества и нуждаются в сильном противнике, способном настойчиво с ним бороться.

Создание фейковых новостей.

Было время, когда журналисты и СМИ были основными источниками информации, и они должны были проверять источники и информацию, прежде чем публиковать их. Но в стремлении предоставлять новости 24 часа в сутки 7 дней в неделю это не так. Пропагандистские мельницы работают сверхурочно, чтобы наполнить системы убедительно звучащим, но недостоверным содержанием.

Как фальшивые политические, культурные и научные новости создаются в таких больших масштабах? К сожалению, искусственный интеллект (ИИ) играет в этом большую роль. Инструменты искусственного интеллекта используются для наполнения статей достоверным тоном, чтобы стимулировать виральность. В середине 2019 года в статье BBC (ссылка на: https://tinyurl.com/yxfsqzwe ) сообщалось о генераторе текста, созданном исследовательской фирмой OpenAI, который может легко создавать фальшивые новости и оскорбительный спам в социальных сетях.

Их модель GPT-2, созданная на основе восьми миллионов веб-страниц, смогла воспроизвести стиль и тональность исходного текста, но была признана небезопасной из-за возможности ее вредоносных приложений. Позже модель была выпущена с меньшим количеством параметров, но оставалась спорной из-за отсутствия вмешательства человека и критических проверок фактов.

Создание дипфейков (термин, введенный пользователем Reddit в 2018 году), который относится к подделанным видео и фотографиям, которые могут накладываться на телосложение и черты лица человека, — это еще одна версия фейковых новостей, которая может иметь серьезные последствия. От распространения пропаганды с целью разжигания ненависти и насилия до клеветы на общественных деятелей — дипфейки печально известны в новостях с 2018 года. Программное обеспечение на основе ИИ может создавать, улучшать и изменять множество визуальных данных за считанные минуты для создания подробных изображений с различными последствиями. .

Распространители

Людей, естественно, привлекают кликбейтинговые заголовки и захватывающий контент. Учитывая легкий доступ, социальные сети являются крупнейшим распространителем ложного контента. Facebook и Whatsapp, не желающие быть союзниками фейковых новостей, стали двумя платформами социальных сетей, которые доминируют в распространении ложного контента в мире. Во всем мире насчитывается более 2,4 миллиарда активных пользователей Facebook (около 336 миллионов в Индии).

Статистика активных пользователей WhatsApp составляет 1,6 миллиарда в мире (около 300 миллионов в Индии). Несмотря на группы по проверке фактов и такие действия, как ограничение групповых сообщений, многое еще предстоит сделать для устранения фейковых новостей.

Одной из последних мер, предпринятых Facebook для борьбы с фейковыми новостями, помимо усиления проверки фактов, является его сотрудничество со Всемирной организацией здравоохранения (ВОЗ) для борьбы с дезинформацией, связанной с COVID. Facebook предоставляет Всемирной организации здравоохранения бесплатную рекламу, чтобы она могла распространять достоверную информацию среди широкого круга своих пользователей. Среди множества обновлений по этой теме генеральный директор Facebook Марк Цукерберг также объявил, что компания работает с национальными министерствами здравоохранения и глобальными организациями над своевременным выпуском точной информации о вирусе.

Является ли ИИ ответом на борьбу с фейковыми новостями?

ИИ может быть палкой о двух концах. Хотя он активно используется для создания новостей, вмешательство ИИ также может помочь в его выявлении и устранении. ИИ теперь рассматривается как краеугольный камень, отделяющий подделку от подлинной в новостной сфере. Это связано с тем, что ИИ упрощает изучение поведения посредством распознавания образов. За последние несколько лет было разработано множество алгоритмов, позволяющих различать контент, созданный человеком, и контент, созданный искусственным интеллектом.

Их основная функция — обнаружение ложных сведений, поддерживаемое технологией нейронных сетей, которая может выявлять несоответствия в статьях и определять их достоверность. Алгоритмы разрабатываются путем подачи им существующих статей из различных наборов данных фальшивых новостей, состоящих из огромных виртуальных библиотек данных, содержащих достоверную информацию и источники. Теоретически ИИ может просматривать веб-страницы, взвешивать факты, предсказывать репутацию источника, учитывая такие аспекты, как доменное имя и веб-рейтинг Alexa, а также находить сенсационные слова для обнаружения фальшивых новостей.

Аналитические инструменты на базе ИИ также могут включать классификацию позиций, чтобы определить, соответствует ли заголовок тандему с основной частью статьи, путем обработки текста для анализа стиля письма автора и использования криминалистической экспертизы изображений для обнаружения модификаций Photoshop. Это может помочь выявить аномалии и идентифицировать фальшивые новости и поддельные фотографии.

Популярные инструменты для выявления и борьбы с фейковыми новостями

За последние несколько лет несколько компаний пытались бороться с фейковыми новостями. В последних усилиях по борьбе с COVID-19 Facebook, Google, Twitter и YouTube объединились, чтобы ограничить и устранить дезинформацию о пандемии коронавируса и продвигать официальные инструкции на своих платформах.

Еще до того, как в свете COVID-19 возникла острая необходимость в достоверной информации, компании работали над ограничением систематического распространения неточной и вводящей в заблуждение информации в Интернете и социальных сетях. Индийская платформа для проверки фактов MetaFact использует искусственный интеллект для обнаружения и отслеживания фейковых новостей в режиме реального времени, просеивая все данные, генерируемые в Интернете.

«MetaFact создает самодостаточную, удобную для пользователя экосистему для борьбы с фейковыми новостями, пропагандой и дезинформацией с помощью искусственного интеллекта, метаданных на основе обработки естественного языка (NLP) и платформы распространения информации на основе разговоров. Узнайте больше о том, как социальные сети и другие отрасли используют искусственный интеллект.

Мы стремимся повышать осведомленность о социальных сетях в сообществах и помогать обучать следующее поколение профессионалов с помощью программ повышения грамотности в области цифровых медиа, уделяя особое внимание развивающимся странам», — говорится на веб-сайте, на котором на видном месте размещены проверенные факты. Другие платформы, такие как BOOM и Check4Spam, работают в том же домене, проверяя сообщения в социальных сетях, чтобы проверять истории и теги, которые могут распространять дезинформацию.

Во всем мире такие компании, как Spike, Hoaxy и CrowdTangle, также отслеживают контент, охватывая колоссальные объемы данных для проверки на наличие аномалий. Они даже предсказывают, что приведет к большей вовлеченности, и внимательно следят за этим. Компания Pheme совершила технологический прорыв, чтобы считывать достоверность пользовательского и онлайн-контента. Гигант контента и технологий Google Trends доказывает свою ценность, наблюдая за поисковыми запросами и выявляя аномалии. Есть ряд других инструментов, которые нашли отклик у вещательных компаний, предлагая свободный от подделок контент.

Будущее фейковых новостей

Оценка легитимности новостей, когда они «генерируются машиной» с помощью ИИ, — это только первый шаг к их устранению. Поскольку такие инструменты, как автозаполнение, суммирование текста и т. д., широко используются как заслуживающими доверия вещательными компаниями, так и издателями, необходимо проводить дополнительные проверки для выявления и удаления фейковых новостей.

Эксперты по-прежнему надеются на будущее, в котором каждая часть контента будет проверяться технологиями искусственного интеллекта в режиме реального времени перед распространением. Растущая осведомленность о фейковых новостях — еще одна причина, по которой они считают, что люди будут сопротивляться информации, которая не является достоверной по своей природе. Мы надеемся, что благодаря сочетанию более сложных инструментов искусственного интеллекта и осведомленности мир будет меньше поддельных новостей.