AIは「フェイクニュース」の宿敵になるのでしょうか？
公開: 2020-04-18パニックと混乱を広めるための不正確なニュースの意図的な普及は、過去5年間の過度の情報共有の悩みの種でした。 選挙結果を揺るがすために政治的偏見を生み出すことから、COVID-19のパンデミックの間に世界でパニックを引き起こすことまで、偽のニュースは社会的および政治的問題に不変の影響を及ぼします。
フェイクニュースに対して強い敵対関係を持つ必要性が高まっています。 洗練されたAIツールは、ファクトチェックアルゴリズムを実行して、本物のニュースと信頼できる情報を世界に提供するために強化されています。 しかし、彼らは偽のニュースを完全に排除することができるでしょうか？ これは、データサイエンティストがまだ取り組んでいる質問です。
目次
序章
2019年は、総選挙、ジャンムー・カシミール州の治安要員に対する恐ろしい攻撃、第370条の廃止、全国的なニュースやメディアを支配する市民権改正法に対する全国的な抗議など、インドにとって波乱に富んだ年でした。 WhatsApp、Twitter、Facebook、その他のソーシャルメディアチャネルのおかげで、誤った情報が平等かつ広範囲に配布されていました。
エコノミックタイムズの記事（リンク先： https ：//tinyurl.com/w86mclp ）は、2019年を「フェイクニュースの年」とマークし、ファクトチェックチームがほぼ1年にわたって活動しています。 フェイクニュースが社会に与える影響は、単なるイデオロギー的および政治的な違いではありませんでした。 多くの場合、それはマイノリティを殺し、彼らに対する暴徒の暴力と同じくらい不利でした。 世界で2番目に高いインターネットユーザー（5億6000万人）として、デジタルエンパワーメントを目指したインドのソーシャルメディアの消費は、フェイクニュースが懸念されるところでは逆境になっています。
世界をリードする経済と進歩の光であるアメリカ合衆国では、状況はそれほど変わりません。 米国の民主的選挙の背景には、市民の恐れや偏見に反して、偽のニュースのために超党派の見解が溢れています。 2016年の米国大統領選挙では、人々の投票計画と行動が大幅に変更されたと広く信じられています。
言うまでもなく、偽造されたコンテンツとその説得力のある性質は、社会にとって真の脅威となる可能性があり、それを永続的に戦うことができる強力な敵を必要とします。
フェイクニュースの作成
ジャーナリストやメディアが主要な情報源であった時代があり、情報源と情報を公開する前に検証する必要がありました。 しかし、ニュース記事を24時間365日提供するために、現在はそうではありません。 プロパガンダ工場は残業して、システムを信頼できるサウンドであるが本物ではないコンテンツで満たすようにしています。
偽の政治的、文化的、科学的なニュース記事がこれほど大きな割合でどのように作成されているのでしょうか。 残念ながら、人工知能（AI）はこれに大きな役割を果たします。 AIツールは、バイラル性を促進するための信頼できるトーンで記事を作成するために使用されています。 2019年半ば、BBCの記事（リンク先： https ：//tinyurl.com/yxfsqzwe ）は、ソーシャルメディア上で偽のニュースや虐待的なスパムを簡単に作成する可能性のある調査会社OpenAIによって構築されたテキストジェネレーターについて報告しました。
800万のWebページに基づいて作成された彼らのモデルGPT-2は、最初のテキストのスタイルとトーンを複製することができましたが、悪意のあるアプリケーションの可能性があるため、安全でないと見なされました。 モデルは後でより少ないパラメータでリリースされましたが、人間の介入と重要なファクトチェックの欠如のために物議を醸し続けました。
ディープフェイク（2018年にRedditユーザーによって造られた用語）の作成は、人の体格と顔の特徴を重ね合わせることができる医師のビデオと写真を指し、劇的な結果をもたらす可能性のあるフェイクニュースの別のバージョンです。 憎悪や暴力を扇動するための宣伝の拡散から公人の悪意のあるものまで、ディープフェイクは2018年以来、ニュースで悪名高いものになっています。AIを利用したソフトウェアは、わずか数分で多数の視覚データを作成、強化、変更して、さまざまな結果をもたらす詳細な画像を作成できます。 。
普及者
人々は自然にクリックベイトの見出しと刺激的なコンテンツに惹かれます。 簡単にアクセスできることを考えると、ソーシャルメディアは虚偽のコンテンツの最大の普及者です。 偽のニュースを嫌う同盟国であるFacebookとWhatsappは、偽のコンテンツを世界に広める行為を支配する2つのソーシャルメディアプラットフォームになりました。 世界中に24億人以上のアクティブなFacebookユーザーがいます（インドでは約3億3600万人）。
アクティブなWhatsAppユーザーの統計は、世界で16億人（インドでは約3億人）です。 ファクトチェックチームやグループメッセージの制限などのアクションにもかかわらず、偽のニュースを排除するためにやるべきことがたくさん残っています。
ファクトチェックを強化する以外に、Facebookがフェイクニュースを削減するために取った最新の対策の1つは、 COVID関連の誤った情報と戦うための世界保健機関（WHO）とのコラボレーションです。 Facebookは、世界保健機関に無料の広告を提供しているため、本物の情報を幅広いユーザーに広めることができます。 このトピックに関する多くの更新の中で、FacebookのCEOであるMark Zuckerbergは、同社が国の保健省や世界的な組織と協力して、ウイルスに関するタイムリーで正確な情報を公開していることも発表しました。
AIはフェイクニュースと戦うための答えですか？
AIは両刃の剣になることができます。 ニュースの作成に積極的に使用されていますが、AIの介入は、ニュースを特定して排除するのにも役立ちます。 AIは現在、ニュースドメインで偽物と本物を区別するための基礎と見なされています。 これは、AIによってパターン認識を通じて行動を簡単に学習できるためです。 過去数年間で、人間とAIで生成されたコンテンツの違いを区別するために多くのアルゴリズムが開発されました。
それらの主な機能は、記事の不一致を強調し、信頼性を判断できるニューラルネットワークテクノロジーに裏打ちされた偽りの検出です。 アルゴリズムは、本物の情報とソースを含む巨大な仮想データライブラリで構成されたさまざまなフェイクニュースデータセットから既存の記事をフィードすることによって開発されます。 理論的には、AIは、ドメイン名やAlexa Webランクなどの側面を考慮して、Webページを精査し、事実を比較検討し、ソースの評判を予測し、センセーショナルな単語を見つけて偽のニュースを検出できます。
AIを活用した分析ツールには、テキストを処理して著者の文章スタイルを分析し、画像フォレンジックを使用してPhotoshopの変更を検出することにより、見出しが記事の本文と連携しているかどうかを判断するスタンス分類を含めることもできます。 これは、異常を強調し、偽のニュースや医師の写真を特定するのに役立ちます。
フェイクニュースを特定して対処するための人気のあるツール
過去数年間、いくつかの企業が偽のニュースと戦おうとしました。 COVID-19と戦うための最新の取り組みでは、Facebook、Google、Twitter、YouTubeが協力して、コロナウイルスのパンデミックに関する誤った情報を制限および排除し、プラットフォームに公式ガイドラインをプッシュしました。
COVID-19に照らして本物の情報が緊急になる前から、企業はインターネットやソーシャルメディアでの不正確で誤解を招く情報の体系的な拡散の削減に取り組んできました。 インドを拠点とするファクトチェックプラットフォームであるMetaFactは、AIを使用して偽のニュースをリアルタイムで検出および監視し、オンラインで生成されたすべてのデータを選別します。
「MetaFactは、人工知能、自然言語処理（NLP）を利用したメタデータ、会話ベースの情報配信プラットフォームを使用して、偽のニュース、宣伝、誤った情報と戦うための、自立したユーザーフレンドリーなエコシステムを構築しています。 ソーシャルメディアやその他の業界が人工知能をどのように使用しているかをご覧ください。
コミュニティ全体でソーシャルメディアの認知度を高め、発展途上世界に重点を置いたデジタルメディアリテラシープログラムを使用して次世代の専門家の教育を支援することを目指しています」と、ファクトチェックされたストーリーを目立つように表示するウェブサイトは述べています。 BOOMやCheck4Spamなどの他のプラットフォームは同じドメインで動作し、ソーシャルメディアの投稿を検証して、誤った情報を広める可能性のあるストーリーやタグをチェックします。
世界的に、Spike、Hoaxy、CrowdTangleなどの企業もコンテンツを監視し、異常をチェックするために膨大な量のデータをカバーしています。 彼らは、何がより多くのエンゲージメントを促進するのかを予測し、それを注意深く監視します。 Phemeという会社は、ユーザー生成コンテンツとオンラインコンテンツの信憑性を読み取るための技術を飛躍的に向上させました。 コンテンツとテクノロジーの巨人であるGoogleトレンドは、検索を観察し、異常を選択することでその価値を証明しています。 偽物のないコンテンツを提供するために放送局と共鳴している他の多くのツールがあります。
フェイクニュースの未来
AIによって「マシン生成」されたニュースの正当性を評価することは、ニュースを排除するための最初のステップにすぎません。 オートコンプリートやテキスト要約などのツールは、信頼できる放送局と発行者の両方で広く使用されているため、偽のニュースを特定して削除するには、さらにチェックを行う必要があります。
専門家は、コンテンツの各部分が配布前にリアルタイムでAIテクノロジーによって検証される将来について引き続き期待しています。 偽のニュースに対する意識の高まりは、人々が本質的に本物ではない情報に抵抗するだろうと彼らが感じるもう一つの理由です。 より洗練されたAIツールと認識の組み合わせにより、世界に影響を与える偽のニュースが少なくなることを願っています。