AI는 '가짜 뉴스'의 천적?

공황과 혼란을 퍼뜨리기 위해 부정확한 뉴스를 고의적으로 유포하는 것은 지난 5년 동안 과도한 정보 공유의 골칫거리였습니다. 선거 결과를 흔들기 위해 정치적 편견을 조장하는 것부터 COVID-19 대유행 동안 전 세계에 공황을 일으키기까지, 가짜 뉴스는 사회적, 정치적 문제에 지속적인 영향을 미치고 있습니다.

가짜 뉴스에 대한 강력한 적수에 대한 필요성이 커지고 있습니다. 정교한 AI 도구는 사실 확인 알고리즘을 실행하여 진정한 뉴스와 신뢰할 수 있는 정보를 세상에 제공합니다. 그러나 그들은 가짜 뉴스를 완전히 없앨 수 있습니까? 이것은 데이터 과학자들이 여전히 씨름하고 있는 질문입니다.

소개

2019년은 총선, 잠무 카슈미르의 보안 요원에 대한 끔찍한 공격, 370조의 폐지, 국가 뉴스와 미디어를 지배하는 시민권 수정법에 대한 전국적인 시위로 인도에 다사다난한 해였습니다. WhatsApp, Twitter, Facebook 및 기타 소셜 미디어 채널 덕분에 잘못된 정보가 동등하고 광범위하게 배포되었습니다.

Economic Times 의 기사 (링크: https://tinyurl.com/w86mclp )는 2019년을 '가짜 뉴스의 해'로 표시했으며 거의 ​​1년 내내 팩트체킹 팀이 발을 떼었습니다. 가짜뉴스가 사회에 미친 영향은 이념적·정치적 차이에 그치지 않았다. 많은 경우 소수 민족을 죽이고 폭력을 행사하는 것만큼 불리했습니다. 세계에서 두 번째로 많은 인터넷 사용자(5억 6000만 명)인 인도는 디지털 역량 강화를 위해 소셜 미디어를 소비하는 경향이 있습니다.

세계를 선도하는 경제이자 진보의 등대인 미국에서도 상황은 크게 다르지 않습니다. 미국 민주 선거의 배경은 가짜 뉴스로 인한 초당파적 시각이 만연해 있으며, 시민들의 두려움과 편견을 노리고 있습니다. 2016년 미국 대통령 선거에서 사람들의 투표 계획과 행동이 크게 바뀌었다고 널리 알려져 있습니다.

말할 필요도 없이 조작된 콘텐츠와 그 설득력은 사회에 실질적인 위협이 될 수 있으며 이를 끈질기게 맞서 싸울 수 있는 강력한 적수가 필요합니다.

가짜 뉴스의 생성

저널리스트와 언론 매체가 정보의 주요 출처였던 시절이 있었고 출판하기 전에 출처와 정보를 확인해야 했습니다. 그러나 뉴스 기사를 24시간 연중무휴로 제공하기 위한 입찰에서 지금은 그렇지 않습니다. 선전 공장은 믿을만하지만 사실적이지 않은 콘텐츠로 시스템을 채우기 위해 초과 근무를 합니다.

어떻게 그렇게 많은 양의 가짜 정치, 문화, 과학 뉴스 기사가 만들어지고 있습니까? 불행히도 인공 지능(AI)이 여기에 큰 역할을 합니다. AI 도구는 입소문을 퍼뜨리기 위해 신뢰할 수 있는 어조로 기사를 채우는 데 사용되고 있습니다. 2019년 중반 BBC의 기사(링크: https://tinyurl.com/yxfsqzwe )는 연구 회사 OpenAI에서 구축한 텍스트 생성기에 대해 보고했으며, 이 생성기는 소셜 미디어에서 가짜 뉴스와 악성 스팸을 쉽게 생성할 수 있습니다.

800만 웹페이지를 기반으로 생성된 GPT-2 모델은 초기 텍스트의 스타일과 어조를 복제할 수 있었지만 악성 응용 프로그램의 가능성으로 인해 안전하지 않은 것으로 간주되었습니다. 이 모델은 나중에 더 적은 수의 매개변수로 출시되었지만 사람의 개입과 중요한 사실 확인의 부족으로 인해 논란의 여지가 남아 있었습니다.

사람의 체격과 얼굴 특징을 겹칠 수 있는 조작된 비디오와 사진을 가리키는 딥페이크(2018년 Reddit 사용자가 만든 용어)의 생성은 심각한 결과를 초래할 수 있는 가짜 뉴스의 또 다른 버전입니다. 증오와 폭력을 선동하기 위해 선전을 퍼뜨리는 것부터 공인을 비방하는 것까지, 딥페이크는 2018년 이후 뉴스에서 악명 높았습니다. AI 기반 소프트웨어는 단 몇 분 만에 수많은 시각적 데이터를 생성, 향상 및 변경하여 다양한 결과를 가진 상세한 이미지를 생성할 수 있습니다. .

보급자

사람들은 자연스럽게 클릭을 유도하는 헤드라인과 자극적인 콘텐츠에 끌립니다. 쉽게 접근할 수 있다는 점에서 소셜 미디어는 허위 콘텐츠의 가장 큰 유포자입니다. 가짜 뉴스의 동맹을 원하지 않는 Facebook과 Whatsapp은 전 세계에서 거짓 콘텐츠를 유포하는 행위를 지배하는 두 개의 소셜 미디어 플랫폼이 되었습니다. 전 세계적으로 24억 명이 넘는 활성 Facebook 사용자가 있습니다(인도에서는 약 3억 3,600만 명).

활성 WhatsApp 사용자에 대한 통계는 전 세계적으로 16억 명(인도에서는 약 3억 명)입니다. 팩트체크 팀과 단체 메시지 제한 등의 조치에도 불구하고 가짜뉴스 근절을 위해 해야 할 일이 많이 남아 있다.

사실 확인을 강화하는 것 외에 가짜 뉴스를 줄이기 위해 Facebook이 취한 최신 조치 중 하나는 COVID 관련 잘못된 정보를 퇴치하기 위해 세계보건기구(WHO)와 협력하는 것입니다. 페이스북은 세계보건기구(WHO)에 무료 광고를 제공하여 광범위한 사용자들에게 진정한 정보를 전파할 수 있도록 하고 있습니다. 이 주제에 관한 많은 업데이트 중, Facebook CEO Mark Zuckerberg는 또한 회사가 바이러스에 대한 시기적절하고 정확한 정보를 공개하기 위해 국가 보건 부처 및 글로벌 조직과 협력하고 있다고 발표했습니다.

AI가 가짜 뉴스와의 전쟁의 답인가?

AI는 양날의 검이 될 수 있습니다. 뉴스를 만드는 데 적극적으로 사용되지만 AI 개입은 뉴스 를 식별하고 제거하는 데도 도움이 될 수 있습니다. AI는 이제 뉴스 영역에서 가짜와 진품을 구분하는 초석으로 간주됩니다. AI가 패턴 인식을 통해 행동을 배우기 쉽기 때문이다. 지난 몇 년 동안 인간과 AI 생성 콘텐츠의 차이점을 구별하기 위해 수많은 알고리즘이 개발되었습니다.

그들의 주요 기능은 기사의 불일치를 강조하고 신뢰성을 결정할 수 있는 신경망 기술로 뒷받침되는 허위 탐지 입니다. 알고리즘은 실제 정보와 출처가 포함된 거대한 가상 데이터 라이브러리로 구성된 다양한 가짜 뉴스 데이터 세트의 기존 기사를 제공하여 개발됩니다. 이론적으로 AI는 도메인 이름 및 Alexa 웹 순위와 같은 측면을 고려하여 웹 페이지를 샅샅이 조사하고, 사실을 평가하고, 출처의 평판을 예측하고, 가짜 뉴스를 감지하기 위해 선정적인 단어를 발견할 수 있습니다.

AI 기반 분석 도구에는 텍스트를 처리하여 작성자의 작문 스타일을 분석하고 이미지 포렌식을 사용하여 Photoshop 수정 사항을 감지하여 헤드라인이 기사 본문과 나란히 있는지 여부를 결정하는 자세 분류도 포함될 수 있습니다. 이렇게 하면 변칙을 강조 표시하고 가짜 뉴스와 조작된 사진을 식별하는 데 도움이 될 수 있습니다.

가짜 뉴스를 식별하고 퇴치하기 위한 인기 있는 도구

여러 회사가 지난 몇 년 동안 가짜 뉴스를 퇴치하기 위해 노력했습니다. COVID-19와 싸우기 위한 최근의 노력에서 Facebook, Google, Twitter 및 YouTube는 코로나바이러스 전염병에 관한 잘못된 정보를 제한 및 제거하고 플랫폼에 대한 공식 지침을 푸시하기 위해 협력했습니다.

기업들은 코로나19 사태로 진정성 있는 정보가 시급해지기 전부터 인터넷과 소셜미디어에서 부정확하고 오도하는 정보가 체계적으로 확산되는 것을 막기 위해 노력하고 있다. 인도에 기반을 둔 팩트체킹 플랫폼인 MetaFact는 AI를 사용하여 실시간으로 가짜 뉴스를 감지하고 모니터링하여 온라인에서 생성되는 모든 데이터를 선별합니다.

“MetaFact는 인공 지능, 자연어 처리(NLP) 기반 메타데이터 및 대화 기반 정보 배포 플랫폼을 사용하여 가짜 뉴스, 선전 및 잘못된 정보와 싸우기 위해 자체 지속 가능하고 사용자 친화적인 생태계를 구축하고 있습니다. 소셜 미디어 및 기타 산업에서 인공 지능을 사용하는 방법에 대해 자세히 알아보십시오.

우리는 개발도상국에 중점을 둔 디지털 미디어 리터러시 프로그램을 사용하여 커뮤니티 전반에 걸쳐 소셜 미디어 인식을 구축하고 차세대 전문가를 교육하는 것을 목표로 합니다. BOOM 및 Check4Spam과 같은 다른 플랫폼은 동일한 도메인에서 작동하여 소셜 미디어 게시물을 확인하여 잘못된 정보를 퍼뜨릴 수 있는 스토리와 태그를 확인합니다.

전 세계적으로 Spike, Hoaxy 및 CrowdTangle과 같은 회사도 콘텐츠를 모니터링하여 엄청난 양의 데이터를 포함하여 이상 징후를 확인합니다. 그들은 더 많은 참여를 유도할 것이 무엇인지 예측하고 면밀히 모니터링합니다. Pheme라는 회사는 사용자 생성 및 온라인 콘텐츠의 진실성을 읽는 기술 도약을 했습니다. 콘텐츠 및 기술 분야의 거물인 Google 트렌드는 검색을 관찰하고 이상 현상을 선택하여 그 가치를 증명합니다. 가짜 없는 콘텐츠를 제공하기 위해 방송사와 공명을 얻은 다른 도구가 많이 있습니다.

가짜 뉴스의 미래

AI에 의해 '기계 생성'된 뉴스의 합법성을 평가하는 것은 뉴스를 제거하기 위한 첫 번째 단계일 뿐입니다. 자동 완성, 텍스트 요약 등과 같은 도구는 신뢰할 수 있는 방송사와 게시자 모두에서 널리 사용되기 때문에 가짜 뉴스를 식별하고 제거하기 위해 더 많은 검사가 필요합니다.

전문가들은 콘텐츠 하나하나가 AI 기술로 실시간 검증을 거쳐 보급되는 미래를 계속 기대하고 있다. 가짜 뉴스에 대한 인식이 높아짐에 따라 사람들이 본질적으로 사실이 아닌 정보에 저항할 것이라고 느끼는 또 다른 이유입니다. 보다 정교한 AI 도구와 인식이 결합되어 세상에 영향을 미치는 가짜 뉴스가 줄어들기를 바랍니다.