2024년 대선에서 '진실의 개념 자체'를 불안정하게 만드는 AI

[2024년 1월 22일 washingtonpost.com]
2024년 대선에서 '진실의 개념 자체'를 불안정하게 만드는 AI
도널드 트럼프 전 대통령도 사진, 동영상, 오디오를 망치는 AI를 비난하는 전 세계 정치인 중 한 명입니다.

(Illustration by Natalie Vineberg/The Washington Post; iStock)

• AI가 2024년 선거에서 진실의 개념을 불안정하게 만든다. 전 세계의 정치인들이 자신들에게 불리한 증거를 AI가 생성한 가짜라고 주장하고 있다. 트럼프 전 대통령은 자신의 과거 실수를 담은 광고를 AI가 만든 것이라고 거짓말했다.
• AI 딥페이크는 더욱 흔해지고 현실성을 높였다. AI는 사람의 목소리와 외모를 잘 복제할 수 있으며, 딥페이크는 X, 페이스북 등의 소셜 플랫폼에서 자주 화제가 된다. 그러나 AI가 생성한 미디어를 판별하는 도구와 방법은 AI의 발전 속도에 뒤처져 있다.
• 기술과 소셜 미디어 회사들은 AI 문제에 대응하기 위해 노력하고 있다고 말한다. 그러나 아직 실제로 AI가 생성한 콘텐츠를 자동으로 검사하고 조정하는 시스템을 만들지 못했다. 또한, 미디어의 출처를 확인할 수 있는 기술적 표준을 개발하는 연합에도 가입하지 않았다. 가장 중요한 것은, 그들의 알고리즘이 잠재적으로 거짓이지만 선풍적인 콘텐츠를 홍보하지 않도록 조정하는 것이다.

 

[Bing Chat Copilot의 페이지 요약]

[기사 원문 링크] Politicians around the world are blaming AI to swat away allegations - The Washington Post

[Quillbot으로 기사 요약]

전 세계 정치인들이 잠재적으로 명예를 훼손할 수 있는 증거를 인공지능이 만든 가짜라고 일축하면서 인공지능이 생성한 콘텐츠는 이 분야 전문가들의 우려의 대상이 되고 있습니다. 도널드 트럼프 전 미국 대통령은 폭스 뉴스에 게재된 자신의 공개적인 막말 영상을 담은 광고가 AI에 의해 생성된 것이라고 주장하며 이를 일축했습니다. 그러나 경찰관이나 정치인이 끔찍한 말을 하는 장면을 포착해도 AI 시대에는 그럴듯하게 부인할 수 있기 때문에 AI는 '거짓말쟁이의 배당금'을 만들어냅니다.

AI는 정치인들이 피해를 입힐 수 있는 혐의를 방어하기 위해 흔히 사용하는 희생양이 되고 있습니다. 작년 말, 대만 여당 정치인이 한 여성과 함께 호텔에 들어오는 모습이 담긴 거친 영상이 공개되면서 그가 불륜을 저지르고 있다는 의혹이 제기되었습니다. 평론가들과 다른 정치인들은 이 영상이 인공지능이 만들어낸 것이라며 재빨리 그를 옹호했습니다. 4월에는 인도 남부 타밀나두주의 한 정치인이 자신이 속한 정당이 불법으로 36억 달러를 모았다고 비난하는 26초 분량의 음성 녹취가 유출되기도 했습니다.

소셜 미디어 사용자들이 메릴랜드주 볼티모어 카운티의 한 학교 교장이 유대인과 흑인 학생에 대해 인종차별적인 발언을 했다고 주장하는 오디오 클립을 유포하면서 정치권을 넘어 AI 관련 혼란도 커지고 있습니다. 교장을 대변하는 노조는 이 오디오가 AI로 생성된 것이라고 밝혔습니다.

AI 딥페이크는 현재 더 보편화되어 있으며 사람의 목소리와 외모를 더 잘 복제합니다. 딥페이크는 X, Facebook 및 기타 소셜 플랫폼에서 정기적으로 입소문을 타고 있습니다. 기술 및 소셜 미디어 기업들은 AI가 생성한 콘텐츠가 실제인 것처럼 속이는 것을 자동으로 확인하고 조정하는 시스템을 개발 중이라고 밝혔지만, 아직 개발하지 못했습니다.

[DeepL로 기사 번역]