[2024년 5월 31일 WP]
러시아와 중국 단체가 선전 캠페인에 자사의 기술을 사용한 것을 발견한 OpenAI
은밀한 선전 활동가들은 이미 인공 지능을 사용하여 영향력을 강화하기 시작했습니다.
- 선전 캠페인과 AI: OpenAI는 러시아, 중국, 이란, 이스라엘의 단체들이 정치 담론에 영향을 미치기 위해 AI 기술을 사용한 것을 발견했습니다.
- Bad Grammar 그룹: 이 러시아 출신 그룹은 OpenAI 기술을 사용하여 소셜 미디어 게시물을 자동으로 생성하고 게시하는 소프트웨어를 구축했습니다.
- 영향력 제한: 이러한 그룹들은 소셜 미디어에서 큰 영향력을 얻지 못했으며, 관련 계정들은 소수의 사용자와 팔로워에게만 도달했습니다.
- AI의 미래 사용: OpenAI는 AI가 온라인에서 특정 사람들과 상세한 대화를 나누고 개인화된 메시지를 맞춤화하는 데 사용될 수 있다고 언급했습니다.
[Bing Chat Copilot의 페이지 요약]
[기사 원문 링크] OpenAI finds Russian, Chinese propaganda campaigns used its tech - The Washington Post
[Quillbot으로 기사 요약]
OpenAI는 러시아, 중국, 이란, 이스라엘에서 자사의 기술을 이용해 정치 담론에 영향을 미치는 단체를 발견했으며, 생성형 인공지능으로 인해 국가 행위자들이 은밀한 선전 캠페인을 더 쉽게 진행할 수 있다는 우려를 제기했습니다. OpenAI는 러시아, 중국, 이란의 잘 알려진 선전 활동과 관련된 계정, 이스라엘의 정치 캠페인 회사, 그리고 이전에 알려지지 않은 러시아 출신의 “Bad Grammar”라는 단체의 계정을 삭제했습니다. 이 그룹은 OpenAI의 기술을 사용하여 게시물을 작성하고, 다양한 언어로 번역하고, 소셜 미디어에 자동으로 게시하는 소프트웨어를 구축했습니다.
이 그룹 중 어느 것도 큰 관심을 끌지 못했으며, 이 그룹과 관련된 소셜 미디어 계정은 사용자 수가 적고 팔로워 수가 소수에 불과했습니다. OpenAI의 보고서에 따르면 소셜 미디어에서 수년간 활동해 온 선동가들이 AI 기술을 활용해 캠페인을 강화하고 있는 것으로 나타났습니다. 사실적인 텍스트, 이미지, 동영상까지 생성할 수 있는 AI 도구가 보편화되면서 허위 정보 연구자들은 온라인에서 허위 정보나 은밀한 영향력 행사를 발견하고 대응하기가 더욱 어려워질 것이라는 우려를 제기하고 있습니다.
OpenAI의 보고서는 5개 그룹이 어떻게 이 회사의 기술을 활용해 영향력 행사를 시도했는지 자세히 설명합니다. 중국에서 활동하는 것으로 알려진 Spamouflage는 소셜 미디어에서의 활동을 조사하고 중국어, 한국어, 일본어, 영어로 된 게시물을 작성하는 데 OpenAI의 기술을 사용했습니다. 이전에 알려지지 않은 그룹인 Bad Grammar는 메시징 앱인 텔레그램에 자동으로 게시물을 작성하는 프로그램을 만드는 데 OpenAI 기술을 사용했습니다.
'반복과 심호흡 > 타임체인' 카테고리의 다른 글
| 오피니언 | 올해 선거 개입이 2016년을 귀엽게 만들 수 있는 이유 (0) | 2024.06.03 |
|---|---|
| 독점 | '투키디데스의 덫'이 놓였나? 정치학자 그레이엄 앨리슨, 미중 긴장이 무력 충돌로 이어질 수 있는 위험 요소 측정 (0) | 2024.06.03 |
| 미국과 중국은 경쟁 관계에도 불구하고 기후 싸움에서 주도권을 잡아야한다고 베이징 최고 특사는 말합니다. (0) | 2024.05.31 |
| 미국이 의도치 않게 중국이 주도하는 '회피의 축'을 만든 방법 (1) | 2024.05.30 |
| 인공지능이 실리콘밸리에서 마크 저커버그를 다시 인기 있게 만든 방법 (0) | 2024.05.30 |
