가짜 AI 동영상이 퍼진 후 테일러 스위프트의 검색을 차단하는 X

[2024년 1월 29일 ft.com]
가짜 AI 동영상이 퍼진 후 테일러 스위프트의 검색을 차단하는 X
가학적인 이미지의 확산을 막으려는 무모한 시도가 일론 머스크의 중재 기능 축소로 이어졌습니다.

AI를 사용하여 생성된 사실적인 이미지가 테일러 스위프트와 같은 유명 인사가 동의 없이 위험하거나 오해의 소지가 있는 상황에 처한 것처럼 묘사하는 데 악용될 수 있습니다 © Mario Anzuoni/Ruters

• X의 테일러 스위프트 검색 차단: 인공지능으로 만든 성적으로 노골적인 이미지가 널리 퍼지자, 엘론 머스크의 X가 테일러 스위프트에 관한 검색을 차단했습니다. 이는 X의 콘텐츠 관리 정책이 완화되고 인력이 감축된 후에 일어난 사건입니다.
• 딥페이크 기술의 남용: 인공지능으로 만든 현실적인 이미지와 오디오는 유명인사나 정치인들을 동의 없이 위험하거나 오해의 소지가 있는 상황에 놓여 보이게 할 수 있습니다. 이러한 딥페이크 기술은 가장 흔하게 성적인 이미지를 만드는 데 남용되고 있으며, 세계 곳곳에서 선거에 관한 허위 정보를 만드는 데에도 사용되고 있습니다.
• 소셜 미디어 그룹의 대응: 메타, 틱톡, 유튜브 등의 소셜 미디어 그룹은 딥페이크 기술에 대처하기 위해 적극적으로 콘텐츠를 검열하고 제거하고 있습니다. 하지만 이들은 아직 충분하지 않다는 비판을 받고 있으며, 미국 의회에서 법적 규제를 요구받고 있습니다.

[Bing Chat Copilot의 페이지 요약]

[기사 원문 링크] X blocks Taylor Swift searches after fake AI videos go viral

[Quillbot으로 기사 요약]

엘론 머스크의 소셜 미디어 플랫폼인 X는 인공 지능을 이용해 만든 팝스타 테일러 스위프트의 성적으로 노골적인 이미지가 플랫폼에 널리 퍼지자 테일러 스위프트에 대한 검색을 차단했습니다. 이 사건은 소셜 미디어 그룹이 AI를 사용하여 생성된 사실적인 이미지와 오디오로 유명인을 동의 없이 위험하거나 오해의 소지가 있는 상황에 처하게 하는 데 악용될 수 있는 이른바 딥페이크에 대처하기 위해 분주하게 움직이고 있는 최신 사례입니다.

지난 며칠 동안 온라인에서 가수 테일러 스위프트에 대한 AI 생성 포르노 이미지가 확산되면서 주말 동안 X에서 '테일러 스위프트' 또는 '테일러 AI'와 같은 용어를 검색하면 몇 시간 동안 오류 메시지가 표시되었습니다. 이 변경으로 인해 세계에서 가장 인기 있는 스타에 대한 합법적인 콘텐츠조차도 사이트에서 보기가 어려워졌습니다. X의 비즈니스 운영 책임자인 조 베나로치는 이번 조치가 일시적인 조치이며, 이 문제에 대해 안전을 최우선시하기 때문에 많은 주의를 기울여 내린 결정이라고 말했습니다.

X는 억만장자 기업가인 머스크가 2022년 10월 440억 달러에 인수했으며, 머스크는 언론의 자유라는 이상을 내세우며 콘텐츠 단속에 투입되는 인력을 줄이고 모더레이션 정책을 느슨하게 했습니다. X와 그 라이벌인 메타, 틱톡, 구글의 유튜브가 점점 더 사실적이고 접근하기 쉬운 딥페이크 기술의 남용에 대처해야 한다는 압박을 받고 있는 가운데, 카린 장 피에르 백악관 공보 비서관은 가짜 이미지의 유포가 "놀랍다"고 말했습니다. 수요일에는 X의 린다 야카리노, 메타의 마크 저커버그, 틱톡의 쇼우지 츄 등 소셜 미디어 경영진이 온라인 아동 성 착취에 대한 미국 상원 사법위원회 청문회에서 청문회에 출석할 예정이며, 해당 플랫폼이 아동 보호에 충분한 역할을 하지 못한다는 우려가 커지고 있습니다.

[DeepL로 기사 번역]