[타임체인-매일] 2023년 11월 6일 글로벌 주요뉴스

washingtonpost.com

AI 가짜 누드가 급증하고 있습니다. 실제 10대들의 삶을 망치고 있습니다.

인공 지능은 평범한 사진을 사실적인 누드로 무섭게 쉽게 변환할 수 있어 여성과 청소년의 가짜 이미지가 급증하고 있습니다.

(엠마 쿠머/워싱턴 포스트, iStock)

 

This document talks about:

• AI 가짜 누드의 급증: 인공 지능은 평범한 사진을 사실적인 누드로 쉽게 변환할 수 있어 여성과 청소년의 가짜 이미지가 급증하고 있습니다. 이러한 이미지는 부끄럼, 협박, 판타지 등의 목적으로 사용됩니다.
• AI 가짜 포르노의 위험: AI 가짜 포르노는 피해자의 명예와 사생활을 침해하며, 법적 보호가 부족합니다. 미국의 9개 주에서만 딥페이크에 대한 법률이 제정되었으며, 저작권 침해나 명예훼손으로 소송을 제기하기 어렵습니다.
• AI 가짜 이미지와 비디오의 규제 필요성: 바이든 대통령은 AI 생성물에 대한 라벨링을 권고했지만, 의무화하지는 않았습니다. AI 가짜 이미지와 비디오는 선거 개입이나 여론 조작 등의 우려를 일으킬 수 있으므로, 강력한 규제와 표준이 필요합니다.

How AI fake nudes ruin teenagers’ lives - The Washington Post

AI fake nudes are booming. It’s ruining real teens’ lives.

 

딥페이크를 접한 청소년들은 가치관 형성에 어떤 영향이 있을까요?

 

• 현실과 가상의 구분이 흐려질 수 있습니다.
  딥페이크는 실제와 구분하기 어려울 정도로 정교하고 사실적인 영상이나 음성을 만들 수 있습니다. 딥페이크를 접한 청소년들은 진실과 거짓을 판별하는 능력이 저하되거나, 현실에 대한 불신이나 혼란을 느낄 수 있습니다. 또한, 딥페이크를 통해 자신이나 타인의 모습을 쉽게 바꿀 수 있다고 생각하면, 자아정체성이나 자존감에 문제가 생길 수 있습니다.
• 타인에 대한 존중과 책임감이 감소할 수 있습니다.
  딥페이크는 타인의 모습을 도용하거나 변형하는 행위입니다. 딥페이크를 접한 청소년들은 타인의 권리나 사생활을 침해하는 것이 당연하다고 생각하거나, 딥페이크를 만들거나 유포하는 것에 대한 책임을 회피할 수 있습니다. 또한, 딥페이크를 통해 타인을 비방하거나 조롱하는 것이 재미있다고 생각하면, 타인에 대한 존중이나 공감능력이 떨어질 수 있습니다.
• 사회적 가치나 윤리적 기준이 흔들릴 수 있습니다.
  딥페이크는 사회적 현상이나 역사적 사실을 왜곡하거나 조작할 수 있는 위험성이 있습니다. 딥페이크를 접한 청소년들은 사회적 가치나 윤리적 기준에 대한 이해나 인식이 부족하거나, 딥페이크에 의해 편향되거나 왜곡될 수 있습니다. 또한, 딥페이크를 통해 성적 대상화나 폭력 등의 부정적인 내용을 노출받으면, 성적 가치관이나 폭력성이 영향을 받을 수 있습니다.
  
  딥페이크는 인공지능의 발전과 함께 더욱 발전하고 확산될 가능성이 높습니다. 따라서, 딥페이크를 접한 청소년들은 가치관 형성에 어떤 영향이 있을지 신중하게 생각하고, 딥페이크를 구분하고 비판적으로 분석하는 능력을 키워야 합니다. 또한, 딥페이크를 만들거나 유포하는 것이 어떤 법적이나 윤리적 문제를 야기할 수 있는지 인식하고, 타인의 권리와 사생활을 존중하고 책임감을 가지는 태도를 갖추어야 합니다.

어떻게 딥페이크를 구분할 수 있나요?

 

 

딥페이크를 구분하는 방법은 여러 가지가 있습니다. 주요한 몇 가지 방법은 다음과 같습니다:

1. 얼굴 주의 깊게 보기: 딥페이크 조작은 대부분 얼굴 변환에 관련되어 있으므로, 얼굴을 주의 깊게 관찰하는 것이 중요합니다.
2. 점 관찰하기: 점이 실제처럼 보이는지 확인하세요.
3. 눈 깜박임 확인하기: 사람이 충분히 또는 너무 많이 눈을 깜박이는지 확인하세요.
4. 입술 움직임 관찰하기: 일부 딥페이크는 입술 동기화에 기반을 두고 있습니다. 입술 움직임이 자연스러운지 확인하세요.

또한, 비디오나 이미지가 딥러닝 기술을 사용하여 조작되었는지 감지하는 것은 딥페이크 탐지의 주요 과제입니다. 이를 위해 연구자들은 다양한 기계 학습 알고리즘을 사용하여 원본 비디오나 이미지의 일부를 조작하거나 대체합니다.

딥페이크 탐지에 대한 더 자세한 정보와 실제로 얼마나 잘 구분할 수 있는지 알아보고 싶다면, MIT 미디어 랩에서 진행하는 ‘Detect DeepFakes’ 프로젝트 웹사이트를 방문해 보세요.

 

Overview ‹ Detect DeepFakes: How to counteract misinformation created by AI — MIT Media Lab

Project Overview ‹ Detect DeepFakes: How to counteract misinformation created by AI – MIT Media Lab

 

 

nytimes.com

은행이 갑자기 고객 계좌를 폐쇄하는 이유

놀란 개인과 중소기업 소유주는 임대료를 지불하거나 급여를 지급할 수 없지만, 아무도 그들이 무엇을 잘못했는지 설명하지 않습니다.

앤서니 제라스

 

• 은행의 고객 계좌 폐쇄: 미국의 주요 은행들이 법적 의무를 준수하기 위해 의심스러운 활동이나 거래를 보이는 개인이나 소기업의 계좌를 임의로 폐쇄하는 사례가 증가하고 있다. 이로 인해 고객들은 임대료나 급여를 지불하지 못하거나 신용 점수가 하락하는 등의 문제에 직면하고 있다.
• 은행의 폐쇄 이유: 은행들은 자신들의 알고리즘에 따라 고객의 계좌를 폐쇄할 수 있는 권한을 가지고 있으며, 그 이유를 고객에게 설명할 의무가 없다. 은행들은 자신들이 제출한 의심스러운 활동 보고서(SAR)의 수가 2022년에 180만 건으로 두 배 가까이 증가했다고 밝혔다. 이 보고서는 사기, 테러, 돈세탁, 인신매매 등의 범죄를 방지하기 위한 것이다.
• 고객의 불만과 혼란: 은행의 계좌 폐쇄로 인해 고객들은 자신들이 무엇을 잘못했는지 알 수 없고, 다른 은행에서도 같은 일이 반복될지 모른다는 불안감을 가지고 있다. 또한, 은행의 결정에 대해 이의를 제기하거나 재심을 요청할 수 있는 방법이 없다. 은행의 계좌 폐쇄는 고객의 인종, 출신, 직업 등에 따라 차별적으로 적용될 수도 있다는 우려도 있다.

 

What is SAR?

SAR은 의심스러운 활동 보고서를 의미합니다. 이는 은행이나 금융기관이 자신들의 고객이나 거래처가 법률이나 규정을 위반하거나 범죄에 연관되어 있을 가능성이 있는 활동이나 거래를 발견했을 때, 관련 기관에 제출하는 문서입니다. SAR은 은행이나 금융기관이 법적 의무를 이행하고, 범죄를 예방하고, 자신들의 위험을 관리하기 위한 수단입니다. SAR은 고객에게 알리지 않고 제출되며, 고객의 계좌를 폐쇄하거나 제한하는 근거가 될 수 있습니다.

미국의 경우, SAR은 1970년 은행 비밀법(BSA)에 따라 제출되어야 합니다. SAR의 수는 2000년부터 2022년까지 지속적으로 증가하는 추세를 보였습니다. 2000년에는 약 20만 건이었던 SAR의 수가 2022년에는 약 240만 건에 이르렀습니다. SAR의 수의 증가는 다양한 요인에 의해 영향을 받았습니다. 예를 들어, 고객의 거래 방식의 다양화, 범죄의 복잡화, 규제의 강화, 기술의 발전 등이 있습니다.

다른 나라의 사례로는 영국이 있습니다. 영국의 경우, SAR은 영국 금융 정보 단위(UKFIU)가 소속된 국가 범죄청(NCA)에 제출되어야 합니다. 영국의 SAR의 수는 2019년부터 2020년까지 약 57만 건에서 약 64만 건으로 증가했습니다. 영국의 SAR의 수의 증가는 코로나19 팬데믹, 브렉시트, 새로운 법률의 도입 등의 영향을 받았습니다.

 

 

SAR을 시행하는 나라와 구제방안은?

SAR(의심스러운 활동 보고서)는 금융기관이 자금세탁이나 테러자금 등의 의심스러운 금융거래를 관련 기관에 보고하는 문서입니다. SAR을 제출하는 국가는 미국, 영국, 일본, 프랑스, 독일, 캐나다, 호주, 뉴질랜드 등이 있습니다. SAR을 제출한 후 은행은 의심스러운 고객의 계좌를 폐쇄하거나 제한할 수 있습니다. 이러한 은행의 계좌 폐쇄는 고객의 권리를 침해하고, 금융거래에 불편을 초래할 수 있습니다. 따라서 고객은 은행의 결정에 대해 설명을 요구하거나 이의를 제기할 수 있는 권리가 있습니다. 만약 고객이 은행의 계좌 폐쇄로 인해 피해를 입었다면, 다음과 같은 구제방안을 시도해 볼 수 있습니다:

• 은행에 전화하거나 방문하여 계좌 폐쇄의 이유와 재심의 요청 방법을 문의합니다. 은행은 고객에게 적절한 답변과 안내를 해야 합니다.
• 은행의 답변이 만족스럽지 않거나 재심의 요청이 거절되면, 은행의 고객 불만 처리 담당자나 부서에 불만을 제기합니다. 불만을 제기할 때는 계좌 번호, 연락처, 문제의 내용과 원하는 해결 방안을 명확하게 기재합니다.
• 은행의 불만 처리 담당자나 부서가 8주 이내에 답변을 하지 않거나, 답변이 만족스럽지 않으면, 금융감독원의 금융분쟁조정위원회나 금융감독원의 금융감독원에 불만을 신청할 수 있습니다. 이 경우에는 은행과의 통신 내용, 계좌 폐쇄 통지서, 재심의 요청서 등 관련 서류를 첨부해야 합니다.

이 외에도, 은행의 계좌 폐쇄가 인종, 출신, 직업 등에 따른 차별로 인한 것이라고 생각되면, 인권위원회나 법률 구조단체에 상담하거나 신고할 수 있습니다.

 

 

 

scmp.com

중국 팀, 그룹 채팅을 통해 복잡한 작업을 처리할 수 있는 '인간 두뇌'를 탑재한 드론 개발

• 인간의 언어를 사용하여 대화하고 협업하며 임무를 분담하는 드론 군집을 보여줌으로써 운영자가 기계의 동작을 더 쉽게 이해할 수 있습니다.
• 이 기술은 보안 순찰, 구조 작전, 항공 물류 및 운송에 사용될 가능성이 있다고 연구팀은 말합니다.

드론 군집의 통신 전략은 일반적으로 꿀벌과 개미 군집을 시뮬레이션하기 위해 설계되지만, 중국 팀은 인간처럼 대화하고 협업할 수 있는 능력을 갖춘 군집을 설계했습니다. 사진: Li Xuelong

 

 

• 인간 두뇌 드론: 중국 팀이 인간의 언어를 사용하여 대화하고 협업하며 임무를 분담하는 드론 군집을 개발했습니다. 드론은 InternLM이라는 중국의 오픈소스 대규모 언어 모델을 기반으로 한 ChatGPT와 같은 기술을 사용합니다.
• 그룹 채팅 기능: 드론은 인간과 기계 사이의 장벽을 깨고 인간의 언어로 통신할 수 있습니다. 드론은 그룹 채팅을 통해 서로 토론하고 과제를 할당할 수 있습니다. 드론은 중요한 시점에 대화를 통해 작업의 안정성과 안전성을 높일 수 있습니다.
• 주도적인 환경 인식: 드론은 다양한 센서와 알고리즘을 통해 주변 환경을 인식하고 적응할 수 있습니다. 드론은 장애물을 피하고 시각적으로 위치를 파악하며, 효율적으로 데이터를 수집하고 작업을 수행할 수 있습니다.
• 실용적인 응용 분야: 드론은 보안 순찰, 재난 구조, 항공 물류 등에 사용될 수 있습니다. 드론은 키 찾기와 같은 복잡한 작업을 성공적으로 수행할 수 있습니다. 드론은 또한 원격 전원 공급을 위해 고에너지 레이저를 사용하는 광학 기반의 드론과 함께 작동할 수 있습니다.

 

 

 

Chinese team creates drones with ‘human brains’ able to tackle complex tasks through group chats | South China Morning Post (scmp.com)

Chinese drones with ‘human brains’ tackle complex tasks through group chats

 

인간 두뇌 드론이 세계 경제와 사회에 미치게 될 영향 예측

인간 두뇌 드론이란 인간의 언어를 사용하여 대화하고 협업하며 임무를 분담하는 드론 군집을 말합니다. 이러한 드론은 중국 팀이 개발했으며, ChatGPT와 같은 인공지능 기술을 사용합니다. 인간 두뇌 드론이 세계 경제와 사회에 미치게 될 영향은 다음과 같이 예측할 수 있습니다.

• 경제적 영향: 인간 두뇌 드론은 보안 순찰, 재난 구조, 항공 물류 등에 사용될 수 있으므로, 이러한 분야의 효율성과 안전성을 높일 수 있습니다. 또한, 드론은 키 찾기와 같은 복잡한 작업을 성공적으로 수행할 수 있으므로, 인간의 일상생활에도 도움을 줄 수 있습니다. 그러나, 드론은 저비용 대량살상 병기로도 활용될 수 있으므로, 드론 테러의 위험성도 증가할 수 있습니다. 따라서, 드론의 제작과 운용에 대한 규제와 감시가 필요할 것입니다.
• 사회적 영향: 인간 두뇌 드론은 인간과 기계 사이의 장벽을 깨고 인간의 언어로 통신할 수 있으므로, 인간과 드론 사이의 상호작용과 협력이 증가할 수 있습니다. 또한, 드론은 주도적인 환경 인식 능력을 가지고 있으므로, 인간이 접근하기 어려운 곳에도 드론을 파견하여 정보를 수집하고 작업을 수행할 수 있습니다. 그러나, 인간 두뇌 드론은 인공지능의 두 얼굴을 가지고 있으므로, 인간의 삶과 가치에 부정적인 영향을 미칠 수도 있습니다. 따라서, 인간 두뇌 드론의 윤리와 책임에 대한 논의가 필요할 것입니다.

 

 

theguardian.com

중국 인플루언서가 자신의 AI 디지털 클론을 사용하여 콘텐츠를 생산하는 방법

특히 온라인 쇼핑에서 라이브 스트리머가 수입을 늘리기 위해 아바타를 사용함에 따라 정직성과 합법성에 대한 의문이 제기되고 있습니다.

한 가수가 상하이 황푸 지역에서 라이브 스트리밍을 하고 있습니다. 일부는 AI 클론을 사용하여 작업을 하고 있습니다.  사진: 데이브 타콘 / 가디언

 

• 중국의 AI 아바타: 중국의 인플루언서들이 24시간 내내 콘텐츠를 생산하기 위해 AI 아바타를 사용하는 추세를 소개한다. AI 아바타는 인플루언서의 생김새와 목소리를 복제하고, 브랜드의 제품을 홍보하거나 판매하는 라이브 방송을 진행한다.
• 팬들과 법적 문제: AI 아바타를 사용하는 인플루언서들은 팬들의 분노와 실망을 살 수 있다. 팬들은 인플루언서의 진실성과 정직성을 의심하고, AI 아바타가 본인의 동의 없이 사용되는 경우에는 법적 책임을 물을 수 있다.
• AI 스타트업의 기회: AI 아바타를 제공하는 스타트업들은 저렴한 비용과 높은 효율성을 강조하며, 인플루언서들과 미디어 회사들에게 서비스를 판매한다. AI 아바타는 초보 인플루언서들의 일자리를 위협할 수 있지만, 유명 인플루언서들은 AI 아바타를 자신의 브랜드 가치를 높이는 도구로 활용할 수 있다.

 

 

How Chinese influencers use AI digital clones of themselves to pump out content | China | The Guardian

How Chinese influencers use AI digital clones of themselves to pump out content

 

인공지능 분야 중국 사회의 특징적인 변화와 흐름

중국은 2030년까지 글로벌 1위 인공지능 강국이 되기 위해 정부와 기업의 적극적인 투자와 연구를 이어가고 있습니다. 중국의 인공지능 산업 규모는 2020년 1,500억 위안(약 25조 7,890억원)에 달하며, 2019년부터 2025년까지 연평균 26.8% 성장하여 4,500억 위안(약 77조 3,640억원)에 달할 것으로 전망됩니다. 2020년 인용된 전 세계 인공지능 논문 중 20.7%는 중국에서 발표된 것으로, 중국은 논문 인용 수에서 처음으로 미국을 제치고 1위를 차지했습니다.

중국은 도시 인프라, 의료, 제조, 교통 등 다양한 분야에 인공지능을 활용하고 있습니다. 중국은 안면인식 보안기술의 개발 및 상용화를 이끄는 선두주자로서 글로벌 트렌드를 주도하고 있습니다. 중국은 빠른 속도의 인구 고령화, 인구수 대비 부족한 의사 수, 의료시설의 도시 집중화로 인한 도‧농간 의료 불균형 등 여러 사회 문제를 해결하는데도 인공지능 기술을 적극 활용하고 있습니다. 중국의 자율주행차 시장 역시 대형 인터넷 플랫폼 기업, 자율주행 전문 업체, 완성차 업체, 차량공유 서비스 업체들 간 치열한 경쟁을 통해 빠르게 성장하고 있습니다.

중국의 인공지능 산업의 성공요인은 ▲빅데이터 경쟁력, ▲14억 인구를 기반으로 한 거대 내수시장, ▲정부의 강력한 의지와 중장기 전략이 뒷받침된 정책 환경을 꼽을 수 있습니다. 중국은 정부 승인 아래 광범위한 개인정보 수집‧활용을 허용하여 개인 데이터에 대한 접근이 비교적 용이하다는 장점이 있습니다. 중국은 14억 인구를 기반으로 한 내수시장의 잠재력을 인공지능 기술 개발의 저변으로 활용하고 있습니다. 또한 국가 차원에서 명확한 비전을 갖고 인재 확보에 총력을 기울인 결과, 대규모 자본과 인재가 모여들면서 시장이 빠르게 성장하고 있습니다.

 

 

bloomberg.com

'지옥철' 출퇴근길에 대한 서울시의 해결책은? 입석 전용 지하철 객차

작년 할로윈에 발생한 끔찍한 사건 이후 군중 밀집 사고에 대한 우려가 커지고 있습니다.

서울에서 지하철을 타는 여행객들. 사진작가: 정성준 / 게티 이미지

 

• 지하철 좌석 없애기 실험: 서울시는 지하철 혼잡도를 낮추기 위해 일부 지하철 칸의 좌석을 없애는 실험을 1월부터 시행할 예정입니다. 4호선과 7호선의 각각 두 개의 칸에서 좌석을 제거하면 12.6제곱미터의 공간이 확보됩니다. 현재 4호선과 7호선의 혼잡도는 각각 193.4%와 164.2%로, 이를 153.4%와 130.1%로 낮추고자 합니다.
• 다른 도시의 사례: 서울시는 좌석을 없애는 방법을 시도하는 최초의 도시는 아닙니다. 방콕의 대중교통청은 2017년부터 일부 칸의 좌석을 제거하는 시험을 시작했습니다. 타이페이의 시장은 올해 이 방법이 효과가 있다고 말하고, 갈색 원후선에서 더 많은 좌석을 제거할 것이라고 밝혔습니다.
• 혼잡 관련 사고 우려: 최근 몇 달 동안 한국의 지하철에서는 혼잡으로 인한 사고가 발생했습니다. 또한 작년 할로윈 때 서울 이태원에서 발생한 치명적인 사고로 인해 인파 붕괴 사고에 대한 두려움도 높아졌습니다. 4월에는 김포 골드라인에서 두 명이 의식을 잃었고, 이 노선은 혼잡도가 가장 높은 노선으로 알려져 있습니다. 지하철 이용자들은 정치인들이 직접 혼잡을 경험해보라고 요구했고, 2022년 대선 후보인 윤석열 대통령은 김포 골드라인을 타고 대중교통 개선을 약속했습니다.
• AI 기반 혼잡 예측 시스템: 한국의 행정안전부는 11월 2일, 정부가 최근 지하철 플랫폼의 혼잡도를 예측하는 AI 기반 시스템을 개발했다고 발표했습니다. 이 시스템은 플랫폼에 서 있는 사람 수, 출입구에서 승하차하는 사람 수 등을 모니터링하고, 예기치 않은 급증이 발생할 경우 혼잡을 완화하기 위한 조치를 취합니다. 이 시스템은 이번 달 서울 지하철에서 시범 운영될 예정입니다.

Seoul Subway Removes Seats in Carriages to Reduce Rush Hour Congestion - Bloomberg

Bloomberg - Are you a robot?

 

지하철 좌석 없애기는 더 위험하지 않을까?

 

지하철 좌석 없애기는 서울 지하철의 혼잡도를 줄이기 위한 시험적인 조치입니다. 서울 지하철은 세계에서 가장 붐비는 도시철도 시스템 중 하나로, 매일 평균 7백만 명의 승객을 수송합니다. 지하철 좌석 없애기는 2024년 1월부터 4호선과 7호선의 일부 열차에서 출퇴근 시간에만 시행될 예정이며, 좌석이 없는 칸은 한 칸당 160명의 수용력을 가집니다.

지하철 좌석 없애기가 안전에 미치는 영향은 아직 확실하지 않습니다. 일부 전문가들은 이 조치가 승객들의 편안함과 건강을 저해할 수 있다고 우려하고 있습니다. 예를 들어, 지하철에서 앉아있는 것이 서있는 것보다 심장에 더 좋다고 주장하는 연구도 있습니다. 또한, 지하철에서의 혼잡은 감염병의 전파 위험을 증가시킬 수 있습니다. 반면에, 일부 전문가들은 지하철 좌석 없애기가 승객들의 체력과 활동량을 증가시킬 수 있다고 주장하고 있습니다.

결론적으로, 지하철 좌석 없애기는 서울 지하철의 혼잡 문제를 해결하기 위한 잠재적인 해법이지만, 그 효과와 안전성은 아직 입증되지 않았습니다. 이 조치에 대한 승객들의 반응과 만족도도 중요한 평가 요소가 될 것입니다. 서울 지하철은 이 시험 프로젝트의 결과를 바탕으로 향후 정책을 결정할 것입니다.