[2023년 12월 9일 washingtonpost.com] EU, 미국보다 앞서 획기적인 AI 법안 합의에 도달하다

washingtonpost.com
EU, 미국보다 앞서 획기적인 AI 법안 합의에 도달하다
이 규정은 위험을 분류하고, 투명성을 강화하며, 규정 위반에 대해 기술 기업에 금전적 불이익을 주는 글로벌 표준이 될 수 있는 길을 열어줍니다.

6월 유럽의회에서 의원들이 인공지능 법안에 대해 투표하고 있다. (장 프랑수아 바디아스/AP)

 

• E.U. 인공지능 법안 합의: 유럽연합(E.U.) 관계자들은 인공지능(AI)을 규제하는 세계에서 가장 야심찬 법안에 대한 합의에 도달했습니다. 이 법안은 위험도에 따라 AI를 분류하고, 투명성을 강제하고, 준수하지 않는 기술 회사에 금전적 제재를 가할 수 있는 세계 표준이 될 수 있습니다.
• AI의 이점과 위험을 고려: 이 법안은 인공지능의 급속한 발전이 모니터링과 감독을 동반하고, 자율주행차나 의료기기와 같은 고위험 제품에서 AI의 사용을 금지하도록 하여 인공지능의 이점과 위험을 고려하고자 합니다. 유럽 시장에서 사업을 하고자 하는 기술 회사들은 데이터 공개와 엄격한 테스트를 해야 합니다.
• 가장 논란이 되는 부분은 타협: 가장 논란이 되는 부분은 인터넷 데이터를 캡처하여 ChatGPT와 같은 소비자 제품을 지원하는 대규모 기반 언어 모델을 규제하려는 것과 유럽 안보부문에 AI를 배포할 수 있는 넓은 면제를 요구하는 것이었습니다. 최종 합의안은 얼굴 인식 데이터베이스나 인종, 성별, 성적 취향 등으로 분류하는 시스템을 만드는 데 사용되는 얼굴을 인터넷이나 보안 영상에서 스크래핑하는 것을 금지했지만, 인신매매 피해자를 찾거나 테러 위협을 예방하고 살인, 강간 등의 범죄 용의자를 추적하는 데 법 집행 기관이 실시간 얼굴 인식을 사용할 수 있는 일부 면제를 만들었습니다.
• 미국과의 차이점: 유럽은 기술 규제에서 선도적인 역할을 하고 있습니다. 미국 의회는 인공지능에 관한 양당간 법안을 작성하는 초기 단계에 있습니다. 의원들은 이번 주에 E.U.의 법안이 너무 과도한 것이라는 우려를 제기했습니다.

 

[Bing Chat Copilot의 페이지 요약]

[기사 원문 링크] E.U. reaches deal on AI Act, landmark artificial intelligence bill - The Washington Post

[Quillbot으로 기사 요약]

유럽연합은 세계에서 가장 야심찬 인공 지능 규제법에 대한 획기적인 합의에 도달하여 위험을 분류하고, 투명성을 강화하며, 규정을 위반하는 기술 기업에 금전적 불이익을 주는 글로벌 표준이 될 수 있는 길을 열었습니다. EU의 인공지능법은 인공지능의 기하급수적인 발전이 모니터링과 감독을 동반하도록 하고, 가장 위험성이 높은 인공지능의 사용을 금지하는 것을 목표로 합니다.

서구에서 가장 많은 4억 5,000만 명의 소비자를 보유한 27개국의 블록에서 사업을 하고자 하는 기술 기업은 특히 자율주행차나 의료 장비와 같은 제품의 '고위험' 애플리케이션에 대해 데이터를 공개하고 엄격한 테스트를 거쳐야 할 것입니다. 이번 합의는 법률을 제안하는 유럽연합 집행위원회와 이를 채택하는 유럽 이사회 및 유럽 의회의 대표들이 약 37시간에 걸친 마라톤 회담 끝에 이루어졌습니다.

유럽 의회는 EU 국가들이 AI 규제를 위한 국가 기구와 범지역적 유럽 규제 기관을 설립하도록 요구하는 법안을 통과시킬 예정입니다.

 
*아래의 더보기를 누시면 전문을 보실 수 있습니다.

기사 전문 번역 

 

유럽연합 관리들은 금요일 세계에서 가장 야심찬 인공 지능 규제법에 대한 획기적인 합의에 도달하여 위험을 분류하고 투명성을 강화하며 규정 위반 시 기술 기업에 금전적 불이익을 주는 글로벌 표준이 될 수 있는 길을 열었습니다.

인공지능을 옹호하는 사람들이 인공지능이 인류의 미래에 가져올 이점을 강조하는 가운데, 인공지능에 대한 가장 날카로운 비판자들이 인공지능의 무한한 위협을 경고하고 있는 지금, 유럽의 인공지능법은 인공지능의 기하급수적인 발전이 모니터링과 감독을 동반하도록 하고, 가장 위험성이 높은 사용은 금지하도록 하고 있습니다. 서구에서 가장 많은 4억 5천만 명의 소비자를 보유한 27개국에서 사업을 하고자 하는 기술 기업은 특히 자율주행차나 의료 장비와 같은 제품의 '고위험' 애플리케이션에 대해 데이터를 공개하고 엄격한 테스트를 수행해야 합니다.

AI 법안 협상을 공동 주도하고 있는 루마니아 의원 드라고스 투도라슈는 특히 지난해 인기 챗봇 ChatGPT가 출시된 이후 인공지능이 가져올 경제적 이익과 사회적 위험을 이해하기 위해 애쓰는 전 세계 규제 당국의 모범이 될 것이라고 평가했습니다.

"오늘 우리가 이룬 성과는 모델을 찾는 모든 이들에게 영감을 줄 것입니다."라고 그는 말합니다. "우리는 보호와 혁신 사이에서 균형을 맞췄습니다."

이번 합의는 법률을 제안하는 유럽연합 집행위원회와 이를 채택하는 유럽이사회 및 유럽의회 대표들이 약 37시간에 걸친 마라톤 회담 끝에 이루어졌습니다. 유럽이사회를 대표하는 프랑스, 독일, 이탈리아는 법안의 일부 내용을 수정하기 위해 막판까지 수정안을 모색했지만, 유럽연합의 입법부인 유럽의회 대표들은 이에 강력히 반대했습니다.

그 결과 법안에서 가장 논란이 되었던 부분, 즉 인터넷 데이터를 수집하여 ChatGPT와 같은 소비자 제품을 뒷받침하는 방대한 기반 언어 모델을 규제하는 것과 유럽 보안군이 인공 지능을 배치할 수 있도록 광범위한 면제를 허용하는 것을 목표로 하는 법안이 타협점을 찾았습니다.

스페인의 디지털화 및 인공지능 담당 국무장관인 카르메 아르티가스는 합의 후 기자 회견에서 합의 과정이 때때로 고통스럽고 스트레스를 받았지만, 잠을 설친 만큼의 가치가 있는 획기적인 합의였다고 말했습니다.

가장 논쟁의 여지가 많았던 것은 후자의 문제였습니다. 보도 자료에 따르면 최종 협상에서는 얼굴 인식 데이터베이스 또는 인종과 같은 민감한 특성을 사용하여 분류하는 기타 시스템을 만들기 위해 인터넷이나 보안 영상에서 얼굴을 스크래핑하는 것이 금지되었습니다. 하지만 법 집행 기관이 인신매매 피해자를 찾고, 테러 위협을 방지하고, 살인, 강간 및 기타 범죄의 용의자를 추적하기 위해 '실시간' 얼굴 인식을 사용할 수 있도록 일부 예외 조항을 만들었습니다.

 

[브뤼셀이 협상을 타결하기 위해 경쟁하는 가운데, 의회와 EU는 AI 정책에 대해 서로 다른 입장을 보이고 있습니다.]

 

• AI 규제에 관한 EU와 미국의 갈등: 이 기사는 인공지능(AI)을 규제하기 위한 세계에서 가장 야심찬 법안인 EU AI Act에 대한 협상이 어려움에 부딪히고 있는 상황과, 미국 의회가 AI에 대해 다른 접근 방식을 취하고 있는 상황을 보여준다.
• EU AI Act의 주요 내용: EU AI Act는 AI 응용 프로그램의 위험성에 따라 사용을 제한하는 “위험 기반” 접근 방식을 취한다. 예를 들어, 얼굴 인식, 신용 점수, 채용 과정 등의 고위험 AI는 엄격한 규제를 받으며, 일상적인 저위험 AI는 자유롭게 사용할 수 있다.
• EU AI Act의 협상 상황: EU AI Act는 2021년에 처음 제안되었으나, 여러 당사자들의 입장 차이로 인해 아직 합의에 이르지 못했다. 특히, 프랑스, 독일, 이탈리아 등의 대형 국가들은 기초 모델(foundation model)에 대한 규제와 투명성 규칙을 완화하거나 삭제하려고 하고 있다. 기초 모델은 인터넷에서 데이터를 수집하여 학습한 모델로, ChatGPT와 같은 AI 챗봇의 기반 기술이다.
• 미국의 AI 정책: 미국 의회는 AI 정책을 위한 이원제 작업 그룹을 구성했으나, 구체적인 법안은 아직 발표되지 않았다. 미국 의원들은 EU의 접근 방식이 과도한 규제로 AI 개발자들을 해외로 몰아낼 수 있다고 우려하며, “인센티브 기반” 접근 방식을 추구하고 있다고 말했다.

유럽의 디지털 프라이버시 및 인권 단체들은 이미 AI 기반 기술을 테스트하기 시작한 각국의 경찰과 정보기관에 대한 광범위한 예외조항을 마련하려는 움직임에 맞서 의회 대표들을 압박하고 있습니다. 이들은 AI가 정치적 시위대를 식별하거나 인종, 성별, 성적 취향 또는 기타 표식에 따라 사람들을 감시하고 분류하는 데 더 광범위하게 사용될 수 있다고 경고했습니다. 금요일에 발표된 공개 서한에서 면제 비판자들은 유럽에서 "디스토피아적인" AI 기반 감시가 증가하고 있다고 비난하며, "위험하고 차별적인 경찰 AI를 합법화하려는" 국가와 기술 기업을 비난했습니다.

이 법안은 궁극적으로 기초 모델에 대한 제한을 포함했지만 개발자가 자신의 제품과 도구에 맞게 자유롭게 변경할 수 있는 코드를 사용하여 개발되는 "오픈 소스 모델"에 대해서는 광범위한 면제를 부여했습니다. 이러한 움직임은 오픈소스 모델인 LLaMA를 출시한 메타를 비롯해 프랑스의 미스트랄, 독일의 알레프 알파 등 법에 반대하는 로비를 벌인 유럽의 오픈소스 AI 기업들에게 도움이 될 수 있습니다.

그러나 '시스템적 위험'이 있는 것으로 분류된 일부 독점 모델은 에너지 효율 평가 및 보고 등 추가 의무를 적용받게 됩니다. 합의문의 전문은 즉시 공개되지 않았으며, 보도 자료에는 더 엄격한 요건을 유발하는 기준이 무엇인지 명시되어 있지 않았습니다.

AI 법을 위반하는 기업은 위반 사항과 위반 기업의 규모에 따라 전 세계 매출의 최대 7%에 해당하는 벌금을 부과받을 수 있습니다.

이 법은 기술 규제에 대한 유럽의 리더십을 더욱 강화합니다. 수년 동안 유럽은 디지털 프라이버시, 소셜 미디어의 폐해, 온라인 시장 집중에 대한 우려를 해결하기 위한 새로운 법률을 만드는 데 있어 세계를 선도해 왔습니다.

투도라슈는 AI 법안의 설계자들은 법안 초안 작성 초기 단계부터 전 세계 정부에 미칠 영향을 "신중하게 고려했다"고 말했습니다. 그는 다른 입법자들이 자체 AI 법안 초안을 작성하기 시작하면서 EU의 접근 방식을 살펴보고 있다는 소식을 자주 듣는다고 말했습니다.

그는 "이 법안은 다른 많은 관할 구역의 표준이자 모델이 될 것"이라며 "다른 많은 사람들에게 영향을 미칠 것이기 때문에 초안을 작성할 때 더 많은 주의 의무를 가져야 한다"고 말했습니다.

 

중국부터 브라질까지, 전 세계에서 AI를 규제하는 방법

 

• AI의 성장과 위험: AI는 많은 분야에서 혁신적인 역할을 할 수 있지만, 동시에 사회적 규범, 산업, 개인 정보 등에 영향을 미칠 수 있습니다. 일부 전문가들은 AI가 인간의 지능을 초월하거나 수백만 명의 일자리를 없앨 수 있다고 우려합니다.
• AI의 분류와 규제: 일부 국가들은 AI를 위험도에 따라 분류하고, 사용자의 권리와 책임을 명확히 하는 법안을 제정하거나 제안하고 있습니다. 예를 들어, 브라질은 AI의 결정이나 추천에 대한 설명, 이의 제기, 인간 개입 등의 권리를 사용자에게 부여하는 법안을 작성했습니다. 유럽연합은 AI를 허용되지 않는, 고위험, 제한적 위험의 세 가지로 나누고, 각각에 대한 규제 수준을 정한 AI법안을 통과시켰습니다.
• AI의 혁신과 전략: 일부 국가들은 AI의 규제보다는 AI의 발전과 활용에 더 관심을 보이고 있습니다. 예를 들어, 중국은 AI가 사회주의 핵심가치를 반영하도록 규정하면서도, 2030년까지 AI의 이론, 기술, 응용을 세계적인 수준으로 달성하려는 목표를 세웠습니다. 아랍에미리트는 AI와 블록체인에 관한 위원회를 설립하고, 에너지, 관광, 의료 등의 주요 분야에 AI를 통합하는 방안을 제시했습니다.

미국 의회에서 수년 동안 지지부진했던 유럽연합의 기술 법안은 실리콘밸리 기업들에게 광범위한 영향을 미쳤습니다. 유럽의 디지털 개인정보 보호법인 일반개인정보보호법은 Microsoft와 같은 일부 기업이 유럽 국경을 넘어 사용자 데이터를 처리하는 방식을 점검하도록 촉구했습니다. 메타, 구글 및 기타 기업들은 이 법에 따라 벌금을 부과받았으며, 구글은 이 법에 따른 검토로 인해 생성형 AI 챗봇 바드의 유럽 지역 출시를 연기해야 했습니다. 그러나 이 법으로 인해 비용이 많이 드는 컴플라이언스 조치가 중소기업의 발목을 잡았고, 장기간의 조사와 상대적으로 적은 벌금으로 인해 세계 최대 기업들 사이에서 이 법의 효력이 무뎌졌다는 우려가 제기되고 있습니다.

이 지역의 새로운 디지털 법률인 디지털 서비스법 및 디지털 시장법은 이미 거대 기술 기업의 관행에 영향을 미치고 있습니다. 유럽연합 집행위원회는 10월에 이스라엘-가자지구 전쟁과 관련된 테러, 폭력, 증오 발언이 포함된 게시물을 처리한 엘론 머스크의 X(구 트위터)를 조사하고 있다고 발표했으며, 티에리 브르통 유럽연합 집행위원은 디지털 서비스법에 따라 다른 기업들에게 전쟁과 관련된 콘텐츠에 대한 경계를 촉구하는 서한을 보냈습니다.

인공지능에 대한 규제 당국의 우려가 커지고 있다는 신호로, 영국의 경쟁 규제 당국은 금요일에 이 거대 기술 기업이 다년간 수십억 달러를 투자한 이후 Microsoft와 OpenAI의 관계를 면밀히 조사하고 있다고 발표했습니다. 마이크로소프트는 최근 최고 경영자인 샘 알트먼의 복귀 이후 회사 지배구조를 개편한 후 OpenAI의 의결권이 없는 이사회 의석을 확보했습니다.

마이크로소프트의 사장인 브래드 스미스는 X에 올린 글에서 규제 당국과 협력할 것이라고 말했지만, 특히 2014년 구글이 런던의 딥마인드를 인수한 사례를 언급하며 다른 빅테크 AI 인수와 차별화하려고 노력했습니다.

한편, 의회는 수개월에 걸친 청문회와 포럼을 통해 인공 지능에 관한 초당적 법안을 마련하는 초기 단계에 머물러 있습니다. 이번 주 상원의원들은 미국이 미국에서 AI를 개발하도록 개발자를 장려하는 데 초점을 맞춘 훨씬 가벼운 접근 방식을 취하고 있음을 시사했으며, 의원들은 EU의 법이 너무 무거울 수 있다는 우려를 제기했습니다.

유럽 AI 업계에서는 새로운 법안이 잠재적으로 기술 혁신을 저해하고 이미 AI 연구 개발이 더 발전한 미국과 영국에 더 많은 이점을 줄 수 있다고 우려하는 목소리가 더욱 높았습니다.

"더 이상 불가능하거나 경제적으로 실현 불가능한 몇 가지 혁신이 있을 것입니다."라고 독일의 인공 지능 개발 촉진 센터인 AppliedAI 이니셔티브의 전무이사 안드레아스 리블은 말합니다. "글로벌 경쟁에서 뒤처질 뿐입니다."

금요일의 거래는 유럽 의회가 입법 선거를 앞둔 5월 이전에 법안을 통과시킬 수 있도록 보장하는 것처럼 보였습니다. 법안이 통과되면 완전히 발효되기까지 2년이 걸리며, EU 국가들은 AI를 규제하기 위한 국가 기관을 공식화하거나 설립하고 범지역적 유럽 규제 기관을 설립하도록 강제할 것입니다.

[DeepL로 기사 번역]

 

기사의 맥락을 읽는  이미지

지난 6월 이스라엘 텔아비브 대학교 캠퍼스에 마이크로소프트가 지원하는 OpenAI의 CEO이자 ChatGPT 개발자인 샘 알트먼의 연설이 예정되어 있는 가운데 현수막이 걸려 있습니다. (아미르 코헨/로이터)