washingtonpost.com
금융, 비즈니스, 법조계에 불어닥친 AI 공포
다보스부터 월스트리트, 미국 대법원까지, AI 리스크가 화두로 떠오르고 있습니다.
- AI의 위험성: 인공지능(AI)은 금융, 비즈니스, 법률 등 다양한 분야에서 사용되고 있지만, 동시에 정확성, 개인정보, 편향, 지적재산 등에 관한 우려를 불러일으키고 있다. AI는 또한 가짜 뉴스, 사회적 갈등, 시장 붕괴 등의 위협을 초래할 수 있다.
- AI의 규제: AI의 잠재적인 위험성에 대해 실리콘 밸리의 기업가들뿐만 아니라 정부, 규제기관, 법원 등의 주요 기관들이 경고하고 있다. SEC, FINRA, FSOC 등의 금융규제기관은 AI의 사용에 대한 정보수집, 규칙제안, 위험감시 등의 조치를 취하고 있다.
- AI의 논쟁: AI의 발전과 상업화에 열중하는 기업들과 AI의 위험성을 과장하거나 규제를 요구하는 기업들 사이에는 논쟁이 벌어지고 있다. AI의 혁신과 이익을 증대시킬 수 있는 잠재력과 AI가 인류에게 미칠 수 있는 사회적, 윤리적 영향을 균형있게 고려해야 한다는 목소리가 제기되고 있다.
[Bing Chat Copilot의 페이지 요약]
[기사 원문 링크] AI fears are reaching the top levels of finance and law - The Washington Post
[Quillbot으로 기사 요약]
미국 금융산업규제당국(FINRA)은 인공지능(AI)을 '새로운 위험'으로 분류했고, 세계경제포럼은 인공지능으로 인한 잘못된 정보가 세계 경제에 단기적으로 가장 큰 위협이 될 수 있다는 설문조사를 발표했습니다. 이는 금융안정감독위원회가 AI가 "직접적인 소비자 피해"를 초래할 수 있다고 경고하고 증권거래위원회(SEC)의 게리 겐슬러 위원장이 유사한 AI 모델에 의존해 매매 결정을 내리는 수많은 투자회사의 금융 안정성에 대한 위협에 대해 공개적으로 경고한 지 불과 몇 주 만에 나온 결과입니다.
세계경제포럼의 설문조사에 따르면 AI 챗봇이 작성하고 부추기는 가짜 뉴스와 선전이 세계 경제의 가장 큰 단기적 위험 요소인 것으로 나타났습니다. SEC의 젠슬러는 가장 노골적인 AI 비평가 중 한 명으로, 투자자문협회는 SEC에 제안된 규칙을 철회하고 정보 수집을 통해 알게 된 내용을 바탕으로 향후 조치를 취할 것을 촉구했습니다. 금융 서비스 회사들은 고객 커뮤니케이션, 백오피스 운영, 포트폴리오 관리를 개선하기 위해 인공 지능(AI)의 잠재력을 탐구하고 있습니다. 그러나 AI는 편향된 대출 결정, 글로벌 시장 붕괴 가능성, 사생활 침해 가능성 등 더 큰 위험도 수반합니다. 대법원은 AI가 법을 비인간화하고 프라이버시 이익을 침해할 가능성에 대해 우려를 표명했습니다.
전문가들에 따르면 AI 시스템은 예상치 못한 위험이나 '꼬리 위험'을 발견하는 데 인간만큼 뛰어나지 않을 수 있다고 합니다. AI가 점점 더 복잡해짐에 따라 '블랙박스' 자동화와 잘못 설계된 시스템에 대한 우려는 금융 거래에서 구매자와 판매자 간의 신뢰를 약화시킬 수 있습니다. AI의 잠재적 위험성에 대한 논쟁은 2022년 말 OpenAI의 ChatGPT 출시 이후 더욱 격화되었습니다. 일부 기업 경영진은 AI가 사회적 혼란을 일으킬 수 있는 잠재력이 핵무기나 치명적인 전염병에 버금간다고 경고했습니다. 그러나 일부 연구자들은 이러한 우려가 AI의 실제 영향력에 대한 관심을 분산시키고 있다고 주장하는 반면, 다른 연구자들은 이러한 우려가 과장된 것이며 규제 당국이 사람들에게 혜택을 주고 기술 기업의 수익을 높일 수 있는 혁신을 차단하도록 강요할 위험이 있다고 주장합니다. 비평가들은 OpenAI의 CEO인 샘 알트먼과 같은 일부 리더들이 AI 기술의 개발과 상용화를 추진하고 있다고 주장하는 반면, 소규모 기업들은 OpenAI, Google, Microsoft와 같은 거대 기업들이 규제를 촉발하기 위해 AI 위험을 과장하고 있다고 비난합니다.
*아래의 더보기를 누시면 전문을 보실 수 있습니다.
기사 전문 번역
실리콘 밸리의 인사들은 오랫동안 인공지능의 위험성에 대해 경고해 왔습니다. 이제 이들의 불안은 법률 시스템, 글로벌 비즈니스 리더들의 모임, 월스트리트 최고 규제 당국 등 다른 권력의 전당으로 옮겨가고 있습니다.
지난주 증권업계 자율 규제기관인 금융산업규제청(FINRA)은 AI를 '새로운 위험'으로 분류했고, 스위스 다보스에서 열린 세계경제포럼(WEF)은 AI로 인한 잘못된 정보가 세계 경제에 단기적으로 가장 큰 위협이 될 것이라는 조사 결과를 발표했습니다.
이러한 보고서는 워싱턴의 금융안정감독위원회가 AI가 "직접적인 소비자 피해"를 초래할 수 있다고 경고하고, 증권거래위원회(SEC)의 게리 젠슬러 위원장이 유사한 AI 모델에 의존하여 매매 결정을 내리는 수많은 투자회사의 금융 안정성에 대한 위협에 대해 공개적으로 경고한 지 불과 몇 주 만에 발표되었습니다.
그는 12월 연설에서 "AI가 향후 금융 위기의 사후 보고에서 중심적인 역할을 할 수 있다"고 말했습니다.
스위스의 한 스키 마을에서 열린 최고 경영자, 정치인, 억만장자를 위한 세계경제포럼의 연례 컨퍼런스에서 AI는 핵심 주제 중 하나이며, 많은 패널과 이벤트의 주제이기도 합니다.
지난주 발표된 보고서에서 이 포럼은 1,500명의 정책입안자 및 업계 리더를 대상으로 실시한 설문조사에서 AI 챗봇이 작성하고 부추기는 가짜 뉴스와 선전이 세계 경제의 가장 큰 단기적 위험요인이라고 밝혔습니다. 올해 미국, 멕시코, 인도네시아, 파키스탄 등의 국가에서 전 세계 인구의 약 절반이 선거에 참여하며, 허위 정보 연구자들은 AI로 인해 사람들이 허위 정보를 더 쉽게 퍼뜨리고 사회적 갈등이 커질 것을 우려하고 있습니다.
워싱턴 포스트는 금요일에 중국의 선동가들이 이미 대만의 정치에 영향을 미치기 위해 생성형 AI를 사용하고 있다고 보도했습니다. 정부 관리들은 대만의 가짜 뉴스 동영상에 AI가 생성한 콘텐츠가 등장하고 있다고 말했습니다.
이 포럼의 보고서는 FINRA가 연례 보고서에서 AI가 잠재적 인 비용과 효율성 이점을 제공함에도 불구하고 "정확성, 개인 정보 보호, 편견 및 지적 재산에 대한 우려"를 불러 일으켰다고 말한 지 하루 만에 발표되었습니다.
그리고 12월에는 금융 시스템의 위험한 행동을 감시하는 재무부 산하 금융안정감독위원회(FSOC)가 미처 발견하지 못한 AI 설계 결함으로 인해 자격을 갖춘 신청자에게 대출을 거부하는 등 편향된 결정을 내릴 수 있다고 경고했습니다.
또한 방대한 데이터 세트를 학습하는 생성형 AI는 설득력 있게 들리지만 완전히 잘못된 결론을 내릴 수 있다고 위원회는 덧붙였습니다. 재닛 옐런 재무장관이 의장을 맡고 있는 금융안정위원회(FSOC)는 규제 당국과 금융 업계가 AI 개발로 인해 발생할 수 있는 잠재적 위험을 추적하는 데 더 많은 관심을 기울일 것을 권고했습니다.
SEC의 젠슬러는 가장 노골적인 AI 비평가 중 한 명입니다. 업계 단체인 투자 자문가 협회(Investment Adviser Association)의 대표인 카렌 바에 따르면, 지난 12월에 그의 기관은 여러 투자 자문가에게 AI 사용에 관한 정보를 요청했습니다. '스윕'으로 알려진 이 정보 요청은 위원회가 예측 데이터 분석으로 알려진 AI를 사용하는 어드바이저와 고객 간의 이해 상충을 방지하기 위한 새로운 규칙을 제안한 지 5개월 만에 이루어졌습니다.
SEC는 규칙 제정 제안서에서 "이로 인한 이해 상충은 이전보다 더 뚜렷하고 광범위한 방식으로 투자자에게 피해를 입힐 수 있다"고 말했습니다.
투자 자문가는 이미 기존 규정에 따라 고객의 요구 사항을 우선시하고 그러한 충돌을 피해야 한다고 바는 말했습니다. 그녀의 그룹은 SEC가 제안된 규칙을 철회하고 정보 조사에서 알게 된 내용을 바탕으로 향후 조치를 취하기를 원합니다. "SEC의 규칙 제정은 본질을 놓치고 있습니다."라고 그녀는 말합니다.
금융 서비스 기업들은 고객 커뮤니케이션, 백오피스 운영, 포트폴리오 관리를 개선할 수 있는 기회를 보고 있습니다. 하지만 AI는 더 큰 위험도 수반합니다. 금융 결정을 내리는 알고리즘은 편향된 대출 결정을 내려 소수자의 신용 접근을 거부하거나, 동일한 AI 시스템에 의존하는 수십 개의 기관이 동시에 판매할 경우 글로벌 시장 붕괴를 초래할 수도 있습니다.
"이것은 우리가 이전에 보아왔던 것과는 다른 것입니다. AI는 사람의 손이 없어도 일을 처리할 수 있습니다."라고 현재 워싱턴의 로펌 롭스 앤 그레이에서 일하고 있는 전직 증권거래위원회 관리인 제레미아 윌리엄스 변호사는 말합니다.
대법원도 우려할 만한 이유가 있다고 봅니다.
"AI는 변호사와 비변호사 모두에게 주요 정보에 대한 접근성을 획기적으로 높일 수 있는 잠재력이 있는 것은 분명합니다. 그러나 사생활의 이익을 침해하고 법을 비인간화할 위험도 분명히 존재합니다."라고 존 G. 로버츠 주니어 대법관은 미국 법원 시스템에 대한 연말 보고서에서 썼습니다.
아메리칸 대학교 워싱턴 법과대학의 힐러리 앨런 부학장은 막다른 길로 인도하는 GPS 지시를 따르는 운전자처럼, 인간은 돈 관리에서 AI에 너무 많은 것을 맡길 수 있다고 말했습니다. "AI가 우리보다 더 똑똑하다는 것은 신비로운 일입니다."라고 그녀는 말합니다.
또한 AI는 예상치 못한 위험이나 '꼬리 위험'을 발견하는 데 있어 인간보다 나을 수 없다고 Allen은 말합니다. 2008년 이전에는 월스트리트에서 주택 거품의 종말을 예견한 사람이 거의 없었습니다. 그 이유 중 하나는 주택 가격이 전국적으로 하락한 적이 없었기 때문에 월스트리트의 모델에서는 이러한 일률적인 하락이 일어나지 않을 것이라고 가정했기 때문입니다. 앨런은 최고의 AI 시스템도 그 기반이 되는 데이터만큼만 우수하다고 말합니다.
AI가 점점 더 복잡해지고 능력이 향상됨에 따라 일부 전문가들은 어떤 결정에 도달했는지 설명할 수 없는 '블랙박스' 자동화에 대해 우려하고 있으며, 인간은 그 건전성에 대해 불확실성을 갖게 됩니다. 뉴욕대학교 스턴 경영대학원의 금융학 임상 교수인 리처드 버너는 잘못 설계되거나 관리되는 시스템은 모든 금융 거래에 필수적인 구매자와 판매자 간의 신뢰를 약화시킬 수 있다고 말합니다.
재무부 금융 연구실의 초대 소장을 지낸 버너는 "기계가 폭주하는 스트레스 시나리오는 아무도 해본 적이 없다"고 덧붙였습니다.
실리콘밸리에서 AI의 잠재적 위험성에 대한 논쟁은 새로운 것이 아닙니다. 하지만 2022년 말, 차세대 기술의 역량을 전 세계에 보여준 OpenAI의 ChatGPT 출시 이후 몇 달 동안 이 논쟁은 더욱 격렬해졌습니다.
기술 산업에 활력을 불어넣은 인공지능 붐 속에서 일부 기업 경영진은 인공지능이 핵무기나 치명적인 팬데믹에 버금가는 사회적 혼란을 일으킬 수 있다고 경고했습니다. 많은 연구자들은 이러한 우려가 AI의 실제 영향력에 대한 관심을 분산시키고 있다고 말합니다. 다른 전문가들과 기업가들은 이 기술에 대한 우려가 과장된 것이며, 규제 당국이 사람들을 돕고 기술 기업의 수익을 높일 수 있는 혁신을 차단하도록 강요할 위험이 있다고 말합니다.
작년에 전 세계의 정치인과 정책 입안자들도 AI가 사회에 어떻게 적응할지 고민했습니다. 의회는 여러 차례 청문회를 개최했습니다. 바이든 대통령은 AI가 "우리 시대의 가장 중요한 기술"이라는 내용의 행정명령을 발표했습니다. 영국은 리시 수낙 총리가 글로벌 AI 포럼을 소집하여 "인류가 AI에 대한 통제권을 완전히 잃을 수 있다"고 경고했습니다. 텍스트, 비디오, 이미지, 오디오를 생성할 수 있는 '생성형' AI가 잘못된 정보를 생성하고 일자리를 대체하거나 심지어 사람들이 위험한 생물무기를 만드는 데 사용될 수 있다는 우려입니다.
기술 비평가들은 OpenAI의 CEO인 샘 알트먼(Sam Altman)과 같이 경종을 울리는 일부 리더들이 그럼에도 불구하고 기술 개발과 상용화를 추진하고 있다고 지적했습니다. 소규모 기업들은 AI의 거물급 기업인 OpenAI, Google, Microsoft가 AI 위험을 과장하여 신규 진입자의 경쟁을 어렵게 만드는 규제를 촉발하고 있다고 비난했습니다.
뉴욕에 본사를 둔 오픈소스 AI 스타트업 허깅페이스(Hugging Face)의 수석 윤리 과학자 마가렛 미첼은 "과대광고의 문제는 말과 실제로 가능한 것 사이에 괴리가 있다는 것입니다."라고 말합니다. "제너레이티브 AI가 대중에게 매우 생소했던 허니문 기간에는 좋은 점만 볼 수 있었지만, 사람들이 이를 사용하기 시작하면서 모든 문제점을 볼 수 있게 되었습니다."
[DeepL로 기사 번역]
'반복과 심호흡 > 타임체인' 카테고리의 다른 글
| [2024년 1월 15일 wsj.com] 파티를 열고, 지루한 수다에서 벗어나 강력한 친구를 사귀세요: 다보스 엘리트들이 아는 것 (1) | 2024.01.15 |
|---|---|
| [2024년 1월 15일 nytimes.com] '사회 계약이 완전히 파열되었습니다': 아일랜드의 주택 위기 (0) | 2024.01.15 |
| [2024년 1월 15일 scmp.com] 2024년 대만 총통 선거: 윌리엄 라이 당선자, 입법원과 함께 새로운 시대를 맞이하다 (0) | 2024.01.15 |
| [2024년 1월 15일 bloomberg.com] 물가가 오를 수밖에 없는 이유 (0) | 2024.01.15 |
| [2024년 1월 12일 wsj.com] 원격 근무자가 승진에서 밀리는 이유 (6) | 2024.01.12 |
