[2023년 12월 11일 nytimes.com] 인공지능은 속도를 높여야 할까? 감속해야 할까요? 정답은 둘 다입니다.

nytimes.com
인공지능은 속도를 높여야 할까? 감속해야 할까요? 정답은 둘 다입니다.

막심 무이세트

 

• 오픈AI의 위기와 인공지능의 속도 문제: 이 페이지는 오픈AI의 내부 갈등이 인공지능의 발전 속도와 안전성에 대한 논쟁을 드러냈다고 주장합니다. 저자는 인공지능의 속도를 늦추거나 빠르게 하는 것보다 어떤 종류의 인공지능을 개발하고 배포하는지가 더 중요하다고 강조합니다.
• 인공지능의 목표 정렬의 한계: 이 페이지는 인공지능의 목표 정렬이 인간의 목표를 수학적 함수로 정의하려는 단순화된 접근법이라고 비판합니다. 저자는 인간의 목표는 복잡하고 상충하는 경우가 많으므로, 인공지능이 모든 인간의 목표와 일치하도록 하는 것은 불가능하다고 주장합니다.
• 인공지능의 문화적 영향: 이 페이지는 인공지능이 인간의 심리, 사회, 문화, 정치, 감정 등의 요인과 복잡하게 상호작용하면서 존재적 위험을 초래할 수 있다고 경고합니다. 저자는 인공지능 연구자, 기업, 규제기관이 인공지능의 문화적 영향을 무시하지 않고, 인공지능이 사회적 불안정성을 완화하고 이해를 증진할 수 있는 방식으로 개발되도록 촉구합니다.

 

[Bing Chat Copilot의 페이지 요약]

[기사 원문 링크]  Opinion | The OpenAI Battle Over Safety Is Pointless - The New York Times (nytimes.com)

[Quillbot으로 기사 요약]

OpenAI의 거의 폭발적인 성장으로 인해 AI 커뮤니티 내에서는 기술의 속도와 속도를 늦추면 더 안전해질 수 있는지에 대한 갈등이 촉발되었습니다. AI는 양극화, 편견, 잘못된 정보를 증폭시키는 데 사용되어 민주주의와 피싱에 대한 실존적 위협을 제기하고 있습니다. AI가 인류를 조종하는 오펜하이머의 순간이 현실로 다가오고 있습니다.

AI 안전의 한 가지 핵심적인 움직임은 AI를 인류의 목표와 일치시키는 방법을 개발하는 데 초점을 맞춘 'AI 정렬'입니다. 그러나 이러한 목표에 대한 보편적인 합의는 없으며, 총기 권리, 생식권, 지정학적 갈등에 대한 보편적인 합의도 존재하지 않습니다.

인공지능 기업, 연구자, 규제 당국은 이러한 트레이드오프 해결에 박차를 가하고 이러한 문제를 해결하는 데 도움이 되는 새로운 인공지능을 개발해야 합니다. AI가 인간에게 영향을 미치고 문화가 중요하다는 사실을 인정하는 것이 중요합니다.

 

*아래의 더보기를 누시면 전문을 보실 수 있습니다.

기사 전문 번역 

 

급성장하는 인공지능 분야의 세계적 리더인 OpenAI가 거의 파산 직전에 이르자, 이 기술을 계속 발전시켜야 하는지, 그리고 속도를 늦추는 것이 더 안전한 기술을 만드는 데 도움이 되는지에 대한 조직과 광범위한 커뮤니티 내의 갈등이 표면화되었습니다.

인공지능과 인공지능 윤리를 모두 가르치는 교수로서, 저는 이러한 문제 프레임이 우리가 어떤 종류의 인공지능을 가속화할지, 또는 감속할지에 대한 중요한 질문을 생략하고 있다고 생각합니다.

저는 40년 동안 자연어 처리와 계산적 창의성 분야에서 인공지능을 연구하면서 세계 최초의 대규모 온라인 언어 번역기를 구축할 수 있는 일련의 기계 학습 발전을 개척했고, 이는 곧 구글 번역과 마이크로소프트의 빙 번역기 같은 제품을 탄생시켰습니다. 번역 인공지능 개발에 반대하는 사람은 거의 없을 것입니다. 문화 간 오해를 줄이는 것은 지정학적 양극화가 심화되는 상황에서 인류가 생존하기 위해 할 수 있는 가장 중요한 일 중 하나일 것입니다.

하지만 인공지능에는 어두운 면도 있습니다. 저는 자연어 처리와 머신러닝 커뮤니티에서 유익한 목적으로 개발된 많은 기술이 소셜 미디어, 검색 및 추천 엔진에서 양극화, 편견, 잘못된 정보를 증폭시키는 데 사용되어 민주주의에 대한 실존적 위협을 가중시키는 것을 목격했습니다. 최근에는 인공지능이 더욱 강력해지면서 동료나 사랑하는 사람의 딥페이크 목소리를 이용해 돈을 가로채는 피싱이 새로운 차원으로 발전하는 것을 목격했습니다.

인공지능이 인류를 조종하고 있습니다. 그리고 인공지능은 우리의 무의식을 조작할 수 있는 상상할 수 없을 정도로 막강한 힘을 휘두르게 될 것이며, ChatGPT와 같은 대규모 언어 모델도 거의 암시하지 못했습니다. 오펜하이머의 순간은 현실입니다.

그러나 '속도 대 안전'만이 우리 앞에 닥친 실제 위협을 가리는 유일한 적신호는 아닙니다.

인공지능 안전 분야의 주요 움직임 중 하나는 인공지능을 인류의 목표에 맞게 조정하는 방법을 개발하는 데 초점을 맞춘 '인공지능 조정(A.I. alignment)'입니다. 일리야 수츠케버와 OpenAI의 정렬 연구 책임자인 얀 라이케는 최근 사태가 발생하기 전까지 '슈퍼얼라인먼트' 연구 프로그램을 공동 이끌며 단순하지만 매우 복잡한 질문과 씨름하고 있었습니다: "인간보다 훨씬 똑똑한 인공지능 시스템이 인간의 목표를 따르도록 하려면 어떻게 해야 할까요?"

하지만 인공지능 정렬에는 또다시 방 안의 코끼리가 있습니다.

정렬... 어떤 종류의 인간 목표에 대한 정렬?

철학자, 정치인, 대중은 오랫동안 서로 다른 목표 사이의 까다로운 트레이드오프와 씨름해 왔습니다. 단기적인 즉각적인 만족? 장기적인 행복? 멸종 방지? 개인의 자유? 집단적 선? 불평등에 대한 경계? 기회 균등? 거버넌스의 정도? 언론의 자유? 유해한 발언으로부터의 안전? 허용되는 조작의 정도? 다양성에 대한 관용? 허용되는 무모함의 정도? 권리 대 책임?

총기 권리, 생식권, 지정학적 갈등과 같이 더욱 자극적인 이슈는 말할 것도 없고, 이러한 목표에 대한 보편적인 합의는 존재하지 않습니다.

사실, OpenAI 사태는 극소수의 OpenAI 리더들 사이에서도 목표를 일치시키는 것이 얼마나 불가능한 일인지 충분히 보여줍니다. 도대체 어떻게 인공지능이 인류의 모든 목표에 부합할 수 있을까요?

이 문제가 분명해 보이는데도 인공지능 커뮤니티에서 인공지능 정렬이 그토록 큰 영향력을 발휘하는 이유는 무엇일까요? 아마도 인공지능의 지배적인 모델링 패러다임이 인공지능이 지향해야 할 정량적 목표 또는 북극성인 '목적함수' 역할을 하는 수학적 함수를 정의하는 것이기 때문일 것입니다. 인공지능의 인공 두뇌는 매 순간 이 목표를 얼마나 잘 달성할 수 있는지를 극대화하기 위해 수천, 수백만, 심지어 수십억 개의 작은 선택을 하고 있습니다. 예를 들어, 최근 연구에 따르면 흉부 엑스레이 업무의 일부를 자동화하는 것을 목표로 하는 의료용 인공지능이 모든 비정상적인 흉부 엑스레이의 99%를 감지하여 인간 방사선 전문의보다 더 높은 정확도를 보였습니다.

따라서 인공지능 연구자들은 모든 것을 객관적 함수의 최대화라는 관점에서 접근하고 싶은 유혹을 강하게 받습니다. 안전한 인공지능을 만들려면 인공지능과 인류의 목표가 최대한 일치해야 합니다! 이제 인류의 모든 목표와 일치하는 정도를 측정하는 깔끔한 목적 함수를 정의할 수만 있다면 말입니다.

인공지능 연구 커뮤니티에서 우리가 너무 자주 간과하는 것은 인공지능이 인류의 복잡한 심리적, 사회적, 문화적, 정치적, 정서적 요인의 복잡한 역학 관계와 상호작용하는 방식에서 발생하는 실존적 위험입니다. 이러한 요소들은 단순한 수학적 함수로 깔끔하게 포장되지 않습니다.

인공지능 기업, 연구자, 규제 당국은 상충되는 목표 사이의 오래된 트레이드오프가 해결되지 않은 상황에서 인공지능이 어떻게 작동해야 하는지를 시급히 해결하고, 이를 해결할 수 있는 새로운 종류의 인공지능 개발을 가속화해야 합니다. 예를 들어, 제가 진행하고 있는 연구 프로젝트 중 하나는 정보를 팩트체크할 뿐만 아니라 독자의 암묵적 편견을 줄이는 데 도움이 되는 방식으로 정보를 자동으로 고쳐주는 인공지능에 관한 것입니다. 오늘날 인공지능 기술이 기하급수적으로 발전하고 있기 때문에 이 작업을 가속화하는 것이 시급합니다.

한편, 음모론 게시물을 연이어 게재하는 알고리즘과 같이 사회 정치적 불안정을 악화시키는 인공지능의 배포 속도를 늦춰야 합니다. 그 대신 위험한 수준의 양극화를 완화하는 데 도움이 되는 인공지능의 개발을 가속화해야 합니다.

그리고 인공지능 전문가, 실리콘밸리 인플루언서, 일상적인 대화를 주도하는 대형 미디어 등 우리 모두는 인공지능 가속화론과 감속론이라는 지나치게 단순하고 잘못된 내러티브를 통해 이러한 실제 과제를 덮어버리는 것을 멈춰야 합니다. 우리는 우리의 업무가 인간에게 영향을 미치며, 인간은 우아한 방정식으로 포착할 수 없는 방식으로 복잡하고 지저분하다는 사실을 인정해야 합니다.

문화가 중요합니다. 인공지능은 이제 우리 사회의 일상적인 일부가 되었으며, 이는 대부분의 사람들이 상상했던 것보다 더 두드러지게 나타날 것입니다. 이를 깨닫기에는 이미 너무 늦었습니다. 이사회 갈등을 기회로 삼으세요. 큰 꿈을 빨리 꾸고 오해를 늦출 수 있습니다.

[DeepL로 기사 번역]