nytimes.com
자아, 두려움, 그리고 돈: 인공지능의 도화선에 불을 붙인 방법
인공 지능의 위험을 가장 두려워하는 사람들이 인공 지능을 만들어야 한다고 생각했습니다. 그리고 불신이 경쟁을 부추겼습니다.
이 페이지는 인공지능의 위험과 가능성에 대한 실리콘 밸리의 부자들 사이의 경쟁을 다룬 기사입니다. 다음은 주요 내용입니다.
- Larry Page와 Elon Musk의 대립: 두 사람은 인공지능이 인류를 향상시킬 것인지 파괴할 것인지에 대해 격렬하게 논쟁했다. Page는 인공지능과 인간이 융합하고 다양한 지능이 경쟁할 미래를 상상했고, Musk는 인공지능이 인간을 멸망시킬 것이라고 우려했다. 이 논쟁은 두 사람의 우정을 깨뜨렸고, Musk는 Page의 비전을 막기 위해 자신의 인공지능 연구소를 만들었다.
- DeepMind의 탄생과 판매: 세 명의 영국 과학자들은 인공일반지능(A.G.I.)을 만들기 위해 DeepMind라는 스타트업을 창업했다. Peter Thiel과 Elon Musk과 같은 투자자들의 지원을 받았다. 그러나 구글과 페이스북과 같은 거대 기업들이 인공지능 연구자들을 영입하기 시작하면서, DeepMind는 자신들의 기술이 위험한 손에 넘어가지 않도록 하기 위해 구글에 팔기로 결정했다. 구글은 DeepMind의 독립성과 윤리적 감독을 보장하기로 약속했다.
- OpenAI의 분열과 성공: Musk는 DeepMind를 잃은 후, Sam Altman과 함께 OpenAI라는 비영리 인공지능 연구소를 만들었다. 그러나 OpenAI는 자금 부족과 속도 저하에 직면했고, 마이크로소프트와 제휴하면서 영리 기업으로 전환했다. 이로 인해 일부 연구자들은 OpenAI가 상업적이고 무분별하다고 생각하고 탈퇴하여 Anthropic이라는 새로운 연구소를 만들었다. OpenAI는 GPT-4라는 대화형 인공지능 챗봇을 개발하여 인공지능 분야에서 선도적인 역할을 하고 있다.
[Bing Chat Copilot의 페이지 요약]
[Quillbot으로 기사 요약]
2015년, 일론 머스크와 래리 페이지는 인공지능(AI)이 인류를 발전시킬 수도, 파괴할 수도 있는 잠재력에 대해 토론하는 파티를 열었습니다. 페이지는 인간과 AI 기계가 합쳐지는 디지털 유토피아를, 머스크는 기계가 인류를 파괴할 것이라고 주장하면서 논쟁이 격렬해졌습니다. 머스크와 페이지는 파티가 끝난 후 더 이상 대화를 나누지 않았고, 이는 OpenAI의 설립으로 이어졌습니다. 기업가치가 800억 달러가 넘는 OpenAI는 기술 산업을 근본적으로 바꾸고 전 세계에 AI의 위험과 잠재력을 알렸습니다. 그러나 이사회 구성원들이 AI의 이점에 대한 우려로 알트먼을 쫓아내려고 하는 등 의견 불일치와 불신으로 인해 OpenAI가 붕괴되었습니다. 뉴욕타임스는 80명이 넘는 임원, 과학자, 기업가를 인터뷰하여 AI의 미래를 둘러싼 야망, 두려움, 돈에 대한 이야기를 들려주었습니다.
딥마인드의 탄생
영국의 스타트업인 딥마인드는 신경과학자 데미스 하사비스와 두 명의 동료가 2010년에 설립한 회사입니다. 이들은 뇌가 할 수 있는 모든 일을 할 수 있는 인공 일반 지능(A.G.I.) 기계를 만들기 위한 자금을 찾고 있었습니다. 엘리에저 유드코프스키와 함께 창립자들은 AI가 암 치료법을 찾거나 기후 변화를 해결할 수 있다고 믿었던 합리주의자들과 인연이 있었습니다. 이들은 피터 틸의 자금 지원을 받아 딥러닝, 신경과학, "은하수를 여행하는 히치하이커를 위한 안내서"에 나오는 슈퍼컴퓨터 딥씽크에서 따온 딥마인드라는 회사 이름을 지었습니다. 2010년 가을, 그들은 위험을 이해함으로써 세상을 보호할 수 있는 독보적인 위치에 있다고 믿으며 꿈의 기계를 만들고 있었습니다. 딥마인드에 투자한 머스크는 인간의 뇌를 모방해 만든 복잡한 알고리즘인 신경망 전문 연구원을 고용했습니다.
재능 경매
2012년, 제프리 힌튼과 그의 학생들은 인공지능(AI)의 잠재력을 보여주는 연구 논문을 발표했습니다. 이들은 일반적인 사물을 인식하는 신경망을 훈련시켰고, 이 논문은 중국 인터넷 기업인 바이두의 관심을 받았습니다. 힌튼과 그의 학생들은 자신들의 전문 지식을 판매하기 위해 경매를 기획했고, 그 결과 구글, 마이크로소프트, 바이두를 비롯한 여러 기업이 신경망의 잠재력을 인정하게 되었습니다. 런던에 본사를 둔 AI 연구소인 딥마인드는 결국 구글과 페이스북에 인수되었고, 구글은 6억 5,000만 달러를, 페이스북은 더 많은 금액을 제시했습니다. 실리콘밸리의 부호들은 인공지능에 뒤처지지 않기 위해 수십억 달러를 쏟아 부었습니다.
사라진 윤리위원회
테슬라의 CEO 엘론 머스크는 자신이 직접 경영하지 않는 회사에는 투자하지 않는다는 원칙을 깨고 딥마인드에 투자했습니다. 매각 후 회사의 기술이 해를 끼치지 않도록 하기 위해 설립된 윤리위원회는 구글 임원 3명으로 구성되었습니다. 딥마인드 창립자들은 AI의 위험성을 알고 있었지만, 부를 재분배할 준비가 되어 있지 않았습니다. 이사회는 두 번째 회의를 열지 않았고, 딥마인드 창립자들은 2017년에 회사를 분리하려고 시도했습니다.
해체
엘론 머스크와 샘 앨트먼이 2015년에 설립한 OpenAI는 처음에는 비영리 단체였으나 구글과 경쟁하는 데 어려움을 겪고 있었습니다. 머스크는 연구소를 상업적 운영으로 전환하기로 결정하고 테슬라와 제휴하여 슈퍼컴퓨터를 사용했습니다. 2017년, 알트만은 테슬라를 그만두고 자신의 AI 연구에 집중했습니다. 2019년, 마이크로소프트가 알트먼으로부터 LinkedIn을 인수하면서 OpenAI와 제휴를 맺게 되었습니다. 하지만 모두가 만족한 것은 아니었고, 효과적인 이타주의자 커뮤니티와 연관이 있는 연구원이었던 아모데이 박사는 상업적 이해관계에 대한 우려로 OpenAI를 떠났습니다. 2021년에는 아마존과 구글의 엄격한 통제와 투자를 받아 Anthropic이라는 새로운 연구소가 설립되었습니다.
공개
Microsoft의 OpenAI는 Microsoft로부터 20억 달러를 투자받았고, Microsoft의 CEO들은 이 기술의 잠재력에 대해 논의하기 위해 빌 게이츠를 방문했습니다. GPT-4를 선보인 후 이 시스템은 고급 생물학 테스트에서 우수한 성적을 거두며 대화형임을 입증했습니다. Microsoft는 이 기술을 Bing 검색 엔진에 추가하고 1억 명이 사용하는 챗봇 ChatGPT를 출시했습니다. OpenAI의 성공은 구글의 주가 하락으로 이어졌습니다.
*아래의 더보기를 누시면 전문을 보실 수 있습니다.
기사 전문 번역
엘론 머스크는 2015년 7월, 그의 44번째 생일을 맞아 아내가 오두막이 즐비한 캘리포니아 와인 컨트리 리조트에서 3일간 개최한 파티에서 축하 파티를 열었습니다. 가족과 친구들만 참석했고, 아이들은 나파밸리의 고급 리조트에서 뛰어놀았습니다.
트위터가 X가 되고 테슬라가 수익성 높은 한 해를 보내기 몇 년 전의 일입니다. 머스크와 그의 아내 탈룰라 라일리(HBO의 공상과학 시리즈 '웨스트월드'에서 아름답지만 위험한 로봇을 연기한 배우)는 두 번째 결혼 생활을 접은 지 1년이 되는 해였습니다. 파티의 하객이었던 래리 페이지는 여전히 구글의 최고 경영자였습니다. 그리고 인공지능은 불과 몇 년 전 유튜브에서 고양이를 16%의 정확도로 식별하는 데 사용되면서 대중의 의식을 꿰뚫기 시작했습니다.
머스크와 페이지가 첫날 저녁 식사 후 수영장 옆 화덕 근처에 앉았을 때 인공지능은 대화의 큰 주제였습니다. 두 억만장자는 10년 넘게 친구로 지냈으며, 머스크는 가끔 밤에 비디오 게임을 하다가 페이지의 소파에서 잠이 들었다는 농담을 하기도 했습니다.
그러나 인공지능이 궁극적으로 인류를 발전시킬 것인지 아니면 파괴할 것인지에 대해 두 사람이 논쟁을 벌이면서 그날 밤의 화기애애한 분위기는 곧 논쟁으로 바뀌었습니다.
토론은 쌀쌀한 밤이 되자 점점 더 격렬해졌고, 30명이 넘는 파티 참석자 중 일부는 가까이 모여서 경청했습니다. 성대 질환으로 10년 넘게 목소리를 내지 못했던 페이지 씨는 속삭이듯 디지털 유토피아에 대한 자신의 비전을 설명했습니다. 그는 인간은 결국 인공 지능 기계와 합쳐질 것이라고 말했습니다. 언젠가는 여러 종류의 지능이 자원을 놓고 경쟁하게 될 것이고, 최고의 지능이 승리하게 될 것입니다.
머스크는 그렇게 되면 우리는 끝장이라고 말했습니다. 기계가 인류를 파괴할 것입니다.
페이지 씨는 좌절감을 감추지 못한 채 자신의 유토피아를 추구해야 한다고 주장했습니다. 마침내 그는 머스크 씨를 미래의 디지털 생명체보다 인간을 선호하는 '종차별주의자'라고 불렀습니다.
머스크는 나중에 그 모욕이 "마지막 지푸라기"였다고 말했습니다.
많은 청중은 재미있기는커녕 어리둥절한 표정으로 밤을 지새우며 흩어졌고, 실리콘밸리 파티에서 종종 벌어지는 난해한 논쟁 중 하나라고 생각했습니다.
하지만 8년이 지난 지금, 두 사람의 논쟁은 선견지명이 있어 보입니다. 인공지능이 세상을 발전시킬 것인지 아니면 파괴할 것인지, 아니면 적어도 심각한 피해를 입힐 것인지에 대한 질문은 실리콘밸리 창업자, 챗봇 사용자, 학자, 입법자, 규제 당국 사이에서 이 기술을 통제할 것인지 아니면 자유롭게 할 것인지에 대한 지속적인 논쟁의 틀을 마련했습니다.
이 논쟁으로 인해 세계에서 가장 부유한 사람들 중 일부가 서로 대립하고 있습니다: 머스크, 페이지, 메타의 마크 저커버그, 기술 투자자 피터 틸, 마이크로소프트의 사티아 나델라, 오픈AI의 샘 알트만 등이 그들입니다. 이들은 모두 언젠가 수조 달러의 가치가 될 수 있는 비즈니스의 한 부분을 차지하기 위해 싸웠고, 이를 구체화할 수 있는 힘을 얻었습니다.
이 경쟁의 중심에는 두뇌를 자극하는 역설이 있습니다. 인공지능에 대해 가장 걱정한다고 말하는 사람들은 인공지능을 만들어 그 부를 누리겠다는 의지가 가장 강한 사람들 중 하나입니다. 그들은 자신들만이 인공지능이 지구를 위협하는 것을 막을 수 있다는 강한 믿음으로 그들의 야망을 정당화했습니다.
머스크와 페이지는 그해 여름 파티가 끝난 후 곧바로 대화를 중단했습니다. 몇 주 후, 머스크는 당시 기술 인큐베이터를 운영하던 알트먼과 몇몇 연구원들과 함께 캘리포니아 멘로 파크에 있는 로즈우드 호텔(샌드 힐 로드의 벤처 캐피털 사무실에서 가까운 거래 성사 장소)의 개인 방에서 식사를 했습니다.
그 저녁 식사는 그해 말 OpenAI라는 스타트업의 설립으로 이어졌습니다. 머스크와 다른 투자자들로부터 수억 달러를 지원받은 이 연구소는 페이지의 비전으로부터 세상을 보호하겠다고 약속했습니다.
ChatGPT 챗봇 덕분에 OpenAI는 기술 산업을 근본적으로 변화시켰으며, 전 세계에 인공지능의 위험과 잠재력을 소개했습니다. 이 회사의 최근 펀딩 라운드에 정통한 두 사람에 따르면, 머스크와 알트먼의 파트너십은 성사되지 못했지만 OpenAI의 기업 가치는 800억 달러 이상으로 평가되고 있습니다. 두 사람은 이후 대화를 중단했다.
"의견 불일치, 불신, 자아가 있습니다."라고 Altman은 말했습니다. "사람들이 같은 방향을 가리키는 데 가까울수록 의견 차이가 더 커집니다. 종파와 종교 단체에서 이러한 현상을 볼 수 있습니다. 가장 가까운 사람들 사이에서 격렬한 싸움이 벌어집니다."
지난달에는 이러한 내분이 OpenAI의 이사회에까지 영향을 미쳤습니다. 반란을 일으킨 이사회 멤버들은 알트먼이 인류에 도움이 되는 인공지능을 개발하는 데 더 이상 신뢰할 수 없다고 판단해 그를 쫓아내려고 했습니다. 알트먼을 쫓아내겠다고 위협하는 거대 투자자와 직원들의 압박에 못 이겨 이사회가 한 발 물러설 때까지 5일 동안 OpenAI는 혼란스러운 나날을 보내며 무너질 것처럼 보였습니다.
OpenAI 내부의 드라마는 인공지능의 미래를 결정할 사람들 사이의 격렬한 불화를 세상에 처음으로 공개했습니다.
그러나 OpenAI가 거의 붕괴되기 몇 년 전부터 실리콘밸리에서는 아이들을 가르치는 방법부터 전쟁을 치르는 방법까지 세상을 빠르게 재편하고 있는 기술을 장악하기 위해 잘 알려지지는 않았지만 치열한 경쟁이 벌어지고 있었습니다. 뉴욕타임스는 2015년 머스크의 생일 파티에 참석했던 두 사람을 포함해 80명 이상의 임원, 과학자, 기업가들과 이야기를 나누며 야망, 두려움, 돈에 대한 이야기를 들려주었습니다.
딥마인드의 탄생
나파 밸리 파티가 열리기 5년 전, 그리고 유튜브에서 고양이가 등장하기 2년 전, 34세의 신경과학자 데미스 하사비스는 피터 틸의 샌프란시스코 타운하우스에서 열린 칵테일 파티에 들어갔다가 자신이 대박을 터뜨렸다는 사실을 깨달았습니다. 샌프란시스코의 팰리스 오브 파인 아트와 백조 연못이 내려다보이는 티엘 씨의 거실에 체스 판이 놓여 있었습니다. 하사비스 박사는 한때 14세 이하 부문에서 세계 2위를 차지했던 선수였습니다.
"이 대회를 위해 1년 동안 준비했습니다."라고 핫사비스 박사는 말했습니다. "저는 그것이 저만의 독특한 매력이라고 생각했습니다: 그가 체스를 좋아한다는 것을 알고 있었죠."
2010년, 영국에 거주하던 핫사비스 박사와 두 명의 동료는 뇌가 할 수 있는 모든 일을 할 수 있는 기계인 '인공 일반 지능'(A.G.I.)을 개발하기 위해 자금을 찾고 있었습니다. 당시만 해도 인공지능에 관심을 가진 사람은 거의 없었고, 반세기에 걸친 연구 끝에 인공지능 분야는 인간의 뇌에 근접한 어떤 것도 내놓지 못했습니다.
그럼에도 불구하고 일부 과학자와 사상가들은 인공지능의 단점에 집착했습니다. 영국의 세 청년처럼 많은 사람들이 인터넷 철학자이자 독학으로 인공지능을 연구하는 엘리에저 유드코프스키와 인연을 맺었습니다. 유드코프스키는 스스로를 합리주의자 또는 후기에는 효과적인 이타주의자라고 부르는 사람들의 커뮤니티의 리더였습니다.
이들은 인공지능이 암 치료법을 찾거나 기후 변화를 해결할 수 있다고 믿었지만, 인공지능 봇이 개발자가 의도하지 않은 일을 할 수 있다고 걱정했습니다. 합리주의자들은 기계가 인간보다 더 똑똑해지면 기계가 창조자를 배신할 수 있다고 주장했습니다.
틸은 페이스북에 대한 초기 투자와 페이팔 초창기 머스크와의 협력을 통해 막대한 부를 축적했습니다. 그는 공상과학 소설에서 지능형 기술이 더 이상 인간에 의해 통제될 수 없는 순간을 묘사하는 '특이점'에 매료되었습니다.
유드코프스키는 틸의 자금 지원을 받아 인공지능 연구소를 확장하고 특이점에 관한 연례 컨퍼런스를 만들었습니다. 몇 년 전, 하사비스 박사의 두 동료 중 한 명이 유드코프스키 씨를 만난 적이 있었는데, 유드코프스키 씨가 컨퍼런스에서 연설할 수 있는 자리를 잡아줘서 티엘 씨의 파티에 초대받을 수 있었습니다.
유드코프스키 씨는 핫사비스 박사를 틸 씨에게 소개했습니다. 핫사비스 박사는 파티에 참석한 많은 사람들이 호스트에게 돈을 뜯어내려고 할 것이라고 생각했습니다. 그의 전략은 다른 만남을 주선하는 것이었습니다. 주교와 기사 사이에는 깊은 긴장감이 감돌았다고 그는 틸 씨에게 말했습니다. 두 장기는 같은 가치를 지니고 있었지만 최고의 선수들은 서로의 강점이 크게 다르다는 것을 알고 있었습니다.
그것은 통했다. 감명을 받은 틸 씨는 다음 날 이들을 다시 초대했고, 그들은 부엌에 모였습니다. 호스트는 방금 아침 운동을 마치고 반짝이는 운동복을 입고 땀을 흘리고 있었습니다. 집사가 그에게 다이어트 콜라를 건넸습니다. 세 사람은 프레젠테이션을 했고, 곧 티엘 씨와 그의 벤처 캐피털 회사는 이들의 스타트업에 140만 파운드(약 225만 달러)를 투자하기로 합의했습니다. 그는 이들의 첫 번째 주요 투자자였습니다.
이들은 인공지능 시스템이 대량의 데이터를 분석하여 기술을 학습하는 방법인 "딥러닝", 신경과학, 공상과학 소설 "은하수를 여행하는 히치하이커를 위한 안내서"에 나오는 슈퍼컴퓨터 딥씽크에서 착안하여 회사 이름을 딥마인드라고 지었습니다. 2010년 가을, 그들은 꿈의 기계를 만들고 있었습니다. 그들은 위험을 잘 알고 있기 때문에 자신들이 세상을 보호할 수 있는 독보적인 위치에 있다고 진심으로 믿었습니다.
딥마인드 창립자 세 명 중 한 명인 무스타파 술레이만은 "저는 이것이 모순된 입장이라고 생각하지 않습니다."라고 말합니다. "이러한 기술을 통해 얻을 수 있는 혜택은 엄청납니다. 목표는 이러한 기술을 제거하거나 개발을 중단하는 것이 아닙니다. 단점을 완화하는 것이 목표입니다."
틸의 마음을 사로잡은 핫사비스 박사는 머스크의 마음을 사로잡기 위해 노력했습니다. 약 2년 후, 두 사람은 머스크의 회사인 스페이스X에 자금을 투자한 틸의 투자 펀드가 주최한 컨퍼런스에서 만났습니다. 핫사비스 박사는 스페이스X 본사를 견학할 수 있는 기회를 얻었습니다. 그 후 두 사람은 로켓 선체가 천장에 매달려 있는 카페테리아에서 점심을 먹으며 이야기를 나눴습니다.
머스크는 지구의 인구 과잉과 기타 위험으로부터 벗어나기 위해 화성을 식민지화하는 것이 자신의 계획이라고 설명했습니다. 핫사비스 박사는 초지능 기계가 화성에 있는 인류를 따라가서 파괴하지 않는 한 그 계획은 성공할 것이라고 대답했습니다.
머스크는 할 말을 잃었습니다. 그는 그런 위험에 대해 생각해 본 적이 없었기 때문입니다. 머스크는 곧 틸과 함께 딥마인드에 투자하여 이 기술을 개발하는 데 더 가까이 다가갈 수 있었습니다.
현금이 넘쳐나는 딥마인드는 인간의 뇌를 모방해 만든 복잡한 알고리즘인 신경망을 전문으로 연구하는 연구원들을 고용했습니다. 신경망은 본질적으로 대량의 디지털 데이터에서 패턴을 식별하는 데 며칠, 몇 주, 심지어 몇 달을 소비하는 거대한 수학 시스템입니다. 1950년대에 처음 개발된 이 시스템은 스스로 작업을 처리하는 방법을 학습할 수 있습니다. 예를 들어, 수백 개의 봉투에 낙서된 이름과 주소를 분석한 후 손으로 쓴 텍스트를 읽을 수 있었습니다.
딥마인드는 이 개념을 더 발전시켰습니다. 스페이스 인베이더, 퐁, 브레이크아웃과 같은 고전 아타리 게임을 학습할 수 있는 시스템을 구축하여 어떤 것이 가능한지 보여주었습니다.
이는 실리콘밸리의 또 다른 강자인 구글, 특히 래리 페이지의 관심을 끌었습니다. 그는 딥마인드의 기계가 아타리 게임을 플레이하는 데모를 보았습니다. 래리 페이지는 참여를 원했습니다.
재능 경매
2012년 가을, 토론토 대학교의 64세 교수인 제프리 힌튼과 두 명의 대학원생은 인공지능이 어떤 일을 할 수 있는지 세상에 보여주는 연구 논문을 발표했습니다. 이들은 꽃, 개, 자동차와 같은 일반적인 물체를 인식하도록 신경망을 훈련시켰습니다.
과학자들은 힌튼 박사와 그의 학생들이 구축한 기술의 정확성에 놀라움을 금치 못했습니다. 특히 주목한 사람은 연구 컨퍼런스에서 힌튼 박사를 만났고 최근 중국의 거대 인터넷 기업인 바이두에서 일하기 시작한 인공지능 연구원 유 카이(Yu Kai)였습니다. 이 제안에 대해 잘 아는 세 사람에 따르면, 바이두는 힌튼 박사와 그의 학생들에게 베이징에 있는 바이두에 입사하는 조건으로 1,200만 달러를 제안했습니다.
힌튼 박사는 바이두의 제안을 거절했지만, 돈 때문에 그의 관심을 끌었습니다.
케임브리지에서 교육을 받은 영국 국적의 힌튼 박사는 마이크로소프트와 구글에서 가끔 근무한 것을 제외하고는 대부분의 경력을 학계에서 보냈으며, 특별히 돈에 연연하지 않았습니다. 하지만 신경 발산 장애가 있는 자녀를 둔 그에게 돈은 재정적 안정을 의미했습니다.
힌튼 박사는 "자신의 가치가 얼마나 되는지 몰랐습니다."라고 말합니다. 그는 변호사와 인수 전문가와 상의하여 계획을 세웠습니다: "경매를 조직하고 우리 스스로를 매각하는 것입니다." 경매는 타호 호수에 있는 하라스 호텔 및 카지노에서 열리는 연례 인공지능 컨퍼런스 기간에 열릴 예정이었습니다.
빅 테크 기업들이 주목했습니다. 구글, 마이크로소프트, 바이두 및 기타 기업들은 신경망이 보고, 듣고, 쓰고, 말하고, 결국에는 생각할 수 있는 기계로 가는 길이라고 믿기 시작했습니다.
페이지 회장은 구글의 인공지능 연구소인 구글 브레인에서 비슷한 기술을 본 적이 있었고, 힌튼 박사의 연구가 자사 과학자들의 연구를 향상시킬 수 있다고 생각했습니다. 그는 구글의 엔지니어링 담당 수석 부사장이었던 앨런 유스티스에게 필요한 인공지능 전문가를 고용할 수 있는 백지수표와 같은 권한을 부여했습니다.
유스테이스와 뇌 연구소를 이끌던 제프 딘은 경매 전날 밤 타호 호수로 날아가 힌튼 박사와 학생들을 데리고 호텔 내 스테이크 하우스에서 저녁 식사를 했습니다. 딘 박사는 오래된 담배 냄새가 압도적이었다고 회상했습니다. 그 자리에서 학생들은 구글에서 일해야겠다고 결심했습니다.
다음 날 힌튼 박사는 호텔 방에서 경매를 진행했습니다. 오래된 허리 부상 때문에 그는 거의 앉아있지 않았습니다. 그는 테이블 위에 쓰레기통을 거꾸로 뒤집어 놓고 그 위에 노트북을 올려놓고 이틀 동안 입찰이 들어오는 것을 지켜보았습니다.
구글이 제안을 했습니다. 마이크로소프트도 마찬가지였습니다. 딥마인드는 가격이 오르자 재빨리 고개를 숙였습니다. 경매를 상세히 기록한 문서에 따르면 이 거대 기업은 입찰가를 2,000만 달러로 올렸다가 2,500만 달러로 올렸습니다. 가격이 3,000만 달러를 넘어서자 Microsoft는 입찰을 중단했지만 3,700만 달러에 다시 입찰에 참여했습니다.
힌튼 박사는 "마치 영화에 나오는 것 같았습니다."라고 말했습니다.
그러자 마이크로소프트는 두 번째로 입찰에서 탈락했습니다. 바이두와 구글만 남았고, 그들은 입찰가를 4,200만 달러, 4,300만 달러로 올렸습니다. 마침내 4,400만 달러에서 힌튼 박사와 그의 학생들은 경매를 중단했습니다. 입찰가는 계속 올라가고 있었지만 그들은 구글에서 일하고 싶었습니다. 그리고 그 돈은 어마어마했습니다.
주머니 사정이 넉넉한 기업들이 가장 재능 있는 인공지능 연구자들을 사들이겠다는 확실한 신호였고, 딥마인드의 하사비스 박사도 이를 놓치지 않았습니다. 그는 항상 직원들에게 딥마인드가 독립적인 회사로 남을 것이라고 말했었습니다. 그것이 딥마인드의 기술이 위험한 것으로 변질되지 않도록 하는 최선의 방법이라고 믿었기 때문입니다.
하지만 빅 테크가 인재 확보 경쟁에 뛰어들자 그는 어쩔 수 없이 회사를 매각하기로 결정했습니다.
이 문제에 정통한 세 사람에 따르면 2012년 말, 구글과 페이스북은 런던 연구소를 인수하기 위해 노력하고 있었습니다. 하사비스 박사와 그의 공동 창업자들은 두 가지 조건을 내걸었습니다: 딥마인드 기술을 군사적 목적으로 사용할 수 없으며, 딥마인드의 인공지능 기술은 기술자 및 윤리 전문가로 구성된 독립적인 이사회가 감독해야 한다는 것이었습니다.
구글은 6억 5천만 달러를 제시했습니다. 페이스북의 마크 저커버그는 딥마인드 설립자에게 더 큰 금액을 제안했지만 조건에 동의하지 않았습니다. 딥마인드는 구글에 매각되었습니다.
주커버그는 자신만의 인공지능 연구소를 만들기로 결심했습니다. 그는 선구적인 인공지능 연구를 수행한 프랑스 컴퓨터 과학자 얀 르쿤을 고용해 연구소를 운영하기로 했습니다. 힌튼 박사의 경매가 끝난 지 1년 후, 저커버그와 르쿤 박사는 같은 인공지능 컨퍼런스에 참석하기 위해 타호 호수로 날아갔습니다. 저커버그는 양말만 신은 채로 하라스 카지노의 스위트룸을 돌아다니며 최고 연구자들을 직접 인터뷰했고, 이들은 곧 수백만 달러의 연봉과 주식을 제안받았습니다.
한때 인공지능은 비웃음을 샀습니다. 이제 실리콘 밸리의 최고 부자들은 뒤처지지 않기 위해 수십억 달러를 쏟아붓고 있습니다.
사라진 윤리위원회
머스크는 딥마인드에 투자할 때 자신이 직접 경영하지 않는 회사에는 투자하지 않는다는 자신의 비공식 규칙을 어겼습니다. 그의 결정의 단점은 그의 생일날 페이지와 언쟁을 벌인 지 불과 한 달여 만에 그의 옛 친구이자 동료 억만장자와 다시 대면했을 때 이미 분명해졌습니다.
2015년 8월 14일에 열린 딥마인드 윤리위원회의 첫 회의가 바로 그 자리였습니다. 이 이사회는 매각 후에도 기술이 훼손되지 않도록 하기 위해 스타트업 창업자들의 주장에 따라 설립되었습니다. 회의에 정통한 세 사람에 따르면, 위원들은 머스크의 로켓 공장이 보이는 창문이 있는 SpaceX 사무실 바로 바깥에 있는 회의실에 모였다고 합니다.
그러나 머스크의 통제는 거기서 끝났습니다. 구글이 딥마인드를 인수하면서 모든 것을 사들였기 때문입니다. 머스크는 사라졌습니다. 재정적으로 그는 앞서 나갔지만 불행했습니다.
현재 딥마인드를 확고하게 장악하고 있는 세 명의 구글 임원이 그곳에 있었습니다: 페이지, 구글 공동 창업자이자 테슬라 투자자인 세르게이 브린, 그리고 구글 회장인 에릭 슈미트. 다른 참석자 중에는 PayPal의 또 다른 창립자인 Reid Hoffman과 "실존적 위험"을 연구하는 호주의 철학자 Toby Ord도 있었습니다.
딥마인드 창립자들은 연구를 계속 추진하고 있지만 이 기술이 심각한 위험을 수반한다는 사실을 알고 있다고 말했습니다.
딥마인드 공동 창업자인 술레이만 씨는 "피치포커가 온다"라는 프레젠테이션을 진행했습니다. 그는 인공지능이 허위 정보의 폭발적인 증가로 이어질 수 있다고 이사회에 말했습니다. 그는 앞으로 인공지능 기술이 수많은 일자리를 대체하게 되면 대중은 구글이 자신의 생계를 빼앗았다고 비난할 것이라고 우려했습니다. 그는 구글이 더 이상 일자리를 찾지 못하는 수백만 명에게 부를 나누고 '보편적 기본소득'을 제공해야 한다고 주장했습니다.
머스크도 동의했습니다. 그러나 그의 구글 고객들이 (그들의) 부를 재분배할 준비가 되어 있지 않다는 것은 분명했습니다. 슈미트 회장은 이런 우려는 완전히 과장된 것이라고 생각한다고 말했다. 평소 속삭이듯 페이지도 동의했습니다. 인공지능은 일자리를 빼앗는 것보다 더 많은 일자리를 창출할 것이라고 그는 주장했다.
8개월 후, 딥마인드는 인공지능 커뮤니티와 전 세계를 놀라게 하는 획기적인 성과를 거두었습니다. 알파고라는 이름의 딥마인드 머신이 고대 게임인 바둑에서 세계 최고의 선수 중 한 명을 이긴 것입니다. 인터넷을 통해 스트리밍된 이 대국은 전 세계 2억 명이 시청했습니다. 대부분의 연구자들은 인공지능이 그 정도의 독창성을 갖추려면 10년은 더 걸릴 것으로 예상했습니다.
합리주의자, 효과적인 이타주의자, 그리고 인공지능의 위험성을 우려하는 사람들은 컴퓨터의 승리로 그들의 걱정이 기우였음을 입증했다고 주장했습니다.
"곧 딥마인드에 '인공지능 안전' 연구원으로 합류할 빅토리아 크라코브나는 블로그 게시물에서 "인공지능이 많은 전문가들이 예상했던 것보다 더 빠르게 발전하고 있음을 보여주는 또 다른 증거"라고 말했습니다.
딥마인드의 창립자들은 구글이 자신들의 발명품을 어떻게 활용할지에 대해 점점 더 걱정하고 있었습니다. 2017년에 그들은 회사를 떠나려고 했습니다. 구글은 딥마인드 창업자들과 직원들의 급여와 스톡 어워드 패키지를 인상하는 것으로 대응했습니다. 그들은 자리를 지켰습니다.
윤리위원회는 두 번째 회의를 열지 않았습니다.
해체
인공지능에 대한 페이지의 낙관적인 견해가 완전히 틀렸다고 확신한 머스크는 딥마인드를 잃은 것에 분노하여 자신만의 연구소를 설립했습니다.
실리콘밸리의 로즈우드 호텔에서 샘 알트먼을 만난 지 불과 몇 달 후인 2015년 말, 오픈AI가 설립되었습니다. 머스크는 연구소에 자금을 투입했고, 페이팔에서 함께 일했던 호프만과 틸도 합류했습니다. 세 사람과 다른 사람들은 이 프로젝트에 10억 달러를 투자하기로 약속했고, 당시 30세였던 알트먼은 이 프로젝트의 운영을 돕기로 했습니다. 프로젝트를 시작하기 위해 그들은 구글에서 일리야 수츠케버를 영입했습니다. (수츠케버 박사는 힌튼 박사의 경매에서 구글이 '사들인' 대학원생 중 한 명이었습니다.)
처음에 머스크는 구글과 다른 기업을 움직이는 경제적 인센티브에서 벗어나 비영리 단체로 OpenAI를 운영하기를 원했습니다. 그러나 구글이 바둑으로 기술 커뮤니티를 놀라게 했을 때, 머스크는 오픈AI의 운영 방식에 대해 생각을 바꾸었습니다. 그는 OpenAI가 전 세계의 상상력을 사로잡고 구글과의 격차를 좁힐 수 있는 무언가를 발명하기를 간절히 원했지만, 비영리 단체로는 그 일을 해낼 수 없었습니다.
2017년 말, 그는 알트만과 다른 창립자들로부터 연구소의 통제권을 빼앗아 Tesla와 협력하여 자동차 회사가 개발 중인 슈퍼컴퓨터를 활용하는 상업적 운영으로 전환할 계획을 세웠다고 이 문제에 정통한 4명의 관계자가 전했습니다.
알트만과 다른 사람들이 반발하자 머스크는 테슬라를 그만두고 자신의 인공지능 작업에 집중하겠다고 말했습니다. 2018년 2월, 그는 트럭 공장을 개조한 스타트업 사무실 꼭대기 층에서 OpenAI 직원들에게 자신의 퇴사를 발표했다고 회의에 참석했던 세 사람이 말했다. 머스크가 OpenAI가 더 빨리 움직여야 한다고 말하자, 한 연구원은 회의에서 머스크가 무모한 짓을 하고 있다고 반박했습니다.
머스크는 그 연구원을 "얼간이"라고 부르며 주머니에 있던 돈을 꺼내 들고 회의장을 빠져나갔습니다.
OpenAI는 갑자기 급하게 새로운 자금이 필요했습니다. 알트먼은 컨퍼런스를 위해 선밸리로 날아가 마이크로소프트의 최고 경영자인 사티아 나델라를 만났습니다. 제휴는 당연해 보였습니다. 알트먼은 마이크로소프트의 최고기술책임자인 케빈 스콧을 알고 있었기 때문입니다. 마이크로소프트는 오픈AI 이사회 멤버였던 호프먼으로부터 링크드인을 인수했었죠. 나델라는 스콧에게 이 일을 처리하라고 지시했다. 거래는 2019년에 성사되었습니다.
알트만과 OpenAI는 원래 비영리 단체였던 회사에 영리 회사를 설립했고, 10억 달러의 신규 자본을 확보했으며, Microsoft는 방대한 클라우드 컴퓨팅 서비스에 인공 지능을 구축할 수 있는 새로운 방법을 갖게 되었습니다.
OpenAI 내부의 모든 사람이 기뻐한 것은 아닙니다.
효과적인 이타주의자 커뮤니티와 연관이 있는 연구자 다리오 아모데이는 OpenAI가 탄생할 당시 로즈우드 호텔에서 근무하고 있었습니다. 손가락 사이로 컬을 끝없이 비틀며 말을 하던 아모데이 박사는 방대한 양의 디지털 텍스트를 학습할 수 있는 대규모 언어 모델이라는 신경망을 구축하기 위한 연구소의 노력을 이끌고 있었습니다. 수많은 Wikipedia 기사, 디지털 서적, 게시판 등을 분석하여 스스로 텍스트를 생성할 수 있었습니다. 하지만 이 모델에는 무언가를 만들어내는 불행한 습관도 있었습니다. GPT-3라는 이름으로 2020년 여름에 출시되었습니다.
OpenAI, Google 및 기타 회사의 연구원들은 이 빠르게 발전하는 기술이 인공지능으로 가는 길이라고 생각했습니다.
하지만 아모데이 박사는 Microsoft와의 계약에 불만을 품었는데, 이는 Microsoft가 OpenAI를 지나치게 상업적인 방향으로 이끌고 있다고 생각했기 때문입니다. 이 문제에 대해 잘 아는 5명의 사람들에 따르면 그와 다른 연구원들은 이사회에 가서 알트먼을 밀어내려고 시도했습니다. 그들은 실패한 후 회사를 떠났습니다. 이전의 딥마인드 창립자들과 마찬가지로, 이들은 새로운 기업 지배자가 안전보다 상업적 이익을 선호할까봐 걱정했습니다.
2021년, 약 15명의 엔지니어와 과학자들로 구성된 이 그룹은 앤트로픽이라는 새로운 연구소를 설립했습니다. 그들의 계획은 이타주의자들이 생각하는 방식으로 매우 엄격한 통제를 통해 인공지능을 구축하는 것이었습니다.
"Anthropic의 공동 창립자들은 샘 알트먼을 OpenAI에서 배제하려는 시도를 한 적이 없습니다."라고 Anthropic의 대변인인 샐리 알도스는 말합니다. "공동 창업자들은 스스로 OpenAI를 떠나 자신의 회사를 창업하고 싶다는 결론을 내렸고, 이를 OpenAI 경영진에게 알렸으며, 몇 주에 걸쳐 상호 합의된 조건으로 퇴사 협상을 진행했습니다."
앤트로픽은 2년 후 아마존으로부터 40억 달러, 구글로부터 20억 달러의 투자를 유치했습니다.
공개
OpenAI가 Microsoft로부터 20억 달러를 추가로 투자받은 후, 알트먼과 또 다른 고위 임원인 그렉 브록먼은 시애틀 외곽의 워싱턴 호수 기슭에 있는 빌 게이츠의 저택을 방문했습니다. 마이크로소프트 창업자는 더 이상 회사에 일상적으로 관여하지 않았지만 경영진과 정기적으로 연락을 주고받았습니다.
저녁 식사를 하면서 게이츠는 대규모 언어 모델이 제대로 작동할 수 있을지 의심스럽다고 말했습니다. 그는 이 기술이 비판적 사고가 필요한 작업, 예를 들어 인공지능 생물학 테스트를 통과할 때까지는 회의적인 태도를 유지할 것이라고 말했습니다.
5개월 후인 2022년 8월 24일, 알트먼과 브록먼은 다시 돌아와 첼시 보스라는 OpenAI 연구원을 데려왔습니다. 보스는 고등학생 시절 국제 생물학 올림피아드에서 메달리스트였던 인물입니다. 나델라를 비롯한 다른 마이크로소프트 임원들도 함께했습니다.
게이츠의 거실 밖에 있는 스탠드의 대형 디지털 디스플레이에서 OpenAI 팀은 GPT-4라는 기술을 선보였습니다.
브록먼은 이 시스템에 객관식 고급 생물학 시험을 출제했고, 보스는 답을 채점했습니다. 첫 번째 문제는 한쪽 끝은 양전하를 띠고 다른 쪽 끝은 음전하를 띠는 원자 그룹인 극성 분자에 관한 것이었습니다. 시스템은 정답을 맞추고 그 이유를 설명했습니다. 브록먼은 "이 시스템은 답을 제공하도록만 훈련받았다"고 말했습니다. "대화하는 능력은 거의 마술처럼 사라졌습니다." 다시 말해, 이 시스템은 실제로 설계되지 않은 작업을 수행했습니다.
60개의 질문이 있었습니다. GPT-4가 틀린 답은 단 하나뿐이었습니다.
게이츠는 의자에 앉아 눈을 크게 떴습니다. 1980년, 연구원들이 현대 개인용 컴퓨터의 기반이 된 그래픽 사용자 인터페이스를 보여줬을 때도 비슷한 반응을 보였습니다. 그는 GPT가 혁명적이라고 생각했습니다.
10월이 되자 Microsoft는 Bing 검색 엔진을 비롯한 온라인 서비스 전반에 이 기술을 추가했습니다. 그리고 두 달 후 OpenAI는 현재 매주 1억 명이 사용하는 ChatGPT 챗봇을 출시했습니다.
OpenAI는 앤트로픽의 효과적인 이타주의자들을 이겼습니다. 구글의 페이지의 최적화론자들은 서둘러 자체 챗봇인 바드를 출시했지만 OpenAI와의 경쟁에서 패배했다는 인식이 널리 퍼져 있었습니다. ChatGPT가 출시된 지 3개월 후, 구글 주가는 11% 하락했습니다. 머스크는 어디에서도 찾아볼 수 없었습니다.
하지만 이는 시작에 불과했습니다.
[DeepL로 기사 번역]
기사의 맥락을 읽는 이미지
Chatbots May ‘Hallucinate’ More Often Than Many Realize - The New York Times (nytimes.com)
Chatbots May ‘Hallucinate’ More Often Than Many Realize
When summarizing facts, ChatGPT technology makes things up about 3 percent of the time, according to research from a new start-up. A Google system’s rate was 27 percent.
www.nytimes.com
이 페이지는 챗봇이 '환각’이라고 부르는 현상에 대해 다루고 있습니다. 이 현상은 챗봇이 사실과 다른 정보를 만들어내는 것을 말합니다. 페이지의 주요 내용은 다음과 같습니다:
- 환각의 빈도: Vectara라는 스타트업의 연구에 따르면, 챗봇은 뉴스 기사를 요약하는 작업에서도 3%에서 27%까지 사실과 다른 정보를 만들어냅니다. 이는 법률, 의료, 비즈니스 등의 분야에서 챗봇을 사용할 때 심각한 문제가 될 수 있습니다.
- 환각의 원인: 챗봇은 대규모 언어 모델이라는 기술에 의해 작동합니다. 이 기술은 인터넷의 텍스트 데이터를 분석하여 다음 단어를 예측하는 방식으로 학습합니다. 그러나 인터넷에는 거짓 정보가 많이 있고, 챗봇은 확률에 의존하기 때문에 때때로 잘못된 추측을 합니다.
- 환각의 해결 방법: OpenAI, Google, Meta 등의 기업들은 챗봇의 정확도를 높이기 위한 다양한 기법을 개발하고 있습니다. 예를 들어, OpenAI는 인간 평가자의 피드백을 통해 챗봇의 응답을 평가하고, 사실과 허구를 구분할 수 있도록 학습시킵니다. 그러나 챗봇이 완전히 환각을 멈추는 것은 쉽지 않은 문제입니다.
