글: 비추Bitpush

실리콘밸리에서 가장 비싼 '이별 사건'의 디테일이 마침내 모두 드러났다.

최근 《디 애틀랜틱(The Atlantic)》은 미국의 유명 베스트셀러 작가이자 팟캐스트 진행자인 케빈 루스(Kevin Roose)의 신간 《The AGI Chronicles》의 첫 번째 발췌본을 공개했다. 루스는 이 책을 위해 OpenAI, Anthropic, Google DeepMind 내부 관계자 150여 명을 인터뷰했고, 다수의 미공개 회사 문서와 내부 메모를 더해 실리콘밸리에서 가장 파장이 컸던 결별의 과거를 재구성했다.

다리오 아모데이(Dario Amodei)가 2020년 말 무리를 이끌고 OpenAI를 떠나 Anthropic을 창업했다는 사실만 안다면, 그것은 빙산의 일각에 불과하다. 정말 사람을 깜짝 놀라게 하는 것은 그가 떠나기 전의 '궁중 암투'다.

'국가 계획': AGI를 경매에 부치자는 미친 제안

아모데이는 한때 OpenAI에 큰 기대를 걸고 있었다. 2016년 그는 구글을 떠나 이 젊은 비영리 연구기관에 합류했다. 루스의 서술에 따르면, 그는 OpenAI를 대규모 언어 모델 노선으로 이끈 중요한 인물로, 그가 이끈 팀은 GPT-2와 GPT-3 개발에 참여했다.

연구가 진전되면서 아모데이는 더 큰 규모의 모델이 AGI, 즉 범용 인공지능으로 이어질 수 있다고 점점 더 믿게 됐다. 하지만 동시에 회사 리더십에 대한 그의 신뢰는 계속해서 줄어들고 있었다.

그가 가장 오래 마음에 담아둔 일 중 하나는 2017년에 일어났다.

당시 머스크의 OpenAI 자금 지원이 흔들리기 시작하면서, 연구소는 새로운 출구를 시급히 찾아야 했다. 공동 창업자 그렉 브록먼(Greg Brockman)과 수석 과학자 일리야 수츠케버(Ilya Sutskever)는 내부 방안을 제안했는데, 나중에 'countries plan', 즉 국가 계획이라고 불리게 됐다.

이 방안은 처음에는 그럴듯했다. 국제 연합을 만들어 모두가 함께 AGI의 위험을 관리하고 수익을 나누자는 구상이었다.

하지만 브록먼과 수츠케버가 내부 회의에서 직원들에게 정식으로 발표할 때쯤 되면, 그림은 완전히 엉뚱한 방향으로 흘러가 있었다. 그것은 각국 정부에 미래 AGI 기술 사용권을 '경매'하는 모금 행사로 변해 있었고, 언급된 국가에는 미국, 중국, 러시아가 포함됐다.

두 사람의 논리는 이랬다. AGI 같은 것은 국가 안보와 얽혀 있으니, 각국 정부가 언젠가는 그것을 만든 회사의 손에서 빼앗아 갈 것이다. 어차피 넘겨줘야 한다면, 지금 돈이 부족할 때 좋은 값에 파는 게 낫다는 것이다.

이 발표를 들은 한 관계자는 이렇게 불평했다. "몇몇 기술자들이 미친 창업 프로젝트를 홍보하다가, 마지막에 가서 '정부가 돈만 내면 된다'고 말하는 것처럼 들렸다."

다리오 아모데이는 당시 OpenAI의 연구 부사장이었다. 그는 발표를 들은 뒤 곧바로 브록먼, 수츠케버와 다른 임원들에게 이메일을 보냈는데, 표현이 상당히 거칠었다. 그는 이메일에서 이 계획이 "군비 경쟁을 줄이기는커녕 오히려 심화시킬 것"이며, "인권 유린"으로 이어질 수 있고, 그들이 자기 국민에게 "말로 다 할 수 없는 일"을 하게 만들 수 있으며, "OpenAI의 도덕적 정당성을 훼손할 것"이라고 썼다.

사람 말로 번역하면 이렇다. 인류의 가장 강력한 기술을 그들에게 팔겠다고? 미친 거 아니냐.

다행히 마이크로소프트의 뒤이은 대규모 투자가 상황을 수습했고, 이 계획은 결국 실행되지 않았다. OpenAI의 대응은, 회사가 "OpenAI를 국제 협력 사업으로 전환할지 잠시 검토한 적은 있다"면서도 "AGI를 중국이나 러시아에 판매하는 것은 고려하지 않았다"는 것이었다.

이 방안은 결국 실행되지 않았지만, 아모데이는 경영진이 자신을 그토록 반감하게 만든 아이디어를 진지하게 논의했었다는 사실을 잊지 않았다.

마이크로소프트부터 카녜까지, 신뢰의 균열은 점점 깊어져

그 뒤로는 겉보기에 더 사소해 보이는 일들도 그의 불신을 계속 깊게 만들었다.

GPT-3 비공개 테스트 기간 동안, 아모데이는 올트먼에게 모델 사용을 승인받은 고객 명단을 요구했다. 올트먼은 그에게 한 부를 줬지만, 아모데이는 나중에 또 다른 더 긴 명단을 발견했다고 주장했다. 그는 자신이 본 정보가 걸러진 것이라고 의심하기 시작했다.

그리고 마이크로소프트 투자를 둘러싼 한 차례의 다툼이 그의 의심을 더 키웠다.

OpenAI의 공개 정관에는 상당히 특별한 조항이 하나 있다. 만약 가치관이 일치하고 안전을 중시하는 프로젝트가 먼저 AGI 실현에 가까워지면, OpenAI는 그와의 경쟁을 멈추고 오히려 그를 돕는다는 것이다. 이는 특정 상황에서 회사의 사명이 경쟁에서 이기는 것보다 우선해야 한다는 뜻이다.

루스의 신간에 따르면, 마이크로소프트와 10억 달러 투자를 논의할 때 아모데이는 마이크로소프트가 이 약속을 이행하는 데 쓰일 수 있는 OpenAI 인수 거래를 받아들이도록 확실히 하고 싶어 했다. 올트먼은 그에게 마이크로소프트가 관련 조건을 받아들이지 않는다고 말했다.

아모데이는 일이 그렇게 단순하다고 믿지 않았다. 그는 올트먼이 거래를 빨리 성사시키기 위해 애초에 요구를 포기했거나, 심지어 요구조차 하지 않았으면서 책임을 마이크로소프트에 떠넘겼을지도 모른다고 의심했다.

아모데이의 눈에는 문제가 점점 더 업무 논의로 해결하기 어려워지고 있었다. 그는 이미 맞은편에 앉은 올트먼이 자신에게 협상의 전 과정을 온전히 털어놓을 의향이 있는지 의심하기 시작한 것이다.

2020년이 되자, 카녜 웨스트(Kanye West, '칸예') — 바로 나중에 공개적으로 히틀러에 대한 숭배를 드러낸 그 래퍼 — 가 이렇게 계속 쌓여 가는 불만 목록에 뜻밖에도 등장했다.

루스는 두 명의 관계자를 인용해, 올트먼이 카녜를 만난 뒤 그를 GPT-3 비공개 테스트에 참여시키자고 제안했다고 전했다.

당시 GPT-3는 아직 공개 출시 전이었고, OpenAI가 아껴 두던 핵심 자산이었다. 당시 OpenAI 정책 총괄이었던 잭 클라크(Jack Clark)가 이 제안을 막아섰는데, 그는 카녜가 얼마 전 그레미 트로피에 소변을 보는 듯한 영상을 올린 적이 있고 그의 공개 행동이 우려스럽다고 언급했다. 그러고는 얼마 지나지 않아 카녜는 공개적으로 히틀러에 대한 숭배를 드러내기 시작했다.

이 초대는 성사되지 않았지만, 올트먼의 판단력에 대한 아모데이의 불만을 더욱 키웠다. 루스는 이렇게 썼다. 비슷한 사건들을 하나씩 떼어 놓고 보면 대부분 그가 사직할 만한 수준은 아니었지만, 쌓이고 나니 올트먼이 AGI 같은 강력한 기술을 쥐기에 적합한 인물이라고 믿기 어려워졌다는 것이다.

루스는 책에서, 2020년이 되자 아모데이는 OpenAI의 리더십에 완전히 실망했다고 밝혔다. 그는 올트먼을 "양면적인 조종자"라고 표현했고, 브록먼은 "권력욕에 눈이 멀고 경솔하게 행동한다"고 봤다.

사실 그들 사이의 핵심 갈등은 두 글자로 요약된다. 바로 신뢰다.

아모데이는 OpenAI 재직 기간 내내 몰래 메모를 해 두며, 올트먼이 자신을 오도했다고 생각한 순간들을 적어 뒀다고 한다.

그중 한 메모에서 그는 이렇게 썼다. "OpenAI의 문제는 바로 샘 자신에게 있다."

파벌을 나누고 소집단을 만든다고?

한편, OpenAI 내부에서도 아모데이를 점점 더 견디기 힘들어하는 사람들이 있었다.

루스의 보도에 따르면, 아모데이와 여동생 다니엘라(Daniela)는 점차 뜻이 비슷한 동료들을 끌어모았다. 그들은 개인 채팅 채널을 만들고 따로 회의를 열며 안전 문제를 자주 논의했다. 이 무리 밖의 일부 직원들이 보기에, 이들은 갈수록 함께 일하기 어려운 사람들이었다.

한 전 동료는 루스에게, 아모데이가 어떤 선택이 도덕적으로 옳다고 단정하곤 해서, 마치 안전만 들먹이면 논쟁이 끝나야 하는 것처럼 보였다고 불평했다. 이는 다른 팀들을 몹시 화나게 했다.

아모데이는 상업적 목표가 항상 안전 약속을 짓누를 것이라고 생각했고, 일부 동료들은 그가 안전을 반박하기 어려운 이유로 만들어 버렸다고 생각했다. 서로에 대한 불만은 이렇게 구체적인 결정에서 업무 방식과 인격 판단으로까지 번져 갔다.

결국 갈등은 하나의 실질적인 권한으로 모아졌다. 안전 팀이 신제품 출시를 거부할 수 있느냐는 것이었다.

루스의 보도에 따르면, 아모데이는 퇴사 전에 올트먼에게 일련의 잔류 조건을 제시했는데, 그중에는 안전 팀에 그러한 거부권을 주는 것이 포함됐다. 그는 핵심 연구진이 집단으로 떠날 수 있다는 압박이 올트먼이 변화를 받아들이도록 만들 수 있기를 바랐다.

비밀 단체 채팅에서 '분가' 카운트다운이 시작되다

협상이 진행되는 동안, 퇴로도 이미 준비되고 있었다.

아모데이는 여섯 명의 동료와 함께 'BATNA'라는 이름의 개인 Slack 채널을 만들었다. 이는 협상이 합의에 이르지 못할 때의 최선의 대안(Best Alternative to a Negotiated Agreement)을 뜻한다. 멤버에는 여동생 다니엘라와 잭 클라크, 샘 맥캔들리시(Sam McCandlish), 톰 브라운(Tom Brown), 크리스 올라(Chris Olah), 재러드 캐플런(Jared Kaplan)이 포함됐다.

이 그룹의 이름 자체가 그들 당시의 처지를 말해 준다. 아직 협상 중이지만, 이미 떠날 준비를 마쳤다는 것이다.

잔류 조건이 타결되지 않자, 양측은 변호사를 불러 내부에서 'the divorce(이혼)'라고 부르는 것을 협상하기 시작했다.

루스의 보도에 따르면, 올트먼은 이들이 수주 동안 OpenAI 직원을 모집할 수 있는 기간을 갖는 데 동의했고, 그 대가로 이후 1년간은 인력을 빼가지 않기로 했다. 양측은 또 공개석상에서 서로를 헐뜯지 않기로 약속했다.

2020년 12월, OpenAI는 전 직원 온라인 회의를 열었다.

시작은 평소와 다를 바 없어 보였다. 올트먼이 연구 진전을 알리고 신입 직원을 소개한 뒤, 발언권을 아모데이에게 넘겼다.

이어서 아모데이는 자신과 다른 여섯 명의 책임자가 떠나 AI 안전에 중점을 둔 새로운 기관을 설립할 것이라고 발표했다.

루스의 묘사에 따르면, 채팅창은 곧 놀라움의 메시지와 이모티콘으로 도배됐고, 회의가 거의 끝나갈 무렵 잭 클라크가 채팅창에 "I love you all"이라는 한 줄을 남겼다. 그러자 화면이 갑자기 검게 변했다.

다리오 아모데이와 그의 여동생 다니엘라 아모데이를 포함한 OpenAI 핵심 멤버 일곱 명이 같은 순간 회의에서 쫓겨났고, 이메일과 Slack 권한은 그 자리에서 회수됐다.

그리고 2021년 초, Anthropic이 설립됐다.

원한은 언제 끝날까

하지만 새로 둥지를 틀었다고 해서 아모데이가 한때 자신을 괴롭히던 난제에서 벗어난 것은 아니었다.

Anthropic 역시 자금을 조달하고, 연산 능력을 확충하고, 더 강력한 모델을 개발해야 했다. 최전선 기술을 쥐어야 가장 최전선의 위험을 연구할 수 있다. 하지만 최전선에 머물려면 계속 투자해야 하고, 경쟁자의 추격에 맞서야 한다. 회사가 성장하면서 아모데이도 익숙한 질문에 답해야 했다. 안전, 상업, 경쟁이 충돌할 때, 어느 쪽이 먼저 양보해야 하는가?

양측의 서로에 대한 원한도 조금도 풀리지 않았다.

관계자에 따르면, 아모데이는 올트먼과 OpenAI를 '사악하다'고 표현한 적이 있다. 동시에 OpenAI 내부 일부 사람들은 아모데이 남매가 스스로를 도덕적 귀감으로 포장하면서도 권력에 똑같이 집착한다고 생각했다. 그들은 특히 Anthropic이 한편으로는 공개적으로 AI 위험을 경고하면서, 다른 한편으로는 경쟁에 가속 페달을 밟는 것에 불만을 품었다.

루스는 책에서 이 AI 선두 주자들을 "적의가 얽힌 거미줄"이라고 표현했다. 하사비스(Hassabis)는 올트먼을 얕보고, 아모데이는 올트먼을 얕보고, 올트먼은 아모데이를 얕보고, 올트먼은 머스크도 얕본다는 것이다.

몇 년이 지났지만 이 거미줄은 풀리지 않았고, 오히려 각자 새로운 골칫거리를 안게 됐다. 블룸버그 소식에 따르면, Anthropic은 빠르면 11월 중순 상장을 추진 중이며 목표 기업가치는 최대 2조 달러다. 하지만 투자설명서는 다른 면도 드러낸다. 2025년 매출은 약 46억 달러인데 영업손실은 80억 달러를 넘고, 앞으로 연산 능력 구축에 5000억 달러 이상을 투자하겠다고 약속했다. 올트먼 쪽은 IPO에 신중한 태도를 보이며, 안전과 정렬(alignment) 문제를 해결하기 전에는 서둘러 상장하지 않겠다고 말한다. 하지만 OpenAI 역시 최근 AI 안전 사건에 시달리고 있다.

그해 아모데이는 올트먼을 믿지 못해 떠났고, 안전 약속이 진짜로 통하는 회사를 세우고 싶어 했다. 이제 그의 회사도 같은 난제를 마주해야 한다. 성장의 지속 가능성과 안전 우려, 어느 쪽도 느슨하게 할 수 없다는 것이다. 이 문제에 대해, 그들은 아직 답안을 제출하지 못했다.

트럼프: 미국 정부, OpenAI와 Anthropic 지분 인수 검토 가능성

인기 기사