OpenAI를 떠나기 전, Anthropic 사장에게는 '봉제인형 자문단'이 있었다

저자: 리자, 월스트리트견문

오늘날 Anthropic은 'AI 안전'을 회사의 핵심 라벨로 삼고 있지만, 이 회사의 공동 창업자이자 사장인 Daniela Amodei가 초창기에 남편 Holden Karnofsky와 함께 봉제인형 무리를 이용해 경영 문제를 논의했다는 사실을 아는 사람은 거의 없다.

이 인형들은 각기 다른 성격을 부여받았다. 어떤 인형은 '회의를 줄이고 스스로 골칫거리를 만들지 말 것'을 전담했고, 어떤 인형은 규칙·디테일·실행을 강조했으며, 또 어떤 인형은 의사결정자가 동정심을 유지하도록 상기시키는 역할을 맡았다. 까다로운 직장 내 문제를 마주하면 Daniela와 남편은 이 가상의 캐릭터들이 각각 '의견을 발표'하게 함으로써, 서로 다른 유형의 관리자가 내릴 수 있는 선택을 시뮬레이션했다.

이 지극히 사적이고 다소 동심 어린 일화는 Daniela가 아직 OpenAI에 재직하던 시절에 벌어졌다. 바로 이 시기에 그녀와 오빠 Dario Amodei도 OpenAI 경영진과 점차 의견 차이를 빚고 있었다. Daniela는 여러 고위 임원과 업무 중 마찰을 겪었고, Dario는 회사 경영진과 첨단 AI의 발전 방향에 대해 점점 더 경계심을 갖기 시작했다.

2020년, 남매는 결국 OpenAI를 떠나기로 결정했고, 훗날 내부 관계자들 사이에서 '이혼'으로 불린 이 분열은 Anthropic 탄생의 출발점이 되었다.

《애틀랜틱》은 최근 기자 Kevin Roose가 곧 출간할 신간 《The AGI Chronicles》를 인용해 이 잘 알려지지 않은 경험을 공개했다. Daniela는 2023년 Roose와의 인터뷰에서 이 방법이 "서로 다른 성격 유형을 분석하는 데 매우 유용했다"고 말했다.

당시 봉제인형으로 '자문위원회'를 꾸리던 때부터 수천 명의 직원을 둔 AI 거대 기업으로 성장하기까지, Anthropic은 소규모 AI 안전 스타트업에서 업계의 주요 플레이어로 성장했다. 언론 보도에 따르면 회사의 잠재적 IPO 기업가치는 2조 달러에 육박할 수 있다.

봉제인형 무리가 어떻게 '자문위원회'가 되었나?

이 비공식 '자문단'은 단순한 장난이 아니라, 서로 다른 의사결정 스타일을 시뮬레이션하는 사고 방식이었다.

그중 Jinji는 성격이 느긋한 고양이로, 불필요한 회의를 건너뛰는 등 Amodei의 업무 부담을 덜어주는 쪽을 선호했다. 분홍색 곰 Maura는 완전히 반대되는 스타일, 즉 체계적이고 요구가 많으며 디테일에 집중하는 성격을 대표했다. Beary Bonds라는 이름의 판다는 토론에 더 많은 동정심과 관대함을 더하도록 설정되었다.

같은 직장 내 문제를 마주하면 Amodei 부부는 서로 다른 인형이 대표하는 '인격'이 각각 반응하도록 했다.

이 방법의 진짜 효과는 인형에 있는 것이 아니라, 의사결정자가 잠시 자신의 입장에서 벗어나 다른 인격으로 문제를 다시 바라보도록 강제하는 데 있었다.

본질적으로 이는 저비용 사고 실험이었다. 실제 외부 자문가 없이도 서로 다른 역할의 시뮬레이션을 통해 같은 문제를 여러 의사결정 경로로 분해할 수 있었다.

그리고 이 방법은 OpenAI 내부에서 거의 아무도 알지 못했다.

봉제인형 너머, OpenAI 내부의 분열은 커지고 있었다

그와 동시에 Amodei 남매와 OpenAI의 관계도 변화하고 있었다.

Daniela Amodei는 2018년 OpenAI에 합류했고, 이후 기술팀 관리 직책으로 옮겨 Greg Brockman, Mira Murati를 비롯한 여러 고위 임원과 의견 차이를 빚었다.

그녀는 한때 Brockman과 가까운 사이였다. Brockman은 그녀가 2017년 Holden Karnofsky와 결혼식을 올릴 때 축사를 했지만, 이후 두 사람의 업무 관계는 점차 악화되었다.

Dario Amodei는 OpenAI의 리더십과 첨단 AI의 발전 방향에 점점 더 주목했고, Sam Altman과 Brockman에 대해 날로 경계심을 키웠다.

그와 동시에 그는 강력한 AI 시스템의 위험을 더 중시하기를 바라는 연구자들과 함께 비공개 활동을 조직하기 시작했다. 회사의 정상적인 조직 체계 밖에서 이들은 소통하고 회의를 열었으며, 일부 동료들은 이 파벌을 'Dario의 소서클'이라고 불렀다.

내부 갈등은 결국 더 이상 피할 수 없는 단계에 이르렀다.

2020년, Dario는 OpenAI를 떠나 다른 안전 이념으로 첨단 AI 연구를 추진할 의향이 있는 팀을 꾸리기 시작했다. Daniela는 이 이탈의 핵심 인물 중 한 명이 되었고, 팀이 떠날 준비를 하는 동안 OpenAI와의 협상을 담당했다.

이 분열은 훗날 관계자들 사이에서 은밀히 '이혼'으로 불렸다.

한 번의 이탈, 한 AI 거대 기업의 탄생

2020년 12월, Amodei 남매는 공식적으로 OpenAI를 떠나 함께 Anthropic을 창업했다.

Jack Clark, Sam McCandlish, Tom Brown, Chris Olah, Jared Kaplan도 회사 창업에 참여했고, Ben Mann은 이후 또 다른 공동 창업자로 인정받았다.

Anthropic은 처음에는 AI 안전을 핵심으로 하는 소규모 연구 기관에 불과했다. 이후 회사는 점차 수천 명의 직원으로 확장되었고, OpenAI의 가장 중요한 경쟁자 중 하나로 성장했다.

Daniela Amodei는 현재 Anthropic의 사장 겸 이사회 의장으로서 연구·엔지니어링·제품·비즈니스 운영 대부분을 총괄하고 있다. 한때 OpenAI 비영리 이사회 멤버였던 Holden Karnofsky도 이후 Anthropic에 합류했다.

봉제인형으로 관리자를 시뮬레이션하던 때부터 수천 명의 직원을 둔 AI 거대 기업으로 성장하기까지, 이 일화는 Anthropic이 초창기에서 성숙으로 나아가는 과정을 증언하고 있다.