작성자: Sleepy.txt

2016년, 뉴요커지는 샘 알트만에 대한 특집 기사 "샘 알트만의 운명"을 게재했습니다. 당시 31세였던 그는 이미 실리콘 밸리에서 가장 영향력 있는 창업 보육 기관 중 하나인 Y Combinator의 대표였습니다.

기사에는 울트라맨이 경주용 자동차를 좋아하고, 스포츠카를 다섯 대나 소유하고 있으며, 비행기를 빌려 타는 것도 즐긴다는 내용이 포함되어 있었습니다. 그는 기자에게 가방이 두 개 있는데, 그중 하나는 도망쳐야 할 때를 대비한 탈출 키트라고 말했습니다.

그는 또한 총기, 금, 요오드화칼륨(핵 방사능 방호용), 항생제, 배터리, 물, 그리고 이스라엘 국방군용 방독면을 준비했습니다. 더불어 언제든 비행기를 타고 캘리포니아의 유명한 해안 휴양지인 빅서에 피난처를 마련해 두었습니다.

10년 후, 울트라맨은 종말을 초래하고 방주를 홍보하는 데 가장 헌신적인 인물이 되었습니다. 인공지능이 인류를 파멸시킬 것이라고 경고하면서도, 그는 직접 그 과정을 가속화했습니다. 돈 때문이 아니라고 주장하면서도, 그는 20억 달러에 달하는 개인 투자 제국을 건설했습니다. 규제를 요구하면서도, 그는 제동을 걸려는 모든 사람을 배척했습니다.

그를 정신분열증 환자나 교활한 사기꾼이라고 부르기보다는, 실리콘 밸리라는 거대한 시스템의 가장 전형적이고 성공적인 산물이었다고 말하는 것이 더 정확할 것이다. 그의 "운명"은 인류의 집단적 불안감을 자신의 홀과 왕관으로 빚어내는 것이었다.

종말론은 좋은 사업이다

울트라맨의 사업 모델은 한 문장으로 요약할 수 있다. 인류 생존을 위한 성전이라는 구도로 사업을 포장하는 것이다.

그는 Y Combinator 시절부터 이러한 접근 방식을 실천해 왔습니다. 그는 Y Combinator를 초기 스타트업에 수만 달러를 지원하는 작은 워크숍에서 거대한 창업 제국으로 탈바꿈시켰습니다. 또한 수익을 창출하지는 않지만 야심차게 보이는 프로젝트에 자금을 지원하는 Y Combinator Research Lab을 설립했습니다. 그는 기자들에게 Y Combinator의 목표는 "모든 중요한 분야"에 투자하는 것이라고 밝혔습니다.

오픈AI에서 그는 이러한 접근 방식을 극단적으로 밀어붙였습니다. 그는 AI 종말론과 구원책을 결합한, 마치 패키지 상품과 같은 세계관을 팔고 있었습니다.

그는 인공지능이 제기하는 "멸종 위험"을 누구보다 잘 설명하는 인물입니다. 그는 수백 명의 과학자들과 함께 인공지능의 위험성이 핵전쟁에 필적한다는 성명에 공동 서명했습니다. 상원 청문회에서 그는 "우리는 (인공지능의 잠재력에 대한) 어느 정도의 두려움을 가지고 있으며, 이는 오히려 다행스러운 일입니다."라고 말했습니다. 그는 이러한 두려움 자체가 유용한 경고라고 암시했습니다.

이러한 주장들은 각각 헤드라인을 장식할 만하며, 오픈AI에게는 무료 광고 효과를 가져다 줄 것입니다. 이렇게 치밀하게 만들어진 공포심은 관심을 끌어모으는 가장 효과적인 수단입니다. 자본과 언론에게 더 흥미로운 것은 무엇일까요? "효율성을 향상시키는" 기술일까요, 아니면 "인류를 파멸시킬지도 모르는" 기술일까요? 답은 자명합니다.

구원이라는 측면에서 그는 이미 완성된 상품, 월드코인을 가지고 있었습니다. 대중의 의식 속에 공포가 심어지면 해결책을 내세우는 것은 자연스러운 수순입니다. 농구공 크기의 은색 구체를 사용하여 전 세계 사람들의 홍채를 스캔하고, 인공지능 시대에 모든 사람에게 돈을 나눠주겠다고 주장했습니다. 이 이야기는 매력적으로 들렸지만, 생체 데이터를 돈으로 교환하는 이러한 방식은 전 세계 정부의 경각심을 불러일으켰습니다. 케냐, 스페인, 브라질, 인도, 콜롬비아를 포함한 12개국 이상이 개인정보보호를 이유로 월드코인 거래를 중단하거나 조사에 착수했습니다.

하지만 울트라맨에게는 그런 건 전혀 중요하지 않을지도 모릅니다. 중요한 건 이 프로젝트를 통해 자신이 "해결책을 가진 유일한 사람"이라는 이미지를 성공적으로 구축했다는 점입니다.

두려움과 희망을 한데 묶어 파는 것이야말로 우리 시대에서 가장 효율적인 비즈니스 모델이다.

규제는 나의 무기이지, 나의 족쇄가 아니다.

세상의 종말에 대해 끊임없이 떠드는 사람이 어떻게 사업을 할 수 있을까요? 울트라맨의 대답은 이렇습니다. 규제를 무기로 삼으세요.

2023년 5월, 그는 처음으로 미국 의회에 출석하여 증언했습니다. 규제에 대해 불평하던 다른 기술 기업 대표들과는 달리, 그는 오히려 "저희를 규제해 주십시오"라고 적극적으로 요청했습니다. 그는 AI 라이선스 시스템을 제안했는데, 이 시스템에서는 라이선스를 취득한 기업만이 대규모 모델을 개발할 수 있도록 하는 것이었습니다. 이는 그를 매우 책임감 있는 업계 리더로 보이게 했지만, 당시 오픈AI는 기술적으로 매우 앞서 있었고, 엄격하고 진입 장벽이 높은 규제 시스템은 잠재적 경쟁업체를 모두 배제하는 역할만 할 뿐이었습니다.

하지만 시간이 흐르면서, 특히 구글이나 앤트로픽 같은 경쟁업체들이 기술적으로 따라잡고 오픈소스 커뮤니티의 영향력이 커지기 시작하면서, 알트만의 규제에 대한 발언은 미묘하게 변화했습니다. 그는 여러 차례에 걸쳐 지나치게 엄격한 규제, 특히 AI 기업에 의무적인 사전 검토를 요구하는 규제가 혁신을 저해하고 "재앙적"일 수 있다고 강조하기 시작했습니다.

이 시점에서 규제는 더 이상 해자가 아니라 걸림돌이 되고 있다.

그는 절대적인 우위를 점했을 때는 그 우위를 유지하기 위해 규제를 주장했고, 그 우위가 약해지자 돌파구를 찾을 수 있는 자유를 요구했습니다. 심지어 산업 사슬의 최상류까지 영향력을 확대하려 시도하기도 했습니다. 그는 아랍에미리트 국부펀드와 같은 자본의 지원을 받아 7조 달러 규모의 거대한 반도체 개발 계획을 제안하며 세계 반도체 산업의 지형을 재편하려 했습니다. 이는 최고경영자(CEO)의 권한을 훨씬 뛰어넘는 것으로, 세계 질서에 영향력을 행사하려는 야심 찬 인물의 행동에 더 가까웠습니다.

이 모든 것의 배경에는 비영리 단체에서 거대 상업 기업으로 빠르게 변모한 OpenAI의 모습이 있습니다. 2015년 설립 당시 OpenAI의 사명은 "인공 일반 지능(AGI)이 모든 인류에게 안전하게 혜택을 줄 수 있도록 보장하는 것"이었습니다. 2019년에는 "유한 이익"을 추구하는 자회사를 설립했습니다. 그러나 2024년 초, OpenAI의 사명 선언문에서 "안전하게"라는 단어가 슬그머니 삭제된 사실이 드러났습니다. 회사 구조는 여전히 "유한 이익"이었지만, 상업화 속도는 눈에 띄게 빨라졌습니다. 그 결과, 매출은 2022년 수천만 달러에서 2024년 연간 매출 100억 달러 이상으로 급증했고, 기업 가치는 290억 달러에서 수천억 달러로 치솟았습니다.

누군가 별을 바라보며 인류의 운명에 대해 이야기하기 시작한다면, 먼저 자신의 지갑이 어디 있는지부터 확인해야 할 것이다.

캐릭터 디자인: 카리스마 넘치는 지도자의 면역력

2023년 11월 17일, 울트라맨은 자신이 직접 선출한 이사회로부터 "이사회와의 소통 과정에서 부정직했다"는 이유로 해임되었다.

이후 5일 동안 벌어진 일은 단순한 사업적 싸움이라기보다는 신념에 대한 국민투표에 가까웠습니다. 그렉 브록먼 사장이 사임했고, 회사 직원 95% 이상, 즉 700명이 넘는 직원들이 이사회의 사임을 요구하는 청원서에 서명하며, 이사회가 사임하지 않으면 마이크로소프트로 집단 이직하겠다고 위협했습니다. 회사의 최대 투자자인 마이크로소프트 CEO 사티아 나델라는 공개적으로 브록먼 편에 서서 언제든 회사로 돌아오는 것을 환영한다고 밝혔습니다. 결국 브록먼은 의기양양하게 복귀하여 자신에게 반대했던 이사진들을 거의 모두 축출했습니다.

이사회에서 공식적으로 "부정직하다"고 판정받은 CEO가 어떻게 아무런 피해 없이 복귀하여 오히려 더 큰 권력을 행사할 수 있었을까요?

해임된 이사회 멤버 헬렌 토너는 나중에 자세한 내용을 폭로했습니다. 알트만은 이사회에 오픈AI 스타트업 펀드에 대한 자신의 실제 통제권을 숨겼고, 중요한 보안 절차에 대해 반복적으로 거짓말을 했으며, 심지어 ChatGPT의 주요 발표 내용을 트위터에서 알게 되었습니다. 이러한 혐의 중 하나만으로도 CEO를 백 번이고 해고할 만한 충분한 이유가 됩니다.

하지만 울트라맨은 괜찮습니다. 그는 평범한 CEO가 아니라 "카리스마 넘치는 리더"이기 때문입니다.

이는 100년 전 사회학자 막스 베버가 제시한 개념으로, 지위나 법률에서 나오는 것이 아니라 지도자의 "탁월한 개인적 카리스마"에서 비롯되는 권위가 있다는 것을 시사합니다. 추종자들은 지도자가 어떤 옳은 일을 해서가 아니라, 그저 그 자체로 지도자이기 때문에 그를 믿습니다. 이러한 믿음은 비이성적입니다. 지도자가 실수를 저지르거나 도전을 받을 때, 추종자들의 첫 번째 반응은 지도자를 비판하는 것이 아니라 도전자를 공격하는 것입니다.

이것이 바로 오픈AI 직원들의 모습입니다. 그들은 이사회의 절차적 정의를 믿지 않고, 울트라맨이 상징하는 "운명"만을 믿으며, 이사회 구성원들이 "인류의 발전을 저해하고 있다"고 생각합니다.

알트만이 복직된 후, 오픈AI의 보안팀은 곧바로 해체되었다. 알트만의 해임을 주도했던 수석 과학자 일리야 수츠크웰 또한 회사를 떠났다. 2024년 5월, 보안팀 리더 얀 라이케는 사임하면서 트위터에 "화려한 제품들을 추구하는 과정에서 회사의 보안 문화와 프로세스가 희생되었다"고 썼다.

카리스마 넘치는 지도자가 있는 곳에서는 사실도, 절차도, 안전도 중요하지 않다. 중요한 것은 오직 믿음뿐이다.

조립 라인의 예언자들

샘 알트만은 실리콘 밸리의 "예언자" 생산 라인에서 가장 최근이자 가장 성공한 모델일 뿐이다.

이 생산 라인에는 익숙한 얼굴들이 많이 있습니다.

일론 머스크를 예로 들어보겠습니다. 2014년 그는 "AI는 악마를 불러들이고 있다"고 공언했습니다. 하지만 그의 테슬라는 세계 최대의 로봇 회사이자 AI를 가장 복잡하게 활용한 기업입니다. 울트라맨과 결별한 후, 그는 2023년 xAI를 설립하고 AI에 정면으로 맞서 싸우겠다고 선언했습니다. 불과 1년 만에 xAI의 기업 가치는 200억 달러를 넘어섰습니다. 그는 다가올 악마를 경고하면서 동시에 또 다른 악마를 만들어낸 것입니다. 이러한 자기모순적인 행보는 울트라맨의 이야기와 놀랍도록 유사합니다.

마크 저커버그를 예로 들어보겠습니다. 몇 년 전, 그는 회사의 미래를 메타버스에 걸고 거의 900억 달러를 쏟아부었지만, 결국 함정에 빠졌다는 것을 깨달았습니다. 그래서 그는 즉시 방향을 바꿔 회사의 핵심 담론을 메타버스에서 인공 일반 지능(AGI)으로 전환했습니다. 2025년에는 "초지능 연구소" 설립을 발표하고 직접 인재를 영입했습니다. 두 프로젝트 모두 인류의 미래에 대한 원대한 비전을 제시하고, 천문학적인 자본 투자를 필요로 하며, 구세주와 같은 입장을 취한다는 공통점을 가지고 있습니다.

그리고 피터 틸이 있습니다. 알트만의 멘토로서 그는 이 모든 것을 조장하는 총괄 설계자에 가깝습니다. "기술적 특이점"과 "불멸"을 추구하는 기업들에 투자하는 한편, 뉴질랜드에 땅을 사서 종말 대비 벙커를 짓고 단 12일 만에 시민권을 취득하기도 합니다. 그의 회사 팔란티어는 세계 최대 규모의 데이터 감시 기업 중 하나로, 주로 정부와 군대를 대상으로 서비스를 제공합니다. 그는 문명의 붕괴에 대비하는 동시에 권력자들을 위한 가장 정교한 감시 도구를 개발하고 있습니다. 2026년 초 이란에 대한 군사 작전에서 핵심적인 역할을 한 것은 바로 팔란티어의 AI 플랫폼이었습니다. 이 플랫폼은 첩보 위성, 통신 도청, 드론, 클로드 모델 분석 등에서 수집한 방대한 양의 데이터를 통합하여 혼란스러운 정보를 실시간으로 의사 결정 정보로 변환하고, 최종적으로 목표물을 추적하여 사살 공격을 감행했습니다.

그들 각자는 이중적인 역할을 수행합니다. "다가올 재앙을 경고하는" 동시에 "재앙을 앞당기는" 역할을 하는 것입니다. 이는 이중인격이 아니라, 자본 시장에서 가장 효율적인 것으로 입증된 비즈니스 모델입니다. 그들은 구조적인 불안감을 조성하고 판매함으로써 관심, 자본, 그리고 권력을 장악합니다. 그들은 이 시스템의 산물인 동시에 시스템을 만들어가는 주체이며, "거대한 담론 뒤에 숨겨진 악"입니다.

실리콘 밸리는 더 이상 단순히 기술을 수출하는 곳이 아니라, "현대의 신화"를 만들어내는 공장입니다.

이 방법이 항상 통하는 이유는 무엇일까요?

실리콘 밸리는 몇 년에 한 번씩 자본, 언론, 그리고 대중의 관심을 사로잡는 새로운 예언자를 배출하는데, 그는 종말과 구원에 대한 거창한 이야기를 펼쳐낸다. 이러한 수법은 반복되지만, 매번 효과를 발휘한다. 그 모든 단계는 인간 인지 능력의 특정 허점을 정확하게 겨냥한다.

1단계: 두려움을 만들어내는 것이 아니라, 두려움의 리듬을 관리하라.

인공지능의 잠재적 위험은 분명히 존재하지만, 이러한 위험은 차분하게 논의될 수 있었을 것입니다. 하지만 이 집단은 의도적으로 가장 극적인 방식으로 위험을 제시했고, 공포감을 조성하는 데 있어 매우 능숙했습니다.

대중에게 공포심을 심어주는 시점, 희망을 제시하는 시점, 그리고 경각심을 일깨우는 시점은 모두 치밀하게 계획된 것이다. 공포는 연료이지만, 점화 시기와 방법은 진정한 예술이다.

두 번째 단계: 기술의 난해함을 권위의 원천으로 바꾸십시오.

인공지능은 대다수 사람들에게 완전히 불투명한 블랙박스와 같습니다. 무언가가 너무 복잡해서 완전히 이해할 수 없게 되면, 사람들은 본능적으로 그것을 해석할 권리를 "가장 잘 이해하는 사람"에게 넘겨줍니다. 그들은 이러한 사실을 깊이 이해하고 이를 구조적인 이점으로 활용해 왔습니다. 인공지능을 더욱 신비롭고, 위험하고, 인간의 이해를 초월하는 것으로 묘사할수록, 그들 자신의 존재 가치는 더욱 높아집니다.

이러한 논리의 무서운 점은 바로 자기 강화적이라는 것입니다. 외부의 비판은 비판자가 "충분히 이해하지 못한다"는 이유로 자동으로 무력화됩니다. 규제 당국은 기술을 이해하지 못하므로 그들의 판단은 신뢰할 수 없고, 학계 비평가들은 현장에서 모델을 구축해 본 경험이 없으므로 그들의 우려는 이론적인 것에 불과합니다. 결국, 스스로를 판단할 자격은 오직 그들 자신에게만 있다는 것입니다.

세 번째 단계: "이익"을 "의미"로 대체하여 추종자들이 자발적으로 비판을 포기하도록 만듭니다.

이것은 전체 시스템에서 가장 뚫기 어려운 장벽이자, 동시에 가장 강력한 권력의 원천입니다. 그들이 내세우는 것은 단순한 일자리나 제품이 아니라, 우주적 규모의 의미를 지닌 이야기입니다. 바로 당신이 인류의 운명을 결정한다는 것입니다. 이 이야기가 받아들여지면 추종자들은 기꺼이 독립적인 판단력을 포기합니다. "인류 생존"이라는 사명 앞에서 지도자의 동기에 의문을 제기하는 것은 자신을 하찮게, 심지어 역사의 장애물처럼 보이게 만들기 때문입니다. 사람들은 비판적 사고 능력을 기꺼이 포기하고, 이러한 포기를 고귀한 선택으로 받아들입니다.

이 세 단계를 종합해 보면, 왜 이 시스템을 떨쳐내기가 그토록 어려운지 이해할 수 있을 것입니다. 이 시스템은 거짓말에 의존하는 것이 아니라, 인간의 인지 구조에 대한 정확한 이해에 기반합니다. 먼저 무시할 수 없는 두려움을 조성하고, 그 다음에는 그 두려움에 대한 해석을 독점하며, 마지막으로 "의미"를 이용하여 당신을 가장 충실한 전파자로 만듭니다.

이 시스템 내에서 울트라맨은 현재까지 가장 원활하게 작동하는 모델입니다.

누구의 운명인가?

알트만은 자신이 오픈AI의 지분을 전혀 소유하고 있지 않으며 상징적인 급여만 받는다고 항상 주장해 왔는데, 이는 한때 그의 "사랑을 위한 힘"이라는 담론의 핵심이었다.

하지만 블룸버그는 2024년 그의 순자산을 약 20억 달러로 추산했습니다. 이 부는 주로 지난 10년간 그가 단행한 일련의 벤처 투자에서 비롯되었습니다. 결제 회사 스트라이프에 대한 그의 초기 투자는 수억 달러의 수익을 가져다준 것으로 알려져 있으며, 레딧의 IPO 투자 또한 상당한 이익을 안겨주었습니다. 그는 또한 핵융합 회사 헬리온에도 투자했는데, 이는 인공지능의 미래가 에너지 혁신에 달려 있다고 주장하면서 핵융합에 막대한 투자를 한 것이었습니다. 이후 오픈AI는 헬리온과 대규모 전력 구매 계약을 체결했습니다. 그는 협상에 관여하지 않았다고 주장했지만, 이해관계의 복잡한 관계는 명백했습니다.

그는 실제로 오픈AI의 주식을 직접 소유하고 있지는 않지만, 오픈AI를 중심으로 거대하고 자기중심적인 투자 제국을 건설했습니다. 그가 인류의 미래에 대해 하는 모든 거창한 설교는 이 제국의 가치를 높여줍니다.

이제 총, 금, 항생제로 가득 찬 그의 종말 대비 생존 키트와 언제든 날아갈 수 있었던 빅서의 땅을 되돌아보면, 뭔가 새로운 이해가 생기셨나요?

그는 그 어떤 것도 숨기지 않았다. 탈출 키트도, 벙커도, 종말에 대한 그의 집착도 모두 진짜였다. 하지만 그는 또한 종말이 도래하기를 가장 적극적으로 부추기는 인물이기도 했다. 이 두 가지는 모순되지 않았는데, 그의 논리대로라면 종말은 막을 필요가 없고, 단지 예측하기만 하면 되는 것이었기 때문이다. 그는 미래를 명확하게 보고 대비할 수 있는 유일한 사람인 척하는 데 집착했다.

비상 탈출 키트를 준비하든, 오픈AI를 중심으로 금융 제국을 건설하든, 본질적으로는 같은 의미입니다. 스스로 만들어가는 불확실성으로 가득 찬 미래 속에서 가장 확실한 승리 위치를 확보하는 것이죠.

2026년 2월, 그는 "인공지능이 전쟁에 사용되지 않도록 하겠다"는 자신의 마지노선을 명확히 밝히기도 전에 미 국방부와 계약을 체결했다. 이는 위선이 아니라 그의 사업 모델에 내재된 필수 조건이었다. 도덕적 입장은 상품의 일부이고, 상업적 계약은 수익의 원천이다. 그는 자비로운 구원자와 냉혹한 파멸의 예언자라는 두 가지 역할을 동시에 수행해야만 한다. 그래야만 그의 이야기가 계속되고 그의 "운명"이 드러날 수 있기 때문이다.

진정한 위험은 인공지능 그 자체가 아니라, 인류의 운명을 결정할 권리가 있다고 믿는 자들이다.

消息人士：Worldcoin预计将于2024年初在肯尼亚恢复运营

인기 기사