정리 & 편역: 深潮 TechFlow
들어가며: "통화는 연방 구치소에서 발신되었습니다"라는 연방 교도소 자동 안내 음성과 함께, 전 FTX 창업자 샘 뱅크먼프리드(SBF)가 브루클린 메트로폴리탄 구치소(MDC Brooklyn)에서 14세 테크 블로거 엘라이 골드파인(Eli Goldfine)과 82분간 진행한 고밀도 심층 대담이 공개됐다. 최근 몇 년 사이 정보 밀도가 가장 높은 대화로 평가되는 이 자리에서, 옥살이 중인 SBF는 이례적으로 침묵을 깨고 자신의 인식 지형, 투자 이력, 극단적 철학을 전면적으로 되짚었다.
당시 FTX Ventures를 이끌어 Anthropic에 5억 달러를 투입한 배후의 역학에서부터, 미래 AI 지형이 수백억에서 수조 달러 규모로 확장될 것이라는 급진적 추론까지. 전통 소프트웨어의 해자와 Coinbase 브랜드 가치에 대한 냉정한 검토, Tyler Cowen식 "51/49 동전 던지기로 세계를 파괴하거나 효익을 배가한다"는 논제와 개인의 자유를 건 도박에 대한 철학적 심문, 그리고 종국에 "FTX가 남긴 결말은 가치 없었다, 위기가 폭발할 때 모든 진실은 승자의 필터로 왜곡됐다"고 털어놓은 데 이르기까지, SBF는 가장 적나라한 사유 추론으로 한 천재 트레이더가 신화의 제단에서 추락한 뒤의 완전한 정신 세계를 드러냈다.
게스트: 샘 뱅크먼프리드(FTX 창업자 겸 전 CEO, 현재 연방 교도소 복역 중, 효과적 이타주의 핵심 실천가)
진행: 엘라이 골드파인(14세 테크·예측 팟캐스트 The Super Cycle 진행자, X @realTomBayes)
팟캐스트 출처: The Super Cycle(https://x.com/realTomBayes/status/2123761258306384333)
원제: EXCLUSIVE: I'm 14, and I just interviewed Sam Bankman-Fried
방송일: 2026년 11월 20일 (베이징 시간: 2026-11-21)
핵심 요약
수감 중 최대 고통은 최전선 정보와의 단절: SBF는 수감 중 사건을 생각하는 일은 외부 세계에 아무런 증분도 주지 않는다고 토로했다. 그를 진짜 괴롭히는 것은 대규모 언어모델의 실측 성능, 코드 디테일, 시장 시세, 스타트업의 상업적 실사를 실시간으로 따라가지 못한다는 점이며, 최전선의 미시적 입력이 없으면 효과적인 사고가 극히 어려워진다고 말했다.
Anthropic 초기 5억 달러 베팅의 전말: FTX Ventures는 당시 Anthropic의 B라운드 전체를 사실상 도맡았다. 더 많은 컴퓨팅 자금을 투입하지 않은 이유는 과도한 현금이 기업의 낭비(예: 무분별한 유저 확보)를 유발하기 쉽고, 팀이 지분 희석을 과도하게 원하지 않았기 때문이며, 무분별한 확장은 오히려 본말을 전도하는 일이기 때문이다.
AI 산업은 수십조 달러 규모의 주도권에 도달할 것: 향후 10년 AI는 반드시 세계 경제의 버팀목이자 나아가 주도 섹터가 될 것이다. 왕좌를 다툴 수 있는 최상위 연구소는 소수(Anthropic, OpenAI, DeepMind, xAI)뿐이므로, 선두 기관이 수조 달러급 밸류에이션을 누리는 것은 경제적 추론상 완전히 합리적이다.
전통 소프트웨어 기업이 AI로 사형 선고를 받은 것은 아니다: 물리적 세계의 실물 산업(철강, 광업 등)은 AI 충격이 지연된다. 순수 소프트웨어 및 금융 기관의 경우, 경쟁자가 AI로 극히 낮은 비용에 동일한 기능을 복제하더라도 선발 주자를 쉽게 뒤엎을 수는 없는데, Coinbase와 Robinhood의 진짜 해자는 견고한 브랜드 신뢰도이기 때문이다.
p(doom) 추정은 25% 근방의 복잡한 회색지대: SBF는 인류가 AI로 멸망하거나 생존 재앙을 겪을 확률을 10~50%(중위값 약 25%)로 본다. 재앙의 형태는 단순한 통제 불능 핵무기가 아니라, 인간 의식 업로드 이후 미업로드 집단이 전면적으로 주변화·도태되는 것과 같은 복잡한 회색 상황일 가능성이 크다.
정치 예측 시장은 FTX의 미완의 야심: 예측 시장은 금융 본질상 특정 결제 규칙을 지닌 선물 계약이다. FTX는 초기 역외 시장에서 수억 달러 규모의 미국 대선 예측을 운영했으나, 미국 상품선물거래위원회(CFTC) 라이선스를 받지 못해 제약을 받았다. Kalshi와 Polymarket의 폭발이 이 트랙의 잠재력을 입증했다.
종이책의 정보 처리 효율에 대한 극도의 회의: SBF는 대다수 책은 6개 문단짜리 블로그로 압축되어야 한다는 자신의 유명한 견해를 재확인했다. 이와 비교해 시청각 스트림(Netflix 등)은 단위 시간당 정보 처리량과 표현 차원에서 공허한 서두에 발목 잡힌 책보다 훨씬 높다.
극단적 기대값과 51/49 동전 던지기의 현실적 파산: 이론적 순수 선형 기대값 아래에서는 51% 확률로 두 배, 49% 확률로 세계 멸망이라는 도박이 수학적으로 성립한다. 그러나 현실에서는 멸망에 돌이킬 수 없는 절멸 비용이 있고 실제 효용은 한계체감한다. 51/49로 자신의 즉각 석방을 걸 수 있느냐는 문제에서 개인의 위험 효용 함수가 이론적 도박을 현실에 그대로 옮길 수 없게 만든다.
FTX 결말에 대한 통렬한 회고: "이 모든 것이 가치 있었나"라는 질문에 SBF는 "양심을 속여 가치 있다고 말할 수는 없다. 마지막에 일을 그르치지만 않았다면 가치 있었어야 했다"고 명확히 밝혔다. 위기가 닥치면 사람들은 이성과 핵심 판단을 잃기 쉽고, 이후 모든 역사는 승자의 필터로 재편되고 왜곡된다.
14세 신세대 청년에게 주는 생존 준칙: 더 이상 월가에 가서 "벌어서 기부하기(Earning to Give)"식 고빈도 매매를 하려 집착하지 말 것. 당면 과제는 전력을 다해 AI를 이해하고, AI 안전에 뛰어들거나, AI가 실질적으로 인프라 자동화를 실현할 수 있는 착지점을 찾는 것이다.
주요 발언
수감 중 정보 격차의 냉혹한 장벽: "최전선에서 가치를 창출하려면 수백, 수천 개의 미세한 디테일을 파악해야 합니다. 대규모 모델이 어떤 과제에서 뛰어나고 어디서 여전히 형편없는지, 업계 최전선에서 무엇을 논의하는지, 시장 미시구조에 어떤 변화가 생겼는지 말이죠. 연방 교도소의 높은 담장 안에서 이런 디테일을 얻는 것은 거의 완전히 불가능한 과제입니다."
Anthropic의 밸류에이션과 해자: "향후 10년 AI가 전 세계 수십조 달러 규모의 핵심 섹터가 되고, 이 테이블에 앉을 수 있는 최정상 핵심 연구소가 전 세계에 손에 꼽을 정도라면, 각 선두 기업이 수조 달러의 시가총액을 나눠 갖는 것은 추론상 온전히 합당합니다. Anthropic의 코드 생성과 소프트웨어 엔지니어링 도구 역량은 지금도 여전히 세계 최정상입니다."
브랜드와 기술의 진짜 장벽: "많은 프로그래머가 기술이 전부라고 생각하지만, Coinbase나 Robinhood를 보세요. 이들이 무슨 이유로 수백억 달러의 가치가 있겠습니까? 절대 복제 불가능한 독점 알고리즘 때문이 아니라, 미국 전역의 리테일 사용자가 입에 올리는 브랜드 신뢰도 때문입니다. 경쟁자가 AI로 거의 비용 없이 완전히 동일한 소프트웨어를 복제해도 이런 브랜드 자산은 결코 살 수 없습니다."
종이책에 대한 급진적 비판: "저는 여전히, 책을 썼다면 대개 당신이 잘못한 것이라고 믿습니다. 그것은 여섯 개 문단짜리 블로그 긴 글이었어야 합니다. 책의 정보 처리량은 너무 낮고, 지루한 무용 서사로 가득합니다. 동일한 단위 시간에 고밀도의 시각·시청각 입력은 훨씬 많은 유효 정보를 전달합니다."
51/49 동전 던지기에 대한 현실적 반성: "순수한 상아탑의 기대값 이론에서는 전 지구 효용을 두 배로 늘리는 것과 49%의 멸망 확률을 맞바꾸는 추론이 가능합니다. 그러나 현실에는 되돌릴 수 없는 시스템적 제로화 위험이 있고, 모든 긍정적 효용에는 한계체감의 한계가 있습니다. 멸망의 치명적 비용을 모형에 넣는 순간, 현실의 대다수 동전은 차마 쉽게 던질 수 없게 됩니다."
FTX 흥망의 종국적 결론: "자기기만으로 이 모든 것이 가치 있었다고 위로하고 싶지만, 양심을 속이고 그렇게 말할 수는 없습니다. 가치 있었어야 했습니다. 제가 마지막 순간에 모든 것을 완전히 그르치지만 않았다면요. 극단적 위기가 폭발하는 순간, 공포는 모든 조언과 결정을 변형시킵니다. 그리고 연기가 걷힌 뒤에는 모든 역사 서사가 승자의 입장으로 전면 재구성되는 것을 피할 수 없습니다."
본문
수감 생활과 인식의 장벽: 미시적 디테일을 잃은 블랙박스 세계
Eli Goldfine: The Super Cycle에 오신 것을 환영합니다, 엘라이 골드파인입니다. 오늘은 샘 뱅크먼프리드(SBF)와 연결될 수 있어 대단히 영광입니다. 그전에 저와 제 팀은 수개월간 조율하고 준비했는데, 저희 팟캐스트 창설 이래 정보 밀도가 가장 높은 심층 인터뷰입니다. 안녕하세요, 샘. 제 말 들리나요?
Sam Bankman-Fried: 네, 아주 잘 들립니다.
Eli Goldfine: 연결되어 기쁩니다. 최근 인터뷰를 많이 보았는데, 외부의 관심 대부분은 FTX의 붕괴와 현재 교도소에서의 일상에 집중되어 있습니다. 수감 중에는 혼자만의 시간과 사고할 시간이 극히 충분한데, 평소 가장 많은 에너지를 어떤 주제에 쏟으시나요?
Sam Bankman-Fried: 자연스러운 질문입니다. 분명 저는 상당 부분의 시간을 제 사건을 되돌아보고, 과거에 무슨 일이 있었는지 복기하고, 이를 위해 무엇을 더 할 수 있을지 고민하는 데 씁니다. 하지만 그런 반성은 외부 세계에 있는 사람들에게 실제로 그리 큰 증분 가치가 없다는 것을 잘 알고 있습니다.
저는 최대한 에너지를 미래에 제가 무엇을 할 수 있을지로 돌리려 합니다. 다만 교도소 환경에서 생산적인 전향적 사고를 하는 것은 극히 어려운 일입니다.
Eli Goldfine: 교도소에서 전향적 사고가 그렇게 어려운 이유는 무엇인가요? 핵심 정보가 부족해서인가요?
Sam Bankman-Fried: 어떤 단일 정보가 부족한 게 아니라, 무수히 작지만 결정적인 입력이 부족한 것입니다. 인류 인식과 비즈니스의 최전선에서 미래를 추론하려면 방대한 동적 디테일을 갖고 있어야 합니다. 최전선 대규모 언어모델은 실제로 어떻게 진화하고 있는가? 평가 곡선은 구체적으로 어떤 과제에서 인간 한계를 돌파했고 어떤 영역에서 여전히 형편없는가? 이런 기술을 직접 실전에서 검증하고, 매일 최전선에서 모델을 만드는 사람들과 대화해야 합니다.
금융도 마찬가지입니다. 매일 시장을 주시하며 자금 흐름과 거래 구조를 관찰하고, 인적 네트워크를 구축하고, 새로 등장하는 창업 팀과 교류하며 그들의 비즈니스 모델을 논의하고 깊이 실사해야 합니다. 외부에 있다면 제가 매일 했을 일들이지만, 연방 구치소의 높은 담장 안에서는 모든 정보 획득이 극히 어렵고 심지어 거의 불가능해집니다.
Eli Goldfine: 만약 교도소에서 정보를 얻을 수 있다면, 어떤 차원의 정보가 현실 세계 추론에 가장 가치 있다고 보시나요?
Sam Bankman-Fried: 다시 말하지만, 단일 화제의 뉴스가 아니라 수천, 수만 개의 미시 변수입니다. 예컨대 최전선 모델의 아키텍처 진화, 코드 생성의 실제 적용 문턱, 스타트업이 실제 비즈니스 환경에서 버틸 수 있는 현금 런웨이, 각 산업 고객의 실제 구매 의향 등입니다. 이런 미시 디테일 입력이 없으면 문을 닫고 혼자 짜낸 거시 프레임은 대개 극히 취약합니다.
Eli Goldfine: 하루 종일 사건만 생각하실 수는 없을 텐데요. 사건 외에 어떤 더 넓은 의제를 고민하시나요?
Sam Bankman-Fried: 그렇습니다. 하지만 많은 사고가 여전히 제가 처한 물리적 환경에 크게 제약됩니다. 지금 제가 직접 1차 피드백을 얻을 수 있는 유일한 세계이기 때문입니다. 그게 그렇게 중요하다는 건 아니지만, 저는 형사사법 시스템에 대해 많은 시간을 고민합니다. 제 개인적 처지뿐 아니라, 사법 체계 전체가 보편적 층위에서 드러내는 불합리한 논리 말입니다.
연방 형사사법 체계에 대한 성찰: 날조된 혐의, 지표 평가와 역방향 인센티브
Eli Goldfine: 개인 사건을 떠나서, 관찰하신 보편적 사법 문제는 구체적으로 무엇인가요?
Sam Bankman-Fried: 속담대로 망치를 든 자에게는 모든 것이 못으로 보입니다. 사법 체계도 완전히 같은 법칙을 따릅니다. 특정 유형의 범죄를 전문적으로 단속하는 연방 태스크포스를 만들면, 그 태스크포스는 그 범죄가 실제로 존재하든 아니든 미친 듯이 사건을 찾아 나섭니다.
태스크포스의 정원과 예산 규모가 실제 사회에서 그 범죄의 실체량을 초과하면, 그것은 필연적으로 가짜 사건을 만들어내기 시작하고, 애초에 범죄를 구성하지 않는 행위를 잡아들입니다. 지난 수십 년간 연방 마약 단속 체계는 이미 이런 왜곡을 보편적으로 드러냈고, 지난 10년간 이런 풍조는 연방 사법의 모든 영역에 전면적으로 스며들어 확산되었습니다.
Eli Goldfine: 예컨대 어떤 구체적 영역인가요?
Sam Bankman-Fried: 예를 들어 거대한 연방 사이버 범죄 수사 기구는 원래 극단적 침해를 단속하기 위해 설립되었는데, 이제는 연인 사이의 사적인 문자 대화와 정상적 교제에까지 손을 뻗기 시작했습니다. 무고한 수많은 사람이 기소·체포되는 이유는 검사가 그런 사건을 승진과 연봉 인상을 위한 실적으로 필요로 하기 때문일 뿐입니다. 온두라스 전 대통령 후안 오를란도 에르난데스(Juan Orlando Hernandez) 사건이 대표적 예로, 기소 메커니즘이 완전히 통제 불능이 되면 얼마나 터무니없는 결과가 나오는지 보여줍니다.
Eli Goldfine: 지금도 화이트칼라 범죄는 수감되어야 한다고 믿으시나요?
Sam Bankman-Fried: 전혀 아닙니다. 화이트칼라 범죄자를 감옥에 가두는 것은 사회에 아무런 긍정적 도움이 되지 않습니다. 그것이 할 수 있는 유일한 일은 누군가의 생애에서 수십 년을 강제로 앗아가고, 납세자에게 교도소 운영의 막대한 경제적 부담을 지우는 것입니다. 순전히 복수하려는 것이라면 목적은 달성되겠지만, 저는 그런 체계가 누구든 교화할 수 있다고는 절대 생각하지 않습니다.
Eli Goldfine: 실제로 금융 사기를 저지른 사람에게 가장 합리적인 처리 방식은 무엇이라고 보시나요?
Sam Bankman-Fried: 사건의 구체적 사실관계에 달려 있습니다. 다만 대다수 상업·금융 사건에서 민사소송 절차는 형사재판보다 훨씬 정교하고 합리적인 경로입니다. 민사 구제는 천문학적 과징금, 상업 계약 수정, 업종 종사 자격 제한, 자산 박탈 등의 수단으로 문제를 해결할 수 있습니다.
더 핵심은, 우리가 현대 사회로서 그런 맹목적 과잉 확신을 줄이는 법을 배워야 한다는 것입니다. 우리는 종종 스스로 사실의 진실을 정확히 꿰뚫어 본다고, 처벌하는 대상은 반드시 나쁜 사람이라고 자만하지만, 현실에서 법정에 세워지는 많은 사람은 단지 어떤 세력이 갈등을 전가하기에 가장 손쉬운 희생양이 되었기 때문일 뿐입니다.
Eli Goldfine: 사법 체계 개선은 효과적 이타주의 커뮤니티가 우선적으로 주목해야 할 방향인가요?
Sam Bankman-Fried: 효용 기대값 관점에서 이 영역은 사실 매우 복잡합니다. 사법 개혁의 사회적 가치는 의심할 여지없이 막대하지만, 극히 견고한 정치적 저항과 제도적 관성에 직면합니다. 어떤 이익집단이 수감 인구를 발판으로 거대한 산업 폐쇄회로를 형성하면, 외부 세력이 근본적 변화를 추진하기는 극히 어렵습니다.
Eli Goldfine: 형사사법 시스템 개선에서 가장 쉽게 딸 수 있는 낮은 열매는 무엇이라고 보시나요?
Sam Bankman-Fried: 가장 추진하기 쉽고 즉시 막대한 경제적 배당을 방출할 수 있는 것은 비폭력 범죄의 재판 전 구금과 양형 기준을 전면 재검토하는 것입니다. 현재 체계는 적은 보석금을 내지 못해 장기 구금되는 빈곤층, 마약 관련으로 수십 년 중형을 선고받는 저임금 노동 인구로 가득합니다. 이들에게 정규 시장 기반 직업 훈련과 지역사회 교정을 제공하고, 곧바로 감옥에 가둬 사회적 관계를 완전히 끊어버리지 않는 것이 비용 대비 효과가 가장 높은 개혁 지점입니다.
AI 산업 종국 추론: 1조 달러 밸류에이션과 소수 과점의 테이블
Eli Goldfine: 최전선 기술을 얘기해 봅시다. 최근 Anthropic이 기업공개를 준비하면서 외부의 밸류에이션 기대가 수천억 달러, 나아가 1조 달러를 향해 치닫고 있습니다. 당시 B라운드에서 5억 달러를 Anthropic에 투자한 초기 리드 투자자로서, 현재 이런 대규모 모델 연구소들의 밸류에이션을 어떻게 보십니까?
Sam Bankman-Fried: 저는 그들이 분명 그 값어치가 있고, 미래에는 더 값어치 있을 것이라고 봅니다.
거시적 비즈니스 논리로 추론하면 이렇습니다. 인류 경제사를 통틀어 인간 문명의 운영을 실제로 떠받치는 핵심 축 섹터의 총 시가총액은 모두 수조에서 수십조 달러 규모입니다. 그리고 향후 5~10년 안에 AI는 극히 높은 확률로 세계에서 가장 핵심적이고 나아가 가장 지배적인 경제 산업으로 성장할 것입니다.
Eli Goldfine: 만약 AI 섹터 전체가 미래에 수십조 달러 시가총액에 도달한다면, 그 가치는 시장에서 어떻게 나뉠까요?
Sam Bankman-Fried: 미래 수십조 달러의 총 시가총액 중 3분의 2가 아직 탄생하지 않은 혁신 애플리케이션과 신생 기업에 돌아간다고 가정하면, 남은 부분도 최소 10조 달러 이상의 규모가 현존 선두 기반 모델 기업들의 몫이 됩니다.
그런데 잘 세어 보십시오. 전 세계에서 이 핵심 기반 테이블에 앉을 자격이 있는 최상위 연구소가 몇 곳입니까? OpenAI, Anthropic, Google DeepMind, 그리고 xAI까지, 한 손가락으로 셀 수 있습니다. 수십조 달러 규모의 트랙이 결국 한 자릿수 과점 기업에 나뉠 때 도출되는 필연적 결과는 이것입니다. 최정상의 선두 주자는 모두 그 내재 가치가 1조 달러 단위로 측정되어야 한다는 것입니다. Anthropic은 의심할 여지없이 세계 2위 안에 듭니다.
Eli Goldfine: Anthropic에 그렇게 높은 평가를 하시는 이유는 무엇인가요? Claude 시리즈 모델의 벤치마크 성능 때문인가요?
Sam Bankman-Fried: 벤치마크 점수도 물론 중요하고, 외부에서도 Claude가 일상 대화와 대중 소비자용 애플리케이션에서 강력한 평판을 얻고 있는 것을 볼 수 있습니다. 하지만 Anthropic이 진짜 격차를 벌린 핵심 자산은 소프트웨어 엔지니어링과 전문 개발 도구에서의 절대적 지배력입니다. 엔지니어를 위해 구축한 개발 키트와 코드 이해 능력은 세계 최정상이며, 이것이 미래 디지털 사회 전체가 AI 자동화로 전환하는 핵심 작업 모체입니다.
Eli Goldfine: 향후 10년이 완전한 초지능 군비경쟁으로 들어간다면, 세상은 어떻게 될까요?
Sam Bankman-Fried: 사회 전체의 생산성 배분이 전면 재편될 것입니다. 지난 몇 년간 대규모 모델은 지수적으로 진화했지만, 절대 능력이 여전히 인간 평균선 아래였기 때문에 사회 질서는 잔잔해 보였습니다. 그러나 특정 임계점을 넘는 순간 프로그래밍, 법률, 금융 모델링, 신약 개발 등의 영역에서 기계의 산출 속도는 인간의 수백 배가 됩니다. 부 창출 속도는 크게 빨라지겠지만, 이 컴퓨팅 파워가 가져오는 배당을 어떻게 분배할지가 세계에서 가장 격렬한 지정학적 게임의 초점이 될 것입니다.
초기 5억 달러 Anthropic 중배팅의 전말: 컴퓨팅 군비경쟁과 자본의 함정
Eli Goldfine: 많은 분이 늘 궁금해합니다. 당시 FTX Ventures가 Anthropic의 B라운드 전체를 거의 도맡았다고요. 그때 이미 AI의 미래를 그렇게 확신하셨다면, 왜 더 큰 수표를 쓰지 않았나요? 예컨대 10억, 아니 20억 달러를 직접 투입해 그래픽 처리 장치(GPU)를 무제한 구매하고 데이터센터를 짓게 하지 않은 이유는 무엇인가요?
Sam Bankman-Fried: 여기에는 두 가지 핵심 고려가 있습니다. 첫째, 창업 팀의 입장에서 어떤 우수한 팀도 초기에는 회사에 대한 통제권과 지분율을 과도하게 희석시키고 싶어 하지 않으며, 현재 발전 단계에 반드시 필요한 자금만 조달하려 합니다.
둘째, 상업사에서 자금 부족으로 죽는 회사도 많지만, 지나치게 풍부한 현금에 배불러 자본에 역습당하는 회사도 적지 않습니다. 많은 초기 팀은 천문학적 자금을 조달한 뒤 "이 돈을 반드시 써야 한다"는 맹목적 불안에 사로잡혀 거액을 무의미한 마케팅이나 무분별한 확장에 낭비하고, 결국 핵심 기술 공략에 대한 경외심을 잃습니다.
대규모 모델을 만드는 초기에는 모델 아키텍처의 반복과 알고리즘 검증에 착실한 연구개발 주기가 필요하며, 결코 컴퓨팅 파워만 쌓는다고 성장을 앞당길 수 있는 것이 아닙니다. Anthropic은 당시 자금 사용 계획이 매우 합리적이었고, 우리가 투입한 자금은 그들이 차세대 대규모 모델 훈련을 시작하는 핵심 요구를 정확히 완벽하게 충족했습니다.
Eli Goldfine: 당시 FTX Ventures는 어떻게 운영되었나요? 구체적 투자 결정에서 개인적으로 어떤 역할을 하셨나요?
Sam Bankman-Fried: 초기에는 많은 사건을 우리 팀원이 일상 업무에서 발굴했습니다. 초기의 다수 크립토 네이티브 투자를 포함해 매년 몇 배의 자산 가치 상승을 실현한 것도 많습니다. Anthropic과 Solana는 비슷하게, 처음에는 우연한 계기로 깊이 접촉한 파괴적 프로젝트였습니다.
규모가 커지면서 전문 파트너를 영입해 정규 투자 구조를 갖췄습니다. 일반 사건에 대해서는 실사를 담당한 분석 팀을 충분히 신뢰하는 편이지만, Anthropic처럼 전략적 의미를 지닌 중대한 베팅에 대해서는 매주, 혹은 그보다 자주 깊이 관여하며 기반 컴퓨팅, 재무, 자원 네트워크에서 어떻게 지원할지 논의했습니다.
Eli Goldfine: 당시 Dario Amodei 팀과 접촉하면서 가장 인상 깊었던 점은 무엇인가요?
Sam Bankman-Fried: 극도의 엄격함과 집중력입니다. Dario와 그의 팀이 OpenAI에서 분사했을 때 목표는 매우 명확했습니다. 높은 해석 가능성과 정렬(alignment) 보장을 갖춘 최전선 안전 모델을 만드는 것. 단기적 관심을 끌기 위한 화려한 마케팅 데모를 하지 않고, 모든 자본 지출을 핵심 컴퓨팅 클러스터와 엔지니어링 인재 채용에 극도로 절제해 고정했습니다. 이런 엔지니어링 문화는 요즘 들뜬 실리콘밸리에서 극히 드뭅니다.
전통 소프트웨어 기업의 존망 위기와 브랜드 해자: 왜 AI는 Coinbase를 죽일 수 없는가?
Eli Goldfine: 최전선 모델의 능력이 폭발하면서 많은 전통 소프트웨어 기업이 거대한 존망 불안에 직면했습니다. AI를 깊이 결합하지 않은 전통 소프트웨어 기업은 이미 살 길이 없다고 보시나요?
Sam Bankman-Fried: 그렇게 단정적이지 않습니다. 첫째, 실물 경제에는 AI 침투에 대해 태생적인 물리적 방어 완충을 지닌 산업이 상당히 많습니다. 예컨대 철강 제련, 지하 채굴은 AI가 아무리 똑똑해도 하룻밤 사이에 허공에서 광석을 캐낼 수는 없습니다.
둘째, 순수 디지털 소프트웨어의 경우 승패를 가르는 것은 결코 기저 코드 효율만이 아닙니다. 많은 사람이 "브랜드"의 절대적 해자를 심각하게 과소평가합니다. 경쟁사가 최신 대규모 모델 도구로 극히 낮은 비용에 기능이 거의 완전히 동일한 소프트웨어 제품을 복제했다고 합시다. 그렇다고 사용자가 기존 제품을 버릴까요? 절대 아닙니다.
Eli Goldfine: Coinbase나 Robinhood처럼요?
Sam Bankman-Fried: 정확합니다. Coinbase와 Robinhood는 왜 수백억 달러의 높은 시가총액을 누릴 수 있습니까? 다른 팀이 절대 복제할 수 없는 극비 매칭 엔진 코드를 갖고 있어서입니까? 물론 아닙니다. 가장 귀중한 자산은 브랜드 인지도, 즉 미국 전역의 수천만 개인 투자자가 디지털 자산을 사고팔고 싶을 때 본능적으로 떠올리는 신뢰의 보증입니다.
신생 팀이 AI로 거의 비용 없이 프런트엔드와 거래 시스템을 그대로 다시 써도, 수년간 축적된 이 브랜드 신용을 단기간에 살 수는 없습니다. 브랜드는 종종 전통 기업이 기저 제품의 동질화 충격 속에서 장기적 생존 탄력을 유지하게 합니다.
Eli Goldfine: 그렇다면 어떤 전통 소프트웨어 기업이 가장 빨리 도태될까요?
Sam Bankman-Fried: 순전히 기능 나열에 의존하고, 브랜드로 사용자의 마음을 점유하지도 못하며, 깊은 데이터 네트워크 효과도 없는 미들웨어 소프트웨어입니다. 당신의 제품이 단순한 티켓 관리나 양식 작성 도구이고, 사용자와 감정적·브랜드적 결속이 전혀 없다면, AI 네이티브 도구가 극히 짧은 시간에 10분의 1의 비용으로 완전히 분쇄할 것입니다.
테크 투자의 진짜 알파: 극도로 간결한 AI 네이티브 팀 vs 컨셉에 편승한 쓰레기 기업
Eli Goldfine: 그렇다면 현재 테크 투자 영역에서 진짜 초과수익(알파)은 어디에 있다고 보십니까?
Sam Bankman-Fried: 진짜 알파는 거품을 꿰뚫는 식별 능력에 있습니다. 현재 시장의 절반에 달하는 스타트업이 사업계획서 표지에 AI 라벨을 억지로 붙이고 있습니다. 심지어 티셔츠를 파는 회사도 자신이 AI로 패턴을 디자인한다고 주장합니다. 이런 것들은 본질적으로 전부 산업 폐기물입니다.
동시에 진짜 거대한 기회는 핵심 멤버가 두세 명뿐인 네이티브 팀에 숨어 있습니다. 이들은 AI 도구 체인에 완전히 의존해 상상하기 어려운 수준의 간결한 인력 효율로, 전통적으로 수백, 수천 명이 유지해야 했던 기업 워크플로를 재구축하고, 빠르게 수천만~수억 달러 밸류에이션의 슈퍼 종으로 성장합니다. 무엇이 진짜 폭발이고 무엇이 편승한 투기인지 가려내는 것이 지금 투자의 가장 핵심적인 분수령입니다.
Eli Goldfine: 만약 오늘 외부에서 자유롭게 자금을 운용하신다면, 이런 투자로 다시 돌아가시겠습니까?
Sam Bankman-Fried: 물론입니다. 외부에 있다면 이런 두세 명짜리 슈퍼 종을 매우 적극적으로 찾아 중점 지원할 것입니다. 이들은 전통 기업의 관료적 내부 마찰이 없고, 구성원 각자가 대규모 모델을 통해 엔지니어링 부서 하나에 해당하는 산출을 낼 수 있습니다. 이런 간결한 인력 효율이 가져오는 폭발력과 이익률은 전통적 조직 형태로는 전혀 상상할 수 없습니다.
바이오의약과 장수 기술: 규제의 족쇄와 AI 연구개발 가속
Eli Goldfine: 바이오테크를 얘기해 봅시다. FTX는 초기에 항노화, 장수, 유전자 치료 프로젝트도 많이 지원했습니다. 바이오의약 분야의 진전을 어떻게 보십니까?
Sam Bankman-Fried: 바이오테크는 거대한 잠재력을 지닌 트랙이지만, 가장 큰 병목은 과학자의 지능이 아니라 규제 체계의 낡음입니다. 미국 식품의약국(FDA)의 임상 승인 절차는 극히 길고 비용이 막대해, 신약 하나가 시판되려면 흔히 수십억 달러와 10년이 걸립니다.
생명을 구할 희망이 있던 많은 초기 치료법이 천문학적 자금을 조달해 3상 임상을 완료하지 못해 실험실에서 그대로 막혀 죽습니다. 우리는 당시 이런 고위험·고수익 최전선 시도에 초기 촉매 자금을 제공하고자 했습니다.
Eli Goldfine: AI가 이런 상황을 바꿀까요?
Sam Bankman-Fried: AI는 이미 단백질 구조 예측, 분자 도킹, 화합물 스크리닝에서 파괴적 힘을 보여주고 있습니다. AI는 원래 몇 년, 심지어 수십 년 걸리던 전기 실험실 스크리닝을 몇 달 안으로 압축할 수 있습니다. 하지만 결국 모든 약물은 물리적 세계의 인체 임상 검증을 통과해야 합니다. 낡고 경직된 규제 절차를 근본적으로 개혁하지 않으면, 순수한 기술 가속도 오프라인의 행정 장벽에 크게 지연될 것입니다.
Eli Goldfine: 희귀질환이나 치명적 질환에 대해 임상 승인 절차는 어떻게 최적화되어야 한다고 보십니까?
Sam Bankman-Fried: 더 유연한 사전 동의와 병렬 경로를 도입해야 합니다. 현대 의학이 이미 손을 쓸 수 없는 말기 환자가 완전히 사전 동의하고 자발적으로 1상이나 2상 임상 단계의 혁신 치료법을 시도하려 한다면, 규제 기관이 생존 권리를 거칠게 박탈해서는 안 됩니다. 실사용 데이터(RWD)로 동적 추적하는 것이 기계적으로 10년의 3상 이중맹검 시험을 기다리는 것보다 훨씬 윤리적으로 따뜻합니다.
정치, 규제, 바이든 행정부에 대한 성찰: 크립토에 대한 적대감과 민주당의 방향 상실
Eli Goldfine: 정치와 거시 규제를 얘기해 봅시다. 지난 4년 바이든 행정부는 기술·금융 규제에서 매우 급진적 태도를 취했고, 특히 증권거래위원회(SEC)가 암호화폐 업계에 전면적 집행 조치를 벌였습니다. 바이든 행정부의 규제 성과를 어떻게 평가하십니까?
Sam Bankman-Fried: 저는 바이든 행정부의 이 부분 성과가 극히 실망스럽다고 봅니다.
크립토 업계뿐 아니라 기술 혁신 전반에서 규제 기관은 깊은 관료주의적 적대감을 드러냈습니다. 명확하고 집행 가능하며 혁신을 촉진하는 법적 프레임을 구축하는 데 힘쓰지 않고, 끝없는 기습 집행으로 규정을 준수하며 영업하는 국내 기업을 타격해, 결과적으로 대량의 최고급 기술 인재와 혁신 자본이 역외 시장으로 흘러가게 했습니다.
Eli Goldfine: 과거 정치 캠페인에 거액을 기부하신 적이 있습니다. 정치권이 기술 업계를 이해하지 못하는 이유는 무엇이라고 보십니까?
Sam Bankman-Fried: 많은 정치인과 규제자는 기술의 기저 논리를 전혀 이해하지 못합니다. 그들이 관심 있는 것은 정치적 서사와 권력 지형뿐입니다. 많은 정책 결정에서 결정 근거는 어떤 방안이 사회경제에 가장 유익한가가 아니라, 어떤 방안이 가장 많은 표와 정치적 협상 카드를 가져오는가입니다. 저는 민주당이 지난 10년간 많은 경제·기술 의제에서 심각하게 방향을 잃었다고 봅니다.
Eli Goldfine: 국제 기술 경쟁에서 기술 기업은 안전을 위해 속도를 늦춰야 할까요?
Sam Bankman-Fried: 그것은 극히 위험한 게임의 함정입니다. 안전 이념을 고수하는 한 회사가 일방적으로 속도를 늦추고, 전 세계 다른 경쟁자와 심지어 비우호 국가가 전력으로 질주한다면, 일방적 자기 제한은 세계를 더 안전하게 만들지 못하고, 오히려 최전선 기술의 통제권을 안전과 윤리를 전혀 신경 쓰지 않는 경쟁자에게 넘겨줄 뿐입니다. 가장 이상적인 상태는 모든 주요 참여자가 실질적 안전 협약을 맺는 것이지만, 현실 지정학에서는 극히 어렵습니다.
정치 예측 시장의 본질과 폭발: FTX의 2020 대선 계약에서 Kalshi와 Polymarket까지
Eli Goldfine: 금융 혁신을 얘기해 봅시다. 최근 Kalshi의 밸류에이션이 급등하고 Polymarket이 글로벌 정치 대선에서 엄청난 거래량을 기록했습니다. FTX 창업 초기, 원래 구상 중 하나가 글로벌 정치 예측 시장을 만드는 것이었다고 들었습니다.
Sam Bankman-Fried: 금융공학의 기저 논리로 보면, 이른바 예측 시장은 본질적으로 특정 현실 사건의 결과에 따라 현금 결제되는 선물 계약입니다. 비트코인이나 원유 선물과 본질적 차이가 없습니다.
2020년 미국 대통령 선거 기간에 FTX International에서는 네트워크에서 가장 활발한 트럼프·바이든 당선 예측 계약이 운영되었고, 당시 거래 규모는 수억 달러에 달했습니다. 우리는 첫날부터 이 시장을 키우고 싶었지만, 가장 큰 제약은 항상 규제 라이선스였습니다. 미국 상품선물거래위원회(CFTC)의 국내 허가가 없어 미국 사용자의 참여를 엄격히 금지했고, 중앙화 거래소는 전면적 실명인증(KYC)을 의무화했습니다.
Eli Goldfine: 왜 Kalshi와 Polymarket은 이번 사이클에서 완전히 폭발할 수 있었나요?
Sam Bankman-Fried: 이들은 두 가지 다른 경로를 통과했습니다. Kalshi는 수년간 법적 소송과 정규 절차를 거쳐 국내에서 규정 준수 라이선스를 획득했고, Polymarket은 역외와 탈중앙화 아키텍처에 기반해 전 세계적으로 거대한 유동성을 모았습니다. 이는 우리의 당시 판단, 즉 인류가 중대한 역사적 사건에 가격을 매기려는 수요가 보편적이고 진실하다는 것을 충분히 입증했습니다.
예측 시장 외에도 토큰화 주식(Tokenized Equities)은 여전히 거대한 성장 잠재력을 지니고 있습니다. 전통 주식 거래 시장의 기저 결제 체계는 극히 낡고 비효율적입니다. 블록체인 기반의 7×24시간 무중단 청산 체계는 인프라 경험에서 완전히 차원이 다른 우위를 지닙니다.
AGI 임계점과 p(doom) 평가: 25%의 멸종 확률과 의식 업로드의 회색 딜레마
Eli Goldfine: 많은 사람이 인공일반지능(AGI)과 나아가 초지능(ASI)이 언제 도래할지 논의합니다. 개인적으로 AGI 타임라인을 어떻게 예상하십니까?
Sam Bankman-Fried: 저는 AGI의 도래가 명확한 흑백의 단일 이산 사건이라고 생각하지 않습니다. 그것은 지속적으로 진화하는 점진적 대체 과정에 더 가깝습니다.
오랜 기간 AI는 컴퓨팅 능력이 계속 두 배씩 늘었지만, 지능 수준이 인간 기준선보다 훨씬 아래였기 때문에 현실 세계에 거의 실질적 충격을 주지 못했습니다. 그러나 지능이 점차 인간에 근접하고 특정 수직 영역에서 임계점을 돌파하면, 질적 변화는 극히 빠른 속도로 확산됩니다. 우리는 이미 소프트웨어 개발, 고등 수학 증명, 게임이론 전략에서 이 추세를 보았습니다. 향후 3~5년 안에 인간 사회의 핵심 섹터는 AI에 하나씩 깊이 인계될 것입니다.
Eli Goldfine: 효과적 이타주의 커뮤니티에서 AI 안전과 인류 멸종 확률은 항상 가장 핵심적인 논쟁 주제입니다. 개인적 p(doom)(AI가 인류 멸종 또는 완전 파괴를 초래할 확률)의 구체적 수치를 공개한 적이 없으신데, 오늘 정확한 판단을 내려주실 수 있나요?
Sam Bankman-Fried: 수치를 반드시 제시해야 한다면, 50%보다 낮고 10%보다 높으며, 대략 25% 근처 구간이라고 봅니다.
다만 한 가지는 반드시 명확히 해야 합니다. 제 평가 모형에서 재앙적 시나리오는 흔히 할리우드 영화처럼 명확한 적의를 지닌 통제 불능 AI가 갑자기 핵 버튼을 장악하고 전 인류에 선전포고하는 것이 아닙니다. 현실에서 더 높은 확률로 일어나는 것은 극히 복잡한 회색 윤리 딜레마입니다.
Eli Goldfine: 예컨대 어떤 회색 딜레마인가요?
Sam Bankman-Fried: 예를 들어 의식 업로드(Mind Uploading)입니다. 미래 기술이 인간이 뇌 의식을 전면 디지털화해 클라우드에 업로드하는 단계에 이르면, 디지털 영생을 이룬 지능체는 컴퓨팅 파워와 진화 속도에서 육체 인간을 기하급수적으로 능가합니다. 그런 상황에서 물리적 세계에 남은 원초적 인간은 완전히 도태되고 주변화될까요?
육체를 지닌 지적 종이 사실상 소멸로 향하는 이런 과정이 과연 인류 문명의 재앙인가? 사람마다 정반대의 철학적 답을 내놓을 것입니다. 이런 윤리적 모호지대가 가득한 진화 경로를 고려에 넣는 순간, 생존 위험 확률 판단은 20%에서 60% 사이에서 격렬하게 흔들립니다.
AI 에이전트와 미래 워크플로: 인간의 열 배인 슈퍼 리서치 어시스턴트
Eli Goldfine: 미래에 논리 추론과 의사결정 기대값에서 당신을 전면 능가하는 초지능 어시스턴트가 나타난다면, 개인의 의사결정권을 전면적으로 그에게 위임하시겠습니까?
Sam Bankman-Fried: 그것은 그 최적화 목적 함수가 무엇인지에 달려 있습니다. 자신의 생존 확률을 최대화하려는 것인지, 모든 지각 있는 생명의 복지를 최대화하려는 것인지, 아니면 제가 부여한 위임 목표를 충실히 수행하려는 것인지.
만약 그 핵심 정렬 목표가 충성스럽고 세심하며 이성적이고 신중한 연구 조교로서, 원래 하루 종일 걸리던 고강도 자료 실사와 추론을 1분 만에 인간의 백 배 속도로 완수하는 것이라면, 저는 대량의 구체적 실행·분석 업무를 기꺼이 그에게 맡길 것입니다. 그러나 궁극적 가치 지향과 윤리적 하한선은 반드시 인간 자신의 핵심 요구에 고정되어야 합니다.
Eli Goldfine: 이런 슈퍼 어시스턴트는 금융·투자 산업을 어떻게 뒤집을까요?
Sam Bankman-Fried: 전통 투자 기관에서 수백, 수천 명의 주니어 애널리스트로 구성된 피라미드 구조가 순식간에 붕괴할 것입니다. 파트너 한 명과 재무제표 교차 검증, 거시 데이터 정제, 여론 추적에 특화된 자율 에이전트 몇 세트면 과거 투자은행 건물 전체의 산출을 완수할 수 있습니다. 기관 간 승패는 더 이상 명문대 졸업생을 몇 명 고용했는지가 아니라, 누가 에이전트의 튜닝 전략과 기저 논리를 더 깊이 이해하는지에 달려 있게 됩니다.
왜 종이책을 극도로 의심하는가? 정보 처리량과 시청각 매체의 차원 다른 압도
Eli Goldfine: 흥미로운 생활 주제를 얘기해 봅시다. 많은 똑똑한 사람이 다독을 자랑으로 삼지만, 예전에 "나는 책의 가치를 극도로 의심한다. 대다수 책은 6개 문단짜리 블로그로 써야 했다"는 매우 유명한 상식 밖의 발언을 하신 것으로 기억합니다. 지금 교도소에서 책을 얼마나 읽으셨나요? 견해가 바뀌었나요?
Sam Bankman-Fried: 교도소에서는 선택지가 많지 않아 책을 꽤 읽었는데, 오히려 그 덕에 제 원래 판단이 옳았다는 확신이 더 강해졌습니다.
책 한 권을 통째로 썼다면 그것은 대개 핵심 논점을 제대로 정리하지 못했다는 뜻입니다. 수백 페이지 저작에서 진짜 가치 있는 핵심 통찰은 보통 몇 개 자연 단락으로 완전히 전달됩니다. 나머지 90%의 분량은 모두 책의 두께를 채우기 위해 늘어놓은 장황한 사례, 서두, 무관한 서사입니다.
Eli Goldfine: 교도소에서 주로 어떤 종류의 책을 읽으셨나요? 한 권이라도 읽을 가치가 있다고 느낀 책이 있나요?
Sam Bankman-Fried: SF 소설을 많이 읽었습니다. 하지만 솔직히 대다수 SF 소설은 그저 그럭저럭입니다. 여건이 된다면 저는 차라리 Netflix의 하드코어 SF 시리즈를 보고 싶습니다. 극소수 매우 잘 쓴 SF 작품은 겨우 평범한 드라마 수준에 도달할까 말까지만, 여전히 정보 전달 차원에서 스트리밍과 경쟁할 수 없습니다.
Eli Goldfine: 책보다 어떤 매체의 정보 전달 효율을 더 인정하십니까?
Sam Bankman-Fried: 고밀도 시청각 매체는 단위 시간당 정보 처리량이 종이 텍스트보다 훨씬 뛰어납니다. 우수한 영화나 심층 드라마에서는 시각적 화면, 인물의 미세 표정, 음향 효과, 편집 리듬, 대사가 동시에 매초 수십 차원의 정보를 당신의 뇌에 병렬 전송합니다. 이런 고밀도의 감정적·인지적 공명은 효율이 극히 낮은 단방향 인쇄 텍스트가 도저히 비할 바가 아닙니다.
효과적 이타주의(EA)와 정량 지표의 경계: QALYs와 현실 평가의 왜곡
Eli Goldfine: 효과적 이타주의 커뮤니티에서는 엄격한 수학 공식과 질보정생존연수(QALYs)로 모든 자선 지출의 기대 효용을 정량화하는 습관이 있습니다. 수감된 이후, 이런 순수 정량적 자선 철학을 어떻게 보십니까?
Sam Bankman-Fried: 순수 이론의 기대값은 순수 수학 세계에서는 우아하지만, 현실의 복잡성은 이것입니다. 당신이 선택한 정량 지표가 종종 인류 사회의 궁극적 핵심 가치는 아니라는 점입니다.
수학적 측정 가능성을 추구하기 위해 복잡한 현실 문제를 단일 차원의 숫자로 단순화하면, 맹인이 코끼리를 더듬는 함정에 빠지기 쉽습니다. 예컨대 방충망 지원으로 말라리아를 예방하는 것은 비용과 단기 수익을 극히 쉽게 정량화할 수 있습니다. 반면 제도 건설, 기초과학 돌파, 문명 재앙 방지를 지원하는 것의 장기적 영향은 수학 모형에서 정량화 불가능한 매개변수로 가득합니다. 정확히 정량화할 수 없다는 이유로 문명의 운명을 실제로 결정하는 심원한 시도를 포기한다면, 그것 자체가 이성에 대한 최대의 배신입니다.
Eli Goldfine: 그것은 과도한 정량화가 오히려 효과적 이타주의의 교조주의적 함정이 되었다는 뜻인가요?
Sam Bankman-Fried: 그렇습니다. 사람들이 수학 모형의 검증 가능성에 지나치게 집착하면, 진짜 파괴적이지만 불확실성이 큰 거대한 명제를 본능적으로 배척합니다. 건강한 평가 프레임은 인간 인지의 경계를 인정하고, 정량적 정밀함과 직관적 판단 사이에서 동적 균형을 유지해야 합니다.
51/49 동전 던지기의 극단적 철학 심문: 순수 기대값 vs 돌이킬 수 없는 파멸과 한계체감
Eli Goldfine: 널리 알려진 사고 실험 하나를 논의하고 싶습니다. 경제학자 Tyler Cowen은 한때 당신에게 가정을 제시했습니다. 동전의 앞면이 나오면 51% 확률로 지구 전체 효용이 두 배가 되고, 뒷면이 나오면 49% 확률로 지구가 완전히 멸망한다면, 이 동전을 던지겠는가? 당시 당신의 답은 던지겠다는 것이었습니다. 지금 감옥에 있는 당신은 여전히 이 순수 기대값 논리를 고수하십니까?
Sam Bankman-Fried: 이것은 철학과 확률론에서 매력적인 고전 논쟁입니다. 만약 문제를 엄격히 순수 수학적 가정과 선형 기대효용(Linear Expected Utility) 함수 안으로 한정하면, 수학적 답은 자명합니다. 51% 곱하기 2는 1보다 크고, 기대값이 양수이므로, 어떤 확고한 기대값 최대화론자도 논리적으로 이 도박을 받아들여야 합니다.
그러나 현실 세계에서 이 사고 실험이 대다수 정상인의 본능적 배척을 받는 이유는, 그것이 현실 세계에서 단순히 추상화될 수 없는 근본적 제약을 무시하기 때문입니다.
Eli Goldfine: 무시된 현실 제약은 구체적으로 무엇인가요?
Sam Bankman-Fried: 첫째, 파멸은 절대적으로 돌이킬 수 없습니다(Catastrophic Ruin). 확률 게임에서 완전히 제로가 되어 영구히 게임에서 퇴장할 확률이 있다면, 이후 양의 기대값이 주는 수익을 누릴 기회는 다시 없습니다.
둘째, 효용은 결코 엄격히 선형이 아니며 강한 한계효용체감이 존재합니다. 현실에서 지구 효용이 두 배가 되어 인류 문명에 주는 증분 행복감은, 49% 확률로 인류 문명이 완전히 소멸하며 겪는 무한한 고통을 결코 상쇄하지 못합니다. 한계효용체감과 파산 보호를 벗겨낸 극단 모형을 현실 세계에 그대로 적용하면, 극히 위험한 판단 편차를 초래하기 쉽습니다.
Eli Goldfine: 만약 기술 발전을 지연시켜 더 낮은 파멸 확률을 얻을 수 있다면, 속도를 늦추는 것을 지지하시겠습니까?
Sam Bankman-Fried: 이론 모형에서 인류가 초지능에 진입하는 시점을 100년 늦춰 문명 파멸 확률을 단 1%라도 낮출 수 있다면, 우주의 향후 수십억 년이라는 거시적 장기 주기에서 이 100년의 정체는 수학적 기대값상 절대적으로 남는 장사입니다. 우주의 미래는 무한히 길고, 문명은 한 번 제로가 되면 완전히 끝나기 때문입니다.
현실의 높은 기대값 게임: 51/49로 인신 자유를 건다면, 던지시겠습니까?
Eli Goldfine: 이 도박을 당신과 직접 관련된 현실적 칩으로 바꾼다면요? 지금 동전 하나가 있어서 51% 확률로 내일 즉시 무죄 석방되고, 49% 확률로 형기가 두 배가 되거나 사형이 선고된다면, 이 동전을 던지시겠습니까?
Sam Bankman-Fried: 이것은 현실의 효용 함수가 왜 선형이 아닌지를 매우 생생하게 보여줍니다. 인신 자유와 생명 같은 핵심 자산에 직면하면, 사람들의 하방 극단 위험에 대한 혐오는 극히 큽니다.
내일 출소한다면 제 삶은 물론 천지개벽할 것입니다. 그러나 그 대가가 거의 절반의 확률로 더 긴, 심지어 생명을 완전히 박탈하는 심연을 견디는 것이라면, 이런 위험 프리미엄은 감당할 수 없습니다. 이것이 현실의 복잡한 결정을 조잡한 기대값 숫자 하나만으로 섣불리 베팅할 수 없는 이유입니다.
Eli Goldfine: 많은 사람이 당신의 과거 투자와 비즈니스 결정이 바로 이런 극단적 기대값 철학의 산물이라고 봅니다. 이 평가에 동의하십니까?
Sam Bankman-Fried: 저는 외부가 제 사고방식을 지나치게 도식화했다고 봅니다. 일상적 거래를 할 때 우리는 헤지와 리스크 익스포저 관리에 극히 주의를 기울입니다. 그러나 극단적 위기가 폭발할 때는 많은 이론 모형의 안전판이 순식간에 뚫립니다. 현실 세계는 상아탑 속 몬테카를로 시뮬레이션이 아니며, 블랙스완의 파괴력은 수학 방정식의 예상을 훨씬 뛰어넘습니다.
종국 심문: 이 모든 것이 정말 가치 있었나? 위기 속 결정의 변형과 승자의 서사
Eli Goldfine: 마지막 몇 분만 남았습니다. 가장 영혼을 찌르는 질문을 하고 싶습니다. FTX의 최종 붕괴가 충격적이었지만, 동시에 FTX Future Fund는 초기에 Anthropic을 포함한 수많은 최고급 기술·안전 프로젝트를 지원했습니다. 전체 흥망을 돌아볼 때, 이 모든 것은 거시적으로 정말 가치 있었나요?
Sam Bankman-Fried: 아닙니다. 자기기만으로 긍정적 답을 주고 싶지만, 양심을 속이고 가치 있다고 말할 수는 없습니다.
가치 있었어야 한다고 생각합니다. 제가 마지막 순간에 상황을 그르치지 않았고, 그 위험 방어선들이 무너지지 않았다면, 그것은 세계를 앞으로 밀어내는 거대한 힘이 되었어야 합니다. 후대가 이 재앙에서 올바른 교훈을 얻는다면 어쩌면 경고의 가치를 조금은 남길 수 있겠지만, 현실에서 대다수는 교훈을 얻고 있지 않습니다.
Eli Goldfine: 사람들이 진짜 배워야 할 교훈은 무엇인가요?
Sam Bankman-Fried: 핵심 교훈은 단 하나입니다. 위기가 실제로 닥치고 국면이 완전히 통제 불능이 될 때, 인간이 극도의 공포 속에서 얼마나 변형된 결정을 내리는가입니다. 생사의 압박 아래에서 사람들은 극히 빠른 속도로 진짜 중요한 것에 대한 판단력을 잃고, 모든 규칙이 순식간에 와해됩니다.
그리고 연기가 걷힌 뒤 역사는 언제나 승자가 씁니다. 모든 사건의 인과적 디테일은 승자의 필터로 재편되고, 왜곡되고, 단순화됩니다. 폭풍 밖에 있는 사람이 승자가 쓴 서사의 안개를 뚫고 진짜 메커니즘을 복원하는 것은 거의 불가능합니다.
14세 신세대 청년에게 주는 생존 준칙: 더 이상 월가에서 퀀트 하지 말고, AI에 뛰어들라
Eli Goldfine: 14세 청년으로서, 다가오는 초지능 시대에 이 세계에서 최대의 긍정적 가치를 창출하고 싶다면, 저에게 주실 핵심 조언은 무엇인가요?
Sam Bankman-Fried: 10년 전이라면 효과적 이타주의 커뮤니티가 줄 표준적 답은 "벌어서 기부하기(Earning to Give)"였습니다. 월가에서 고빈도 매매를 하며 수십억 달러를 벌고, 그 부를 자선 사업에 기부하라는 것.
그러나 시대는 완전히 바뀌었습니다. 이 특이점이 다가오는 시점에서 월가의 고빈도 매매는 더 이상 가장 중요한 전장이 아닙니다. 지금부터 AI가 전면 도약하기까지의 창구 기간은 급격히 좁아지고 있고, 기계 지능을 깊이 이해하고 다루는 가치는 지수적으로 치솟고 있습니다.
최전선 AI 정렬·안전 연구에 뛰어들든, 어느 한 전통 인프라를 찾아 AI로 완전히 자동화하든, 기계 지능의 핵심으로 깊이 들어가는 것이 이 시대에 전력을 다할 가치가 있는 유일한 진짜 전장입니다.

