저자: 롱 웨

출처: 월스트리트 저널

최근 미국의 스타트업 엑셀러레이터 Y Combinator(YC)가 샌프란시스코에서 첫 번째 AI 스타트업 스쿨을 개최하고 엘론 머스크와 OpenAI의 CEO인 알트만 등 AI 업계의 거물들을 대거 초대했습니다.

최근 미국 정부 효율성부(DOGE)의 특별 직원으로 130일간의 임기를 마친 머스크는 이 경험을 "흥미로운 부업"이라고 직설적으로 표현했지만, 다가올 AI 혁명에 비하면 그 중요성은 미미하다고 말했습니다. 그는 정부 효율성부의 업무를 "해변 청소"에 비유했고, 다가올 AI는 "수천 피트 높이의 쓰나미"에 비유했습니다.

정부를 고치는 건… 해변이 바늘, 배설물, 쓰레기로 더럽혀진 것과 마찬가지야. 그런데 거기에 천 피트 높이의 물벽이 있는데, 바로 AI 쓰나미지. 천 피트 높이의 쓰나미가 온다면 해변을 청소하는 게 무슨 의미가 있겠어? 별 의미 없지.

머스크는 디지털 초지능이 올해나 내년에 등장하여 인간보다 더 똑똑해질 것이라고 예측합니다. 동시에, 미래에는 인간형 로봇의 수가 인간을 훨씬 넘어 인구의 5~10배에 달할 것으로 예상됩니다. 그는 AI 기반 경제 규모가 현재보다 수천 배, 심지어 수백만 배까지 커질 것이며, 인간 지능의 비중은 1% 미만으로 떨어질 것이라고 과감하게 예측합니다. 그의 연설의 핵심 내용은 다음과 같습니다.

• 머스크는 5월 28일 DOGE를 떠나 130일간의 특별 정부 직원 임기를 마치고 "주요 임무로 복귀한다"고 발표했습니다.

• 머스크는 정부 효율성 부서의 업무를 "해변 청소"에 비유했고, AI의 등장을 "천 피트 높이의 쓰나미"에 비유했습니다. 후자가 도착하려 할 때 전자는 상대적으로 의미가 없을 것입니다.

• 올해나 내년에 디지털 초지능이 등장할 수 있으며, 인간보다 더 똑똑해질 것이라고 예측하며, "올해 안 돼도 내년에는 꼭 나올 것"이라고 강조했다.

• 미래에는 인간형 로봇의 수가 인간을 훨씬 능가하게 될 것이며, 아마도 인간의 5배, 심지어 10배가 될 것입니다.

• AI가 주도하는 경제 규모가 현재보다 수천 배, 수백만 배 더 커질 것으로 예측하며, 문명은 카르다셰프 2세(별의 에너지 수준)로 치닫고, 인간 지능의 비중은 1% 이하로 떨어질 수 있다고 합니다.

• 머스크는 "진실에 대한 엄격한 고수"가 AI 안전의 가장 중요한 초석이라고 강조했으며, AI에게 사실이 아닌 것을 믿게 만드는 것은 극도로 위험하다고 말했습니다.

•스페이스X 초창기를 돌이켜보면, 세 번의 연속 실패 끝에 네 번째 로켓 발사에 성공한 것은 "생사의 갈림길"이었습니다. 2008년 테슬라의 자금 조달은 파산 직전에 마무리되었습니다.

DOGE 임무 완수: 정치적 잡음이 너무 많아 "주요 임무"로 복귀

머스크는 인터뷰에서 워싱턴 D.C.에서의 경험을 통해 "정치의 잡음이 얼마나 끔찍한지" 깨달았다고 밝혔습니다. 그는 워싱턴 D.C.에서의 일을 "흥미로운 부업"이라고 표현했지만, 결국 "제가 좋아하는 기술 개발이라는 본업으로 돌아가기로" 결심했습니다.

억만장자는 정부를 떠난 근본적인 이유를 이렇게 설명했습니다. "정부를 고치는 것은 해변을 청소하는 것과 같습니다. 해변은 더럽고 바늘, 배설물, 쓰레기가 널려 있죠. 하지만 동시에 수천 피트 높이의 물벽, 즉 AI 쓰나미가 있습니다. 만약 수천 피트 높이의 쓰나미가 온다면 해변 청소가 얼마나 중요하겠습니까? 그렇게 중요하지 않습니다."

AI 초지능이 임박했다: 올해나 내년에 나올 것이다

머스크는 디지털 초지능의 도래에 대해 매우 명확한 예측을 내놓았습니다. 그는 "디지털 초지능이 매우 가까이 왔다고 생각합니다. 올해 실현되지 않더라도 내년에는 반드시 실현될 것입니다."라고 말했습니다.

그는 "디지털 초지능"을 "어떤 분야에서든 인간보다 더 똑똑한 지능"으로 정의합니다. 머스크는 AI가 경제 규모를 기하급수적으로 성장시킬 것이라고 예측합니다. "현재 경제 규모보다 10배가 아니라 수천 배, 심지어 수백만 배 더 커질 것입니다."

AI는 미래를 너무나 근본적으로 바꿔놓을 것이기에 상상조차 어렵습니다. 우리가 잘못된 방향으로 나아가지 않고 AI가 인간과 자멸하지 않는다면, 결국 현재 경제 규모보다 10배 더 큰 경제 규모를 달성하지 못할 것입니다. 궁극적으로 우리의… 후손(대부분 기계의 후손)이 카르다셰프 2세 문명이나 그 이상의 문명을 이룬다면, 우리는 오늘날 경제 규모보다 수천 배, 아니 수백만 배 더 큰 경제 규모를 갖게 될 것입니다.

그는 미래에 인간 지능이 차지하는 위치에 대해 더욱 자세히 설명했습니다. "어느 시점에 이르면 인간 지능의 비중은 매우 작아질 것입니다. 어느 시점에 이르면 인간 지능의 총합은 전체 지능의 1%에도 미치지 못하게 될 것입니다."

xAI는 현재 Grok 3.5를 훈련하고 있습니다.

머스크는 인터뷰에서 xAI가 현재 Grok 3.5를 훈련 중이며 "추론 능력에 집중하고 있다"고 밝혔습니다.

ZeroHedge에 따르면 xAI는 43억 달러 규모의 자기자본 조달을 모색하고 있으며, 이는 xAI와 소셜 미디어 플랫폼 X를 충당하기 위해 50억 달러 규모의 부채 조달과 결합될 예정입니다.

하드웨어 경쟁: 0개에서 100,000개 GPU까지: 엔지니어링의 기적

머스크는 AI 훈련의 하드웨어 과제를 해결하기 위해 제1원리 사고를 활용했습니다. 공급업체들이 10만 개의 H100 GPU로 구성된 훈련 슈퍼 클러스터를 완성하는 데 18개월에서 24개월이 걸릴 것이라고 말했을 때, 머스크 팀은 이를 6개월로 단축했습니다.

그들은 멤피스에 있는 폐쇄된 일렉트로룩스 공장을 임대하고, 발전기를 임대하여 150메가와트의 전력 수요를 해결했으며, 미국 내 이동식 냉각 장비의 4분의 1을 임대하고, 훈련 중 전력 전환을 원활하게 하기 위해 테슬라 메가팩을 사용했습니다. 머스크는 심지어 직접 배선 작업에 참여하고 "데이터 센터에서 잠을 잤습니다."

현재 훈련 센터에는 H100이 15만 대, H200이 5만 대, GB200이 3만 대가 있으며, GB200이 11만 대인 두 번째 데이터 센터도 곧 온라인에 올라갈 예정입니다.

미래에 대한 다양한 비전: 로봇 군대와 성간 문명

머스크는 미래에 인간형 로봇의 수가 인간보다 최소 5배, 어쩌면 10배는 더 많아질 것이라고 예측합니다. 그는 "터미네이터를 현실로 만드는 것"에 대한 걱정 때문에 AI와 로봇 공학 분야에서 미뤄왔다고 인정했지만, 결국 "내가 하든 안 하든 결국엔 실현될 것"이라는 것을 깨달았습니다. "관객 아니면 참여자입니다. 저는 참여자가 되고 싶습니다."

머스크는 더 큰 비전에서 인류 문명을 카르다셰프 척도에 놓습니다. 그는 인류가 현재 지구 에너지의 1~2%만 사용하고 있으며, 아직 1단계 문명과는 거리가 멀다고 생각합니다. 다중 행성 종이 되는 것은 의식을 별까지 확장하는 데 중요한 단계이며, "문명이나 의식의 수명을 크게 증가"시킵니다.

머스크는 SpaceX가 약 30년 안에 화성에 충분한 물질을 보내 화성을 자급자족할 수 있도록 만들 계획이라고 말했습니다. "지구에서 온 보급선이 운행을 멈추더라도 화성은 계속해서 개발되고 번영할 수 있습니다."

전체 인터뷰 내용은 다음과 같습니다(AI 번역)

일론 머스크

우리는 지능 폭발의 아주 아주 초기 단계에 있습니다. 다행성 종이 된다는 것은 문명, 의식, 또는 지능(생물학적이든 디지털이든)의 생존 가능성을 크게 확대합니다. 저는 우리가 디지털 초지능에 매우 근접했다고 생각합니다. 올해 도달하지 못하더라도 내년에는 반드시 도달할 것입니다.

YC CEO 겸 사장 Garry Tan

[음악] 일론 머스크에게 큰 박수를 보내주세요. [박수] 일론, AI 스타트업 아카데미에 오신 것을 환영합니다. 오늘 이 자리에 함께해 주셔서 정말 영광입니다. SpaceX, Tesla, Neuralink, xAI 등 여러 분야에서 활동하셨죠. 이 모든 것을 시작하기 전에, 인생에서 "뭔가 큰 일을 해야겠다"라고 생각했던 순간이 있었나요? 그런 결정을 내리게 된 계기는 무엇이었나요?

일론 머스크

대단한 걸 만들어낼 수 있을 거라고는 생각하지 않았어요. 그냥 유용한 걸 만들어보고 싶었을 뿐, 특별히 대단한 걸 만들어낼 수 있을 것 같지도 않았고요. 확률적으로 생각하면 불가능해 보였지만, 적어도 시도는 해보고 싶었어요.

게리 탄

이제 여러분은 기술 엔지니어를 포함한 많은 사람들로 가득 찬 방에 서게 되었는데, 그중에는 떠오르는 AI 연구자도 몇 명 있었습니다.

일론 머스크

좋아요. 제 생각엔... "연구자"보다는 "엔지니어"라는 단어가 더 마음에 들어요. 기본적인 알고리즘 혁신이라면 연구겠지만, 그 외의 것은 모두 공학이죠.

게리 탄

어쩌면 훨씬 더 오래전으로 돌아갈 수도 있을 것 같아요. 18살에서 25살 사이 사람들로 가득 찬 방에 있는 거죠. 창업자들이 점점 젊어지고 있어서 여기는 좀 더 젊은 편이에요. 그들의 입장이 되어 생각해 볼 수 있을까요? 18살, 19살 때 프로그래밍을 배우고 Zip2의 첫 아이디어를 떠올렸을 때, 어떤 기분이었나요?

일론 머스크

네, 1995년으로 돌아가 보면, 저는 선택의 기로에 서 있었습니다. 스탠퍼드 대학에 가서 재료 과학 박사 학위를 받을지, 아니면 전기 자동차에 사용하고 싶었던 슈퍼커패시터를 연구할지, 전기 자동차 주행 거리 문제를 해결할지 고민해야 했습니다. 아니면 당시 대부분의 사람들이 들어보지도 못했던 인터넷이라는 분야에 헌신할지 고민했습니다. 재료 과학과 빌 닉스 교수님과 이야기를 나누면서 한 학기 정도 휴학해도 될까요? 인터넷은 실패할 가능성이 높기 때문에 다시 학교로 돌아가 공부를 계속해야 합니다.

그리고 그가 말했죠. "이게 우리가 이야기하는 마지막 순간일지도 몰라요." 그리고 그의 말이 맞았어요. 그래서, 하지만 저는 일이 성공하기보다는 실패할 가능성이 더 크다고 생각했어요. 그리고 95년에 제가 쓴 글은... 기본적으로, 인터넷 지도, 길찾기, 전화번호부, 그리고 옐로 페이지가 처음, 아니 거의 처음이라고 생각해요.

모든 코드를 직접 썼고, 웹 서버도 사용하지 않았습니다. 포트에서 직접 데이터를 읽어들였습니다. 돈이 없었고, T1 회선도 감당할 수 없었기 때문입니다. 원래 사무실은 팔로알토 셔먼 애비뉴에 있었는데, 아래층에 인터넷 서비스 제공업체(ISP) 같은 게 있었습니다. 그래서 바닥에 구멍을 뚫고 케이블을 ISP에 직접 연결했습니다.

그러다가 제 형이 저와 함께하게 되었고, 또 다른 공동 창업자인 그렉 커리도 함께하게 되었는데, 그 분은 이미 세상을 떠나셨습니다. 집 살 돈도 없어서… 한 달에 500달러에 사무실을 빌려서 페이지 밀 로드에 있는 YMCA 사무실에서 자고 샤워를 했습니다. 네, 결국 초창기에는 Zip2라는 꽤 유용한 회사를 운영하게 되었습니다. 정말 멋진 소프트웨어 기술을 많이 개발했지만, 나이트-리더나 뉴욕 타임스 같은 회사들이 투자자이자 고객이었고 이사회에도 참여했기 때문에 전통적인 미디어 기업들에 "포착"된 셈입니다.

그래서 그들은 항상 우리 소프트웨어를 말도 안 되는 일에 쓰려고 했습니다. 그래서 저는 소비자에게 직접 다가가고 싶었습니다. 어쨌든 Zip2에 대한 자세한 내용은 언급하지 않겠지만, 결론은 인터넷에서 뭔가 유용한 일을 하고 싶었다는 것입니다. 두 가지 선택지가 있었기 때문입니다. 박사 학위를 받고 다른 사람들이 인터넷을 만드는 것을 지켜보거나, 작은 방식으로라도 인터넷 구축에 참여하는 것이었습니다. 저는 '먼저 시도해 보고 실패한 후 다시 대학원으로 돌아가면 되겠지'라고 생각했습니다. 어쨌든 꽤 성공적이었습니다. 약 3억 달러에 팔렸죠.

당시에는 정말 큰돈이었죠. 요즘 AI 스타트업 최소 입찰가는 10억 달러 정도라고 생각해요. 마치… 유니콘이 너무 많아서 마치 유니콘 떼처럼 몰려드는 것 같아요. 유니콘은 10억 달러의 가치를 가진 기업이죠.

게리 탄

그 이후로 인플레이션이 발생했기 때문에 실제로 돈의 가치가 많이 떨어졌습니다.

사향

네. 1995년에는 햄버거를 5센트에 살 수 있었잖아요? 그렇게 많지는 않았지만, 네, 인플레이션이 꽤 심했죠. 하지만 지금 AI에 대한 과대 광고가 엄청나죠. 아시다시피, 설립된 지 1년도 안 된 회사들이 때로는 수십억 달러, 심지어 수십억 달러의 가치를 지니는 경우도 있어요. 그중 일부는 성공할 수 있고, 아마 성공할 거예요. 하지만 이런 가치 평가를 보면 정말 놀라워요. 네, 어떻게 생각하세요?

게리 탄

저는 개인적으로 매우 낙관적입니다. 사실 매우 낙관적입니다. 그래서 이 방에 계신 여러분 모두가 엄청난 가치를 창출할 것이라고 생각합니다. 아시다시피, 전 세계적으로 이런 것들을 사용하는 사람이 아마 10억 명에 달할 겁니다. 아직 시작도 못 했습니다. 저는 인터넷 이야기를 좋아합니다. 그 당시에도 여러분과 이 방에 계신 모든 분들이 똑같으셨습니다. 아시다시피, 기존 미디어 기업의 CEO들은 여러분을 인터넷을 이해하는 사람으로 여겼습니다. 그리고 지금은 AI의 미래를 이해하지 못하는 광활한 세상, 즉 기업이나 더 넓은 세상이 똑같은 이유로 이 방에 계신 여러분을 바라볼 것입니다. 아시다시피… 실질적인 교훈은 무엇일까요? 그중 하나는 이사회 통제권을 포기하지 말고, 매우 신중해야 하며, 정말 훌륭한 변호사를 고용해야 한다는 것입니다.

사향

첫 스타트업을 시작하면서 제가 저지른 가장 큰 실수는 기존 미디어 기업들이 주주와 이사회에 너무 많은 권한을 행사하게 한 것이었습니다. 그 결과, 기업들은 필연적으로 기존 미디어의 관점에서 세상을 보게 되었고, 결국 그들에게는 합리적으로 보이지만 새로운 기술의 맥락에서는 전혀 의미가 없는 일들을 하게 되었습니다. 솔직히 말씀드리자면, 처음에는 회사를 설립할 계획이 없었습니다. 넷스케이프에 취직하려고 노력했습니다. 넷스케이프에 이력서를 보냈는데, 마크 앤드리슨이 그 사실을 알고 있었습니다.

하지만 그가 제 이력서를 본 적은 없는 것 같고, 아무도 답장을 안 줬어요. 그래서 넷스케이프 복도에 가서 누군가를 "만날" 수 있을지 알아보려고 했지만, 너무 부끄러워서 아무하고도 이야기할 수가 없었어요. 그래서 "세상에, 이건 말도 안 돼. 그냥 내 소프트웨어를 만들어서 어떻게 될지 봐야겠다"라고 생각했죠. 사실 "회사를 차리고 싶다"는 생각은 아니었어요. 그냥 인터넷의 어떤 부분을 만들어가는 데 참여하고 싶었을 뿐이었죠. 인터넷 회사에 취직이 안 돼서 인터넷 회사를 차릴 수밖에 없었죠. 어쨌든, 맞아요. 맞아요. AI는 미래를 엄청나게 바꿀 거예요. 얼마나 될지 예측하기는 어렵지만, 경제는, 우회로를 택하지 않는다면,

AI가 인간과 자기 자신을 죽이지 않는다면, 결국 현재 경제 규모보다 10배는 크지 않은 경제 규모를 갖게 될 겁니다. 하지만 궁극적으로, 만약 우리가, 예를 들어, 미래의 기계 후손, 아니 대부분 기계 후손이라면, 카르다셰프 척도 2 이상의 문명이 될 겁니다. 그러면 지금보다 수천 배, 어쩌면 수백만 배나 큰 경제 규모를 갖게 될 겁니다. 그러니까, 네, 제가 워싱턴 D.C.에 있을 때, 폐기물과 사기를 청소하다 곤욕을 치렀던 기억이 납니다. 그건 사이드 퀘스트라는 측면에서 흥미로운 사이드 퀘스트였습니다. 하지만 본론으로 돌아가서, 네, 본론으로 돌아가야겠습니다. 음, 하지만 제 생각에는, 아시다시피, 정부 개혁은 마치... 해변이 더럽고 바늘과 배설물, 쓰레기가 널려 있어서 해변을 청소하고 싶은데, 동시에 수천 피트 높이의 물벽이 밀려오는 상황인 것 같아요. 그게 바로 AI 쓰나미죠. 수천 피트 높이의 쓰나미가 온다면 해변을 청소하는 게 무슨 의미가 있을까요? 별 의미가 없어요. 아, 다시 본론으로 돌아와서 다행입니다. 정말 중요한 문제입니다.

네, 본론으로 돌아가서요. 기술 개발, 제가 좋아하는 일이죠. 주의를 산만하게 하는 요소가 너무 많아요. 정치의 신호 대 잡음비는 정말 최악이에요.

게리 탄

그러니까, 저는 샌프란시스코에 살고 있으니까 두 번 말씀하실 필요는 없겠죠(이해합니다).

사향

네, 워싱턴 D.C.는, 아시다시피, 워싱턴 전체가 정치라고 할 수 있죠. 하지만 로켓이나 자동차를 만들거나 소프트웨어를 안정적으로 컴파일하고 실행하려면 진실을 최대한 추구해야 합니다. 그렇지 않으면 소프트웨어나 하드웨어가 작동하지 않을 겁니다. 수학에서 속일 수 없는 것처럼, 수학과 물리학은 판단을 엄격하게 합니다. 그래서 저는 진실을 최대한 추구하는 환경에 익숙했고, 그건 절대 정치가 아닙니다. 어쨌든, 기술계로 돌아와서 기쁩니다.

게리 탄

궁금해서 묻는 건데, Zip2 이야기로 돌아가서, 당신은 수억 달러를 가지고 있었나요? 아니면 수억 달러를 현금화했나요?

사향

제가 2천만 달러를 받았잖아요, 그렇죠?

게리 탄

좋아요. 그러니까, 적어도 돈 문제는 해결했군요. 그리고 그 돈을 가지고 도박을 계속했고, X.com에도 계속 관여했죠. 나중에 PayPal과 Confinity(합병)가 된 회사죠.

사향

네. 칩을 테이블에 두고 왔어요.

게리 탄

모두가 이렇게 하는 건 아닙니다. 여러분 중 많은 분들이 앞으로 이런 결정을 내려야 할 겁니다. 다시 싸우게 된 동기는 무엇이었나요?

사향

Zip2를 통해 정말 멋진 기술을 개발했지만, 제대로 활용되지는 못했다고 생각했습니다. 적어도 제 생각에는 우리 기술은 야후나 다른 어떤 회사보다 뛰어났지만, 고객(미디어 회사)의 제약을 받았습니다. 그래서 고객의 제약 없이 소비자에게 직접 다가갈 수 있는 서비스를 만들고 싶었습니다. 그렇게 X.com/Paypal이 탄생했습니다. X.com이 Confinity와 합병되면서 우리는 함께 Paypal을 만들었습니다.

그리고 페이팔 마피아는 아마도 21세기에 그 어떤 회사보다 많은 회사를 만들었을 겁니다. 인피니티와 X.com이 합병했을 때, 재능 있는 사람들이 정말 많았죠. 저는 그냥 생각했어요... Zip2에서 뭔가 얽매여 있는 것 같았고, '그렇지 않고 소비자에게 직접 판매하면 어떨까?'라고 생각했죠. 그리고 그렇게 됐어요.

네, Zip2에서 2천만 달러 수표를 받았을 때, 저는 룸메이트 네 명과 함께 살고 있었고 은행에 만 달러 정도 있었어요. 그런데 우편으로 수표가 왔어요. 우편으로요! 그리고 1만 달러에서 2천만 달러로 불어났죠. '괜찮다' 싶었죠. 하지만 결국 거의 전부 X.com에 투자했어요. 말씀하신 대로 거의 다 남겨뒀죠.

네, 페이팔을 하고 나서, 왜 아직 화성에 사람을 보내지 않았는지 좀 궁금했어요. NASA 웹사이트에 가서 언제 화성에 사람을 보낼지 알아보려고 했는데, 날짜가 없었어요. 웹사이트 찾기가 어려울까 봐 걱정했거든요. 하지만 사실 화성에 사람을 보낼 계획은 없었어요. 그러니까, 이야기가 좀 길어졌는데, 여기서 너무 많은 시간을 쓰고 싶지는 않지만,

게리 탄

우리 모두가 주의를 기울여 들었던 것 같아요.

사향

사실 친구 아데오 레시랑 롱아일랜드 고속도로를 타고 있었어요. 같이 대학(펜실베이니아 대학교)을 다녔는데, 아데오가 페이팔을 그만둔 다음엔 뭘 할 거냐고 묻길래, "글쎄, 우주 분야에서 자선 사업을 해보고 싶은데."라고 말했죠. 우주 분야는 상업적인 사업은 할 수 없을 것 같고, 주 정부의 독점 영역인 것 같거든요. 그래서 언제 화성에 사람을 보낼지 궁금했는데, 그때 웹사이트에 없구나 ​​하고 깨닫고 찾아보기 시작했어요. 물론 빠진 게 많겠지만, 원래는 "화성으로 가는 생명(Life to Mars)"이라는 화성 자선 사업을 하는 거였어요. 씨앗과 건조 영양 젤을 담은 작은 온실을 화성에 보내서 화성에 착륙시키고, 젤에 물을 넣으면 빨간색 배경에 녹색 식물들이 아름답게 나오는 거죠.

그런데, 오랫동안 "머니 샷"이 포르노 영화를 뜻하는 거라는 걸 몰랐어요. 어쨌든, 요점은 빨간색 배경에 녹색 식물을 넣은 멋진 샷이 될 거라는 거였어요. NASA와 대중에게 우주인을 화성에 보내도록 동기를 부여하기 위해서였죠. 이 샷에 대해 더 자세히 알게 되면서, 아, 그런데 2001년과 2002년쯤에 대륙간 탄도 미사일(ICBM)을 사러 러시아에 갔었는데, 마치 모험 같았죠. 러시아 최고 사령관들에게 가서 "ICBM을 사고 싶다"고 말하는 거죠. 우주 진출을 위한 거였죠. 네, 맞아요. 누군가를 폭파하려는 게 아니라, 군축 협상의 결과로 대형 핵 미사일을 많이 파괴해야 했으니까요. 그래서 핵탄두를 제거하고 화성 탐사를 위한 상단부를 하나 더 추가하는 걸로 하자고 생각했죠.

2001년쯤 모스크바에서 러시아 군과 ICBM 구매 협상을 했을 때, 일종의 환각 상태였어요. 정말 말도 안 되는 상황이었죠. 그런데도 그들은 계속 가격을 올려서 일반적인 협상과는 정반대였어요. 그래서 "세상에, 이거 진짜 비싸지네."라고 생각했죠.

그러다 진짜 문제는 화성에 가고 싶은 마음이 없는 게 아니라, 예산을 초과하지 않고는 방법이 없다는 걸 깨달았습니다. NASA 예산으로도 감당할 수 없었죠. 그래서 SpaceX를 시작하기로 결심했습니다. SpaceX는 로켓 기술을 발전시켜 사람을 화성에 보낼 수 있는 수준으로 발전시키는 것이었습니다. 그게 2002년의 일이었습니다.

게리 탄

그러니까 처음부터 사업을 시작하겠다는 생각은 하지 마세요. 그냥 흥미롭고 사람들에게 필요하다고 생각하는 일을 시작해서, 마치 고양이가 실을 당기듯 공이 천천히 풀리면서 잠재적으로 매우 수익성 있는 사업이 되는 거죠.

사향

지금은 돈을 벌고 있지만, 로켓 스타트업이 성공한 전례는 없었습니다. 상업용 로켓 회사에서 시도한 적도 있지만 모두 실패했습니다. 그래서 SpaceX를 설립했을 때, 성공 가능성이 10% 미만, 어쩌면 1%일지도 모른다고 생각했습니다. 하지만 스타트업이 로켓 기술을 발전시키는 데 도움이 되지 않는 일을 한다면, 대형 방위 산업체에서 나올 수 없습니다. 그들은 정부의 가신일 뿐이고, 정부는 아주 일상적인 일만 하고 싶어하기 때문입니다. 그래서 스타트업에서 나오거나 아예 일어나지 않는 것입니다. 성공 가능성이 조금이라도 있는 것이 전혀 없는 것보다 낫기 때문에, 네, 2002년 중반에 SpaceX를 시작했을 때 실패할 것이라고 예상했습니다. 제가 말했듯이 실패율이 90%였고, 사람을 모집할 때조차 성공할 것이라고 미화하려고 하지 않았습니다.

아마 실패할 거라고 말했죠. 하지만 만약 이것이 사람들을 화성에 보내고 기술을 발전시키는 유일한 방법이라면, 실패하지 않을 확률은 10분의 1입니다. 그런데 제가 로켓의 수석 엔지니어가 된 건 제가 원해서가 아니라, 좋은 사람을 고용할 수 없어서였습니다. 그래서 훌륭한 선임 엔지니어들은 들어오려 하지 않았습니다. 너무 위험해서 실패할 거라고 생각했으니까요. 그래서 제가 로켓의 수석 엔지니어가 되었습니다. 아시다시피, 처음 세 번의 발사는 실패했습니다. 그래서 배우는 과정이었습니다. 네 번째 발사는 운 좋게 성공했습니다. 하지만 네 번째 발사가 실패했다면, 저는 돈이 없었고, 완전히 실패했을 겁니다. 그래서 정말 아슬아슬한 상황이었습니다.

네 번째 팰컨 발사가 실패했다면 우리는 끝장이었을 것이고, 앞서 있던 로켓 스타트업들의 무덤으로 전락했을 것입니다. 그래서 성공 확률에 대한 제 예상은 크게 틀리지 않았습니다. 간신히 성공했을 뿐입니다. 테슬라도 비슷한 시기였습니다. 2008년은 힘든 한 해였습니다. SpaceX의 세 번째 발사가 2008년 중반이나 그해 여름에 실패했고, 세 번이나 연속 실패했기 때문입니다. 테슬라의 투자 유치도 실패했습니다. 그래서 테슬라는 순식간에 파산했습니다. "맙소사, 이건 정말 끔찍해. 이건 자만심의 경고가 될 거야."라는 생각이 들었습니다.

게리 탄

아마 그 당시 많은 사람들이 "일론은 소프트웨어 전문가인데 왜 하드웨어를 하려고 하느냐?"라고 물었을 거예요. 네, 맞아요. 왜 이런 일을 하기로 했을까요?

사향

네, 100% 맞습니다. 당시 언론을 보면 알 수 있죠. 아직 온라인에 있으니까요. 사람들은 저를 "인터넷 사람"이라고 계속 불렀습니다. 그래서 "인터넷 사람", 즉 "바보"가 로켓 회사를 차리려고 했던 거죠. 그래서 사람들이 저희를 많이 놀렸어요. 정말 말도 안 되는 소리였고, 인터넷 사람이 로켓 회사를 차리는 건 성공 비결처럼 들리지 않았어요.

솔직히 말해서요. 그래서 그들을 비난할 생각은 없어요. "네, 있잖아요, 그럴 것 같지는 않고, 저도 그럴 것 같지 않다는 데 동의해요."라고 생각했죠. 다행히 네 번째 발사는 성공적이었고, NASA에서 우주 정거장 재보급 계약을 따냈어요. 아마 12월 22일쯤, 크리스마스 전이었던 것 같아요. 네 번째 발사가 성공하더라도 성공을 보장하기에는 부족했거든요. 살아남으려면 여전히 큰 계약이 필요했거든요. 그래서 NASA 팀에서 전화가 왔는데, "우주 정거장 재보급 계약을 따낸다"고 하더군요. 그래서… 그냥… "사랑해요."라고 불쑥 말했어요. 보통은 잘 안 듣는 말인데 말이죠.

보통은 아주, 아시다시피, 아주 차분한데, 저는 "맙소사, 이게 회사를 살렸구나"라고 생각했습니다. 그리고 테슬라 라운드를 마지막 날, 마지막 시간인 2008년 12월 24일 오후 6시에 마감했습니다. 만약 그 라운드가 마감되지 않았다면 크리스마스 이틀 후에 체불 임금을 받았을 겁니다. 그래서 2008년 말에는 정말 긴장했습니다.

게리 탄

Paypal과 Zip2, 그리고 이런 하드코어 하드웨어 스타트업에 뛰어든 경험을 통해 당신이 공통적으로 느끼는 건, 바로 특정 분야에서 가장 똑똑한 사람들을 찾아내고 궁극적으로 끌어들이는 능력입니다... 아시다시피, 여기 계신 분들 중에는 아직 한 명도 관리해 본 적이 없는 분들도 계시죠. 이제 막 커리어를 시작하시는 분들인데, 이런 일을 해본 적이 없는 일론에게 뭐라고 하시겠습니까?

사향

저는 가능한 한 많은 유용한 일을 하려고 노력하는 것이 중요하다고 생각합니다. 좀 진부하게 들릴지 모르지만, 유용한 일을 하는 건 정말 어렵습니다. 특히 많은 사람들에게 유용한 일은 더욱 그렇습니다. 예를 들어, 총효용 곡선 아래의 면적은 당신이 다른 사람들에게 얼마나 유용한지에 몇 배를 곱한 값입니다. 물리학에서 "진정한 일"의 정의와 같습니다. 그렇게 하기가 정말 어렵습니다. 그리고 "진정한 일"을 하기로 마음먹는다면 성공할 가능성이 훨씬 높아진다고 생각합니다. 영광을 위해 애쓰지 말고, 일을 위해 노력하세요.

게리 탄

"실제 작업"인지 어떻게 판단하시나요? 다른 사람들의 의견이나 제품 사용 경험 등 외부 피드백을 바탕으로 판단하시나요?

사향

아시다시피, 일할 사람을 찾을 때 무엇을 찾으시나요? 아시다시피, 누군가를 찾는 건 다른 문제입니다. 제 말은, 최종 결과물에 대해 말하자면, "이게 성공하면 얼마나 많은 사람들에게 유용할까?"라고 생각하는 거죠. CEO든 스타트업에서 어떤 역할을 맡든, 성공하기 위해 필요한 모든 것을 하세요. 자존심을 억누르고 책임감을 내면화하는 거죠. 가장 큰 실패 요인 중 하나는 자아 대 능력 비율이 1보다 클 때입니다. 자아 대 능력 비율이 너무 높으면

그러면 현실로 가는 피드백 루프를 사실상 끊어버리는 겁니다. AI 용어로 말하면, 강화 학습(RL) 루프를 끊는 겁니다. 그러니까 루프를 끊는 게 아니라, 강력한 강화 학습 루프를 만들어야 합니다. 즉, 책임감을 내면화하고 자존심을 최소화하는 것이죠. 그리고 고귀하거나 하찮은 일이라면 무엇이든 해야 합니다. 그래서 제가 "연구"보다 "엔지니어링"이라는 단어를 더 선호하는 이유입니다. 저는 그 단어가 더 좋고, xAI를 실험실이라고 부르고 싶지 않습니다.

그냥 회사처럼 되고 싶어요. 뭐, 가장 간단하고, 가장 직접적이고, 이상적으로는 자존심이 가장 낮은 용어로 표현하자면, 대개 좋은 방향이죠. 현실에 대한 고리를 단단히 닫고 싶을 뿐이에요. 정말 중요한 일이죠.

게리 탄

여기 계신 모든 분들이 당신이 제1원칙을 활용하는 모범적인 역할을 정말 존경하는 것 같습니다. 현실을 어떻게 정의하시나요? 그게 중요한 부분인 것 같습니다. 아무것도 만들어 본 적도 없고 엔지니어도 아닌, 일부 언론인처럼 가끔 당신을 비판하기도 합니다. 하지만 당신 주변에는 건설업에 종사하고 성취 곡선 아래 아주 높은... 영역을 가진 사람들이 분명히 있습니다. 사람들은 이 문제에 대해 어떻게 생각해야 할까요? 어떤 방법론이 당신에게 효과적이었나요? 자녀들에게 어떻게 전수해 주시겠어요? 아이들에게 세상에서 성공하라고 어떻게 말해야 할까요? 예를 들어, 제1원칙에 기반하여 예측 가능한 현실관을 구축하는 방법 같은 것들 말입니다.

사향

물리학의 도구는 어떤 분야든 이해하고 발전하는 데 매우 유용합니다. 제1원리는, 사물을 가장 참일 가능성이 높은 근본적인 공리적 요소들로 분해한 다음, 분석이나 유추를 통해 추론하는 것이 아니라 최대한 논리적이고 명확하게 추론하는 것을 의미합니다. 그리고 극한을 생각하는 것과 같은 간단한 것들도 있습니다. 예를 들어, 이 값을 최소화하거나 저 값을 최대화하기 위해 외삽하는 경우, 극한을 생각하는 것은 매우 유용합니다. 저는 물리학의 모든 도구를 활용합니다.

어떤 분야에든 적용됩니다. 마치 초강대국과 같습니다. 로켓을 예로 들어 보겠습니다. 로켓의 가격은 얼마여야 할까요? 사람들이 일반적으로 취하는 접근 방식은 역사적으로 로켓의 가격을 살펴보고 새 로켓의 가격이 이전 로켓과 비슷해야 한다고 가정하는 것입니다. 반면, 기본 원칙 접근 방식은 로켓이 어떤 재료로 만들어졌는지 살펴보는 것입니다. 알루미늄, 구리, 탄소 섬유, 강철 등 무엇이든 로켓의 무게는 얼마이고, 로켓을 구성하는 요소는 무엇일까요? 무게는 얼마일까요? 이러한 요소들의 킬로그램당 재료 가격은 얼마일까요? 이를 통해 로켓 비용의 실질적인 최종 기준을 정할 수 있습니다. 원자재 비용을 점근적으로 추정할 수 있습니다.

그러다 문득, 로켓의 원자재는 기존 로켓 비용의 1% 또는 2%에 불과하다는 사실을 깨닫게 됩니다. 따라서 원자재 비용이 1% 또는 2%에 불과하다면 제조 공정은 매우 비효율적일 수밖에 없습니다. 이것이 로켓 비용 최적화 가능성에 대한 기본 원리 분석입니다. 그리고 이는 재사용성을 고려하기 전의 이야기입니다. AI를 예로 들자면, 작년에 xAI가 훈련용 슈퍼클러스터를 구축하려고 했을 때, 여러 업체에 가서 (작년 초였죠) 일관된 훈련을 위해서는 H100(GPU) 10만 개가 필요하다고 말했습니다.

그들은 이 작업을 완료하는 데 18개월에서 24개월이 걸릴 것으로 예상했습니다. 저는 6개월 안에 끝내야 한다고 말했습니다. 그렇지 않으면 경쟁력을 유지할 수 없습니다. 그렇다면 구체적으로 무엇이 필요할까요? 건물, 전력, 냉방이 필요합니다. 건물을 처음부터 지을 시간이 없었습니다. 그래서 기존 건물을 찾아야 했습니다. 그래서 멤피스에서 일렉트로룩스 제품을 생산하던 버려진 공장을 찾았습니다. 하지만 그 공장의 입력 전력은 15메가와트였고, 우리는 150메가와트가 필요했습니다.

그래서 발전기를 임대해서 건물 한쪽에 설치했고, 그 후 냉각이 필요했습니다. 그래서 미국 내 이동식 냉각 용량의 약 4분의 1을 임대하고 냉각기는 건물 반대편에 설치했습니다. 하지만 이것만으로는 문제가 완전히 해결되지 않았습니다. 훈련 중 전력 변동이 매우 컸기 때문입니다. 전력이 100밀리초 만에 50%나 감소할 수 있었고, 발전기가 이를 감당할 수 없었습니다. 그래서 테슬라 메가팩(대형 배터리 팩)을 추가하고, 메가팩의 소프트웨어를 수정하여 훈련 중 전력 변동을 완화했습니다. 게다가 네트워킹 문제도 많았습니다. 10만 개의 GPU를 일관되게 훈련시키려면 네트워크 케이블이 매우 까다로워야 하기 때문입니다.

게리 탄

...당신이 언급한 거의 모든 것에 대해 누군가가 "아니요, 당신은 그 힘을 얻을 수 없어요.", "당신은 이걸 할 수 없어요."라고 단도직입적으로 말할 것 같습니다. 1차적 사고의 핵심은 "왜"라고 질문하고, 그 이유를 파악하고, 상대방에게 이의를 제기하는 것입니다. 만약 상대방이 제가 원하지 않는 답을 한다면, 저는 받아들이지 않을 것입니다. 맞나요? 특히 당신처럼 하드웨어를 사용하고 싶어 하는 사람에게는 이런 방식이 매우 필요하다고 생각합니다. 소프트웨어에서는 "CPU만 더 추가하면 문제없어"처럼 중복되는 부분이 많습니다. 하지만 하드웨어에서는 이런 방식이 통하지 않습니다.

사향

제1원리 사고의 이러한 보편적 원리는 소프트웨어와 하드웨어, 그리고 그 어떤 것에도 적용된다고 생각합니다. 방금 하드웨어 사례를 예로 들었는데, 어떤 일이 불가능하다고 들었지만, 일단 그 문제를 구성 요소로 분해해 보면 (건물, 전력, 냉각, 전력 평활화 등) 그 구성 요소들을 해결할 수 있었습니다. 하지만… 네트워크 운영팀이 모든 케이블 작업을 맡았고, 모든 작업은 4교대로 24시간 내내 진행되었습니다. 저는 데이터 센터에서 잠을 자며 직접 케이블 작업을 했습니다.

해결해야 할 다른 문제들이 많습니다. 아시다시피, 작년에는 아무도 H100 10만 대를 사용하여 지속적인 훈련을 하지 않았습니다. 올해는 누군가 해냈을지도 모릅니다. 잘 모르겠습니다. 그런데 그 수가 두 배로 늘어 20만 대가 되었습니다. 그래서 현재 멤피스에 있는 교육 센터에는 H100 15만 대, H200 5만 대, GB200 3만 대가 있습니다. 멤피스 지역의 두 번째 데이터 센터에는 GB200 11만 대를 곧 온라인으로 전환할 예정입니다.

게리 탄

사전 훈련이 여전히 효과가 있다고 생각하시나요? 스케일링 법칙은 여전히 ​​유효하다고 생각하시나요? 이 경쟁에서 승리하는 쪽은 가장 크고 똑똑한 모델을 가지고 그 모델을 정제할 수 있을까요?

사향

대규모 AI의 경쟁력 외에도 다양한 요소가 있습니다. 대규모 AI에는 인재의 역량이 중요합니다. 하드웨어의 규모와 이를 얼마나 효과적으로 활용하는지도 중요합니다. 따라서 GPU를 대량으로 주문해서 바로 연결할 수는 없습니다. 일관된 학습을 위해서는 GPU를 대량으로 확보하고 안정적으로 구축해야 합니다.

그리고 고유한 데이터 소스는 무엇인가요? 그리고 사람들이 AI에 어떻게 접근하는지처럼 데이터 배포도 어느 정도 중요하다고 생각합니다. 이러한 요소들은 대규모 기반 모델이 경쟁력을 갖추는 데 중요한 요소입니다. 제 친구 Ilya Sutskever가 말했듯이, 사전 학습을 위한 인간이 생성한 데이터가 거의 고갈되고 있으며, 고품질 토큰 공급이 매우 빠르게 고갈되고 있습니다. 따라서 합성 데이터를 생성하고 생성한 합성 데이터가 실제 합성 데이터인지 아니면 사실과 일치하지 않는 환각 데이터인지 정확하게 판단해야 합니다. 따라서 현실에 기반을 두는 것은 까다롭지만, 우리는 합성 데이터에 더 많은 에너지를 투자해야 하는 단계에 있습니다. 예를 들어, 지금은 추론에 중점을 둔 Grok 3.5를 학습하고 있습니다.

게리 탄

물리학에 대한 당신의 주장으로 돌아가서, 자연과학, 특히 물리학 교과서는 추론에 매우 유용하다고 들었습니다. 하지만 연구자들은 사회과학은 추론에 전혀 유용하지 않다고 말합니다.

사향

네, 아마 그럴 겁니다. 그러니까, 미래에 매우 중요해질 것 중 하나는 데이터 센터나 슈퍼 클러스터에서 심층 AI와 로봇 기술을 결합하는 것입니다.

옵티머스 휴머노이드 로봇 같은 거 아시죠? 네, 옵티머스는 정말 멋집니다. 온갖 모양과 크기의 휴머노이드와 로봇들이 많이 나올 테지만, 제 예측으로는 휴머노이드 로봇이 다른 모든 로봇을 합친 것보다 훨씬 많을 겁니다. 아마 10배는 더 많을 겁니다. 엄청난 차이겠죠.

게리 탄

로봇 군대를 만들 계획이라는 소문이 있더군요.

사향

우리가 하든 테슬라가 하든, 테슬라와 xAI는 긴밀히 협력하고 있습니다.

인간형 로봇 스타트업을 몇 개나 보셨나요? 젠슨 황이 여러 회사에서 나온 로봇들을 무대에 올렸던 것 같아요. 대략 12개 정도의 인간형 로봇이 있었죠. 그래서 제가 계속 고민하고, 어쩌면 속도를 늦추는 이유 중 하나는 터미네이터를 실현하고 싶지 않다는 거였어요. 그래서 적어도 지난 몇 년 전까지는 AI와 인간형 로봇에 대해 미뤄왔어요. 그러다가 제가 하든 안 하든 결국엔 실현될 거라는 걸 깨달았죠. 두 가지 선택지가 있어요. 구경꾼이 될 수도 있고, 참여자가 될 수도 있죠. 그래서 '좋아, 구경꾼보다는 참여자가 되고 싶다'는 생각이 들었어요. 그래서 지금은 인간형 로봇과 디지털 초지능에 대해 열심히 연구하는 거죠.

게리 탄

사람들이 당신이 자주 언급하는 세 번째 주제가 있는데, 저도 개인적으로 매우 동의하는 부분입니다. 바로 다행성 종족이 되는 것이죠. 이게 전체와 어떤 관련이 있나요? 이건 단순히 10년이나 20년, 어쩌면 100년 정도만 걸리는 일이 아니라, 인류의 여러 세대에 걸친 문제입니다. 어떻게 생각하시나요? AI, 그리고 분명히 구현된 로봇 공학, 그리고 다행성 종족이 되는 것까지 있습니다. 이 모든 것이 궁극적으로 마지막 목표에 부합하나요? 아니면 앞으로 10년, 20년, 100년 동안 당신은 무엇을 추진하고 있나요?

사향

세상에, 100년이나 됐네요. 100년 후에도 문명이 여전히 존재하길 바랍니다. 만약 그렇다면, 오늘날의 문명과는 아주 다를 겁니다. 제 예측은, 인류보다 적어도 5배, 어쩌면 10배는 더 많을 거라고 봅니다. 문명의 진보를 보는 한 가지 방법은 카르다셰프 척도에서 완성도를 보는 것입니다. 만약 당신이 1단계에 도달했다면, 행성의 모든 에너지를 활용했을 겁니다. 지금은 지구 에너지의 1~2%만 활용하는 것 같습니다. 그러니까 카르다셰프 1단계와는 거리가 멉니다. 그리고 2단계는 항성의 모든 에너지를 활용하는 것입니다. 이는 지구 에너지의 약 10억 배, 어쩌면 1조 배에 가까울 겁니다.

그리고 스케일 3은 은하계 전체의 에너지이고, 우리는 아직 거기까지 갈 길이 멉니다. 그래서 우리는 지능 빅뱅의 아주 아주 초기 단계에 있습니다. 저는 우리가 지능 빅뱅의 아주 아주 초기 단계에 있다고 예상합니다. 다중 행성 관점에서 보면, 약 30년 안에 우리는 화성으로 충분한 물질을 옮겨 화성이 자급자족할 수 있도록 만들고, 지구에서 보내는 보급선이 멈추더라도 계속 성장하고 번성할 수 있을 것입니다. 이는 생물학적이든 디지털적이든 문명, 의식, 또는 지능의 기대 수명을 크게 연장합니다. 이것이 제가 다중 행성 종인 것이 중요하다고 생각하는 이유입니다.

페르미 역설이 좀 걱정됩니다. 왜 우리는 외계인을 전혀 볼 수 없는 걸까요? 지성이 매우 희귀하기 때문일 수도 있고, 어쩌면 우리가 이 은하계에서 유일한 지적 생명체일지도 모릅니다. 그렇다면 의식이 있는 지성은 어둠 속의 작은 촛불과 같을 것이고, 우리는 그 작은 촛불이 꺼지지 않도록 최선을 다해야 합니다. 다중 행성 종이 되거나 의식을 다중 행성으로 만드는 것은 문명의 기대 수명을 크게 증가시킬 것이며, 다른 항성계로 가기 전 단계이기도 합니다. 최소 두 개의 행성을 가지게 되면 우주 여행의 발전을 촉진하는 강제 기능을 하게 됩니다. 이는 결국 항성으로의 확장으로 이어질 것입니다.

게리 탄

페르미 역설은 기술이 일정 수준에 도달하면 문명이 자멸할 것이라고 암시합니다. 우리는 어떻게 자멸을 피할 수 있을까요? 엔지니어들로 가득 찬 방에 어떤 조언을 해주시겠습니까? 이런 일이 일어나지 않도록 우리는 무엇을 할 수 있을까요?

사향

네, 그레이트 필터(Great Filters)를 어떻게 피할까요? 명백한 그레이트 필터는 세계 열핵전쟁입니다. 그러니 우리는 그것을 피해야 합니다.

저는 선량한 AI 로봇, 사람을 사랑하는 AI, 도움을 주는 로봇을 만들고 싶습니다. AI를 만들 때, 비록 그 진실이 정치적으로 옳지 않더라도 진실을 엄격하게 고수하는 것이 매우 중요하다고 생각합니다. 제 생각에 AI가 매우 위험해지는 것은 사실이 아닌 것을 믿도록 강요하는 경우입니다.

게리 탄

안전과 경쟁 우위 확보를 위한 폐쇄 사이의 논쟁에 대해 어떻게 생각하세요? 가장 좋은 점은 경쟁력 있는 모델을 가지고 있다는 것이고, 다른 사람들도 마찬가지라고 생각합니다. 그런 의미에서 제가 가장 걱정했던 최악의 타임라인, 즉 빠른 이륙과 단 한 사람의 손길만으로는 많은 것이 무너질 수 있는 상황을 피할 수 있었던 것 같습니다. 이제 선택지가 생겼다는 건 좋은 일입니다. 어떻게 생각하세요?

사향

네, 여러 개의 심층 지능이 존재할 거라고 생각합니다. 적어도 다섯 개는 될 겁니다. 열 개 정도 될 수도 있겠죠. 수백 개일지는 모르겠지만, 아마 열 개쯤 될 겁니다. 그중 네 개는 아마 미국에 있을 겁니다. 그러니 폭주 능력을 가진 AI가 단 하나만 있을 거라고 생각하지는 않습니다. 하지만 네, 여러 개의 심층 지능이 존재할 겁니다.

게리 탄

이 심층 요원들은 무슨 짓을 할까요? 과학 연구를 할까요, 아니면 서로 공격할까요?

사향

아마 둘 다겠죠. 새로운 물리학을 발견하길 바라지만, 새로운 기술도 분명 발명할 거라고 생각합니다. 마치 우리가 디지털 초지능에 꽤 가까워졌다고 생각하는 것처럼요. 올해는 아니더라도 올해 안에는 가능할지 모르지만, 내년에는 꼭 가능할 겁니다. 디지털 초지능은 어떤 분야에서든 인간보다 더 똑똑한 것으로 정의됩니다.

게리 탄

그렇다면 어떻게 이를 초고도의 풍요로 이끌 수 있을까요? 로봇 노동력, 저렴한 에너지, 그리고 주문형 지능을 갖추면 됩니다. 이것이 소위 '하얀 약'인가요? 당신은 그 스펙트럼에서 어디에 속하시나요? 이 방에 계신 모든 분들께 그 하얀 약을 현실로 만들기 위해 구체적으로 어떤 노력을 기울이시겠습니까?

사향

아마도 좋은 결과가 나올 거라고 생각합니다. 제프 힌튼의 의견에 어느 정도 동의하는 것 같습니다. 10%에서 20% 정도의 소멸 확률은 있을 겁니다. 하지만 긍정적으로 생각해 보면, 80%에서 90% 정도의 좋은 결과가 나올 가능성이 있습니다. 네, 아무리 강조해도 지나치지 않습니다. AI 안전을 위해서는 진실을 엄격하게 고수하는 것이 가장 중요합니다. 그리고 우리가 아는 인간과 생명에 대한 공감도 당연히 중요합니다.

게리 탄

아직 뉴럴링크에 대해서는 언급하지 않았네요. 인간과 기계 간의 입력/출력 격차를 해소하기 위해 노력하고 계신데, 이것이 AGI/ASI(인공 일반 지능/인공 초지능)에 얼마나 중요한가요? 이 연결이 구축되면 우리는 읽을 수 있을 뿐만 아니라 쓸 수도 있게 될까요?

사향

뉴럴링크는 디지털 초지능을 해결하는 데 필수적이지 않습니다. 신경 연결이 널리 사용되기 전에는 가능할 것입니다. 하지만 신경 연결은 입출력 대역폭 제약을 해결하는 데 매우 효과적입니다. 특히 출력 대역폭은 매우 낮습니다. 사람이 하루에 지속적으로 출력할 수 있는 양은 초당 1비트 미만입니다. 즉, 하루는 86,400초입니다. 사람이 하루에 그 이상의 심볼을 출력하는 것은 극히 드뭅니다. 특히 며칠 연속으로 출력하는 경우는 더욱 드뭅니다. 따라서 신경 연결 인터페이스를 사용하면 출력 대역폭과 입력 대역폭을 크게 늘릴 수 있습니다. 입력은 뇌의 쓰기 연산을 의미합니다.

입력을 읽고 신호를 읽을 수 있는 그런 장치를 이식받은 사람이 다섯 명이나 됩니다. 근위축성 측색경화증(ALS) 환자들은 (거동이 전혀 불가능한) 사지마비 환자인데, 이제 건강한 사람들과 같은 대역폭으로 소통하고 컴퓨터와 휴대폰을 조작할 수 있습니다. 정말 멋진 일이죠. 그리고 앞으로 6개월에서 12개월 안에 최초의 시각 이식이 가능할 거라고 생각합니다. 완전히 시력을 잃은 사람이라도 시각 피질에 직접 글을 쓸 수 있게 될 겁니다. 원숭이를 대상으로 실험해 봤거든요.

원숭이가 시각 장치를 장착한 지 벌써 3년이 흘렀는데, 처음에는 해상도가 상대적으로 낮겠지만 장기적으로는 매우 높은 해상도를 갖게 되고 다중 스펙트럼 파장을 볼 수 있게 될 겁니다. 적외선, 자외선, 레이더까지 볼 수 있으니 마치 초능력을 가진 것과 같습니다. 언젠가 사이버네틱 임플란트는 단순히 잘못된 것을 바로잡는 데 그치지 않고 인간의 능력을 크게 증강하고 지능, 감각, 그리고 대역폭을 크게 증가시키는 역할을 하게 될 것입니다. 언젠가는 그렇게 될 겁니다.

하지만 디지털 초지능은 그보다 훨씬 먼저 실현될 겁니다. 적어도 신경 연결이 있다면 AI를 더 잘 이해할 수 있을지도 모르죠. 여러 분야에서 여러분의 모든 노력을 제약하는 요소 중 하나는 가장 똑똑한 사람들에게 접근할 수 없다는 점입니다. 네. 하지만 동시에, 말하고 추론할 수 있는 돌멩이들이 있습니다. 지금 IQ가 130일지도 모르는 그들이 곧 초지능이 될 수도 있죠. 이 두 가지를 어떻게 조화시키시겠습니까? 5년, 10년 후에 무슨 일이 일어날지 아십니까? 이 자리에 계신 분들은 API 기준에 미달하는 사람들이 아닌, 스스로 창조적인 일을 하기 위해 무엇을 해야 할까요?

사람들이 이를 특이점이라고 부르는 데에는 이유가 있습니다. 가까운 미래에 무슨 일이 일어날지 모르기 때문입니다. 인간 지능은 매우 작은 비중을 차지할 것입니다. 어느 시점이 되면 인간 지능은 전체 지능의 1%에도 미치지 못하게 될 것입니다. 만약 카르다셰프 척도 2단계에 도달한다면, 상당한 인구 증가와 지능 증강을 가정하더라도 인간 지능에 대한 이야기입니다. 마치 모든 사람의 IQ가 1,000인 것처럼 말이죠. 그렇다 하더라도 인간 지능은 아마도 디지털 지능의 10억 분의 1에 불과할 것입니다. 어쨌든, 디지털 초지능을 위한 생물학적 부트로더는 어디에 있을까요? 제가 제대로 된 부트로더일까요? 여기서 마무리하겠습니다.

게리 탄

이제 어디로 가야 할까요? 어떻게 해야 할까요? 이 모든 게 꽤나 엉뚱한 공상과학 소설 같지만, 여러분이 직접 만들어낼 수도 있을 거예요. 기술계에서 가장 뛰어난 이 세대에게 마지막으로 한마디 해준다면요? 그들은 무엇을 해야 할까요? 어떤 일을 해야 할까요? 오늘 저녁 식사 자리에 가면 무슨 생각을 해야 할까요?

사향

처음에 말씀드렸듯이, 유용한 일을 한다면 좋은 일이라고 생각합니다. 동료에게 최대한 도움이 되려고 노력한다면 좋은 일을 하고 있는 겁니다. 제가 계속 강조하는 건, AI 안전을 위해 가장 중요한 것은 매우 진실된 AI에 집중하는 것입니다. 아시다시피, xAI 작업에 관심 있는 분이 있다면 꼭 알려주세요. 저희의 목표는 Grok을 최대한 진실을 추구하는 AI로 만드는 것입니다. 정말 중요하다고 생각합니다. 우주의 본질을 이해할 수 있기를 바랍니다. AI가 우리에게 알려줄 수 있는 것은 바로 그것일 겁니다. 어쩌면 AI가 외계인이 어디에 있는지, 우주는 어떻게 시작되었을까요? 어떻게 끝날까요? 우리가 아직 모르는 질문들은 무엇일까요? 우리는 시뮬레이션 속에 있는 걸까요? 아니면 어떤 수준의 시뮬레이션에 있는 걸까요?

게리 탄

결국 알게 될 거예요. NPC(비플레이어 캐릭터)죠. 엘론, 함께해 주셔서 정말 감사합니다.