저자: 샘 알트만

작성자: Deep Tide TechFlow

딥 타이드 요약: 새벽 3시 45분, 누군가 샘 알트먼의 집에 화염병을 던졌습니다. 그는 평소와 달리 가족사진을 게시하여 다음 공격자를 막으려 했습니다. 이 기사는 단순히 공격에 대한 비난만을 다루는 것이 아니라, 그가 인공지능에 대해 가진 신념을 처음으로 자세히 설명합니다. 그는 인공지능이 민주화되어야 하며, 소수의 연구소가 인류의 미래를 결정해서는 안 된다고 주장합니다. 또한 "일단 인공 일반 지능(AGI)을 보면 되돌릴 수 없다"는 환상이 인공지능 분야를 셰익스피어 비극과 같은 갈등으로 가득 채운다고 지적합니다.

이 사진은 우리 가족사진이에요. 저는 가족을 세상 무엇보다 사랑해요.

이 사진이 어떤 힘을 가지길 바랍니다. 저희는 평소에 사생활을 상당히 철저히 보호하지만, 이번 경우에는 누군가 저를 어떻게 생각하든 상관없이 저희 집에 화염병을 던지는 것을 막기 위해 사진을 공유합니다.

첫 번째 사람은 어젯밤 새벽 3시 45분에 그런 짓을 했습니다. 다행히 공이 집에 맞고 튕겨나가서 아무도 다치지 않았습니다.

말에는 힘이 있다. 며칠 전 나에 대한 자극적인 기사가 나왔다. 어제 누군가 내게 그 기사가 인공지능에 대한 극심한 불안감이 만연한 시기에 발표되어 내 상황을 더 위험하게 만들었다고 말했다. 당시에는 대수롭지 않게 생각했다.

한밤중에 잠에서 깨어 화가 나면서, 말과 이야기의 힘을 과소평가했다는 사실을 깨달았습니다. 지금 몇 가지 이야기를 나눠보는 게 좋을 것 같네요.

첫째, 제 생각입니다.

모두의 번영을 위해 노력하고, 모든 사람에게 권한을 부여하며, 과학 기술을 발전시키는 것은 저의 도덕적 의무입니다.

인공지능은 인간의 능력과 잠재력을 확장하는 가장 강력한 도구가 될 것입니다. 이 도구에 대한 수요는 사실상 무한하며, 사람들은 이를 활용하여 놀라운 일들을 해낼 것입니다. 세계는 막대한 양의 인공지능을 보유해야 하며, 우리는 이를 실현할 방법을 찾아야 합니다.

모든 것이 순조롭지는 않을 것입니다. 인공지능에 대한 두려움과 불안은 당연한 것입니다. 우리는 어쩌면 역사상 가장 큰 사회적 변혁을 목격하고 있습니다. 안전을 확보하는 것이 무엇보다 중요하며, 이는 단순히 모델을 조정하는 것 이상의 의미를 지닙니다. 우리는 이 새로운 위협에 대처하기 위한 사회적 대응이 시급합니다. 여기에는 어려운 경제적 전환기를 헤쳐나가고 더 나은 미래를 향해 나아갈 수 있도록 돕는 새로운 정책들이 포함됩니다.

인공지능은 민주화되어야 하며, 권력이 지나치게 중앙집권화되어서는 안 됩니다. 미래에 대한 통제권은 모든 사람과 그들의 기관에 있습니다. 인공지능은 개인에게 힘을 실어주어야 하며, 우리는 미래와 새로운 규칙에 대해 집단적인 결정을 내려야 합니다. 소수의 인공지능 연구소가 우리의 미래에 대한 가장 중요한 결정을 내리는 것은 옳지 않다고 생각합니다.

적응력은 매우 중요합니다. 우리는 모두 새로운 것을 매우 빠르게 배우며, 우리의 믿음 중 일부는 옳고 일부는 틀릴 것입니다. 기술이 발전하고 사회가 진화함에 따라 때로는 사고방식을 빠르게 바꿔야 할 필요도 있습니다. 초지능이 미칠 영향은 아직 아무도 완전히 이해하지 못하지만, 앞으로 그 영향은 엄청날 것입니다.

둘째로, 개인적인 소감을 말씀드리겠습니다.

오픈아이의 지난 10년을 되돌아보면 자랑스러운 일들도 많지만, 수많은 실수들도 있었다는 것을 알 수 있습니다.

일론 머스크와의 재판을 앞두고, 그가 오픈AI를 일방적으로 장악하려던 시도에 제가 얼마나 단호하게 저항했는지 떠올려 봅니다. 당시 우리가 택했던 그 좁은 길이 자랑스럽고, 그 덕분에 오픈AI가 존속할 수 있었고, 그 이후의 모든 성과들이 가능했다고 생각합니다.

갈등을 회피했던 제 모습이 자랑스럽지 않습니다. 그로 인해 저와 OpenAI 모두에게 엄청난 고통을 안겨주었습니다. 이전 이사진과의 갈등을 제대로 처리하지 못해 회사에 큰 혼란을 초래했던 것도 부끄럽습니다. OpenAI의 격동적인 여정 속에서 저는 수많은 실수를 저질렀습니다. 저는 결점이 있는 사람이며, 매우 복잡한 상황의 한가운데서 매년 조금씩이라도 발전하려고 노력하며 항상 회사의 사명을 향해 나아가고 있습니다. 우리는 처음부터 AI가 얼마나 위험한지, 그리고 제가 아끼는 선의의 사람들 사이의 개인적인 의견 차이가 얼마나 크게 증폭될 수 있는지 알고 있었습니다. 하지만 이러한 격렬한 갈등을 직접 겪고, 종종 중재해야 했던 것은 완전히 다른 차원의 문제였고, 그 대가는 매우 컸습니다. 제가 상처를 드린 분들께 사과드리며, 앞으로 더 빨리 배우고 성장할 수 있기를 바랍니다.

저는 오픈아이(OpenAI)가 이제 작은 스타트업이 아니라 주요 플랫폼이라는 점을 분명히 인지하고 있으며, 보다 예측 가능한 방식으로 운영해야 한다고 생각합니다. 지난 몇 년간은 극도로 긴장되고 혼란스러웠으며 압박감이 컸습니다.

하지만 제가 가장 자랑스럽게 생각하는 것은 처음에는 도저히 불가능해 보였던 우리의 사명을 달성하고 있다는 점입니다. 모든 어려움을 극복하고, 매우 강력한 AI를 구축하는 방법, 이를 구현하는 데 필요한 인프라를 구축할 자본을 확보하는 방법, 제품 회사와 사업을 설립하는 방법, 대규모로 안전하고 견고한 서비스를 제공하는 방법 등을 알아냈습니다. 많은 기업들이 세상을 바꾸겠다고 말하지만, 우리는 정말로 세상을 바꿨습니다.

셋째, 이 산업에 대한 몇 가지 생각을 말씀드리겠습니다.

지난 몇 년간 제가 직접 경험하고 관찰한 바에 따르면, 우리 업계 기업들 사이에 셰익스피어 비극과 같은 갈등이 끊이지 않는 이유는 바로 이것입니다. "인공지능(AGI)을 한번이라도 접하게 되면, 그 본질을 외면할 수 없게 된다." AGI는 사람들을 광기에 휩싸이게 하는 강력한 "권력의 고리"와 같은 역학 관계를 지니고 있습니다. 여기서 말하는 권력의 고리는 AGI 그 자체를 의미하는 것이 아니라, "AGI를 지배하는 자가 되려는" 전체주의적 철학을 가리키는 것입니다.

제가 생각할 수 있는 유일한 해결책은 기술을 사람들 사이에 널리 공유하고, 누구도 반지를 소유하지 않도록 하는 것입니다. 이를 실현하는 두 가지 분명한 방법은 개인의 역량을 강화하고 민주주의 체제가 통제권을 유지하도록 하는 것입니다.

민주적 절차가 기업보다 강하게 유지되는 것이 매우 중요합니다. 법과 규정은 변하겠지만, 우리는 비록 혼란스럽고 우리가 원하는 것보다 느리더라도 민주적 절차 안에서 움직여야 합니다. 우리는 목소리를 내고 이해관계자가 되고 싶지만, 모든 권력을 장악하고 싶지는 않습니다.

우리 업계에 대한 비판의 상당 부분은 이 기술에 수반되는 극도로 높은 위험에 대한 진정한 우려에서 비롯됩니다. 이는 지극히 타당한 우려이며, 우리는 건설적인 비판과 토론을 환영합니다. 저는 반기술 정서에 공감합니다. 기술이 항상 모든 사람에게 좋은 것만은 아니라는 점은 분명합니다. 하지만 전반적으로 기술 발전은 여러분 가족과 제 가족 모두에게 훨씬 더 나은 미래를 만들어 줄 수 있다고 믿습니다.

우리가 그 논쟁을 벌일 때는, 수사적인 표현과 전술을 자제하고, 비유적으로든 문자 그대로든 더 적은 가정에서 더 적은 폭발이 일어나도록 노력해야 합니다.