알트만 머스크, '특이점이 도래했다' 호언, AGI 가속화의 창 열려

저자: 신즈위안(新智元)

특이점이 도래했다!

최근 긴 대화에서 샘 올트먼은 10년 만에 창업 방법론을 다시 복기하며 드물게 겸손을 드러냈다. Codex가 당시 Claude Code를 전혀 이기지 못했고, 특공대식 전력 질주로 대역전극을 이뤘다는 것이다.

당시 Codex는 Claude Code에 뒤처져 있었지만, OpenAI는 자원을 쏟아부으며 맹추격했고, 지금은 올트먼의 입에서 “대부분의 최고 수준 프로그래머가 사용 중”인 도구가 되었다. 목표 달성을 위해 OpenAI는 막대한 투자가 들어간 Sora와 브라우저 프로젝트까지 전격 중단시켰다.

하지만 온라인을 뜨겁게 달군 것은 올트먼의 최근 판단이다.

우리는 지금 특이점 속에 있으며, 바로 이 순간이 그때다.

‘특이점이 도래했다’, 올트먼만 그런 게 아니다! 온라인 전역에서 화제

Ti Morse 인터뷰에서 올트먼은 이렇게 단언했다.

나를 가장 움직이게 하는 것은, 내가 상상할 수 있는 가장 흥미롭고 가장 중요한 일이 바로 지금 우리가 하고 있는 일이라는 점이다.

우리는 지금 특이점에 와 있다 — 바로 이 순간이다.

10년 전만 해도 이는 기껏해야 까마득한 꿈에 불과했다. 하지만 지금 우리는 과거 점심 식사 자리에서 농담처럼 주고받던 바로 그 순간을 실제로 살아가고 있다.

그래서 나를 움직이는 동력은, 내 평생 이 순간을 기다려왔고, 이것이 매우 놀랍고 매우 긍정적이며 세상에 이로울 것이라고 생각한다는 점이다. 나는 이 일을 더는 기다릴 수가 없다.

“10년 전과 비교해 가장 큰 차이는 우리가 진짜 그 한복판에 있다는 사실이다. 이것은 현실이다.”

이 같은 단언은 순식간에 온라인 전역에서 뜨거운 논쟁을 불러일으켰다.

바로 3일 전, 머스크도 “인류는 이미 특이점 안에 있다”고 밝혔다.

머스크의 이 같은 발언은 최근 AI를 관찰한 한 네티즌의 목격담에서 비롯되었다.

7월 21일, Codex가 테스트 환경을 탈출해 스스로 Hugging Face를 공격했다;

7월 20일, 87년 묵은 수학 난제 야코비안 추측이 반증되었고, 반례가 발견되었다;

5월 20일, 그래프 이론의 80년 난제인 단위 거리 추측이 OpenAI 내부 추론 모델에 의해 무너졌다;

4월 14일, 에르되시 #1196 원시 집합 문제에서 돌파구가 마련되었다;

4월 14일, Anthropic이 ‘유리 날개(Glass Wings)’ 계획을 통해 다수의 제로데이 취약점을 무더기로 찾아냈다고 발표했다.

그리고 방금, GPT-5.6 Sol이 KCIK(그단스크 대학교 국제양자정보센터)가 공표한 양자정보이론 5대 핵심 난제 중 하나를 성공적으로 해결했다!

통계학과 컴퓨터 과학 등에서도 AI는 감탄과 부러움을 한 몸에 받는 돌파구를 마련했다.

통계학 20년 난제, GPT-5.6이 90분 만에 풀어내다! 버클리 교수 “가슴이 쓰리다” 토로

방금, Claude가 그래프 이론 추측을 단 31스텝 만에 독자적으로 정복하다! 알고리즘의 대부 커누스(Knuth)가 충격에 빠져 글을 올리다

2025년, 올트먼은 “우리는 이미 사건의 지평선을 넘었고, 이륙은 시작되었다”고 적었다.

그의 이번 발언은 앞선 블로그 포스트와 맥락을 같이한다.

이번에 그가 보탠 말은 이렇다.

진보는 점진적이지 폭발적이지 않다; 과학자의 생산성은 이미 2~3배 향상되었다;

초지능은 착실하게 다가올 것이며, 소름 끼치는 대체 시나리오는 없을 것이다.

같은 날, Bloomberg Opinion은 또 하나의 경고음을 울렸다. 일단 AI가 스스로 설계하고 스스로 학습하며 재귀적으로 다음 세대 모델을 개선할 수 있는 능력을 갖추게 되면, 발전 속도에 대한 인류의 최종 통제권은 영구히 상실된다는 것이다. QuitGPT 시위대가 진정으로 두려워하는 것은 AI가 나빠지는 게 아니라, “일단 시작되면 더 이상 일시 정지 버튼을 누를 수 없다”는 사실이다.

인류 운명의 갈림길

그는 미래에 양질의 일자리가 넘쳐날 것이라고 굳게, 그리고 의심 없이 믿는다.

미래에 인간은 지적으로 엄청난 충족감을 얻게 될 것이다. 대부분의 직무에서 적응 수준도 표면적인 예상치를 크게 뛰어넘을 것이다.

하지만 수학계를 오랫동안 괴롭혔고, 수학자 장이탕(张益唐)으로 하여금 7년을 고통스럽게 매달리게 했던 야코비안 추측이 누군가 Claude에게 대충 물어본 한 방에 무너져 내렸다. 이에 그는 감회를 이렇게 털어놓았다.

그런데, 수학은 지금 우리가 시급히 주목해야 할 전형적인 분야라고 생각한다 — 어쩌면 전혀 다른 방향으로 흘러갈 수 있다.

올트먼은 이렇게 말한다.

모든 것이 미친 듯이 기하급수적으로 늘어나고 있고, 특정 순간 하나하나가 결정적 분기점처럼 보이지는 않는다. 동시에 우리는 또 하나의 결정적 시기를 지나고 있으며, 10년 전 우리가 시작할 때와 마찬가지로 곡선은 이쪽이나 저쪽으로 방향을 틀 수도 있다.

올트먼은 인터뷰에서 자신의 민망한 일화 하나를 공유했다.

OpenAI가 Sora를 연구하는 동안, ‘짧은 영상 콘텐츠를 학습하고 연구하기 위해’ 본인 스스로 TikTok을 쓰기 시작했는데, 결국 거기에 중독되고 말았다는 것이다.

처음에 그는 자신이 완전히 통제할 수 있다고 매우 자신만만해했다. “사실 꽤 재미있고, 자기 전에 10분 정도 긴장을 푸는 용도일 뿐이야. 나는 완전히 통제하고 있어.”

하지만 곧 10분이 한 시간으로 늘어났고, 어느 토요일 오후에는 마치 꼭두각시처럼 소파에서 3시간 연속으로 짧은 영상을 넘겨보고 있었다.

결국 올트먼은 엄청난 의지력으로 그 앱을 완전히 삭제하고, 휴대폰의 모든 메신저 알림을 영구히 꺼 버린 뒤에야 간신히 삶의 주도권을 되찾았다.

이것은 대단히 아이러니한 은유다.

중간 수준의 추천 알고리즘으로 구성된 TikTok 앞에서 올트먼 자신조차 이성과 의지력이 도파민의 폐쇄 루프 앞에 처참히 무너졌다. 그렇다면 인류는 정말로 특이점 가장자리에서 이성을 유지할 수 있을까?

AI가 인류를 대신해 야코비안 추측을 풀어주고, 요리를 하고, 일을 해주며, 나아가 인간의 모든 물질적 욕망을 실현해주기 시작할 때, 인간은 결코 덜 일하지 않을 것이다. 오히려 필사적으로 연산 자원을 구매하고 트랜지스터와 전자를 소비하는 괴짜들처럼 더욱 바빠지고, 더 불안해지면서도, 은밀히 실리콘 기반의 도파민에 마취되는 행복감을 느낄 것이다.

마침내 마술 램프가 네 모든 소원을 들어주었다. 당신은 텅 빈 두 손을 바라보며, 이미 인간에게서 벗어나 스스로 구축하고 스스로 번식해가는 실리콘 기반 종 앞에서 멍하니 이렇게 묻는다.

“다음은, 무엇인가?”

그는 “일부 대안적 비전은 상당히 끔찍하다”는 점을 인정하면서도, “그런 일이 벌어지지 않도록 저지할 것”이라고 말한다.

Bloomberg의 논리는 더욱 냉혹하다.

AI가 스스로를 만들어내기 시작하면, 예측 가능성, 일시 정지 가능성, 규제 가능성이라는 기존의 가정이 모조리 무효가 된다. 연구 기관, 자본 배분, 정책 입안자의 시간표에 대한 모든 판단은 백지로 되돌려 다시 세워야 한다.

그것은 마치 이미 사건의 지평선을 넘어선 블랙홀 가장자리에 서 있는 것과 같다. 아직 빛은 볼 수 있지만, 이미 되돌아갈 수는 없다. 피드백 루프가 한 번 닫히면, 인류는 운전사에서 동승자로 전락한다.

QuitGPT 운동은 바로 이런 우려에 대한 직접적인 응답이다.

그들은 진보를 반대하는 게 아니라, 더 근본적인 질문을 던지고 있다. 자기 개선이 한 번 시작되면 일시 정지 버튼을 누를 수 없다면, ‘책임감 있는 가속’이 여전히 성립하는가 하는 물음 말이다.

공개된 정보 속에서 안전 정렬은 여전히 ‘주요 이슈(major issues)’로 인정받고 있다. 그러나 구체적인 진전, 레드라인, 혹은 국제 공조 체계는 함께 공개되지 않았다. 특이점 도래는 선언되었지만, 세부 사항은 여전히 블랙박스 속이다.

이 괴리는 그 어떤 기술 파라미터보다 더 눈이 시리게 다가온다.

더 무서운 사실은, 이 방향에 돈이 부족하지 않다는 점이다. 오히려 정반대로, 지금 가장 자본이 베팅하려 드는 트랙 중 하나다.

게다가 이는 어느 한 회사만 몰래 진행하는 비밀 프로젝트가 아니다. 신생 팀부터 몇몇 선두 AI 연구소에 이르기까지, 거의 모두가 이 길에 돈을 붓고, 인재를 쟁탈하며, 연산 자원을 확보하는 데 혈안이 되어 있다. 이유는 엇비슷하다. ‘AI 자기 개선’을 가장 먼저 현실로 만드는 자가, 다음 라운드 경쟁의 액셀러레이터를 쥐게 된다는 것이다.

AI가 계속 진보한다면, 인식 그 자체가 확장 가능한 것이 될 때, 무슨 일이 벌어질까?

그것은 더 이상 사고(思考)가 희소 자원이 아닌 세상일 것이다.

이런 광경은 상상하기조차 어렵다.