저자: 신즈위안

방금 전, Karpathy가 냉혹한 진실 하나를 던졌다. AI 능력에 대한 인류의 인식이 놀라운 '인지 접힘(cognitive folding)'을 겪고 있다는 것이다.

업계 사람들은 매일 AGI가 곧 도래한다고 외치지만, 대중은 이를 비웃는다.

왜일까? Karpathy가 진실을 밝혔다. 전 세계 인구의 약 75%는 대형 모델을 아예 만져본 적이 없고, 최전선 시스템을 장악한 최상위층은 고작 5000명에 불과하다는 것이다.

이것은 가파른 '4단계 인지 깔때기'다.

수십억 명이 무료 AI가 간단한 질문조차 틀린다고 비웃는 동안, 전 세계 최상위 2000만 명은 '에이전트 현기증'에 빠져 있다.

그리고 최상위 5000명의 금지 구역에서는 수천 개의 '에이전트 군집'이 자율적으로 협업하고, 제로데이 취약점을 공방하며, 최전선 수학을 추론하면서 인류를 멀찌감치 뒤처지게 만들고 있다.

대중이 보는 AI와 실험실 최전선의 진짜 실력 사이에는 이미 거대한 간극이 가로놓여 있다.

첫 번째 접힘: 60억 명의 무시와 20억 명의 '착각'

AI가 이미 구석구석까지 보급됐다고?

Karpathy의 '냅킨 추정' 결과는 충격적이다. 이 가파른 깔때기 모델에서 압도적 다수는 무자비하게 문 밖에 갇혀 있다.

깔때기 최하층: 60억 명의 'AI 진공 지대'(전 세계 인구의 약 75%)

이 세상에는 약 60억 명이 지금까지 어떤 LLM도 거의 접해본 적이 없다. 그들에게 AI는 뉴스 헤드라인과 SF 영화 속에만 존재한다.

실리콘밸리가 제4차 산업혁명이라 부르는 이 물결은, 이 75%의 인류의 삶에 전혀 들어오지 못했다.

깔때기 두 번째 층: 10억~20억 명의 '서투른 비서 착각'(전 세계 인구의 약 20%)

이 층에는 약 10억~20억 명이 있다. 이들은 무료 버전, ChatGPT와 유사한 제품을 가끔 사용하는 사람들이다.

그들의 눈에 AI는 그저 '서투른 챗봇'일 뿐이다.

사람들은 이를 좀 더 나은 Google 검색, 혹은 글쓰기 보조 도구, 기껏해야 항공편 예약을 도와주려는 초급 에이전트 정도로 여긴다.

Karpathy는 솔직히 말한다. 비기술 분야 친구들이 많았는데, 그들은 이 물건이 일상생활에서 별로 쓸모가 없다고 느낀다고 했다.

심지어 수학과 코드 분야가 아닌 많은 전문가들, 많은 기업 임원들조차 이 층에 머물러 있다. 임원들은 매일 엄청난 시간을 사람과의 소통에 쏟는다. 그들은 이성적으로는 AI에서 무슨 일이 벌어지고 있는지 '알고' 있지만, 그 인식은 간접적이고 극도로 추상적이다.

여기서 치명적인 '최신성 효과와 사용 층위' 문제가 드러난다. 많은 사람의 AI 세계관은 작년의 무료 ChatGPT, 혹은 소셜 미디어에서 미친 듯이 퍼진 'AI 실수 영상'에 의해 형성됐다.

예를 들어, 많은 사람이 OpenAI 고급 음성 모드가 '차를 몰고 갈까, 걸어서 세차장에 갈까' 같은 간단한 질문에 더듬거리며 횡설수설하는 웃긴 영상을 봤다.

대중은 Instagram 숏폼에서 AI가 환각을 일으키고 헛소리를 하는 모습을 보며 크게 웃고는 이렇게 생각한다. "이게 다야? 이게 너희가 말하는 초지능이야?"

하지만 Karpathy는 경고한다. 대중은 무료 버전과 구형 모델에 완전히 속아 넘어갔다고.

폐기된 구형 모델들은 올해 최신 세대 최전선 에이전트(특히 OpenAI Codex와 Claude Code)의 진짜 실력을 전혀 대표하지 못한다.

두 번째 접힘: 2000만 전문가의 '에이전트 현기증'

깔때기의 세 번째 층에 도달하면 분위기가 확 달라진다. 이곳의 공기는 희박해지기 시작하고, 약 2000만 명(전 세계 인구의 0.2%)만이 존재한다.

수학과 프로그래밍 전문가들로 이뤄진 이 집단에서는 'AI 정신병'과 '에이전트 현기증'이라 불리는 집단적 증상이 퍼지고 있다.

왜일까? 그들은 가파른 진화를 두 눈으로 직접 목격하고 있기 때문이다.

이 층에서 사람들은 가장 최전선의 에이전트 모델(Codex / Claude Code)에 돈을 내고 사용하며, 이를 프로그래밍, 수학, 연구 등 자신에게 맞는 분야에 적용한다.

Karpathy는 자신의 직접 경험을 들어 설명한다. "이 모든 것이 너무 빨리 일어났다. 불과 1년도 채 안 됐을 때 나는 여전히 순수하게 손으로 코드를 짰고, 몸에 밴 컴퓨터 명령어를 한 글자 한 글자 에디터에 입력했으며, 가끔 Tab 키를 눌러 짧은 자동 완성을 시켰다."

하지만 지금은? 모든 것이 뒤집혔다.

한때 최고 엔지니어가 수개월을 쏟아야 했던 대형 프로젝트가, 이제는 프롬프트 하나면 최전선 에이전트가 극도로 짧은 시간 안에 완성한다. 앱 구축, 앱 복제, 앱 번역, 바이너리 파일에서 앱 디컴파일까지……

컴퓨터 터미널을 이 모델들에게 넘겨주면, 몇 주가 걸리던 프로그래밍 난제를 그들이 '녹여버리는' 모습을 두 눈으로 지켜볼 수 있다.

OpenAI의 최고급 유료 Codex 모델은 백그라운드에서 스스로 1시간 동안 조용히 실행된 뒤, 방대한 코드베이스 전체를 완벽하게 재구성하거나, 복잡한 시스템에서 취약점을 정밀하게 찾아내 활용할 수 있다.

Karpathy가 인용한 인플루언서의 말처럼, "당신이 AI에 경외감을 느끼는 정도는, 당신이 AI로 코드를 짜는 빈도와 완벽하게 정비례한다."

이 전문가 집단은 인지 곡선이 수직으로 치솟는 '현기증의 순간'을 겪고 있다. 그들은 누구보다도 AI 능력의 기울기가 얼마나 무서운지, 그리고 그 이면의 사이버 보안 연쇄 반응을 잘 안다.

두 집단은 이미 완전히 '닭 잡는 소리와 오리 잡는 소리'처럼 서로 통하지 않는 상태다.

세 번째 접힘: 5000명 내부자가 보는 '초지능의 싹'

2000만 명의 '현기증'이 이미 충분히 충격적이라면, 깔때기 가장 뾰족한 네 번째 층은 상식을 뛰어넘는다.

피라미드 꼭대기에는 전 세계적으로 고작 약 5000명(전 세계 인구의 0.00006%)만이 있다.

에베레스트산에 비유하자면, 전 세계에서 7500명이 에베레스트 정상에 올랐지만, 최전선 AI의 한계 능력을 실제로 목격한 사람은 에베레스트 정상에 오른 사람보다도 적다. 이 깔때기 모델은 그야말로 '미친' 수준이다.

이 5000명은 누구인가? AI 기업의 가장 핵심적인 내부 최전선급 시스템에 접근할 수 있는 내부자들이다.

외부 세계가 보는 것은 AI 능력의 '프리뷰 버전'에 불과하다. 반면 이 5000명의 내부자가 두 눈으로 직접 목격하는 것은 진짜 '에이전트 군집'이다.

내부에서는 수천수만 개의 에이전트가 마치 벌떼처럼, 인간의 개입 없이 수주에 걸쳐 자율적으로 협업하며, 세상을 뒤흔들 소프트웨어 초대형 프로젝트를 공략하고 있다.

그들은 무엇을 하고 있는가? 제로데이 취약점을 발견하고, 네트워크 공방 실전 훈련을 수행하며, 새로운 과학을 발견하고, 수학의 최전선을 밀어붙이고 있다.

이 일들은 원래 최고 전문가가 수년의 심혈을 기울여야 완성할 수 있는 것들이다.

가장 무서운 점은, 인간의 검토와 이해 능력이 이미 기계에 뒤처지기 시작했다는 것이다.

Karpathy는 예를 든다. 기계가 콘텐츠를 생성하는 속도와 깊이가 이미 내부자들을 지치게 만들고 있다고.

예를 들어, 'OpenAI-Hugging Face 사건'은 이미 오래전 일이지만, 인간 연구원들은 지금도 방대한 기계 생성 로그 속에서 '고고학 발굴'을 하고 있다. AI가 생성한 722편의 수학 원고에 대해서도, 최고 수학자들은 AI의 추론 논리를 간신히 소화하기 위해 오랜 시간이 필요하다.

왜 이렇게 극단적인 '인지 접힘'이 나타나는가?

왜 이렇게 날카로운 깔때기가 형성됐을까? Karpathy는 세 가지 핵심 요인을 지적한다.

첫째, 영향력은 당신의 '야망', 문제의 규모와 정비례한다.

AI에게 이메일 한 통 쓰게 하고 레시피 하나 찾게만 한다면, 시스템은 워밍업조차 되지 않아 그 한계를 전혀 끌어낼 수 없다.

당신은 어려운 문제로 가득한 '저수지'를 갖고 있어야 하며, 그것이 당신이 진심으로 신경 쓰고 시급히 해결해야 할 난제여야만 AI의 무서움을 느낄 수 있다.

둘째, AI 능력의 '시스템 톱니성'과 검증 가능한 보상.

왜 이런 폭발적 성장이 주로 수학과 코드 분야에 집중될까? 현재 AI 능력의 정점은 디지털화되고, 검증 가능하며, 경제적 가치가 있는 분야에서 나타나기 때문이다.

이는 대형 모델의 기저 메커니즘의 비밀과 관련된다. LLM의 강력한 능력은 '강화 학습'에서 비롯된다. 코드와 수학에서는 옳고 그름이 절대적으로 명확하다. 이처럼 명확한 '검증 가능한 보상 함수' 덕분에 AI는 효율적인 RL 훈련을 수행할 수 있다.

반면, AI에게 시 한 편이나 글 한 편을 쓰게 하면 좋고 나쁨의 평가가 매우 주관적이어서 명확한 강화 학습을 하기 어렵다.

뿐만 아니라, 코드와 수학 같은 B2B 시나리오는 극도로 높은 상업적 가치를 지닌다. 이윤이 두텁기 때문에 각 대형 테크 기업의 가장 정예한 팀과 가장 많은 자원이 이 분야에 집중된다.

셋째, 접근 권한의 간극.

무료 버전, 유료 버전, 내부 권한. 이 세 계단은 물리적으로 전 인류의 AI 인식을 분리시켰다.

우리는 인류 역사상 기이한 순간에 서 있다.

이 시공간의 같은 1초 안에서, 대중이 보는 AI와 최전선 내부의 진짜 실력은 이미 같은 시대에 있지 않다.

Karpathy의 경고를 기억하라. 당신이 어리석다고 생각하는 AI 가면 뒤에서, 초지능의 싹이 이미 극소수의 시선 아래 조용히 깨어나고 있다.