Anthropic 연구원, 월가 AI 약세론자와 격론: AI는 집중 통제인가 분산 경쟁인가?

8월 14일, X에서 벌어진 한 대치가 AI 업계의 가장 핵심적인 철학적 분열을 수면 위로 끌어올렸다.

한쪽은 Anthropic의 포스트트레이닝 연구원이자 강화학습 기술의 핵심 인물인 Sholto Douglas다. 다른 한쪽은 Atreides Management 창업자이자 수십억 달러를 운용하는 기술 헤지펀드 매니저인 Gavin Baker다. 그는 올해 All-In Podcast에서 AI 인프라 투자에 관한 체계적인 프레임을 연이어 내놓으며 월스트리트에서 AI를 가장 잘 이해하는 투자자 중 한 명으로 평가받는다.

발단은 Baker가 All-In Podcast에서 한 발언이었다. 그는 신뢰하는 여러 소식통으로부터 Anthropic CEO인 Dario Amodei가 내부적으로 Anthropic이 결국 “세상에 유일하게 남는 민간 기업”이 될 수도 있다고 말했다는 이야기를 들었다고 전했다. Baker의 원래 말은 이렇다. “그것이 사실이라면, 나는 Dario에게 더 이상 누구에게도 그런 말을 하지 말라고 강력히 권한다.”

Douglas는 X에서 즉각 반박했다. “완전히 거짓이다(Completely false). 나는 Gavin의 견해를 좋아하지만, 이 말을 그에게 전해준 사람은 누구든 거짓말을 하고 있는 것이다. 목적은 당신이, 어떤 사람들이 필사적으로 믿도록 만들려는 내러티브를 믿게 하려는 것이다.”

그런 다음 그는 한 방을 더 날렸다. “똑같은 사람들이 바로 앞 문장에서는 Anthropic에 해자가 없다고 말하고, 다음 문장에서는 그것이 위험할 만큼 강해질 수 있다고 말한다. 이 두 판단은 동시에 성립할 수 없다.”

Baker는 강하게 맞서지 않았다. 그는 Sholto가 사실을 밝혀줘서 고맙다고 답하면서도, 더 큰 문제는 “실리콘밸리의 아주 진지한 많은 사람들이 비슷한 발언의 어떤 버전을 실제로 들었고, 그것이 Dario의 공개 발언과 일치하기 때문에 그것을 믿고 있다는 점”이라고 지적했다.

이 대치의 진짜 가치는 Dario가 정말 그 말을 했는지 여부에 있지 않다. 오히려 AI가 집중되어야 하는지 분산되어야 하는지, 안전이 통제를 의미하는지 경쟁을 의미하는지에 관한 더 깊은 분열을 터뜨렸다는 데 있다.

Baker의 프레임: AI는 너무 위험해서 집중되어선 안 된다

Baker는 All-In Podcast에서 이번 논쟁 중 가장 깔끔한 한 문장을 내놓았다.

“Anthropic과 효과적 이타주의 운동에 속한 사람들은 이 기술이 너무 위험해서 널리 배포될 수 없다고 생각한다. 반면 저커버그, 일론, 젠슨은 이 기술이 너무 위험해서 중앙에 집중되어선 안 된다고 생각한다.”

Baker의 논리 사슬은 이렇다. Anthropic은 AI가 극도로 강력하고 위험할 수 있기 때문에 신중한 규제와 중앙 통제가 필요하며, 소수의 ‘책임 있는’ 연구소가 문지기 역할을 해야 한다고 본다. 그러나 Baker는 이런 논리가 결국 하나의 결과로 이어진다고 본다. 규제를 통해 진입 장벽이 생기고, 소수 기업이 사실상의 독점을 얻고, 오픈소스가 제한되고, 경쟁이 약화되는 것이다. 그리고 역사는 집중된 절대 권력이 결코 좋은 결과를 낸 적이 없다는 것을 반복해서 증명해 왔다.

그는 AI를 총기 권리에 비유했다. 미국인은 총을 소유할 권리가 있는데, 총이 악용될 수 있음에도 그 권리는 방어와 폭정에 대한 저항에 동시에 기여하기 때문이다. Baker는 자신을 위해 일하는 AI, 즉 Dario Amodei가 ‘인류에게 가장 좋은 것’이라고 생각하는 것에 맞춰진 AI가 아니라 자신의 가치관에 맞춰진 AI를 원한다고 말했다.

Baker는 오픈소스 모델을 강력히 지지한다. 그는 Dwarkesh Patel의 견해를 인용하며, Anthropic의 Claude는 ‘헌법’과 정렬 시스템이 내장되어 있기 때문에 기저의 작동 논리가 Anthropic이 옳다고 믿는 방식대로 움직인다고 지적했다. 그는 Anthropic 사람들이 나쁜 사람들이라고 생각하지 않지만, 어느 한 회사가 ‘전 인류에게 가장 좋은 것’을 정의하도록 두는 것은 위험하다고 생각한다.

그는 심지어 직관에 반하는 투자 판단까지 내놓았다. 오픈소스 모델의 부상이 프런티어 연구소의 가치를 반드시 훼손하지는 않는다는 것이다. 그가 든 비유는 맨해튼 프로젝트다. 오펜하이머와 파인만은 수천 명의 평범한 과학자가 작업을 수행하도록 해야 했고, 엘리트는 더 많이 동원할 수 있는 ‘지적 노동력’이 생기면서 오히려 더 가치 있게 됐다. 마찬가지로 오픈소스 모델(“150 IQ”)은 프런티어 모델(“250 IQ”)이 편성하고 지휘할 수 있으며, 오픈소스는 물량을 담당하고 프런티어는 가치를 담당한다.

Douglas의 반격: 시장은 경쟁을 통해 당신이 우려하는 모든 것을 해결하고 있다

Douglas의 반박은 구체적인 가십에 얽매이지 않고 Baker 서사의 논리적 기반을 직접 공격했다.

그는 Dario Amodei의 장문 글을 링크한 뒤 이렇게 적었다. “AI 시장은 현재 지구상에서 가장 경쟁이 치열한 시장이며, 모든 글로벌 최대 기업들이 당신에게 더 똑똑하고 더 저렴한 모델을 제공하기 위해 전력을 다하고 있다. 모든 것이 순조로우면 우리는 모든 것의 비용을 에너지 비용 수준까지 낮추는 데 성공할 것이다. 이것은 대단한 일이지만, 많은 사람들의 기존 해자를 위협한다. 그들은 두려워하고 있다.”

이 말에는 많은 숨은 뜻이 담겨 있다. Douglas가 말하는 것은 이렇다. Baker와 그 뒤에서 ‘Anthropic이 세상을 독점하려 한다’는 내러티브를 퍼뜨리는 사람들 중 다수는 AI 때문에 기존 해자가 위협받는 이해관계자들인 경우가 많다. 그들은 Anthropic의 ‘야망’과 ‘규제 포획’을 과장하지만, 진짜 목적은 오픈소스를 위한 여론을 조성하거나 자신의 투자 포트폴리오에 유리하게 하거나, 순전히 변화에 대한 두려움 때문이다.

Douglas는 Baker 논증의 핵심 모순도 지적했다. Anthropic에 해자가 없고 오픈소스에 짓눌릴 것이라고 생각한다면, 동시에 Anthropic이 세상을 독점할 것이라고 걱정해서는 안 된다. 위험할 정도로 강력해질 것이라고 생각한다면, 경쟁력이 없다고 말할 수는 없다. 이 두 판단은 상호 배타적이다.

또 다른 트윗에서 Douglas는 “실제로 AGI가 실현되면 자본주의는 매우 이상해지고, ‘회사’라는 개념은 완전히 다르게 보일 수 있다”고 썼다. 그는 AI 시대의 기업 형태에 관한 Dwarkesh Patel의 글을 링크하며, 이 문제가 ‘집중 vs 분산’이라는 단순한 이분법보다 훨씬 복잡하다는 점을 시사했다.

회피된 진짜 문제

Baker와 Douglas 논쟁의 뛰어난 점은 두 사람 모두 사실 명백한 논리적 오류를 범하지 않았고, 이들의 견해 차이는 근본적인 전제에서 비롯된다는 데 있다.

Baker의 근본 전제는 AI가 무기화될 수 있을 만큼 강력해질 수 있으므로 권력 분산이 권력 집중보다 안전하다는 것이다. 이는 민주주의가 계몽된 독재보다 안전한 것과 같다. 그는 인간 본성에 대해 현실주의적 태도를 지닌다. 아무리 선한 의도를 가진 사람이라도 견제받지 않는 초지능을 가져서는 안 된다는 것이다.

Douglas의 근본 전제는 AI 시장의 경쟁 강도 그 자체가 최선의 견제 장치라는 것이다. 정치적 내러티브를 통해 AI 권력을 ‘분산’시킬 필요는 없다. 시장이 이미 그 일을 하고 있기 때문이다. Google, Meta, xAI, OpenAI, DeepSeek, Kimi, GLM, 전 세계 최대 기업들과 가장 똑똑한 팀들이 모두 같은 방향으로 달려가고 있다. 이런 경쟁 구도에서는 어떤 기업도 “세상에 유일하게 남는 민간 기업”이 될 수 없다.

두 사람은 더 날카로운 질문을 모두 피했다. AI가 정말 Dario가 말한 것처럼 화이트칼라 일자리의 50%를 사라지게 할 수 있다면, ‘경쟁’과 ‘분산’만으로 충분한가? 경쟁은 효율을 보장하지만 공정성을 보장하지는 않는다. 분산은 단일 장애점을 없애지만 시스템적 위험이 발생하지 않는다는 보장은 하지 못한다.

Baker는 자신을 위해 일하는 AI를 원한다고 말했다. 하지만 모든 사람이 자신을 위해 일하는 초지능을 갖게 된다면 세상은 어떻게 될까? 이는 더 이상 기술 문제도, 심지어 비즈니스 문제도 아닌 정치철학적 문제다.

바로 이 지점에서 Anthropic 연구원 한 명과 헤지펀드 매니저 한 명 사이의 견해 차이는, 인류가 AI를 마주할 때 느끼는 가장 근본적인 불안의 분열을 정확히 비춰줄지도 모른다. 인류는 지나치게 강력한 문지기를 더 두려워하는가, 아니면 문지기가 없는 세상을 더 두려워하는가?

이 논쟁은 승자가 없겠지만, 적어도 두 가지 공포를 동시에 선명하게 만들었다.