작성자: Ada, Deep Tide TechFlow

2월 24일 화요일. 워싱턴 D.C., 펜타곤.

앤트로픽 CEO 다리오 아모데이는 피트 헤그세스 국방장관과 마주 앉았습니다. NPR과 CNN을 비롯한 여러 언론 매체는 사정에 정통한 소식통을 인용해 회담 분위기는 "정중했지만" 내용은 전혀 그렇지 않았다고 보도했습니다.

헤그세스는 그에게 최후통첩을 내렸다. 금요일 오후 5시 1분까지 클로드에 대한 군사적 사용 제한을 해제하여 국방부가 자율 무기 표적 설정 및 국내 대규모 감시를 포함한 "모든 합법적 목적"에 클로드를 사용할 수 있도록 허용하라는 것이었다.

그렇지 않으면 2억 달러 규모의 계약을 취소하십시오. 국방생산법을 발동하여 장비를 강제 징발하십시오. 앤트로픽사를 "공급망 위험" 업체로 지정하십시오. 이는 러시아와 중국에 적대적인 기업으로 블랙리스트에 올리는 것과 마찬가지입니다.

같은 날, 앤트로픽은 책임 있는 확장 정책(RSP 3.0)의 세 번째 버전을 발표하면서 회사의 핵심 약속 중 하나를 조용히 철회했습니다. 그 약속이란 안전 조치가 마련되어 있음을 보장할 수 없다면 더 강력한 모델을 학습시키지 않겠다는 것이었습니다.

같은 날, 일론 머스크는 X 커뮤니티에 "앤트로픽이 대규모로 훈련 데이터를 도용한 것은 사실이다"라는 글을 올렸다. 한편, X 커뮤니티 게시판에는 앤트로픽이 불법 복제 서적을 이용해 클로드를 훈련시킨 혐의로 15억 달러의 합의금을 지불했다는 소식이 추가되었다.

이 자칭 AI 회사는 72시간 만에 안보 순교자, 지적 재산권 도둑, 그리고 미 국방부 배신자라는 세 가지 역할을 동시에 수행했습니다.

어느 쪽이 사실인가요?

어쩌면 그들 모두가 그럴지도 모릅니다.

미 국방부의 "복종하든가, 나가라" 전략

이 이야기의 첫 번째 부분은 매우 간단합니다.

앤트로픽은 미국 국방부로부터 기밀 접근 권한을 부여받은 최초의 AI 기업입니다. 작년 여름에 체결한 계약 규모는 2억 달러로 제한되었습니다. 이후 오픈AI, 구글, xAI도 각각 비슷한 규모의 계약을 확보했습니다.

알자지라에 따르면 클로드는 올해 1월 미국 군사 작전에 투입되었습니다. 보도에 따르면 해당 작전은 베네수엘라 대통령 마두로 납치 사건과 관련이 있었습니다.

하지만 앤트로픽은 두 가지 넘지 말아야 할 선을 그었습니다. 완전 자율 무기 표적 조준과 미국 시민에 대한 대규모 감시는 지지하지 않는다는 것입니다. 앤트로픽은 인공지능이 무기를 제어할 만큼 신뢰할 수 없다고 생각하며, 현재 대규모 감시에 인공지능을 적용하는 것을 규제하는 법률이나 규정이 없다고 지적합니다.

국방부는 그 말을 믿지 않는다.

백악관 AI 고문인 데이비드 색스는 지난 10월 앤트로픽 온 X가 "규제 당국의 영향력 확대를 위해 공포를 무기로 사용하고 있다"고 공개적으로 비난했습니다.

경쟁은 이미 무너졌습니다. OpenAI, Google, xAI는 모두 군이 "모든 합법적인 시나리오"에서 자사의 AI를 사용할 수 있도록 허용하기로 합의했습니다. 머스크의 Grok은 이번 주에 기밀 시스템 접근 승인을 받았습니다.

앤트로픽이 마지막까지 살아남았다.

보도 시점 현재, 앤트로픽은 최신 보도자료에서 물러설 의사가 없다고 밝혔습니다. 하지만 금요일 오후 5시 1분 마감 시한이 빠르게 다가오고 있습니다.

익명의 전 법무부와 국방부 연락관은 CNN과의 인터뷰에서 "어떻게 동시에 한 회사를 '공급망 위험 기업'으로 지정하면서 그 회사가 군대를 위해 일하도록 강요할 수 있습니까?"라며 당혹감을 표했습니다.

좋은 질문입니다만, 그건 미 국방부의 관심사가 아닙니다. 그들이 신경 쓰는 건 앤트로픽이 타협하지 않을 경우 강압적인 조치를 취하거나, 아니면 워싱턴에서 고립되는 것입니다.

"증류 공격": 비난에 대한 일침

2월 23일, 앤트로픽은 중국의 AI 기업 세 곳이 클로드에 대해 "산업 수준의 정제 공격"을 가했다고 강하게 비난하는 블로그 게시물을 발표했습니다.

피고는 DeepSeek, Moonshot AI, 그리고 MiniMax입니다.

앤트로픽은 클로드와 1,600만 건 이상의 상호 작용을 시작하기 위해 24,000개의 가짜 계정을 사용했으며, 특히 에이전트 추론, 도구 호출 및 프로그래밍 분야에서 클로드의 핵심 기능을 표적으로 삼아 추출했다고 주장합니다.

앤스로픽은 이를 국가 안보 위협으로 규정하며, 정제된 모델은 "보안 장벽을 유지할 가능성이 낮다"며 권위주의 정부가 사이버 공격, 허위 정보 유포, 대규모 감시에 악용할 수 있다고 주장했습니다.

스토리도 완벽하고, 타이밍도 완벽하다.

이는 트럼프 행정부가 중국에 대한 반도체 수출 통제를 완화한 직후이자, 앤트로픽이 반도체 수출 통제에 대한 로비 활동에 활용할 명분을 찾아야 했던 시점에 나온 것입니다.

하지만 머스크는 "앤트로픽은 대규모로 훈련 데이터를 훔쳤고, 그 대가로 수십억 달러를 지불했다. 그건 사실이다."라고 반박했다.

AI 인프라 회사 IO.Net의 공동 창립자인 토리 그린은 "인터넷 전체의 데이터로 자체 모델을 학습시킨 다음, 다른 사람들이 공개 API를 사용하여 그로부터 학습하는 것을 '증류 공격'이라고 부르는 겁니까?"라고 말했습니다.

앤스로픽은 증류를 "공격"이라고 부르지만, 이는 AI 업계에서 흔히 사용되는 기법입니다. 오픈AI는 GPT-4 압축에, 구글은 제미니 최적화에, 심지어 앤스로픽 자체도 증류를 활용하고 있습니다. 다만 이번에는 앤스로픽이 증류의 대상이 된다는 점이 다를 뿐입니다.

싱가포르 난양공과대학교의 인공지능 교수인 에릭 캄브리아는 CNBC와의 인터뷰에서 "합법적인 사용과 악의적인 악용 사이의 경계가 모호한 경우가 많다"고 말했다.

아이러니하게도, 앤스로픽은 불법 복제 서적을 이용해 클로드 모델을 학습시킨 혐의로 15억 달러의 합의금을 지불했습니다. 인터넷 전체에서 수집한 데이터로 모델을 학습시킨 후, 다른 기업들이 자사의 공개 API를 이용해 학습한 것을 비난한 것입니다. 이는 단순한 이중잣대가 아니라 삼중잣대입니다.

앤트로픽은 피해자 행세를 하려 했지만, 결국 피고인임이 드러났다.

안전 의무 삭제: RSP 3.0

앤트로픽은 국방부와 대립하고 실리콘 밸리와 충돌한 바로 그날, 책임 있는 확장 정책의 세 번째 버전을 발표했습니다.

앤트로픽의 최고 과학 책임자인 재러드 카플란은 언론 인터뷰에서 "인공지능 모델 훈련을 중단하는 것은 누구에게도 도움이 되지 않는다고 생각합니다. 인공지능이 빠르게 발전하는 상황에서 경쟁사들이 전속력으로 움직이는 동안 일방적인 결정을 내리는 것은 무의미합니다."라고 밝혔습니다.

다시 말해, 다른 사람들이 무술 윤리를 지키지 않는다면 우리도 지키는 척하지 않을 겁니다.

RSP 1.0 및 2.0의 핵심에는 확고한 약속이 있습니다. 모델의 기능이 안전 조치의 적용 범위를 초과할 경우 학습이 일시 중단됩니다. 이러한 약속 덕분에 Anthropic은 AI 안전 분야에서 독보적인 명성을 얻었습니다.

하지만 해당 기능은 버전 3.0에서 제거되었습니다.

대신, Anthropic이 자체적으로 구현할 수 있는 보안 조치와 업계 전반의 협력이 필요한 보안 권장 사항을 구분하는 보다 "유연한" 프레임워크가 채택되었습니다. 위험 보고서는 3~6개월마다 발행되어 외부 전문가의 검토를 받게 됩니다.

아주 책임감 있어 보이네요?

비영리단체 METR의 독립 검토자인 크리스 페인터는 정책 초안을 검토한 후 다음과 같이 논평했습니다. "이는 앤트로픽이 위험 평가 및 완화 방법이 인공지능의 역량 증가 속도를 따라가지 못하고 있기 때문에 '긴급 대응 모드'로 전환해야 한다고 생각한다는 것을 보여줍니다. 이는 사회가 인공지능이 초래할 수 있는 잠재적으로 재앙적인 위험에 대비하지 못하고 있음을 더욱 분명히 드러냅니다."

타임지에 따르면, 앤트로픽은 내부적으로 거의 1년 동안 정책 개정 작업을 진행했으며, CEO 아모데이와 이사회는 만장일치로 이를 승인했습니다. 공식적인 설명은 기존 정책이 업계의 합의를 도출하기 위해 고안되었지만, 업계가 그 속도를 따라가지 못했다는 것입니다. 트럼프 행정부는 인공지능 개발에 대해 자유방임주의적 접근 방식을 취했고, 관련 주(州) 규정을 폐지하려는 시도까지 했습니다. 연방 차원의 AI 관련 법안 제정은 여전히 ​​요원한 전망입니다. 2023년까지 글로벌 거버넌스 프레임워크를 구축하는 것이 가능해 보였지만, 3년이 지난 지금, 그 가능성은 완전히 사라졌습니다.

AI 거버넌스를 오랫동안 추적해 온 한 익명의 연구원은 더욱 직설적으로 말했습니다. "RSP는 앤트로픽의 가장 가치 있는 브랜드 자산입니다. 학습 일시 중단 약속을 철회하는 것은 마치 유기농 식품 회사가 포장에서 '유기농'이라는 단어를 슬쩍 떼어낸 다음 테스트 과정이 더 투명해졌다고 말하는 것과 같습니다."

3,800억 달러 가치 평가 하에서의 정체성 단절

2월 초, 앤트로픽은 아마존을 주요 투자자로 하여 300억 달러 규모의 투자 유치를 완료했으며, 기업 가치는 3,800억 달러로 평가되었습니다. 설립 이후 연평균 140억 달러의 매출을 달성했으며, 지난 3년간 매년 10배 이상 성장했습니다.

한편, 미 국방부는 그를 블랙리스트에 올리겠다고 위협했다. 머스크는 공개적으로 그를 데이터 절도 혐의로 고발했다. 그의 핵심 보안 관련 직책은 해임되었다. 사임 후, 앤트로픽의 AI 보안 책임자인 므스리난크 샤르마는 X에 "세상이 위험에 처해 있다"라고 썼다.

모순?

어쩌면 모순은 인류 문명의 DNA에 내재되어 있는지도 모른다.

이 회사는 오픈아이얼(OpenAI)의 전 임원들이 오픈아이얼이 보안 문제에 너무 빠르게 대응한다고 우려하여 설립했습니다. 그들은 더 강력한 모델을 더 빠른 속도로 개발하는 동시에 이러한 모델의 위험성을 세상에 알리기 위해 자체 회사를 설립했습니다.

비즈니스 모델은 한 문장으로 요약할 수 있습니다. 우리는 누구보다 AI를 두려워하므로, 당신은 우리가 AI를 개발하는 데 비용을 지불해야 합니다.

이러한 스토리는 2023년에서 2024년 사이에 완벽하게 맞아떨어졌습니다. AI 보안은 워싱턴에서 뜨거운 화두였고, 앤트로픽은 가장 인기 있는 로비스트였습니다.

2026년, 바람의 방향이 바뀌었다.

'깨어있는 AI'는 공격의 해시태그가 되었고, 주 차원의 AI 규제 법안은 백악관에 의해 저지되었으며, 앤트로픽의 지원을 받은 캘리포니아 주 법안 SB 53은 통과되었지만, 연방 차원의 관련 법안은 전무한 실정입니다.

앤트로픽의 안전자산 전략은 "차별화 우위"에서 "정치적 부담"으로 전락하고 있다.

앤트로픽은 브랜드 이미지를 유지하기 위해 '안전'해야 하면서도 시장과 정부로부터 버림받지 않기 위해 '유연'해야 하는 복잡한 균형 잡기 싸움을 벌이고 있습니다. 문제는 양쪽 극단 모두에서 허용 범위가 점점 줄어들고 있다는 점입니다.

안보 담론은 여전히 ​​얼마나 가치가 있을까요?

이 세 가지를 함께 살펴보면 전체적인 그림이 명확해집니다.

중국 기업 클로드(Claude)의 증류 행위 혐의는 반도체 수출 통제를 강화하기 위한 로비 활동의 일환입니다. 안보 유예 조치는 군비 경쟁에서 뒤처지지 않기 위해 철회되었습니다. 국방부의 독립적인 무기 개발 요구를 거부하는 것은 마지막 남은 도덕적 명분을 지키려는 시도입니다.

각 단계마다 나름의 논리가 있지만, 서로 모순되기도 합니다.

중국 기업들이 당신의 모델을 "추출"하는 것이 국가 안보를 위협한다고 주장하면서 동시에 당신 자신의 모델이 통제 불능 상태로 치닫는 것을 막겠다는 약속을 철회하는 것은 모순입니다. 모델이 정말로 위험하다면, 공격적인 태도를 취할 것이 아니라 더욱 신중해야 합니다.

당신이 인류친화적 인간이 아닌 이상 말이죠.

AI 업계에서 정체성은 재무제표가 아니라 재무상태표로 정의됩니다. 앤트로픽의 "보안"이라는 담론은 본질적으로 브랜드 프리미엄입니다.

인공지능 군비 경쟁 초기 단계에서는 이러한 프리미엄이 가치가 있습니다. 투자자들은 "책임감 있는 인공지능"에 더 높은 가치를 지불할 의향이 있고, 정부는 "신뢰할 수 있는 인공지능"에 청신호를 켜줄 의향이 있으며, 소비자들은 "더 안전한 인공지능"에 기꺼이 비용을 지불할 의향이 있습니다.

하지만 2026년이 되면 이러한 프리미엄은 사라질 것입니다.

앤트로픽은 더 이상 "타협할지 말지"와 "누구와 먼저 타협할지" 사이에서 선택할 필요가 없습니다. 미 국방부와 타협하면 브랜드 이미지가 손상되고, 경쟁사와 타협하면 안보 약속이 훼손되며, 투자자와 타협하면 양쪽 모두에게 양보해야 합니다.

앤트로픽은 금요일 오후 5시 1분에 답변을 발표할 예정입니다.

하지만 답이 무엇이든 간에 한 가지는 확실합니다. 한때 "우리는 OpenAI와 다르다"는 전제를 내세웠던 Anthropic이 이제 다른 모든 기업과 마찬가지로 변모하고 있다는 것입니다.

정체성 위기의 종결은 종종 자신의 정체성이 사라지는 것으로 나타난다.