저자: 数字生命卡兹克

최근 AI 업계에서 가장 뜨겁고, 가장 많이 논의되는 일을 꼽자면, 단연 '젠슨 황', 'Anthropic', 'Kimi', '오픈소스'라는, 겉보기에는 전혀 어울릴 것 같지 않은 네 단어가 함께 엮어낸 이야기일 것이다. 이야기는 이렇다. 며칠 전, 7월 24일, 젠슨 황이 X에 자신의 첫 게시물을 올렸다.

AI 업계에서 아마 가장 뜨거운 이 남자는, 이 공개 서한을 올리기 위해 기꺼이 X 계정까지 만들었다. 이 편지의 제목은 《Open Weights and American AI Leadership》, 즉 공개 가중치와 미국의 AI 리더십이다.

대략적인 내용은, AI가 모든 산업을 바꾸고, 모든 기업을 움직이며, 모든 국가에 의해 구축될 것이라는 것이다. 개방형 모델은 보안을 강화하고, 혁신을 가속하며, 기술 주권을 가져올 수 있다. 이 세상에는 최첨단 폐쇄형 모델도 필요하고, 최첨단 개방형 모델도 필요하다. 우리가 오픈소스 모델을 제재해서는 안 된다는 것이다.
젠슨 황이 이렇게까지 마음을 쓴 데에는 전제 상황이 있다. 시간을 11일 전으로 되돌려 보자. 그날 하나의 상징적인 사건이 터졌다. 7월 17일 새벽, Kimi K3가 정식 출시된 것이다.

총 파라미터 2조 8천억 개, 활성 파라미터 1040억 개, 네이티브 비전 능력, 100만 토큰 컨텍스트.

가장 중요한 점은, 당시 Kimi가 7월 27일(즉, 어젯밤)에 모델 가중치를 정식으로 오픈소스 공개하겠다고 약속했다는 것이다.

이것이 바로 전 세계 최초의 오픈소스 3T급 모델이다. 컴퓨팅 파워가 결코 넉넉하지 않은 상황에서, 한 중국 팀이 글로벌 최강의 폐쇄형 모델에 근접한 성능을 내는 물건을 만들어 냈을 뿐만 아니라, 그 가중치를 전 세계에 내놓으려 한 것이다.

이로 인해 갑자기 미국 쪽 분위기가 심상치 않게 돌아갔다.
7월 22일, 미국 백악관 과학기술정책실 책임자인 마이클 크라치오스(Michael Kratsios)가 공개적으로 '달의 어두운 면(月之暗面)'을 비난하며, Kimi K3의 개발에 Claude Fable 5에 대한 대규모 증류(distillation)가 사용되었다고 주장했다.

하지만 흥미로운 건 댓글이다. 대중의 목소리를 한번 살펴보자.

그러고 나서, 미국 재무장관이 기어이 불난 집에 기름을 끼얹으며 무역 블랙리스트와 제재를 또 거론했다.

댓글창은 이제 완전히 난리가 났다.

이 일이 점점 더 커지면서, 본디 모델 성능과 오픈소스 노선을 둘러싼 경쟁이, 순식간에 지식재산권, 국가 안보, 수출 통제, 미중 기술 경쟁 속으로 빨려 들어가는 모양새가 되었다. 바로 이 시점에, 젠슨 황이 나섰다.

그는 인터뷰를 통해 중국 오픈소스 모델을 차단하는 것을 공개적으로 반대했다.

이틀 후, 그는 인생 첫 X 게시물을 올리며, 공개 서한을 통해 워싱턴에 말했다. 개방형 모델은 미국의 혁신, 경쟁, 안보, 기술 주권과 직결되는 문제이니, 차단할 수도, 제재할 수도 없으며, 우리가 오픈소스를 장려해야 한다고.

솔직히, 젠슨 황이 GPU를 팔기 위해 정말 마음을 다 쓴다는 느낌이다.
그러더니, 맨 아래에는 아주 긴 로고 벽이 붙여졌고, 업계 전체가 줄을 서서 공개 서한에 서명하기 시작했다. 공개 서한이 막 발표되었을 때만 해도 서명한 곳은 25개 기업과 단체였다.

엔비디아, 마이크로소프트, 메타, IBM, 델, Palantir, Mistral, Hugging Face 등등.

주말이 되자, 명단이 미친 듯이 길어졌다.

OpenAI도 왔고, Google도 왔고, SpaceX도 왔으며, AMD, Cisco, Cloudflare, GitHub, Linux Foundation, Mozilla, Vercel, Y Combinator, OpenClaw 등도 모두 동참했다.

이 글을 쓰는 현재, 서명자는 무려 77곳에 달한다.

또한 수많은 거물들이 열광적으로 지지를 보내며 힘을 실어주고 있다.

이렇게 한데 뭉쳐 함께 봉기하고 같은 적에게 분개하는 모습은 정말 오랜만에 보는 광경이다.
하지만 눈치 빠른 친구라면 눈치챘을 것이다. 위 로고 벽에는 미국의 거의 모든 주요 첨단 기술 기업들이 집결해 있고, 심지어 엔비디아와 AMD조차 세기의 동반 등장을 했는데, 웬일인지 익숙한 이름 하나가 빠져 있다는 사실을. 바로 Anthropic이다.
내 생각에 이 세계적인 명화는 제목을 《도대체 Anthropic은 어디에?》로 바꿔야 할 것 같다.
심지어 한 누리꾼이 직접 패러디 영상을 만들어서 내가 배꼽을 잡게 만들었는데, 꼭 보여드려야겠다. ✓ 팔로우함

그런데 Anthropic이 죽은 척 시치미를 떼고, 미국 거대 기술 기업들이 손잡고 트위터에 상소를 올리는 이때, 이번 사건의 도화선이 된 Kimi K3가 어젯밤, 즉 7월 27일 밤 23시 13분에 공식적으로 오픈소스화를 발표했다.

게다가 이 오픈소스 수준은 내 예상을 크게 뛰어넘었다. 원래 나는 모델 가중치만 오픈소스할 거라고 생각했었다.

그런데.

모델 가중치, 오픈소스.

상세한 기술 보고서도 함께 공개되었다.

K3 훈련에 사용된 핵심 인프라(Infra)도 오픈소스로 공개.

전부 다 공개…

대략 나열해 보겠다.

Kimi K3 모델 가중치, 2조 8천억 개 파라미터의 MoE 모델로, 총 896개의 전문가(Expert)가 있으며, 각 토큰마다 그중 16개를 활성화한다.

그다음은 K3의 완전한 기술 보고서, 총 47페이지 분량이다.

여기에는 KDA와 Attention Residuals의 아키텍처 세부 사항이 공개되어 있으며, KDA와 Gated MLA를 3:1 비율로 혼합하는 방법, 정보가 수십 개의 레이어를 넘어 계속 흐르도록 하는 방법 등을 설명하고 있다.

또한 Stable LatentMoE도 있다.

896개의 전문가 중 16개만 활성화되어 희소성이 어처구니없을 정도로 높은데, Kimi는 SiTU GLU, Quantile Balancing 등 일련의 방법을 사용해 이 극단적인 희소 훈련을 안정적인 상태로 유지했다.

MoonViT V2, 100만 토큰 컨텍스트를 위한 강화학습 인프라, 대규모 작업 합성, 후처리 훈련 방법, 그리고 거의 20개에 달하는 내부 평가 세트에 대한 완전한 결과도 함께 공개되었다.

이 기술 보고서는 매우 상세하고 충실하므로, 한 번 읽어보길 권한다.

기술 보고서 외에도, 핵심 인프라 기술도 오픈소스로 공개되었다.

MoonEP, 초대규모 MoE를 위해 특별히 구축된 전문가 병렬 통신 라이브러리이다.

MoE 훈련 시, 어떤 전문가는 바빠 죽을 지경이고 어떤 전문가는 발가락이나 파며 놀기 일쑤며, 결국 모든 GPU가 가장 바쁜 카드 하나를 기다리게 됩니다.

MoonEP는 현재 라우팅 결과에 따라 소수의 인기 전문가를 동적으로 복제하여, 각 카드가 정확히 동일한 수의 토큰을 받도록 합니다. 이와 동시에 정적 메모리 형태를 유지하여 훈련이 점점 파편화되고 최종적으로 OOM이 발생하는 것을 방지합니다.

이는 이미 초대형 모델 훈련에서 매우 저수준이면서도 매우 가치 있는 기술에 속합니다.

FlashKDA, Kimi Delta Attention의 고성능 연산자입니다. 이것은 CUTLASS으로 구현되었으며, NVIDIA H20에서 flash linear attention 기준선 대비 prefill 속도가 1.85배에서 2.31배 향상되었고, 기존 flash linear attention 백엔드에 바로 연결할 수도 있습니다.

더 아래로 내려가면 AgentENV도 있습니다.

이것은 Kimi와 KVCache.ai가 함께 만든 분산형 Agent 샌드박스 시스템으로, K3가 대규모 Agent 강화 학습을 수행할 때 실제로 환경을 구동하는 기반 계층입니다.

이는 여러 머신에서 동시에 방대한 수의 Firecracker 마이크로 VM을 시작할 수 있으며, 환경 복구는 50밀리초 미만, 일시 정지는 100밀리초 미만입니다. 또한 스냅샷, 복구 및 포크를 네이티브로 지원합니다.

하나의 Agent가 어떤 중요한 노드에 도달하면, 곧바로 수십 개의 서로 간섭하지 않는 궤적으로 분기하여 병렬 탐색을 계속할 수 있습니다.

비록 제가 저수준 기술에 대해 잘 알지 못하고 탁상공론에 불과한 얄팍한 지식만 가지고 있지만, 이 몇 가지 기술만으로도 이미 '정말 좋다'는 느낌을 받을 수 있다고 생각합니다.

정말로 밑천까지 다 털어놓은 것이죠.

MoonEP는 초대형 MoE 모델의 통신과 부하를 해결합니다.

FlashKDA는 새로운 어텐션 아키텍처의 연산자 효율을 해결합니다.

AgentENV는 Agent 강화 학습에 필요한 방대한 실제 환경을 해결합니다.

오픈소스 커뮤니티가 날아오를 것입니다.

이제 저는 기꺼이 Kimi와 DeepSeek를 '오픈소스 이성(二聖)'이라고 부르고 싶습니다.

저도 이번 Kimi K3의 라이선스를 읽어보았습니다.

일반 연구자, 개발자 및 회사는 무료로 사용, 복제, 수정, 배포, 파인튜닝, 배포할 수 있으며, 파생 제품 제작 및 상업화도 가능합니다.

초대형 상업적 사용에 대해서만 두 가지 장벽을 설정해 두었습니다.

만약 모델 서비스 비즈니스를 하는 경우, 회사 및 관계사의 연속 12개월 총 수익이 2,000만 달러를 초과하면 별도로 Moonshot AI와 계약을 체결해야 합니다.

만약 K3를 사용하는 상업 제품의 월간 활성 사용자 수가 1억을 초과하거나, 월 수익이 2,000만 달러를 초과하면 제품 인터페이스에 Kimi K3를 눈에 띄게 표시해야 합니다.

맞아요, 그냥 Kimi K3를 눈에 띄게 표시하기만 하면 됩니다.

보살이 따로 없군요...

벌써 어떤 사람들은, 만약 Kimi K3가 자신에게 월 2,000만 달러의 수익을 안겨줄 수 있다면, Kimi K3의 브랜드 로고를 눈에 띄게 표시하는 것은 차치하고,

자신의 엉덩이에 Kimi 로고를 문신할 수도 있고, 심지어 두 개나 새길 수도 있다고 말했습니다.

오늘 밤, Kimi K3의 오픈소스와 함께, 모든 사건이 최종적인 절정으로 치닫고 여론은 대체로 한쪽으로 기우는 느낌입니다.

또한 Hugging Face에서 역사를 새로 썼습니다.

이 순간, 미국의 태도와 Kimi K3 오픈소스는 묘한 화학 반응을 일으켰습니다.

미래에, 이 사건은 아마도 역사적으로 이렇게 불릴 가능성이 있습니다:

AI 업계의 사라예보 사건.

이 세상에는 오픈소스가 필요합니다.

젠슨 황을 비롯한 분들이 오픈소스를 포용하는 데는, 물론 이상 외에도 많은 돈 냄새가 담겨 있습니다.

2002년, Joel Spolsky는 'Commoditize Your Complements'(당신의 보완재를 상품화하라)라는 아주 고전적인 비즈니스 법칙을 썼습니다. 어떤 것의 보완재가 저렴해질수록, 그 물건에 대한 사람들의 수요는 더 커진다는 것입니다.

NVIDIA는 GPU를 판매합니다.

오픈소스 모델이 많을수록, 전 세계적으로 더 많은 회사들이 자체 배포, 자체 파인튜닝, 자체 훈련을 원하게 되고, 결국 더 많은 GPU가 필요하게 됩니다.

AMD, Dell, 클라우드 컴퓨팅 회사, 추론 서비스 제공업체의 논리도 비슷합니다.

GitHub, Vercel, Replit, LangChain, OpenClaw 같은 개발 도구 및 애플리케이션 플랫폼도 본질적으로 저수준 모델이 점점 더 많아지고, 더 저렴해지고, 더 쉽게 교체되기를 바랍니다.

왜냐하면 모델 비용이 1위안 떨어질 때마다, 애플리케이션 계층에는 1위안 만큼의 여유 공간이 생기기 때문입니다.

젠슨 황이 오픈소스를 굳게 믿는 것과 그가 오픈소스 모델의 최대 수혜자 중 한 명이라는 사실, 이 두 가지는 충돌하지 않습니다. 하지만 저도 오픈소스를 굳게 믿고 포용합니다. 그 이유는 아주 간단합니다. 왜냐하면 저는 평범한 사람이기 때문입니다. 평생 동안 저는 아마도 K3 같은 모델을 훈련시킬 여력이 없을 것입니다. 저는 수만 장의 카드를 가지고 있지 않고, 아무것도 잘 모르며, 기술 보고서의 공식조차 AI의 도움을 받아 겨우겨우 조금 이해할 수 있을 뿐입니다. 하지만 그렇다고 해서 오늘날, 무수한 선배들이 오픈소스로 공개한 작업, 프레임워크, 그리고 모델 위에 올라서서 제 자신의 작품을 창작하는 데 지장이 있는 것은 아닙니다. 평범한 사람이 매번 기술 혁명에 참여할 수 있는 것은, 실은 앞선 선배들이 종착점을 남겨주어 후발주자들의 출발점으로 삼게 해주었기 때문입니다. 우리가 갑자기 천재가 된 것이 아닙니다.

우리는 그저, 처음부터 다시 걸어갈 필요가 없게 된 것입니다.

오픈소스의 진정한 강력한 힘은 바로 여기에 있습니다.

한 팀이 막대한 컴퓨팅 파워를 소모하고, 수많은 대가들이 오랜 시간 고생하여 얻은 결과물이, 일단 공개되는 순간, 다음 날이면 전 세계 무수한 평범한 사람들의 공공 출발점이 됩니다.

저는 이것이 바로 문명의 복리라고 생각합니다.

마지막으로, 인류 세계, 오픈소스 세계, AI 세계를 위해 헌신하신 모든 대가분들께.

저의 가장 숭고한 경의를 표합니다.

감사합니다.