作者:数字生命卡兹克
最近のAI業界で最も熱く、最も議論されていることは何かと言えば、それはまさに、老黄(ジェンスン・フアン)、Anthropic、Kimi、オープンソースという、一見まったく結びつかない4つのキーワードが絡み合って紡ぎ出す物語だ。その物語は次のようなものだ。数日前の7月24日、ジェンスン・フアンは自身初となるX(旧Twitter)への投稿を行った。
このAI界でおそらく最も注目を浴びる男は、この公開書簡を投稿するためだけに、わざわざXのアカウントを取得した。書簡のタイトルは『Open Weights and American AI Leadership』、つまり「オープンウエイトとアメリカのAIリーダーシップ」だ。
内容の大意は、AIはあらゆる産業を変革し、あらゆる企業を駆動し、そしてすべての国によって構築されるだろう、というものだ。オープンモデルは安全性を強化し、イノベーションを加速し、技術主権をもたらすことができる。この世界には最先端のクローズドモデルも、最先端のオープンモデルも必要だ。オープンモデルを制裁してはならない、と。老黄がこれほどまでに心を砕いたのには、もちろん伏線があった。時計の針を11日前に戻そう。その日、象徴的な出来事が起きた。7月17日未明、Kimi K3が正式にリリースされたのだ。
総パラメータ2.8兆、アクティブパラメータ1040億、ネイティブの視覚能力、100万トークンのコンテキスト長。
そして最も重要なのは、Kimiがその時点で、モデルの重みを7月27日(つまり昨夜)に正式にオープンソース化すると約束したことだ。
これは、世界初の3T(3兆)クラスのオープンモデルだ。計算リソースが決して潤沢とは言えない状況下で、中国のチームが、世界最強のクローズドモデルに迫る性能のものを作り上げ、その重みを全世界に提供しようというのだ。
これを受けて、アメリカ側の空気が一変した。7月22日、米国ホワイトハウス科学技術政策局の責任者であるマイケル・クラツィオスが、月の裏側(Moonshot AI)を公然と非難し、Kimi K3の開発にはClaude Fable 5からの大規模な蒸留が用いられたと主張した。
しかし興味深いのは、そのコメント欄だ。皆の声を見てほしい。
そこに、よりにもよって米国財務長官が火に油を注ぎ、貿易ブラックリストと制裁に言及した。
コメント欄はこれで完全に炎上した。
この騒動はますます大きくなり、当初はモデルの能力とオープンソース路線をめぐる競争だったものが、あっという間に知的所有権、国家安全保障、輸出規制、そして米中テクノロジー競争の渦中に引きずり込まれた。そして、まさにこのタイミングで、ジェンスン・フアンが立ち上がったのだ。
彼はインタビューに応じ、中国のオープンソースモデルを封じ込めることに公然と反対した。
その2日後、彼は自身初となるXへの投稿を行い、公開書簡によってワシントンに対し、オープンモデルは米国のイノベーション、競争、安全、技術主権に関わるものであり、封鎖も制裁もすべきではない、我々はオープンソースを奨励しなければならないと訴えた。
理屈はともかく、老黄がGPUを売るために本当に心を砕いているのがわかる。そして書簡の最下部には、長いロゴの一覧が掲載され、テクノロジー業界全体がこの公開書簡に署名するために列をなした。公開書簡が発表された当初、署名した企業・組織は25社だった。
NVIDIA、Microsoft、Meta、IBM、Dell、Palantir、Mistral、Hugging Faceなどなど。
週末になるにつれて、そのリストは猛烈な勢いで長くなっていった。
OpenAIが加わり、Googleが加わり、SpaceXが加わり、AMD、Cisco、Cloudflare、GitHub、Linux Foundation、Mozilla、Vercel、Y Combinator、OpenClawなども、すべて名を連ねた。
この記事を書いている時点で、署名者はすでに77者に達している。
また、無数の大物たちが熱烈な支持を表明した。
これほどまでに多くの勢力が集結し、一斉蜂起し、同仇敵愾の念を抱く光景は、本当に久しく見ていなかった。しかし、注意深い読者なら気づくだろう。上のロゴの壁には、アメリカの主要な最先端テクノロジー企業がほぼ集結しており、NVIDIAとAMDでさえ世紀の共演を果たしているのに、なぜか、あるお馴染みの名前だけが欠けていることに。Anthropicだ。この世界の名画は『Anthropicはどこ?』と改名すべきだと思う。ネットユーザーが直接パロディ動画を作ってしまうほどで、笑いが止まらなかったので、ぜひ皆さんにも見せなければ。 フォロー済み
Anthropicが死んだふりを決め込み、アメリカのテクノロジー大手たちがSNS上で連名による直訴を決行する中。今回の騒動の導火線となったKimiは、昨夜、つまり7月27日23時13分、Kimi K3のオープンソース化を正式に発表した。
しかもそのオープンソースの度合いは、私の予想をはるかに超えるものだった。モデルの重みだけが公開されると思っていたのだ。
結果はこうだ。
モデルの重み、オープンソース化。
詳細な技術レポートも公開。
K3のトレーニングに使用された主要な基盤技術も、オープンソース化。
全部、開けっ広げにしたのだ…。
ざっとまとめてみよう。
Kimi K3モデルの重み。2.8兆パラメータのMoEモデルで、合計896のエキスパートを持ち、トークンごとに16のエキスパートを活性化する。
そしてK3の全技術レポート、全47ページ。
この中では、KDAとAttention Residualsのアーキテクチャの詳細が公開され、KDAとGated MLAを3対1の比率で混合し、どのように情報を数十層にわたって流し続けるのかが説明されている。
さらにStable LatentMoE。
896のエキスパートのうち16だけを活性化するという、極めてスパース性の高い状態において、KimiはSiTU GLU、Quantile Balancingをはじめとする一連の手法を用い、この極度のスパース状態でのトレーニングを安定的に維持した。
また、MoonViT V2、100万トークンのコンテキストに対応する強化学習の基盤、大規模なタスク合成、ポストトレーニング手法、そして20近い内部評価ベンチマークでの完全な結果も公開された。
この技術レポートは非常に詳細かつ堅実な内容なので、一読を勧める。
技術レポート以外にも、重要な基盤技術がオープンソース化されている。
MoonEPは、超大規模MoEのために専用設計されたエキスパート並列通信ライブラリだ。
MoE訓練時、一部のエキスパートが忙殺されている一方で、暇を持て余しているエキスパートがよく発生し、最終的に全GPUが最も混み合ったカードを待たなければならなくなる。
MoonEPは現在のルーティング結果に基づいて、人気の高い少数のエキスパートを動的に複製し、すべてのカードが完全に同じToken数を受け取るようにすると同時に、静的なメモリ形状を維持する。これにより、トレーニングが進むにつれて断片化が進み、最終的にOOMに陥るのを防ぐ。
これは超大規模モデルのトレーニングにおける、非常に低レイヤーで極めて価値の高い技術だ。
FlashKDA、Kimi Delta Attentionの高性能オペレーター。これはCUTLASSで実装されており、NVIDIA H20上では、flash linear attentionベースラインと比較してprefill速度が1.85倍から2.31倍向上し、既存のflash linear attentionバックエンドに直接接続できる。
さらにその下には、AgentENVがある。
これはKimiとKVCache.aiが共同で構築した分散型Agentサンドボックスシステムであり、K3が大規模なAgent強化学習を行う際に実際に環境を動作させる基盤レイヤーだ。
多数のマシン上で大量のFirecrackerマイクロVMを同時に起動でき、環境の復元は50ミリ秒未満、一時停止は100ミリ秒未満で、スナップショット、リストア、フォークにネイティブ対応している。
あるAgentが重要なノードに到達すると、互いに干渉しない数十の軌跡に直接フォークし、並行して探索を続けることができる。
私自身、基盤技術にそれほど詳しいわけではなく、机上の浅はかな知識でしかないが、これらの技術を見ると「本当にたまらない」と実感している。
まさに奥の手をすべてさらけ出した。
MoonEPは超大規模MoEモデルの通信と負荷を解決する。
FlashKDAは新しいアテンションアーキテクチャのオペレーター効率を解決する。
AgentENVは、Agent強化学習に不可欠な、膨大なリアル環境を解決する。
オープンソースコミュニティはこれから飛躍するだろう。
今や、私はKimiとDeepSeekを「オープンソースの二大聖人」と並び称えたい。
Kimi K3のライセンスも読んでみた。
一般の研究者、開発者、企業は、無料で使用、複製、改変、展開、ファインチューニング、配布でき、派生製品や商用化も可能だ。
超大規模な商用利用に対してのみ、二つのハードルが設けられている。
モデルサービス事業を営み、企業およびその関連会社の連続12ヶ月間の総収入が2000万米ドルを超える場合、別途月之暗面(Moonshot AI)との契約が必要となる。
K3を使用した商用プロダクトの月間アクティブユーザーが1億を超えるか、単月の収入が2000万米ドルを超える場合、プロダクトのインターフェースにKimi K3を目立つ形で表示しなければならない。
そう、「Kimi K3を目立つ形で表示」すればいいだけなのだ。
まるで菩薩のようだ…。
「Kimi K3を使って月2000万ドル稼げるなら、ブランドロゴを目立つ形で表示するどころか、お尻にKimiのロゴのタトゥーを入れてもいい、二つ入れても構わない」と、すでに言っている人もいる。
今夜、Kimi K3のオープンソース化とともに、事態は最終局面を迎え、世論はほぼ一方に傾いた。大きな化学反応が起きている。そしてHugging Faceで歴史を刻んだ。
この瞬間、米国の姿勢とKimi K3のオープンソース化が、不思議な化学反応を起こした。
後世、この出来事はこう史称されるかもしれない。
AI業界のサラエボ事件である。
この世界には、オープンソースが必要だ。
老黄(ジェンスン・ファン)たちがオープンソースを擁護するのは、もちろん理想もあるが、そこには大いにお金の匂いも漂っている。
2002年、Joel Spolskyは「Commoditize Your Complements(補完財をコモディティ化せよ)」という非常に古典的なビジネスの法則を書いた。ある製品の補完財が安くなればなるほど、その製品への需要は大きくなる。
NVIDIAはGPUを販売している。
オープンソースモデルが増えれば増えるほど、世界中のより多くの企業が自社でデプロイ、ファインチューニング、トレーニングを行いたいと考え、最終的に必要とされるGPUも増える。
AMD、Dell、クラウドコンピューティング企業、推論サービスプロバイダーも、ほぼ同じ論理だ。
GitHub、Vercel、Replit、LangChain、OpenClawといった開発ツールやアプリケーションプラットフォームも、本質的に、基盤モデルがますます増え、安価になり、容易に切り替え可能になることを望んでいる。
モデルのコストが1元下がるごとに、アプリケーション層の余地が1元分広がるからだ。
老黄が揺るぎなくオープンソースを信じていることと、老黄がオープンソースモデルの最大の受益者の一人であること、この二つは矛盾しない。しかし私は、揺るぎなくオープンソースを信じ、またそれを擁護する。理由はきわめてシンプルで、私が普通人だからだ。生涯をかけても、私はおそらくK3のようなモデルをトレーニングできない。数万枚ものカードも持っていなければ、何も理解していない。技術レポートの数式も、AIの助けを借りてようやく少しだけ理解できる程度だ。それでも、今日、私は数え切れない先人たちがオープンソース化してきた成果やフレームワーク、モデルの上に立ち、自分自身の作品を創り出すことができる。普通の人々があらゆる技術革命に参加できるのは、まさに先人たちが、自らの到達点を後に続く人々の出発点として残すことを厭わなかったからだ。私たちが突然、天才になったわけではない。
ただ、もはやゼロからやり直さなくてよくなっただけだ。
オープンソースの本当にすごい力はここにある。あるチームが巨大な計算リソースを費やし、数多の達人たちが長い時間をかけてようやく得たものが、いったん公開されれば、次の日には世界中の無数の普通の人々にとっての共通の出発点となる。これこそが、文明の複利だと思う。
最後に、人類の世界、オープンソースの世界、AIの世界に貢献してきたすべての偉大なる先人たちに。
心からの敬意を捧げる。
ありがとう。



