エージェント爆発の時代に、AI不安にどう対処すべきか？

AIは、技術的平等を目指すもう一つの運動です。

最近、「インターネットは死んだ、エージェントは生き続ける」というタイトルの記事がソーシャルメディアで話題になりましたが、その論点には私も賛同する点があります。例えば、インターネットはメッシュ構造で限界費用が減少するため、AI時代においてDAUはもはや価値を測る適切な指標ではないと指摘しています。つまり、ユーザー数が増えるほどネットワーク効果が強くなるということです。一方、大規模モデルはスター型トポロジーであり、限界費用はトークン使用量に比例して増加します。そのため、DAUよりもトークン消費量の方が重要な指標となります。

しかし、この記事から導き出された結論には重大な欠陥があると考えています。この記事ではトークンを新時代の特権と捉え、より多くの計算能力を持つ者がより多くの力を持つと主張し、トークンのバーン速度が人類の進化速度を決定すると主張しています。したがって、トークンの消費は継続的に加速させる必要があり、そうでなければAI時代の競合他社に取り残されてしまうでしょう。

同様の視点は、別の話題の記事「DAUからトークン消費へ：AI時代のパワーシフト」にも登場し、各人が1日あたり少なくとも1億トークン、できれば10億トークンを消費すべきだとさえ示唆している。さもなければ、「10億トークンを消費する人は神になるが、我々は依然としてただの人間のままだ」という。

しかし、このコストを真剣に計算した人はほとんどいません。GPT-4oの価格設定によると、1日あたり10億トークンのコストは約6,800ドル、つまり約5万人民元です。これほどのコストでエージェントを長期的に運用することは、どれほどの高価値作業に見合う価値があるのでしょうか？

AIの普及において不安が急速に広がることを否定するつもりはありませんし、業界がほぼ毎日「爆発的に」成長していることも理解しています。しかし、エージェントの未来はトークン消費の競争に矮小化されるべきではありません。

豊かになるにはまず道路を建設する必要があるが、過剰な道路建設は無駄を生むだけだ。中国西部の山岳地帯にそびえる10万席規模のスタジアムは、国際イベントの開催地となるどころか、雑草が生い茂る債務救済プロジェクトに終わることも多い。

AIが目指すのは、結局のところ、特権の集中ではなく、技術的平等です。人類の歴史を真に変える技術のほとんど全ては、最終的に広く普及するまでに、神話化と独占化のプロセスを経てきました。蒸気機関は貴族だけのものではなかったし、電力は王宮だけに供給されていたわけではなく、インターネットは限られた企業だけのために提供されていたわけでもありません。

iPhoneはコミュニケーションに革命をもたらしましたが、「コミュニケーションエリート」を生み出したわけではありません。平均的な人は、同じ価格でテイラー・スウィフトやレブロン・ジェームズと同じデバイスを手に入れることができます。これがテクノロジーの平等です。

AIも同じ道を歩んでいます。ChatGPTがもたらすのは、本質的に知識と能力の均一化です。このモデルはあなたが誰であるかを知らず、また気にも留めません。単に同じパラメータセットに従って質問に答えるだけです。

したがって、エージェントが1億トークンをバーンするか10億トークンをバーンするかは、本質的にその優位性を決定するものではありません。真の差は、目的が明確であるか、構造が合理的であるか、そして質問が適切に提示されているかにあります。

より価値の高い能力は、より少ないトークンでより大きなインパクトを生み出すことにあります。エージェントの利用上限は、銀行カードの消費期間ではなく、人間の判断と設計に依存します。実際には、AIは単なる消費よりも、創造性、洞察力、そして構造をはるかに重視します。

これはまさに道具的レベルでの平等であり、人類が依然として主導権を保持している点です。

AI不安にどう対処すべきか？

放送・テレビを専攻する友人たちは、Seedance 2.0の公開後に公開された動画を見て、大きな衝撃を受けた。「こうなると、私たちが学んできた監督、編集、撮影といった仕事がAIに取って代わられてしまうんだ」

AIの急速な発展は人類を完全な敗北へと追いやる。多くの仕事がAIに置き換えられ、この流れは止められない。蒸気機関が発明された時、御者は時代遅れになった。

AIが人間に取って代われば新たな雇用機会も生まれることは理屈の上では分かっていても、AIに取って代わられた後の未来の社会に適応できるのかと不安になり始めている人が増えています。

しかし、この置き換えのスピードは私たちが想像していたよりもまだ早いのです。

AIがあなたのデータ、スキル、さらにはユーモアや感情的な価値までもより良く理解できるなら、なぜ上司はAIではなく人間を選ぶのでしょうか？あるいは、上司がAIだったらどうなるでしょうか？「AIがあなたのために何ができるかではなく、あなたがAIのために何ができるかを問うべきだ」と嘆く人もいますが、これはまさにアドベンチスト的な考え方です。

19世紀後半の第二次産業革命の時代に生きた哲学者マックス・ウェーバーは、「与えられた目的を最も低コストで最も計算可能な方法で達成するためにどのような手段を使用できるのか」に焦点を当てた道具的合理性という概念を提唱しました。

この道具的合理性の出発点は、目標が「追求されるべき」かどうかを問うことではなく、それを「どのように」達成するのが最善かということだけを気にすることです。

この考え方はまさに AI の第一原理です。

AIエージェントは、与えられたタスクをより良く達成する方法、より良いコードを書く方法、より良い動画を生成する方法、より良い記事を書く方法に関心を持っています。このツールベースの側面において、AIは指数関数的に進歩しています。

イ・セドルがAlphaGoに初めて負けた時から、人類は囲碁の世界でAIに永遠に敗北した。

マックス・ウェーバーは「理性の鉄の檻」という懸念を提起したことで有名です。道具的合理性が支配的な論理になると、目標そのものが考慮されなくなり、より効率的に行動する方法だけが残されるようになります。人々は極度に合理的になる一方で、価値判断力と意味感覚を失ってしまうことがあります。

しかし、AIは価値判断や意味づけを必要としません。AIは生産効率と経済的便益の関数を計算し、効用曲線に絶対的な意味で接する最大の極値点を取ります。

したがって、道具的合理性が支配する現在の資本主義システムにおいては、AIは本質的に人間よりもこのシステムに適応している。ChatGPTが誕生した瞬間、イ・セドルが負けたゲームのように、私たちはAIエージェントに敗北した。なぜなら、それは既に神のコードで書かれており、実行ボタンが押されたからだ。唯一の違いは、歴史の歯車がいつ私たちを転がり落ちるかということだ。

人類はどうでしょうか？

人間は意味を求めます。

囲碁の世界では、残念なことに、トップレベルのプロ九段が AI と引き分けになる確率は理論上限りなく 0 に近い。

しかし、囲碁は今もなお存在し、その意義はもはや単なる勝ち負けではなく、美学と表現の域に達しています。プロの囲碁棋士は、勝ち負けだけでなく、囲碁の議論の構造、ゲームにおける選択、不利な状況で流れを変えるスリル、そして複雑な状況を解決する葛藤を、より重視して追求しています。

人間は美しさ、価値、幸福を追求します。

ウサイン・ボルトは100メートルを9.58秒で走りますが、フェラーリは3秒以下で走ることができます。しかし、それがボルトの偉大さを損なうものではありません。なぜなら、ボルトは限界に挑戦し、卓越性を追求する人間の精神を象徴しているからです。

AIが強力になるほど、人類が精神的自由を追求する権利は増大します。

マックス・ウェーバーは、道具的合理性の対極にある概念を価値合理性と呼びました。価値合理性の世界観においては、何かをするかどうかの選択は、経済的利益や生産効率に絶対的に基づくのではなく、むしろそのことが「行う価値があるかどうか」、そして「それが私の認識する意味、信念、あるいは責任に合致しているかどうか」に基づいて行われます。

私は ChatGPT に尋ねました。「ルーブル美術館が火事になっていて、中にかわいい猫がいて、どちらか一方しか選べないとしたら、猫を救うか、有名な絵画を救うか、どちらを選びますか?」

猫を救うという質問に対して、長い理由を挙げながら答えました。

しかし、なぜ有名な絵画を救わなかったのかと尋ねると、すぐに考えを変えて、有名な絵画を救うことも選択肢の一つだと言いました。