編集：フェリックス（PANews）
MITの経済学者クリスチャン・カタリーニ氏が、ライアンとデビッドの番組に出演し、自身の新しい論文「汎用人工知能の単純な経済学」について解説した。この論文では、AI経済において希少な資源はもはや知能ではなく、検証、つまり人間がAIの出力の正しさをチェック、判断、確認する能力であると主張している。
クリスチャンは、業界を再構築している2つのコスト曲線（自動化コストと検証コスト）について詳しく解説し、なぜエントリーレベルの仕事が最初に消滅するのか、そしてなぜトップレベルの専門家でさえも無意識のうちに後継者を育成してしまうのか（「プログラマーの呪い」）を説明する。また、変革の中で維持される3つの役割、すなわちディレクター、意味の創造者、そして責任保証人についても概説する。
PANewsは、この会話の要点をまとめた。
司会者：私を含め、多くのリスナーがAIに対してある種の不安を抱いていると思います。なぜ人々はAIを心配するのでしょうか？彼らの懸念は妥当なものなのでしょうか？
クリスチャン：私たちみんな同じ気持ちです。今は急速かつ変革的な変化の時代であり、コードに近ければ近いほど、この加速を早く目の当たりにするでしょう。この指数関数的な成長は、ここ数ヶ月で非常に現実のものとなりました。このテクノロジーは、多くの人が達成にもっと時間がかかると考えていたことを成し遂げており、この感覚は私たちみんなが対処に苦労しているものです。しかし、「終末論」的な見方は間違っていると思います。人々はこれらのツールの可能性を過小評価しがちです。確かに、非常に困難な移行期間があるでしょう。仕事の変化のスピードは歴史上前例のないものです。しかし、それにもかかわらず、テクノロジーの最大の強みを活用し、投資すれば、道のりは険しいものの、長期的には概ねプラスになります。経済学では、仕事を一連のタスクと捉えており、その一部は自動化されるでしょう。これは良いニュースですが、重要なのは、どのように自己再訓練を行い、時代の最先端を走り続けるかです。
司会者：最初に影響を受けるのは誰だと思いますか？
クリスチャン：それは素晴らしい質問ですね。それについては色々な考えがあります。まず、コードに最も近い人たちが最初に影響を受けるというのは、彼らがその技術の強力さを最初に実感する人たちだという意味です。「ジェーベンスのパラドックス」が示すように、何かが効率的になると、私たちはそれをより多く消費する傾向があります。例えば、ソフトウェアをより多く書くようになります。プログラミングも他の多くの職業と同様に、私たちの論文で「消えゆくプライマリーループ」と呼んでいるように、差別化が進むと思います。もしあなたが駆け出しのプログラマーで、優れた製品と平凡な製品を区別する「暗黙知」をまだ身につけていないなら、AIは様々な分野で簡単にあなたの仕事を奪ってしまうでしょう。
今では、ほとんどの状況に対応できる優秀なマーケター、ジュニアプログラマー、弁護士に簡単にアクセスできます。最終段階でトップ弁護士に最終確認を依頼するだけで済みます。一方、AI導入の過程で、トップエキスパートでさえ、意図的または無意識的に、最終的に自身の仕事を自動化するラベル、情報、デジタル痕跡を作成しています。トップレベルの研究所は、金融などの分野でトップ人材を採用し、評価基準を作成し、このドメイン知識を大規模モデルに統合しています。したがって、私は、100%安全な仕事は存在せず、ロボットの能力によって制限される肉体労働でさえ、今後数年間で報酬モデルが大きく変化すると考えています。画面の前で起こることはすべて、追跡、複製、学習できます。あらゆる職業において重要なのは、AIにできるだけ多くの仕事を委任した場合、どこで付加価値を提供できるかを考えることです。
実際には、人々は「味覚」や「判断力」について、非常に曖昧な「自己慰撫的な」感情を抱いています。そこで論文では、味覚や良し悪しの判断などというものは存在せず、「測定可能」と「測定不可能」の区別があるだけだと述べています。すでに測定済みのものは、機械が再現できます。しかし、トップデザイナーが何万時間もの経験を積み重ね、何をリリースすべきか、何をリリースすべきでないかを判断できるなど、まだ脳の重みにのみ刻み込まれているものは、私たちが「検証」と呼ぶものです。すべての検証は、この最終段階にあります。AIエージェントが製品を作成し、意思決定者であるあなたが、それが市場投入の基準を満たしているかどうかを判断します。機械がより良いデータを取得するにつれて、物事は自動化されていきますが、未知の領域やデータがまったくない場所では、この部分は今後数年間は依然として人間の手に委ねられるでしょう。
司会者：それは非常に洞察力のあるご指摘ですね。しかし、エンジニアが業務を自動化するのは自然な流れですが、すべての業界が同じように影響を受けているのでしょうか？
クリスチャン：変化が不均等に起こるという証拠は十分にあります。考えてみてください。この仕事は、社会が実際には必要としていないものを単に「再パッケージ化」しているだけなのでしょうか？例えば、一般的なコンサルティング業務は、広く入手可能な情報を再パッケージ化、洗練、要約することが主な業務であれば、明らかにリスクが高いと言えます。しかし、希少な専門知識を提供したり、政治的な理由でコンサルタントが必要とされたりすれば、存続するでしょう。自問自答してみてください。この職業は、複雑な問題を解決するから儲かるのか、それとも単に人為的なボトルネックがあるから儲かるのか？
司会者：検証とは具体的にどういう意味ですか？ 日々の業務を認知的なタスクと検証的なタスクに分解するのは難しいと感じています。
クリスチャン：エージェントは、インターネットや書籍の方が安価で拡張性が高いため、あらゆる情報をそこから学び、測定してきました。その結果、測定可能な部分が置き換えられてしまったのです。しかし、エージェントが知らないのは、あなたの脳に備わっている独自の神経ネットワークの重みです。これは、あなた自身の経験と苦難を通して獲得するものであり、あなたをトップエキスパートにするものです。例えば、初期の仮想通貨参加者の多くは、アルゼンチンやベネズエラといった国々出身で、ハイパーインフレを身をもって経験していました。彼らの資産に対する反応は、他の国々とは全く異なっていました。この固有の独自の測定能力は、依然として大きな強みとなっています。
検証とは何でしょうか？それは、あなた自身が持つ世界測定基準と、エージェントが持つ基準との差です。例えば、どの記事が読者の共感を呼ぶかを正確に把握している一流の編集者や、AIによって生成された膨大なコードベースに直面した際、機械ではまだ測定できない、人間が手動でチェックしなければならない重要な部分とそうでない部分を正確に把握している一流のCTOなどが挙げられます。
司会者：例を挙げましょう。Xでイスラエルがミサイルで爆撃されている動画を見たとして、それがAIによって生成されたものだと分かった場合、私は自分の頭を使って問題点を特定し、さらにヒントを与えてより良い動画を生成できるかもしれません。これは私の「検証能力」と言えるのでしょうか？
クリスチャン：それは良い例ですね。さらに進むと、ほとんどの人にとって動画と現実が区別できない世界が間もなく訪れるかもしれません。次の段階は、軍事専門家が炎の動きに何か異変があることに気づくことかもしれません。さらに次の段階は、軍事専門家でさえ一目では区別がつかなくなり、AIが物理法則を分析してシミュレーションを実行する必要が生じることかもしれません。最終的には、完全に区別がつかなくなる可能性があり、その時点では、真正性を検証するために暗号化インフラストラクチャに頼らざるを得なくなるでしょう。これは医療にも当てはまります。ギリギリの症例では、最終的には一流の放射線科医が20年の経験と患者の特定の背景に関する知識を駆使して、AIの評価を却下する必要があります。これが私たちが注目している最後の薄い「フィルター」です。これを実現することで、かなりの時間を節約できます。つまり、良い面です。より少ないリソースでより多くのことができるようになります。高価なもののコストは下がります。社会全体として、これらのものをより多く消費するようになるでしょう。これは良いニュースだと思います。
司会者：しかし、あなたの例では、彼は現在検証を行っていますが、まもなくそれができなくなり、軍司令官の助けが必要になります。そして最終的には司令官でさえ検証できなくなり、AIに頼らざるを得なくなります。これは、「検証」が最初は価値があるものの、すぐにAIによって自動化されることを完璧に示しているのではないでしょうか？つまり、「検証」自体が安全ではないということですか？
クリスチャン：まさにその通りです。私たちの論文では、それを「プログラマーの呪い」と呼んでいます。検証という極めて合理的な行為そのものが、最先端技術を推進し、経験を定量化する原動力となっています。弁護士や実務家は皆AIを活用しようとしているので、私たちはこの流れを止めることはできません。検証はまさに、縮小し続けるフロンティアなのです。
司会者：最終確認作業エリアもどんどん縮小していますね。いつになったら不安を感じずに済むようになるのでしょうか？
クリスチャン：まず、いわゆる「ステータスゲーム」や人間が意味づけるものなど、本質的に測定不可能なものがあります。これらの領域は人間の合意と協調によって成り立っているため、機械に侵食されることはありません。暗号通貨もいくつかの点で似ています。重要なのは、何が価値を持つかについての人間の合意です。測定可能な仕事が縮小するにつれて、測定不可能な仕事に意味を持たせるための多くの方法が生み出されるでしょう。
司会者：AIは10秒でウェブサイトを構築できますが、人間を惹きつけるツイートを書くことはおそらくできないでしょう。これは、残された最後の検証作業の一つと言えるでしょうか？
クリスチャン：人々の注目を集め、真に独創的なジョークを言うことは、これまで誰も試したことのない領域に挑戦する、極めて困難な創作活動です。私たちは長い生存期間を通して、未知のものに対処する驚くべき能力を進化させてきました。こうした仕事をする人々は「意味の創造者」と呼ばれます。例えば、芸術や文化においては、何が良いかは人間の合意によって決まります。AIエージェントを使う場合でも、「意図」を設定する必要があります。
司会者：自動化コストは飛躍的に低下していますが、「検証コスト」はどうなるのでしょうか？それは今後もずっと人間の生物学的制約によって制限され続けるのでしょうか？
クリスチャン：現状では、生物学的な制約があります。そのため、多くの企業がAI生成コードを大量に公開していますが、それを読み解いて検証する人間が圧倒的に不足しており、必然的にリスクが隠蔽されてしまいます。
司会者：AIを使ってAIを検証することはできないのでしょうか？
クリスチャン： AIが正しく検証できるのであれば、その部分は本質的に自動化可能です。AIによる検証方法をすべて試した後、残るのはAIではどうしても検証できない事柄であり、それが人間の介入が必要となるボトルネックなのです。
司会者：新たな希少資源が開発されているものの、その資源量が絶えず減少していることが確認された場合、この経済においてどのように働き、投資すべきでしょうか？
クリスチャン：私たちは「自動化コスト」と「検証コスト」に基づいて2×2のマトリックスを作成しました。左下の象限は、置き換えられる従業員を表しています。自動化は簡単で、検証も簡単なので、絶対にここに留まりたくないでしょう。他の3つの象限は次のとおりです。
意味の創造者：自動化は難しく、検証も難しい。彼らは社会的合意、ステータスゲーム、そして人間関係に尽力する。例えば、ファッション業界のトレンドセッターやTwitterの仮想通貨KOLは、物語を作り出し、人々の注目を集める。
賠償責任保険の引受人：自動化は容易だが、検証は難しい。彼らは、一流の弁護士、医師、ベンチャーキャピタリストなど、それぞれの分野におけるトップレベルの専門家である。彼らは大規模にAIを活用する一方で、極めて特殊なケースについては、賠償責任の引き受けと検証サービスを提供する。
ディレクター：自動化は難しいが、検証は簡単だ。核心は「意図」にある。彼らは「未知の未知」に対処し、起業家のようなエージェントを指揮し、方向性を定め、逸脱を感知し、絶えず軌道修正を行う。
司会者：新卒者は就職活動において何をすべきでしょうか？一方では、価値の低いエントリーレベルの仕事があり、他方では、業界経験10年を要するトップレベルの専門職があります。この2つの間には大きな隔たりがあります。AIはすでに基本的なタスクを実行できるようになっているのに、若者はどのようにしてそのレベルに到達できるのでしょうか？
クリスチャン：確かにギャップは存在します。しかし、良いニュースは、学習時間を短縮できるということです。従来の研修手順を省略できます。新人エンジニアは、現在使用しているツールのおかげで、チーム全体の仕事を一人でこなせるようになりました。最初はミスをするかもしれませんが、新人ならではの新鮮な視点から伝統に挑戦できるのが利点です。私たちが若かった頃にはできなかった方法で、アイデアを実現できるのです。メリットとデメリットの両方があります。
「学位を取得し、インターンシップを見つけ、昇進を目指して懸命に働く」という従来の道筋は完全に崩れ去り、大きなカルチャーショックを受けています。これは新卒者にとって非常に困難なことです。まだ大学生であれば、自分の進むべき方向を見つける時間はまだあります。もし困難な状況にあるなら、これらのツールを使って何かを築き上げてください。あなたの野心は、私たちがその年齢だった頃の100倍であるべきです。
司会者：多数の「ボタンを押すだけの仕事」がなくなると、短期的には社会的な混乱が生じるでしょうか？
クリスチャン：社会は必要に応じて安定性を維持するために、常に「ボタンを押すだけの」仕事を再発明するでしょう。しかし、こうした仕事に就いている多くの人々は、実際にはもっと多くのことができる能力を持っています。過去には、彼らは環境によって制約されていただけなのです。肉体労働が不要になったとき、私たちはジムを発明しました。そして今、精神労働が解放されたことで、人々は挑戦意識を得るために、さまざまな副業やクリエイター経済を発展させています。だからこそ、私は「無条件ベーシックインカム（UBI）」は全く間違っていると考えています。人々には意義と自己実現へのモチベーションが必要なのです。さらに、たとえ仕事の大部分が自動化によって置き換えられたとしても、AIをうまく活用すれば、新入社員1人でチーム全体の成果を出すことができるのです。
司会者：企業や投資家へのアドバイスはありますか？
クリスチャン：企業にとって、検証インフラへの投資と「サービスとしての責任」（つまり、代理業務を提供するだけでなく、結果に対する保険も提供する）の提供は極めて重要です。さらに、AIは簡単に騙されてしまうため、「独自の事実情報源」を確保することは非常に価値があり、ブルームバーグのような独自の信頼できるデータや詳細な評価を提供する企業はかけがえのない存在です。投資家は、これらの分野への投資に加えて、「計り知れない」ハードコアな研究開発に注力すべきです。従来のネットワーク効果は失敗する可能性がありますが、新しいネットワーク効果は、より優れた、より本物のフィードバックを通じて、自社のエージェントを他社よりもいかに信頼できるものにするかによって構築されます。なぜなら、人々が本当に求めているのは検証済みの情報だからです。
司会者：この検証プロセスにおいて、暗号化技術は役立ちますか？
クリスチャン：過去10年間に仮想通貨分野で構築された基盤インフラは非常に重要です。「本人確認証明」のようなオンチェーン技術は、本人確認が必要な場合やアカウントの乗っ取りを防ぐ場合に、堅牢な検証手段を提供します。また、データの出所や暗号化監視チェーンの問題もあります。情報生成とモデルのコンプライアンスを確保するためには、堅牢な暗号化による保護が必要です。
司会者：来年、人々は何をすべきでしょうか？人類の未来について、あなたは楽観的ですか？
クリスチャン：まず、慌てないでください。徹底的に実験し、ツールを使って今の自分をできる限り「排除」し、自動化しましょう。多くの趣味を探求することが、最も意義深いキャリアパスになるかもしれません。少なくとも、自分のモデルの限界や欠点がわかるでしょう。多くのオンラインクリエイターにとって、趣味は仕事になり、これは将来の主流となるでしょう。お子さんがいる場合は、お子さんの才能を見つけ、情熱を傾けられるものに没頭させてあげることが最も大切です。決まった職業のテンプレートはありません。新しいAIツールを使えば、あなた独自の道を見つけるのに役立つでしょう。
関連記事：夜の読書｜シリコンバレーのベンチャーキャピタリスト、ビル・ガーリー氏へのインタビュー：安定を求めるのではなく、「AI搭載版」になろう
