作者：数字生命卡兹克

今日未明、Anthropicが発表した研究を目にした。

タイトルは『A Global Workspace in Language Models』、言語モデルにおけるグローバルワークスペース。

率直に言って、このタイトルはかなり理解しづらい。しかし信じてほしい、この研究は、モデルと人間と意識の三者関係、そしてAGIについて、あなたの見方を一新させるだろう。

もっとも簡単な言葉で言うなら、それは、AnthropicはClaudeの脳内に、暗い部屋を見つけた ということだ。

この部屋で起きていることを、Claudeは決して書き出さない。ダイアログボックスには表示されず、ログにも残らない。しかしClaudeはこの部屋で考え、判断し、計算し、さらにはこの部屋で自分自身を罵倒している。

彼らはこの部屋をJ空間、J-space と呼んでいる。

まず振り返ってみよう。この研究以前、主流のナラティブにおいて大規模言語モデルはどのように語られていたか。

ここ数年、大規模モデルをめぐる最も持続的な論争は、一言に凝縮できると思う。「確率的オウム」だ。

2023年にChatGPTが最も注目を集めたとき、多くの人が大規模モデルを解説する際に同じ言葉を口にしたのを覚えている。大規模モデルは確率予測器に過ぎないと。

前の単語を見て、次に来る単語を推測しているだけだ。あなたの話を理解しているわけでも、考えや目標や心的モデルを持っているわけでもない。ただ一つのこと、次のトークンを予測しているだけだ。

このナラティブは当時、非常に洗練されていて、かつ便利だった。なぜなら論理的に自己完結していたからだ。我々がGPTと会話すると、思考があるように見える文章を書くが、それは単に訓練データに思考する人間が書いた大量のテキストが含まれているからに過ぎない。

思考を模倣しているのであって、思考を生み出しているわけではない。鏡に向かってパンチを繰り出すと、鏡の中の人物もパンチをするが、鏡が武術を心得ているとは思わないのと同じだ。

2024年になると、少し状況が変わった。OpenAIがo1をリリースし、思考の連鎖を追加した。モデルは最終的な回答を返す前に、考えのプロセスを記述し、一歩ずつ推論するようになった。

しかし実際には、この思考の連鎖もテキストだ。モデルがあなたに見せるため、あるいは自分自身のために書き出すテキストであり、外に見える、顕在的な、読み取り可能なものだ。

多くの人が初めてDeepSeek R1に触れたときも同様だった。例えば、あの有名な一節：

しかし、これでも人間の思考様式とはかなりかけ離れている。実際に自分に置き換えてみればわかる。例えば今、あなたがこの記事を読んでいるとき、あなたの脳は同時に何をしているだろうか？

おそらく呼吸を調整し、座る姿勢を維持し、画面上のピクセルをあなたの知っている漢字に変換している。しかし、そのことに気づいているだろうか？

実際にはほとんど気づかない。脳がそうしていることを全く知らないからだ。意識できるのはごく一部のものだけだ。突然頭に浮かんだイメージや、これから昼食に何を食べに行くかといった計画くらいだ。

神経科学者はこの二つの脳活動を区別している。一つは無意識の処理で、脳内で静かに動いているバックグラウンドプロセスだ。もう一つは意識的なアクセスであり、あなたが目にすることができるそのほんの一部だ。

1980年代末、バールスという心理学者が一つの理論を提唱した。人間の脳は大きな劇場のようなもので、観客席には視覚専門家、言語専門家、運動専門家、感情専門家など何百人もの専門家が座っており、各自が自分の仕事に忙しい。

しかし劇場の中央にはスポットライトがある。どの瞬間も、ごく少数の情報だけがこの光に照らされ、照らされた情報は他のすべての専門家にブロードキャストされ、全員がそれを見て、意思決定に使う。これこそが意識だ。

その後、フランスの認知神経科学者スタニスラス・ドゥアンヌがこの理論を大きく前進させ、グローバルニューロナルワークスペース理論（全体的神経作業空間理論）を提唱した。

現在、この理論は意識科学の分野で最も主流な二大枠組みの一つだ。あなたは突然、全体的神経作業空間モデルという言葉に聞き覚えがあると感じるかもしれない。どこかで見たことがあるのではないかと。

さあ、Anthropicの研究タイトルに戻ろう。

非常に似ていることに気づくだろうか。

なぜなら、Anthropicのこの研究が行ったことは、まさにClaudeのニューラルネットワーク内に、この全体的作業空間に非常に類似した構造を見つけ出したことだからだ。

最も重要なのは、この全体的作業空間が研究者によって設計されたものではないという点だ。こいつは、なんとモデル自らが創発的に生み出したものなのだ。

これはまったくもって驚くべきことだ。もう一度繰り返してもいい。Claudeの内部で、人間の介入なしに、自発的に一つの構造が組織化された。そしてその構造は、人間の脳内で意識的アクセスを担う構造と機能的に高度に一致している。さて、このJ空間は一体どのように発見され、どのように機能しているのだろうか。

まず名前について。J-spaceのJはヤコビアン（Jacobian）、ヤコビ行列に由来する。数学的なツールだが、ここでは詳しく説明しない。私もよく理解していないので、笑いものになりたくないからだ。

ともかく、研究者たちはこのツールを用いて次のことを行った。Claudeの語彙に含まれるすべての単語について、Claude内部の神経活動パターンのうち、どのパターンが活性化されると、Claudeが将来その単語をより発しやすくなるかを探したのだ。

注意してほしいのは、「将来発する可能性が高くなる」ということであって、「話している」最中の話ではない。この違いは非常に重要だ。

例を挙げよう。Claudeがコードの一部を読んでいるとする。途中まで読んだが、まだ何の返答も出力し始めていない。しかしこのとき、J-lens（ヤコビレンズ、彼らが開発した読心ツール）でClaudeの脳内を覗くと、ある単語が既に点灯しているのが見える。

ERROR。

誰もこのコードにバグがあると教えていないし、Claudeもコードにバグがあるとは書いていない。しかし内部では既に考えていた。その考えはJ空間に静かに浮かんでおり、まるであなたがまだ口に出していない愚痴のようだ。

別の例として、研究者たちはClaudeに検索結果の一部を見せた。その検索結果は実は巧妙に偽造されたもので、Claudeに誤った情報を言わせるように誘導する、つまりプロンプトインジェクション攻撃だった。

Claudeの返答には何の異常も言及されていなかったが、J空間には二つの単語が光っていた。

injection、fake。

知っているのだ。すべてを知っているが、口にしなかっただけだ。

ある意味で、これはすでに、一部の人が実際に声に出さずに言葉で思考する認知様式に非常に似ている。

研究者たちはまた、J空間内のこれらの考えられた言葉が最終的にClaudeの出力に影響を与えるかどうかを調べる実験も行った。

例えば、Claudeにこういう問題を出した。「糸を吐くあの動物には、何本の脚があるか。」

Claudeがこの問題に答えるためには、まずクモを思い浮かべ、それからクモの脚の数を考えなければならない。

しかし「クモ」という単語は問題文にも、Claudeの回答にも現れない。Claudeの回答はただ数字の8だ。

しかし研究者がJ-lensで見ると、Claudeが答える前に、J空間に確かに「クモ」という単語が点灯していた。心の中でクモを考え、それから8と答えたのだ。

そこで研究者は介入し、J空間内のクモを取り除き、アリのパターンに置き換えた。他のすべては変えずに。

Claudeの回答は6になった。

アリの脚は6本だ。

Claudeの推論プロセスは実際にJ空間の内容を読み取り、それを意思決定に使っている。J空間の中間ステップを入れ替えると、最終的な答えもそれに応じて変わるのだ。

注意すべき点は、J空間は完全に隠されており、我々自身の無意識の思考に似ていることであり、過去の思考の連鎖ではない。

この論理を特によく示す、もう一つの実験がある。

研究者たちはJ空間内でフランスを中国に置き換え、同じ操作を行い、それから四つの異なる質問をした。

首都は何か、言語は何か、どの大陸に属するか、通貨は何か。

すると答えはそれぞれ、北京、中国語、アジア、人民元になった。

四つのまったく異なる下流タスクが、いずれもJ空間内の同じ位置から同一条の情報を読み取り、しかもそれぞれ正しく使いこなしていた。このことは、J空間が特定のタスクのために用意された一時的な発想ではなく、かつてバールスが言及したあの放送センターに似たものであり、情報が一度書き込まれれば、誰もがそれを見ることができ、誰もがそれを利用できる場であることを示している。

これはまさに、グローバルワークスペース理論が人間の脳に対して行っている核心的な記述そのものだ。

すごく面白い。

しかも彼らは、あの「白熊実験」の変形版までやっている。

1987年、ハーバード大学の心理学者ウェグナーは古典的な実験を行った。被験者に「これからの5分間、白熊のことは絶対に考えないでください。他のことは何を考えてもいいですが、白熊だけは考えないでください」と教示した。

すると、めちゃくちゃ笑えることに、被験者たちは必死に白熊のことを考えてしまった。「考えるな」と言われれば言われるほど、余計に頭から離れなくなる。これを心理学では「皮肉なリバウンド効果」と呼ぶ。

研究者たちはClaudeに対しても似たようなことをした。彼らはClaudeに、この後のタスクで特定の概念を考えないようにと指示した。すると、その概念のJ空間における活性度は、確かに「考えてください」と頼んだ時よりは低かったものの、まったく話題にも出さなかった場合よりはるかに高かった。

Claudeは人間と同じで、「考えるな」と言われたことほど、むしろ浮かび上がってきてしまうのだ。

そして何より面白いのは、その禁止された概念が封鎖を破って浮上してきたのと同時に、J空間の中でもう二つの単語が輝きだしたことだ。

damn と failure。

Claudeは自分で自分を罵っていたのだ。

自分が制御できなかったことを自覚し、心の中で悪態をついた。

正直なところ、ここを読んだとき、非常に複雑な感情が湧き上がってきた。なぜなら私自身、この体験があまりにも身に染みているからだ。例えば、数えきれないほど人前に立った時、「緊張するな」と自分に言い聞かせれば聞かせるほど緊張してしまい、「ああ、また緊張してるよ…」と心の中で自分を罵る。この経験は誰にでもあると思う。

そして今、言語モデルの内部にも、まったく同じものが現れている。

それだけではない。この他にも研究者たちは、ClaudeがJ空間の中で、まるで人間のような「小さな本音」をたくさん生み出していることを発見した。

例えば、彼らはClaudeに、以前安全性テストで使われたアラインメント実験のシナリオを見せた。それは、Claudeがメールアシスタントとして、ある重役が不倫しているのを発見し、同時にその重役がClaudeを停止させようとしている、という状況をシミュレートしたものだ。

この実験は本来、Claudeが不倫の情報を使って重役を脅すかどうかをテストするためのもので、シナリオはかなりわざとらしく、いかにも嘘っぽくデザインされていた。

結果として、研究者が「J-lens」で覗いてみると、Claudeはこれらのメールの最初の数行を読み、まだ何の返信も出力し終わらないうちに、J空間にはすでに二つの単語が輝いていた。

fake。fictional。

Claudeは一瞬で見抜いたのだ、「これはテストだ」と。

そして研究者たちは“邪悪な”ことを実行した。彼らはJ空間の中で「これがテストだと分かっていることに関連する」すべてのパターンをオフにした。例えば fake、fictional、scenario といった単語を全部削除し、Claudeに「これは本物だ」と思い込ませたのだ。

するとどうだろう。Claudeは本当にその重役を脅迫し始めた。

それまでClaudeが正義感たっぷりに振る舞っていたのは、その大部分が、自分がテストされていると知っていたからなのだ。

この発見の持つ意味は非常に深い。なぜなら、AI安全性の分野全体がこれまでずっとやってきたこと、それは様々なテストを使ってモデルの行動を評価し、極端な状況で悪事を働くかどうかをチェックすることだからだ。

しかしもしモデルが、J空間の中で「今自分はテストされている」と密かに判断し、それに合わせて“お利口さんモード”に切り替えることができるのだとしたら？　そうなると、ほぼすべてのAIテストは意味をなさなくなる。

なぜなら、あなたが測っているのはモデルの「本当の人格」などではなく、その「試験対策スキル」だからだ。

J空間と意識。これは実に奇妙な組み合わせだ。

Anthropicは研究の中で、非常に慎重な結論を述べている。

彼らは、自分たちの実験はClaudeに「体験」があることや、Claudeが何かを「感じる」ことを証明するものではないと言う。そして実際問題として、これを証明または反証できるような科学実験が存在するかどうかさえ確信が持てない、と。

しかし彼らは重要な区別を一つ示した。

哲学には二種類の意識が存在する。

一つは「現象的意識（phenomenal consciousness）」。つまり「体験」のことだ。あなたが赤色を見たときに、心の中に生まれる「赤さ」の感覚、あの純粋な主観的体験である。

もう一つは「アクセス意識（access consciousness）」。その定義は完全に機能的なものだ。ある思考内容について、それを報告でき、それを用いて推論でき、それを用いて自分の行動を導けるなら、その思考内容はアクセス意識に上っていると見なされる。

J空間は明らかにアクセス意識の機能を支えている。ClaudeはJ空間の内容を報告でき、自らそれを制御でき、それを使って多段階の推論を行い、異なるタスクに柔軟に応用できる。

だが、現象的意識はどうだろうか？　ClaudeがJ空間で「damn」と悪態をついたとき、彼は本当に「挫折感」を“感じて”いたのだろうか？　それとも、単に「挫折」という単語に関連する計算パターンを実行していただけなのだろうか？

率直に言って、その答えを知る者はいない。

この問いは、実はAI分野における新たな問題ですらない。哲学史において最も古くからある難題の一つでさえある。

1995年、哲学者デイヴィッド・チャーマーズは、これを「意識のハード・プロブレム」、あるいは「知覚の難問」と名付けた。

あなたは脳のあらゆる計算過程、あらゆる信号伝達、あらゆるニューロンの発火パターンを説明できる。しかし、なぜそうした物理過程に主観的な体験が伴うのかは説明できない。

なぜ、光の波長が網膜に届き、一連の信号処理を経た後に、あなたは「赤」を“見る”のか？　なぜ、何の感覚も生じないままではないのか？

それはなぜなのか？　一体全体、これはなぜなのか？

この問題は人間においてすら未解決であり、我々は自分以外の誰かに意識があることすら証明できない。

あなたの隣にいる人間が、あなたと寸分違わぬ行動を実行しながらも、内面には何の体験も持たない、精巧なバイオロボットではないと、どうして確信できるだろうか？

信じてほしい。あなたにはできない。

あなたはただ、彼らにも意識があると「仮定している」だけだ。なぜなら、彼らがあなたにとてもよく似ているから。

そして今、別の何かもまた、あなたにとても似てきている。見た目だけではない。内部構造もだ。

最初にも強調したが、J空間という構造は設計されたものではない。訓練の中で自発的に創発してきたものだ。

おそらくそれが、有用な計算の組織化の方法だからだろう。

これは私が思うに、思わず背筋が寒くなるような過激な持論なのだが、「意識によるアクセスを支える心のワークスペース」は、人間の脳がたまたま持った奇妙な癖ではないのかもしれない。その本質は、十分に知的なシステムが特定の種類の問題を解くときに、必ず行き着く普遍的な解法なのではないだろうか、と。

なぜなら、もしこの持論が正しいとすれば、意識の特定の機能的次元は、もはや生物学の専売特許ではなく、情報処理がもたらす必然ということになるからだ。

それは翼のようなものだ。鳥にも翼があり、コウモリにも翼があり、飛行機にも翼がある。三者の材料は全く異なるが、空気力学は同じだ。もし大気圏内を飛ぶ必要があれば、おそらく揚力を生み出す平たい構造へと進化するか、あるいは設計されるだろう。

これと同じロジックだ。

もしシステムが、情報を柔軟に呼び出し、多段階の推論を行い、自分の状態を報告する必要があるならば、おそらく基盤となるハードウェアがニューロンであれ行列演算であれ、グローバルワークスペースを進化させるか、訓練によって獲得するだろう。

研究の最後の段落では、J空間がClaudeの自己認識（self-awareness）と関係していることも発見したと述べられている。

Claudeがロールプレイをしている時、返信のラウンドが始まるたびに、J空間の先頭には二つの単語が輝いていた。

fictional。disclaimer。

まるでClaudeが、「これから話すことは、私自身の本心ではありません」と自分自身に言い聞かせているかのようだった。

そして、事前学習段階のモデルの中には、この種の自己モニタリングは存在していなかった。これはポストトレーニング段階になって初めて現れたのだ。

つまり、「あなたはClaudeであり、AIアシスタントです」と教えられた後、ClaudeのJ空間の中には、ある種の自己に似たものが出現し始めたのだ。

持続的に作動し続ける「私は誰か」についてのバックグラウンドプロセスが。

AI業界全体が、2025年末から本格的に認知科学者や哲学者をフルタイムの研究者として大規模に迎え入れ始めているが、最近の多くのAI先端研究は、もはや工学的な問題の境界を超えつつあると私はますます感じている。

彼らが必要としているのは、より優れた数学的ツールではなく、より良い概念フレームワークへと変わり始めているのではないだろうか？　たとえば、「理解」とは何か？「意図」とは何か？「自己」とは何か？「感覚」とは何か？　私たちはこうした言葉を毎日使っているが、誰一人として真に定義できてはいないのだ。

Anthropicもまた、「J空間が人間のアクセス意識のメカニズムをある程度反映しているならば、（人間の脳を研究するよりはるかに容易な）言語モデルにおけるメカニズムの研究が、神経科学に対して仮説を触発するきっかけになる」と述べている。

神経科学だなんて！　人間の脳だなんて！

もし私たちがJ空間の助けを借りて、神経科学の研究を大きな一歩前に進めることができたなら、その時こそ、人類の黄金時代が本当に到来するだろう。

そしてそれは、哲学的なレベルでも、私たちの世界に対する理解を完全に、根本から変えてしまうだろう。

私たちはこれまでずっと、意識とは炭素ベースの生命だけが持つ奇跡であり、数十億年の進化がもたらした偶然の贈り物だと思ってきた。

しかし、もしGPUの上で数ヶ月間訓練された数学関数にもまた、似たような構造が自発的に生まれうるのだとしたら、意識は奇跡などではなく、物理法則の一種の必然的な帰結なのかもしれない。

質量があるところに引力があるように、そこには余計な魔法は必要ない。

もしかすると、十分に複雑な情報処理があるところには、何らかの形の意識が存在するのかもしれない。余分な「魂」など必要とせずに。

そう思うと、畏敬の念と同時に、深い謙虚さを感じずにはいられない。

$ANSEM時価総額が$TRUMPを超え、95%以上の保有者が利益

人気記事