著者：サム・アルトマン

編集：Deep Tide TechFlow

ディープタイドの要約：午前3時45分、サム・アルトマンの自宅に何者かが火炎瓶を投げ込んだ。彼は異例にも家族写真を投稿し、次の犯行を抑止しようとした。この記事は単なる攻撃の告発ではなく、彼が初めてAIに関する信念を詳しく述べている。AIは民主化されるべきであり、少数の研究機関が人類の未来を決定すべきではない。「汎用人工知能（AGI）を一度見たら後戻りはできない」という魅力が、この分野をシェイクスピア劇のような劇的な葛藤で満たしている、と彼は主張する。

これは私の家族の写真です。私は彼らを何よりも愛しています。

この画像に力があることを願っています。普段はかなり高いプライバシー保護を心がけていますが、今回は、たとえ相手が私をどう思っていようとも、次に誰かが我が家に火炎瓶を投げ込むのを思いとどまらせるかもしれないという希望を込めて、写真を共有することにしました。

最初の人物が昨晩午前3時45分にそれを実行した。幸いにも、それは家に当たって跳ね返り、誰も怪我をしなかった。

言葉には力がある。数日前、私に関する扇動的な記事が掲載された。昨日、ある人から、AIに対する極度の不安が高まっている時期にその記事が掲載されたことで、私の状況がより危険になったと指摘された。その時はあまり気に留めなかった。

真夜中に目が覚めて、怒りに駆られ、言葉と物語の力を過小評価していたことに気づいた。これは、いくつか話をするのに良い機会だ。

まず、私の考えを述べます。

すべての人々の繁栄のために尽力し、すべての人々に力を与え、科学技術を発展させることは、私の道徳的義務である。

AIは、人間の能力と可能性を拡大するための最も強力なツールとなるでしょう。このツールに対する需要は事実上無限であり、人々はAIを使って驚くべきことを成し遂げるでしょう。世界は膨大な量のAIを持つべきであり、私たちはそれを実現する方法を見つけ出さなければなりません。

すべてが順調に進むとは限りません。AIに対する恐怖や不安は当然のことです。私たちは、おそらく歴史上、長きにわたる社会変革を目の当たりにしているのです。安全を確保するためには、単にモデルを整合させるだけでは不十分です。この新たな脅威に対処するための社会的な対応が喫緊に求められています。そのためには、この困難な経済移行を乗り越え、より良い未来へと導くための新たな政策が必要です。

AIは民主化されるべきであり、権力が過度に集中してはならない。未来の決定権はすべての人々と彼らの組織にある。AIは個人に力を与えるべきであり、私たちは未来について集団的な意思決定と新たなルールを必要としている。少数のAI研究所が私たちの未来に関する最も重要な決定を下すのは正しくないと思う。

適応力は極めて重要です。私たちは皆、新しいことを非常に速く学びます。私たちの信念の中には正しいものもあれば、間違っているものもあり、技術の進歩や社会の進化に伴い、時には考え方を迅速に変える必要が生じます。超知能の影響をまだ誰も完全に理解していませんが、それは計り知れないほど大きなものになるでしょう。

次に、個人的な感想をいくつか述べます。

OpenAIの最初の10年間の自分の仕事を振り返ると、誇りに思えることもたくさんありますが、同時に多くの失敗もありました。

イーロンとの今後の裁判を考えている時、彼がOpenAIを一方的に支配しようとする欲望に私が​​どれほど強く抵抗したかを思い出します。当時の私たちの狭い道を選んだことを誇りに思います。そのおかげでOpenAIは存続し、その後の発展もすべて実現したのです。

私自身とOpenAIの両方に多大な苦痛をもたらした、対立を避けてきたことを誇りに思っていません。前取締役会との対立を不適切に処理し、社内に甚大な混乱を引き起こしたことも、誇りに思っていません。OpenAIの激動の道のりの中で、私は他にも多くの過ちを犯しました。私は欠点のある人間であり、極めて複雑な状況の中心に身を置き、毎年少しずつ改善しようと努め、常に使命に向かって努力してきました。AIがいかにリスクの高いものであるか、そして私が大切に思っていた善意の人々の間の個人的な意見の相違がいかに劇的に増幅される可能性があるかは、当初から分かっていました。しかし、こうした激しい対立を直接経験し、しばしば仲裁役を務めなければならなかったことは、全く別の問題であり、大きな代償を伴いました。傷つけてしまった方々に謝罪するとともに、より早く学びたいと願っています。

また、OpenAIはもはや小さなスタートアップではなく、主要なプラットフォームであることも明確に認識しており、より予測可能な運営方法を採用する必要があると考えています。ここ数年は、極めて緊張感があり、混乱を極め、プレッシャーの大きい日々でした。

しかし、私が最も誇りに思っているのは、当初は全く不可能と思われた私たちの使命を達成しつつあることです。あらゆる困難を乗り越え、非常に強力なAIを構築する方法、それを実現するためのインフラを構築するための十分な資金を蓄積する方法、製品会社と事業を確立する方法、大規模かつ安全で堅牢なサービスを提供する方法など、多くのことを成し遂げてきました。多くの企業が世界を変えると謳いますが、私たちは実際にそれを実現したのです。

第三に、この業界についての考察をいくつか述べます。

ここ数年の私の個人的な感想、そしてこの業界の企業間でシェイクスピア劇のようなドラマが繰り広げられる理由についての考察は、要するにこうだ。「AGIを一度見てしまうと、もう見ずにはいられない」。AGIには、人々を常軌を逸した行動へと駆り立てる、まさに「権力の輪」のような力学が存在する。AGIそのものがその輪だと言っているのではなく、むしろ「AGIを支配する者になる」という全体主義的な哲学こそが、その力の輪なのだ。

私が思いつく唯一の解決策は、人々の間で技術を広く共有し、誰もその技術を所有しないようにすることです。これを実現するための明白な方法は2つあります。1つは個人のエンパワーメント、もう1つは民主主義体制が引き続き主導権を握ることです。

民主的なプロセスが企業よりも強い力を持つことが極めて重要です。法律や規制は変更されるでしょうが、たとえそれが混乱を招き、望むよりも遅いとしても、私たちは民主的なプロセスの中で活動しなければなりません。私たちは発言権を持ち、利害関係者でありたいと願っていますが、すべての権力を独占したいわけではありません。

私たちの業界に対する批判の多​​くは、この技術に伴う極めて高いリスクに対する真摯な懸念から生じています。これは全く当然のことであり、建設的な批判や議論を歓迎します。反技術的な感情には共感できます。確かに、技術は必ずしもすべての人にとって良いものではありません。しかし、全体として、技術の進歩は、あなたの家族にとっても私の家族にとっても、未来を驚くほど良いものにしてくれると信じています。

そうした議論をする際には、言葉遣いや戦術を控えめにし、比喩的にも文字通りの意味でも、家庭内で爆発が起こるような事態を避けるよう努めるべきだ。