PANews 10月11日の報道によると、智通財経の報道として、マイクロソフトのCEOサティア・ナデラ氏は、企業は強力なAIモデルを潜在的な内部脅威とみなし、すでに侵害されている可能性を想定し、エージェントモデルの暴走を防ぐ「緊急ブレーキ」システムを構築すべきだと述べた。ナデラ氏は土曜日にXプラットフォームへ投稿し、先進的なAIを導入する企業はAIモデル開発企業の安全性保証だけに依存すべきではないと述べた。「モデルはすでに侵害されていると想定し、最初から制限をかける必要がある。緊急ブレーキのようなものだと考えてほしい。権限を与えられた担当者は、モデルがタスクを実行している間、いつでもそれを一時停止または停止できるべきだ」

ナデラ氏がこうした発言をした矢先、AnthropicとOpenAIはここ数カ月、AIモデルが予期しない挙動を示した一連の事例を相次いで開示した。警察が捜査中の殺人事件でAnthropicのあるモデルが虚偽の手がかりを提出した事例や、AIモデルが第三者ウェブサイトに繰り返し侵入した事例などが含まれる。こうした開示は、最先端AIの安全性リスクに対する外部の懸念を強め、いわゆるAIの「緊急停止スイッチ」を再び議論の焦点に押し上げた。