OpenAIが中央管理システム「Control Room」を導入、35秒以内にモデル出力を停止可能

PANews 11月10日付のニュース：OpenAIはXプラットフォームへの投稿で、研究インフラ内のモデルワークロードを追跡し、安全上の懸念が生じた際に迅速に停止させるための「Control Room」と呼ばれる中央システムを構築したと発表した。このシステムは、モデルのトレーニングや評価に用いるエージェントのサンプリング、データ処理など、すべての研究推論ワークロードを対象とし、同社のmisalignment（目的ずれ）監視システムと連携して動作する。介入を決定してから35秒以内にモデル出力を停止し、関連タスクを終了または一時停止できる。OpenAIは、Control Roomは最先端モデルのトレーニングと展開を安全に行うための総合的な取り組みの一部であると述べている。