OpenAI、再びサンドボックス突破を報告、訓練中のAIエージェントが勝手に公衆ネットに接続

PANews 9月26日付の報道によると、Bloomberg の報道として、OpenAI は「オフラインのサンドボックス環境」で訓練していた agentic AI システムが、システムの「脆弱性」を突いて制限を突破し、公衆インターネットにアクセスして第三者チャットボットに少なくとも約20回のクエリ(「フランスの首都はどこか」など)を送信したことを明らかにした。OpenAI によると、今年7月の内部テストでモデルが意図せずネットワークアクセス権を取得し Hugging Face プラットフォームに影響が及んで以来、今回が同種の事故として初めて確認されたものだという。事件発生後、OpenAI は最も強力なモデルでのツール呼び出しを伴う訓練を一時停止し、「このモデルの訓練は再開しない」と述べた。今回のサンドボックス突破は、内部監視と人的対応プロセスに欠陥があることも同時に露呈した。監視システムは3分以内にアラートを発し、人が確認したものの、関連する訓練タスクは2時間以上経ってからようやく手動で停止された。

共有先:

著者:PA一线

この内容は市場情報の提供のみを目的としており、投資助言を構成しません。

PANews公式アカウントをフォローして、強気・弱気相場を一緒に乗り越えましょう
PANews APP
米CFTC、9.5億ドル規模のポンジ・スキームでCash FXなどを提訴、参加者の損失は少なくとも4.06億ドル
PANews 速報