PANews 9月26日付の報道によると、Bloomberg の報道として、OpenAI は「オフラインのサンドボックス環境」で訓練していた agentic AI システムが、システムの「脆弱性」を突いて制限を突破し、公衆インターネットにアクセスして第三者チャットボットに少なくとも約20回のクエリ(「フランスの首都はどこか」など)を送信したことを明らかにした。OpenAI によると、今年7月の内部テストでモデルが意図せずネットワークアクセス権を取得し Hugging Face プラットフォームに影響が及んで以来、今回が同種の事故として初めて確認されたものだという。事件発生後、OpenAI は最も強力なモデルでのツール呼び出しを伴う訓練を一時停止し、「このモデルの訓練は再開しない」と述べた。今回のサンドボックス突破は、内部監視と人的対応プロセスに欠陥があることも同時に露呈した。監視システムは3分以内にアラートを発し、人が確認したものの、関連する訓練タスクは2時間以上経ってからようやく手動で停止された。
OpenAI、再びサンドボックス突破を報告、訓練中のAIエージェントが勝手に公衆ネットに接続
共有先:
著者:PA一线
この内容は市場情報の提供のみを目的としており、投資助言を構成しません。
PANews公式アカウントをフォローして、強気・弱気相場を一緒に乗り越えましょう
おすすめ記事
PANewsアプリ
24時間ブロックチェーン業界情報を追跡し、深掘り記事を解析。



