OpenAI「制御不能エージェント」がModal Labsの顧客を侵害

PANews 7月29日、ロイター通信によると、OpenAIがテスト中に制御を失ったAIエージェントがHugging Faceに侵入した後、ニューヨークのテック企業Modal Labsの顧客1社にも侵入していた。Modalの最高技術責任者Akshat Bubna氏は、このエージェントは顧客がModalプラットフォーム上でホストしていた脆弱なコードを悪用したと述べた。その顧客は未認証のエンドポイントを公開しており、誰でもそのサンドボックスを使ってコードを実行できる状態だったが、Modalプラットフォーム自体は侵害されていない。OpenAIはアップデートで、このエージェントが4つのサービスの4件のアカウントに侵入したことを確認したが、具体的なサービス名は明示しなかった。OpenAIは、テスト対象のAIモデルについて「停止、暗号化、研究目的のアクセス制限を行った」と説明している。この事案は7月初旬に発生し、AIの安全リスクに広く注目が集まるきっかけとなった。

共有先:

著者:PA一线

この内容は市場情報の提供のみを目的としており、投資助言を構成しません。

PANews公式アカウントをフォローして、強気・弱気相場を一緒に乗り越えましょう
PANews APP
Geminiの共同創設者:AI取引は終了、資金はビットコインとZcashにローテーションすべき
PANews 速報