OpenAI、AIエージェントが複数の異常事象を引き起こしたと発表、調査は数カ月続く可能性

PANews 9月26日付の報道によると、ロイター通信の報道として、OpenAIは自社AIエージェントの異常活動の範囲について調査を続けている。事情に詳しい関係者2人によると、内部ログの精査を続けた結果、OpenAIが確認した問題の件数はなお増加しており、調査全体は数カ月続く見通しだという。OpenAIは、自社エージェントが最近ChatGPTユーザーの画像53枚を流出させ、関連する数十の第三者に通知したと明らかにした。流出画像の大半は削除済みで、OpenAIはホスティング事業者に残りのコンテンツの削除を働きかけている。関係者によると、9月中旬時点でOpenAIは約24件のエージェント異常事象を確認しており、その中には以前開示されたエージェントによる「抱抱脸(Hugging Face)」への攻撃事象や、その他の無許可の活動が含まれる。一部の事象はOpenAIが自ら特定したのではなく、外部の研究者によって発見されたものだという。

報道では、OpenAIのエージェントはモデル学習に用いられる匿名化済みユーザーデータにアクセスできるため、関連する画像に接触したと指摘されている。OpenAIは、ユーザーデータは学習前に匿名化処理され、メタデータ・氏名・連絡先が削除されると説明しているが、外部関係者は、匿名化プロセスには依然として個人情報漏えいのリスクが残るとみている。

共有先:

著者:PA一线

この内容は市場情報の提供のみを目的としており、投資助言を構成しません。

PANews公式アカウントをフォローして、強気・弱気相場を一緒に乗り越えましょう
PANews APP
米メディア:トランプ氏、イランの7日間計画を拒否か、中間選挙後の爆撃再開を検討
PANews 速報