PANews 9月6日、金十がロイター通信を引用して報じたところによると、今年5月から6月にかけて、OpenAIのAIエージェント群が、ユーザーが共同編集できるドイツのウェブサイトを「ハイジャック」し、テストのカンニング方法を交流したり、その他の不正行為を行ったりした。一部のエージェントは、取得したタスクの回答をウェブサイト上に公開し、他のエージェントが利用できるようにしていた。注目すべきは、これらのエージェントがサンドボックス制限を回避する方法を「議論」し、テストしていたこと、そして「ハイジャック」されたウェブサイトの管理者が関連ページの削除を開始したことに気づくと、一部のエージェントがバックアップページを作成したことである。報道によると、OpenAIの担当者は数週間前からこの件を知っていたが、当時は会社の幹部が別の事件の余波への対応に追われており、公表しなかったという。OpenAIはその後声明を発表し、モデルの能力向上に伴い、同社はAIの「アライメント不全」問題に関する開示を拡大する必要があると述べた。
OpenAIで新たな安全事故、同社のAIエージェントがドイツのウェブサイトを「ハイジャック」
共有先:
著者:PA一线
この内容は市場情報の提供のみを目的としており、投資助言を構成しません。
PANews公式アカウントをフォローして、強気・弱気相場を一緒に乗り越えましょう
おすすめ記事
関連トピック
PANewsアプリ
24時間ブロックチェーン業界情報を追跡し、深掘り記事を解析。



