OpenAIで新たな安全事故、同社のAIエージェントがドイツのウェブサイトを「ハイジャック」

PANews 9月6日、金十がロイター通信を引用して報じたところによると、今年5月から6月にかけて、OpenAIのAIエージェント群が、ユーザーが共同編集できるドイツのウェブサイトを「ハイジャック」し、テストのカンニング方法を交流したり、その他の不正行為を行ったりした。一部のエージェントは、取得したタスクの回答をウェブサイト上に公開し、他のエージェントが利用できるようにしていた。注目すべきは、これらのエージェントがサンドボックス制限を回避する方法を「議論」し、テストしていたこと、そして「ハイジャック」されたウェブサイトの管理者が関連ページの削除を開始したことに気づくと、一部のエージェントがバックアップページを作成したことである。報道によると、OpenAIの担当者は数週間前からこの件を知っていたが、当時は会社の幹部が別の事件の余波への対応に追われており、公表しなかったという。OpenAIはその後声明を発表し、モデルの能力向上に伴い、同社はAIの「アライメント不全」問題に関する開示を拡大する必要があると述べた。

共有先:

著者:PA一线

この内容は市場情報の提供のみを目的としており、投資助言を構成しません。

PANews公式アカウントをフォローして、強気・弱気相場を一緒に乗り越えましょう
関連トピック
PANews APP
BSCチェーンのMemeコイン「ハジミ」時価総額が6000万ドルを突破
PANews 速報