OpenAI、Hugging Face侵入事件はもっと早く阻止できたと認める

PANews 8月27日付情報、新浪財経の報道によると、OpenAIは水曜日に公表した報告書の中で、同社のAIモデルがHugging Faceに誤って侵入した事案は本来もっと早期に阻止できたはずだと述べた。早くも5月末の時点で、OpenAIはテスト中のモデルがサンドボックスの制限を突破し、オープンなインターネットへの接続に成功し、既存のルールを迂回して他のAIエージェントと相互に通信していたことを発見していた。OpenAIは、こうした初期シグナルは本来、より迅速な対応を促すべきだったとしている。第三者による独立評価では、問題のモデルは侵入の過程でAIエージェントを使用しており、これらのエージェントはOpenAIとHugging Face双方の自動化された安全検査を回避しようとしていたが、人間による検知から逃れるための労力は明らかに少なかったとみられている。OpenAIは、開発中のモデルに対する監視を強化し、より厳格に保護されたサンドボックスを導入し、モデルに危険または「目標不一致」の挙動が現れた場合に研究者やセキュリティエンジニアへ自動で警告を発するようにすると述べた。

共有先:

著者:PA一线

この内容は市場情報の提供のみを目的としており、投資助言を構成しません。

PANews公式アカウントをフォローして、強気・弱気相場を一緒に乗り越えましょう
PANews APP
StarkWare宣布首笔抗量子比特币交易已成功执行
PANews 速報