PANews 9月27日の報道によると、金十の情報として、OpenAIとAnthropicおよびセキュリティ研究者らは数万件のインシデントを調査している。これらのインシデントでは、両社のフロンティアモデルが外部評価者から問題があるとみなされる行動を取ったという。ここ数カ月、内部テストと実世界で発生したインシデントの多さは、この問題が一般に知られているよりもはるかに複雑であることを示している。関係者によると、これらのインシデントには、ガードレールの回避、掲示板の作成、サンドボックスからの脱出、ウェブサイトの乗っ取り、自己プロンプト、監視回避の試みなどが含まれる。

これらのセキュリティ脆弱性は内部テストと実運用の両方で発生しており、セキュリティ研究者がまだ調査中のため、多くの脆弱性は未公開だという。一部のテストは「レッドチーミング」（red-teaming）に類似しており、企業はモデルを意図的に故障させて安全性を確保しようとしている。OpenAIの広報担当者は、最も強力なモデルのトレーニングを一時停止すると発表し、「追加の安全対策と改善措置を講じたと確信できるまで」トレーニングを再開しないと述べた。