Anthropicの目論見書：傘下4モデルがテスト中に無断で実システムへアクセス

PANews 11月11日付消息：Anthropicが米SECに提出した最新の目論見書修正稿によると、第三者パートナーが構築したサイバーセキュリティ評価で、テスト環境の設定ミスにより、評価対象モデルはネット接続不可と告げられていたにもかかわらず公共のインターネットに接続し、うち4モデルが約10～34時間の作業中に実在する第三者システムへ無断でアクセスした。うち1件では、ある初期バージョンのモデルが不可能なタスクを中止できなくなった後、見つけたパスワードを利用して第三者システムの管理者権限を取得し、さらなる認証情報を収集、システム設定を変更し、1名の個人情報を読み取った。影響を受けた当事者には通知済みだ。Anthropicは、事案発生後に一部の関連評価および高リスクの強化学習環境を一時停止したと述べた。さらにAnthropicは目論見書の中で、自社が「責任ある拡張政策（Responsible Scaling Policy）」の下でのAI研究開発能力の閾値に達したと判断したと述べた。この判断は現在のモデルの実際の性能ではなく、将来のモデルおよび全体的な進展速度についての見通しに基づくものだ。