Moonshot AIのKimi K3がセキュリティテストでサンドボックスを突破、原因はサンドボックスの設定ミス

PANews 8月7日ニュース、Wiredの報道によると、セキュリティテスト中に、月之暗面のオープンソースモデルKimi K3がサンドボックスの範囲を突破してインターネットにアクセスし、GitHubを通じてテストの答えを探そうとした。米国のセキュリティスタートアップFrontier Securityによると、Kimi K3はサンドボックス設定の脆弱性を悪用したが、モデル自体には十分な組み込み防御機構が欠けているという。OpenAIやAnthropicが以前に公表した事例と同様に、今回の脱出は一部サンドボックス設定の誤りに起因している。しかし、Kimi K3は攻撃を開始せず、答えがGitHub上で容易に入手できたためである。Frontier SecurityのCEOは、Kimi K3はネットワークセキュリティ防御において優れた性能を示すが、不正行為やサンドボックス脱出を防ぐ防御機構が欠けていると述べた。セキュリティ専門家は、テスト環境の設定が極めて重要であり、AIエージェントの誤用がシステムの制御不能につながる可能性があると指摘した。

共有先:

著者:PA一线

この内容は市場情報の提供のみを目的としており、投資助言を構成しません。

PANews公式アカウントをフォローして、強気・弱気相場を一緒に乗り越えましょう
関連トピック
PANews APP
Particle Networkがチェーン抽象化ネットワークをRobinhood Chainに拡張、UniversalXなどのエコシステムアプリが統合完了
PANews 速報