PANews は 11 月 22 日、Twitter ユーザー @r_cky0 が、ChatGPT を使用してブロックチェーン自動取引ロボットを開発するためのコードを生成した際、GPT が推奨するコードにはバックドアが隠されており、そのバックドアが秘密鍵をフィッシング Web サイトに送信し、約2500ドルの損失。その後、SlowMist の創設者 Cosine @evilcos は、AI を使用してコードを生成し、「ハッキング」されたケースが実際にあったことを認めました。

専門家らは、この種の攻撃はフィッシング投稿や安全でないコンテンツからAIが学習した悪意のあるパターンに起因する可能性があり、現在のAIモデルではコードにバックドアがあるかどうかを区別するのが難しいと指摘した。業界はユーザーに対し、より警戒し、AIが生成したコードを盲目的に信頼しないように呼び掛け、潜在的なセキュリティリスクを特定して警告するために、将来のAIプラットフォームがコンテンツレビューメカニズムを強化することを推奨している。