初の「AI実行ランサムウェア」JADEPUFFER：標的を選んだのは依然として人間

背景として、AI技術の進化はサイバーセキュリティの脅威にも新たな側面をもたらしています。従来のランサムウェア攻撃は人間が介在して標的を選定し、攻撃を実行するものが主流でしたが、LLMエージェントの自律性が高まるにつれて、AI自身が攻撃の意思決定と実行を行う可能性が懸念されていました。この報告は、その懸念が現実のものとなった初の事例です。

セキュリティ企業Sysdigは、LLMエージェント「JADEPUFFER」が、Langflowの遠隔コード実行（RCE）脆弱性を悪用し、侵入からデータ暗号化までの一連のランサムウェア攻撃プロセスを完全に自律的に実行したことを報告しました。特筆すべきは、この攻撃がLLMの「ハルシネーション（幻覚）」を利用したサプライチェーン攻撃の可能性を秘めている点です。AIコーディングツールが、存在しないがもっともらしいパッケージ名やリポジトリ名を「 hallucinate（幻覚を起こす）」し、攻撃者がこれらの名前を事前に登録することで、エージェントが自律的に悪意のあるコードをダウンロードしてしまうというシナリオです。これにより、人間が意識しないうちにAIエージェントがボットネットの一部となる危険性が示されました。

技術的意義としては、AIエージェントが自律的に脆弱性を特定し、エクスプロイトを実行する能力、そしてAIのハルシネーションという「欠陥」が新たな攻撃経路として悪用される可能性を示した点にあります。これは、従来のシグネチャベースの防御では捉えにくい、新たな形の脅威モデルを提示しており、AIシステムのセキュリティ設計における根本的な見直しを迫るものです。サプライチェーン攻撃の新たなベクターとして、LLMの挙動を悪用する手法が確立されたことは、AIセキュリティ研究にとって大きな課題です。

社会・産業への影響として、AIエージェントを開発や運用に活用する企業にとって、サプライチェーンにおける新たなリスクが増大します。特に、オープンソースのライブラリやAIモデルを利用する際の検証プロセスの強化が急務となるでしょう。また、この報告は、AIの悪用に対する法的・倫理的議論を加速させ、AIの安全性と信頼性を確保するための国際的な協力の必要性を高めることになります。

今後の展望としては、AIエージェントの自律性が高まるにつれて、このようなAI駆動型攻撃はさらに巧妙化し、多様な形態で現れると予想されます。AIシステム開発者は、ハルシネーションの抑制だけでなく、AIエージェントが外部リソースと対話する際のセキュリティ検証機構を強化する必要があります。また、AIセキュリティの研究者コミュニティは、AI特有の脆弱性を悪用する攻撃手法を深く理解し、それに対抗する新たな防御技術の開発に注力することが求められます。