NeuroneFuzz: LLMの安全性評価のためのニューロンガイド付きファジング

大規模言語モデル（LLM）の安全性評価は、悪意あるプロンプト（ジェイルブレイク攻撃）に対する堅牢性を確保する上で極めて重要です。既存の自動テスト手法の多くは、各プロンプトに対してモデルの応答を生成し、その効果を評価する応答レベルのフィードバックに依存しており、これは計算コストが高く、特に高度にアラインされたモデルでは限定的なガイダンスしか得られないという課題がありました。NeuronFuzzは、この課題を克服するために提案された、新たなホワイトボックスファジングフレームワークです。本フレームワークは、LLM内部の「安全ニューロン」の活性化を連続的な実行フィードバックとして利用します。具体的には、SafetyOracleが安全ニューロンの活性化を連続的な「安全アラームスコア」に変換し、これをファジングプロセスに組み込むことで、応答生成なしにモデルの安全状態を評価できるようにします。これにより、従来の応答ベースのアプローチと比較して、はるかに効率的かつ詳細な安全評価が可能となります。この技術は、LLM開発者にとって、モデルのリリース前に潜在的な脆弱性を特定し、対策を講じるための強力なツールとなります。また、企業やエンドユーザーにとっては、より安全で信頼性の高いAIモデルの利用に繋がります。将来的には、この内部状態を活用した評価手法が、LLMの安全性保証の標準的なアプローチとなり、AIシステムの信頼性向上に大きく貢献するでしょう。