LLMの繰り返しループ問題は1つのニューロン修正で解決可能か？

LLMは、特定のタイプのプロンプト、特に長い事実の列挙（テレビシリーズの全エピソード、星座のリスト、ポケモン図鑑など）において、内容が繰り返しになり、実質的に無限ループに陥るという既知の課題を抱えています。この現象は、Gemma 4の指示チューニングモデルで最大95%もの高い確率で発生し、プロンプトの調整や推論エンジンの変更、サンプリング設定でも解消が困難でした。本研究では、この繰り返しの原因がモデル内の特定のニューロンに局所化されている可能性を探りました。層ごとのアブレーションとニューロンごとのアトリビューション分析を用いて原因となるニューロンを特定し、その重みを編集することで、実際に繰り返しループの問題を解消できることを確認しました。これは、LLMの複雑な振る舞いが、意外にも特定の少数のコンポーネントに起因している可能性を示唆するものです。このブレークスルーは、LLMの制御性と解釈可能性を大きく向上させるものであり、将来的にモデルの望ましくない挙動をより効率的に修正したり、安全性を高めたりするための新たな道を開くかもしれません。ただし、より複雑な「破滅ループ」といった問題に対しては、単一ニューロンの修正では不十分である可能性も示唆されています。