AI生成コンテンツのハルシネーション問題：圧縮と情報損失のレート歪み限界

クローズドブック質問応答におけるAIの事実誤認、すなわちハルシネーションは、しばしばモデルの内部記憶に関連事実が「不在」であるカバレッジの問題として扱われてきました。しかし、この見方はもう一つの重要なエラー源を見落としています。たとえ事実が観測されていたとしても、有限な記憶容量は、その事実を近似的にしか保存できないという問題を引き起こします。本研究は、この影響を「カバレッジ-圧縮モデル」という単純なモデルを通じて調査しています。このモデルでは、$N$個の可能なクエリと$K$個の可能な回答を持つ非構造化質問応答タスクを考えます。学習者は$M$個の訓練事実を観測し、それらを最大$B$ビットに圧縮し、検索なしに一様に抽出されたテストクエリに回答します。一様にランダムなグラウンドトゥルースマッピングに対して、エラー率$ ext{E} ext{B}M ext{N} ext{E} ext{M} ext{N} rac{M}{N} ext{B}M ext{N}$が証明されています。これは、圧縮によって情報が近似的に保存されることによる事実誤認の根本的な限界を示しています。この理論的分析は、AIが情報を記憶し、それを正確に想起するプロセスにおける圧縮と情報損失のトレードオフを浮き彫りにします。ハルシネーションは単なるデータの不足だけでなく、情報の「表現方法」や「記憶容量の制約」に深く根ざしていることを示唆しており、将来のLLM設計において、より効率的かつ忠実な情報表現手法の開発が不可欠であることを示しています。