情報理論

AI生成コンテンツのハルシネーション問題：圧縮と情報損失のレート歪み限界

クローズドブック質問応答におけるAIのハルシネーション（事実誤認）は、関連情報の欠如だけでなく、有限な記憶容量による情報の近似的保存にも起因します。本研究は、質問応答タスクにおける「カバレッジ-圧縮モデル」を通じて、圧縮によって生じる情報損失が事実誤認にどのように影響するかをレート歪み理論を用いて分析し、ハルシネーションの根本原因に迫ります。