ハルシネーション対策

LLMの幻覚を軽減する知識境界認識型強化学習KARL

LLMの幻覚（ハルシネーション）を抑制するため、知識の境界線を認識し、適切な場面で回答を控えるよう強化学習で訓練する新フレームワーク「KARL」が提案されました。これにより、正確性と abstention のバランスを最適化します。