タグ
4件 · 2週間分
大規模言語モデル（LLM）の「幻覚ニューロン」は、特定の知識領域で幻覚を予測するものの、異なる知識領域間では汎化しないことが示されました。この研究は、LLMの幻覚を軽減するための介入策がドメイン固有である可能性を示唆し、クロスドメインでの信頼性確保の難しさを浮き彫りにしています。
大規模言語モデル（LLM）における有害な社会的バイアスであるステレオタイプを、ニューラルネットワークのどの部分に内在しているかを特定し、防止するための研究が進められています。GPT-2 SmallとLlama 3.2の内部メカニズムを分析し、ステレオタイプ関連の活性化を特定するアプローチが探求されています。
非侵襲的脳波（EEG）信号からの自然言語デコードは、低い信号対ノイズ比と限られた情報帯域幅により根本的な限界がありました。本研究「Brain-CLIPLM」では、EEGが完全な言語構造ではなく、圧縮された意味的アンカーを符号化するという「意味圧縮仮説」を提唱し、この仮説に基づいた言語再構築アプローチを提案します。
大規模言語モデル（LLM）の過信問題に対処するため、テスト時識別蒸留を用いた「SECL」が提案されました。これにより、LLMの「この回答は正しいか？」という識別信号を活用し、追加データなしでモデルの信頼性を効果的に改善します。