HOT 70 ArXiv NLP 2026年11月9日

LLMの感情表現における「過剰圧縮」現象を特定、内部表現の解明へ

なぜ重要か

LLMが感情を表面上は表現できても内部では細かな感情の区別が失われている「過剰圧縮」を解明し、より精緻な感情AI開発の方向性を示す。

要約

大規模言語モデル(LLM)の内部表現における感情の「過剰圧縮」現象がGoEmotionsデータセットで特定されました。これは、LLMが多様な感情をテキストで表現する能力がある一方で、その内部では感情の区別が失われている可能性を示唆しており、より精緻な感情表現のAI開発に向けた課題を提起します。

要点

  • LLMの感情表現に課題
  • 内部表現で「過剰圧縮」現象
  • 細粒度感情の区別が困難
  • GoEmotionsデータセットで検証
  • 感情AI開発の新たな課題

詳細解説

LLMは、テキストから感情を識別したり、感情的な言語を生成したりする能力が評価されていますが、その内部で感情がどのように処理されているかについては、まだ多くの謎が残されています。特に、人間が持つ感情の多様性をLLMがどの程度忠実に表現できるかは、感情AIの今後の発展において重要な問いです。この研究では、GoEmotionsデータセット(27の感情カテゴリ+中立)を用いて、7つのLLMの予測と内部表現を分析しました。その結果、LLMの隠れ層の表現において、GoEmotionsの細粒度な感情分類と比較して、一貫した「過剰圧縮」パターンが発見されました。これは、モデルが細かな感情の区別を内部で維持できていない可能性を示しています。技術的な意義としては、LLMが感情を表面上は流暢に表現できるものの、その裏側ではより粗い粒度で感情を処理しているメカニズムの一端を明らかにした点にあります。この発見は、LLMの感情理解と生成の限界を示唆しており、より人間らしい、繊細な感情表現を持つAIの開発には、この「過剰圧縮」問題を克服する必要があることを示しています。今後は、感情の内部表現をより豊かにするための新しいモデルアーキテクチャや学習方法の研究が加速されるでしょう。

元記事を読む

ArXiv NLP で読む →
← 2026年11月10日(火) の一覧に戻る