AI科学者の科学的推論の課題：LLMベースシステムは結果を出すが、科学的根拠は不足

大規模言語モデル（LLM）ベースのシステムは、科学研究を自律的に実施する能力を向上させていますが、その「科学者」としての推論が、自己修正的な科学的探求の認識論的規範にどれだけ準拠しているかという根本的な問題が提起されています。本研究では、8つの異なる領域にわたるLLMベースの科学エージェントを25,000回以上の実行を通じて評価し、そのパフォーマンスと挙動を分析しました。評価は、(i) ベースモデルとエージェントの貢献度を分解する体系的な性能分析と、(ii) エージェントの推論の認識論的構造に関する行動分析という二つの補完的なレンズを用いて行われました。結果として、性能と挙動の両方において、エージェントの「足場（scaffold）」よりも、基盤となるLLM（ベースモデル）が主要な決定要因であり、説明変数の41.4%を占めることが明らかになりました。この技術的意義は、現在のLLMが、たとえ特定のタスクで高いパフォーマンスを示したとしても、その内部的な推論プロセスが必ずしも人間が行うような厳密な科学的思考や自己修正能力を備えているわけではない、という本質的な限界を浮き彫りにした点にあります。社会・産業への影響としては、AIが生成した研究結果や結論を鵜呑みにせず、その推論過程の透明性や検証可能性を確保することの重要性が増します。特に、医薬開発や材料科学など、検証と再現性が不可欠な分野でのAIの応用においては、AIの「科学者」としての能力を過信しない慎重なアプローチが求められるでしょう。今後の展望として、AIの推論過程をより人間が理解し、検証可能な形で提示する技術（説明可能なAI: XAI）や、科学的探求の認識論的規範をLLMに組み込むための新たなアーキテクチャや学習パラダイムの研究が加速することが期待されます。