タグ
5件 · 2週間分
予測モデルの意思決定プロセスを説明するIMEX（Interaction-Based Model Explanation）アプローチが提案されました。一方で、Explainable AI（XAI）研究全体では、表面的な手法論の羅列に留まらず、基礎的な問題設定や評価指標の明確化が喫緊の課題とされており、実世界への影響力向上には抜本的な見直しが不可欠です。
衛星地上局の最適な配置を決定するため、LiDARデータから得られる地形情報を用いて、代表的なクラッター高さ（RCH）を予測する解釈可能な機械学習フレームワークが提案されました。これにより、既存の固定的なクラッター高さの課題を克服し、衛星通信の干渉解析精度を向上させます。
Explainable AI (XAI) の技術が多数存在するにもかかわらず、それが実世界のワークフローに影響を与えることが稀であると指摘されています。本論文は、XAI研究が「アドホックな手法」の開発から、問題の定式化、評価目的の不明確さ、フィードバックパイプラインの欠如といった「基礎的・構造的課題」に取り組む方向へ転換すべきだと主張しています。
最先端LLMは多言語タスクで強力な性能を発揮する一方で、点字翻訳のような構造的に制約のあるアクセシビリティ重視のモダリティでは課題を抱えています。また、金融分野などリアルタイム性が求められる場面では、モデルの学習データによる情報の鮮度（ルックアヘッドバイアス）が問題となることが指摘されています。
LLMベースの科学研究システムは自律的に研究を進め、結果を生み出すものの、その推論プロセスが科学的探求の認識論的規範に沿っているかについては疑問が呈されています。25,000回以上のエージェント実行を通じて、ベースモデルが性能と挙動の主要な決定要因であり、科学的推論におけるLLMの限界が浮き彫りになりました。