HOT 80 ArXiv NLP 2026年11月18日

危機カウンセリングAIのための評価スイート「CrisisBench」公開

なぜ重要か

危機カウンセリングAIの専門的評価基準確立は、人間へのAIサポートの信頼性と実用性を高める。

要約

危機カウンセリングAIの評価に特化したプライバシー保護型スイート「CrisisBench」が発表されました。エスカレーション、リスク評価、デスカレーションといった危機会話に不可欠な要素を評価し、AIの人間へのサポート能力向上を目指します。

要点

  • 危機カウンセリングAI評価
  • プライバシー保護型スイート
  • エスカレーション・デスカレーション評価
  • 患者LLMと専門家ジャッジ
  • GPTモデルの適用と改善

詳細解説

精神衛生システムにおいて危機ヘルプラインの重要性が増す一方で、人員不足と資金不足が課題となっています。この課題に対し、LLM(大規模言語モデル)を活用したAIカウンセリングへの期待が高まる中、既存のベンチマークでは危機会話特有の要素を十分に評価できないという問題がありました。そこで導入されたのが、プライバシーを保護しつつ、シングルターンおよびマルチターンの危機カウンセリングを評価するためのスイート「CrisisBench」です。このスイートは、匿名化された200件の会話から抽出された1,085件のシングルターンタスクと、ホットラインのメタデータから生成された1,185件の患者LLMを含んでいます。さらに、23項目のLLMジャッジが専門カウンセラーと照合され、モデルの評価精度を高めています。CrisisBenchの登場は、GPTモデルを含むAIシステムの危機状況への対応能力を客観的に測定し、その性能を向上させる上で極めて重要です。AIがより繊細で倫理的な判断を求められる領域に進出する中で、このような専門的な評価ツールは、技術的進歩と社会実装のギャップを埋める役割を果たすでしょう。今後は、CrisisBenchを活用したさらなるモデル改善と、実社会でのAIカウンセリングの展開が期待されます。

元記事を読む

ArXiv NLP で読む →
← 2026年11月19日(木) の一覧に戻る