OpenAI、ChatGPTに新安全機能「信頼できる連絡先」を導入

大規模言語モデル（LLM）の普及に伴い、ユーザーの精神的健康や安全に関する懸念が高まっています。特に、AIとの対話が深まる中で、ユーザーが自傷行為に関する情報を共有する可能性も否定できません。OpenAIは、このようなデリケートな問題に対し、AIの社会的な責任を果たすべく、ChatGPTに「信頼できる連絡先（Trusted Contact）」という新たな安全機能を導入しました。

この機能は、ユーザーがChatGPTとの会話中に深刻な自傷行為の兆候を示した場合、事前にユーザーが設定した信頼できる連絡先（友人、家族、医療専門家など）に通知を送信するというものです。この通知は、AIが会話の内容を分析し、特定のキーワードや文脈から自傷行為のリスクが高いと判断した場合にのみトリガーされます。ユーザーは、この機能をオプトインで利用でき、通知が送られる条件や連絡先を自身で細かく設定することが可能です。OpenAIは、この機能の導入にあたり、プライバシー保護とユーザーの同意を最優先事項としており、通知が送信される前にユーザーに確認を促すメカニズムも組み込んでいます。

技術的な意義としては、LLMが単なる情報提供やタスク実行のツールに留まらず、ユーザーの感情や心理状態を高度に分析し、危機介入を支援する「共感的なAI」としての役割を担い始めた点が挙げられます。これは、AI倫理の観点からも重要な進展であり、AIが社会に与えるポジティブな影響を最大化するための新たな方向性を示しています。また、AIが人間の複雑な感情表現を理解し、適切な対応を生成するための技術的な挑戦でもあります。

社会・産業への影響としては、精神的健康サポートの分野におけるAIの潜在能力がさらに認識されるでしょう。自殺予防やメンタルヘルスケアにおいて、AIが早期警戒システムとして機能し、専門家や支援者と連携することで、より多くの命を救う可能性を秘めています。一方で、誤検出のリスクや、プライバシー侵害の懸念、そしてAIが提供する支援の限界についても、引き続き議論と改善が求められます。

今後の展望として、この機能は他のAIプラットフォームにも広がり、より広範なユーザー安全対策として確立される可能性があります。また、自傷行為だけでなく、他の緊急事態（例えば、虐待や暴力の兆候など）にも対応できるよう、AIの検知能力と介入メカニズムが進化していくことが期待されます。これにより、AIがより安全で、人間に寄り添う存在となる未来が描かれます。