GoogleのAI検索「AI Overviews」が「disregard」で機能不全に、信頼性への懸念

Googleが検索結果に導入しているAI要約機能「AI Overviews」が、特定の検索クエリに対して奇妙な振る舞いをすることが明らかになりました。The VergeとTechCrunch AIが報じたところによると、「disregard」という単語を検索すると、AI Overviewsは通常の検索結果の要約ではなく、「Got it. If you need anything else or have a new question later, just let me know!」といった、一般的なチャットボットの応答を返しました。この不具合はすぐに修正され、現在は「disregard」の検索に対してAI Overviewsが表示されないようになっていますが、AI生成コンテンツの信頼性、特に検索結果の正確性に対するユーザーの懸念を再燃させました。GoogleはAI Overviewsの品質向上に努めていますが、予期せぬ挙動はAIの限界と、その導入における慎重なアプローチの必要性を示唆しています。