カリフォルニア州、AIの「キルスイッチ」義務化と監視加速を推進

ガビン・ニューサム・カリフォルニア州知事は、最先端AIシステムに対する州の管理を強化する積極的な動きとして、新たな行政命令を発令しました。この命令の背景には、AI技術の急速な進化とそれに伴う潜在的リスクへの懸念があります。特に、自己進化する可能性のあるAIモデルが制御不能になる「暴走AI」のリスクが指摘されており、政府レベルでの介入が不可欠であるとの認識が高まっています。具体的には、この行政命令は、9日前に制定されたばかりの2つの法律、上院法案813号と下院法案1405号の施行スケジュールを前倒しするものです。これらの法律は、独立した組織がAIシステムを監査し、認証するための枠組みを確立するものです。さらに、ニューサム知事は、フロンティアAI開発者に対し、緊急時にシステムを停止できる「キルスイッチ」機能の組み込みを義務付ける可能性について、専門家グループによる検討を指示しました。これは、AIの安全性と信頼性を確保するための極めて重要な措置と位置づけられています。この動きは、AIのガバナンスにおける新たなベンチマークを打ち立てる可能性があり、他の州や国々にも影響を与えるでしょう。開発者や企業は、より厳格な規制と安全基準への準拠を求められることになり、AIシステムの設計と運用において「安全性ファースト」のアプローチがこれまで以上に重要になります。今後、この専門家グループがどのような具体的な勧告を出すか、そしてそれがどのように州法に反映されるかが注目されます。また、AI技術の安全な発展と社会実装の両立を目指す上で、カリフォルニア州の取り組みが国際的な規範となる可能性も秘めています。