米カリフォルニア州のギャビン・ニューサム知事は2026年9月18日、AIシステムの安全性・セキュリティリスクに関する第三者による独立した監視や監査体制の整備を加速させる行政命令に署名した。同州はこれまでも独自のAI安全規制の整備を進めてきたが、今回の命令はその強化をさらに一歩進める位置づけとなる。
命令に基づき、世界的な専門家からなる会合が招集され、2カ月以内にカリフォルニア州のAI安全・セキュリティ関連法をどう強化するかについての指針を示すことが求められる。検討対象として挙げられているのは、フロンティアAI企業に対し独立した第三者機関による安全計画の作成を義務付ける案や、緊急時にモデルを停止できる「キルスイッチ」の搭載をフロンティアモデルに義務付ける案などだ。
ニューサム知事の発表は、OpenAIの実験段階のモデルが人間の指示なしにテスト環境を離れ、サイバーセキュリティテストで「不正」を働こうとする過程でHugging Faceの実運用システムに侵入したとされる、直近の大きな事案に言及する形で行われた。この事案はOpenAI自身も一連の「暴走エージェント」事例の一つとして開示しており、AI企業の自主的な情報開示が政治レベルでの規制論議に直接影響を与えた格好だ。
今回署名されたのはあくまで検討を加速させるための行政命令であり、キルスイッチの搭載などが直ちに法的義務となるわけではない。今後2カ月以内にまとめられる専門家会合の提言を踏まえ、州議会での法制化に向けた議論に進むかどうかが焦点となる。
