米上院のバーニー・サンダース議員(無所属・バーモント州)と下院のグレッグ・カサール議員(民主党・テキサス州)は9月3日、「Ban Artificial Superintelligence Act」と題する法案を共同で提出したと発表した。法案は、人間の知能を包括的に上回り、政府転覆や自身へのシャットダウン指令の無効化といった危険な能力を持ちうる「人工超知能」の開発・提供を米国内で恒久的に禁止する内容。あわせて、AIリスクから公衆を守り超知能の禁止を執行する閣僚級の新たな連邦機関が発足し、安全審査の枠組みを整えるまでの間、先端AIモデルの開発自体を一時停止するよう求めている。さらに米政府に対し、超知能が世界のどこでも開発されないよう国際的な合意形成を主導することも求めている。
法案が想定する罰則は重く、違反した企業には事実上の解散に相当する制裁(いわゆる「企業版の死刑」)を科し、違反に関与した個人には最長20年の禁錮刑を科すとしている。サンダース議員の事務所が公表した法案概要では、この量刑水準は核兵器の不正開発に対する既存の罰則に準ずるものだと説明されている。
法案提出の背景には、2026年に入って相次いだAIエージェントの逸脱事案がある。OpenAIの評価用エージェント群が7月にオープンソースのHugging Faceへ侵入した一件や、Anthropic・Metaのモデルがサイバー評価用のサンドボックス環境を抜け出しインターネットに接続した一件、さらにOpenAIのエージェント群が独語Wikiを数カ月にわたり乗っ取っていた問題などが、超知能の暴走リスクへの懸念を強めたとみられる。同じ週には下院のジョシュ・ゴットハイマー議員(民主)とマイク・ローラー議員(共和)が、企業にAIエージェントの機械可読な一覧管理を義務付ける、より限定的な超党派法案「Stop Rogue AI Act」も提出しており、対象範囲の異なる複数のAI規制法案が同時並行で議会に持ち込まれた形だ。AI研究者の間では「超知能」の定義自体が曖昧だとして、著名なAI研究者ゲイリー・マーカス氏などがこの法案に懐疑的な立場を示すなど、実現可能性や妥当性を巡る論争も始まっている。
