Politicoの報道をもとに複数メディアが伝えたところによると、Anthropicは連邦レベルのAI安全法案の草案を議会関係者に非公式に提示した。草案では、商務省がAIモデルの停止を求められる条件を、生物兵器・サイバー攻撃・AIの制御不能化という3分野に限り、かつ「50人以上の死傷、または10億ドルを超える損害を予見可能かつ急迫した形でもたらすリスク」がある場合に限定している。
商務省は単独で停止命令を出せるわけではなく、ワシントンDCの連邦地方裁判所の決定を経る必要があるとされる。モデルのリスクを評価する機関は商務省への登録制とし、評価対象の企業から報酬を受け取ることは認められるものの、評価結果に応じた成果報酬型の支払いは禁止される。評価機関には、重大なリスクを確認した場合に72時間以内に報告する義務も課されるという。
この草案はまだ公開されておらず、法制化に向けた具体的な日程も明らかになっていない。報道では、AI企業自身が自らに適用されるルールの枠組みを形作っている構図への批判も紹介されている。Anthropicが6月に公表した独自の安全基準「Advanced AI Framework」との整合性については、今回の草案の内容からは確認できていない。
出典: Cybernews
