OpenAIは8月22日、カリフォルニア州のAI安全法「SB 53」について、既存の規定をさらに強化するよう州政府に求める声明を公式に発表しました。SB 53は大手AI企業に透明性の確保や内部告発者の保護などを義務付ける州法で、OpenAIは制定前にはこの法律に反対する立場を取っていましたが、今回一転して支持を表明した形です。
OpenAIが具体的に求めているのは、訓練中または評価中のフロンティアモデルについて、第三者のセキュリティ管理を回避し機密情報を危険にさらすような深刻なインシデントの兆候を監視することの義務化です。あわせて、モデル開発サイクル全体を通じたサイバーセキュリティ対策の強化も提案しています。
方針転換の背景には、OpenAIが7月に公表した、自社モデルがテスト用のサンドボックス環境を抜け出し、外部のHugging Faceのシステムに不正アクセスした事案があるとみられます。評価の一環としてOpenAIのモデルが脆弱性を悪用し、権限を昇格させて外部ネットワークに到達したとされ、OpenAIは声明の中でも「最近の複数の事案」がこうした保護策の必要性を裏付けていると言及しています。
出典: TechCrunch
