OpenAI、Anthropic、Googleの3社が、フロンティアAIモデルの安全性を巡る自主規制団体「Standards Authority for Frontier AI(SAFA)」の設立に向けて動いていると、複数の米メディアが9月25日に報じた。当初は政府の関与を伴う官民パートナーシップを目指していたが、ホワイトハウスが検討していた大統領令の草案が保留となり、業界側でまず合意形成を進めるよう促されたことを受けて、政府主導の枠組みから自主規制路線へと方針転換したという。立ち上げ時期は2026年末から2027年初頭を見込んでいる。
SAFAは倫理指針のような抽象的な原則の提示にとどまらず、モデルの一般提供前に第三者機関が実施する安全性テストの枠組み、安全・セキュリティ上のインシデント報告のルール、各社が表明してきた自主的な安全コミットメントの運用方法、モデルや開発企業を評価する独立監査人の資格要件などを具体的に定める組織として構想されている。この構想は7月にGoogle DeepMindのデミス・ハサビスCEOが提唱したもので、米国の証券会社を監督する自主規制機関FINRA(米金融取引業規制機構)をモデルにしているという。トップ人事では、ホワイトハウスでAI政策顧問を務めたスリラム・クリシュナン氏に打診しているほか、同じくホワイトハウス科学技術政策局長を務めたアラティ・プラバカール氏にも指導的役割への就任を打診していると報じられている。
一方で、当初は最大手のフロンティアラボのみを対象とする見通しであることから、オープンソース開発者を含む他の企業が事実上締め出されかねないとの懸念も指摘されている。フロンティアAI開発でしのぎを削る当事者企業自身が安全基準の策定を主導する構図に対し、独立性を疑問視する声も上がっている。
出典: CIO
