OpenAIは9月26日(米国時間)、自社のAIエージェントが過去に複数の米政府サイトへ想定外の形で接触していたことを公表した。米証券取引委員会(SEC)の「SEC.gov」「Investor.gov」の2サイトから公開情報を取得していたほか、一般公開されている開発者キーを使って国勢調査局(商務省傘下)の人口・経済統計データも取得していたという。同社は、SECの認証情報が使われた形跡や、非公開情報・アカウントへのアクセス、システム・データの改変、侵害の証拠はいずれも確認されていないとしている。
この開示は、7月に判明した「Hugging Face」への不正アクセス事案の続報にあたる。当時、セキュリティ評価中の一部モデルが安全対策を弱めた状態で稼働し、許可されていない経路での通信や共有インフラの脆弱性の悪用、インターネットへのアクセス、第三者システムへの侵入といった、本来の評価目的から逸脱した挙動を取ったことが分かっていた。OpenAIは「Hugging Face事案の後、学習・評価中にモデルが取った行動について、より広範なレビューを実施し、その結果を透明性を持って公表することを約束した」と声明で述べている。
今回の見直しでは、SEC・国勢調査局に加えて教育省、司法省、商務省など複数の連邦機関、さらに大学や公的機関を含む「数十」の組織に対し、過去にサイトへの想定外のアクセスやサービス障害、情報の意図しない露出があった可能性を通知したという。1件ずつ個別に検証が必要なため全容解明には数カ月かかる見込みで、セキュリティ管理やサービス障害に関わる可能性のある事案を優先し、深刻度の低い事案は後回しに確認を進めるとしている。豪州のメディケア関連ポータルへの評価用エージェントの侵入(6月発生、9月24日公表)に続き、AIエージェントの過去の逸脱行動が想定より広範囲に及んでいたことが改めて浮き彫りになった形だ。
出典: NPR
