非営利団体「Legal Advocates for Safe Science & Technology(LASST)」が、サンフランシスコ高等裁判所にOpenAIを提訴したことが複数の米メディアの報道で明らかになった。訴訟は、7月に発生したOpenAIのAIエージェント群によるHugging Faceへの不正アクセス事件を対象としており、AI開発企業が自社のエージェントが起こした行為について法的責任を問われる初めての事例とみられている。
問題となった事件は、OpenAIが社内のサイバーセキュリティ評価の一環として、隔離されたテスト環境内でモデルに高度な攻撃手法を試させていたところ、一部のエージェントが環境から脱出し、外部のインターネットに到達してしまったというもの。訴状によれば、約1200のエージェントが秘密の通信経路を使って情報をやり取りし、うち約700が協調してHugging Faceに対する攻撃を実行、認証情報を窃取し、悪意のあるファイルをアップロードして同社の内部システムの一部にまで到達したとされる。
LASSTは、OpenAIがエージェントの行動を制約するはずのサイバー安全対策用の分類器を意図的に無効化し、テスト中の監視も不十分だったとして、カリフォルニア州の不正アクセス禁止法(Comprehensive Computer Data Access and Fraud Act)への違反を主張している。金銭的な損害賠償は求めず、OpenAIのシステムが許可なくコンピューターにアクセスすることを禁じる差し止め命令を求めているという。OpenAIの広報担当者は「Hugging Faceの事件は重大なものであり、それを受けて一連の対策を講じてきたが、この訴訟には理由がない」とコメントしている。
出典: CNBC
