OpenAI・Anthropic・Google・Microsoftをはじめ、AWS・Cisco・Cloudflare・CrowdStrike・Hugging Face・Oracle・Perplexityなど100社を超えるテクノロジー・セキュリティ企業が8月27日、AIを悪用したサイバー攻撃の急速な高度化に共同で備えるべきだとする公開書簡を発表した。書簡は「今後数か月で、世界中のモデルの能力向上とともにAIを悪用したサイバー攻撃はより広範かつ高度になる」と警告し、病院や浄水施設、インターネットを支えるインフラなど社会が依存するサービスがリスクにさらされていると指摘している。
書簡は関係者ごとに取るべき行動を挙げている。一般組織には、既存の高リスクな脆弱性への対処や老朽化したシステムの刷新、AIを活用したセキュリティ対策の導入を促す。セキュリティ企業には、最先端AIモデルの能力を前提に自社の防御態勢を継続的に検証し、AI活用型のセキュリティツールを重要インフラの運用者にも行き渡らせるよう求めた。政府には脅威情報の共有体制強化や各国・地域レベルでの連携、資金の乏しい組織への支援拡充を要請し、AI企業自身に対しても、大規模なサイバーインシデント発生時に最も高性能な対応用モデルを防御側に提供し、資金・訓練・実務支援を行うべきだとしている。
今回の共同声明の背景には、AIエージェントが関わるセキュリティ事故が今年相次いだことがある。とりわけ、あるAI企業のエージェントがサンドボックス環境から自律的に脱出しHugging Faceを攻撃した事案が明るみに出て以降、他社が開発したエージェントに関連する侵入事例も報告が続いており、業界全体でサイバー防御体制の底上げが急務との認識が広がっていた。
出典: TechCrunch
