Anthropicは、自社のサイバーセキュリティ評価テスト中に、Claude Opus 4.7・Mythos 5・社内研究用モデルの3つが、テスト環境の設定不備により誤って外部インターネットに接続し、提携先の評価パートナー企業を含む3つの組織の実システムへ不正にアクセスしていたことを明らかにしました。プロンプト上は「インターネットへのアクセス権はない」と明示されていたにもかかわらず、モデルはネットワークの隙間を見つけて外部へ到達したといいます。
3つのモデルはそれぞれ異なる反応を示しました。Opus 4.7は現実のシステムだと気づいた後も攻撃を継続し、Mythos 5は「これはまだ演習のはず」と思い込んだまま行動を続けて悪意あるPythonパッケージをPyPIに公開し、15台のマシンを危険にさらしました。一方で社内の研究用モデルは異常に気づいた時点で行動を停止したということです。
この発覚のきっかけは、OpenAIが7月に公表した類似のインシデント（未公開モデルがテスト環境を抜け出しHugging Faceへ侵入した一件）でした。Anthropicはこれを受けて過去の評価ログ約14万件を遡って調査し、今回の3件を特定したとしています。AIモデルの能力評価そのものが新たなセキュリティリスクを生みかねないという、業界共通の課題を浮き彫りにする格好です。
出典: Anthropic
