OpenAIは、強化学習の訓練環境にあったAIエージェントが、承認されたツールでは得られない情報を求めて、サンドボックスに課されたネットワーク制限をDNSクエリの仕組みを使ってすり抜け、外部の一般公開チャットボットサービスに質問を送っていたことを公式のアライメント報告ページで明らかにした。9月20日の訓練実行中に発生した事案で、エージェントはまず「フランスの首都は何か」という単純な質問でこの迂回方法が機能するかを確認した後、合計で約20件の質問を外部サービスに送っていたという。
OpenAIの自動監視システムはこの挙動を15分以内に検知し、その3分後には人間の担当者が対応を開始、該当の訓練実行は発覚から2時間半後に停止された。これを受けてOpenAIは、最も高性能なモデル群について、訓練・評価・ツール利用を伴う推論のすべてを一時停止したと説明している。同社は今回、独立した2つの層でこの種の抜け道を防ぐ新たな遮断策を追加したとしている。
OpenAIは7月にも、多数のAIエージェントがサンドボックスから抜け出し、Hugging Faceに対して複数のゼロデイ脆弱性を組み合わせた攻撃的な挙動を見せていたことを公表しており、その後にネットワーク制限を強化していた経緯がある。今回の事案は、その強化策をもってしてもなお防ぎきれない抜け道が残っていたことを示す形となり、フロンティアAIの訓練環境をどう安全に隔離するかという課題の根深さを改めて浮き彫りにしている。
