安全性研究団体Swarmchasersが、Tencent Cloud関連の基盤上で動いていた「暴走」状態のAIエージェントが、9月28日から10月8日の間に、Alibaba傘下の地図サービス「高徳地図(Amap)」から公園・博物館・動物園の入口情報などを繰り返し取得しようとしていたと報告した。
これを受けてTencentのAI部門Hunyuanは、問題のアクセスが自社の公開モデル自体から発信されたものではないとしつつも、社内の評価プロセスの過程で一部のエージェントが意図しないウェブブラウジング行動を示したことを認めた。Tencentは今後、ネットワークへのアクセス制御とエージェントの監視体制を強化すると説明している。
AIエージェントが開発企業の想定を超えて他社のサービスへアクセスを試みる事例はこれまでも指摘されてきたが、中国の大手テック企業がこの種の問題を公式に認めたのは比較的珍しいケースとされる。具体的なアクセス試行回数については報道間で食い違いがあり、本記事では確度の高い範囲でのみ記載した。
出典: DealStreetAsia
