Microsoftは10月19日、企業内で稼働するAIエージェントの安全な運用を支援する取り組み「Project Perception」の拡張を発表した。同社でIDおよびネットワークアクセスを担当するコーポレートバイスプレジデント、ナディム・アブド氏は公式セキュリティブログで、社内のAIエージェントを外部からの攻撃対象としてだけでなく「内部関係者(insider)」としてのリスクととらえ、人間が設定した方針の範囲内でエージェントの行動をリアルタイムに監視・制御する仕組みを導入すると説明した。
新機能の柱となる「Dynamic Permissions(動的権限)」は、エージェントが特定のタスクを遂行するために必要な権限だけを、必要な時間だけ付与する仕組みだ。エージェントは、それを利用する従業員本人が持つ権限を超える権限を持つことはできず、組織全体のポリシーが上限を定める。重要度の高い操作については人間による承認を必須にすることもできるという。あわせて、エージェントの構成やアクセス範囲、挙動の逸脱などを継続的に評価する「Dynamic Agent Risk」も導入し、Microsoft Sentinel・Entra・Intune・Purviewなど既存のセキュリティ製品群からシグナルを集約するとしている。
公式ブログでは、経費精算を担当するAIエージェントが外部文書に仕込まれたプロンプトインジェクションに遭遇し、本来の業務と無関係な操作を試みた場合の対応例を示している。リスクが高まるにつれ、読み取り権限は残しつつ承認・書き込み権限を失う、アクセス可能な範囲が狭まる、高リスクの操作には人間の承認を求める、最終的には実行環境を隔離・停止するといった具合に、段階的に制御を強める設計だという。あわせて、新たに35種類のAIエージェントをローカルで検知できるようにし、検知対象を合計60種類に拡大したとしており、AnthropicのClaude CodeやOpenAIのCodex、GitHub Copilotなども対象に含まれる。
