Anthropicは9月1日(米国時間)、企業顧客向けの新しいデータ保護・監視の枠組み「Enterprise Frontier Safeguards(EFS)」を発表した。プロンプトと出力をAnthropic側で保持しない「ゼロデータ保持」を維持しながら、不正利用の兆候を検知する自動監視の仕組みを組み合わせたもので、6月に「Claude Fable 5」の提供開始とあわせて導入された、最大30日間のデータ保持を義務付ける方針に代わるものとなる。
従来のポリシーは、サイバー攻撃や生物兵器開発への悪用など「複雑で新規性の高い」誤用への対策としてAnthropicが導入したものだったが、規制業種を含む一部の企業顧客から強い反発を招き、Microsoftなどが懸念を示していたと報じられている。EFSでは、不正利用監視のためのログをAnthropic自身が預かるのではなく、Amazon S3、Azure Blob Storage、Google Cloud Storageなど顧客自身が管理するクラウド環境に、顧客自身の暗号鍵のもとで保存する仕組みに切り替えた。
監視自体は自動化された分類システムが直近の通信履歴を継続的に走査し、攻撃的なサイバー能力や生物学的能力の開発を試みる兆候、盗まれた・漏えいした認証情報の兆候といった深刻な誤用の兆候を検知した場合に、Anthropicの従業員が手動でログにアクセスすることなく、直接顧客側にフラグを通知する仕組みだという。
EFSは追加費用なしで提供され、Claude Code、Claude Enterprise、Claude Platform、Amazon Bedrock、GoogleのAgent Platform、Microsoft Foundryなど主要な提供チャネルに、この秋以降段階的に展開される予定。今回の対応は、AIモデルの安全性評価をめぐる一連の事故を受けた再発防止策の公表から間もないタイミングでの発表であり、Anthropicが企業向けの信頼確保に力を入れている姿勢がうかがえる。
出典: Anthropic公式ブログ
