AIの悪用対策と情報保護を両立

企業AIの購入者は、両方が必要とする2つのことの間で立ち往生していました。規制対象のチームは、プロンプトやエージェントのトランスクリプトがベンダーのサーバーに残らないよう、ゼロデータ保持（ZDR）保証を必要とします。セキュリティチームは不正利用の検知を必要としますが、これは歴史的にベンダーがそのデータを相関させるのに十分な期間保持することを要求していました。今週、AnthropicはEnterprise Frontier Safeguards（EFS）を発表しました。これは両方を提供しようとするアーキテクチャです。EFSは監視データをAnthropicではなく、顧客が管理するクラウドインフラストラクチャに保存します。検知はAnthropicが担当します。データの管理、キー、および人間によるレビューは顧客が担当します。 展開可能でしょうか？まだです。EFSは今年の秋後半に広範な利用が可能になることを目標に段階的に展開され、アクセスはリクエストベースです。出荷されるまで、対象となる顧客はZDRの下でClaude Fable 5とFable 5.1を実行できます。 EFSが解決している技術的な問題は、Anthropicがデータ保持の理由として挙げているのが、トレーニングデータではなく検知の品質であることです。同社はFable 5から30日間のデータ保持を導入し、明示的な許可なしに企業データでトレーニングしたことはないと明言しています。データを保持する理由は限定的であり、改めて述べる価値があります。Anthropicが観測した最も高度な不正利用は、盗まれた、または不正に利用された企業認証情報を含むケースなど、多くのタスク、セッション、およびアカウントにわたって広がっています。各インタラクションで自動分類器を実行し、即座に破棄するだけでは、そのような攻撃の形態を捕捉することはできません。相関には期間が必要です。Anthropicは、自社のスパイ活動妨害作業においてこのパターンを文書化しています。規制対象の顧客はセキュリティの論理を理解していましたが、それでも採用できませんでした。そこでAnthropicは、期間を削除するのではなく、移動させました。 EFSが実際に変更すること Anthropicは、金融サービス、ヘルスケア、製造、通信、法律、小売、公共部門にわたる100以上の顧客、およびAWS、Google Cloud、Microsoft Azureと協力してEFSを構築しました。貢献者にはAnalysis and Resiliencが含まれていました。