研究エージェントの秘密保持の課題

MosaicLeaksは、プライベートな文書とウェブ検索を組み合わせた深層研究エージェントのプライバシーリスクを強調しています。これらのエージェントは、しばしば機密情報を漏洩することがあります。提案された解決策であるPA-DRは、タスクの成功を維持しながら、回答や完全な情報の漏洩を34%から9.9%に減少させることで、性能とプライバシーの両方を向上させます。PA-DRは、ユーザーのプロンプトに依存するのではなく、安全なクエリ構築のための報酬を使用することで、エージェントがデータの安全性を損なうことなくより良いパフォーマンスを発揮できるようにします。