GoogleがAI学習のプライバシー強化

Google Researchは、Trusted Execution Environments (TEEs) 上に構築された次世代のFederated Learning (FL) システムを発表しました。研究チームは、FLにおいて外部から検証可能な中央Differential Privacy (DP) 保証を初めて実現したと主張しています。 どのような問題をTEEベースのFederated Learningは解決するのか？ Googleは2017年にFederated Learning (FL) を導入しました。これはGboardでの次単語予測やSmart Compose、Google Messagesでの返信候補、AndroidでのSmart Text Selectionを支えています。以前のシステムには信頼のギャップがありました。デバイスはデータを即座に集約するためにアップロードしましたが、外部の人はデータが記録されたり検査されたりしていないことを検証できませんでした。Secure Aggregationは暗号による保護を追加しましたが、matrix factorization DP-FTRLのような最先端の中央DPアルゴリズムとは互換性がありませんでした。また、GoogleがDPノイズを正しく追加していることを信頼する必要がありました。新しい設計では、クライアントの勾配計算をサーバーに移動させます。そして、そのサーバーロジックを証明可能にすることで、オペレーターを信頼する必要がなくなります。 システムはどのように機能するのか？ このシステムは、Googleの以前の機密Federated Analyticsの取り組みに基づいて構築されています。それは4つの主要コンポーネントを調整します: データアップロード: デバイスはトレーニング例をローカルで暗号化し、アクセスポリシーを事前に承認します。このポリシーは、どのTEE計算がデータを処理できるかをリストします。ポリシーは公開透明性ログに表示されなければなりません。 KMSとポリシー検証: RAFTコンセンサスプロトコルを実行するTEEsから構築されたKey Management System (KMS) は、ポリシーに一致するワークロードにのみキーをリリースします。 ワークロード実行: ルートTEEがPythonトレーニングループを実行し、サブタスクをワーカーTEEsに委任します。オーケストレーションには、TensorFlow Federatedから派生したFederated Languageが使用されます。DPモデルの重みのみがリリースされます。 フォールトトレラントな回復: 各ラウンドは、ルートまたはワーカーの障害を処理するためにKMSで暗号化された回復状態を保存します。 なぜプライバシー保証は検証可能なのか？ アクセスポリシーは、Sigstoreの公開透明性ログであるRekorに公開されます。外部の監査人はすべてのs