Perplexity、Macで個人情報守るAI
Perplexity Releases Hybrid Compute on Mac: Cloud Agents Orchestrate Down to a Local Model, Gated On Device

PerplexityがMacで個人情報を守りながらAIを使える「ハイブリッド計算」をリリース。機密情報をクラウドに送らずAIが利用でき、ビジネス利用を大きく広げます。
エージェント型アシスタントには構造的な問題があります。彼らを便利にする文脈、つまり取引文書、機密ファイル、顧客記録といった情報は、ユーザーがクラウドのエンドポイントに送信できない情報そのものです。今週、PerplexityはMac向けにその解決策を提供しました。ハイブリッド計算は、単一のPerplexity Computerタスクを、クラウドのfrontier modelsとユーザーのMac上のcompact modelに分割します。デバイス上のprivacy gateが、どの情報が境界を越えてもよいかを決定します。Perplexityは、そのgateの背後にあるclassifierもオープンソース化しました。展開可能でしょうか?はい、ハイブリッド計算は、macOS 15以降を実行し、少なくとも24GBのunified memory(32GB推奨)を搭載したApple silicon Macを使用しているPro、Max、およびEnterpriseの購読者向けに提供されています。ローカルモデルはMacアプリからワンクリックでインストールでき、Ollama、個別のruntime、API keyは不要で、ローカルでの作業はクラウドクレジットを消費しません。ハイブリッド計算が実際にすること。orchestrationの方向性が設計上の決定事項です。Computerはすべてのタスクをクラウドで開始し、そこでfrontier modelsがweb search、planning、long-horizon reasoningを処理します。あるステップがprivate filesやsensitive dataに触れる場合、Computerはそのステップをタスクを再開したりcontextを失うことなくMac上のlocal modelに渡し、その後両方の結果を1つに統合します。これは、Perplexityが1週間前にNVIDIA DGX Sparkで提供したlocal compute modeとは逆です。そちらはユーザーのハードウェアで開始し、許可を得てcloud modelsにエスカレートします。同じorchestratorですが、デフォルトが逆です。ComputerはiPhoneと連携するため、機密性の高いステップが机上のMacで実行されている間に、タスクをリモートでトリガーできます。Perplexityは、このパターンに特化した専用のlocal inference nodeとして、常時稼働のMac miniを位置付けています。privacy gateが主要なコンポーネント。保護されたファイルからの情報がクラウドに到達する前に、デバイス上のclassifierがそれを検査し、gateは4つの結果のいずれかを適用します。それは、ローカルに保持する、機密部分をマスクする、アクションを拒否する、またはユーザーに同意を求める、です。
この記事について質問
記事の内容に答えます。記事外のことは都度ウェブで調べます。