Perplexity、AIを社内で動かす仕組み
Perplexity Ships Portable Computer on NVIDIA DGX Spark: Local Harness, OS-Enforced Sandbox, and Zero Per-Token Cost for Local Steps

Perplexityが、企業が機密情報を扱えるよう、AIを自社の高性能コンピューターで動かすシステムをリリース。データが外部に漏れる心配なくAIを使えるため、金融や医療などの業界で重要です。
Perplexityは、エージェント型のComputerプラットフォームのローカル優先版であるPortable Computerをリリースしました。これは、エージェントのハーネス、オーケストレーター、プランナー、ツールルーター、および後処理済みモデルをNVIDIA DGX Spark上で直接実行します。ローカルモデル、推論エンジン、ツールサンドボックス、およびアプリコネクターは1つのパッケージシステムとして提供され、すべてのタスクはデバイス上で開始され、ローカルモデルによって処理される作業にはトークンごとの料金はかかりません。ステップがライブウェブまたはフロンティア推論を必要とする場合、オーケストレーターは停止して確認した後、その単一のステップを15以上のクラウドモデルのいずれかに送信します。展開可能か?はい、ただし厳格なハードウェア要件があります。これは出荷されるソフトウェアであり、プレビューバイナリではありませんが、GB10クラスのボックスまたは24 GBのVRAMを搭載したRTX GPUが必要です。企業レベルでは、すでにNVIDIAワークステーションを所有している企業や中規模市場のチーム、および資金が豊富なAIネイティブスタートアップが対象です。一般的な中小企業には実現不可能であり、マシンが参入障壁となります。産業分野:金融、法律、ヘルスケア、政府および防衛、および知的財産が重要なエンジニアリングなど、データレジデンシーや契約上の機密保持がクラウド推論を妨げるあらゆる場所です。アプリケーション:文書セット全体の料金および開示レビュー、PIIに限定された研究、リポジトリ規模の移行、ローカルコーパスの一括要約、およびSlackで完結するPRトリアージなどです。実際にデバイスに搭載されるもの:Portable Computerは、ファイルピッカーを備えたローカルチャットアプリではありません。Perplexityは、ローカルモデル、推論エンジン、エージェントハーネス、ツールサンドボックス、およびアプリコネクターを1つのシステムとしてパッケージ化しており、推論サーバーを立ち上げたり、ツールを手動で配線したりする通常の作業を不要にします。ユーザーはQwen 3.8 27BまたはPPLX 27B(Perplexity独自のハーネス用に調整された後処理済みバリアント)のいずれかを選択でき、オープンな30B MoEモデルであるNVIDIA Nemotron 3.5 Lightningが近日中に利用可能になる予定です。独自のモデルと推論サーバーの持ち込みもサポートされています。コードとツール呼び出しは、プロセス、ファイルシステムパス、およびネットワークアクセスを制限するOS強制サンドボックス内で実行されます。サンドボックスが利用できない場合、ツール実行は
この記事について質問
記事の内容に答えます。記事外のことは都度ウェブで調べます。