AIが動かすPCを乗っ取れる可能性

AIモデルを動かすホストマシンは、価値の高い標的です。それらは最先端のLLMを実行するのに十分な計算能力を持ち、LLMのweightsへの簡単なアクセスを提供し、インターネット上の一般的なコンピューターと比較して、データセンター内の他のコンピューターへの特権的なアクセスを持っています。研究によると、LLMは、LLMをGPUにロードするソフトウェアの脆弱性を悪用するtoken sequencesを実行できることが示されています。この攻撃対象領域は、visionおよびaudio tokensによってさらに拡大する可能性があります。この種の攻撃に対する考えられる軽減策は、GPUとtoken parsersを別々のコンピューターで実行し、GPUホストに付与される権限を制限し、それらが発するすべてのデータを信頼できないものとして扱うことです。