脳波AIが進化、様々な長さのデータに対応

今週、ZyphraはApache 2.0ライセンスのもとでZUNA1.1をリリースしました。このEEG foundation modelは、任意のチャンネルレイアウトにわたってデータを再構築し、ノイズを除去し、アップサンプリングします。これは、Zyphraの以前のオープンなEEG foundation modelであるZUNA1を基盤としています。主な変更点は、生の精度の大幅な向上ではなく、柔軟性です。実際のEEG記録は乱雑です。セッションの長さは様々で、セッション中にチャンネルがノイズになったり、途切れたりすることがあります。モンタージュ（電極配置）は、4電極のヘッドバンドから256チャンネルの研究用キャップまで多岐にわたります。ZUNA1は固定された5秒間のセグメントのみを処理していました。ZUNA1.1は0.5秒から30秒までの可変長入力を受け入れます。 どのようなZUNA1.1か？その柔軟性を理解するには、まずモデルが何をするかから始めましょう。ZUNA1.1は、頭皮EEG信号用の3億8000万パラメータのmasked diffusion autoencoderです。チャンネルのサブセットが与えられると、既存のEEGセグメントとチャンネルのノイズを除去します。欠落しているものを再構築します。また、頭皮上の物理座標が与えられた場合、新しいチャンネル信号を予測することもできます。パラメータ数はZUNA1から変更されていません。コンシューマーGPUで動作し、多くのワークロードではCPUでも許容範囲で動作します。WeightsはHugging Faceに、inferenceおよびpreprocessingコードはGitHubにあります。pip install zunaでインストールできます。Zyphraは無料のブラウザEEG Playgroundもホストしており、これらすべてを研究用途のみに提供しています。 アーキテクチャの仕組み この柔軟性はtokenizationに基づいています。ZUNAはtransformer encoder–decoder diffusion autoencoderです。各チャンネルを0.125秒のセグメント（256 Hzで32サンプル）にスライスします。各セグメントは連続値のトークンになります。トークンはチャンネル×時間の順序でシリアル化されます。位置エンコーディングが重要なアイデアです。各トークンは(x, y, z, t)にわたる4D rotary positional encodingを持っています。これは電極の3D頭皮座標と、その粗い時間インデックスです。アレイインデックスではなく位置がモデルにチャンネルがどこにあるかを伝えるため、ZUNAはチャンネルに依存しません（channel-agnostic）。任意の電極レイアウトを受け入れ、これまでに記録されたことのない位置で信号を生成できます。この機能により、任意のチャンネルアップサンプリングが可能になります。