ミストラルAI、危険判定AIを公開

Mistral AIは、オープンウェイトでポリシー適応型のマルチモーダル安全分類器であるShieldstral 1.0 3Bをリリースしました。これは、コンテンツモデレーションを、危害カテゴリの固定された分類法ではなく、単一のイエス/ノーの質問として扱います。ほとんどのガードレールモデルは、カテゴリリストをウェイトに組み込んでいるため、新しいデプロイメントコンテキストに再ターゲットするには再トレーニングが必要になります。同じコンテンツでも、サイバーセキュリティ研究ツールでは許容されても、メンタルヘルスプラットフォームでは有害となる可能性があります。Shieldstralはこれを逆転させます。オペレーターは推論時にポリシーを平易な言語の質問として記述し、モデルは単一のフォワードパスから調整された安全スコアを返します。Ministral-3-3B-Base-2512をベースに、ネイティブのPixtralビジョンエンコーダーを搭載し、Apache 2.0ライセンスでリリースされたこのモデルは、テキストの安全性で平均84.9%のF1スコアを報告し、GPT-OSS-Safeguard-20Bに匹敵します。また、マルチモーダルの安全性では83.8%を達成し、Mistralが評価したすべてのベースラインを上回っています。デプロイ可能でしょうか？はい、ローカルでも可能です。Shieldstral-1.0-3BはBF16で16GBのVRAMに収まり、単一のGPUで動作し、商用および非商用利用のためにApache 2.0ライセンスで提供されています。提供パスはすでに整備されており、vLLM (0.26.0以上、推奨)、GGUF変換によるQ8_0/Q5_K_M/Q4_K_M量子化を使用したllama.cpp、SGLang、およびTransformersに対応しています。fine-tuningはAxolotlを通じてサポートされています。この分類器は1つのトークンを出力するため、GPT-OSS-Safeguard-20Bのような推論ベースのガードレールよりもレイテンシとコストがはるかに低くなります。どのようなレベルの企業向けかというと、16GBのフットプリントにより、モデレーションベンダーとの契約を正当化できないシードステージのAI製品チームでも利用可能です。また、オープンライセンスとセルフホスティングの特性は、データレジデンシーや監査の理由でVPC内またはオンプレミスでガードレールを必要とするミッドマーケットおよびエンタープライズチームに適しています。マルチテナントSaaSベンダーは、1つのチェックポイントで顧客ごとに異なるポリシーを適用できるという具体的なメリットを得られます。対象産業は、消費者向けソーシャルおよびUGCプラットフォーム、教育技術および子供の安全関連、ヘルスケアおよびメンタルヘルスアプリ、フィンテックおよび保険サポート自動化、ゲームおよびボイスチャット、マーケティング