AIの能力を安全に検査する仕組み

このチュートリアルでは、NVIDIA SkillSpector を使用してAIスキルのセキュリティ態勢を評価するワークフローを構築します。私たちは、クリーンなもの、リスクのあるもの、悪意のあるもの、MCPベースの例を含む合成スキルマーケットプレイスを作成し、SkillSpectorのLangGraph検査パイプラインを通じて各スキルをスキャンします。リスクスコア、分類された検出結果、信頼度レベル、アナライザーの完全性、実行可能スクリプトの指標を調べた後、結果をポートフォリオレベルのDataFrameに整理します。また、SARIFおよびMarkdownレポートを生成し、ベースラインの抑制を確立し、リグレッションを検出し、組織固有のYARA rulesを導入し、カスタムの秘密アナライザーでスキャングラフを拡張し、実用的なCIセキュリティゲートを強制します。最後に、オプションのLLM-assisted semantic analysisを探求し、フリートのリスク分布を視覚化することで、デプロイ前にエージェントスキルを検査、比較、管理するための完全なフレームワークを提供します。 翻訳対象外: Copy Code Copied Use a different Browser import importlib, os, subprocess, sys, json, re, textwrap, shutil from pathlib import Path os.environ.setdefault("SKILLSPECTOR_LOG_LEVEL", "ERROR") assert sys.version_info >= (3, 12), f"SkillSpector needs Python >=3.12 (found {sys.version.split()[0]})" def _pip(*args): subprocess.check_call([sys.executable, "-m", "pip", "install", "-q", *args]) try: import skillspector except ImportError: _pip("git+https://github.com/NVIDIA/SkillSpector.git") importlib.invalidate_caches() import pandas as pd import matplotlib.pyplot as plt import skillspector from skillspector import graph as default_graph from skillspector.cleanup import cleanup_result from skillspector.models import Finding from skillspector.state import SkillspectorState from skillspector.suppression import build_baseline_dict, dump_baseline, load_baseline from skillspector.multi_skill import detect_skills SCANNER_VERSION = skillspector.__version__ print(f"SkillSpector {SCANNER_VERSION} | Python {sys.version.split()[0]}") ROOT = Path("/content/skill_market") if Path(