AIアプリを安全に使う方法

Agents、MCP integrations、そしてLLM-powered applicationsは、ほとんどのセキュリティプログラムが追跡できるよりも速いペースでコードベースに導入されています。Mend.ioの新しい実践者向けガイド「Securing AI agents, MCP servers & LLM apps: A practical framework」は、このギャップを埋めることを目的としています。これは、「何が重要かを見る」「重要なものをより速く修正する」「本番環境のAIを保護する」という3つの動きを中心に構成されており、7つの再利用可能な成果物を提供します。なぜ従来のAppSecでは対応できないのか。AppSecは「アプリケーションはそのコードが示す通りに動作する」という前提に基づいて構築されていました。しかし、Agentic AIはこの前提を覆します。エージェントの振る舞いは、モデル、システムプロンプト、取得されたコンテキスト、ユーザー入力、そして呼び出す可能性のあるツールから生まれます。全く同じ2つのデプロイメントでも、異なる振る舞いをすることがあります。失敗のパターンも新しいものです。Prompt injectionはコードではなくデータを通じて発生します。権限が過剰なエージェントは、脆弱性が悪用されなくても有害な行動を取る可能性があります。サポートが終了したモデルは、メンテナーがパッチ適用を停止した後も予測を提供し続けます。MCPサーバー上の汚染されたツール定義は、アプリケーションに触れることなくエージェントの振る舞いをリダイレクトできます。これらはどれもCVEフィードには現れません。指令は二面的です。つまり、シフトレフト（開発の早い段階での対策）とプロテクトライト（本番環境での保護）の両方です。成果物1.1: 5層の攻撃対象マップ。Interaction: ユーザー入力、取得されたドキュメント、エージェント間のメッセージ → prompt injection、コンテキスト汚染、データ漏洩。Agent: システムプロンプト、設定、メモリ、自律性設定 → 過剰な権限を持つツール、安全でないデフォルト設定、目標の乗っ取り。Integration: MCP servers、ツール定義、プラグイン、API → 汚染されたツール定義、範囲外の認証情報、シャドウサーバー。Model: 基盤モデルとfine-tuned models、embeddings → EOLモデル、サプライチェーンリスク、安全でない生成。Code: AI生成コード、AIフレームワーク、SDK → 脆弱なコード、フレームワークのCVE、悪意のあるパッケージ。See: エージェントとMCPの発見。エージェントは調達を通じて導入されることは稀です。探すべき3つのカテゴリ: shadow agents、未登録のMCP servers、組み込みのAIフレームワーク。すべてのMCPサーバーには所有者、アクセス範囲、そして