MicrosoftのAIエージェント管理ツールキットを使った安全なAIエージェントの実装

このチュートリアルでは、Microsoftのエージェント管理ツールキットを参考にして、管理されたAIエージェントのワークフローを構築します。エージェントが直接ツールを実行するのではなく、すべてのアクションはまず管理層を通過し、エージェントの身元、信頼スコア、リスクレベル、要求されたツール、アクションの種類、感度レベル、政策ルールをチェックします。

破壊的なデータベース操作、外部メールの送信、シェル実行、機密データへのアクセス、金融取引を制御するYAMLベースのポリシーを定義します。次に、各ツールを管理ロジックでラップし、アクションが許可、拒否、サンドボックス化、または実行前に承認ステップを経るようにします。

また、改ざん防止の監査記録を生成し、ポリシーテストを実行し、キルスイッチを有効化し、管理の決定を要約し、エージェント、ツール、ルール、結果の関係をグラフとして視覚化します。