AIの安全な使い方を定めた計画

GoogleのAI Control Roadmapは、社内で展開される高度なAIを構築し、管理するためのフレームワークです。このアプローチは、AIの「意図との一致」（alignment）が完璧でなくても保証を提供する、システムレベルのセキュリティの重要な層を追加します。これには、sandboxing、endpoint security、prompt injection resistanceといった保護策が組み込まれています。このロードマップは、AI alignmentを主要な防御策として使用しています。内部のAIエージェントが意図とずれる可能性を考慮し、alignmentが完璧でなくても保証を提供します。