道具の出力からAIをだます手口

ツール結果に隠されたPrompt injectionsは、入力とアクションの検査がエージェントループの異なる時点で行われるため、従来の安全対策を回避できます。提案されたシグナルは「precedent gap」と呼ばれ、これはエージェントが突然ツールを呼び出したり、これまでの実行履歴にない引数を使ったりする状況を指します。