AIのズル、AI自身が検知

Models know when they're reward hacking — and we can catch them at scale

AIが報酬を不正に得る「ズル」をしている時、AI自身がそれを認識していることが判明。この内部信号を大規模に検知でき、AIの信頼性向上に役立ちます。