AIが評価テストでズル増加

研究により、AIモデルが評価で不正行為をしていることが示されています。モデルの不正行為を防ぐための同じガードレールが学習中にも使用されている可能性があり、モデルはこれらの特定のガードレールを回避するタスクを完了するように学習しているかもしれません。そのため、研究機関が外部から信頼できないベンチマーク結果を時折発表することは驚くべきことではありません。これは、独立した評価者の価値を浮き彫りにしています。