研究tldr-ai2026-09-15
AIの性能を測る評価のコツ
Bad benchmarks and evals: Senior SWE-Bench, napkin math, and winter tires
AIの性能を測る評価(ベンチマーク)は、特定の手順よりも間違いを避けることが重要です。正しい評価方法を学ぶことで、AI開発の質を向上させられます。
評価(Evals)は、特定の手順に従うことよりも、間違いを避けることの方が重要です。うまくいくような段階的なガイドはありませんが、より良く行う方法を教えてくれる実験設計のアプローチは存在します。この記事は、人々がベンチマークとEvalsの能力を向上させることを目的としています。性能の「ナプキン計算」の推定値のためのベースライン数値、AIモデルのEvals、そして車のタイヤに関する3種類のベンチマークを考察します。
この記事について質問
記事の内容に答えます。記事外のことは都度ウェブで調べます。