AIの進化はデータが鍵

2019年から2025年の間に、計算効率の向上は、モデルの改善よりもデータの改善から3.24倍多く得られています。データとモデルの改善による効果は、ほとんど独立しており、互いに影響し合いません。ほとんどのモデル研究は、スケーリング（AIの規模を大きくすること）の制約を取り除くか、先送りすることに費やされてきました。データの改善は、より大きなモデルにとっては重要性が低いかもしれません。小さなモデルは、データ品質から大きな恩恵を受けています。