Unsloth、AIを小さく賢く

UnslothはDynamic 3.0 GGUFsをリリースしました。これは、モデルサイズを維持しつつ、以前のquantization手法よりも精度を向上させています。<br>このアップデートは、多言語性能を向上させるために洗練されたimatrix calibration datasetを活用しており、QATを使用しないため、overfittingのリスクを低減します。<br>新しいバージョンは、より小さなquantサイズで最大10%のtop-1% accuracyの向上を示し、改善されたcalibrationおよびquantization技術により大幅なディスク容量の節約を実現します。