AIプログラムが軽量化モデルを動かせる

Transformers now runs llama.cpp quants

Hugging FaceのAI開発ツール「Transformers」が、軽量化されたAIモデルを直接動かせるようになり、高性能なAIをより手軽に利用できるようになります。

• ・大規模AIモデルを動かすプログラムが、より軽いモデルに対応。
• ・人気のAI開発ツール「Transformers」が、軽量化されたモデル形式を直接実行可能に。
• ・これにより、高性能なAIをより少ない計算資源で動かせ、利用が広がるでしょう。