スマホで動く大型AI「Bonsai 27B」

PrismMLは、Bonsai 27Bを発表しました。これは、1ビットおよびternary weights（3値の重み）を用いることでモデルサイズをそれぞれ3.9 GBと5.9 GBに縮小し、スマートフォン上で動作する初の27Bクラスのモデルです。Bonsai 27Bは、高いパフォーマンスを維持しながら、multi-step reasoning（多段階の思考）やtool use（道具の利用）のような複雑なタスクをサポートし、現代のスマートフォンのデバイス制限内に安全に収まります。