やっぱりどうこねくり回しても、キャッシュが重要になる Agent 用途だったら Rapid-MLX + Qwen 3.6 が有利だ。Bonsai 2 は一見速いように見えるがキャッシュが機能しないので、Agent 用途には向かない。毎回違うコンテキストが飛んでくる用途には適してる。
Bonsai 2 って、なんでそんな名前なん
---
Qwen3.8-27Bを9分の1に圧縮も性能98.2%維持の「Bonsai 2 27B」 - PC Watch -
https://pc.watch.impress.co.jp/docs/news/2142052.html