Strata-MLX あんまり速くない。
Qwen 3 Next 80B と混同しておりました。正しくは 125B MoE です。謹んでお詫び申し上げます。
とりあえずその辺の Mac で走らせるなら今のところ Sushi ( 1.2.0 or higher ) + Qwen 3.8 Flash Next Sushi 3bpw 一強と言って良さそう。
Sushi 1.2.0 未満を使うと 3bpw のパフォーマンス低下が見られます。
思考の /dev/null
とりあえずその辺の Mac で走らせるなら今のところ Sushi ( 1.2.0 or higher ) + Qwen 3.8 Flash Next Sushi 3bpw 一強と言って良さそう。
Sushi 1.2.0 未満を使うと 3bpw のパフォーマンス低下が見られます。