フォロー
Hermesに、Macの巨大モデル用LLMランタイムの再テストを命じた。
- Sushi & 3bpw
- Strata & IQ3_XXS
- Strata-mlx & IQ3_XXS
寝てる間にできるんだから凄いよな。
ぶっちゃけ今回出てきたヤツは貧乏Macでもそこそこ速いからな。しかも巨大コンテキストを投げても、だ。
Hermesに、Macの巨大モデル用LLMランタイムの再テストを命じた。
- Sushi & 3bpw
- Strata & IQ3_XXS
- Strata-mlx & IQ3_XXS
寝てる間にできるんだから凄いよな。
ぶっちゃけ今回出てきたヤツは貧乏Macでもそこそこ速いからな。しかも巨大コンテキストを投げても、だ。
なんか X 見てても DGX Spark を3台も4台も買うお金持ちのベンチしか流れてこなくて詰まんない。オレは貧乏ベンチを取るんだ。