カツカツやないか
----
Memory:
62GB used
896MB unused
744MB compressed
なんだろう、vllm-mlx が安定しない。いや vllm-mlx そのものが安定しないわけではない。
ただ OpenCode からの呼び出しに対して Rapid-MLX の方が成功率が高かった。
vllm-mlx の成功率の低さがヤバい。
マジでローカル LLM のチューニングが面倒くさい。Rapid-MLX に戻す？
Rapid-MLX に戻した途端、元気よく動き出す OpenCode…
なんかオレの使い方では vllm-mlx ダメっぽいです。