何となくUnified VRAMだと逆にLLMだけ動かすならWindowsでも良い気がしているんだよね。MacってVRAMを別途持っているんだっけ?

@array 帯域をよく見た方がいいよ。
Windows でよくある DDR 100GB/s 以下がホトンド
Mac の UMA 100 ~ 500GB/s

Mac は CPU と GPU が RAM を共有してる。AMD に似た構図だけど帯域が違うから勝負にならない。じゃぁ 64GB のグラボを買うのと 64GB の Mac を買うの、どっちが安い?ってなる。

@legasus AMDのCopilot対応としているのだと道なんですかね。金額は高いのかなあ。

フォロー

@array NPU は大きな LLM は動きません。DDR は AMD だろうが Intel だろうが遅いです。

@array 面倒くさいのでこれ貼っておきます。M1Max がボールドなのは、うちの3台がこれだからチャッピーがボールドにしました。

@legasus dってM4かM5でしたよね。メモリが増やせないのがネック?

@legasus なんか入力息にバグがあるよう>Fedistar
iPadのつもり

@array う~ん話が読めない。(それ系をフォローしていない可能性)

@legasus
ごめん、忘れて。なんとか安くLLMを動かそうと思ったらAMDのでも60万台だったりするのでiPadでM5のCPU使っているのが出るとかでないとか聞いたから代替できるのかと思ったけれど、それならMac買ったほうがいいよね。

ログインして会話に参加
:realtek:

思考の /dev/null