「M1 Maxが最新モデルより帯域が太い」という衝撃の事実
これがM1 Maxをいま選ぶ最大の理由です。ローカルLLMの推論速度(トークン生成速度)は、CPUやGPUの計算性能よりも**「メモリ帯域幅(データを引き出すスピード)」**に完全に依存します(メモリ帯域ボトルネック)。
* M1 Maxのメモリ帯域幅:400 GB/s
* M2 Pro / M3 Proのメモリ帯域幅:150 GB/s 〜 200 GB/s(実は半分近くにダウングレードされている)
* M4 Proのメモリ帯域幅:273 GB/s(これでもM1 Maxに届かない)
つまり、ローカルLLMを動かすという一点においては、**「4年前に出たM1 Maxのほうが、ここ1〜2年に出た最新の『Pro』グレードのMacよりも圧倒的に速くLLMが動く」**という逆転現象が起きています。M1 Maxより明確に上の帯域を持つのは、さらに高価な「Max」系(M2/M3/M4 Maxの400GB/s〜)か、「Ultra」系(800GB/s)しかありません。
Gemini がまとめました。
MBA の注文が確定されない。なぜ。