フォロー

> 完成したマシンでOpenAIが公開しているAIモデル「gpt-oss-120b-Q4_K_M」を実行した結果、毎秒195.84トークンという高速な出力

> gpt-oss-120b-Q4_K_Mを家庭用マシンで動作させる場合、高性能なマシンでも毎秒十数トークン程度しか出力できない

:neko_surprised:

---

NVIDIAの業務用GPUとAIチップを搭載した激安AIサーバーを入手して家庭用AIマシンを作ってしまった記録が話題に - GIGAZINE - gigazine.net/news/20260101-h10

ログインして会話に参加
:realtek:

思考の /dev/null