いつからオレはAIにAIのベンチを取らせるとかいう悪い遊びを思いついてしまったのだろう…
結果を書くと巨大コンテキストが流れてくる環境で(その辺のPCでの)ローカルLLMはなかなか難しいッス。そんなに待てないよ。
動くことと、実用的な速度で動くことは別なのです。
思考の /dev/null