なんか KV Cache の正解がよく分かんないな。TurboQuant って圧縮に凄く時間がかかる気がするんですよ。だから LLM が体感遅くなる。
---
Google Research、LLMのKVキャッシュを6倍圧縮する「TurboQuant」発表 最大8倍高速化・精度低下なし | Ledge.ai -
https://ledge.ai/articles/google_research_turboquant_kv_cache_compression_llm
えぇぇぇぇ!?嘘やろ!?
---
エックス報道〜Buzznews🇯🇵さん:
【悲報】Z世代「わさびって必要なの?不味いから皆食べなくなってるし・・・」
これではないんだけど、この後継機種 DS50C/1NMR 使ってた。懐かしい。(なんで型番さらっと言えるんだろうね)
---
れんげ (@DBMD832) on X
面白そうだったので買ってみた -
https://x.com/DBMD832/status/2073022912941166972?s=20
【悲報】
町のスマホ修理ショップで Xperia のバッテリ交換をして家に戻っていじっていたら、液晶真似るにタッチしても応答しなくなり、再起動しても症状変わらずログインすらできなくなった。
その後、電源ボタンとボリュームボタン長押しの物理的再起動もできなくなり、再びショップへ。
原因の切り分けのための部品の到着待ちで少なくとも月曜までスマホなしの生活に。
最悪基盤交換で3週間かかるかも。
@torawo なるほどー
@torawo ぇー、そんなに安いの…。置き時計としても良い値段。
実はただのデブ猫です。