新しいものを表示

Sushi は、メモリの大きくない Mac で巨大 LLM をそれなりに動かすことができるチートランタイムです。
github.com/beamivalice/sushi

(快適とは言っていない)

スレッドを表示

Sushi ランタイムの話では、十分の基準がどうも 128GB。貧弱の基準が32GB。16GBは相手にされてない。

AIを快適に動かす話をしているので基準はお察しください。

ただ後で少し載せるけど、メモリが少ないPC(< 128GB)でも、それなりに動かせるチートみたいな技術が発展中。

スレッドを表示
Tora :neko_gray: さんがブースト

ローカルLLMでAI利用料不要
→広義の意味では事実
(300万円のMacStudioなら)

Tora :neko_gray: さんがブースト

ローカルLLMが動かせるパソコンをAI利用料不要って言うのはどうなんだって思ったけど、まあ新聞記事だから今更だな。

バックアップはオフラインにしておかなきゃダメなんだ…

開発環境では動いて客先で動かないJAVA

みたいなヤツを見た

クライアントが糞ダサデザインを所望してるの、どうしたらいいんだ

国内すべてのサーバーが壊滅してからが本番さ

世の中はすでに乗っ取りホーダイプラン

---

Tanaminusb (@tanaminusb) on X

障害情報がログイン後でないと表示されない仕様なので世間に広まりにくいですが。

IDCFクラウド東日本リージョン1が乗っ取られています。数百社、数千台の仮想サーバ、そのサービスの利用者数千万人に影響出ているはずです。

タイムズカー以上に深刻です -
x.com/tanaminusb/status/210768

思いつきで何かを買ってはいけません。値下がりします。

なんか共同NASにして使おうって買った10TB HDD、あんまり使ってないんだけどヤフオク出した元値以上で売れるかな。

なんか本家 Windows が糞化してる中、AI に書かせた軽量互換無料 OS が登場してもおかしくない。

古いものを表示
:realtek:

思考の /dev/null