Bonsai2– tag –

16GB Macで27BクラスのローカルLLMは動くのか。Q4のQwen3.8-27Bはスワップ死した実測から、三値量子化のBonsai 2 27B（5.95GB）なら14.6 tok/sで動くまでを形式別ベンチ3種で解説。llama.cpp fork必須の落とし穴も。