量子化– tag –

Qwen3.8-27BをM5 MacBook Pro 16GBで実測。IQ3_XXS（10.93GB）はdecode 0.22 tok/s、Q2_K_XL（9.83GB）は2.47〜4.52 tok/s。1.1GBの差で20倍変わる境界線とOllamaの設定手順を解説します。