ローカルLLM– category –

16GBのMacで日本語ローカルLLMを社内文書6問で実測。最速のqwen3:4bは最終回答に届かず、規程Q&Aを2問とも正答したのはgemma4:12b。用途別の選び方と、自社で試す前の確認5項目をまとめました。

Ollama Cloudの「Pro」は週次セッション上限のレガシーと、月次クレジット＋トークン課金の新プランが並存する。公式ブログと料金ページ、2026年9月20日のUsage画面実測から違いを整理します。

16GB Macで27BクラスのローカルLLMは動くのか。Q4のQwen3.8-27Bはスワップ死した実測から、三値量子化のBonsai 2 27B（5.95GB）なら14.6 tok/sで動くまでを形式別ベンチ3種で解説。llama.cpp fork必須の落とし穴も。

FreeTokenをarXiv論文とGitHub公式ドキュメントで検証。8GB GPUで35Bが39.3 tok/s動くのは事実ですが、同じ機材にhost RAM 32GBが載っています。報道の速度比較表が別モデルの数値だった件と、macOS非対応の現状を実測ベースで解説します。

Qwen3.8-27BをM5 MacBook Pro 16GBで実測。IQ3_XXS（10.93GB）はdecode 0.22 tok/s、Q2_K_XL（9.83GB）は2.47〜4.52 tok/s。1.1GBの差で20倍変わる境界線とOllamaの設定手順を解説します。

Microsoft発のbitnet.cppで、GPUなし・CPUだけでLLMを動かす方法を完全解説。1ビット推論の仕組み、対応モデル、インストール手順、llama.cppとの比較まで網羅。

ローカルLLMの導入から活用まで完全解説。Ollama・LM Studio・Claude Codeとの連携、Windows環境セットアップ、よくある質問まで網羅。API費用ゼロでAI開発を始める方法を製造業SEエンジニアが実機検証。