このページについて: ローカルLLMに関するすべての疑問に答えるハブページです。初心者から上級者まで、必要な情報に素早くアクセスできます。
要点（30秒で読む）
ローカルLLMは、Ollama等のツールで自分のPCでAIモデルを動かす仕組みです。API費用ゼロ・データが社外に出ない・オフライン動作が利点。2026年7月時点の実用構成は、Mac（Apple Silicon）なら Qwen3系（qwen3:8bなど）やコード生成向けのqwen3-coder:30b、メモリ16GB以上が目安です。Claude CodeからローカルLLMへ接続すれば、コーディング補助を月額費用ゼロで試せます（本番開発は公式APIを推奨）。
このガイドで解決できること
- ✅ ローカルLLMとは何か、クラウドLLMとの違い
- ✅ Ollama / LM Studio / llamafileの選び方
- ✅ Windows環境でのゼロからセットアップ
- ✅ Claude Codeとの連携方法（API費用ゼロ）
- ✅ よくあるトラブルシューティング
- ✅ プライバシー・セキュリティの考え方
目次
- ローカルLLMとは
- クラウドLLM vs ローカルLLM 比較
- 主要ツール比較（Ollama / LM Studio / llamafile）
- Windows環境でのセットアップ手順
- Claude Codeとの連携方法
- 推奨モデル一覧（2026年版）
- よくある質問（FAQ）
- トラブルシューティング
1. ローカルLLMとは
ローカルLLM（Large Language Model）とは、ChatGPTやClaude APIのようなクラウドサービスではなく、自分のPC上で直接動かすAIモデルのことです。
なぜローカルLLMが注目されるのか
コスト面:
– Claude API: 入力トークン$3/M、出力トークン$15/M（Claude Sonnet系の場合。※旧claude-3-5-sonnetは2025年10月廃止・現行Claude Sonnet 5／Sonnet 4.6で同価格帯）
– ChatGPT Plus: 月額$20
– ローカルLLM: 電気代のみ（実質無料）
プライバシー面:
– 社内機密コードをAPIに送信する必要がない
– 個人情報を外部サービスに渡さない
– オフライン環境でも動作
自由度:
– レート制限なし
– モデルのカスタマイズが可能
– 商用利用可能なオープンソースモデルも多数
2. クラウドLLM vs ローカルLLM 比較
| 比較軸 | クラウドLLM | ローカルLLM |
|---|---|---|
| コスト | 月額$20〜 / API従量課金 | 初期投資（GPU）+ 電気代のみ |
| 性能 | Claude Sonnet 5、GPT-5系等（最高品質） | 8B〜30Bクラスのモデル（実用レベル） |
| プライバシー | データがサーバーに送信される | 完全ローカル処理 |
| 速度 | ネット速度依存 | ハードウェア依存（GPU推奨） |
| セットアップ | アカウント登録のみ | ツール導入が必要 |
| オフライン | 不可 | 可能 |
| カスタマイズ | 制限あり | ファインチューニング可能 |
結論: 機密データを扱う業務や、API費用を抑えたい開発用途にはローカルLLMが最適。最高品質が必要な場合はクラウドLLMと使い分ける。
3. 主要ツール比較（Ollama / LM Studio / llamafile）
Ollama — 開発者向け、CLI操作
特徴:
– コマンドライン中心の設計
– APIサーバー機能内蔵（OpenAI互換）
– Claude Codeとの連携が容易
– Docker的な感覚でモデルを管理
# インストール後、すぐにモデルをダウンロードして実行
ollama run llama3.2
向いている人: エンジニア、Claude Code/Cursor等のAIコーディングツールと連携したい人
LM Studio — GUI操作、初心者向け
特徴:
– グラフィカルなUI
– モデルの検索・ダウンロードが簡単
– チャット画面がすぐに使える
– 商用利用ライセンスが2025年7月に解禁（職場での利用も申請不要に）
向いている人: 非エンジニア、まずチャットで試したい人
llamafile — 単一実行ファイル、最もシンプル
特徴:
– 1つのファイルをダウンロードするだけで動く
– インストール不要
– 全OS対応
向いている人: 手軽に試したい人、環境構築を最小限にしたい人
4. Windows環境でのセットアップ手順
必要なスペック（目安）
| モデルサイズ | RAM | GPU VRAM | 速度 |
|---|---|---|---|
| 7B | 8GB+ | 不要（CPU動作可） | 低速 |
| 13B | 16GB+ | 8GB推奨 | 普通 |
| 32B | 32GB+ | 16GB+ | 快適 |
| 70B+ | 64GB+ | 24GB+ | 高速 |
GPU不要でも動く: 7Bモデルなら16GB RAMのPCでCPU動作が可能。ただし速度は遅い。
Ollamaのインストール（Windows）
Step 1: ollama.ai から Windows版をダウンロード・インストール
Step 2: コマンドプロンプトまたはPowerShellを開く
Step 3: モデルをダウンロード
# 軽量モデル（推奨初心者向け）
ollama pull qwen3:8b
# 高性能モデル（32GB RAM以上推奨）
ollama pull qwen3:30b
# コード特化
ollama pull qwen3-coder:30b
Step 4: 動作確認
ollama run qwen3:8b
>>> こんにちは！日本語で話せますか？
詳細は → [[Ollama × Claude Code：API費用ゼロでAIコーディング環境を構築する完全ガイド]]
5. Claude Codeとの連携方法
Ollamaを使ってClaude Codeを無料で使う
Claude Codeは通常、Anthropic APIキー（有料）が必要です。しかしOllamaのクラウドモデル機能を使うと、API費用なしでClaude Codeを体験できます。
仕組み:
1. OllamaがAnthropicメッセージAPI互換サーバーとして動作
2. Claude CodeがANTHROPIC_BASE_URLをローカルのOllamaに向ける
3. ローカルモデルまたはOllamaのクラウドモデルで応答
方法1: ollama launch claude（推奨・2026年7月時点の最新手順）
Ollamaは連携を一発で完結させる公式コマンドを提供しています。モデル選択・環境変数設定・Claude Code起動を自動でやってくれます。
ollama launch claude
方法2: 手動で環境変数を設定する場合（公式ドキュメント準拠。/v1はOpenAI互換用でAnthropic互換では付けない）
# PowerShell（Windows）
$env:ANTHROPIC_AUTH_TOKEN = "ollama" # 必須だが値は無視される（ダミーでOK）
$env:ANTHROPIC_BASE_URL = "http://localhost:11434" # /v1 は付けない
# コマンドプロンプト
set ANTHROPIC_AUTH_TOKEN=ollama
set ANTHROPIC_BASE_URL=http://localhost:11434
推奨モデル（Claude Codeとの連携用）:
# Qwen3-Coder（コード生成特化、2026年7月時点で実用トップクラス）
ollama pull qwen3-coder:30b
# Ollamaのクラウドモデル機能を使う場合（大規模モデルをクラウド実行）
ollama pull qwen3-coder:480b-cloud
詳細は → [[GPUなし・無料でClaude Codeを体験する方法｜Ollamaクラウドモデル完全ガイド]]
Claude Code × Ollama Part 2（72GBモデルでの実践）
大型モデル（32B〜72B）を使った実践的な開発については → [[【実践検証】Claude Code × Ollama Part2｜72GBモデルで実際に開発してみた結果]]
6. 推奨モデル一覧（2026年版）
汎用・日本語
| モデル | サイズ | 特徴 | コマンド |
|---|---|---|---|
| Qwen3 | 8B/30B | 日本語対応◎、バランス良 | ollama pull qwen3:8b |
| Gemma4 | e2b/12b | Google製、軽量・マルチモーダル | ollama pull gemma4:e2b |
| Llama3.2 | 1B/3B | Meta製、高速・軽量（テキスト） | ollama pull llama3.2 |
※qwen3:30b は MoE モデル（総パラメータ約30B・推論時アクティブ約3.3B）。アクティブが軽いため、上の目安より軽く16GBクラスのメモリでも動く場合があります。速度は速い一方、純粋な推論能力は総パラメータ相当ではない点に注意。
コード生成特化
| モデル | サイズ | 特徴 | コマンド |
|---|---|---|---|
| Qwen3-Coder | 30B(a3b) | コード最強クラス（256Kコンテキスト） | ollama pull qwen3-coder:30b |
| DeepSeek-Coder-V2 | 16B | コードレビュー◎ | ollama pull deepseek-coder-v2 |
7. よくある質問（FAQ）
Q: GPUがなくても使えますか？
A: はい、使えます。CPU動作でも7Bモデルは動きますが、速度は遅い（1トークン/秒程度）。実用的に使うには16GB以上のRAMと、できればGPU（VRAM 8GB以上）を推奨します。
Q: 日本語で使えますか？
A: Qwen3系（qwen3:8b など）は日本語対応が優秀です。日本語でプロンプトを入力しても自然な日本語で応答します（※2026年7月時点）。
Q: クラウドLLMとどちらが賢いですか？
A: Claude Sonnet 5・Opus 4.8・GPT-5系などクラウドの最新モデルの方が総合性能は高いです。ただしローカルでもQwen3系の30Bクラスになると実用上十分なタスクが増えています。用途に応じて使い分けるのがベストです（※2026年7月時点）。
Q: 社内環境で使う場合、セキュリティは大丈夫ですか？
A: ローカル動作なので、データは社外に出ません。ただし、OllamaのAPIサーバーはデフォルトでローカルホストのみに公開されます。社内ネットワークに公開する場合は設定とセキュリティポリシーの確認が必要です。
Q: Claude CodeをローカルLLMと組み合わせる際、制限はありますか？
A: はい。公式のAnthropicモデル（Claude Sonnet 5・Opus 4.8等）と比べると、コードの品質やコンテキスト理解は劣る場合があります。学習・実験用途には十分ですが、本番の開発では公式APIの使用を推奨します。
Q: WindowsとMacどちらが向いていますか？
A: MacはApple Silicon（M1/M2/M3/M4）のUnified Memoryが優秀で、32GB搭載モデルなら70Bクラスも動作します。WindowsはNVIDIA GPUがあれば高速動作が可能。CPUのみの場合はどちらも遅めです。
Q: Ollamaは商用利用できますか？
A: Ollamaツール自体はMITライセンスで商用利用可能です。ただし各モデルのライセンスは個別に確認が必要です（MetaのLlamaはコミュニティライセンス等）。
8. トラブルシューティング
Ollamaが起動しない
# Windowsサービスの確認
Get-Service | Where-Object {$_.Name -like "*ollama*"}
# 手動起動
ollama serve
モデルのダウンロードが遅い・止まる
- VPNをオフにして試す
- ダウンロードを再開（
ollama pullを再実行） - ディスク容量を確認（7Bで4GB、70Bで40GB必要）
Claude Codeが接続できない
# Ollamaのサーバーが動いているか確認
curl http://localhost:11434/api/tags
# 環境変数が正しく設定されているか確認
echo $ANTHROPIC_BASE_URL
メモリ不足エラー
より小さいモデルに切り替えるか、量子化バージョンを使用:
# より軽量なモデルに切り替え（メモリ効率重視）
ollama pull qwen3:8b
まとめ：ローカルLLMで何が変わるか
ローカルLLMを導入することで:
- 月額費用ゼロでAIコーディング補助
- 機密データの安全性を確保しながらAI活用
- Claude Code等のツールとの連携で開発速度向上
このブログでは、製造業SEエンジニアの視点から実機検証した結果を継続的に発信しています。
関連記事:
– Ollama × Claude Code：API費用ゼロでAIコーディング環境を構築する完全ガイド
– GPUなし・無料でClaude Codeを体験する方法｜Ollamaクラウドモデル完全ガイド
– 【実践検証】Claude Code × Ollama Part2｜72GBモデルで実際に開発してみた結果
▶ あわせて読みたい: Ollamaを動かしたまま公開・常用するなら、認証なし公開が31%という調査結果と対策を先に確認してください → Ollama認証セキュリティ「31%問題」完全ガイド
コメント