OllamaはオープンウェイトのLLMを手元のPCで動かすためのオープンソースツール。ollama run <モデル名> の1行でモデルを取得して対話が始まり、同時に localhost:11434 でAPIも立ち上がる。この記事は最新版 v0.40.6(2026-10-16公開)の公式ドキュメントとソースを読んで、使い方を入門から順に整理した。ローカルLLM全体の選び方は ローカルLLMとは?おすすめモデル・ツールの選び方と必要なPCスペック、無料で動かす方法【2026】 にまとめている。
WHAT IT REPLACES何を代替するか
推論を手元のPCに移し、APIの形はそのまま使う
クラウドのLLM API
OpenAI・Anthropic など
- 従量課金とレート制限
- プロンプトが社外に出る
- 最新の大型モデルが使える
Ollama(ローカル)
localhost:11434
- 本体は無料(MIT)
- プロンプトは手元に残る
- OpenAI互換・Anthropic互換API
30秒でわかるOllama
・何ができる:Gemma・Qwen・Llama などのオープンウェイトLLMを、1コマンドで取得して手元で動かす
・何を解決する:従量課金・レート制限・データの外部送信。ローカル推論ならプロンプトは手元から出ない
・何を代替する:開発・検証用途のクラウドLLM API。OpenAI互換とAnthropic互換のAPIを持つ
・2026年の変化:クラウドモデルと ollama launch(Claude Code や Codex の起動)が加わった。ローカルだけで使うなら OLLAMA_NO_CLOUD=1
確認したもの: リポジトリ ★約18.4万・フォーク約1.8万(GitHub、2026-10-18)、タグ v0.40.6 の docs と envconfig、ライセンス(MIT)。掲載コマンドは公式ドキュメントどおりに書いたもので、実機での実行は未検証。
Ollamaとは?何ができて、どこまで無料か
Ollamaは「モデルの置き場(レジストリ)からの取得」「推論の実行」「APIサーバー」を1つのアプリにまとめている。推論は llama.cpp 系の GGML と Ollama 自身のモデル実装で動く。
v0.40.6 では使い方が2系統に分かれた。
| 系統 | どこで動く | 必要なもの | 料金 |
|---|---|---|---|
| ローカルモデル | 自分のPCのGPU/CPU | 十分なVRAMかメモリ | 無料(本体はMIT) |
| クラウドモデル | ollama.com のサーバー | サインインかAPIキー | プランによる(ollama.com/pricing) |
ローカルモデルを動かしている間、プロンプトとデータは Ollama 側に届かないと公式FAQは書いている。クラウドモデルを使うと、応答を返すために処理される(保存・学習はしないと明記)。クラウドを使わないなら、環境変数 OLLAMA_NO_CLOUD=1 か ~/.ollama/server.json の "disable_ollama_cloud": true で止められる。
同じ「ローカルLLMを動かす道具」でも、得意なことが違う。
| ツール | 向いている人 | 詳しく |
|---|---|---|
| Ollama | CLIとAPIでアプリやエージェントにつなぎたい | 本記事 |
| LM Studio | GUIでモデルを探して試したい | LM Studioの使い方 |
| llama.cpp | 量子化やビルドオプションまで自分で決めたい | Ollamaとllama.cppの違い |
Ollamaの使い方①:インストールと起動確認
FIRST RUN使い方の順番
入れて、サーバーを確かめてから、モデルを取る
-
インストール
macOS・Linuxは install.sh、Windowsは install.ps1
-
起動確認
ollama -v と /api/version が版を返す
-
取得と実行
ollama run gemma4:e2b。ps で GPU に載ったかを見る
-
APIから使う
/v1/ を base_url に。キーは要らない
公式の入れ方はOSごとに1行ずつ。
| OS | 入れ方 | 対象 |
|---|---|---|
| macOS | curl -fsSL https://ollama.com/install.sh \| sh か Ollama.dmg |
macOS 14 Sonoma 以降。Apple M シリーズはGPU、Intel MacはCPUのみ |
| Windows | PowerShell で irm https://ollama.com/install.ps1 \| iex か OllamaSetup.exe |
Windows 10 22H2 以降。管理者権限は不要 |
| Linux | curl -fsSL https://ollama.com/install.sh \| sh |
手動なら tar.zst を /usr に展開。AMDは ROCm 用の追加パッケージ |
| Docker | ollama/ollama イメージ |
GPUを使うならコンテナにGPUを渡す設定が要る |
入れたら、サーバーが動いているかを確かめる。デスクトップアプリはバックグラウンドで起動する。Linuxでサービスにしていないなら、別のターミナルで ollama serve を先に動かす。
ollama -v
curl http://localhost:11434/api/version
curl http://localhost:11434/api/tags
/api/version が版番号を返せばサーバーは動いている。/api/tags は手元にあるモデルの一覧で、入れた直後は空になる。
Ollamaの使い方②:基本コマンド
最初の1本には、公式Quickstartがローカル用に挙げている gemma4:e2b が手ごろ。
ollama pull gemma4:e2b
ollama run gemma4:e2b "Ollamaとは何か、1文で説明して"
ollama ps
ollama ps の PROCESSOR 列が 100% GPU ならGPUに載っている。CPU の割合が出ていれば、VRAMに入りきらずにメモリへはみ出している。
| コマンド | すること |
|---|---|
ollama run <モデル> |
取得していなければ取得して対話を始める。/bye で終わる |
ollama pull / rm |
モデルの取得・削除 |
ollama ls / ps / stop |
手元のモデル一覧・メモリに載っているモデル・その停止 |
ollama create -f Modelfile |
システムプロンプトやパラメータを足した自分用のモデルを作る |
ollama launch claude |
Claude Code を Ollama のモデルにつないで起動する(codex・opencode も可) |
ollama serve --help |
設定できる環境変数の一覧 |
対話中の複数行入力は """ で囲む。モデルはメモリに5分残り(OLLAMA_KEEP_ALIVE の既定)、次の呼び出しが速くなる。
OllamaのAPIをアプリから使う
WHO CAN CALLAPIに届く経路
既定は自分のPCだけ。外に開くと認証の無いAPIになる
11434番ポート
- 既定127.0.0.1:11434 届く同じPCのアプリ・エージェント
- LAN既定のまま 届かないほかのPC
- LANOLLAMA_HOST=0.0.0.0 認証なしで届くネットワークの誰でも
- 外OLLAMA_NO_CLOUD=1 止まるクラウドモデル・Web検索
サーバーは3種類のAPIを同じポートで出している。
| API | 入口 | 使う場面 |
|---|---|---|
| ネイティブ | /api/generate・/api/chat・/api/embed |
Ollama専用のクライアントやスクリプト |
| OpenAI互換 | http://localhost:11434/v1/ |
OpenAI SDKのコードを base_url の差し替えで動かす |
| Anthropic互換 | ANTHROPIC_BASE_URL=http://localhost:11434 |
Claude Code など Messages API のクライアント |
OpenAI互換の呼び出しは次の形。ローカルのAPIは認証を求めないので、キーは要らない(公式の Authentication)。
curl http://localhost:11434/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model": "gemma4:e2b", "messages": [{"role": "user", "content": "こんにちは"}]}'
外に開くときの注意
既定の待ち受けは 127.0.0.1:11434 で、同じPCからしか届かない。OLLAMA_HOST=0.0.0.0 にするとネットワークの誰からでも呼べるAPIになる。ローカルのAPIは認証を求めない(公式の Authentication)。LANの外に出すなら、認証つきのリバースプロキシかVPNを前に置く。ブラウザから呼ぶときの許可は OLLAMA_ORIGINS で足す。
必要スペックとモデルの選び方
目安は「モデルのファイルサイズ+コンテキストの分のメモリが、VRAM(Macはユニファイドメモリ)に収まるか」。公式Quickstartは gemma4:e2b(ダウンロード約7.2GB)に8GBのVRAMをすすめている。収まらない分はシステムのRAMに回り、動くが遅くなる。
| 項目 | v0.40.6 の公式の値 |
|---|---|
| NVIDIA | Compute Capability 5.0以上・ドライバ550以上(5.0〜6.2は570以上) |
| AMD | ROCm、または既定で有効な Vulkan |
| Apple | Metal(M シリーズ) |
| 既定のコンテキスト長 | VRAM 24GiB未満は4k、24〜48GiBは32k、48GiB以上は256k |
VRAMが24GiB未満だと、既定のコンテキストは4kトークンしかない。エージェントやコーディングツールにつなぐなら、公式は64,000トークン以上をすすめている。長くするとメモリを食うので、ollama ps の CONTEXT と PROCESSOR を見ながら決める。
OLLAMA_CONTEXT_LENGTH=64000 ollama serve
モデルは小さい方から試すのが早い。8GB前後なら e2b のような小型、16〜24GBなら中型、それ以上で大型を検討する。公開モデルは ollama.com/library で探し、商用で使うならモデルごとのライセンス(Gemma の規約、Llama のコミュニティライセンス、Apache-2.0 など)を個別に読む。
動かない・遅いときの確認
| 症状 | 見るところ |
|---|---|
could not connect to ollama |
サーバーが起動していない。アプリを開くか ollama serve |
| 応答が遅い | ollama ps の PROCESSOR が CPU 寄りならVRAM不足。小さいモデルか短いコンテキストへ |
| GPUを使わない | サーバーログのGPU検出の行。ドライバの版を確認 |
| ディスクが足りない | 保存先を OLLAMA_MODELS で別ドライブへ。不要なモデルは ollama rm |
ログの場所はOSで違う。macOSは ~/.ollama/logs/server.log、Linux(systemd)は journalctl -u ollama --no-pager、Windowsは %LOCALAPPDATA%\Ollama の server.log。モデルの保存先は macOS が ~/.ollama/models、Linux のサービス版が /usr/share/ollama/.ollama/models、Windows が C:\Users\%username%\.ollama\models。アンインストールしてもモデルはここに残るので、容量を戻したいときは消し忘れない。





