OllamaはオープンウェイトのLLMを手元のPCで動かすためのオープンソースツール。ollama run <モデル名> の1行でモデルを取得して対話が始まり、同時に localhost:11434 でAPIも立ち上がる。この記事は最新版 v0.40.6(2026-10-16公開)の公式ドキュメントとソースを読んで、使い方を入門から順に整理した。ローカルLLM全体の選び方は ローカルLLMとは?おすすめモデル・ツールの選び方と必要なPCスペック、無料で動かす方法【2026】 にまとめている。

WHAT IT REPLACES何を代替するか

推論を手元のPCに移し、APIの形はそのまま使う

クラウドのLLM API

OpenAI・Anthropic など

  • 従量課金とレート制限
  • プロンプトが社外に出る
  • 最新の大型モデルが使える

Ollama(ローカル)

localhost:11434

  • 本体は無料(MIT)
  • プロンプトは手元に残る
  • OpenAI互換・Anthropic互換API
出典: Ollama FAQ・Authentication・OpenAI compatibility(v0.40.6、2026-10-18確認)

30秒でわかるOllama

・何ができる:Gemma・Qwen・Llama などのオープンウェイトLLMを、1コマンドで取得して手元で動かす
・何を解決する:従量課金・レート制限・データの外部送信。ローカル推論ならプロンプトは手元から出ない
・何を代替する:開発・検証用途のクラウドLLM API。OpenAI互換とAnthropic互換のAPIを持つ
・2026年の変化:クラウドモデルと ollama launch(Claude Code や Codex の起動)が加わった。ローカルだけで使うなら OLLAMA_NO_CLOUD=1

確認したもの: リポジトリ ★約18.4万・フォーク約1.8万(GitHub、2026-10-18)、タグ v0.40.6 の docs と envconfig、ライセンス(MIT)。掲載コマンドは公式ドキュメントどおりに書いたもので、実機での実行は未検証。

Ollamaとは?何ができて、どこまで無料か

Ollamaは「モデルの置き場(レジストリ)からの取得」「推論の実行」「APIサーバー」を1つのアプリにまとめている。推論は llama.cpp 系の GGML と Ollama 自身のモデル実装で動く。

v0.40.6 では使い方が2系統に分かれた。

系統 どこで動く 必要なもの 料金
ローカルモデル 自分のPCのGPU/CPU 十分なVRAMかメモリ 無料(本体はMIT)
クラウドモデル ollama.com のサーバー サインインかAPIキー プランによる(ollama.com/pricing)

ローカルモデルを動かしている間、プロンプトとデータは Ollama 側に届かないと公式FAQは書いている。クラウドモデルを使うと、応答を返すために処理される(保存・学習はしないと明記)。クラウドを使わないなら、環境変数 OLLAMA_NO_CLOUD=1 か ~/.ollama/server.json の "disable_ollama_cloud": true で止められる。

同じ「ローカルLLMを動かす道具」でも、得意なことが違う。

ツール 向いている人 詳しく
Ollama CLIとAPIでアプリやエージェントにつなぎたい 本記事
LM Studio GUIでモデルを探して試したい LM Studioの使い方
llama.cpp 量子化やビルドオプションまで自分で決めたい Ollamaとllama.cppの違い

Ollamaの使い方①:インストールと起動確認

FIRST RUN使い方の順番

入れて、サーバーを確かめてから、モデルを取る

  1. インストール

    macOS・Linuxは install.sh、Windowsは install.ps1

  2. 起動確認

    ollama -v と /api/version が版を返す

  3. 取得と実行

    ollama run gemma4:e2b。ps で GPU に載ったかを見る

  4. APIから使う

    /v1/ を base_url に。キーは要らない

出典: Ollama Quickstart・CLI Reference(v0.40.6)

公式の入れ方はOSごとに1行ずつ。

OS 入れ方 対象
macOS curl -fsSL https://ollama.com/install.sh \| sh か Ollama.dmg macOS 14 Sonoma 以降。Apple M シリーズはGPU、Intel MacはCPUのみ
Windows PowerShell で irm https://ollama.com/install.ps1 \| iex か OllamaSetup.exe Windows 10 22H2 以降。管理者権限は不要
Linux curl -fsSL https://ollama.com/install.sh \| sh 手動なら tar.zst を /usr に展開。AMDは ROCm 用の追加パッケージ
Docker ollama/ollama イメージ GPUを使うならコンテナにGPUを渡す設定が要る

入れたら、サーバーが動いているかを確かめる。デスクトップアプリはバックグラウンドで起動する。Linuxでサービスにしていないなら、別のターミナルで ollama serve を先に動かす。

ollama -v
curl http://localhost:11434/api/version
curl http://localhost:11434/api/tags

/api/version が版番号を返せばサーバーは動いている。/api/tags は手元にあるモデルの一覧で、入れた直後は空になる。

Ollamaの使い方②:基本コマンド

最初の1本には、公式Quickstartがローカル用に挙げている gemma4:e2b が手ごろ。

ollama pull gemma4:e2b
ollama run gemma4:e2b "Ollamaとは何か、1文で説明して"
ollama ps

ollama ps の PROCESSOR 列が 100% GPU ならGPUに載っている。CPU の割合が出ていれば、VRAMに入りきらずにメモリへはみ出している。

コマンド すること
ollama run <モデル> 取得していなければ取得して対話を始める。/bye で終わる
ollama pull / rm モデルの取得・削除
ollama ls / ps / stop 手元のモデル一覧・メモリに載っているモデル・その停止
ollama create -f Modelfile システムプロンプトやパラメータを足した自分用のモデルを作る
ollama launch claude Claude Code を Ollama のモデルにつないで起動する(codex・opencode も可)
ollama serve --help 設定できる環境変数の一覧

対話中の複数行入力は """ で囲む。モデルはメモリに5分残り(OLLAMA_KEEP_ALIVE の既定)、次の呼び出しが速くなる。

OllamaのAPIをアプリから使う

WHO CAN CALLAPIに届く経路

既定は自分のPCだけ。外に開くと認証の無いAPIになる

11434番ポート

  • 既定127.0.0.1:11434 届く同じPCのアプリ・エージェント
  • LAN既定のまま 届かないほかのPC
  • LANOLLAMA_HOST=0.0.0.0 認証なしで届くネットワークの誰でも
  • 外OLLAMA_NO_CLOUD=1 止まるクラウドモデル・Web検索
出典: Ollama FAQ・Authentication(v0.40.6)。ローカルのAPIは認証を求めない

サーバーは3種類のAPIを同じポートで出している。

API 入口 使う場面
ネイティブ /api/generate・/api/chat・/api/embed Ollama専用のクライアントやスクリプト
OpenAI互換 http://localhost:11434/v1/ OpenAI SDKのコードを base_url の差し替えで動かす
Anthropic互換 ANTHROPIC_BASE_URL=http://localhost:11434 Claude Code など Messages API のクライアント

OpenAI互換の呼び出しは次の形。ローカルのAPIは認証を求めないので、キーは要らない(公式の Authentication)。

curl http://localhost:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{"model": "gemma4:e2b", "messages": [{"role": "user", "content": "こんにちは"}]}'

外に開くときの注意

既定の待ち受けは 127.0.0.1:11434 で、同じPCからしか届かない。OLLAMA_HOST=0.0.0.0 にするとネットワークの誰からでも呼べるAPIになる。ローカルのAPIは認証を求めない(公式の Authentication)。LANの外に出すなら、認証つきのリバースプロキシかVPNを前に置く。ブラウザから呼ぶときの許可は OLLAMA_ORIGINS で足す。

必要スペックとモデルの選び方

目安は「モデルのファイルサイズ+コンテキストの分のメモリが、VRAM(Macはユニファイドメモリ)に収まるか」。公式Quickstartは gemma4:e2b(ダウンロード約7.2GB)に8GBのVRAMをすすめている。収まらない分はシステムのRAMに回り、動くが遅くなる。

項目 v0.40.6 の公式の値
NVIDIA Compute Capability 5.0以上・ドライバ550以上(5.0〜6.2は570以上)
AMD ROCm、または既定で有効な Vulkan
Apple Metal(M シリーズ)
既定のコンテキスト長 VRAM 24GiB未満は4k、24〜48GiBは32k、48GiB以上は256k

VRAMが24GiB未満だと、既定のコンテキストは4kトークンしかない。エージェントやコーディングツールにつなぐなら、公式は64,000トークン以上をすすめている。長くするとメモリを食うので、ollama ps の CONTEXT と PROCESSOR を見ながら決める。

OLLAMA_CONTEXT_LENGTH=64000 ollama serve

モデルは小さい方から試すのが早い。8GB前後なら e2b のような小型、16〜24GBなら中型、それ以上で大型を検討する。公開モデルは ollama.com/library で探し、商用で使うならモデルごとのライセンス(Gemma の規約、Llama のコミュニティライセンス、Apache-2.0 など)を個別に読む。

動かない・遅いときの確認

症状 見るところ
could not connect to ollama サーバーが起動していない。アプリを開くか ollama serve
応答が遅い ollama ps の PROCESSOR が CPU 寄りならVRAM不足。小さいモデルか短いコンテキストへ
GPUを使わない サーバーログのGPU検出の行。ドライバの版を確認
ディスクが足りない 保存先を OLLAMA_MODELS で別ドライブへ。不要なモデルは ollama rm

ログの場所はOSで違う。macOSは ~/.ollama/logs/server.log、Linux(systemd)は journalctl -u ollama --no-pager、Windowsは %LOCALAPPDATA%\Ollama の server.log。モデルの保存先は macOS が ~/.ollama/models、Linux のサービス版が /usr/share/ollama/.ollama/models、Windows が C:\Users\%username%\.ollama\models。アンインストールしてもモデルはここに残るので、容量を戻したいときは消し忘れない。

参照ソース