本文へ移動

LLMLLM / ローカルAI

LLMとは?大規模言語モデルの仕組み・ローカル実行・比較ガイド

LLMの仕組み、ローカル実行、モデル比較、最適化

44本最終更新 2026.11.13

START HERE最初に読む

  1. 01まとめ記事

    LLMとは?仕組み・主要モデル比較・ローカル実行・量子化を一気にまとめる2026年版

    LLM(大規模言語モデル)の仕組みをTransformer・MoEから図解。2026年最新モデル比較、日本語LLM特集、Ollama・vLLM・llama.cppローカル実行手順、量子化の選び方まで。概念で終わらな...

LLMとは

LLM(Large Language Model / 大規模言語モデル)は、膨大なテキストデータで学習された言語を理解・生成するAIモデルです。ChatGPT、Claude、Gemini、Llamaなどがその代表例です。

2026年現在、LLMはチャットだけでなく、コード生成・データ分析・画像理解・エージェント実行まで幅広く活用されています。

クラウド vs ローカル実行

  クラウドAPI ローカル実行
精度 最高(Opus, GPT-4等) モデル次第(7B〜70B)
コスト 従量課金 初期のGPU投資のみ
プライバシー データが外部へ 完全ローカル
速度 ネットワーク依存 ハードウェア依存
社内機密データを扱う場合や、API料金を抑えたい場合にローカル実行が選択肢になります。

ローカル実行の主要ツール

ツール 特徴
Ollama ワンコマンドでLLMを起動。最も手軽
vLLM 高スループット推論。PagedAttentionで高速化
llama.cpp C++実装。CPUのみでも動作
Distributed Llama 複数デバイスで分散実行。家庭用PCをクラスタ化

量子化とは

量子化は、モデルの数値精度を下げてメモリ使用量と推論速度を改善する技術です。

精度 メモリ削減 備考
FP16 基準 70Bモデルで約140GB VRAM
INT8 約50% 精度劣化は軽微
INT4(GPTQ/AWQ) 約75% 70Bが24GB GPUに収まる
1-bit(BitNet) 約93% CPUのみで100Bモデルが動作

このトピックの読み方

LLMを使い始めたい → まずOllamaでローカル実行を試すのが最速です。関連記事から導入ガイドを参照してください。

本番環境で推論サーバーを立てたい → vLLMが業界標準。高スループットな推論が必要な場合に最適です。

LLMの記事一覧(44本)

LLM Yogurtとは|Granolaの代わりになる無料OSS、会議の文字起こしと要約をローカルだけで完結させるYogurt は、会議の録音・文字起こし・要約を自分の PC の中だけで行う無料の OSS(★885・MIT)。ボットを会議に入れず、アカウントも要らない。README とソ...
LLM Claude Fable 5.2とは|単価2割減・Mythos 5.2との違いと移行で壊れる4か所Anthropicが2026年11月9日に公開したClaude Fable 5.2とMythos 5.2を整理。単価は入力$8・出力$40で5.1から2割減、出力は最大30%...
LLM OpenRouterとは|使い方・料金・無料モデルの制限と、OpenAI互換APIで複数モデルを切り替える方法OpenRouterは、各社のLLMを1つのキーとOpenAI互換のAPIで呼べるサービスです。料金の見方(上乗せなしのトークン単価と購入時の手数料)、:freeモデルの1日...
LLM Hugging Faceとは|使い方・モデルの探し方・hf CLIでのダウンロードとライセンスの見方Hugging Faceは、AIモデルやデータセットを公開・共有するサービスです。モデルの探し方、カードで見るライセンスとゲート、hf CLIでのダウンロード、hugging...
LLM d1-ultraとは|Liquid AIの決定モデルにJevのPython SDKから送る中身を実測で確かめたd1-ultraはLiquid AIが2026-10-15に出した、文章を書かずに答えごとの確率を返すホスト型の決定モデル。JevのPython SDK 0.7.5を向け先だ...
LLM Jellyfishとは|AIショートドラマ制作OSSを起動、台本からショット分割と必要なモデルを実測JellyfishはAIショートドラマを台本からショット分割・人物などの資産管理・画像と動画の生成タスクまで1つのDBで扱うOSS。mainを起動して33テーブル・138のA...
LLM Apache IoTDBとは|時系列DBを動かして100万行の書き込みと圧縮率を実測、AINodeの予測SQLも解説Apache IoTDBはIoT・産業機器向けの時系列データベース。2.0.11を単体構成で起動し、表モデルに100万行を3.86秒で書き込み、32.0MBのCSVが5.7M...
LLM Indra OCRはApache-2.0ではない|コードと重みでライセンスが分かれるOCRモデルIndra OCR 1.1.2 はCPUで動く軽量OCR。OCR ライセンスはコードがApache-2.0、モデル重みが改変OpenRAIL-M。日本語の画像を実際に読ませた...
LLM jev-seoとは|URL1本から作るSEO監査をAPIキー無しで実走させ52ルールと3つの拒否を実測jev-seoはホームページのURL1本からサイトを巡回し、52ルールで事実を測り、意味だけをJevに型つきで聞いてPDF・XLSX・Markdownを作るMITのPytho...
LLM Gemini 4 Argonとは|いつ使える?出力上限1M・価格・ベンチ19行を公式チャートと公式SDKで実測Gemini 4 Argonはいつ使えるのか。Googleが2026-09-30に発表した新モデルは出力上限が64Kから1Mへ、価格は入力2ドル・出力10ドル。提供はFair...
LLM Decisions APIとは|Jevの対抗馬と同名OSS実装の差をスキーマ15ケースで実測OpenAIがDevDayで発表したDecisions APIは、文章を生成せず選択肢から答えを返す決定モデルのAPI。技術文書が未公開の現時点で何が分かっているかを整理し、...
LLM train-llm-from-scratchとは|素のPyTorchでLLMを作る教材をパラメータ実測で検証train-llm-from-scratchは、事前学習から報酬モデル・DPO・PPO・GRPOまでを素のPyTorchだけで書いた学習教材。star 11.5kのリポジトリ...
LLM LayaとJevの違い|文章を書かない判定モデル2系統を入手性・実行場所・検証可能性・制約で比べるLayaとJevはどちらも文章を生成せず確率だけを返す判定モデルだが、重みの入手性も実行場所も検証できる範囲も違う。公称レイテンシを直接比べてはいけない理由を含め、2026年...
LLM Laya-MLXとは|Apple SiliconでLayaの型つき判定を7〜13msで動かすMLX移植を実測Laya-MLXはLayaの型つき判定モデルをApple SiliconのMLXで動かすApache-2.0の移植。star 4.4kの本体をLinuxにも入れて依存の切り分...
LLM Laya-CoreMLとは|Apple Neural Engineで型つき判定を約5msで動かすオフラインOSSを実測Laya-CoreMLはApple SiliconのNeural Engineで型つき判定を返すApache-2.0のOSS。文章を生成せず確率だけを返す設計で、公称はM3 ...
LLM Jev-cuとは|Computer Useの次の一手をJevに選ばせるCodex用skillをソースで実測Jev-cuは画面の操作判断だけをJevに任せるCodex用skill。スクリーンショットを送らず要素のラベル文字列だけを渡し、対象・動作・完了・リスクを確率で選ばせる。st...
LLM OpenJevとは|Jev互換のSystem One決定サーバを自前GPUで動かすOSSをソースで実測OpenJevはTypeSafeのJevと同じwire APIを自前GPUで提供するApache-2.0のOSS。拡散モデルDiffusionGemmaを1回読むだけで型つき...
LLM docjevとは|PDFをJevで分類・分割するOSSをOCRから実測し、40文書ベンチの精度も読むdocjevはPDF・DOCX・PPTXをローカルOCRで文字化し、Jevの型つき判定で分類と分割を決めるApache-2.0のOSS。star 143の本体をLinuxで動...
LLM json-renderとは|VercelのUI生成OSSをJev連携まで実測、LLMに書かせず選ばせる設計Vercelのjson-render(Apache-2.0・19.4kスター)は、LLMにUIを書かせず開発者が定義したカタログから選ばせる生成UIフレームワーク。v0.22...
LLM jev-traderとは|Monadの1ブロック300msごとにJevが売買を決めるOSSをソースで実測jev-trader(MIT・1.2kスター)はMonadの約300msブロックごとに、文章を返さない判定モデルJevへ「買いか売りか」を1問だけ聞き、post-onlyの指...
LLM jev-ultrafastとは|ブラウザを生成でなく選択で動かすエージェントを全ソース1,094行で実測jev-ultrafast(Browser Use・MIT・7.9kスター)は、判定モデルJevに操作と対象を選ばせてブラウザを動かすエージェント。全ソース1,094行を読み...
LLM Jev対応OSS 11選|ブラウザ操作・MCP・コードレビュー・Claude Code文脈選別まで実測で見る使いどころJev対応OSS 11本(jev-ultrafast・typesafe-mcp・jev-mcp・SemDecide・Winnow・Jev Reviewなど、TypeSafe ...
LLM Jevとは|文章を返さないSystem Oneモデルの正体を公式SDKのコードで実測し、Claude Codeで試すJev(TypeSafe AI)は文章を1文字も生成せず、型つきの判定と確率だけを返す「System Oneモデル」。MITで公開された公式SDKと、Claude Codeを...
LLM Magnitudeとは|Claude Code接続専用のOSSローカル推論サーバーを実機で徹底検証するMagnitude(magnitudedev、★3,656・Apache-2.0)は、Claude CodeなどのAIエージェント専用に設計されたローカル推論サーバーだ。ハー...
LLM Tencent AuKとは|TTS・音声編集・分離を1つの指示で行う1.5B音声基盤モデル(MIT)の仕組みと要件Tencent AuK(Tencent-Hunyuan/AuK・MIT・1.5B)は、ゼロショットTTS・発話内容の書き換え・感情や音色の変更・ノイズ除去・話者分離など16タ...
LLM LLM 自作は本当に2時間で終わるか|minimindを16GB MacBook Air (M2) で実測LLM 自作の定番教材 minimind(★59,466)は「3元・2時間で64Mの言語モデルをゼロから」と掲げる。この2時間が何を指すのかをREADME自身の費用表と突き合...
LLM TurboFieldfareとは|26BのGemma 4を約2GBのRAMで動かすSwift製ランタイムの実像TurboFieldfare(★6,602・Apache-2.0)は26BのGemma 4を約2GBのRAMで動かすSwift+Metal製ランタイム。「8GBのMacでも動...
LLM Unsloth Desktopとは|使い方・必要容量・AGPLライセンスを実測、45MBのdmgの中身Unsloth Desktop(2026年8月11日登場)の使い方と必要容量を実測。45MBのdmgに入っているのはTauri製の起動役で、初回セットアップは86秒・2.3G...
LLM LogoCreator徹底解説|AIロゴ生成OSSのコードを読み、READMEとの食い違いを実測するLogoCreator(Nutlope・8,400スター)はTogether AIでロゴを生成するNext.js製OSS。ソースを読むとREADME記載と実装が2箇所食い違い...
LLM awesome-gemma徹底解説|Google公式Gemmaリンク集111本の内訳と使い分けを実測で読むawesome-gemmaはGoogleのgoogle-gemma orgが2026年8月19日に公開したGemmaリンク集。111本のエントリをclone後に機械集計し、G...
LLM Gemini 3.7 Flashとは|ベンチマーク・料金・API変更点をGoogle公式発表から読み解くGemini 3.7 Flashの中身をGoogle公式ブログ・DeepMindモデルカード・API公式ドキュメントの一次情報だけで整理する。20項目のベンチマーク実数、「3...
LLM Unlimited-OCR解説|AI OCRで数十ページを一括処理するBaiduのOSSとKVキャッシュ固定の仕組みUnlimited-OCR(baidu・スター約1.9万・MIT)は数十ページの文書を1回の推論で読み切るAI OCRモデル。KVキャッシュを固定長に保つR-SWAの仕組み、...
RAG DeepTutor解説|長期記憶とマルチエンジンRAGで動く自己ホスト型OSS AI家庭教師DeepTutorはHKUDS(LightRAG開発ラボ)が公開する★29,000超のOSS AI家庭教師。1つのエージェントループで対話・演習・研究・可視化を回し、マルチエ...
AIエージェント 12-Factor Agents徹底解説:本番投入できる信頼性の高いAIエージェントを作る12の設計原則12-Factor AgentsはAIエージェントを本番投入できる品質へ引き上げる設計原則集です。HumanLayerが提唱する12のファクターを、プロンプト・コンテキスト・...
LLM FastAPI for AI Engineers 解説|LLM・RAGを本番で配信するためのAPI設計の手引き『FastAPI for AI Engineers』はAI Engineering Insiderが2026年に公開した全89ページの技術書。最初のエンドポイントからLLMゲ...
LLM Hyper-Extract 入門|非構造テキストを8種の知識構造に変えるLLM抽出OSS非構造テキストを構造化された知識に変えるLLM抽出OSS「Hyper-Extract」を一次ソースで解説。Model・Graph・Hypergraph・Temporal/Sp...
LLM LM Studioとは?使い方をインストールから解説|モデル選び・lms・API・MCP・Ollamaとの違いLM Studioとは何か、使い方を公式ドキュメントで確かめて解説。対応OSと必要スペック、モデルの探し方と削除、lms CLI、OpenAI互換とAnthropic互換のA...
LLM PasteGuard|LLMに送るプロンプトのPIIとAPIキーを自動マスクするOSSプロキシの仕組みと精度PasteGuardはOpenAIやAnthropic、ChatGPT、Claude Codeへ送るプロンプトに含まれるPIIとAPIキーをローカルプロキシで自動マスクするO...
RAG OpenViking入門|AIエージェント向けコンテキストDBの仕組みとov.conf設定・Docker運用を解説Volcengine(ByteDance)のコンテキストDB「OpenViking」を解説。viking://の仮想FSとL0/L1/L2の3段階ロード、initウィザードで...
AIエージェント AIエージェントのトークン最適化とは?RTK・Graphify・OpenWolf等5手法の選び方と注意点AIエージェントのトークン最適化とは何か。コマンド出力を縮めるRTK、コードをグラフ化するGraphify、再開を助けるOpenWolf、記憶のMemPalace、自作向けO...
RAG Agentic Graph RAG・Advanced RAGとは?Naive RAGとの違いと選び方Agentic Graph RAG、Advanced RAG、Naive RAGとは何か。検索ミス・断片化・ノイズへの対処、Graph RAGとAgentic RAGの違い、...
RAG LightRAG とは|知識グラフ×デュアルレベル検索の仕組みとストレージ選定LightRAG とは、HKUDS/LightRAG が公開する知識グラフ×デュアルレベル検索のOSS RAGフレームワーク。★38,365、EMNLP2025採択。Neo4...
AIエージェント バイブコーディングは終わった?2026年版Agentic AIエンジニアのロードマップと進化の全体像バイブコーディングからエージェンティック開発への転換を徹底解説。Harvard・Anthropicレポートの知見、Gartnerの予測、ツール比較、学習ロードマップまで。20...
AIエージェント Langflowとは|使い方・チュートリアルでノーコードAIエージェント/RAGを構築する2026Langflowとは何かと使い方を日本語で解説。LangChainベースのノーコードAIワークフロー構築プラットフォームで、ドラッグ&ドロップでAIエージェントやRAGパイプ...

ほかのトピック

CLAUDE CODE Claude Code 213本 AI AGENT AIエージェント 276本 AI CODING AIコーディング 32本 MCP MCP 101本 RAG RAG 59本 SECURITY セキュリティ 285本 DEVOPS DevOps 120本 CLAUDE API API・料金 10本 UI DESIGN UI生成 16本 KNOWLEDGE ナレッジ 26本