LLM（大規模言語モデル）

KTransformers（kvcache-ai・★18,900超・Apache-2.0）は、MoEの専門家をCPUへ、注意層とKVキャッシュをGPUへ置くCPU/GPUヘテロ推論フレームワーク。DeepSeek-R1/V3級の巨大MoEを単一24GB VRAM＋大容量RAMで動かす仕組みを、他ランタイムとの違いとともに一次情報で整理する。

omlx（jundot/omlx・★17,900超・Apache-2.0）はApple Silicon専用のローカルLLM推論サーバー。OpenAIとAnthropicの両API互換で、Claude Codeのローカルバックエンドになる。M2 Mac（macOS 14.5）で実際に起動し、両エンドポイントとKVキャッシュの効きを実測した。

AlexsJones/llmfitは、GPU・VRAM・RAMを検出して『今の自分のPCで動くローカルLLM』を1コマンドで判定するRust製のCLI／TUIツール。★29,000超。仕組み、Ollama・LM Studioとの使い分け、マシン別のおすすめモデルまで公式情報をもとに完全解説します。

Ollama APIは、ローカルで動くLLMをHTTPで叩くためのREST API。/api/generate・/api/chatのネイティブAPIと、/v1のOpenAI互換APIの両方を既定ポート11434で公開する。エンドポイント全体像、ストリーミング、構造化出力、keep_alive、Python/JSからの呼び出し、公開設定の注意点まで公式ドキュメントを基に解説する。

Z.ai（智谱AI）が公開したGLM-5.2の使い方と実力を、Hugging Faceモデルカードの公式情報で解説。744B MoE・1Mコンテキスト・MITライセンス、公称ベンチマーク、ローカル運用のVRAM要件とAPI利用までを一次ソースで確認。DeepSeek・Qwen・Claudeとの比較表付き。

VoxCPM2はOpenBMBのトークナイザレス多言語TTS。Apache-2.0・約25,576★で日本語含む30言語に対応し、テキスト記述からの音色設計とゼロショットボイスクローニングをローカルで動かせる。設計・性能・実行手順・倫理を一次ソースで整理する。

Codex CLIをOllamaでローカル実行する2026年版ガイド。Ollama 0.24の『ollama launch codex』一発でgpt-oss等のOSSモデルにつなぎ、API課金もレート制限もなくOpenAI公式コーディングエージェントが動く。config.tomlプロファイルとCodex Appも解説。

Z LabがリリースしたDFlashはブロック拡散モデルでドラフトトークンを並列生成する投機的デコーディング新手法。Qwen3-8BでlosslessでEAGLE-3比2.5倍・最大6倍の高速化を達成。vLLM mainline/SGLang/Transformers/MLX対応で即実用可能。

会議音声をMac上で完全ローカル転記し、Claude・GPT-4oなどのLLMで内容を検索・対話できるOSSツール。プライバシーを守りながら議事録作成を効率化しよう。概要 OpenOatsは、会議やミーティングの音声を自動で転記し、記録された内容をAIが対話的に検索・参照できるツール。従来型の手書きメモやテキスト議…

家にある複数のPCやRaspberry PiをLANで繋ぎ、テンソル並列処理でLLMローカル実行を高速化するC++製フレームワーク。Llama・Qwen3・DeepSeekに対応し、月3万円のAPIコストをゼロにした実績あり。今すぐ試せるインストール手順付きで解説します。

Microsoftの1ビット量子化技術でLLMのメモリ使用量を90%削減し、エッジデバイスやスマートフォンでも高速なLLMローカル実行を実現する公式フレームワーク。CPUだけで100Bパラメータモデルが動く仕組みとインストール手順を徹底解説。

ClaraVerseはChatGPT・Claudeをセルフホストし、データを外部送信せずLLMローカル実行できるオープンソースプラットフォームです。マルチモーダル対応、N8N互換ワークフロー、iOS/Androidアプリを統合。Docker導入手順やコード例を詳しく解説します。

Zhipu AI公式のGLMスキル集がオープンソース化。画像キャプション・PDF変換・株式分析・コード生成など30以上のスキルをClaude Code・OpenCode・OpenClawから即座に利用可能。導入手順と各スキルの活用例を今すぐ確認しよう。

地理的座標や空間関係を大規模言語モデルに組み込むための研究基盤。空間推論能力を備えたAIシステムの構築を支援。GitHubで公開中、4424スター獲得。概要 SpatialLMは、大規模言語モデルに3D空間認識能力を統合するための研究フレームワーク。ポイントクラウド（点群データ）の処理と自然言語を組み合わせた空間理…

KTransformers（kvcache-ai・★18,900超・Apache-2.0）は、MoEの専門家をCPUへ、注意層とKVキャッシュをGPUへ置くCPU/GPUヘテロ推論フレームワーク。DeepSeek-R1/V3級の巨大MoEを単一24GB VRAM＋大容量RAMで動かす仕組みを、他ランタイムとの違いとともに一次情報で整理する。

omlx（jundot/omlx・★17,900超・Apache-2.0）はApple Silicon専用のローカルLLM推論サーバー。OpenAIとAnthropicの両API互換で、Claude Codeのローカルバックエンドになる。M2 Mac（macOS 14.5）で実際に起動し、両エンドポイントとKVキャッシュの効きを実測した。

AlexsJones/llmfitは、GPU・VRAM・RAMを検出して『今の自分のPCで動くローカルLLM』を1コマンドで判定するRust製のCLI／TUIツール。★29,000超。仕組み、Ollama・LM Studioとの使い分け、マシン別のおすすめモデルまで公式情報をもとに完全解説します。

Ollama APIは、ローカルで動くLLMをHTTPで叩くためのREST API。/api/generate・/api/chatのネイティブAPIと、/v1のOpenAI互換APIの両方を既定ポート11434で公開する。エンドポイント全体像、ストリーミング、構造化出力、keep_alive、Python/JSからの呼び出し、公開設定の注意点まで公式ドキュメントを基に解説する。

Z.ai（智谱AI）が公開したGLM-5.2の使い方と実力を、Hugging Faceモデルカードの公式情報で解説。744B MoE・1Mコンテキスト・MITライセンス、公称ベンチマーク、ローカル運用のVRAM要件とAPI利用までを一次ソースで確認。DeepSeek・Qwen・Claudeとの比較表付き。

VoxCPM2はOpenBMBのトークナイザレス多言語TTS。Apache-2.0・約25,576★で日本語含む30言語に対応し、テキスト記述からの音色設計とゼロショットボイスクローニングをローカルで動かせる。設計・性能・実行手順・倫理を一次ソースで整理する。

Headroomはツール出力・ログ・RAGチャンクをLLMに渡す前に60〜95%圧縮するApache 2.0のプロンプト圧縮ミドルウェア。トークンコスト削減とRAG精度維持を両立する仕組み、CCR可逆圧縮、出力トークン削減、LLMLinguaとの違い、使い方、コスト試算まで一次ソースで整理する。

Gemma 4 12BはGoogle DeepMindが2026年6月3日公開したApache 2.0のオープンモデル。Vision・Audioのエンコーダを廃し線形射影でLLMへ直送、256K文脈を16GBノートで動かす。アーキ・ベンチ・ローカル実行・落とし穴を一次ソースで整理する。

MiniMax M3は2026年6月1日公開のオープンウェイトモデル。SWE-Bench Pro 59.0%を主張し、新アーキMSAで1M文脈とネイティブマルチモーダルを両立する。ベンチの裏取り・computer use・ローカル実行・商用ライセンスの注意点まで一次ソースで整理する。

Microsoft Build 2026で発表された自社開発7モデル「MAIファミリー」を解説。主力MAI-Thinking-1は35B active MoE・256Kで、盲検評価でSonnet 4.6超え・SWE-Bench ProでOpus 4.6並みと主張。OpenAI依存脱却戦略を一次ソースで整理する。

Codex CLIをOllamaでローカル実行する2026年版ガイド。Ollama 0.24の『ollama launch codex』一発でgpt-oss等のOSSモデルにつなぎ、API課金もレート制限もなくOpenAI公式コーディングエージェントが動く。config.tomlプロファイルとCodex Appも解説。

PageIndexはベクトルDBを使わず、長文PDFから階層ツリー・インデックスを構築しLLMがツリー推論で答えを引く新方式RAG。FinanceBench 98.7%精度、30k stars。CLI・Python API・MCPサーバまで導入と仕組みを徹底解説。

Z LabがリリースしたDFlashはブロック拡散モデルでドラフトトークンを並列生成する投機的デコーディング新手法。Qwen3-8BでlosslessでEAGLE-3比2.5倍・最大6倍の高速化を達成。vLLM mainline/SGLang/Transformers/MLX対応で即実用可能。

Kimi K2.6とは何かを公式情報で解説。Moonshot AIのオープンウェイト1兆パラメータMoEモデルで、SWE-Bench ProではGPT-5.4を上回る58.6%を記録。API・vLLMでのローカル使い方、300エージェント並列のAgent Swarm、料金・ライセンスまで整理する。

Zhipu AI公式のGLMスキル集がオープンソース化。画像キャプション・PDF変換・株式分析・コード生成など30以上のスキルをClaude Code・OpenCode・OpenClawから即座に利用可能。導入手順と各スキルの活用例を今すぐ確認しよう。

マーケティングプロフェッショナル向けのAI活用スキルセットを集約。431スター獲得の実践的リソース集で、AIツール導入と運用の知識を体系的に習得できる。概要 ai-marketing-skillsは、マーケティングおよび営業チーム向けのClaudeコード対応スキルセット。マーケティング実務で必要となるAI駆動型ワー…

地理的座標や空間関係を大規模言語モデルに組み込むための研究基盤。空間推論能力を備えたAIシステムの構築を支援。GitHubで公開中、4424スター獲得。概要 SpatialLMは、大規模言語モデルに3D空間認識能力を統合するための研究フレームワーク。ポイントクラウド（点群データ）の処理と自然言語を組み合わせた空間理…

テーブルデータを自然言語で指示するだけで、視覚化とグラフ生成を自動実行。データ分析の初期段階を効率化し、技術スキル不問でインサイト抽出を加速させる。GitHubで3236スター獲得の実績。

awesome-n8nは2800スター超のn8n向け実務ワークフローテンプレート集。通信・ドキュメント生成・AI/LLMなど複数カテゴリに整理されており、ゼロから自動化フローを設計する手間を省いてすぐ始める方法を紹介

CAI（Cybersecurity AI）はAlias Robotics開発、GitHub9,000スター超のAIセキュリティフレームワーク。LLMエージェントによるペネトレーションテスト自動化・CTF解法・プロンプトインジェクション防御を、ライセンス条件や企業導入事例（HackerOne等）まで含めて解説する。

Hereticはトランスフォーマーベースの言語モデルからsafety alignmentを全自動で除去するツール。directional ablationとOptunaベースのパラメータ最適化で、高額な事後訓練なしに検閲解除モデルを生成できます。

AI reads booksは、PDFをページ単位でAIに分析させ、知識ポイントの抽出と定期的なサマリー生成を自動化するPythonスクリプト。中断からの再開機能やTOC自動スキップにも対応しています。

会議音声をMac上で完全ローカル転記し、Claude・GPT-4oなどのLLMで内容を検索・対話できるOSSツール。プライバシーを守りながら議事録作成を効率化しよう。概要 OpenOatsは、会議やミーティングの音声を自動で転記し、記録された内容をAIが対話的に検索・参照できるツール。従来型の手書きメモやテキスト議…

MoneyPrinterV2はYouTube Shorts自動生成・Twitter Bot・アフィリエイトを全自動化するPython OSS。GitHub Stars 29,600超。gpt4free＋KittenTTSで動画生成からSNS投稿まで一気通貫。仕組みと導入方法を解説。

テキスト音声変換オープンソースの決定版。LLMの最初のトークンから音声を開始するPythonライブラリで、10種以上のエンジンを統一APIで切り替え可能。AIアシスタント開発者は今すぐ導入検討を。

家にある複数のPCやRaspberry PiをLANで繋ぎ、テンソル並列処理でLLMローカル実行を高速化するC++製フレームワーク。Llama・Qwen3・DeepSeekに対応し、月3万円のAPIコストをゼロにした実績あり。今すぐ試せるインストール手順付きで解説します。

Microsoftの1ビット量子化技術でLLMのメモリ使用量を90%削減し、エッジデバイスやスマートフォンでも高速なLLMローカル実行を実現する公式フレームワーク。CPUだけで100Bパラメータモデルが動く仕組みとインストール手順を徹底解説。

ClaraVerseはChatGPT・Claudeをセルフホストし、データを外部送信せずLLMローカル実行できるオープンソースプラットフォームです。マルチモーダル対応、N8N互換ワークフロー、iOS/Androidアプリを統合。Docker導入手順やコード例を詳しく解説します。