紺色の地面に、光る糸で描かれた大きなネットワークの輪。その上を小さな人たちが歩き、まわりに本や半導体チップが散らばっている。

2026年10月改訂 · 全30章 · 合計 約6.9時間

LLM周辺用語 教科書

モデル・推論・学習の全体像を、やさしく、正確に

「GGUFってなに?」「Q4_K_Mの“K”は?」「MCPとエージェントの違いは?」——LLMのまわりには、検索しても意味がつながらない言葉がたくさんあります。この本は、その用語をひとつの地図の上に並べなおして、どれが何の仲間なのかをつかめるようにするための教科書です。

この本の歩き方

まず全体をつかみたい

用語を6つの層に並べてから、頻出語をおさえる。1時間で会話についていけるようになります。

手元で動かしてみたい

まず動かしてみて、つまずいたらファイル形式や量子化の章へ。

AIアプリを作りたい

自分のデータで答えさせ、道具とつなぎ、成果を測る順番で。

NEW 2026年10月の改訂で、全章の内容を最新の情報に合わせて書き直し、MoE・推論モデル・コーディングエージェント・マルチモーダル・評価の5章(第26〜30章)を加えました。章番号は元のURLを保つため据え置き、目次は読む順に並べています。

紺色の海に浮かぶ世界地図。大陸どうしが線で結ばれ、ところどころに目印が付いている。

第1部全体像をつかむ1章

  1. 第1章約9分 LLM周辺の世界地図 用語をデータ・学習・モデル・形式・実行・アプリの6層に並べて、本全体の地図をつくる。
両側に本棚が続く図書館の通路を、白い鳥の群れが奥の光へ向かって飛んでいく。

第2部モデルとは何か3章

  1. 第2章約14分 モデル・重み・トークナイザ モデルの正体は「重み+設定+トークナイザ」。パラメータ、チャットテンプレート、Base/Instructの違いまで。
  2. 第26章NEW約14分 MoE(Mixture of Experts) 総パラメータと有効パラメータの違い、ルーター、負荷分散、ローカル実行での注意点
  3. 第27章NEW約18分 推論モデルと「考える時間」 思考トークン、test-time compute、GRPOとDeepSeek-R1、reasoning effortの使い分けまで。
夕暮れの港に、色とりどりのコンテナと大きなクレーンが並んでいる。

第3部モデルはどこにあるのか1章

  1. 第3章約15分 Hugging Faceとは何か AIモデルのGitHub的な置き場所Hubと、モデルカード、ライセンス、Spaces、transformers、hf CLIの使い方。
第4部「モデル形式と保存形式」の扉イラスト。

第4部モデル形式と保存形式2章

  1. 第4章約14分 モデルファイル形式の基本 safetensors・pickle(.bin/.pt)・GGUF・ONNX・MLXの違いと、分割ファイルの読み方、安全な選び方。
  2. 第5章約17分 GGUFを重点的に理解する GGUFの中身(ヘッダー・メタデータ・テンソル)と、Q4_K_M・IQ・imatrix・MXFP4などの量子化名、分割とmmproj。
第5部「どうやってモデルを動かすのか」の扉イラスト。

第5部どうやってモデルを動かすのか4章

  1. 第6章約13分 推論ランタイムとは何か モデルファイルを動かす「エンジン」の正体。読み込み・計算・サンプリングの流れと、ローカル型とサーバ型の違い。
  2. 第7章約14分 llama.cppとは何か ローカルLLMの心臓部。ggml・GGUFとの関係、量子化、llama cli/llama serve の使い方、得意と不得意。
  3. 第8章約14分 Ollama / LM Studio / Open WebUI / Jan など Ollama・LM Studio・Open WebUI・Jan・Llamaアプリ・mlx-lm。エンジン、管理役、画面の役割分担で整理する。
  4. 第9章約14分 vLLM / SGLang / TensorRT-LLM / TGI 大勢をさばくサーバ向け推論エンジン。vLLM・SGLang・TensorRT-LLMの特徴、TGIのメンテナンス入り、Dynamoの位置づけ。
台の上の大きな結晶から小さな結晶が切り出され、指先がそれをつまもうとしている。

第6部どうやって軽くするのか2章

  1. 第10章約16分 量子化(Quantization) FP16/BF16/FP8/INT4/MXFP4の違い、GPTQ・AWQ・GGUF・bitsandbytes、QATとPTQを整理する。
  2. 第11章約15分 BitNet / ternary / 1-bit系 重みを−1/0/+1だけにするBitNet b1.58、2B4Tモデル、bitnet.cpp、TQ1_0/TQ2_0を整理する。
光る回路のような枝をもつ盆栽を、作業着の人がはさみで手入れしている。

第7部学習と微調整3章

  1. 第12章約15分 事前学習・継続事前学習・SFT 事前学習・継続事前学習・SFT・RLHF・DPO・RLVR・蒸留の違いと使いどころを整理する。
  2. 第13章約16分 LoRA / QLoRA / Adapter LoRA・QLoRA・Adapter・DoRAのしくみと、アダプタの結合・マージ・複数LoRAの同時配信を整理する。
  3. 第14章約14分 学習ツール群 Transformers・TRL・PEFT・Accelerate・DeepSpeed・FSDP2・Unsloth・Axolotl・LlamaFactory・MLX-LMの位置づけ。
夕焼けの線路を走る高速列車と、並んで飛ぶドローン。

第8部推論を速くする2章

  1. 第15章約15分 KV cache / batching / paged attention KVキャッシュ、GQA/MLA、continuous batching、PagedAttention、prefix caching、FlashAttentionを整理する。
  2. 第16章約16分 speculative decoding / EAGLE / DFlash 投機的デコーディングの原理と、Medusa・EAGLE-1/2/3・MTP・n-gram・DFlashの違いを整理する。
夕焼けの大都市と高速道路の上に、大きなコンピューターの筐体がそびえている。

第9部ハードウェアと実行環境2章

  1. 第17章約15分 CPU / GPU / NPU / TPU の違い CPU・GPU・NPU・TPUの違いと、メモリ容量・帯域でハードを選ぶ考え方。Blackwell・Rubin・MI355X・TPU・Mac・DGX Sparkまで。
  2. 第18章約14分 CUDA / ROCm / Metal / DirectML CUDA・ROCm/HIP・Metal/MPS/MLX・DirectML/Windows ML・Vulkan・SYCLの違いと選び方。
本棚に囲まれた机で、白いロボットが本を開きながらスマートフォンを操作している。

第10部データ・検索・エージェント3章

  1. 第19章約15分 RAG / embedding / vector DB 検索してから答えるRAGの仕組みを、embedding・ベクトルDB・ハイブリッド検索・リランカー・評価まで
  2. 第20章約15分 エージェント / ツール利用 / MCP ツール利用、エージェントループ、MCP・A2A・Agent Skills、そしてプロンプトインジェクション対策
  3. 第28章NEW約15分 AIコーディングエージェントとコンテキストエンジニアリング Claude Code・Codex・Copilot・Cursorなどの仕組みと、指示ファイル・圧縮・サブエージェント・権限の考え方
風景画と定規を前に首をかしげるロボット。壁にはグラフが貼られている。

第11部見る・聞く・測る2章

  1. 第29章NEW約16分 マルチモーダル:画像・音声・動画を扱うLLM 画像トークン、mmproj、OCR、音声対話、動画、画像生成の違い、ローカルでの動かし方まで。
  2. 第30章NEW約15分 評価とベンチマーク MMLUからSWE-bench、Arena、日本語評価まで。汚染・飽和、LLM審査員のくせ、自前の評価セットの作り方。
虫めがねをのぞき込む、茶トラと灰色の2匹の猫。

第12部混乱しやすい比較特集1章

  1. 第21章約13分 よく混同される用語まとめ モデルと重み、量子化と蒸留、RAGと微調整など、混同しやすい用語ペアを比較表とクイズで整理
ランプに照らされた机に、開いたノートと紅茶、メモが並んでいる。

第13部付録4章

  1. 第22章約10分 最低限これだけ覚えればよい用語30選 会話の8割をカバーする30語を、6つの層ごとにひとことで。
  2. 第23章約14分 ローカルLLMを触る最短ルート Ollama・LM Studio・llama.cpp・MLX-LMで、手元のPCでLLMを動かすまでの最短手順
  3. 第24章約4分 用語索引 用語から章を引く索引。用語集の説明にもすぐ飛べる。
  4. 第25章約5分 学習順ガイド 目的別の5つの読み順コースと、理解度をはかるセルフチェック。