この本の歩き方
NEW 2026年10月の改訂で、全章の内容を最新の情報に合わせて書き直し、MoE・推論モデル・コーディングエージェント・マルチモーダル・評価の5章(第26〜30章)を加えました。章番号は元のURLを保つため据え置き、目次は読む順に並べています。
第1部全体像をつかむ1章
第2部モデルとは何か3章
第3部モデルはどこにあるのか1章
第4部モデル形式と保存形式2章
第5部どうやってモデルを動かすのか4章
- 第6章約13分 推論ランタイムとは何か モデルファイルを動かす「エンジン」の正体。読み込み・計算・サンプリングの流れと、ローカル型とサーバ型の違い。
- 第7章約14分 llama.cppとは何か ローカルLLMの心臓部。ggml・GGUFとの関係、量子化、llama cli/llama serve の使い方、得意と不得意。
- 第8章約14分 Ollama / LM Studio / Open WebUI / Jan など Ollama・LM Studio・Open WebUI・Jan・Llamaアプリ・mlx-lm。エンジン、管理役、画面の役割分担で整理する。
- 第9章約14分 vLLM / SGLang / TensorRT-LLM / TGI 大勢をさばくサーバ向け推論エンジン。vLLM・SGLang・TensorRT-LLMの特徴、TGIのメンテナンス入り、Dynamoの位置づけ。
第6部どうやって軽くするのか2章
第7部学習と微調整3章
第8部推論を速くする2章
第9部ハードウェアと実行環境2章
第10部データ・検索・エージェント3章
第11部見る・聞く・測る2章
第12部混乱しやすい比較特集1章
