第21章よく混同される用語まとめ

「Ollamaで動くGGUFのモデルを、LoRAで量子化した」。どこがおかしいでしょう？

答えは「LoRAで量子化」です。LoRAは追加学習のやり方で、量子化は軽くするやり方。この文はそもそも混ざっています。LLMの世界には、こういう「似た場所に出てくるけれど役割が違う」用語がたくさんあります。この章では、それを2〜3語ずつ並べて、どっちがどっちかをはっきりさせます。

ひとことで言うと

迷ったら「それはモノか、形式か、道具か、やり方か」を考える。カテゴリが違えば、比べる相手を間違えているサインです。

モノとファイル

モデル vs 重み vs チェックポイント

用語	ひとことで	たとえ
モデル	構造（アーキテクチャ）と重みを合わせた「動く仕組み」全体	レシピと材料がそろった料理
重み（weights）	学習で決まった数値の集まり	計量済みの材料
チェックポイント	ある時点の重みなどを保存したファイル	途中経過のセーブデータ

見分け方: 「ファイルとして保存した、ある時点の重み」ならチェックポイント。日常会話では3つともまとめて「モデル」と呼ばれがちです。詳しくは第2章。

GGUF vs safetensors

	GGUF	safetensors
主な居場所	llama.cpp・Ollama・LM Studio	Hugging Face の transformers など
中身	重み＋トークナイザやチャットテンプレートなどのメタ情報を1ファイルに	重み（テンソル）を安全に保存。設定は別ファイル
量子化	Q4_K_M などの量子化済みで配られることが多い	16bit の元の重みで配られることが多い

見分け方: どちらも「ファイル形式」。ローカル実行向けの単体ファイルならGGUF、学習・研究向けの元の重みならsafetensors。第4章・第5章へ。

軽くする3つの方法

量子化 vs 蒸留 vs 枝刈り

方法	何をする？	たとえ
量子化（quantization）	重みの数値を少ないビット数で表す	写真の色数を減らして容量を小さく
蒸留（distillation）	大きいモデル（先生）の出力を手本に小さいモデル（生徒）を学習	ベテランの答え方を新人がまねて覚える
枝刈り（pruning）	効きの弱い重みや部品を取り除く	庭木の不要な枝を切る

見分け方: パラメータ数が変わらず「1個あたりのビット数」が減るなら量子化。モデルそのものが別の小さいモデルになるなら蒸留。中身を間引くなら枝刈り。量子化は第10章で。

動かす道具

llama.cpp vs Ollama

	llama.cpp	Ollama
正体	推論エンジン（C/C++のライブラリとツール群）	モデル管理と実行をまとめたアプリ
得意	細かい設定、幅広いハードウェア対応	`ollama run モデル名` で即会話
たとえ	車のエンジン	エンジンを積んだ完成車

見分け方: フラグを細かくいじりたいなら llama.cpp、とにかく動かしたいなら Ollama。Ollama の README は謝辞で llama.cpp を挙げています。第7章・第8章へ。

ランタイム vs UI

	ランタイム（推論エンジン）	UI
仕事	重みを読み込み、トークンを計算して出す	人が入力し、結果を見る画面
例	llama.cpp、vLLM、MLX-LM	Open WebUI などのチャット画面

見分け方: 画面を閉じても動き続けるのがランタイム。LM Studio のように両方を1つにまとめたアプリもあるので、混ざりやすいのです。第6章へ。

学習 vs 推論

	学習（training）	推論（inference）
何をする	データから重みを決める・更新する	決まった重みで答えを出す
重みは	変わる	変わらない
たとえ	受験勉強	本番の試験

見分け方: 使ったあとに重みが変わっていれば学習、変わっていなければ推論。ChatGPT に話しかけるのは推論です。第12章へ。

モデルを「自分用」にする

ファインチューニング vs RAG vs プロンプト

方法	変えるもの	向いていること
プロンプト	入力の書き方だけ	まず試す。口調・形式・手順の指定
RAG	入力に、検索した資料を足す	社内文書や最新情報に基づく回答
ファインチューニング	重みそのもの	独特の文体・形式・振る舞いを身につけさせる

見分け方: 「知識を足したい」ならまずRAG、「癖や型を覚えさせたい」ならファインチューニング。どちらの前にもプロンプトの工夫を試します。たとえるなら、プロンプトは指示書、RAGは持ち込み可の資料、ファインチューニングは研修です。第19章・第12章へ。

LoRA vs QLoRA

	LoRA	QLoRA
やること	元の重みは固定し、小さな追加行列だけ学習	LoRAと同じ。ただし元の重みを4bitに量子化して載せる
うれしさ	学習する量と保存サイズが小さい	さらに少ないGPUメモリで学習できる
提案	Hu ら（2021）	Dettmers ら（2023）

見分け方: QLoRA の Q は量子化（Quantized）。「LoRA ＋ 4bitで載せた土台」です。第13章へ。

数字の読み方

パラメータ数 vs 総パラメータ / アクティブパラメータ

用語	意味	効いてくるもの
総パラメータ	モデルが持つ重みの総数	必要なメモリ
アクティブパラメータ	1トークンの計算で実際に使う重みの数	計算量・速度

普通の（dense）モデルでは2つは同じです。違いが出るのは MoE（Mixture of Experts）。たとえば gpt-oss-20b は総パラメータ約210億、アクティブ約36億です。Gemma 4 の「26B A4B」のような名前の A は Active を表します。

見分け方: メモリの見積もりには総パラメータ、速さの見積もりにはアクティブ。第26章へ。

コンテキスト長 vs 出力長

	コンテキスト長	最大出力長
意味	一度に扱えるトークンの総量（入力＋出力）	1回の返答で生成できるトークン数の上限
たとえ	机の広さ	1回に書ける答案用紙の枚数

見分け方: 「長い資料を読めるか」はコンテキスト長、「長い文章を一気に書けるか」は出力長。「256K対応」でも、出力は別の上限で止まることがあります。ローカルでは、ツールの既定値がモデルの最大値より小さいこともあります（第23章）。

トークン vs 文字

	トークン	文字
誰の単位	モデル（トークナイザ）の単位	人間の単位
数え方	トークナイザごとに違う	見たまま

見分け方: 料金・コンテキスト長・速度（tokens/s）はトークンで数えます。同じ日本語の文でも、トークナイザが違えばトークン数は変わります。第2章へ。

エージェントまわり

エージェント vs ワークフロー

	ワークフロー	エージェント
手順を決めるのは	人が書いたコード（決まった道筋）	LLM自身（状況を見て次を決める）
たとえ	レシピどおりに作る	冷蔵庫を見て献立から考える
向き	手順が決まっていて予測しやすさが大事	手順を事前に決められない作業

この区別は Anthropic の記事「Building effective agents」の定義に沿っています。そこでは両方をまとめて「エージェント的なシステム」と呼んだうえで、道筋が事前に決まっているかで分けています。

見分け方: 「次に何をするか」を誰が決めるか。第20章・第28章へ。

MCP vs function calling vs API

用語	ひとことで	たとえ
API	ソフト同士が呼び合う窓口全般	お店の注文カウンター
function calling（ツール呼び出し）	LLMが「この関数をこの引数で呼んで」と構造化して出力する仕組み	店員への注文票の書き方
MCP	AIアプリと外部のツール・データをつなぐ共通規格	AIアプリ用のUSB-C

見分け方: function calling は「モデルが呼び出しを頼む」話。MCP は「どのツールをどうつなぐか」の共通規格。実際に関数やAPIを実行するのは、どちらの場合もアプリ側です。MCP は2024年11月に Anthropic がオープンソースで公開し、公式サイトは「AIアプリケーションのためのUSB-Cポート」とたとえています。

ラベルの読み方

オープンウェイト vs オープンソース

	オープンウェイト	オープンソースAI（OSAID）
公開されるもの	重み（ライセンスはさまざま）	重み・学習と推論のコード・学習データの詳しい情報
条件	利用制限つきのこともある	OSI承認の条件で、使う・調べる・改変する・共有する自由

OSI（Open Source Initiative）は2024年10月28日に「Open Source AI Definition（OSAID）」1.0を公開しました。そこでは、改変に必要な形として「データ情報（Data Information）」「コード」「パラメータ」の3つを求めています。

見分け方: 重みだけなら「オープンウェイト」。重みが Apache 2.0 のような寛容なライセンスでも、学習データの情報やコードがそろっていなければ OSAID の意味での「オープンソースAI」にはなりません。宣伝文の「open-source」は、この定義と違う意味で使われることもあります。第3章へ。

ベース vs インストラクト vs 推論（reasoning）モデル

種類	特徴	名前の手がかり
ベース（base）	事前学習だけ。文章の続きを書く	-Base、-pt
インストラクト（instruct）	指示に従って答えるよう調整済み	-Instruct、-it、-Chat
推論モデル	答える前に考える過程を生成する	thinking モードや推論の強さ（effort）の設定

見分け方: 質問に答えず続きを書き出したらベース。最近は1つのモデルで考える・考えないを切り替えられるものも多く、gpt-oss は推論の強さを low / medium / high で選べます。第27章へ。

ベンチマーク vs 実力

	ベンチマークの点数	あなたの用途での実力
測るもの	決まった問題集での成績	自分のデータ・言語・作業での使い勝手
落とし穴	問題が学習データに混ざる（汚染）、満点近くで差が出ない	試さないとわからない

見分け方: ベンチマークは模試の偏差値、実力は本番の仕事ぶり。候補を絞るのに点数を使い、最後は自分の課題で試します。第30章へ。

よくある誤解

GGUFにすると自動的に量子化される

GGUFは入れ物。16bitのままのGGUFもある。量子化はQ4_K_Mなどの別の話

ファインチューニングすれば最新知識を覚えてくれる

頻繁に変わる知識はRAGのほうが向く。微調整が得意なのは型や振る舞い

20Bのモデルなら毎回20B分の計算をしている

MoEならアクティブ分だけ。gpt-oss-20bは1トークンあたり約36億

確認クイズ

Q1. 冒頭の「LoRAで量子化した」を正しく言い直すと？

たとえば「QLoRAで微調整した（土台を4bitに量子化して載せ、LoRAで学習した）」、または「量子化したGGUFにLoRAアダプタを当てた」。量子化と追加学習は別の操作です。

この章のまとめ

まず「モノ・形式・道具・やり方」のどれかを考えると、比べる相手を間違えない。
GGUFとsafetensorsは形式、Q4_K_Mは量子化方式、llama.cppはエンジン、Ollamaはそれを使いやすくしたアプリ。
知識を足すならRAG、癖を覚えさせるならファインチューニング、その前にプロンプト。
MoEはメモリに総パラメータ、速度にアクティブパラメータが効く。
「オープン」はラベルを確認。重みだけならオープンウェイト。

さらに深く学ぶ

この章の内容をもう一歩掘り下げるための原典です。

入門仕様The Open Source AI DefinitionOpen Source Initiative · Web（随時更新）「オープンソースAI」と呼ぶための条件（データ情報・コード・パラメータの公開など）を定めた定義。オープンウェイトとの違いを考える基準になります。

論文・資料ガイド全体を見る →

出典・参考

The Open Source AI Definition 1.0（OSI） — 4つの自由、Data Information / Code / Parameters の要件（2026年10月確認）
OSI: OSAID 1.0 公開の発表（2024年10月28日）
Anthropic「Building effective agents」 — ワークフローとエージェントの区別
Anthropic「Introducing the Model Context Protocol」（2024年11月25日）／ What is the Model Context Protocol (MCP)? — USB-Cのたとえ（2026年10月確認）
openai/gpt-oss-20b モデルカード — 総パラメータ21B・アクティブ3.6B、推論の強さ設定（2026年10月確認）
Ollama library: gemma4 — Gemma 4 26B（MoE、アクティブ4B）（2026年10月確認）
Hu et al. (2021) LoRA: Low-Rank Adaptation of Large Language Models
Dettmers et al. (2023) QLoRA: Efficient Finetuning of Quantized LLMs
Hinton et al. (2015) Distilling the Knowledge in a Neural Network
ollama/ollama（GitHub）／ ggml-org/llama.cpp（GitHub）（2026年10月確認）