LLM周辺の世界地図

そもそもLLMは何をしているのか

「今日の天気は」と入力すると、LLMは「晴れ」「雨」「くもり」……といった候補それぞれに確率をつけ、その中から1つを選びます。選んだ語を文章の末尾に足して、また次の一語を予測する。これをひたすら繰り返して、文章や回答やプログラムを書いています。

この「一語」は正確にはトークンと呼ばれる単位で、単語より細かいこともあります。トークンの切り方や、確率から1つを選ぶ仕組み（サンプリング）は第2章でさわって確かめられます。

いまのLLMのほとんどは、2017年の論文で提案されたTransformerという構造をもとにしています。文章のどの部分とどの部分が関係しているかを「注意（attention）」という仕組みで一度に見渡せるのが特徴で、これが大規模化と相性がよかったのです。

用語を並べる「6つの層」

LLMにまつわる言葉は、ほぼすべて次の6つの層のどこかに属します。下から上へ、「材料」から「使う場面」へと並んでいます。

flowchart TD
  A["① データ
文章・コード・会話"] --> B["② 学習
事前学習・SFT・LoRA"]
  B --> C["③ モデル
重み・トークナイザ"]
  C --> D["④ 形式と軽量化
safetensors・GGUF・量子化"]
  D --> E["⑤ 実行
llama.cpp・vLLM・GPU"]
  E --> F["⑥ アプリ
チャット・RAG・エージェント"]

冒頭の一文を分解してみましょう。「Qwen」は③モデルの名前、「GGUF」は④のファイル形式、「Q4_K_M」は④の量子化の種類、「Ollama」は⑤の実行ツール。こうして層に割り振るだけで、文の意味がぐっとはっきりします。

「学習」と「推論」は別のイベント

地図の中でいちばん大きな境目は、②学習と⑤実行のあいだにあります。

ここで大事なのは最後の行です。チャットで何を話しても、その場でモデルの重みが書き換わるわけではありません。会話の内容を覚えているように見えるのは、それまでのやり取りを毎回まとめて入力し直しているからです（この「入力できる長さ」の上限がコンテキスト長）。

なお「推論」という日本語は、英語の inference（モデルを動かして出力を得ること）の訳としても、reasoning（考えて結論を導くこと）の訳としても使われます。本書では前者を「推論」、後者の意味で「考える」タイプのモデルを「推論モデル（reasoning model）」と呼び分けます。後者は第27章で扱います。

LLMの使い方は大きく2通り

⑥のアプリからLLMを使うルートは、大きく分けて2つあります。

flowchart TD
  U["あなたのアプリ"] --> Q{"どこで動かす？"}
  Q -->|"API"| C["提供元のサーバー
重みは非公開でもOK"]
  Q -->|"ローカル・自前"| L["自分のPCやサーバー
公開された重みが必要"]

ローカルで動かすときに初めて、④のファイル形式や量子化、⑤のランタイムやGPUの話が自分ごとになります。この本の真ん中あたり（第4〜18章）が厚いのはそのためです。実際に動かしてみたい人は第23章に最短ルートをまとめました。

よくある誤解

次に読む章

• 第2章 モデル・重み・トークナイザ — 「モデル」の中身をのぞく
• 第23章 ローカルLLMを触る最短ルート — とにかく動かしてみたい人へ
• 第25章 学習順ガイド — 目的別のおすすめの読み方