
Ollama / LM Studio / Open WebUI / Jan など
「ローカルLLMを始めるなら何を入れる?」でよく名前が挙がる道具たち。実はエンジン・管理役・画面という役割がそれぞれ違います。地図を描いてから、一つずつ見ていきます。
このページの内容(10項目)
「Ollama を入れたのに、チャット画面が出てこない」
ローカルLLMを始めた人がよくつまずく場面です。Ollama はもともと、ターミナルとAPIで使う道具でした。一方で「Open WebUI を入れたのに、モデルが動かない」という声もあります。こちらは画面だけの道具で、計算するエンジンは別に必要です。
原因はどちらも同じで、道具ごとの役割の違いが見えにくいことです。この章では、まず役割の地図を描いてから、代表的な道具を一つずつ見ていきます。
3つの役割: エンジン・管理役・画面
ひとことで言うと
ローカルLLMの道具は、計算するエンジン、モデルを集めて起動する管理役、人が触るチャット画面の3役に分けて考えると整理できます。1つの製品が複数の役を兼ねることもよくあります。
音楽で言えば、エンジンはスピーカーとアンプ、管理役は曲を集めて再生する音楽アプリ、画面はリモコンです。音楽アプリによってはスピーカーまで内蔵していますし、リモコンだけ別売りのこともあります。
flowchart TD U["画面
Open WebUI・各アプリのチャット"] --> M["管理役とAPI
Ollama・LM Studio・Jan"] M --> E["エンジン
llama.cpp・MLX"] E --> H["CPU・GPU"] U -. "OpenAI互換APIでも接続" .-> M
| 道具 | エンジン | 管理・API | 画面 |
|---|---|---|---|
| Ollama | llama.cpp・MLX(Mac) | ○ | アプリ(設定・連携が中心) |
| LM Studio | llama.cpp・MLX | ○ | ○ |
| Jan | llama.cpp(同梱) | ○ | ○ |
| Open WebUI | なし(外部に接続) | 接続先の管理 | ○(Web) |
| Llama アプリ | llama.cpp | ○ | ブラウザのチャット |
表は2026年10月時点の整理です。どれも更新がとても速い道具なので、細かい機能は公式サイトで確かめてください。
Ollama: コマンド1つで「動かす」まで
Ollama は「ollama run モデル名」の一行でモデルのダウンロードから起動までを済ませてくれる道具です。ライセンスは MIT。最新版は 2026年10月23日の v0.40.10 です2026年10月時点。
# macOS・Linux へのインストール
curl -fsSL https://ollama.com/install.sh | sh
# モデルを取得してチャット(Gemma 4 の例)
ollama run gemma4
# いまメモリに載っているモデルと、GPU/CPUの配分を確認
ollama ps
モデルは ollama.com のライブラリから名前で取得します。裏ではAPIサーバが http://localhost:11434 で待ち受けていて、独自のREST APIのほか、/v1 以下に OpenAI互換API、さらに Anthropic Messages API 互換の窓口も用意されています。
Modelfile モデルファイル
Ollama 用の設定ファイル。FROM で元になるモデルを、PARAMETER で温度やコンテキスト長などを指定し、ollama create で自分用のモデルとして登録できます。Dockerfile に似た書き方です。
最近の Ollama は、ローカル実行だけの道具ではなくなっています。2026年10月時点の主な特徴を挙げます。
- クラウドモデル — サインインすると、Ollama のクラウド上で動く大きなモデルも同じ操作で使えます。APIキーを使って ollama.com のAPIを直接呼ぶこともできます。
ollama launch— Claude Code、Codex、OpenCode などのコーディングエージェントを、Ollama のモデルにつないで起動します(第28章)。- MLX 対応 — 2026年3月30日、Apple シリコン向けに MLX を使う版がプレビューとして発表されました。発表時点では対応モデルが限られ、32GBより多いユニファイドメモリを持つ Mac が条件でした。
- デスクトップアプリ — macOS・Windows・Linux 向けのアプリがあり、コンテキスト長などを設定画面で変えられます。macOS では、Claude や ChatGPT のデスクトップアプリに Ollama のモデルをつなぐ機能も用意されています。
注意: コンテキスト長の既定値
Ollama のコンテキスト長の既定値は、VRAMの量で変わります。公式ドキュメントでは、24GiB未満なら4k、24〜48GiBなら32k、48GiB以上なら256kトークンです2026年10月時点。エージェントや長い文書を扱うなら、OLLAMA_CONTEXT_LENGTH=64000 ollama serve のように明示的に増やしましょう。設定どおりに割り当てられたかは ollama ps で確認できます。
LM Studio: GUIで探して、試して、配る
LM Studio は、モデルの検索・ダウンロード・チャット・APIサーバをひとつのデスクトップアプリにまとめた道具です。macOS(Apple シリコン)、Windows(x64・Arm)、Linux に対応しています。最新版は v0.4.26 です2026年10月時点。
エンジンは2種類から選べます。GGUF モデルは llama.cpp で、Apple シリコンの Mac では MLX 形式のモデルを Apple の MLX で動かせます。MLX 用のエンジン(mlx-engine)は MIT ライセンスで GitHub に公開されています。
| 構成要素 | 役割 |
|---|---|
| LM Studio(デスクトップアプリ) | GUIでモデルを探す・チャットする・文書と会話する(RAG)・MCPサーバをつなぐ |
| llmster | GUIなしで動く常駐デーモン。Linuxサーバや画面のないGPUマシン向け |
lms | アプリと llmster の両方を操作するCLI(MITライセンス) |
# lms でモデルを取得・読み込み・サーバ起動
lms get openai/gpt-oss-20b
lms load openai/gpt-oss-20b
lms server start
サーバは http://localhost:1234 で待ち受け、OpenAI互換・Anthropic互換のエンドポイントを持っています。リクエストが来たときにモデルを自動で読み込む「JIT読み込み」もあり、他のアプリのバックエンドとして使いやすくなっています。
ライセンスの話
LM Studio のアプリ本体はオープンソースではなく、利用規約のもとで無料配布されています。2025年7月8日からは、会社や組織での利用にも別途の商用ライセンスが不要になりました。SSO などが必要な組織向けには有料プランがあります。また最近は、エージェント作業向けの別アプリ「LM Studio Bionic」も公開されています。
Open WebUI: 自分たち専用の ChatGPT 風画面
Open WebUI は、ブラウザで使うセルフホスト型のAIプラットフォームです。Open WebUI 自体はモデルを計算しません。Ollama や、OpenAI互換APIを持つサーバ(LM Studio、vLLM、クラウドのAPIなど)に接続して使います。最新版は 2026年10月16日の v0.12.3 です2026年10月時点。
# pip で入れる場合(README では Python 3.11 を推奨)
pip install open-webui
open-webui serve
# → http://localhost:8080 を開く
Docker で動かす方法も README に載っていて、その例では http://localhost:3000 で開く設定になっています。ユーザー管理や権限設定(RBAC)、文書検索(RAG)、Web検索、MCPを含むツール連携、複数モデルの同時比較など、チームで使うための機能が豊富です。
注意: ライセンス
Open WebUI のいまのコードは「Open WebUI License」で配布されています。BSD系の条項に加えて、「Open WebUI」のロゴや名前などのブランド表示を消したり置き換えたりしてはいけない、という条件があります。30日間のエンドユーザーが50人以下の場合などは例外です。社内向けに名前を変えて配る予定があるなら、LICENSE を必ず読んでください。
Jan: オープンソースのオールインワン
Jan は、ローカルモデルとクラウドのAPIの両方を1つの画面で使えるデスクトップアプリです。Apache 2.0 ライセンスのオープンソースで、Menlo Research が開発しています。最新版は 2026年10月20日の v0.8.7 です2026年10月時点。
- Hugging Face からモデルをダウンロードして実行(エンジンは llama.cpp。v0.8.5 からアプリに同梱)
- OpenAI、Anthropic、Mistral などのクラウドAPIにも接続可能
localhost:1337で OpenAI互換APIサーバを提供- MCP 対応で、ツールを使うエージェント的な使い方もできる
v0.8.5 では、Intel 製 CPU の Mac でローカルモデルが動かなくなる変更も入りました。古い Mac で使っている人は注意してください。
ほかの選択肢: Llama アプリ・llama-server・mlx-lm
上の4つ以外にも、知っておくと便利な道具があります。
Llama アプリ llama.app
llama.cpp チームと Hugging Face による、Mac と Windows 向けの小さな常駐アプリ。PCのメモリに合うモデルを提案し、量子化やコンテキスト長は自動で決めてくれます。ブラウザのチャット画面と、localhost:9931/v1 の OpenAI互換APIを提供し、使われていないモデルは5分でメモリから降ろします2026年10月時点。
llama-server の内蔵 Web UI
llama.cpp の llama serve(llama-server)には、チャット画面が最初から付いています。追加のアプリなしで試したいときの最短ルートです(第7章)。
mlx-lm エムエルエックス・エルエム
Apple の機械学習フレームワーク MLX を使い、Apple シリコンでLLMを動かしたり微調整したりする Python パッケージ。pip install mlx-lm で入り、mlx_lm.generate、mlx_lm.chat、mlx_lm.server などのコマンドが使えます。最新版は 2026年10月16日の 0.32.2 です2026年10月時点。
どれを選ぶ?
flowchart TD Q["何がしたい?"] --> A["GUIで気軽に試したい"] Q --> B["ターミナルやAPIで使いたい"] Q --> C["チームで共有したい"] A --> A1["LM Studio・Jan
Llama アプリ"] B --> B1["Ollama・llama.cpp
Macなら mlx-lm も"] C --> C1["Open WebUI+
Ollama や vLLM"]
| 道具 | 向いている人 | 既定のAPIポート | ライセンス |
|---|---|---|---|
| Ollama | コマンドで手早く、他ツールとつなぎたい | 11434 | MIT |
| LM Studio | GUIでモデルを比べたい | 1234 | 無料(独自規約) |
| Jan | OSSのオールインワンがほしい | 1337 | Apache 2.0 |
| Open WebUI | チームのチャット基盤を作りたい | 8080(画面) | Open WebUI License |
どれか1つに決める必要はありません。「エンジンは Ollama、画面は Open WebUI」や「LM Studio のサーバを、エディタのAI機能の接続先にする」のように、OpenAI互換APIを介して組み合わせるのがローカルLLMのよくある使い方です。
よくある誤解
Open WebUI を入れればモデルが動く
Open WebUI は画面とプラットフォーム。計算するエンジン(Ollama やOpenAI互換サーバなど)が別に必要
Ollama を使っていれば、すべて自分のPCで処理されている
Ollama にはクラウドモデルもある。:cloud などのクラウド版を選ぶと、処理は Ollama のサーバで行われる
LM Studio は会社で使うと有料
2025年7月から、職場での利用も無料。組織向け機能が必要な場合のみ有料プランがある
確認クイズ
Q2. Ollama で長い文書を読ませたら、前半を忘れているような返事が返ってきた。まず何を疑う?
コンテキスト長の設定です。Ollama の既定値はVRAMが24GiB未満なら4kトークンと短めです。OLLAMA_CONTEXT_LENGTH などで増やし、ollama ps の CONTEXT 欄で実際の値を確認しましょう。
この章のまとめ
- ローカルLLMの道具は「エンジン・管理役・画面」の3役で整理できる
- Ollama はコマンドとAPI中心。クラウドモデルやコーディングエージェント連携も持つ
- LM Studio はGUIの総合アプリ。llama.cpp と MLX を使い分け、llmster でサーバにも置ける
- Open WebUI は画面とチーム機能。エンジンは別に用意する
- Jan は Apache 2.0 のオールインワン。組み合わせはOpenAI互換APIが共通語
次に読む章
さらに深く学ぶ
この章の内容をもう一歩掘り下げるための原典です。
出典・参考
- ollama/ollama(GitHub) — README(インストール、
ollama run、ollama launch、REST API、Supported backends)、MITライセンス(2026年10月確認) - Ollama Releases — v0.40.10(2026年10月23日)ほか
- Ollama Docs, “Context length” — VRAM量に応じた既定のコンテキスト長(2026年10月確認)
- Ollama Docs, “Cloud” と “Anthropic compatibility” — クラウドモデル、互換API(2026年10月確認)
- Ollama Blog, “Ollama is now powered by MLX on Apple Silicon in preview” — 2026年3月30日
- LM Studio Docs, “LM Studio app, llmster, and lms” と “Run LM Studio as a service” — 構成要素、ポート1234、JIT読み込み(2026年10月確認)
- LM Studio Download — v0.4.26、利用規約での配布(2026年10月確認)
- LM Studio Blog, “LM Studio is free for use at work” — 2025年7月8日
- lmstudio-ai/mlx-engine(GitHub) — LM Studio の MLX エンジン、MITライセンス
- open-webui/open-webui(GitHub) — README、LICENSE、CHANGELOG(v0.12.3、2026年10月16日)(2026年10月確認)
- janhq/jan(GitHub) — README(機能、ポート1337、Apache 2.0)と Releases(v0.8.7、2026年10月20日)(2026年10月確認)
- llama.app — Llama アプリの機能説明(2026年10月確認)
- ml-explore/mlx-lm(GitHub) と PyPI — コマンド一覧、0.32.2(2026年10月16日)