CUDA / ROCm / Metal / DirectML

バックエンドとは：GPUへの「通訳」

flowchart TD
  A["アプリ
チャットUIなど"] --> B["フレームワーク・ランタイム
PyTorch・llama.cpp・ONNX Runtime"]
  B --> C["バックエンド
CUDA・ROCm・Metal・Vulkan"]
  C --> D["ドライバ"]
  D --> E["GPU・NPU"]

バックエンドは、単なる言葉だけでなく「よく使う計算の高速な部品集」も含みます。行列計算、アテンション、GPUどうしの通信などを、そのハードに合わせて最適化したライブラリ群です。この部品集の厚みが、実際の速さを大きく左右します。

CUDA：NVIDIAの標準語

CUDAはNVIDIAのGPU向けの開発基盤です。行列計算のcuBLAS、ニューラルネット向けのcuDNN、GPU間通信のNCCLなど、長年積み上げた部品群があり、多くのAIソフトがまずCUDAで作られ、最もよく最適化される状況が続いています。推論向けにはTensorRT系の最適化ツールもあります（第9章）。

llama.cppのリリースに cuda-12.4 と cuda-13.4 の両方があるのは、このためです。自分のGPUの世代とドライバのバージョンを確認して選びましょう。

ROCm と HIP：AMDの答え

ROCmはAMDのGPU向けのオープンソースの開発基盤です。その中心にあるHIPは、CUDAとよく似た書き方ができるように作られていて、CUDAのコードをHIPに変換するツールも用意されています。

ROCmは2025年9月に7.0、2026年8月に10.0が公開され、2026年10月時点の最新は2026年10月5日公開の10.1.0です。7.14からは「TheRock」という新しいビルド・リリースの仕組みに移りました。対応はデータセンター向けのInstinctだけでなく、Radeon RX 9000シリーズやRyzen AI Maxの内蔵GPUにも広がっており、10.1のリリースノートはLinuxに加えてWindows 11（25H2）を対応OSとして挙げています。

Apple：Metal・MPS・MLX

MacのGPUを使うための土台は、Appleのグラフィックス・計算APIであるMetalです。LLMの世界では、その上に複数の入り口があります。

• llama.cppのMetalバックエンド: Apple Silicon で標準的に使われる。Ollama や LM Studio の中でも動いている（第8章）。
• PyTorchのMPS: Metal Performance Shaders を使うバックエンドで、デバイス名は mps。
• MLX: Appleの機械学習研究チームが作った配列計算フレームワーク。CPUとGPUが同じメモリを使うユニファイドメモリを前提に設計されている。LLM用のMLX-LMで推論も微調整もできる（第14章）。

MLXはApple Silicon 向けとして生まれましたが、2026年10月時点ではLinux向けにCUDAバックエンド（pip install mlx[cuda]）やCPU版のパッケージも用意されています。それでも主な舞台はMacです。ユニファイドメモリについては第17章を参照してください。

Windows：DirectMLからWindows MLへ

DirectMLは、DirectX 12に対応したGPUなら、メーカーを問わず機械学習の計算を高速化できるWindowsのライブラリです。NVIDIA・AMD・Intel・QualcommのGPUで同じように動くのが魅力でした。

しかし2026年10月時点で、DirectMLは保守モードに入っています。GitHubのREADMEは、セキュリティやコンプライアンス関連の修正は続けるものの、新機能の追加は予定していないとし、Windows 11 24H2以降ではWindows MLの利用を検討するよう勧めています。

つまりDirectMLは消えるわけではなく、Windows MLの中でGPU向けの土台の1つとして使われ続けます。新しくアプリを作るなら、入り口はWindows MLにする、と覚えておけば十分です。Copilot+ PCのNPUを使う推奨ルートも、Microsoftの開発者ガイドではWindows MLになっています。

メーカーをまたぐ共通語：Vulkan・SYCL・OpenVINO

Intelは、業界標準のSYCLというC++のプログラミングモデルと、それを実装するoneAPIを推しています。llama.cppにはIntel GPU向けのSYCLバックエンドがあり、PyTorchもIntel GPUを xpu というデバイス名で直接サポートしています。かつて使われた「Intel Extension for PyTorch」はGitHubでアーカイブされ、開発が終わりました2026年10月時点。IntelのCPU・GPU・NPU向け推論ツールキットOpenVINOも、llama.cppのバックエンドとして開発が進んでいます。

どれを選ぶ？

flowchart TD
  A["GPUは？"] --> B["NVIDIA"]
  A --> C["AMD"]
  A --> D["Apple Silicon"]
  A --> E["Intel"]
  B --> F["CUDA"]
  C --> G["ROCm
だめならVulkan"]
  D --> H["Metal・MLX"]
  E --> I["SYCL
またはVulkan"]

PyTorchでコードを書くときは、デバイス名で区別します。NVIDIAとAMD（ROCm版）は cuda、Macは mps、Intel GPUは xpu、GPUがなければ cpu です。アプリとして配布するなら、WindowsではWindows ML、ほかのOSではONNX Runtimeやllama.cppのように複数のバックエンドを抱えたランタイムを使うと、利用者の環境の違いを吸収しやすくなります（第6章）。

バージョンの組み合わせに気をつける

バックエンドで一番つまずきやすいのは、バージョンの組み合わせです。GPUのドライバ、CUDAやROCmのツールキット、PyTorchなどのフレームワークは、それぞれ対応するバージョンの範囲が決まっています。どれか1つだけ新しすぎたり古すぎたりすると、「GPUが見つからない」「起動時にエラーになる」といった症状が出ます。

• PyTorch: CUDA版・ROCm版などを別々のパッケージとして配布しています。公式サイトのインストール画面で、OSとバックエンドを選んで出てくるコマンドを使うのが確実です。
• llama.cpp: ビルド済みファイルの名前にバックエンドとバージョン（cuda-13.4、rocm-10.0など）が入っています。
• ドライバ: 新しいツールキットは新しいドライバを要求するのが普通です。まずドライバを更新してから試しましょう。

Dockerなどのコンテナを使うと、ツールキットとフレームワークの組み合わせを丸ごと固定できます。NVIDIAやAMDは、動作確認済みの組み合わせを入れたコンテナイメージも提供しています。