LLM診断 › GPU・Mac一覧
GPU・Mac一覧（VRAM別に動くローカルLLM）
2026-10-19更新。判定と速度はすべて推定です（計算方法）。
「載るモデル数」は、掲載モデルのうちQ4_K_M・文脈4Kで全層がGPU（Macは統合メモリのGPU利用分）に収まる数です。「速度」は Llama 3.1 8B（Q4_K_M）の生成速度の目安です。Macは記載の容量の構成で計算しています。MacでGPUに使えるメモリを統合メモリの約72%とする前提は、まだ実機の測定で確かめていません。Macの判定はその前提での推定です。
12GB〜24GBの主なGPU: GeForce RTX 3060 12 GBGeForce RTX 4060 Ti 16 GBGeForce RTX 5060 Ti 16 GBGeForce RTX 5070 TiGeForce RTX 4090Radeon RX 9070 XT
NVIDIA GeForce / RTX
| 機種 | メモリ | 帯域 | 載るモデル数推定 | 速度推定 | Strata |
|---|---|---|---|---|---|
| GeForce RTX 5090 | 32GB | 1792GB/s | 19/22 | 約266 tok/s | ◎ |
| GeForce RTX 4090 | 24GB | 1008GB/s | 19/22 | 約149 tok/s | ◎ |
| GeForce RTX 3090 Ti | 24GB | 1008GB/s | 19/22 | 約149 tok/s | ◎ |
| GeForce RTX 3090 | 24GB | 936.2GB/s | 19/22 | 約139 tok/s | ◎ |
| GeForce RTX 5090 Laptop | 24GB | 896GB/s | 19/22 | 約133 tok/s | ◎ |
| GeForce RTX 5080 | 16GB | 960GB/s | 12/22 | 約142 tok/s | ◎ |
| GeForce RTX 5070 Ti | 16GB | 896GB/s | 12/22 | 約133 tok/s | ◎ |
| GeForce RTX 4080 SUPER | 16GB | 736.3GB/s | 12/22 | 約109 tok/s | ◎ |
| GeForce RTX 4080 | 16GB | 716.8GB/s | 12/22 | 約106 tok/s | ◎ |
| GeForce RTX 4070 Ti SUPER | 16GB | 672.3GB/s | 12/22 | 約100 tok/s | ◎ |
| GeForce RTX 4090 Laptop | 16GB | 576GB/s | 12/22 | 約85 tok/s | ◎ |
| GeForce RTX 5060 Ti 16 GB | 16GB | 448GB/s | 12/22 | 約66 tok/s | ◎ |
| GeForce RTX 4060 Ti 16 GB | 16GB | 288GB/s | 12/22 | 約43 tok/s | ◎ |
| GeForce RTX 3080 Ti | 12GB | 912GB/s | 10/22 | 約135 tok/s | ◎ |
| GeForce RTX 5070 | 12GB | 672GB/s | 10/22 | 約100 tok/s | ◎ |
| GeForce RTX 4070 | 12GB | 504.2GB/s | 10/22 | 約75 tok/s | ◎ |
| GeForce RTX 4070 SUPER | 12GB | 504GB/s | 10/22 | 約75 tok/s | ◎ |
| GeForce RTX 4070 Ti | 12GB | 504GB/s | 10/22 | 約75 tok/s | ◎ |
| GeForce RTX 3060 12 GB | 12GB | 360GB/s | 10/22 | 約53 tok/s | ◎ |
| GeForce RTX 2080 Ti | 11GB | 616GB/s | 10/22 | 約91 tok/s | × |
| GeForce RTX 3080 | 10GB | 760.3GB/s | 9/22 | 約113 tok/s | × |
| GeForce RTX 2070 SUPER | 8GB | 448GB/s | 5/22 | 約66 tok/s | × |
| GeForce RTX 3060 Ti | 8GB | 448GB/s | 5/22 | 約66 tok/s | × |
| GeForce RTX 3070 | 8GB | 448GB/s | 5/22 | 約66 tok/s | × |
| GeForce RTX 5060 | 8GB | 448GB/s | 5/22 | 約66 tok/s | × |
| GeForce RTX 4060 Ti 8 GB | 8GB | 288GB/s | 5/22 | 約43 tok/s | × |
| GeForce RTX 4060 | 8GB | 272GB/s | 5/22 | 約40 tok/s | × |
| GeForce RTX 2060 | 6GB | 336GB/s | 3/22 | — | × |
AMD Radeon
| 機種 | メモリ | 帯域 | 載るモデル数推定 | 速度推定 | Strata |
|---|---|---|---|---|---|
| Radeon AI PRO R9700 | 32GB | 640GB/s | 19/22 | 約101 tok/s | ◎ |
| Radeon RX 7900 XTX | 24GB | 960GB/s | 19/22 | 約152 tok/s | ◎ |
| Radeon RX 7900 XT | 20GB | 800GB/s | 15/22 | 約127 tok/s | ◎ |
| Radeon RX 9070 XT | 16GB | 640GB/s | 12/22 | 約101 tok/s | ◎ |
| Radeon RX 9070 | 16GB | 640GB/s | 12/22 | 約101 tok/s | ◎ |
| Radeon RX 7800 XT | 16GB | 624GB/s | 12/22 | 約99 tok/s | ◎ |
| Radeon RX 7900 GRE | 16GB | 576GB/s | 12/22 | 約91 tok/s | ◎ |
| Radeon RX 6800 | 16GB | 512GB/s | 12/22 | 約81 tok/s | ◎ |
| Radeon RX 6800 XT | 16GB | 512GB/s | 12/22 | 約81 tok/s | ◎ |
| Radeon RX 6900 XT | 16GB | 512GB/s | 12/22 | 約81 tok/s | ◎ |
| Radeon RX 9060 XT 16 GB | 16GB | 320GB/s | 12/22 | 約51 tok/s | ◎ |
| Radeon RX 7700 XT | 12GB | 432GB/s | 10/22 | 約68 tok/s | ◎ |
| Radeon RX 6700 XT | 12GB | 384GB/s | 10/22 | 約61 tok/s | ◎ |
| Radeon RX 6800M | 12GB | 384GB/s | 10/22 | 約61 tok/s | ◎ |
| Radeon RX 7600 | 8GB | 288GB/s | 5/22 | 約46 tok/s | × |
Intel Arc
| 機種 | メモリ | 帯域 | 載るモデル数推定 | 速度推定 | Strata |
|---|---|---|---|---|---|
| Arc A770 16 GB | 16GB | 560GB/s | 12/22 | 約67 tok/s | 実験的 |
| Arc B580 | 12GB | 456GB/s | 10/22 | 約55 tok/s | 実験的 |
| Arc B570 | 10GB | 380GB/s | 9/22 | 約46 tok/s | 実験的 |
| Arc A750 | 8GB | 512GB/s | 5/22 | 約62 tok/s | 実験的 |
Apple シリコン Mac
| 機種 | メモリ | 帯域 | 載るモデル数推定 | 速度推定 |
|---|---|---|---|---|
| Apple M3 Ultra (Mac Studio) | 512GB | 800GB/s | 22/22 | 約73 tok/s |
| Apple M2 Ultra | 192GB | 800GB/s | 22/22 | 約73 tok/s |
| Apple M1 Max | 64GB | 400GB/s | 21/22 | 約53 tok/s |
| Apple M4 Max | 32GBで計算 | 546GB/s | 19/22 | 約72 tok/s |
| Apple M4 Pro | 32GBで計算 | 273GB/s | 19/22 | 約36 tok/s |
| Apple M4 (base) | 32GBで計算 | 120GB/s | 19/22 | 約16 tok/s |
よくある質問
VRAM 12GBと16GBでは何が違いますか？
16GBでは、12GBでは全層を載せられない中型モデル（Gemma 4 26B A4B の公式QAT版など）が文脈を短くすれば載る判定になります。各GPUのページで、モデルごとの判定と速度の目安を確認できます（推定）。
Macの「GPUに使えるメモリ」はどう計算していますか？
MacでGPUに使えるメモリを統合メモリの約72%とする前提は、まだ実機の測定で確かめていません。Macの判定はその前提での推定です。
Strataの列は何ですか？
Strata（Qwen3.8-Flash-Next をVRAM＋RAM＋SSDに分けて動かす推論エンジン）が、RAM 64GBのときに動くかの判定です。◎＝公式要件を満たす、×＝VRAM 12GB未満や対応外のGPUなど。