機材速度ランキング
Llama 3.1 8B（Q4_K_M）の生成速度推定。メモリ帯域順。メーカー別効率で補正。
| # | 機材 | メモリ | 帯域 | 推定速度 |
|---|---|---|---|---|
| 1 | GeForce RTX 5090 | 32GB | 1792GB/s | 約266 tok/s |
| 2 | GeForce RTX 4090 | 24GB | 1008GB/s | 約149 tok/s |
| 3 | GeForce RTX 3090 Ti | 24GB | 1008GB/s | 約149 tok/s |
| 4 | GeForce RTX 5080 | 16GB | 960GB/s | 約142 tok/s |
| 5 | Radeon RX 7900 XTX | 24GB | 960GB/s | 約152 tok/s |
| 6 | GeForce RTX 3090 | 24GB | 936.2GB/s | 約139 tok/s |
| 7 | GeForce RTX 3080 Ti | 12GB | 912GB/s | 約135 tok/s |
| 8 | GeForce RTX 5070 Ti | 16GB | 896GB/s | 約133 tok/s |
| 9 | GeForce RTX 5090 Laptop | 24GB | 896GB/s | 約133 tok/s |
| 10 | Radeon RX 7900 XT | 20GB | 800GB/s | 約127 tok/s |
| 11 | Apple M3 Ultra (Mac Studio) | 512GB | 800GB/s | 約73 tok/s |
| 12 | Apple M2 Ultra | 192GB | 800GB/s | 約73 tok/s |
| 13 | GeForce RTX 3080 | 10GB | 760.3GB/s | 約113 tok/s |
| 14 | GeForce RTX 4080 SUPER | 16GB | 736.3GB/s | 約109 tok/s |
| 15 | GeForce RTX 4080 | 16GB | 716.8GB/s | 約106 tok/s |
| 16 | GeForce RTX 4070 Ti SUPER | 16GB | 672.3GB/s | 約100 tok/s |
| 17 | GeForce RTX 5070 | 12GB | 672GB/s | 約100 tok/s |
| 18 | Radeon RX 9070 XT | 16GB | 640GB/s | 約101 tok/s |
| 19 | Radeon RX 9070 | 16GB | 640GB/s | 約101 tok/s |
| 20 | Radeon AI PRO R9700 | 32GB | 640GB/s | 約101 tok/s |
| 21 | Radeon RX 7800 XT | 16GB | 624GB/s | 約99 tok/s |
| 22 | GeForce RTX 2080 Ti | 11GB | 616GB/s | 約91 tok/s |
| 23 | GeForce RTX 4090 Laptop | 16GB | 576GB/s | 約85 tok/s |
| 24 | Radeon RX 7900 GRE | 16GB | 576GB/s | 約91 tok/s |
| 25 | Arc A770 16 GB | 16GB | 560GB/s | 約67 tok/s |
| 26 | Apple M4 Max | 構成次第 | 546GB/s | 約72 tok/s |
| 27 | Radeon RX 6800 | 16GB | 512GB/s | 約81 tok/s |
| 28 | Radeon RX 6800 XT | 16GB | 512GB/s | 約81 tok/s |
| 29 | Radeon RX 6900 XT | 16GB | 512GB/s | 約81 tok/s |
| 30 | Arc A750 | 8GB | 512GB/s | 約62 tok/s |
| 31 | GeForce RTX 4070 | 12GB | 504.2GB/s | 約75 tok/s |
| 32 | GeForce RTX 4070 SUPER | 12GB | 504GB/s | 約75 tok/s |
| 33 | GeForce RTX 4070 Ti | 12GB | 504GB/s | 約75 tok/s |
| 34 | Arc B580 | 12GB | 456GB/s | 約55 tok/s |
| 35 | GeForce RTX 5060 Ti 16 GB | 16GB | 448GB/s | 約66 tok/s |
| 36 | GeForce RTX 2070 SUPER | 8GB | 448GB/s | 約66 tok/s |
| 37 | GeForce RTX 3060 Ti | 8GB | 448GB/s | 約66 tok/s |
| 38 | GeForce RTX 3070 | 8GB | 448GB/s | 約66 tok/s |
| 39 | GeForce RTX 5060 | 8GB | 448GB/s | 約66 tok/s |
| 40 | Radeon RX 7700 XT | 12GB | 432GB/s | 約68 tok/s |
| 41 | Apple M1 Max | 64GB | 400GB/s | 約53 tok/s |
| 42 | Radeon RX 6700 XT | 12GB | 384GB/s | 約61 tok/s |
| 43 | Radeon RX 6800M | 12GB | 384GB/s | 約61 tok/s |
| 44 | Arc B570 | 10GB | 380GB/s | 約46 tok/s |
| 45 | GeForce RTX 3060 12 GB | 12GB | 360GB/s | 約53 tok/s |
| 46 | GeForce RTX 2060 | 6GB | 336GB/s | 約50 tok/s |
| 47 | Radeon RX 9060 XT 16 GB | 16GB | 320GB/s | 約51 tok/s |
| 48 | GeForce RTX 4060 Ti 16 GB | 16GB | 288GB/s | 約43 tok/s |
| 49 | GeForce RTX 4060 Ti 8 GB | 8GB | 288GB/s | 約43 tok/s |
| 50 | Radeon RX 7600 | 8GB | 288GB/s | 約46 tok/s |
| 51 | Apple M4 Pro | 構成次第 | 273GB/s | 約36 tok/s |
| 52 | GeForce RTX 4060 | 8GB | 272GB/s | 約40 tok/s |
| 53 | Apple M4 (base) | 構成次第 | 120GB/s | 約16 tok/s |