Qwen3.8-Flash-Next の必要VRAM・メモリ(VRAM 12GB+RAMで動かす)
2026-10-19更新。公式資料(Hugging Face のモデルカード・config.json、Strata の docs)にもとづきます。速度の推定は推定です。
結論
Qwen3.8-Flash-Next は総125B(1トークンあたりアクティブ6B)のMoEモデルで、これに加えて51Bのn-gram埋め込みと4BのMTP層を持ちます(公式モデルカード)。全部をGPUに載せるにはサーバー級のメモリが必要ですが、Strata を使うとVRAM 12GB以上・RAM 32GB以上・空き約80GBの普通のゲーミングPCで動きます。RAMが多いほど大きいサイズを選べ、VRAMが多いほど速くなります。
モデルの構成(公式)
| パラメータ | 総125B・アクティブ6B(+n-gram埋め込み51B・MTP 4B) |
| 層 | 48層:「Gated DeltaNet(線形アテンション)3層+Qwen Sparse Attention 1層」を12回 |
| MoE | エキスパート512個(各層)、1トークンにつき10個+共有1個 |
| 文脈長 | 262,144トークン(拡張で最大100万) |
| 入力 | テキスト・画像 |
| ライセンス | Qwen Community License(qwen-community-1.0) |
LLM診断の必要VRAMの計算式は、このモデルのスパースアテンション(QSA)・n-gram埋め込み・Gated Residual を扱えないため、「全層GPU」の必要VRAMは推定していません。下の数字は Strata の公式資料の値です。
サイズ別の必要メモリ(Strata・公式)
| サイズ | RAM+VRAMの合計 | エキスパート(RAMに置く分) | RAMの目安 | 特徴 |
|---|---|---|---|---|
| Q2_0 | 37.6 GB | 34 GB | 44GB〜 | 最速 |
| IQ2_XS | 39.2 GB | 35.5 GB | 46GB〜 | 推奨 |
| IQ3_XXS | 47 GB | 43 GB | 53GB〜 | 高品質 |
| IQ3_S | 54.8 GB | 50 GB | 60GB〜 | 最高品質(公開テストでフルモデル相当) |
| Coder(IQ1_M) | 29.6 GB(shard 1) | 23 GB | 32GB | コード特化・エキスパート半分 |
GPU・RAM別:動くサイズと速度の目安 推定
| GPU | RAM 32GB | RAM 48GB | RAM 64GB | IQ2_XS・RAM 64GBの速度 | 実測報告 |
|---|---|---|---|---|---|
| GeForce RTX 3060 12 GB 12GB | Coder | IQ2_XS・Q2_0・Coder | IQ3_S・IQ3_XXS・IQ2_XS・Q2_0・Coder | 約37〜66 tok/s | 1件 |
| GeForce RTX 4070 12GB | Coder | IQ2_XS・Q2_0・Coder | IQ3_S・IQ3_XXS・IQ2_XS・Q2_0・Coder | 約45〜81 tok/s | 3件 |
| GeForce RTX 5070 12GB | Coder | IQ2_XS・Q2_0・Coder | IQ3_S・IQ3_XXS・IQ2_XS・Q2_0・Coder | 約53〜95 tok/s | 5件 |
| GeForce RTX 5060 Ti 16 GB 16GB | Coder | IQ2_XS・Q2_0・Coder | IQ3_S・IQ3_XXS・IQ2_XS・Q2_0・Coder | 約49〜88 tok/s | 1件 |
| GeForce RTX 5070 Ti 16GB | Coder | IQ2_XS・Q2_0・Coder | IQ3_S・IQ3_XXS・IQ2_XS・Q2_0・Coder | 約73〜132 tok/s | 4件 |
| Radeon RX 9070 XT 16GB | Coder | IQ2_XS・Q2_0・Coder | IQ3_S・IQ3_XXS・IQ2_XS・Q2_0・Coder | 約49〜88 tok/s | 5件 |
| GeForce RTX 3090 24GB | Coder・IQ2_XS(低RAM)・Q2_0(低RAM) | IQ2_XS・Q2_0・Coder | IQ3_S・IQ3_XXS・IQ2_XS・Q2_0・Coder | 約94〜168 tok/s | 3件 |
| GeForce RTX 4090 24GB | Coder・IQ2_XS(低RAM)・Q2_0(低RAM) | IQ2_XS・Q2_0・Coder | IQ3_S・IQ3_XXS・IQ2_XS・Q2_0・Coder | 約98〜175 tok/s | 3件 |
| GeForce RTX 5090 32GB | Coder・IQ2_XS(低RAM)・Q2_0(低RAM) | IQ2_XS・Q2_0・Coder | IQ3_S・IQ3_XXS・IQ2_XS・Q2_0・Coder | 約160〜287 tok/s | 4件 |
公式の測定値
| GPU | CPU / RAM | サイズ | 生成速度 |
|---|---|---|---|
| RTX 5070 | Ryzen 5 7600 / 64GB | Q2_0 | 94 tok/s |
| RTX 5070 | Ryzen 5 7600 / 64GB | IQ2_XS | 79 tok/s |
| RTX 5070 | Ryzen 5 7600 / 64GB | IQ3_XXS | 62 tok/s |
| RTX 5070 | Ryzen 5 7600 / 64GB | IQ3_S | 53 tok/s |
| RTX 5070 | Ryzen 5 7600 / 64GB | Coder | 55 tok/s |
| RX 9070 XT | Ryzen 9 3900X / 47GB | Q2_0 | 60 tok/s |
| RX 9070 XT | Ryzen 9 3900X / 47GB | IQ2_XS | 52 tok/s |
| RX 9070 XT | Ryzen 9 3900X / 47GB | Coder | 44 tok/s |
Macの場合
Strata のMac版(Apple シリコン M1以降・macOS 15以降、ソースからビルド)で動きます。公式の目安は Q2_0 で統合メモリ約46GB(推奨64GB〜)、IQ3_S で約63GB(推奨96GB〜)。32〜48GBのMacはエキスパートをSSDから読みながら動き、M4 Mac mini 32GB で Q2_0 が約13〜14 tok/s でした(docs/MAC.md)。LLM診断ではMacのStrata速度は推定していません。
よくある質問
Qwen3.8-Flash-Next は家のPCで動きますか?
GPUだけに全部を載せる使い方では動きません。いちばん小さいQ2_0でもRAM+VRAMで約37.6GBが必要です。Strataを使うと、よく使うエキスパートをVRAMに、残りをRAMに置いてCPUと分担するため、VRAM 12GB以上+RAM 32GB以上のPCで動かせます(公式READMEの必要スペック)。
Qwen3.8-Flash-Next はVRAM 12GBで動きますか?
Strataなら動きます。公式の測定では RTX 5070(12GB)・RAM 64GB で、Q2_0 が生成 94 tok/s、IQ2_XS が 79 tok/s でした(docs/MODELS.md)。LLM診断の推定式では、12GBのGPUとRAM 64GBで IQ2_XS が 約53〜95 tok/s(RTX 5070の場合)です。
Qwen3.8-Flash-Next に必要なRAMは?
Strataでは「エキスパートの容量+約10GB」がRAMの目安です。エキスパートは Q2_0 で34GB、IQ2_XS で35.5GB、IQ3_XXS で43GB、IQ3_S で50GB、Coder で23GB。つまり32GBならCoder、48GBなら Q2_0/IQ2_XS、64GBならすべてのサイズです。
Qwen3.8-Flash-Next の量子化(GGUF)はどれを選べばいい?
公式は迷ったら IQ2_XS を推奨しています。Q2_0 が最速、IQ3_S が最高品質(公開テストでフルモデル相当)です。コード中心なら32GBで動く Coder もありますが、エキスパートを半分に減らしているため、日本語を含むCJKの文章は苦手と書かれています(docs/MODELS.md)。
Qwen3.8-Flash-Next は Mac で動きますか?
Strata のMac版(Apple シリコン・macOS 15以降・ソースからビルド)で動きます。Q2_0 の推奨は64GB以上で、32〜48GBのMacはエキスパートをSSDから読みながら動きます(M4 Mac mini 32GBで約13〜14 tok/s、公式測定)。LLM診断ではMacの速度は推定していません。