ランキングStrata出典・概要
LLM診断 › Gemma 4 の必要VRAM › 31B

Gemma 4 31B の必要VRAM・メモリ

パラメータ: 30.7B ・ ライセンス: Apache-2.0 ・ 最大文脈 256K ・ 入力: テキスト・画像 ・ 構成出典 (出典)

Gemma 4 31B は、Gemma 4 でいちばん大きい密(dense)モデルです。公式QAT版(Q4_0)のGGUFは17.7GB、Q4_K_Mは18.3GBで、重みだけで16GBのGPUを超えます。

全体アテンション層のKVヘッドが4、ヘッド次元が512と大きいため、Gemma 4 の中では文脈を伸ばしたときのKVキャッシュの増え方が大きく、LLM診断の推定ではQAT版で文脈4Kなら約20.8GB、32Kで約23.1GB、128Kで約31.2GBです。24GBのGPUでは ◎ 文脈32Kまで、32GBなら ◎ 文脈128Kまで の判定です。

Ollamaの実測(RTX 5080 16GB)では gemma4:31b は重みの61%しかGPUに載らず、残りはCPUで処理されていました(AIハードウェア図鑑)。16GBのGPUで使うなら、速度が大きく落ちることを前提にしてください。

自分のPCで診断する Gemma 4 全サイズの早見表

量子化別の必要メモリ 推定

量子化ファイル4K文脈32K文脈128K文脈256K文脈
Q4_0(公式QAT)17.7 GB20.8 GB23.1 GB31.2 GB41.9 GB
Q4_K_M18.3 GB21.5 GB23.8 GB31.9 GB42.6 GB
Q5_K_M21.7 GB24.8 GB27.1 GB35.2 GB45.9 GB
Q8_032.6 GB35.8 GB38.1 GB46.2 GB56.9 GB
BF16/FP1661.4 GB64.5 GB66.9 GB74.9 GB85.7 GB
llama.cpp で全層をGPUに載せ、KVキャッシュFP16の場合の推定。画像・音声入力に使う mmproj(約1.2GB)は含みません。計算方法は 出典・概要。

VRAM別の判定 推定

GPUのVRAM4K32K128K256K
8GB(使える目安 8.4GB)××××
12GB(使える目安 12.7GB)××××
16GB(使える目安 17.0GB)××××
24GB(使える目安 25.6GB)◎◎××
32GB(使える目安 34.2GB)◎◎◎×
公式QAT Q4_0 の場合。◎=余裕あり、△=残り1GB未満でぎりぎり、×=全層は載らない。

ファイル容量と出典

量子化容量配布元
Q4_0(公式QAT)17.7 GB公式QAT Q4_0 GGUF
Q4_K_M18.3 GBUnsloth Q4_K_M
Q5_K_M21.7 GBUnsloth Q5_K_M
Q8_032.6 GBUnsloth Q8_0
BF16/FP1661.4 GBUnsloth BF16 (2分割の合計)
mmproj(画像用)約1.2 GB公式QAT GGUF リポジトリ
Ollama: gemma4:31b(19GB)。容量は2026-10-18確認、GB=10^9バイト。

公式QAT Q4_0・文脈32Kで載る機材(メモリ判明分)

GeForce RTX 5090GeForce RTX 4090GeForce RTX 3090Radeon RX 7900 XTXGeForce RTX 3090 TiGeForce RTX 5090 LaptopRadeon AI PRO R9700Apple M3 Ultra (Mac Studio)Apple M2 UltraApple M1 Max

よくある質問

Gemma 4 31B は24GBのGPUで動きますか?

推定では、公式QAT版(Q4_0)なら ◎ 文脈32Kまで の判定です(文脈32Kで約23.1GB/使える目安 約25.6GB)。

Macなら何GBあればいい?

GPUに使える量をRAMの約72%とみなす推定では、32GBのMacで ◎ 文脈32Kまで、48GBで ◎ 文脈128Kまで です。

QAT版の31Bは16GBに載りますか?

載りません。QAT版のファイル(17.7GB)だけで16GBのGPUで使える量(約17.0GB)を超えます。

Gemma 4 のほかのサイズ: E2BE4B12B26B A4B