ランキングStrata出典・概要
LLM診断 › Gemma 4 の必要VRAM › 12B

Gemma 4 12B の必要VRAM・メモリ

パラメータ: 11.95B ・ ライセンス: Apache-2.0 ・ 最大文脈 256K ・ 入力: テキスト・画像・音声 ・ 構成出典 （出典）

Gemma 4 12B は、画像と音声を別のエンコーダーを通さずに直接取り込む「Unified」型の密（dense）モデルです（公式モデルカード）。2026年4月2日の発表時点の4サイズには含まれず、後から追加されました。

公式QAT版（Q4_0）のGGUFは7.0GB、Q4_K_Mは7.1GBです。LLM診断の推定では、QAT版で文脈4Kなら約9.1GB、32Kで約9.6GB、256Kで約13.3GB必要です。重みに加えてKVキャッシュと作業領域（出力バッファ込みで約1.5GB）がのるため、8GBのGPUでは×（4Kでも不足）、12GBなら◎ 文脈128Kまで、16GBなら◎ 文脈256Kまでという判定になります。

第三者の実測（RTX 5070 Ti・llama.cpp・QAT Q4_0）では文脈32KでVRAMの山が8.91GiB（約9.57GB）でした（slide-style.com）。LLM診断の推定（約9.6GB）はこの実測とほぼ一致します。

自分のPCで診断する Gemma 4 全サイズの早見表

量子化別の必要メモリ 推定

量子化ファイル4K文脈32K文脈128K文脈256K文脈
Q4_0（公式QAT）7.0 GB9.1 GB9.6 GB11.2 GB13.3 GB
Q4_K_M7.1 GB9.2 GB9.7 GB11.3 GB13.5 GB
Q5_K_M8.4 GB10.5 GB11.0 GB12.6 GB14.7 GB
Q8_012.7 GB14.8 GB15.2 GB16.9 GB19.0 GB
BF16/FP1623.8 GB25.9 GB26.4 GB28.0 GB30.2 GB
llama.cpp で全層をGPUに載せ、KVキャッシュFP16の場合の推定。画像・音声入力に使う mmproj（約0.18GB）は含みません。計算方法は 出典・概要。

VRAM別の判定 推定

GPUのVRAM4K32K128K256K
8GB（使える目安 8.4GB）××××
12GB（使える目安 12.7GB）◎◎◎×
16GB（使える目安 17.0GB）◎◎◎◎
24GB（使える目安 25.6GB）◎◎◎◎
32GB（使える目安 34.2GB）◎◎◎◎
公式QAT Q4_0 の場合。◎＝余裕あり、△＝残り1GB未満でぎりぎり、×＝全層は載らない。

ファイル容量と出典

量子化容量配布元
Q4_0（公式QAT）7.0 GB公式QAT Q4_0 GGUF
Q4_K_M7.1 GBUnsloth Q4_K_M
Q5_K_M8.4 GBUnsloth Q5_K_M
Q8_012.7 GBUnsloth Q8_0
BF16/FP1623.8 GBUnsloth BF16
mmproj（画像・音声用）約0.18 GB公式QAT GGUF リポジトリ
Ollama: gemma4:12b（7.7GB）。容量は2026-10-18確認、GB=10^9バイト。

公式QAT Q4_0・文脈32Kで載る機材（メモリ判明分）

GeForce RTX 5090GeForce RTX 5080GeForce RTX 5070 TiGeForce RTX 5070GeForce RTX 5060 Ti 16 GBGeForce RTX 4090GeForce RTX 4080GeForce RTX 4070GeForce RTX 4060 Ti 16 GBGeForce RTX 3090GeForce RTX 3060 12 GBRadeon RX 7900 XTXRadeon RX 9070 XTArc B580GeForce RTX 2080 TiGeForce RTX 3080GeForce RTX 3080 TiGeForce RTX 3090 TiGeForce RTX 4070 SUPERGeForce RTX 4070 TiGeForce RTX 4070 Ti SUPERGeForce RTX 4080 SUPERGeForce RTX 4090 LaptopGeForce RTX 5090 LaptopRadeon RX 6700 XTRadeon RX 6800Radeon RX 6800 XTRadeon RX 6900 XTRadeon RX 6800MRadeon RX 7700 XTRadeon RX 7800 XTRadeon RX 7900 GRERadeon RX 7900 XTRadeon RX 9060 XT 16 GBRadeon RX 9070Radeon AI PRO R9700Arc A770 16 GBArc B570Apple M3 Ultra (Mac Studio)Apple M2 UltraApple M1 Max

よくある質問

Gemma 4 12B は8GBのGPUで動きますか？

全層をGPUに載せる前提では、推定で文脈4Kでも約9.1GB必要なため、8GB（使える目安 約8.4GB）では足りない判定です。一部の層をCPU側に逃がせば動かせますが、速度は落ちます（未計測）。

QAT版とQ4_K_Mはどちらがいい？

ファイル容量は公式QAT Q4_0が7.0GB、Q4_K_Mが7.1GBと近く、必要VRAMの差は小さいです。QATは量子化を前提に学習し直した版で、Googleが公式に配布しています。品質の差はこのサイトでは測っていません。

音声入力は使えますか？

2026-10-18時点の公式モデルカードでは、音声入力に対応するのはE2B・E4B・12Bの3つと記載されています。26B A4B と 31B はテキストと画像のみです。

Gemma 4 のほかのサイズ: E2BE4B26B A4B31B