ランキングStrata出典・概要ニュースレター

Qwen2.5 72B Instruct の必要メモリ

パラメータ: 72.7B ・ ライセンス: Qwen ・ 構成出典 （出典）

量子化別の必要メモリ 推定

量子化4K文脈32K128K
Q4_K_M48.6 GB58.0 GB90.2 GB
Q5_K_M56.6 GB66.0 GB98.2 GB
Q8_083.4 GB92.8 GB125.1 GB
FP16155.0 GB164.4 GB196.6 GB

Q4_K_Mで載る機材（メモリ判明分）

Apple M3 Ultra (Mac Studio)Apple M2 Ultra

新モデル・GPUの『動くか』を週1でお届け

いつでも解除できます