ランキングStrata出典・概要ニュースレター

Mistral Small 3.1 24B の必要メモリ

パラメータ: 24B ・ ライセンス: Apache-2.0 ・ 構成出典 （出典）

量子化別の必要メモリ 推定

量子化4K文脈32K128K
Q4_K_M16.9 GB21.6 GB37.8 GB
Q5_K_M19.6 GB24.3 GB40.4 GB
Q8_028.4 GB33.1 GB49.2 GB
FP1652.1 GB56.8 GB72.9 GB

Q4_K_Mで載る機材（メモリ判明分）

GeForce RTX 5090GeForce RTX 4090GeForce RTX 3090Radeon RX 7900 XTXGeForce RTX 3090 TiGeForce RTX 5090 LaptopRadeon RX 7900 XTRadeon AI PRO R9700Apple M3 Ultra (Mac Studio)Apple M2 UltraApple M1 Max

新モデル・GPUの『動くか』を週1でお届け

いつでも解除できます