あなたのPCで動くローカルLLMは？

GPUかMacとメモリ量を選ぶと、動くモデルと速度の推定を表示します。

GPU / Mac メモリ (Mac) / VRAM (GPU) 量子化文脈長（会話の長さ）システムRAM（Strata用）ストレージ

必要メモリ≒モデル×1.05＋KVキャッシュ（文脈長・モデル構成から計算）＋1GB。Macは約72%をGPU利用可能とみなします。速度≒帯域×メーカー別効率÷アクティブ分のサイズ（MoEは1トークンあたり+1.9msの固定オーバーヘッド）。gpt-ossはMXFP4固定。詳しく

新モデル・GPUの『動くか』を週1でお届け

いつでも解除できます