DeepSeek-R1-Distill-32Bをローカルで動かすのに最適なGPU
2026年10月時点のリアルタイム価格とおすすめハードウェアに更新済みです。
DeepSeek-R1-Distill-32Bはdenseモデルです。すべてのトークンで32B個のパラメータ全体が活性化するため、生成速度はカードが重み全体を転送する速さに左右されます。
DeepSeek-R1-Distill-32Bをローカルで動かすには、Q4_K_M量子化・32kトークンのコンテキストでおよそ22.5GBのVRAMが必要です。 収まる中で最もコスパの良いカードはGeForce RTX 3090（24GB）で、毎秒約10トークンを生成できると見込まれます。
コンテキスト長を調整
スライダーでよく使われるサイズを選ぶか、任意の値を直接入力してください。
Q3の重み（約14GB）に32kのGQA KVキャッシュが加わると16GBを超えます。この32Bモデルの実用的な最低ラインは24GBのカードです。
Q4であれば24GBのカードで快適に動作します。VRAMに制約されず、優れた推論性能を発揮します。
同じVRAM要件を持つ他のモデル
DeepSeek-R1-Distill-32Bの重みは24GBのカードに収まるため、同程度のサイズの他のモデルも同じGPUで動作します。生成速度は異なります — mixture-of-expertsモデルは高速で、denseモデルは低速です — が、いずれも同じVRAM容量で読み込めます：
DeepSeek-R1-Distill-32B向けに構成を最適化
量子化の推奨
日常的なコーディングや推論タスクには、Q4_K_M（4ビット量子化）が品質とメモリ効率の最良のバランスを提供します — FP16と比較してメモリ要件を70%以上削減しながら、品質低下はごくわずかです。Q8以上のプリセットはより高い忠実度を保ちますが、VRAM使用量が大幅に増加するため、レイヤーオフロードが必要になりスループットが低下する場合があります。
推奨ローカルソフトウェア
ローカル推論には、GPUへのモデル分割とコンテキストキャッシュの最適化が自動化されているOllamaを主要ランナーとして使用することをおすすめします。より高度なファインチューニングや量子化の分割には、Flash Attentionをネイティブビルドしたllama.cppが最も細かい制御を提供します。
DeepSeek-R1-Distill-32Bをローカルで動かす — FAQ
DeepSeek-R1-Distill-32Bを動かすにはどのくらいのVRAMが必要ですか？
KVキャッシュ量子化を有効にした32kコンテキストの場合、DeepSeek-R1-Distill-32BにはQ4_K_M（多くの人におすすめの量子化）で約22.5GBのVRAMが必要です。Q3_K_Mに下げると、多少の品質低下と引き換えに約17.9GBまで削減できます。一方Q8_0は、このモデルが出せる最高品質のために約40.9GBが必要です。
DeepSeek-R1-Distill-32Bはどのくらいのサイズのグラフィックカードに収まりますか？
DeepSeek-R1-Distill-32BはQ4_K_Mで約22.5GBが必要なので、24GBのカードが全体をVRAMに収められる最小の一般的なサイズです。それより小さいカードではレイヤーをシステムRAMにオフロードする必要があり、通常は生成速度の大部分が失われます。
DeepSeek-R1-Distill-32Bにはどの量子化を使うべきですか？
VRAMに余裕がない限りQ4_K_Mを使用してください。約22.5GBが必要で、フル精度との品質差はごくわずかです。Q8_0は約40.9GBが必要ですが、その品質向上は日常的なコーディングやチャットではほとんど体感できません。余ったVRAMはコンテキストを長くする方に使う方がよいでしょう。
コンテキスト長はDeepSeek-R1-Distill-32Bに必要なVRAMにどう影響しますか？
モデルの重みは固定ですが、KVキャッシュはコンテキスト長に比例して増加します。DeepSeek-R1-Distill-32Bを32kコンテキストで使用する場合、キャッシュは約4.1GBです。64kに倍増すると、約8.2GBになります。KVキャッシュ量子化をオフにすると、これらの数値はさらに倍になります。
同じGPUでDeepSeek-R1-Distill-32Bに似た他のモデルも動かせますか？
はい。DeepSeek-R1-Distill-32BはQ4_K_Mで約22.5GBが必要で、同じカードに重みが収まるモデルであれば動作します — OpenReasoning-Nemotron-32B (32B, Qwen2.5-32Bに基づく), Qwen2.5-32B (32.5B), Qwen2.5-Coder-32B (32.5B), QwQ-32B (32.5B), Qwen3-32B (32.8B), Gemma 4 31B (31B)などが該当します。重みは同じGPUに収まりますが、生成速度は異なります（mixture-of-expertsモデルは高速、denseモデルは低速）。
▸トークン速度の推定方法
各GPUには2つの指標が表示されます：Read tok/s（モデルがプロンプトを読み込む速度）とDecode tok/s（トークンを生成して返す速度）です。これらは根本的に異なるボトルネックをモデル化しています。
リード（プリフィル）
プロンプトは1回の並列処理で処理されます。これは計算律速であり、GPUのテンソルコアを飽和させます。
デコード（生成）
新しいトークンを1つ生成するたびに、モデルのアクティブな重み全体をVRAMから読み込む必要があります。これはメモリ帯域幅律速です。GPUは計算ではなく、データ待ちで処理が止まります。
重み = (activeParams × bits ÷ 8) × 1.15（オーバーヘッド）。ステップごとのKVキャッシュ = activeParams × multiplier × contextK。
アーキテクチャ利用率係数
左：デコード係数 — 右：リード係数
データソース
TFLOPSとメモリ帯域幅はGPUデータベースから取得しています。データがない場合、帯域幅は組み込みの辞書データにフォールバックします。
制限事項
これらは分析による推定値であり、ベンチマークの実測結果ではありません。絶対的な性能保証としてではなく、相対的な比較の参考としてご利用ください。