Pular para o conteúdo

Melhor GPU para DeepSeek-R1-Distill-32B localmente

Preços em tempo real e recomendações de hardware atualizados para agosto de 2026.

32B
32B
dense

O DeepSeek-R1-Distill-32B é um modelo denso: todos os 32B de parâmetros são ativados a cada token, então a velocidade de geração depende da rapidez com que sua placa consegue ler todos os pesos.

Para executar o DeepSeek-R1-Distill-32B localmente você precisa de cerca de 22.5 GB de VRAM com quantização Q4_K_M e um contexto de 32k tokens. A placa com melhor custo-benefício que comporta o modelo é a GeForce RTX 3090 (24 GB), que deve gerar cerca de 10 tokens por segundo.

Ajustar comprimento do contexto

Deslize para tamanhos populares ou digite um valor manualmente.

k tokens
8k
16k
32k
64k
128k
256k
Entrada econômicaQ3_K_M quant
13.8 GB
4.1 GB
VRAM total:17.9 GB

Hardware recomendado

GeForce RTX 3090
311 tok/sprefill
12 tok/sgeração
CAD 2299.99·24GB de VRAM
Ver placa
RTX PRO 4000 Blackwell
316 tok/sprefill
14 tok/sgeração
CAD 4632.44·24GB de VRAM
Ver placa
GeForce RTX 4090
423 tok/sprefill
17 tok/sgeração
CAD 6137.99·24GB de VRAM
Ver placa

Os pesos Q3 (~14GB) mais o KV cache GQA de 32k ultrapassam 16GB. Placas de 24GB são o ponto de entrada prático para este modelo de 32B.

Ponto de equilíbrio idealQ4_K_M quant
18.4 GB
4.1 GB
VRAM total:22.5 GB

Hardware recomendado

GeForce RTX 3090
311 tok/sprefill
10 tok/sgeração
CAD 2299.99·24GB de VRAM
Ver placa
GeForce RTX 4090
423 tok/sprefill
14 tok/sgeração
CAD 6137.99·24GB de VRAM
Ver placa

Roda confortavelmente em placas de 24GB em Q4. Forte desempenho de raciocínio sem restrição de VRAM.

Quase sem perdasQ8_0 quant
36.8 GB
4.1 GB
VRAM total:40.9 GB

Hardware recomendado

RTX PRO 5000 Blackwell
496 tok/sprefill
13 tok/sgeração
CAD 11155.4·48GB de VRAM
Ver placa
RTX A6000
184 tok/sprefill
5 tok/sgeração
CAD 11399·48GB de VRAM
Ver placa

A precisão total exige placas de nível workstation de 48GB+ só para a matriz de pesos.

Outros modelos com o mesmo requisito de VRAM

Como os pesos de DeepSeek-R1-Distill-32B cabem em uma placa de 24 GB, outros modelos de tamanho semelhante rodam na mesma GPU. A velocidade de geração varia — modelos Mixture-of-Experts são mais rápidos, modelos densos mais lentos — mas todos cabem na mesma VRAM:

OpenReasoning-Nemotron-32B32B · Qwen2.5-32BQwen2.5-32B32.5BQwen2.5-Coder-32B32.5BQwQ-32B32.5BQwen3-32B32.8BGemma 4 31B31B

Otimizando a configuração para DeepSeek-R1-Distill-32B

Recomendações de quantização

Para tarefas diárias de programação e raciocínio, o Q4_K_M (quantização de 4 bits) oferece o melhor equilíbrio entre qualidade e eficiência de memória: reduz os requisitos de memória em mais de 70% com uma perda de qualidade mínima em comparação com FP16. Os ajustes Q8 e superiores preservam mais fidelidade ao custo de um uso de VRAM significativamente maior, o que pode forçar o descarregamento de camadas e reduzir o desempenho.

Software local recomendado

Recomendamos usar o Ollama como o executor principal para inferência local devido ao seu particionamento de GPU automatizado e otimizações de cache de contexto. Para ajustes avançados ou partições de quantização, o llama.cpp compilado nativamente com Flash Attention fornece o melhor controle granular.

Executando o DeepSeek-R1-Distill-32B localmente — perguntas frequentes

De quanta VRAM preciso para executar o DeepSeek-R1-Distill-32B?

Com um contexto de 32k e a quantização do cache KV ativada, o DeepSeek-R1-Distill-32B precisa de cerca de 22.5 GB de VRAM em Q4_K_M — a quantização indicada para a maioria. Baixar para Q3_K_M reduz para aproximadamente 17.9 GB com alguma perda de qualidade, enquanto Q8_0 exige cerca de 40.9 GB para a melhor qualidade que este modelo consegue entregar.

Em que tamanho de placa de vídeo o DeepSeek-R1-Distill-32B cabe?

O DeepSeek-R1-Distill-32B precisa de cerca de 22.5 GB em Q4_K_M, então uma placa de 24 GB é o menor tamanho comum que o mantém inteiramente na VRAM. Abaixo disso é preciso transferir camadas para a RAM do sistema, o que costuma custar a maior parte da sua velocidade de geração.

Qual quantização devo usar para o DeepSeek-R1-Distill-32B?

Use Q4_K_M, a menos que tenha VRAM sobrando. Ele precisa de cerca de 22.5 GB e perde muito pouca qualidade em relação à precisão total. O Q8_0 exige cerca de 40.9 GB por um ganho de qualidade que quase ninguém percebe ao programar ou conversar. Prefira usar a VRAM restante para um contexto mais longo.

Como o tamanho do contexto afeta a VRAM exigida pelo DeepSeek-R1-Distill-32B?

Os pesos do modelo são fixos, mas o cache KV cresce linearmente com o contexto. Para o DeepSeek-R1-Distill-32B com um contexto de 32k, o cache ocupa cerca de 4.1 GB; dobrando para 64k, ele chega a aproximadamente 8.2 GB. Desativar a quantização do cache KV dobra novamente esses valores.

A mesma GPU pode rodar outros modelos semelhantes ao DeepSeek-R1-Distill-32B?

Sim. DeepSeek-R1-Distill-32B precisa de cerca de 22.5 GB em Q4_K_M, e qualquer modelo cujos pesos caibam na mesma placa roda nela — incluindo OpenReasoning-Nemotron-32B (32B, baseado em Qwen2.5-32B), Qwen2.5-32B (32.5B), Qwen2.5-Coder-32B (32.5B), QwQ-32B (32.5B), Qwen3-32B (32.8B), Gemma 4 31B (31B). Os pesos cabem na mesma GPU; a velocidade de geração varia (modelos Mixture-of-Experts são mais rápidos, modelos densos mais lentos).

Como as velocidades de tokens são estimadas

Como calculamos o Índice de Valor da GPU e normalizamos os dados de mercado.

📖

Leitura (Prefill)

A consulta é processada em uma única passagem paralela. Isso é limitado por capacidade de computação: satura os tensor cores da GPU.

leitura tok/s ≈ TFLOPS × readFactor × 400 ÷ activeParams

Decodificação (Geração)

Cada novo token exige carregar todos os pesos ativos do modelo a partir da VRAM. Isso é limitado pela largura de banda de memória: a GPU para aguardando dados em vez de computar.

decodificação tok/s ≈ largura de banda × decodeFactor ÷ (pesos + cachê_kv)

Pesos = (activeParams × bits ÷ 8) × 1.15 de sobrecarga. Cachê KV por passo = activeParams × multiplicador × contextK.

Fatores de utilização por arquitetura

Arquitetura
Decodificação
Leitura
Blackwell, Xe2
0.45
0.55
Ada Lovelace, RDNA 4, Battlemage
0.38
0.48
Ampere, Turing, RDNA 3, Xe-HPG
0.28
0.38
Volta, RDNA 1/2
0.2
0.25
Núcleos pré-tensor (Pascal, Maxwell, Kepler, GCN, Alchemist)
0.12
0.15

Esquerda: fator de decodificação — Direita: fator de leitura

Fontes de dados

Os TFLOPS e a largura de banda de memória são lidos do banco de dados de GPUs. Se ausentes, a largura de banda recorre a uma lista predefinida.

Limitações

Estas são estimativas analíticas, não resultados de testes reais. Use-as como uma comparação relativa, não como uma garantia absoluta de desempenho.