Pular para o conteúdo

Melhor GPU para DeepSeek-R1-Distill-14B localmente

Preços em tempo real e recomendações de hardware atualizados para agosto de 2026.

14B
14B
dense

O DeepSeek-R1-Distill-14B é um modelo denso: todos os 14B de parâmetros são ativados a cada token, então a velocidade de geração depende da rapidez com que sua placa consegue ler todos os pesos.

Para executar o DeepSeek-R1-Distill-14B localmente você precisa de cerca de 9.8 GB de VRAM com quantização Q4_K_M e um contexto de 32k tokens. A placa com melhor custo-benefício que comporta o modelo é a Arc B580 (12 GB), que deve gerar cerca de 15 tokens por segundo.

Ajustar comprimento do contexto

Deslize para tamanhos populares ou digite um valor manualmente.

k tokens
8k
16k
32k
64k
128k
256k
Entrada econômicaQ3_K_M quant
6 GB
1.8 GB
VRAM total:7.8 GB

Hardware recomendado

GeForce RTX 5060
493 tok/sprefill
21 tok/sgeração
BRL 239.47·8GB de VRAM
Ver placa
Arc B580
438 tok/sprefill
18 tok/sgeração
BRL 3881.65·12GB de VRAM
Ver placa

Cabe em placas de entrada de 8GB para uso básico. Contexto e velocidade de tokens ficarão limitados, mas funcionais.

Ponto de equilíbrio idealQ4_K_M quant
8 GB
1.8 GB
VRAM total:9.8 GB

Hardware recomendado

Arc B580
438 tok/sprefill
15 tok/sgeração
BRL 3881.65·12GB de VRAM
Ver placa
GeForce RTX 4070
484 tok/sprefill
16 tok/sgeração
BRL 10998.89·12GB de VRAM
Ver placa

Roda suavemente em placas de 12GB–16GB com boa folga de contexto. O tier ideal de custo-benefício.

Quase sem perdasQ8_0 quant
16.1 GB
1.8 GB
VRAM total:17.9 GB

Hardware recomendado

GeForce RTX 4090
968 tok/sprefill
19 tok/sgeração
BRL 83.17·24GB de VRAM
Ver placa
GeForce RTX 3090
711 tok/sprefill
13 tok/sgeração
Esgotado·24GB de VRAM
Ver placa

Precisão praticamente sem perdas. Só os pesos precisam de ~16GB, então placas de 24GB dão espaço de respiro para o contexto.

Outros modelos com o mesmo requisito de VRAM

Como os pesos de DeepSeek-R1-Distill-14B cabem em uma placa de 12 GB, outros modelos de tamanho semelhante rodam na mesma GPU. A velocidade de geração varia — modelos Mixture-of-Experts são mais rápidos, modelos densos mais lentos — mas todos cabem na mesma VRAM:

Phi-3 Medium14BPhi-414BQwen2.5-14B14.7BQwen3-14B14.8BMistral NeMo 12B12B

Otimizando a configuração para DeepSeek-R1-Distill-14B

Recomendações de quantização

Para tarefas diárias de programação e raciocínio, o Q4_K_M (quantização de 4 bits) oferece o melhor equilíbrio entre qualidade e eficiência de memória: reduz os requisitos de memória em mais de 70% com uma perda de qualidade mínima em comparação com FP16. Os ajustes Q8 e superiores preservam mais fidelidade ao custo de um uso de VRAM significativamente maior, o que pode forçar o descarregamento de camadas e reduzir o desempenho.

Software local recomendado

Recomendamos usar o Ollama como o executor principal para inferência local devido ao seu particionamento de GPU automatizado e otimizações de cache de contexto. Para ajustes avançados ou partições de quantização, o llama.cpp compilado nativamente com Flash Attention fornece o melhor controle granular.

Executando o DeepSeek-R1-Distill-14B localmente — perguntas frequentes

De quanta VRAM preciso para executar o DeepSeek-R1-Distill-14B?

Com um contexto de 32k e a quantização do cache KV ativada, o DeepSeek-R1-Distill-14B precisa de cerca de 9.8 GB de VRAM em Q4_K_M — a quantização indicada para a maioria. Baixar para Q3_K_M reduz para aproximadamente 7.8 GB com alguma perda de qualidade, enquanto Q8_0 exige cerca de 17.9 GB para a melhor qualidade que este modelo consegue entregar.

Em que tamanho de placa de vídeo o DeepSeek-R1-Distill-14B cabe?

O DeepSeek-R1-Distill-14B precisa de cerca de 9.8 GB em Q4_K_M, então uma placa de 12 GB é o menor tamanho comum que o mantém inteiramente na VRAM. Abaixo disso é preciso transferir camadas para a RAM do sistema, o que costuma custar a maior parte da sua velocidade de geração.

Qual quantização devo usar para o DeepSeek-R1-Distill-14B?

Use Q4_K_M, a menos que tenha VRAM sobrando. Ele precisa de cerca de 9.8 GB e perde muito pouca qualidade em relação à precisão total. O Q8_0 exige cerca de 17.9 GB por um ganho de qualidade que quase ninguém percebe ao programar ou conversar. Prefira usar a VRAM restante para um contexto mais longo.

Como o tamanho do contexto afeta a VRAM exigida pelo DeepSeek-R1-Distill-14B?

Os pesos do modelo são fixos, mas o cache KV cresce linearmente com o contexto. Para o DeepSeek-R1-Distill-14B com um contexto de 32k, o cache ocupa cerca de 1.8 GB; dobrando para 64k, ele chega a aproximadamente 3.6 GB. Desativar a quantização do cache KV dobra novamente esses valores.

A mesma GPU pode rodar outros modelos semelhantes ao DeepSeek-R1-Distill-14B?

Sim. DeepSeek-R1-Distill-14B precisa de cerca de 9.8 GB em Q4_K_M, e qualquer modelo cujos pesos caibam na mesma placa roda nela — incluindo Phi-3 Medium (14B), Phi-4 (14B), Qwen2.5-14B (14.7B), Qwen3-14B (14.8B), Mistral NeMo 12B (12B). Os pesos cabem na mesma GPU; a velocidade de geração varia (modelos Mixture-of-Experts são mais rápidos, modelos densos mais lentos).

Como as velocidades de tokens são estimadas

Como calculamos o Índice de Valor da GPU e normalizamos os dados de mercado.

📖

Leitura (Prefill)

A consulta é processada em uma única passagem paralela. Isso é limitado por capacidade de computação: satura os tensor cores da GPU.

leitura tok/s ≈ TFLOPS × readFactor × 400 ÷ activeParams

Decodificação (Geração)

Cada novo token exige carregar todos os pesos ativos do modelo a partir da VRAM. Isso é limitado pela largura de banda de memória: a GPU para aguardando dados em vez de computar.

decodificação tok/s ≈ largura de banda × decodeFactor ÷ (pesos + cachê_kv)

Pesos = (activeParams × bits ÷ 8) × 1.15 de sobrecarga. Cachê KV por passo = activeParams × multiplicador × contextK.

Fatores de utilização por arquitetura

Arquitetura
Decodificação
Leitura
Blackwell, Xe2
0.45
0.55
Ada Lovelace, RDNA 4, Battlemage
0.38
0.48
Ampere, Turing, RDNA 3, Xe-HPG
0.28
0.38
Volta, RDNA 1/2
0.2
0.25
Núcleos pré-tensor (Pascal, Maxwell, Kepler, GCN, Alchemist)
0.12
0.15

Esquerda: fator de decodificação — Direita: fator de leitura

Fontes de dados

Os TFLOPS e a largura de banda de memória são lidos do banco de dados de GPUs. Se ausentes, a largura de banda recorre a uma lista predefinida.

Limitações

Estas são estimativas analíticas, não resultados de testes reais. Use-as como uma comparação relativa, não como uma garantia absoluta de desempenho.