Pular para o conteúdo

Melhor GPU para modelos LLM locais

Executar LLMs localmente exige combinar orçamentos de VRAM com níveis de quantização e tamanhos de contexto. Use nossa calculadora em tempo real abaixo para estimar o uso de memória e explorar os guias de modelos específicos.

Ver guias de modelos LLM

Alibaba Qwen

QWEN-3.6-CODER-27B

dense

Modelo denso de última geração com profunda compreensão de matemática, programação e engenharia.

Parâmetros
27B
Ativos
27B
Contexto máx.
32k
Ver detalhes de modelo e GPU
Alibaba Qwen

QWEN-3.6-35B-A3B

moe

Massivo codificador Mixture-of-Experts otimizado para configurações com VRAM alvo de 16GB a 24GB.

Parâmetros
35B
Ativos
3B
Contexto máx.
32k
Ver detalhes de modelo e GPU
Google

GEMMA-4-26B-A4B

moe

O principal MoE de alta densidade do Google, projetado para programação e raciocínio complexos.

Parâmetros
26B
Ativos
4B
Contexto máx.
64k
Ver detalhes de modelo e GPU
Google

GEMMA-4-12B

dense

Modelo denso leve e de alta velocidade, otimizado para configurações de consumo padrão.

Parâmetros
12B
Ativos
12B
Contexto máx.
64k
Ver detalhes de modelo e GPU
DeepSeek

DEEPSEEK-R1-DISTILL-14B

dense

Raciocínio de alto nível destilado em um modelo compacto de 14B. Sólido desempenho em STEM e programação em qualquer GPU de 12GB+.

Parâmetros
14B
Ativos
14B
Contexto máx.
32k
Ver detalhes de modelo e GPU
DeepSeek

DEEPSEEK-R1-DISTILL-32B

dense

Potência de raciocínio de tamanho médio para placas de 24GB. Iguala-se aos modelos de fronteira em matemática, programação e lógica.

Parâmetros
32B
Ativos
32B
Contexto máx.
32k
Ver detalhes de modelo e GPU
Mistral AI

MISTRAL-SMALL-3.1-24B

dense

Modelo denso e eficiente com amplo suporte multilingue e chamadas de função nativas. Cabe em placas de 16GB em Q4.

Parâmetros
24B
Ativos
24B
Contexto máx.
128k
Ver detalhes de modelo e GPU
Meta

LLAMA-4-SCOUT-109B-A17B

moe

O carro-chefe MoE mais acessível da Meta: 17B de parâmetros ativos oferecem uma qualidade sólida em hardware de estação de trabalho.

Parâmetros
109B
Ativos
17B
Contexto máx.
64k
Ver detalhes de modelo e GPU
OpenAI

GPT-OSS-20B

dense

Modelo de raciocínio de consumo da OpenAI, projetado para rodar sem compromisos em hardware local padrão.

Parâmetros
20B
Ativos
20B
Contexto máx.
32k
Ver detalhes de modelo e GPU

GPUs para configuração de modelo personalizada

27B
3B14B27B35B70B+
32k tokens
8k32k64k96k128k

Estimativa de memória

VRAM19 GB
Pesos: 15.5GB
KV: 3.5GB

Perguntas frequentes

Perguntas comuns sobre a escolha de uma GPU para inferência local de LLM.