Mejor GPU para gpt-oss-120b en local
Precios en tiempo real y recomendaciones de hardware actualizados para agosto de 2026.
gpt-oss-120b es un modelo de mezcla de expertos: sus 117B de parámetros deben residir por completo en la VRAM, pero solo 5.1B se activan por token, por lo que genera mucho más rápido que un modelo denso del mismo tamaño aunque exija la misma memoria.
Para ejecutar gpt-oss-120b en local necesitas unos 67.9 GB de VRAM con cuantización Q4_K_M y un contexto de 32k tokens. La tarjeta con mejor relación calidad-precio que encaja es la RTX PRO 6000 Blackwell (96 GB), que debería generar alrededor de 190 tokens por segundo.
Ajustar longitud de contexto
Desliza para seleccionar tamaños populares o escribe un valor manualmente.
Hardware recomendado
Q3 weights are ~50 GB — past every consumer card, so the 96 GB RTX PRO 6000 Blackwell is the single-GPU entry point. With only 5.1B params active per token, llama.cpp expert-offload (--n-cpu-moe) is the cheaper route: keep the hot path on a 24-48 GB card and page the experts from system RAM.
Hardware recomendado
Q4 weights are ~67 GB, close to the model's native MXFP4 (~63 GB) format. A single 96 GB RTX PRO 6000 Blackwell (or an 80 GB data-center card) runs it at full quality and context; only 5.1B active parameters keep decode fast despite the 117B total.
Hardware recomendado
No se encontraron GPUs para Ver todas las GPU
Q8 needs ~135 GB — a multi-GPU or unified-memory setup. gpt-oss ships in MXFP4 and is already near-lossless at that ~4-bit format, so Q8 is rarely worth the extra hardware.
Otros modelos con el mismo requisito de VRAM
Como los pesos de gpt-oss-120b caben en una tarjeta de 96 GB, otros modelos de tamaño similar funcionan en la misma GPU. La velocidad de generación varía — los modelos Mixture-of-Experts son más rápidos, los densos más lentos — pero todos caben en la misma VRAM:
Optimización de configuración para gpt-oss-120b
Recomendaciones de cuantización
Para tareas diarias de programación y razonamiento, Q4_K_M (cuantización de 4 bits) ofrece el mejor equilibrio entre calidad y eficiencia de memoria: reduce los requisitos de memoria en más del 70% con una pérdida de calidad mínima en comparación con FP16. Los ajustes preestablecidos Q8 y superiores conservan más fidelidad a costa de un uso de VRAM significativamente mayor, lo que puede forzar la descarga de capas y reducir el rendimiento de generación.
Software local recomendado
Recomendamos usar Ollama como el ejecutor principal para la inferencia local debido a su división automática de modelos en GPU y optimizaciones de caché de contexto. Para ajustes finos avanzados o divisiones de cuantización, llama.cpp compilado de forma nativa con Flash Attention proporciona el mejor control granular.
Ejecutar gpt-oss-120b en local: preguntas frecuentes
¿Cuánta VRAM necesito para ejecutar gpt-oss-120b?
Con un contexto de 32k y la cuantización de la caché KV activada, gpt-oss-120b necesita unos 67.9 GB de VRAM en Q4_K_M, la cuantización recomendada para la mayoría. Bajar a Q3_K_M lo reduce a unos 51.1 GB con cierta pérdida de calidad, mientras que Q8_0 requiere unos 135.2 GB para la mejor calidad que puede dar este modelo.
¿En qué tamaño de tarjeta gráfica cabe gpt-oss-120b?
gpt-oss-120b necesita unos 67.9 GB en Q4_K_M, más de lo que ofrece una sola tarjeta de consumo de 24 GB. Necesitas una tarjeta de estación de trabajo, una configuración multi-GPU o una cuantización más agresiva; de lo contrario las capas pasan a la RAM del sistema y la generación se ralentiza drásticamente.
¿Qué cuantización debo usar para gpt-oss-120b?
Usa Q4_K_M salvo que te sobre VRAM. Necesita unos 67.9 GB y pierde muy poca calidad frente a la precisión completa. Q8_0 requiere unos 135.2 GB para una mejora que casi nadie percibe programando o conversando. Dedica la VRAM sobrante a un contexto más largo.
¿Cómo afecta la longitud del contexto a la VRAM que necesita gpt-oss-120b?
Los pesos del modelo son fijos, pero la caché KV crece de forma lineal con el contexto. Para gpt-oss-120b con un contexto de 32k la caché ocupa unos 0.7 GB; al doblarlo a 64k sube a unos 1.3 GB. Desactivar la cuantización de la caché KV vuelve a duplicar esas cifras.
¿Por qué gpt-oss-120b es más rápido de lo que sugiere su número de parámetros?
gpt-oss-120b es un modelo de mezcla de expertos. Sus 117B de parámetros deben residir en VRAM, pero solo 5.1B intervienen en cada token. La velocidad de generación depende de leer esos 5.1B activos, así que se comporta mucho más como un modelo de 5.1B que de 117B, aunque siga necesitando memoria para los 117B completos.
¿Puede la misma GPU ejecutar otros modelos similares a gpt-oss-120b?
Sí. gpt-oss-120b necesita unos 67.9 GB en Q4_K_M, y cualquier modelo cuyos pesos quepan en la misma tarjeta funciona en ella — incluidos Qwen3.5-122B-A10B (122B), DBRX (132B), Mixtral 8x22B (141B). Los pesos caben en la misma GPU; la velocidad de generación varía (los modelos Mixture-of-Experts son más rápidos, los densos más lentos).
▸Cómo se estiman las velocidades de tokens
Cómo calculamos la Puntuación de Valor GPU y normalizamos los datos del mercado.
Lectura (Prefill)
La consulta se procesa en una sola pasada paralela. Esto está limitado por la capacidad de cómputo: satura los núcleos tensor de la GPU.
Decodificación (Generación)
Cada nuevo token requiere cargar todos los pesos activos del modelo desde la VRAM. Esto está limitado por el ancho de banda de memoria: la GPU se detiene esperando datos en lugar de computar.
Pesos = (activeParams × bits ÷ 8) × 1.15 de sobrecarga. Caché KV por paso = activeParams × multiplicador × contextK.
Factores de utilización por arquitectura
Izquierda: factor de decodificación — Derecha: factor de lectura
Fuentes de datos
Los TFLOPS y el ancho de banda de memoria se leen de la base de datos de GPU. Si no están disponibles, el ancho de banda recurre a una lista predefinida.
Limitaciones
Estas son estimaciones analíticas, no resultados de pruebas reales. Úsalas como una comparación relativa, no como una garantía absoluta de rendimiento.