Meilleur GPU pour les modèles LLM locaux

Un modèle vision-langage dense de 27B dont l'attention linéaire hybride réduit fortement le cache KV — il fait tourner un contexte de 128k+ sur une seule carte de 16-24 Go, avec une fenêtre native de 262k extensible à 1M.

Un modèle Mixture-of-Experts de 284B avec seulement 13B de paramètres actifs et un contexte de 1M de tokens. Ses poids nécessitent plusieurs GPU ou un déchargement CPU, mais seuls 13B s'activent par token, donc la génération reste rapide.

Le modèle Mixture-of-Experts open-weight de 117B d'OpenAI avec 5,1B de paramètres actifs. Ses poids MXFP4 natifs tiennent sur un seul GPU de 80-96 Go, et le faible nombre de paramètres actifs accélère la génération.

Modèle dense de pointe avec une compréhension approfondie des mathématiques, du codage et de l'ingénierie.

Énorme codeur Mixture-of-Experts optimisé pour les configurations ciblant 16 à 24 Go de VRAM.

Le MoE haute densité de Google, conçu pour le codage et le raisonnement complexes.

Modèle dense léger et rapide, optimisé pour les configurations grand public standard.

Raisonnement de pointe condensé dans un modèle 14B compact. Performances STEM et codage solides sur n'importe quel GPU 12 Go+.

Puissance de raisonnement intermédiaire pour cartes 24 Go. Égale les modèles frontières en maths, codage et logique.

Modèle dense efficace avec support multilingue étendu et appels de fonction natifs. Tient sur les cartes 16 Go en Q4.

Le vaisseau amiral MoE le plus accessible de Meta — 17 paramètres actifs offrent une qualité solide sur du matériel professionnel.

Modèle dense 7B polyvalent conçu pour une inférence locale efficace sur les GPU d'entrée à moyenne gamme.

Le modèle de raisonnement grand public d'OpenAI, conçu pour fonctionner sans compromis sur du matériel local standard.

Modèle NVIDIA 4B ultra-compact qui tient confortablement sur presque tous les GPU modernes — idéal pour les configurations mobiles et embarquées.

Énorme Mixture-of-Experts de 80B avec seulement 3B de paramètres actifs — nécessite une carte station de travail de 48 Go, mais génère aussi vite qu'un petit modèle.