Mis à jour en juillet 2026.
Faire tourner un LLM (grand modèle de langage) en local — Llama, Mistral, Qwen, gpt-oss — dépend avant tout d’un composant : la carte graphique. Mais contrairement au gaming, ce n’est pas la puissance brute qui compte le plus, c’est la mémoire vidéo (VRAM). Ce guide vous aide à choisir le bon GPU en 2026 selon la taille des modèles que vous visez et votre budget, sans payer pour ce qui ne vous servira pas.
Pour choisir les modèles à faire tourner ensuite, voyez notre guide des meilleurs modèles IA en local en 2026. Et pour la machine complète, notre config PC pour l’IA locale.
Sommaire
- Pourquoi la VRAM est le critère n°1
- La bande passante, second critère décisif
- Combien de VRAM selon la taille du modèle ?
- Quel GPU pour quel budget en 2026 ?
- NVIDIA, AMD ou Apple ?
- Ne pas négliger le reste de la config
- FAQ
Pourquoi la VRAM est le critère n°1
Pour l’inférence d’un LLM, la règle est simple : tous les poids du modèle doivent tenir dans la VRAM du GPU. Si le modèle dépasse la mémoire disponible, le système bascule une partie des calculs vers la RAM du PC — et là, les performances s’effondrent : on passe de dizaines de tokens par seconde à 1 ou 2, soit moins vite que la vitesse de lecture humaine.
Un repère utile : comptez environ 0,5 Go de VRAM par milliard de paramètres en quantisation Q4, et le double sans quantisation. Un modèle 14B en Q4 demande donc ~9 Go, un 30B environ 18-22 Go, un 70B autour de 40 Go. La quantisation Q4 divise par ~4 les besoins mémoire avec une perte de qualité minime : c’est ce qui rend l’IA locale possible sur du matériel grand public.
La bande passante, second critère décisif
Si la VRAM décide quel modèle vous pouvez charger, la bande passante mémoire décide de la vitesse à laquelle il répond. La génération de texte est presque entièrement limitée par la vitesse à laquelle le GPU lit les poids en mémoire. C’est pourquoi, à VRAM égale, une carte à bande passante élevée génère bien plus de tokens par seconde. Concrètement, au-delà de ~15 tokens/seconde, l’expérience devient fluide et « temps réel » pour du chat.
Combien de VRAM selon la taille du modèle ?
| Taille du modèle | VRAM nécessaire (Q4) | Exemples |
|---|---|---|
| 7-8B | ~5-6 Go (8 Go conseillé) | Mistral, Llama 3.1, Phi-4 |
| 14B | ~9-12 Go | Qwen 14B, gpt-oss:20b (~14 Go) |
| 24-32B | ~16-22 Go | Qwen coder 30B, DeepSeek 32B |
| 70B | ~40-48 Go | Llama 3.3 70B (souvent multi-GPU) |
Le consensus en 2026 : 16 Go de VRAM est le minimum à viser pour un achat neuf qui tiendra 2-3 ans, car les modèles grossissent. 8 Go permettent seulement de débuter avec de petits modèles. 24 Go et plus ouvrent la porte aux modèles 30B et aux longs contextes.
Quel GPU choisir selon votre budget en 2026 ?
Note importante : une pénurie de mémoire GDDR7 sévit en 2026 et pousse les prix bien au-dessus des tarifs officiels. Les fourchettes ci-dessous sont indicatives — vérifiez toujours le prix du jour avant d’acheter.
Entrée de gamme : RTX 5060 Ti 16 Go
C’est le meilleur point d’entrée pour l’IA locale en 2026 : la carte 16 Go la moins chère de la gamme. Elle fait tourner confortablement des modèles jusqu’à 14B, avec une alimentation 550 W qui suffit. Idéale pour débuter sans se tromper. Évitez la RTX 5060 8 Go si l’IA est votre objectif principal : 8 Go est un plafond vite atteint.
Le bon compromis vitesse : RTX 5070 Ti 16 Go
Même VRAM que la 5060 Ti (16 Go), mais une bande passante bien supérieure : les mêmes modèles se chargent, mais répondent nettement plus vite. C’est le choix pour qui utilise l’IA locale quotidiennement et veut de la réactivité. Alimentation 750 W recommandée.
Le cas de la RTX 5080 : à éviter pour l’IA
La RTX 5080 offre 16 Go, comme la 5070 Ti, mais coûte sensiblement plus cher. Pour le gaming, elle est excellente ; pour l’IA locale, payer le prix d’une carte plus haut de gamme sans VRAM supplémentaire n’a pas de sens. Passez votre chemin, sauf usage gaming prioritaire.
Haut de gamme : RTX 5090 32 Go
La seule carte grand public à dépasser 24 Go, et la plus rapide du marché (bande passante ~1 790 Go/s). C’est la carte des modèles 30B natifs et des 70B avec un minimum de compromis. Réservée aux budgets conséquents (largement au-dessus de 2 000 € avec la pénurie) et exige une alimentation 1000 W.
L’alternative valeur : RTX 3090 d’occasion 24 Go
Souvent le meilleur rapport VRAM/prix : 24 Go pour un tarif inférieur à une 5070 Ti neuve. Elle fait tourner des modèles de classe 24-32B que toutes les cartes 16 Go ne peuvent pas charger. Les contreparties : pas de garantie, 350 W de consommation, architecture plus ancienne. Un choix malin si vous visez de gros modèles sans exploser le budget.
| GPU | VRAM | Pour qui ? |
|---|---|---|
| RTX 5060 Ti 16 Go | 16 Go | Débuter, modèles jusqu’à 14B |
| RTX 5070 Ti 16 Go | 16 Go | Usage quotidien, vitesse |
| RTX 3090 (occasion) | 24 Go | Gros modèles à budget maîtrisé |
| RTX 5090 32 Go | 32 Go | Modèles 30B-70B, usage pro |
Pour comprendre l’impact de chaque composant, voyez aussi nos guides RAM pour l’IA et CPU, GPU et NPU.
NVIDIA, AMD ou Apple Silicon ?
NVIDIA reste le choix par défaut : l’écosystème IA (CUDA, PyTorch, llama.cpp, Ollama, ComfyUI) est optimisé pour ses cartes. AMD fonctionne techniquement via ROCm, mais le support reste en retard (souvent fiable seulement sous Linux) et les performances inférieures à matériel comparable — à réserver aux utilisateurs avertis. Apple Silicon est une alternative sérieuse : la mémoire unifiée compte comme de la VRAM, et un Mac à mémoire généreuse peut faire tourner de gros modèles, avec l’excellente intégration de LM Studio et MLX. Pour l’IA locale en 2026, restez sur NVIDIA si c’est votre priorité et que vous montez un PC.
Ne pas négliger le reste de la configuration
Un bon GPU ne suffit pas. Prévoyez aussi : 32 Go de RAM système minimum (64 Go pour le fine-tuning ou les gros datasets), un SSD NVMe d’au moins 1 To (les modèles pèsent lourd — un 70B quantisé fait ~40 Go), et une alimentation dimensionnée pour votre carte (550 W pour la 5060 Ti, 750 W pour la 5070 Ti, 1000 W pour la 5090). Un GPU puissant bridé par une alim insuffisante ou un stockage lent ne donnera pas son plein potentiel.
En résumé
Pour un LLM en local en 2026, raisonnez d’abord VRAM, puis bande passante. Pour débuter : RTX 5060 Ti 16 Go. Pour un usage quotidien réactif : RTX 5070 Ti. Pour de gros modèles à budget maîtrisé : RTX 3090 d’occasion 24 Go. Pour le très haut de gamme : RTX 5090 32 Go. Et gardez en tête que 16 Go de VRAM est désormais le minimum pour un achat durable.
FAQ
Quelle VRAM minimum pour faire tourner un LLM en local ?
8 Go permettent de débuter avec des modèles 7-8B quantisés. Mais pour un achat qui tient dans le temps, visez 16 Go, qui gèrent confortablement les modèles jusqu’à 14B.
Faut-il une RTX 5090 pour l’IA locale ?
Non, sauf si vous visez des modèles 30B à 70B. Pour la majorité des usages (modèles 7B à 14B), une RTX 5060 Ti ou 5070 Ti 16 Go suffit largement et coûte bien moins cher.
Une carte AMD peut-elle faire tourner un LLM en local ?
Oui, via ROCm, mais le support est en retard sur NVIDIA (souvent limité à Linux) et les performances inférieures. Pour l’IA, NVIDIA reste le choix le plus simple en 2026.
La RTX 3090 d’occasion vaut-elle encore le coup ?
Oui, pour son rapport VRAM/prix : 24 Go à un tarif inférieur à une 5070 Ti neuve. Attention toutefois à l’absence de garantie et à sa consommation élevée.
Peut-on faire tourner un LLM sans carte graphique ?
Oui, sur CPU avec de la RAM, mais bien plus lentement. Un GPU avec assez de VRAM change radicalement l’expérience.
