Compute gap: 83 % des entreprises sous-utilisent leurs GPU

Le compute gap de l’IA se creuse dans les entreprises. Selon l’étude publiée en juin 2026, les organisations achètent de l’infrastructure IA plus vite qu’elles ne mesurent son coût réel. C’est important, car 83 % disent utiliser leurs GPU à 50 % ou moins, alors que seulement 44 % suivent rigoureusement leurs coûts de calcul.

Le signal est net. Les intentions de dépense accélèrent, mais la visibilité économique reste faible. Dans le même temps, 64 % des entreprises prévoient de changer ou d’ajouter un fournisseur d’infrastructure dans les 12 mois, souvent avant même d’avoir optimisé l’existant.

Compute gap : des achats rapides, une production encore limitée

L’étude repose sur 107 entreprises de plus de 100 salariés, interrogées en juin 2026. Elle donne une lecture instantanée, pas une tendance mensuelle. Le panel reste directionnel, car il est auto-sélectionné et davantage centré sur le mid-market.

Premier constat : l’ambition dépasse encore la maturité opérationnelle. Seules 21 % des entreprises disent faire tourner l’IA en production à grande échelle. À l’inverse, 76 % en sont encore au stade de l’expérimentation ou n’ont mis en production qu’une partie de leurs charges.

Ensuite, l’écart entre investissement et pilotage apparaît déjà dans l’infrastructure déployée. Parmi les entreprises qui exploitent des GPU, 83 % rapportent une utilisation de 50 % ou moins. Plus précisément, 49 % restent à 25 % ou moins. En parallèle, 8 % ne mesurent même pas cette utilisation.

Ce décalage pèse directement sur les coûts. Pourtant, moins d’une entreprise sur deux sait vraiment ce qu’elle dépense. L’étude indique que 44 % seulement suivent rigoureusement les coûts et le retour de leurs calculs IA. De plus, 39 % ne le font que partiellement, 20 % ne peuvent pas encore quantifier ces coûts, et 6 % n’en ont pas fait une priorité.

Infrastructure IA : les hyperscalers dominent aujourd’hui

Pour l’instant, les entreprises s’appuient surtout sur des fournisseurs déjà bien installés. Google Cloud arrive en tête avec 48 % de présence dans les stacks déclarées. Les clouds généralistes, comme Google, Microsoft, AWS et Oracle, concentrent l’essentiel des usages, avec les grandes API de modèles comme Gemini, OpenAI et Anthropic.

À l’inverse, les clouds spécialisés IA restent presque absents des déploiements actuels. Les fournisseurs de type CoreWeave, Lambda, Crusoe ou Nebius apparaissent à 0 % ou près de 0 % dans cette enquête. L’on-premise GPU ne concerne que 6 % des répondants. Les stacks open source custom tombent à 4 %.

Cette photographie compte, car elle montre que les entreprises n’ont pas encore réellement basculé vers des architectures dédiées à l’IA. Aujourd’hui, elles exécutent surtout leurs projets sur des plateformes qu’elles achètent déjà pour d’autres usages.

En clair, le marché reste dominé par les acteurs historiques au moment où les dépenses montent. Vous pouvez suivre cette dynamique plus large sur l’actualité tech et cloud sur TechPi, car elle redessine déjà les arbitrages d’infrastructure.

Clouds spécialisés IA : le prochain euro part vers des plateformes peu utilisées

C’est la tension centrale du rapport. La catégorie d’infrastructure la plus souvent citée pour une évaluation dans les 12 prochains mois est celle des clouds spécialisés IA, à 45 %. Or, presque aucune entreprise du panel ne les utilise aujourd’hui.

Le mouvement ne s’arrête pas là. L’étude montre aussi que 32 % veulent évaluer des accélérateurs non-Nvidia. De leur côté, 28 % regarderont les puces Nvidia de nouvelle génération. Enfin, 16 % citent les réseaux de calcul décentralisé et 11 % le calcul souverain.

Autrement dit, les prochains achats ne seront pas de simples ajustements. Ils ressemblent davantage au début d’un replatforming. Les entreprises veulent tester une couche d’infrastructure qu’elles n’ont pratiquement pas encore mise en production.

Ce point rejoint une vague d’enquête précédente menée en avril-mai 2025. À cette date, l’usage des clouds spécialisés restait déjà marginal, avec 3 % pour CoreWeave, 4 % pour Lambda et 2 % pour Crusoe. Pourtant, 33 % des entreprises prévoyaient déjà d’y déplacer des charges dans les douze mois. Deux vagues, deux formulations, et un même signal de fond.

Changement de fournisseurs : 64 % des entreprises bougeront d’ici un an

Le marché n’est pas stabilisé. Selon l’étude, 64 % des entreprises prévoient de changer ou d’ajouter un fournisseur d’infrastructure dans les 12 mois. Plus frappant encore, 38 % envisagent de le faire dès le prochain trimestre.

Pour une brique aussi structurante que le compute, cette intention de churn reste élevée. Cependant, le changement à court terme profite d’abord aux grands acteurs. Les fournisseurs les plus cités pour un basculement sont Microsoft Azure et Google Cloud, à 33 % chacun, puis OpenAI à 30 % et Gemini à 22 %.

Le message est clair. À court terme, les entreprises arbitrent surtout entre acteurs installés. Le déplacement vers les neoclouds spécialisés ressemble davantage à une thèse d’évaluation sur 12 mois qu’à un switch immédiat.

Les critères de choix confirment cette logique. L’intégration à la stack existante arrive en tête à 41 %. Le coût total de possession suit à 35 %. En revanche, le coût par million de tokens ne pèse que 8 %.

Les DSI et équipes IA n’achètent donc pas sur le prix affiché. Elles achètent sur la compatibilité et sur l’économie globale d’exploitation. Le problème, c’est que cette économie reste souvent mal instrumentée.

GPU sous-utilisés, coûts mal suivis : le vrai problème est économique

Le rapport insiste sur ce point. Le compute gap n’est pas d’abord un manque de capacité. C’est un manque de visibilité. Les GPU déjà installés tournent souvent à vide, pendant que les projets d’extension avancent vite.

La satisfaction globale vis-à-vis des infrastructures actuelles atteint 4,0 sur 5. Mais deux dimensions reculent légèrement. L’implémentation obtient 3,8. La valeur pour l’argent atteint 3,9. Le point faible touche donc déjà le coût.

Le prochain goulot d’étranglement pourrait encore compliquer l’équation. À mesure que l’inférence à grande échelle se déplace du calcul GPU vers la bande passante mémoire, notamment autour du KV-cache, les réponses restent dispersées. Dell arrive à 31 %, Nvidia à 16 %, puis le marché se fragmente entre stockage, outils open source et techniques d’efficacité du modèle.

Surtout, 18 % des entreprises ne reconnaissent pas encore cette contrainte ou ne l’ont pas traitée. Ce chiffre ne relève pas d’une fuite ni d’une rumeur. Il provient directement de l’enquête. Il suggère que beaucoup d’organisations abordent déjà la prochaine phase sans avoir refermé la précédente.

Ce qu’il faut surveiller dans les 12 prochains mois

La prochaine étape se jouera sur deux fronts. D’abord, la mesure. Les entreprises devront mieux suivre l’utilisation GPU, le coût réel des workloads et le retour de leurs investissements. Ensuite, l’arbitrage fournisseur. Les 12 prochains mois diront si les 45 % d’intentions d’évaluation des clouds spécialisés se traduisent en déploiements réels.

Le point de vigilance immédiat reste le calendrier. Avec 38 % d’intentions de changement dès le prochain trimestre, les décisions d’infrastructure ne sont plus théoriques. Pour les équipes IT, cela implique une priorité simple : comprendre le coût de l’existant avant d’ajouter une nouvelle couche de compute.