Amazon et Microsoft s’attaquent aux marges élevées de NVIDIA sur les puces

La croissance de l’IA génère des milliards de dollars de nouveaux revenus dans le cloud. Amazon, Google et Microsoft cherchent à devenir moins dépendants des puces coûteuses de NVIDIA. En particulier, la croissance rapide de l’inférence IA rend les puces propriétaires de plus en plus intéressantes.

Microsoft, Meta, Oracle, CoreWeave et xAI fonctionnent presque entièrement avec des puces NVIDIA. Selon les données d’Epoch AI recueillies par The Economist, Amazon tire près de la moitié de sa puissance de calcul de ses propres puces, tandis que Google obtient la majeure partie de sa puissance de calcul dédiée à l’IA grâce à des puces conçues en interne.

De l’entraînement à l’inférence

La première phase de la vague de l’IA concernait principalement l’entraînement de modèles toujours plus grands. Les GPU de NVIDIA sont particulièrement adaptés à cette tâche. Ils sont puissants, flexibles et bénéficient de CUDA, la plateforme logicielle sur laquelle de nombreux développeurs d’IA construisent leurs applications.

Une fois les modèles entraînés, ils sont utilisés : c’est ce qu’on appelle l’inférence. Chaque question posée à un chatbot et chaque tâche exécutée par un modèle d’IA nécessitent ce type de calcul.

L’inférence devient de plus en plus importante. Les agents IA, en particulier, pourraient fortement accroître la demande. Ces systèmes réalisent plusieurs étapes de manière autonome, utilisent des outils et vérifient leurs propres résultats.

Cette évolution modifie également l’économie des puces. Lorsqu’il s’agit d’entraîner les modèles les plus récents, les performances maximales et la flexibilité sont les principaux critères. Mais pour des milliards de tâches d’IA quotidiennes, le coût de chaque calcul devient de plus en plus déterminant. Cette évolution crée des opportunités pour les ASIC, des puces conçues pour des tâches spécifiques.

Amazon internalise les marges sur les puces

Amazon a identifié très tôt cette évolution. En 2015, l’entreprise a racheté le concepteur de puces Annapurna Labs pour un montant estimé à 350 millions de dollars. AWS développe désormais plusieurs de ses propres puces, notamment les processeurs Graviton et les puces Trainium dédiées à l’IA.

Selon Amazon, la vente et l’utilisation de ses propres puces génèrent désormais plus de 25 milliards de dollars de revenus annualisés. Ces revenus progressent actuellement de plus de 100 % sur un an.

La raison de concevoir ses propres puces est simple : pour chaque GPU NVIDIA acheté par Amazon, une partie de la dépense contribue aux marges élevées de NVIDIA. Avec ses propres puces, Amazon peut conserver une plus grande part de cette valeur économique au sein de sa division cloud AWS.

L’échelle d’AWS joue ici un rôle essentiel. Concevoir une puce avancée coûte plusieurs milliards de dollars, mais Amazon peut répartir ces coûts sur d’énormes volumes de calcul provenant de ses propres services et de ses clients cloud.

Cela ne signifie pas que NVIDIA va disparaître d’AWS. De nombreux clients utilisent des logiciels conçus pour NVIDIA et souhaitent conserver l’accès aux GPU les plus rapides. Un modèle mixte devrait donc émerger : des puces propriétaires pour les charges de travail importantes et prévisibles, et des puces NVIDIA pour les applications nécessitant davantage de flexibilité et des performances maximales.

Google montre déjà que ce modèle peut fonctionner. L’entreprise développe ses propres puces TPU depuis une dizaine d’années et les utilise à grande échelle dans ses centres de données.

Microsoft commence à rattraper son retard

Microsoft n’en est encore qu’au début de cette évolution. Cela apparaît également dans le graphique de The Economist : entre 2022 et 2025, la quasi-totalité de la puissance de calcul estimée de Microsoft dédiée à l’IA provenait de NVIDIA.

Avec Maia, Microsoft cherche à changer cette situation. La Maia 200 est spécialement conçue pour l’inférence et est notamment utilisée pour Microsoft Foundry, Microsoft 365 Copilot et les modèles d’OpenAI.

Selon Microsoft, cette puce offre une performance par dollar supérieure de 30 % à celle du matériel précédemment utilisé par l’entreprise. L’étape suivante sera la Maia 300. Microsoft souhaite l’utiliser pour faire fonctionner une part plus importante de ses charges de travail liées à l’IA sur ses propres puces.

Microsoft est en retard sur Google et Amazon, mais dispose d’un avantage important : l’échelle. Azure, Copilot et les autres services d’IA génèrent ensemble d’immenses volumes de calcul. Si Maia s’avère suffisamment performante, Microsoft pourrait donc déployer rapidement ses propres puces à grande échelle.

NVIDIA a déjà joué cette partie

La montée en puissance des puces propriétaires constitue clairement un défi pour NVIDIA. La part de NVIDIA sur le marché des accélérateurs IA pourrait diminuer si Google, Amazon et Microsoft utilisent davantage leurs propres puces.

NVIDIA dispose toutefois d’un atout qu’il ne faut pas sous-estimer : la rapidité avec laquelle l’entreprise commercialise de nouvelles technologies.

NVIDIA a accéléré son rythme de renouvellement des produits ces dernières années. Les nouvelles architectures pour centres de données apparaissent désormais selon un cycle d’environ un an. Hopper a été suivi par Blackwell et Blackwell Ultra, tandis que Vera Rubin représente la prochaine étape majeure.

Cette rapidité est importante pour le modèle économique. NVIDIA a jusqu’à présent réussi à transformer son avance technologique en prix élevés et en marges importantes. Sur son dernier exercice fiscal, sa marge brute dépassait légèrement 71 %.

Avec Vera Rubin, NVIDIA met fortement l’accent sur la réduction du coût par token — précisément le domaine dans lequel les puces propriétaires dédiées à l’inférence deviennent attractives.

Dans le même temps, l’entreprise élargit son terrain de jeu. En plus des GPU, NVIDIA fournit un nombre croissant de composants pour l’ensemble du centre de données dédié à l’IA : processeurs, puces réseau, interconnexions entre puces, commutateurs, logiciels et racks de serveurs complets.

NVLink Fusion illustre clairement cette stratégie. Cette technologie permet à d’autres entreprises de connecter leurs propres puces IA aux infrastructures NVIDIA. Amazon, par exemple, souhaite utiliser NVLink Fusion pour une future génération de Trainium.

Ainsi, NVIDIA peut continuer à tirer des revenus d’un système d’IA dont l’accélérateur lui-même a été conçu par Amazon.

Le prochain rendez-vous : le 26 août

Le 26 août, cette bataille connaîtra une nouvelle étape lorsque NVIDIA publiera ses résultats trimestriels.

La forte croissance récente d’AWS et d’Azure montre que la demande en puissance de calcul pour l’IA reste élevée. La question essentielle pour les prochaines années est donc de savoir qui conservera la plus grande part des bénéfices générés par cette croissance.