AMD Helios + Cerebras : l'inference disaggregated defie Nvidia-Groq avec 5x tokens/sec/watt sur les modeles >1T parametres

AMD Helios + Cerebras : l'inference disaggregated defie Nvidia-Groq avec 5x tokens/sec/watt sur les modeles >1T parametres

🔎 Pourquoi le GPU vient de se faire couper en deux

L'industrie de l'IA vient de franchir un point de non-retour. Le GPU monolithique, cette pièce maîtresse qui a fait la fortune de Nvidia, est en train d'être démonté en deux morceaux spécialisés.

AMD et Cerebras ont annoncé à l'AMD Advancing AI 2026 une solution d'inférence disaggregated qui sépare le prefill du decode. Le résultat : 5x plus de tokens par seconde et par watt qu'une configuration Cerebras seule, selon les benchmarks internes publiés le 12 août 2026.

Ce n'est pas un simple partenariat de papier. OpenAI, Meta, Oracle, HPE et le Department of Energy américain sont déjà listés comme clients annoncés. La production de masse est prévue pour le T2 2027, avec une disponibilité sur Cerebras Cloud dès le H2 2026.

Le timing n'est pas anodin. Cela fait moins de deux mois que Nvidia a raflé Groq pour 20 milliards de dollars, et que Groq a pivoté vers le neocloud avec sa plateforme LPX. AMD et Cerebras prennent le contre-pied direct de cette stratégie : pas de rachat, pas de cloud propriétaire exclusif, mais une architecture ouverte qui s'appuie sur les standards du marché.

L'essentiel

• Architecture disaggregated : le prefill (calcul intensif sur le prompt) est géré par les racks AMD Helios (72 MI455X, 31 TB HBM4, 2.9 exaFLOPS FP4), le decode (génération token par token) par les puces Cerebras WSE (wafer-scale engine).
• Performance : 5x plus de tokens/sec/watt qu'un système Cerebras seul, ciblant les modèles de plus de 1 billion de paramètres comme GPT-5.5, Claude Opus 4.7 ou Gemini 3.1 Pro.
• Prix : un rack Helios est estimé entre 5 et 5,5 millions de dollars (août 2026, vérifiez sur mlq.ai).
• Disponibilité : Cerebras Cloud au H2 2026, production de masse au T2 2027.
• Enjeu stratégique : réponse directe au rachat de Groq par Nvidia et à la plateforme Groq LPX, avec une approche ouverte compatible SGLang, vLLM et Dynamo.

Outils recommandés

L'architecture disaggregated : pourquoi couper le GPU en deux

L'inférence d'un LLM suit deux phases fondamentalement différentes. Le prefill calcule les représentations de tout le prompt d'un coup — c'est un problème de calcul parallèle massif, memory-bound. Le decode génère les tokens un par un — c'est un problème séquentiel, compute-bound avec des accès mémoire minimaux.

Un GPU fait les deux, mais il n'est optimal pour aucune des deux phases. Il gaspille des cycles de compute pendant le decode et sous-exploite sa bande passante mémoire pendant le prefill.

La solution disaggregated assigne chaque phase au hardware le plus adapté. C'est exactement ce que Cerebras théorise depuis des mois sur son blog consacré au sujet : le GPU est en train d'être coupé en deux.

AMD apporte le prefill avec Helios. Cerebras apporte le decode avec le WSE. Le gain de 5x sur les tokens/sec/watt vient de cette spécialisation radicale : chaque puce fait ce qu'elle fait de mieux, sans compromis.

Pour les modèles de plus de 1 trillion de paramètres — GPT-5.5, Claude Opus 4.7 Adaptive, Gemini 3 Pro Deep Think — cette différence n'est pas marginale. C'est la différence entre une inférence rentable et une inférence qui brûle des millions sans justification économique.

AMD Helios : le monstre de prefill en chiffres

Le rack Helios n'est pas un simple assemblage de GPUs. C'est une infrastructure conçue spécifiquement pour le prefill de modèles massifs, avec des spécifications qui dépassent tout ce qui existait sur le marché en août 2026.

Selon la presse officielle d'AMD et l'analyse détaillée de Spheron :

• 72 GPUs MI455X par rack, architecture CDNA 4
• 31 TB de HBM4 total — de quoi charger un modèle de 1T+ paramètres en FP4 sans pagination
• 2,9 exaFLOPS en FP4 par rack — la précision FP4 est désormais le standard pour l'inférence de grands modèles
• Interconnect ultra-rapide pour minimiser la latence entre les GPUs lors du prefill distribué

Le prix estimé par MLQ.ai se situe entre 5 et 5,5 millions de dollars par rack (août 2026). C'est cher, mais le calcul est simple : si ce rack fait le prefill 5x plus efficacement qu'un équivalent monolithique, le TCO sur 3 ans penche largement en sa faveur.

Le goulot d'étranglement n'est plus le compute pur. Comme le souligne Wing.vc dans son analyse de l'unbundling de l'inférence, le bottleneck s'est déplacé vers l'interconnect — la capacité à faire communiquer les puces de prefill avec les puces de decode sans ajouter de latence prohibitive.

C'est précisément là que le partenariat prend son sens. AMD et Cerebras ont travaillé sur le protocole de communication entre Helios et le WSE, bien que les détails techniques exacts de cet interconnect restent sous NDA.

Cerebras WSE : le roi du decode qui trouve enfin son rôle

Le wafer-scale engine de Cerebras a toujours été un prodige technique sans marché clair. Une puce de la taille d'un wafer entier, avec 46 billions de transistors, mais conçue pour un usage (le decode séquentiel) que le marché ne séparait pas encore du prefill.

La donne change radicalement avec ce partenariat. Le WSE devient le composant de decode d'une chaîne disaggregated, et c'est exactement ce pour quoi il a été conçu.

Le decode d'un LLM est fondamentalement séquentiel : chaque token dépend du précédent. Un GPU traditionnel exécute cette tâche de manière sous-optimale car il doit gérer des warps de threads, de la mémoire partagée, des scheduler complexes — tout ça pour générer un token à la fois.

Le WSE, avec sa grille massive de cœurs simples, excelle dans ce scénario. Chaque cœur peut être assigné à une partie du calcul de décodage sans la surhead d'un GPU. Le résultat : une latence par token drastiquement réduite, surtout sur les modèles massifs.

Le cas d'usage concret est immédiat. Quand on fait tourner GPT-5.6 Sol sur Cerebras à 750 tokens/seconde, comme nous l'avions déjà analysé, on voit la puissance brute du WSE sur le decode. Mais sans un bon partenaire de prefill, le système reste déséquilibré.

AMD Helios comble cette lacune. Le WSE n'est plus une anomalie technique cherchant un use case — il est le cœur du decode dans l'architecture la plus efficiente du marché.

Le contexte compétitif : Nvidia-Groq, le géant et son acquisition

Pour comprendre l'importance de ce partenariat AMD-Cerebras, il faut regarder ce qui vient de se passer chez Nvidia.

Le rachat de Groq pour 20 milliards de dollars a changé la donne. Groq a levé 650 millions de dollars et pivote vers le neocloud pour assurer sa survie après que Nvidia a raflé son âme. La plateforme Groq LPX, basée sur les LPU (Language Processing Units), était jusqu'ici le principal challenger de Cerebras sur le terrain de l'inférence rapide.

Mais avec le rachat, la LPU de Groq devient un atout interne de Nvidia. Et Nvidia n'a aucun intérêt à ce que l'inférence disaggregated prospère en dehors de son écosystème — car cela remet en cause le modèle du GPU monolithique qui génère ses marges faramineuses.

Le partenariat AMD-Cerebras est une réponse directe. Il dit essentiellement : vous pouvez acheter le GPU monolithique Nvidia (qui fait mal les deux phases), ou vous pouvez assembler une solution disaggregated avec le meilleur hardware de prefill (AMD) et le meilleur hardware de decode (Cerebras), pour 5x moins de consommation énergétique par token généré.

Ajoutons à cela qu'OpenAI travaille sur sa propre puce d'inférence, Jalapeño avec Broadcom, qui promet -50% sur les coûts de serving. Tout le monde veut sortir de la dépendance Nvidia pour l'inférence. AMD-Cerebras est l'option la plus agressive et la plus immédiatement disponible.

Les clients annoncés : pourquoi OpenAI, Meta et Oracle s'y intéressent

La liste des clients annoncés par AMD dans son communiqué officiel est éloquente : OpenAI, Meta, Oracle, HPE et le Department of Energy.

OpenAI est le plus significatif. Le leader des LLM agentic avec GPT-5.5 (score agentic de 98,2) a un problème de coûts d'inférence massif. Chaque requête sur GPT-5.5 coûte une fraction de centime, mais multipliée par des centaines de millions d'utilisateurs, la facture GPU explose. Une réduction de 5x sur la consommation énergétique par token n'est pas un luxe, c'est une nécessité de survie économique.

Meta a son propre modèle, et l'open source avec Llama. Mais l'inférence de modèles open source massifs sur des infrastructures propriétaires est un cauchemar de coûts. L'approche disaggregated permet à Meta de déployer ses modèles sur une infrastructure où chaque composant est optimisé — une philosophie qui correspond à leur culture engineering.

Oracle a massivement investi dans l'infrastructure IA avec son OCI AI Infrastructure. Pouvoir proposer des clusters Helios+WSE à ses clients cloud est un différenciateur puissant contre AWS (qui a déjà un partenariat Cerebras) et Azure (qui reste dominé par Nvidia).

Le Department of Energy américain utilise des modèles massifs pour la simulation scientifique et l'analyse de données. La faible latence du decode Cerebras couplée à la puissance de prefill d'Helios est exactement ce dont ils ont besoin pour des workloads où chaque milliseconde compte.

L'écosystème logiciel : SGLang, vLLM et Dynamo déjà compatibles

Une architecture hardware révolutionnaire ne vaut rien sans le software pour l'exploiter. Et c'est là que le partenariat AMD-Cerebras prend une dimension supplémentaire.

Les frameworks d'inférence les plus populaires supportent déjà la disaggregation. SGLang, vLLM et Dynamo (le framework d'Anthropic) peuvent séparer le prefill et le decode dans leur pipeline d'exécution. Cela signifie qu'un client qui déploie Helios+WSE n'a pas besoin de réécrire son stack logiciel — il configure les deux backends et le framework gère le routage.

C'est un avantage considérable par rapport à l'approche Groq LPX, qui nécessite une adaptation plus profonde au format LPU. Et c'est un avantage écrasant par rapport aux puces custom comme Jalapeño d'OpenAI, qui nécessiteront un stack dédié.

L'optimisation de l'interconnect entre prefill et decode reste le défi logiciel principal. Les frameworks doivent être capables de transférer les états cachés (KV cache) du backend de prefill (Helios) vers le backend de decode (WSE) avec une latence minimale. C'est un problème d'ingénierie non trivial, mais la communauté open-source avance vite.

Le cas de DeepEP de DeepSeek est instructif ici. La bibliothèque DeepEP optimise la communication GPU-GPU pour les modèles distribués, et les mêmes principes s'appliquent à la communication prefill-decode dans une architecture disaggregated.

Benchmark et performance : ce que 5x tokens/sec/watt signifie réellement

Le chiffre de 5x plus de tokens/sec/watt est le cœur de l'annonce. Mais il mérite d'être contextualisé.

Selon la presse officielle de Cerebras et l'analyse de Tom's Hardware, ce benchmark compare un système Cerebras WSE seul (qui fait mal le prefill car ce n'est pas conçu pour ça) avec un système Helios+WSE disaggregated (où chaque composant est spécialisé).

Le gain de 5x n'est donc pas une comparaison avec un système Nvidia équivalent — c'est une comparaison interne qui montre ce que la spécialisation apporte. La comparaison avec Nvidia reste à faire par des tiers indépendants.

Cependant, la logique est solide. Sur un modèle comme GPT-5.5 (1T+ paramètres), un GPU Nvidia H200 doit consacrer une fraction significative de sa puissance au prefill, puis basculer vers le decode. Pendant le prefill, les cœurs de decode sont sous-utilisés. Pendant le decode, la bande passante mémoire est sous-utilisée. Le gaspillage est structurel.

Avec Helios+WSE, le prefill tourne à plein régime sur les 72 MI455X pendant que le WSE est prêt à enchaîner sur le decode. Pas de transition, pas de gaspillage, pas de compromis. Le rendement énergétique s'envole.

Il faut noter que ces chiffres viennent de benchmarks internes. L'histoire de l'IA regorge de benchmarks internes optimisés qui ne survivent pas au contact avec des workloads réels. METR a d'ailleurs récemment mis en lumière le piège du benchmark gaming dans l'évaluation des modèles. La prudence s'impose jusqu'à ce que des tiers indépendants (MLPerf, par exemple) publient leurs propres mesures.

Tableau comparatif : Helios+WSE vs alternatives d'inférence

Ce tableau révèle une dynamique claire : pour les modèles de moins de 500 milliards de paramètres, le GPU monolithique reste suffisant. Mais au-delà de 1 trillion — là où vivent maintenant les meilleurs modèles agentic comme GPT-5.5 (98,2), Gemini 3 Pro Deep Think (95,4) et Claude Opus 4.7 Adaptive (94,3) — l'architecture disaggregated devient incontournable.

AWS, Cerebras et la guerre des clouds d'inférence

Il ne faut pas oublier que Cerebras a déjà un partenariat majeur avec AWS. Les instances Cerebras sur EC2 sont disponibles depuis fin 2025, et AWS a été le premier hyperscaler à adopter le WSE à grande échelle.

Le partenariat AMD-Cerebras ne remet pas en cause l'accord avec AWS. Au contraire, il l'élargit. AWS pourra proposer des instances combinant des GPUs AMD Helios pour le prefill et des WSE Cerebras pour le decode, le tout intégré dans son infrastructure réseau propriétaire (EFA, UltraCluster).

La vraie question est : AWS va-t-il proposer cette solution avant Oracle, qui est aussi client annoncé ? La guerre des clouds d'inférence IA est en train de passer de la course à la quantité de GPUs (qui a été gagnée par AWS et Azure) à la course à l'efficacité par token (qui est encore ouverte).

Si Oracle OCI peut proposer des clusters Helios+WSE avant AWS, cela pourrait attirer les clients les plus sensibles aux coûts d'inférence — exactement ceux qui font tourner des modèles de 1T+ paramètres en production.

Impact sur les développeurs : qu'est-ce que ça change concrètement

Pour un développeur qui fait tourner des modèles via des APIs, la réponse courte est : pas grand-chose dans l'immédiat. L'architecture disaggregated est un changement d'infrastructure, pas d'API.

Mais à moyen terme, l'impact est réel. Si le coût par token d'un modèle comme GPT-5.5 ou Claude Opus 4.7 baisse de 3 à 5x grâce à l'inférence disaggregated, cela se répercutera sur les prix des APIs. Les fournisseurs qui adoptent Helios+WSE pourront proposer des tarifs plus agressifs.

Pour les équipes qui font du self-hosting — et c'est un segment en croissance rapide avec des modèles comme Kimi K2.6 (88,1 agentic, self-host) ou GLM-5 Reasoning (82, self-host) — l'architecture ouvre des possibilités nouvelles. Déployer un cluster Helios pour le prefill et un WSE pour le decode permet d'atteindre des performances de niveau hyperscaler sans dépendre d'un seul fournisseur de hardware.

C'est dans cette optique que les meilleurs modèles sur LM Studio et les meilleurs modèles Ollama comme Llama 4, Qwen3 et Gemma 3 prendront une nouvelle dimension. Quand l'inférence disaggregated sera accessible au-delà des hyperscalers, les modèles open source de 100-500B paramètres pourront rivaliser avec les modèles propriétaires de 1T+ en termes de latence perçue par l'utilisateur.

Le goulot d'étranglement s'est déplacé : de la compute à l'interconnect

C'est peut-être le point le plus important de toute cette annonce, et le moins commenté.

Pendant des années, le bottleneck de l'inférence IA a été la puissance de calcul brute. Plus de FLOPS = plus de tokens. Les GPUs sont devenus des monstres de compute, la HBM a explosé en capacité, et les modèles ont suivi.

Mais avec l'architecture disaggregated, le compute n'est plus le problème. Le problème est de faire communiquer le backend de prefill avec le backend de decode. Chaque milliseconde perdue dans le transfert de la KV cache entre Helios et le WSE est une milliseconde où le client attend.

Comme le note Wing.vc, le champ de bataille de l'inférence IA est en train de se déplacer du FLOPS vers l'interconnect. Les entreprises qui gagneront seront celles qui résolvent le problème du transfert d'état entre composants spécialisés.

C'est un paradoxe fascinant : en séparant le GPU pour mieux spécialiser chaque phase, on crée un nouveau problème de communication qui n'existait pas dans l'architecture monolithique. Le gain net est positif (5x sur les tokens/sec/watt), mais la marge de progression restante est énorme — et elle se trouve dans l'interconnect, pas dans le compute.

Calendrier de disponibilité et limites actuelles

Le calendrier, tel que rapporté par MLQ.ai, est le suivant :

• H2 2026 : disponibilité sur Cerebras Cloud pour les premiers clients (accès contrôlé)
• T2 2027 : production de masse des racks Helios, disponibilité générale chez les hyperscalers partenaires

Ce délai de près d'un an entre l'annonce et la disponibilité générale est classique dans le secteur, mais il laisse une fenêtre ouverte à Nvidia. D'ici le T2 2027, Nvidia aura probablement annoncé sa prochaine génération de GPUs (post-Blackwell/Rubin) et intégrera les LPU de Groq dans son offre de service cloud via Groq LPX.

Les limites actuelles sont également importantes à mentionner. Les benchmarks de 5x tokens/sec/watt sont internes. Les tests indépendants n'existent pas encore. L'interconnect entre Helios et WSE est partiellement sous NDA. Et les frameworks logiciels, bien que compatibles en principe, n'ont pas encore publié de benchmarks de performance sur cette architecture spécifique.

En d'autres termes : l'annonce est prometteuse, mais la preuve par la production reste à faire.

❌ Erreurs courantes

Erreur 1 : Confondre disaggregated inference et model parallelism

Le model parallelism (tensor parallel, pipeline parallel) découpe un modèle trop gros pour tenir sur un GPU et le distribue sur plusieurs GPUs qui font tous les deux phases. La disaggregated inference sépare les phases elles-mêmes et les assigne à des hardware différents. Ce n'est pas la même chose, et les deux peuvent se combiner.

Erreur 2 : Penser que 5x tokens/sec/watt s'applique à tous les modèles

Le gain de 5x est mesuré sur des modèles de plus de 1 trillion de paramètres. Sur un modèle de 70B comme Llama 4, le gain sera nettement moindre car le prefill est moins coûteux et le déséquilibre entre phases est réduit. L'architecture disaggregated a un seuil de rentabilité en termes de taille de modèle.

Erreur 3 : Croire que Cerebras remplace AMD (ou inversement)

Ni Cerebras seul ni AMD seul ne peut faire le travail complet. Le WSE est mauvais en prefill. Les MI455X sont sous-optimaux en decode séquentiel. C'est la combinaison qui crée la valeur. Quiconque présente l'annonce comme "Cerebras bat AMD" ou "AMD bat Cerebras" n'a pas compris le sujet.

Erreur 4 : Ignorer le coût de l'interconnect

Un rack Helios à 5,5M$ plus un système WSE représente un investissement initial considérable. Le ROI de 5x sur les tokens/sec/watt ne se réalise que sous charge soutenue avec des modèles massifs. Un déploiement à demi-charge sera probablement moins rentable qu'un cluster GPU monolithique équivalent.

❓ Questions fréquentes

Un développeur individuel peut-il utiliser Helios + Cerebras ?

Pas directement. Cette architecture cible les hyperscalers et les grandes entreprises. En revanche, vous en bénéficierez indirectement via les APIs des fournisseurs qui l'adoptent (OpenAI, Meta, Oracle). Pour du local, les meilleurs modèles Ollama restent la voie pragmatique.

C'est mieux que les GPUs Nvidia pour quels cas d'usage ?

Les modèles de plus de 1 trillion de paramètres en production à haute fréquence. En dessous de 500B, le GPU monolithique reste compétitif et plus simple à déployer. Au-dessus de 1T, l'efficacité énergétique de l'architecture disaggregated devient un avantage décisif.

Groq LPX est-il mort avec cette annonce ?

Non, mais sa position est plus fragile. Groq LPX bénéficie de l'écosystème de vente de Nvidia, mais l'architecture LPU est propriétaire et moins ouverte que la combinaison AMD+Cerebras. La bataille se jouera sur les benchmarks indépendants et la disponibilité réelle.

La disponibilité sur Cerebras Cloud au H2 2026 est-elle accessible aux startups ?

Probablement via un programme d'accès anticipé, mais les prix seront élevés. C'est d'abord un outil pour les clients entreprises (OpenAI, Meta, DOE) qui ont les budgets et les workloads pour justifier l'investissement. Les APIs IA gratuites via Groq ou OpenRouter restent plus accessibles pour les petits budgets.

Comment SGLang ou vLLM gèrent-ils la disaggregation en pratique ?

Ces frameworks supportent un mode où le prefill et le decode sont configurés comme des backends distincts. Le framework route le prompt vers le backend de prefill, récupère la KV cache, et l'envoie au backend de decode pour la génération. La configuration est déclarative mais l'optimisation de l'interconnect reste un travail d'infra.

✅ Conclusion

L'inférence disaggregated n'est plus une idée théorique — c'est une architecture produit avec des clients, un calendrier et des chiffres. AMD Helios pour le prefill, Cerebras WSE pour le decode, 5x tokens/sec/watt sur les modèles massifs. Le GPU monolithique vient de recevoir son premier défi structurel crédible depuis des années.

La vraie bataille ne sera pas sur le compute, mais sur l'interconnect. Et elle ne sera pas gagnée par des benchmarks internes, mais par des déploiements en production chez OpenAI et Meta. Le T2 2027 sera le moment de vérité.