Habitat, la plateforme de stockage de ChatGPT : 500 pétaoctets, 70 M de requêtes/s et une réécriture Python→Rust par deux ingénieurs

Habitat : dans les coulisses du stockage de ChatGPT — 500 pétaoctets, 70 millions de requêtes/s et une réécriture Python→Rust menée par deux ingénieurs

🔎 Le 23 octobre 2026, OpenAI a levé le voile sur la machine qui fait tourner ChatGPT

Quand un service dépasse le milliard d'utilisateurs hebdomadaires, chaque milliseconde de latence devient un sujet stratégique. C'est exactement ce que raconte OpenAI dans la deuxième partie de sa série technique sur Habitat, sa plateforme de stockage en ligne, publiée le 23 octobre 2026.

Le chiffre qui fait la une : les lectures sont passées d'environ 120 ms à environ 10 ms en médiane mondiale, soit un gain de 12× depuis le début de l'année. Derrière ce nombre, il y a une décision d'architecture assumée : le retour aux conteneurs multi-tenants co-gérés avec Azure, après un détour par des conteneurs dédiés.

Et il y a un deuxième récit, plus discret mais tout aussi révélateur : deux ingénieurs ont réécrit le cœur de Habitat en Rust au deuxième trimestre 2026, avec l'aide de Codex et GPT-5.5. Le résultat — 6× plus efficace en CPU, 15× plus économe en mémoire — dit beaucoup sur la façon dont l'IA transforme la dette technique des géants du web.

Cet article décortique les deux publications d'OpenAI, les analyses de AI Weekly, de Dataphoenix et d'ALFW, puis en tire les leçons pour quiconque opère du stockage transactionnel à l'échelle de l'IA.

L'essentiel

• Habitat, c'est la couche de stockage en ligne d'OpenAI : elle traite plus de 70 millions de requêtes par seconde, stocke plus de 500 pétaoctets, couvre près de 40 régions géographiques et sert plus d'1 milliard d'utilisateurs hebdomadaires de ChatGPT, Codex et l'API.
• La clé de la performance : la multi-tenance. OpenAI est revenue aux co-managed containers Azure Cosmos DB, une approche co-ingénierée avec l'équipe Azure, qui a fait passer la médiane mondiale de lecture d'environ 120 ms à environ 10 ms (gain de 12×, octobre 2026).
• La réécriture Python→Rust a été menée par deux ingénieurs au T2 2026 avec l'aide de Codex et GPT-5.5. La version Rust gère désormais 95 % du trafic de production, est 6× plus efficace en CPU et 15× plus économe en mémoire.
• La QoS passe par le tri des requêtes : throttling des clés les plus chaudes d'abord, paliers de priorité (le hors-ligne est bridé avant le trafic interactif), mode serverless co-ingénieré à 10 000 request units/s par partition physique.
• Le bémol : plus de 90 % des requêtes Habitat sont des lectures, et OpenAI ne publie aucun chiffre de latence de queue. La médiane signifie que la moitié des lectures reste plus lente que 10 ms.

Outils et technologies au cœur de cet article

Habitat, c'est quoi exactement ? La couche invisible entre vos conversations et les datacenters

Habitat n'est pas une base de données. C'est la couche de service qui siège entre les produits d'OpenAI — ChatGPT, Codex, l'API — et les systèmes de stockage sous-jacents : Azure Cosmos DB, les caches, le blob storage et les services de change-data-capture. C'est la description qu'en donne GravityDevOps dans sa synthèse.

Concrètement, chaque fois que vous rouvrez une conversation dans ChatGPT, que Codex relit le contexte d'un projet ou qu'un développeur interroge l'API, c'est Habitat qui sert la donnée. À l'échelle d'OpenAI, cela représente plus de 70 millions de requêtes par seconde et plus de 500 pétaoctets stockés, répartis sur près de 40 régions géographiques.

Le plus frappant dans la première partie de la série ? Habitat n'est pas né d'un grand plan d'architecture. Il a commencé comme une simple bibliothèque Python côté client, branchée sur une base unique. C'est la croissance — 1 milliard d'utilisateurs hebdomadaires — qui a forcé chaque couche à se réinventer. Ce pattern est classique dans le génie logiciel à grande échelle : la première version « naïve » survit souvent longtemps, jusqu'au moment où elle ne peut plus.

La Part II : pourquoi OpenAI est revenue aux conteneurs partagés — et pourquoi ça change tout

Réponse directe : parce que les conteneurs dédiés, plus simples à isoler, se sont révélés trop coûteux et trop lents à provisionner à l'échelle du milliard d'utilisateurs. La multi-tenance via des conteneurs co-gérés avec Azure est le compromis retenu, et c'est elle qui débloque le gain de 12× sur les lectures.

Le problème de la multi-tenance à l'échelle

Dans une architecture multi-tenant, plusieurs produits et plusieurs clients partagent les mêmes ressources physiques. C'est efficace en coût, mais ça crée un risque : une charge de travail bruyante peut dégrader les performances de tous les voisins. C'est le dilemme classique du cloud.

Selon Dataphoenix, OpenAI a d'abord testé des conteneurs dédiés — isolation maximale, mais surprovisionnement massif et latence accrue lors des pics. Le retour aux conteneurs multi-tenants partagés par défaut, co-gérés avec l'équipe Azure Cosmos DB, permet de mutualiser les ressources tout en gardant des mécanismes de contrôle fins.

Les trois mécanismes qui rendent la multi-tenance viable

Trois corrections techniques, détaillées par NewsroomAmerica, rendent ce modèle tenable :

1. Le hot key throttling : les clés d'accès les plus sollicitées sont limitées en priorité, avant que la contention ne se propage à tout le conteneur.
2. Le request tiering : chaque requête reçoit un palier de priorité. Le trafic hors-ligne — traitements de fond, indexation — est bridé avant le trafic interactif. Quand vous attendez une réponse dans ChatGPT, votre requête passe avant une tâche de batch.
3. Le mode serverless co-ingénieré : 10 000 request units/s par partition physique, une capacité calibrée avec l'équipe Azure elle-même.

Sur ce dernier point, la citation rapportée par NewsroomAmerica est éloquente : « Product teams would often ship their features to production and forget to pre-scale and we'd sit in SEV rooms on launch day attempting to scale up containers last minute. » Traduction : les équipes produit oubliaient de pré-dimensionner leurs conteneurs, et l'équipe infrastructure passait ses journées de lancement en salle de crise. Le serverless co-managed est la réponse organisationnelle autant que technique : la responsabilité du dimensionnement est partagée avec Azure.

Le résultat : 120 ms → 10 ms

Le p50 mondial de lecture est passé d'environ 120 ms à environ 10 ms, soit un gain de 12× depuis le début de l'année. Attention toutefois à la lecture de ce chiffre : comme le souligne ALFW, le gain combine trois leviers — réplication large des petits jeux de données sensibles à la latence, cache intégré, et réécriture Rust — sans ventilation de la contribution de chacun. Et surtout, OpenAI ne publie aucun chiffre de latence de queue. Une médiane à 10 ms signifie mathématiquement que la moitié des lectures est plus lente. Nous y reviendrons.

Python → Rust : deux ingénieurs, une IA, et 95 % du trafic de production

Réponse directe : la réécriture de Habitat en Rust, menée par deux ingénieurs au deuxième trimestre 2026 avec l'aide de Codex et GPT-5.5, a produit un service 6× plus efficace en CPU et 15× plus économe en mémoire, qui gère aujourd'hui 95 % du trafic de production.

C'est l'angle le plus commenté de cette actualité, et AI Weekly en donne les détails. La version Python de Habitat avait dépassé 20 millions de requêtes par seconde en pic — un exploit pour un interprété. Mais à cette échelle, chaque cycle CPU et chaque gigaoctet de mémoire se paie au prix fort, sur des dizaines de milliers de serveurs.

Pourquoi Rust, et pourquoi maintenant

Rust offre des garanties de sûreté mémoire sans garbage collector. Pour un service de stockage qui traite 70 millions de requêtes/s, cela signifie :

• Des latences prévisibles, sans pauses GC imprévisibles — crucial quand on vise le p99 et pas seulement le p50.
• Une densité de charge bien supérieure : 15× moins de mémoire par requête signifie 15× moins de serveurs pour la même charge, ou la même capacité avec une marge de croissance énorme.
• Des coûts d'infrastructure directement réduits : CPU et RAM sont les deux postes les plus lourds d'un parc de serveurs de base de données.

Le rôle de Codex et GPT-5.5 : la migration assistée par IA devient réalité de production

Le point le plus significatif pour l'industrie n'est pas Rust lui-même — beaucoup d'équipes migrent vers Rust. C'est la méthode. Deux ingénieurs, pas une équipe de vingt. Et l'outil de migration : Codex et GPT-5.5, les modèles d'OpenAI eux-mêmes.

C'est un cas d'école de ce qu'on peut appeler la migration augmentée : l'IA traite le travail fastidieux et répétitif de traduction d'un code Python mature vers un équivalent Rust idiomatique, pendant que les ingénieurs valident la sémantique, conçoivent les tests et pilotent le basculement progressif — 95 % du trafic de production, l'ancienne version Python gardée pour le reste.

À noter : Codex apparaît dans le classement des modèles agentiques avec GPT-5.3 Codex (score 80), tandis que GPT-5.5 domine la catégorie avec 98.2. OpenAI utilise donc ses propres modèles les plus avancés pour réécrire sa propre infrastructure — un cycle d'auto-amélioration qui mérite d'être souligné.

Throttling, tiering et change-data-capture : l'anatomie d'une QoS à l'échelle milliardaire

Réponse directe : OpenAI ne peut pas simplement « ajouter des serveurs ». La qualité de service repose sur une hiérarchie explicite des requêtes et une limitation proactive des charges les plus chaudes.

Le change-data-capture mérite qu'on s'y attarde. Selon Dataphoenix, Habitat traite des millions de changements par seconde sur des milliers de conteneurs, alimentant plus de 100 topics Kafka. C'est ce flux qui permet la réplication, l'invalidation de cache et la synchronisation entre les 40 régions géographiques.

Le request tiering, lui, traduit une philosophie produit : toutes les requêtes ne se valent pas. Une lecture interactive dans ChatGPT — ce que l'utilisateur attend en moins d'une seconde — prime sur un traitement hors-ligne qui peut prendre des minutes sans impact visible. Ce tri à la source, appliqué avant même d'atteindre Cosmos DB, c'est ce qui permet de tenir une médiane à 10 ms sans surprovisionner l'ensemble du parc.

Pour l'équipe d'OpenAI, l'enjeu était aussi organisationnel. Les ingénieurs Jon Lee, Hrachya Hakobyan et Chaomin Yu décrivent un monde où le dimensionnement était le maillon faible humain de la chaîne. Les co-managed containers transfèrent une partie de cette charge cognitive vers Azure : la plateforme co-gérée ajuste la capacité, les équipes produit se concentrent sur le produit.

Ce que la médiane à 10 ms ne dit pas : la question de la queue de latence

Réponse directe : OpenAI ne publie aucun chiffre de latence de queue (p99, p999). Or, à l'échelle du milliard d'utilisateurs, ce sont précisément les queues qui définissent l'expérience perçue.

L'analyse d'ALFW est la plus critique — et la plus utile. Trois réserves méritent d'être posées :

1. La médiane flatte toujours. Un p50 à 10 ms signifie que la moitié des lectures est plus lente. Combien ? 20 ms ? 200 ms ? Personne ne le sait hors d'OpenAI.
2. Plus de 90 % des requêtes sont des lectures. Le gain de 12× porte donc sur l'écrasante majorité du trafic, mais les écritures — et leur cohérence multi-régions — restent le point aveugle de la communication.
3. Pas de ventilation des gains. Réplication large, cache intégré, réécriture Rust : trois leviers, un chiffre agrégé. Impossible de savoir lequel a pesé le plus — et donc de savoir ce qui est transposable ailleurs.

C'est du journalisme technique classique : féliciter le résultat, exiger les données manquantes. OpenAI a publié une série remarquablement détaillée par les standards de l'industrie — la plupart des acteurs ne publient rien — mais le p99 reste dans la boîte noire. Pour une entreprise qui vend de la fiabilité à un milliard d'utilisateurs, c'est un choix défendable. Ce n'est pas un chiffre qu'on peut citer tel quel dans une revue d'architecture.

L'angle business : ce que ça implique pour les coûts d'inférence et votre propre dette technique

Réponse directe : les enseignements d'Habitat valent bien au-delà d'OpenAI. Quiconque opère du stockage transactionnel derrière une charge IA fait face aux mêmes arbitrages — multi-tenance, langage runtime, QoS — avec des budgets sans commune mesure.

Le coût de la latence, ligne par ligne

Le passage de 120 ms à 10 ms n'est pas qu'une prouesse d'ingénierie : c'est une ligne de compte de résultat. Une lecture 12× plus rapide, c'est potentiellement moins de serveurs pour la même charge, moins de réessais côté client, moins de surprovisionnement préventif. Multipliez par 70 millions de requêtes par seconde, 24 heures sur 24, et le gain de la réécriture Rust — 6× CPU, 15× mémoire — se traduit en millions de dollars d'économies annuelles d'infrastructure.

C'est le même arbitrage que celui documenté chez d'autres acteurs. Quand DeepSeek ouvre son moteur d'inférence de production, DeepInfer, en licence Apache 2.0, la logique est identique : à l'échelle de l'IA, l'efficacité du runtime d'inférence et du stockage est un avantage compétitif qui se chiffre directement.

Le spectre de l'amortissement des infrastructures IA

Ces gains d'efficacité s'inscrivent dans un contexte plus tendu. Les projections de Gartner sur les 3 500 milliards de dollars d'investissements en infrastructure IA et le risque d'amortissement des datacenters posent la question de fond : chaque gain d'efficacité de 6× ou 15× rend obsolètes, un peu plus vite, les parcs dimensionnés pour les besoins d'hier.

Pour OpenAI, l'équation est simple : chaque optimisation d'Habitat réduit le coût marginal du service et améliore la marge. Pour les opérateurs de datacenters qui parient sur une croissance indéfinie de la demande, l'histoire d'Habitat raconte l'inverse : la demande ne croît pas plus vite que l'efficacité des logiciels qui la servent. La dette technique, payée tôt — une réécriture Rust, une refonte de la multi-tenance — se rembourse en capacités libérées.

Trois leçons transposables pour votre stack

1. Mesurez la queue, pas la médiane. Si vous ne suivez que le p50, vous ne voyez pas les utilisateurs qui souffrent. Exigez le p99 dans vos dashboards.
2. Le tiering explicite bat le surprovisionnement. Classer vos requêtes par priorité métier et brider le hors-ligne en premier coûte une semaine de travail. Surprovisionner de 40 % coûte 40 % de plus chaque mois.
3. L'IA comme outil de migration est mûr. Deux ingénieurs et Codex ont fait ce qu'une équipe de refonte traditionnelle aurait mis des années à faire. Si vous portez du Python critique vers Rust, Go ou tout autre langage compilé, le moment d'essayer la migration assistée est maintenant.

❌ Erreurs courantes

Erreur 1 : lire « 12× plus rapide » comme un gain uniforme

Ce qui ne va pas : les titres reprennent le p50 mondial sans contexte. Le gain combine trois leviers distincts — réplication, cache, Rust — sans ventilation, et la moitié des lectures reste au-dessus de 10 ms.

La solution : citez toujours la médiane comme médiane, et cherchez les données de queue avant de baser une décision d'architecture sur un chiffre agrégé.

Erreur 2 : croire que la multi-tenance est « gratuite »

Ce qui ne va pas : le partage de conteneurs réduit les coûts, mais exige des mécanismes de protection — hot key throttling, request tiering — sans lesquels une seule charge bruyante dégrade tout le monde.

La solution : si vous mutualisez, investissez d'abord dans la QoS. Le partage sans gouvernance est une bombe à retardement en production.

Erreur 3 : sous-estimer la dimension organisationnelle du scaling

Ce qui ne va pas : l'échec du pré-dimensionnement décrit par les ingénieurs d'OpenAI — des équipes produit qui oubliaient de pré-scaler et des journées de lancement en salle de crise SEV — n'est pas un problème technique, mais un problème de processus.

La solution : le serverless co-managed est une réponse organisationnelle. Chez vous, l'équivalent est d'automatiser le dimensionnement plutôt que de compter sur la vigilance des équipes.

Erreur 4 : planifier une réécriture Rust comme un projet d'équipe traditionnel

Ce qui ne va pas : budgétiser une migration Python→Rust comme un chantier de dix personnes sur deux ans, alors que le modèle OpenAI — deux ingénieurs + IA générative + basculement progressif — a livré 95 % du trafic en un trimestre.

La solution : pilotez une migration assistée par les modèles agentiques actuels (GPT-5.5, GPT-5.3 Codex) sur un service non critique, mesurez le ratio réel, puis étendez.

❓ Questions fréquentes

Qu'est-ce qu'Habitat, concrètement ?

C'est la plateforme de stockage en ligne d'OpenAI, la couche qui relie ChatGPT, Codex et l'API aux systèmes de stockage sous-jacents : Azure Cosmos DB, caches, blob storage et change-data-capture. Elle traite plus de 70 millions de requêtes par seconde et stocke plus de 500 pétaoctets sur près de 40 régions géographiques (OpenAI, octobre 2026).

Pourquoi le passage de 120 ms à 10 ms est-il important ?

À l'échelle d'1 milliard d'utilisateurs hebdomadaires, chaque milliseconde de latence se paie en satisfaction utilisateur, en taux d'abandon et en coûts de serveurs. Un gain de 12× sur la médiane de lecture, obtenu en moins d'un an, représente une économie d'infrastructure majeure et une expérience nettement plus réactive.

Comment deux ingénieurs ont-ils réécrit un service aussi critique en Rust ?

Au deuxième trimestre 2026, deux ingénieurs d'OpenAI ont utilisé Codex et GPT-5.5 pour traduire le code Python de Habitat vers Rust, avec validation humaine et basculement progressif du trafic. La version Rust gère aujourd'hui 95 % du trafic de production, avec une efficacité CPU multipliée par 6 et une consommation mémoire divisée par 15.

Le chiffre de 10 ms est-il fiable ?

C'est une médiane mondiale, pas un maximum. OpenAI ne publie aucune donnée de latence de queue (p99), et le gain agrège trois leviers sans ventilation. C'est un chiffre remarquable mais à lire avec les réserves méthodologiques soulevées par ALFW.

Azure Cosmos DB est-il le seul système de stockage derrière ChatGPT ?

Non. Habitat s'appuie sur Azure Cosmos DB comme base transactionnelle sous-jacente, mais aussi sur des caches, du blob storage et des services de change-data-capture alimentant plus de 100 topics Kafka. Cosmos DB est la pièce maîtresse du stockage en ligne, pas l'unique composant.

Que peut retenir une entreprise de taille moyenne de cette histoire ?

Trois choses : la QoS par priorité de requêtes coûte peu et rapporte beaucoup ; la réécriture assistée par IA de code critique est désormais une option crédible ; et l'efficacité logicielle — Rust, caches, réplication ciblée — est le levier de coûts le plus sous-exploité des architectures IA.

✅ Conclusion

Habitat raconte deux histoires en une : celle d'une infrastructure qui a appris à partager — conteneurs co-gérés, QoS par priorité, 12× sur les lectures — et celle d'une façon nouvelle d'écrire du logiciel critique, où deux ingénieurs et leurs modèles IA réécrivent en un trimestre ce que le génie logiciel traditionnel traitait comme un chantier pluriannuel. Si vous opérez du stockage derrière une charge IA, la leçon est la même chez OpenAI et chez vous : payez la dette technique tôt, mesurez la queue, et laissez l'IA porter le travail fastidieux. Pour aller plus loin sur les arbitrages d'efficacité à l'échelle, plongez dans DeepInfer, le moteur d'inférence de DeepSeek ouvert en Apache 2.0 et dans l'analyse des 3 500 milliards de dollars d'infrastructure IA selon Gartner et leur risque d'amortissement.