OpenAI a révélé l'architecture qui répond à plus de 70 millions de requêtes par seconde. Découvrez les leçons sur l’échelle, la latence, la gouvernance et les coûts des produits d’IA.
Réponse directe
OpenAI a rapporté le 11 septembre 2026 qu'Habitat, sa plateforme de stockage en ligne, traite plus de 70 millions de requêtes par seconde, plus d'un milliard de personnes par semaine et plus de 500 pétaoctets de données. La principale leçon commerciale n'est pas de copier cette échelle, mais de séparer la couche de données du produit, de limiter les requêtes imprévisibles et de traiter l'autorisation, la résidence, l'observabilité et la latence finale comme des exigences architecturales.
Scale commence par une interface prévisible
Habitat expose des opérations NoSQL strictes au lieu de requêtes arbitraires. Cette conception rend les coûts et la répartition plus prévisibles, réduisant ainsi le risque qu'une requête coûteuse dégrade un itinéraire critique. Dans les produits d'entreprise, des contrats simples facilitent également l'audit et les limites par client.
La centralisation des contrôles réduit la coordination
OpenAI a déplacé la logique de stockage d'une bibliothèque cliente vers un service central. Ainsi, le routage, l'autorisation, le chiffrement, l'audit, la résidence des données et la limitation du trafic peuvent évoluer sans coordonner les mises à jour sur des dizaines d'applications.
La latence de queue est ce que ressent l'utilisateur
Une seule réponse peut dépendre de plusieurs lectures. Par conséquent, la latence moyenne cache le problème : p95, p99, le délai de boucle d'événements, la saturation et la concentration des connexions doivent être observés par route, région et dépendance.
L’efficacité doit suivre la stabilité
L’équipe a temporairement accepté le coût de Python pour stabiliser les interfaces puis a migré le service vers Rust. Selon OpenAI, la nouvelle implémentation était six fois plus efficace en CPU et quinze fois en mémoire. Le point stratégique est de séquencer les risques, et non d’adopter un langage pour la mode.
Lecture Nexus
La fiabilité des produits d'IA dépend à la fois de la couche de données et du modèle. Un projet pilote d'entreprise doit tester dès le début l'isolation, l'autorisation, la récupération et les coûts sous charge, même lorsque l'échelle initiale est petite.
FAQ
Qu’est-ce qu’OpenAI Habitat ?
Il s'agit de la plate-forme de stockage en ligne interne utilisée par des produits tels que ChatGPT, API et Codex pour accéder aux données avec une faible latence et des contrôles centralisés.
Chaque entreprise a-t-elle besoin d’une plateforme de cette taille ?
Non. Le modèle utile consiste à séparer les responsabilités et à rendre les coûts, l’accès et les pannes prévisibles à l’échelle réelle du produit.
Quelle métrique technique mérite attention ?
La latence de queue, le taux d'erreur, la saturation et l'impact des dépendances sont plus informatifs que la simple latence moyenne.
Guides essentiels pour approfondir la décision
Cette analyse éditoriale a été réalisée par Nexus à partir des sources officielles ci-dessous, consultées le 12 septembre 2026. Le texte est original et interprète les implications pratiques pour les entreprises.
- OpenAI — Adaptation rapide du stockage en ligne pour servir plus d'un milliard d'utilisateurs ChatGPT: architecture, volume, évolution du service et métriques officielles d'Habitat.
- Microsoft Learn – Présentation d’Azure Cosmos DB: documentation officielle du service de base de données cité par l'architecture.
Date rapportée par la source principale : 11 septembre 2026.