OpenAI étend la conservation des préfixes réutilisables aux flux espacés. Découvrez quand les économies sont rentables et comment mesurer la confidentialité, les coûts et le succès.
Réponse directe
Le 20 octobre 2026, OpenAI a ajouté la possibilité de mettre en cache les invites pendant 12 heures dans l'API Responses. La fonctionnalité conserve les instructions, les outils et le contexte partagé disponibles plus longtemps pour les flux dont les étapes se déroulent à des heures d'intervalle. L'écriture dans le cache coûte 2,5 fois le prix d'entrée normal. L'avantage dépend donc de la réutilisation réelle, de la stabilité du préfixe et de la comparaison du coût d'écriture, des lectures réduites et de la latence évitée.
Le cache long sert au travail asynchrone
Les agents en attente d'approbation, de documents ou de systèmes externes peuvent réutiliser un vaste contexte sans que toutes les étapes se déroulent dans la même courte fenêtre.
Le préfixe stable détermine le coup
Les instructions et outils communs doivent précéder les données variables. Les modifications fréquentes apportées au début de l'invite brisent l'identité réutilisable et réduisent le gain.
Le prix d'écriture nécessite un seuil de rentabilité
Calculez le nombre de lectures qui auront lieu dans les 12 heures et comparez les dépenses totales pour les appels non mis en cache. Les flux rares ou très variables peuvent être plus coûteux.
La métrique doit séparer la tentative et le bénéfice
Enregistrez les jetons d'entrée, les jetons mis en cache, l'intervalle d'appel, la latence et le coût par tâche terminée ; le taux de réussite à lui seul ne prouve pas le retour.
Lecture Nexus
Utilisez le cache étendu dans des trajets manifestement espacés, avec des préfixes versionnés, des données minimisées et des alertes lorsque les économies attendues n'apparaissent pas.
FAQ
Le cache de 12 heures est-il automatiquement actif ?
Non. L'organisation doit utiliser l'option prise en charge dans l'API et structurer l'invite de réutilisation.
Est-ce que cela réduit toujours les coûts ?
Non. L’écriture coûte plus cher et n’est payante que lorsque le même préfixe est suffisamment réutilisé au sein de la fenêtre.
Que faut-il surveiller ?
Jetons écrits et lus à partir du cache, taux de réussite, latence, coût par résultat et modifications de version rapides.
Guides essentiels pour approfondir la décision
Cette analyse éditoriale a été réalisée par Nexus à partir des sources officielles ci-dessous, consultées le 27 octobre 2026. Le texte est original et interprète les implications pratiques pour les entreprises.
- Développeurs OpenAI — Journal des modifications de l'API: date, disponibilité et portée du cache d'invite pendant 12 heures.
- Développeurs OpenAI — Mise en cache des invites: fonctionnement, métriques, structure des préfixes et pratiques pour obtenir des accès au cache.
Date rapportée par la source principale : 20 octobre 2026.