Le batch API traite les requêtes qui n’ont pas besoin d’une réponse immédiate en échange d’une remise —en général autour de 50 %— par rapport aux requêtes en temps réel. Il est rentable sur tout ce qui n’est pas interactif : rapports, enrichissement de données, classification en masse. C’est échanger des minutes (ou des heures) contre de l’argent.
C’est le troisième des 7 leviers pour réduire votre facture OpenAI : celui au meilleur ratio économie/effort quand vous avez du travail qui peut attendre.
En un coup d’œil
| Ce qu’il fait | Traite des lots de requêtes de façon asynchrone |
| Économie typique | ~50 % par rapport au temps réel |
| En échange de | Ne pas être immédiat (fenêtre de minutes à heures) |
| Quand c’est rentable | Tout ce qui n’est pas interactif |
Comment ça marche
Au lieu d’appeler une requête à la fois et d’attendre la réponse sur-le-champ, vous envoyez un lot entier et le fournisseur le traite quand il a de la capacité, dans une fenêtre convenue. Une fois terminé, vous récupérez tous les résultats ensemble. La remise est la contrepartie de renoncer à l’immédiateté.
Combien il économise
La remise avoisine la moitié du prix du temps réel, donc sur les charges que vous pouvez différer, le coût par tâche baisse d’un coup sans toucher au modèle ni au prompt. Plus le volume que vous traitez par lot est grand, plus cela se voit sur la facture.
Quelles tâches conviennent
Tout ce qu’aucun utilisateur n’attend convient : rapports nocturnes, enrichir une base de données, classer ou étiqueter en masse, générer des descriptions de catalogue, résumer des fichiers historiques. Si le résultat peut arriver en quelques heures, c’est un candidat au batch.
Quand ne pas l’utiliser
Il ne vaut rien pour l’interactif : un chat, un assistant en direct, tout flux où l’utilisateur attend la réponse maintenant. Là, la latence commande et le temps réel est obligatoire. La règle est simple : si quelqu’un attend devant l’écran, ce n’est pas du batch.
Chiffrez-le
Avant de basculer quoi que ce soit en batch, mesurez quelle part de votre dépense est différable. Entrez vos tokens et votre volume dans le calculateur de coût des tokens et appliquez la remise à cette part : vous verrez de combien baisse le coût mensuel. Tout cela fait partie du coût par tâche que mesure e-ficient.
Questions fréquentes
Combien économise le batch API ? En général environ la moitié du prix du temps réel, en échange d’une réponse non immédiate. Il est rentable sur tout ce qui n’est pas interactif.
Quelles tâches puis-je envoyer en lot ? Toutes celles qui n’ont pas besoin d’une réponse sur-le-champ : rapports, enrichissement de données, classification en masse, génération en bloc.
Se combine-t-il avec les autres leviers ? Oui. Le batch s’empile avec choisir le modèle par tâche et avec le prompt caching : une remise sur un prix déjà optimisé.
Chez e-ficient, nous mesurons le coût par tâche d’entreprises qui exploitent déjà l’IA en production et vous disons combien vous économiseriez avec chaque levier à votre volume réel. Le premier audit est gratuit si vous souscrivez un forfait avec un engagement de trois mois et rend un diagnostic sous 72 heures.