Définition courte
Unité de comparaison d'une consommation de modèle, obtenue en additionnant les tokens lus et les tokens générés après application de leur tarif respectif : un pour un token d'entrée, cinq pour un token de sortie.
Définition détaillée
Deux comptages coexistent dans les rapports d'audit : le nombre de tokens, qui décrit un volume, et le coût pondéré, qui décrit une dépense. Les deux ne classent pas les étapes dans le même ordre.
Dans les articles de ce blog, « coût pondéré » désigne toujours le second et s'exprime en « unités ». La conversion en monnaie n'en fait pas partie : elle dépend d'une grille tarifaire datée et d'un contrat.
Usage dans le domaine
Employé pour comparer entre elles des opérations de natures différentes — lecture de fichiers, génération de documents, appel de script — et pour exprimer une optimisation en pourcentage d'un total.
Synonymes et variantes
« unités », « coût pondéré total », parfois « coût réel » dans les textes de vulgarisation.
À ne pas confondre avec
- tokens consommés — décompte brut d'un volume de texte, sans application de tarif. Deux étapes de même volume peuvent porter des coûts pondérés très différents.
- coût en euros — montant facturé, produit d'une grille tarifaire et d'un contrat à une date donnée.
- Fenêtre glissante — capacité de travail disponible sur une période, que le coût pondéré vient consommer.
Exemples
Un skill qui lit 100 000 tokens et en génère 20 000 : 200 000 unités.
Ambiguïtés / débats
Le facteur cinq est une moyenne, exacte pour certains modèles à une date donnée. Certains comptages ajoutent un rabais sur la part du contexte mise en cache, d'autres l'ignorent.