Definición corta

Unidad de comparación del consumo de un modelo, obtenida sumando los tokens leídos y los tokens generados tras aplicar su tarifa respectiva: uno por un token de entrada, cinco por un token de salida.

Definición detallada

En los informes de auditoría coexisten dos recuentos: el número de tokens, que describe un volumen, y el coste ponderado, que describe un gasto. Los dos no ordenan las etapas de la misma manera.

En los artículos de este blog, "coste ponderado" designa siempre el segundo y se expresa en "unidades". La conversión a moneda no forma parte de él: depende de una tarifa fechada y de un contrato.

Uso en el ámbito

Empleado para comparar entre sí operaciones de naturaleza distinta — lectura de archivos, generación de documentos, llamada a un script — y para expresar una optimización en porcentaje de un total.

Sinónimos y variantes

"unidades", "coste ponderado total", a veces "coste real" en los textos de divulgación.

No confundir con

• tokens consumidos — recuento bruto de un volumen de texto, sin aplicar tarifa. Dos etapas del mismo volumen pueden tener costes ponderados muy distintos.
• coste en euros — importe facturado, producto de una tarifa y de un contrato en una fecha dada.
• Ventana deslizante — capacidad de trabajo disponible en un periodo, que el coste ponderado viene a consumir.

Ejemplos

Un skill que lee 100 000 tokens y genera 20 000: 200 000 unidades.

Ambigüedades / debates

El factor cinco es una media, exacta para ciertos modelos en una fecha dada. Algunos recuentos añaden un descuento sobre la parte del contexto puesta en caché, otros lo ignoran.