Definición corta

Cantidad de texto que un modelo de lenguaje puede recibir y procesar para producir una respuesta — acotada, llenada en cada petición y vaciada después.

Definición detallada

En el sentido técnico establecido, el término designa un límite expresado en tokens: el volumen máximo que el modelo acepta como entrada. Empleado así, describe una capacidad, y dos modelos se comparan por esa cifra.

En los artículos de este blog, la palabra conserva ese sentido y le añade una caracterización que cambia su uso: la ventana es un recurso cuyo llenado tiene un coste de calidad. Lo que hay en ella no está disponible por igual — lo que se coloca al principio o al final se moviliza mejor que lo que queda enterrado en el medio. La capacidad máxima y la capacidad útil no coinciden, por tanto, y la segunda es la que cuenta cuando se decide qué se carga.

Es también lo que separa la palabra de su vecina más cercana: la ventana se llena y se vacía en cada petición, mientras que el contexto de trabajo persiste en disco y solo entra en la ventana por la parte que se vuelca en ella.

Uso en el ámbito

Se emplea para explicar por qué un espacio de trabajo no puede volver a colocarse entero en una sesión de asistente, y para situar lo que una regla de carga arbitra realmente.

Sinónimos y variantes

"la ventana" en el habla; "contexto" a secas en el vocabulario de los equipos técnicos, que es la fuente principal de confusión.

No confundir con

• Contexto — espacio de trabajo duradero que reúne, en torno a un objetivo, fuentes, notas, decisiones y borradores. Persiste y se carga de forma selectiva; la ventana es efímera y acotada.
• prompt — instrucción dirigida al modelo en un momento dado. Ocupa una parte de la ventana, junto a todo lo demás que se ha volcado en ella.
• Memoria de sesión — rastro escrito a lo largo de los intercambios de lo que se ha hecho, decidido y dejado pendiente. Existe fuera de la ventana, y solo entra en ella cuando se recarga.

Ejemplos

Cargar un archivo de tres mil líneas esperando que el modelo "lo entienda todo": el volumen entra en la ventana, y la parte realmente movilizada sigue siendo desconocida.

Ambigüedades / debates

La palabra sirve a la vez de argumento comercial — una ventana más grande presentada como una memoria más grande — y de restricción de diseño. El desacuerdo está en qué resuelve la ampliación: la capacidad aumenta, la degradación por llenado permanece.