Définition courte
Quantité de texte qu'un modèle de langage peut recevoir et traiter pour produire une réponse — bornée, remplie à chaque requête, et vidée ensuite.
Définition détaillée
Au sens technique établi, le terme désigne une limite exprimée en jetons : le volume maximal que le modèle accepte en entrée. Ainsi employé, il décrit une capacité, et deux modèles se comparent sur ce chiffre.
Dans les articles de ce blog, le mot garde ce sens et lui ajoute une caractérisation qui en change l'usage : la fenêtre est une ressource dont le remplissage a un coût de qualité. Ce qui s'y trouve n'est pas également disponible — ce qui est placé au début ou à la fin est mieux mobilisé que ce qui est enfoui au milieu. La capacité maximale et la capacité utile ne coïncident donc pas, et la seconde est celle qui compte quand on décide ce qu'on charge.
C'est aussi ce qui sépare le mot de son voisin le plus proche : la fenêtre se remplit et se vide à chaque requête, alors que le contexte de travail persiste sur disque et n'entre dans la fenêtre que par la part qu'on y verse.
Usage dans le domaine
Employé pour expliquer pourquoi un espace de travail ne peut pas être remis en entier dans une session d'assistant, et pour situer ce qu'une règle de chargement arbitre réellement.
Synonymes et variantes
« la fenêtre » à l'oral ; « contexte » tout court dans le vocabulaire des équipes techniques, ce qui est la source principale de confusion.
À ne pas confondre avec
- Contexte — espace de travail durable rassemblant, autour d'un but, sources, notes, décisions et brouillons. Il persiste et se charge sélectivement ; la fenêtre est éphémère et bornée.
- prompt — instruction adressée au modèle à un instant donné. Il occupe une part de la fenêtre, aux côtés de tout ce qu'on y a versé d'autre.
- Mémoire de session — trace écrite au fil des échanges de ce qui a été fait, décidé et laissé en suspens. Elle existe en dehors de la fenêtre, et n'y entre que lorsqu'on la recharge.
Exemples
Charger un fichier de trois mille lignes en espérant que le modèle « comprenne tout » : le volume entre dans la fenêtre, et la part réellement mobilisée reste inconnue.
Ambiguïtés / débats
Le mot sert à la fois d'argument commercial — une fenêtre plus grande présentée comme une mémoire plus grande — et de contrainte de conception. Le désaccord porte sur ce que l'agrandissement règle : la capacité augmente, la dégradation par remplissage demeure.