Definizione breve

Quantità di testo che un modello linguistico può ricevere ed elaborare per produrre una risposta — limitata, riempita a ogni richiesta, e poi svuotata.

Definizione dettagliata

Nel senso tecnico consolidato, il termine designa un limite espresso in token: il volume massimo che il modello accetta in ingresso. Usato così, descrive una capacità, e due modelli si confrontano su quel numero.

Negli articoli di questo blog, la parola conserva questo senso e vi aggiunge una caratterizzazione che ne cambia l'uso: la finestra è una risorsa il cui riempimento ha un costo in qualità. Ciò che vi si trova non è ugualmente disponibile — ciò che è collocato all'inizio o alla fine viene utilizzato meglio di ciò che è sepolto nel mezzo. Capacità massima e capacità utile non coincidono quindi, ed è la seconda a contare quando si decide che cosa caricare.

È anche ciò che separa la parola dalla sua vicina più prossima: la finestra si riempie e si svuota a ogni richiesta, mentre il contesto di lavoro persiste su disco ed entra nella finestra solo per la parte che vi si versa.

Uso nel dominio

Usato per spiegare perché uno spazio di lavoro non può essere passato per intero in una sessione con un assistente, e per chiarire su che cosa decide davvero una regola di caricamento.

Sinonimi e varianti

«la finestra» nel parlato; «contesto» e basta nel vocabolario dei team tecnici, che è la principale fonte di confusione.

Da non confondere con

• Contesto — spazio di lavoro durevole che riunisce, attorno a uno scopo, fonti, note, decisioni e bozze. Persiste e vi si carica selettivamente; la finestra è effimera e limitata.
• prompt — istruzione rivolta al modello in un dato istante. Occupa una parte della finestra, accanto a tutto il resto che vi è stato versato.
• Memoria di sessione — traccia scritta, man mano che procedono gli scambi, di ciò che è stato fatto, deciso e lasciato in sospeso. Esiste fuori dalla finestra, e vi entra solo quando la si ricarica.

Esempi

Caricare un file di tremila righe sperando che il modello «capisca tutto»: il volume entra nella finestra, e la parte effettivamente utilizzata resta ignota.

Ambiguità / dibattiti

La parola serve sia da argomento commerciale — una finestra più grande presentata come una memoria più grande — sia da vincolo di progettazione. Il disaccordo riguarda ciò che l'ingrandimento risolve: la capacità aumenta, il degrado da riempimento resta.