Idea principale

Una conversazione ChatGPT portata avanti per più giorni resta interamente visualizzata: si scorrono i messaggi, si ritrova quello che ci si è detti tre giorni prima. L'interfaccia dà quindi l'impressione di una memoria completa.

Sotto questa impressione si confondono tre cose, che non coincidono:

• il transcript conservato e visualizzato sullo schermo;
• ciò di cui il modello dispone davvero nel momento in cui scrive la sua risposta;
• la sua memoria, che trattiene alcuni elementi ritenuti utili e non è un'archiviazione esaustiva di quello che è stato detto.

Un paragrafo visibile sullo schermo può quindi essere fuori dalla portata del modello, senza che niente lo segnali.

Perché è importante

La conseguenza è pratica: non si può contare su una conversazione per ritrovare, cinque giorni dopo, tre paragrafi precisi scelti oggi. Ciò che si crede archiviato è in realtà soltanto visualizzato.

È questo a giustificare una persistenza decisa a mano, fuori dallo strumento. Non per diffidenza, ma perché ciò che si vede e ciò di cui lo strumento dispone sono due insiemi diversi.

Sfumature e limiti

Lo scarto dipende dallo strumento e dalla lunghezza dello scambio; non è una proprietà universale degli assistenti.

E il transcript conserva il suo valore: resta consultabile da un essere umano. Il difetto non è che conservi male, è che gli si attribuisce una funzione che non ha.

Domande aperte

• Come sapere, nel momento in cui si pone una domanda, che cosa il modello ha ancora a disposizione?