Idea

Il primo sistema di contesto serve a imparare come l'IA organizza, non a durare

Info

Scritto originalmente in francese. Tradotto dall'IA — il significato è stato preservato, non la prosa.

Idea principale

Il punto di partenza ragionevole per affidare le email di un condominio a un agente si riduce a due mosse: creare un context.md, e dare due o tre istruzioni nella conversazione — aggrega, storicizza quando ci sono più tappe, scrivi tutto lì dentro. Questo dispositivo non ha nessuna possibilità di reggere: perderà la storia, si gonfierà, produrrà doppioni sui nomi.

Non è un difetto, è la sua funzione. Ciò che produce di durevole non è il file — è ciò che si vede guardandolo lavorare: come l'agente raggruppa il materiale quando non gli si dice come, dove sovrascrive ciò che si voleva tenere, su quali ambiguità del tuo dominio inciampa. Nessuna di queste osservazioni è disponibile prima di averlo fatto girare sul proprio materiale, e sono tutte esattamente ciò che bisogna sapere per scrivere le direttive del sistema successivo. Il primo sistema è lo strumento che le rivela.

Ne segue che una prima versione buttata non è un fallimento, e che una seconda versione cominciata con l'intenzione di buttarla può benissimo sopravvivere. Ciò che passa da una versione all'altra non è la struttura, è la conoscenza di ciò che si rompe — e questa conoscenza non si legge in nessuna descrizione di un sistema compiuto, perché un sistema compiuto mostra solo le sue risposte, mai i guasti che le hanno motivate.

Perché è importante

Toglie il blocco più comune all'avvio: cercare l'architettura giusta prima di avere di che giudicarla. Il primo tentativo non deve essere difendibile; deve girare su materiale reale abbastanza a lungo da produrre osservazioni.

Cambia anche ciò che si guarda in questo periodo. Non si valuta la qualità del contesto ottenuto, si annotano gli scarti tra ciò che l'agente ha fatto e ciò che ci si aspettava — sono questi scarti, e non il file, a essere riutilizzati.

Sfumature e limiti

L'apprendimento riguarda la struttura, non il materiale. Le cinquecento email ingerite in questo periodo non si buttano insieme a essa, e una prima versione tirata via può costare un recupero di dati che supera ciò che ha insegnato.

E l'osservazione vale solo se il materiale è il proprio. Una prova condotta su un dataset di esempio non rivela né gli omonimi dei tuoi fornitori né le soglie che contano per te: insegna il funzionamento dello strumento, non i guasti del tuo dominio.

Domande aperte

  • Per quanto tempo deve girare un primo sistema prima che ciò che mostra sia rappresentativo anziché aneddotico?