Idea principale

Venerdì arriva un documento su un concorrente. Per aggiornarne la scheda, lo skill rilegge le analisi già prodotte su quel concorrente — 102 000 token di input — mentre la sola novità ne pesa cinquemila.

La spesa segue allora la dimensione dello storico, non la quantità di informazione nuova. Nell'uso non cambia nulla, eppure la stessa operazione costa di più ogni mese. Una modalità incrementale spezza questo legame: si riparte dalla sintesi esistente e dai soli elementi aggiunti. Ha però una condizione — sapere che cosa è già stato integrato, e quindi tenerne traccia da qualche parte, per esempio nel frontmatter della scheda prodotta.

Perché è importante

Separa due regimi di costo che si confondono facilmente: proporzionale alla novità, o proporzionale allo stock. Uno skill del secondo tipo diventa inutilizzabile senza che nessuno abbia modificato nulla, per semplice accumulo.

La diagnosi va quindi fatta presto: è una proprietà dell'architettura, non una questione di taratura.

Sfumature e limiti

A volte rileggere tutto è il lavoro stesso: una sintesi che deve ribilanciare l'insieme non può accontentarsi delle aggiunte.

E l'incrementale deriva: ogni passata eredita le approssimazioni della precedente senza mai confrontarle con il materiale d'origine. Di tanto in tanto serve una rigenerazione completa.

Domande aperte

• Con quale frequenza serve una rigenerazione completa per recuperare la deriva accumulata da una modalità incrementale?