Scritto originalmente in francese. Tradotto dall'IA — il significato è stato preservato, non la prosa.
Idea principale
Dall'IA ci si aspetta spesso che esoneri dallo strutturare: visto che un modello legge tutto, basterebbe dargli i documenti. L'effetto osservato è l'opposto. Un assistente collegato a una cartella condivisa sintetizza ciò che trova senza poter dire cosa è aggiornato, cosa è stato validato, cosa era solo un'ipotesi e cosa è stato abbandonato nel frattempo — perché niente, nei file, lo dice.
Lo stesso assistente collegato a una materia governata fa un'altra cosa: sa quali fonti fanno fede, ritrova le decisioni già prese, applica le regole scritte, distingue una citazione testuale da un'interpretazione, e sa cosa sta fuori dal suo perimetro. Ognuna di queste capacità viene da un lavoro umano fatto a monte — dare un nome, datare, decidere, segnare un limite — e da nessun progresso del modello.
Le fonti di verità, le regole di denominazione, le decisioni esplicite e i limiti del perimetro contano quindi di più man mano che l'uso dell'IA si estende. Un disordine documentale a cui si aggiunge un modello di linguaggio non diventa intelligente; diventa più veloce ad allucinare.
Perché è importante
Inverte l'ordine di un piano di adozione degli strumenti. Comprare assistenti prima di aver stabilito le fonti di verità significa finanziare la produzione accelerata di risposte non verificabili — e quelle risposte circolano, vengono citate e diventano a loro volta materia.
Dà anche un argomento operativo a un lavoro che di solito nessuno finanzia. Dare il nome giusto alle cose, datare una decisione, segnare una fonte come obsoleta non ha mai avuto un ritorno visibile; ora è la condizione di qualità di tutto ciò che un assistente produrrà.
Sfumature e limiti
La governance ha un costo, e non tutto va governato. Una materia consultata una volta, una bozza, una discussione esplorativa non meritano di essere qualificate — l'esigenza riguarda ciò che verrà interrogato di nuovo.
E una materia governata non protegge da tutto: una fonte autorevole ma sbagliata verrà ripresa con ancora più sicurezza.
Domande aperte
- Chi si accorge che un indicatore di affidabilità è sparito, mentre l'assistente continua a rispondere con la stessa sicurezza?