Idea principale

«L'IA sbaglia?» è una domanda posta male: sbaglia, come sbaglierebbe la persona che seguisse le stesse pratiche. La domanda che decide è un'altra — quanto costa un errore qui, e quanto costa ciò che si ottiene in cambio.

Un agente che struttura cinquecento email condominiali associa ogni tanto un preventivo al fornitore sbagliato, o fonde due voci che non erano la stessa persona. L'errore si ripara riaprendo un'email, ed è ripagato dalle ore di ricostruzione dei thread che non si fanno più. Lo stesso agente su documenti bancari non ha questo margine: l'errore non si ripara riaprendo un file, e nessun guadagno di tempo lo compensa. La soglia di tolleranza non è quindi una proprietà del modello, che è lo stesso nei due casi — è una proprietà di ciò che un errore vi distrugge e di ciò che lascia recuperabile.

Questa soglia si sposta anche per costruzione. Conservare nel repository una copia di tutte le email grezze, accanto all'informazione aggregata, cambia la natura dell'errore: smette di essere una perdita e diventa una deviazione, perché la fonte di verità resta interrogabile direttamente. Il sistema strutturato è allora un acceleratore, mai un sostituto — ed è proprio questa via d'uscita a rendere accettabile un tasso di errore in un dominio dove senza di essa non lo sarebbe.

Perché è importante

Fa uscire dal dibattito di principio sull'affidabilità dei modelli, che non approda mai a niente perché cerca una soglia universale dove non ce n'è. La domanda da porsi prima di delegare un trattamento di informazioni diventa concreta e locale: che cosa distrugge un errore su questo materiale, e per quale strada ci si torna?

Offre anche una leva, non solo una constatazione. Non ci si limita a misurare un tasso di errore: si rende il dominio più tollerante mantenendo accessibile la fonte grezza, il che permette una delega che lo stesso tasso vieterebbe altrove.

Sfumature e limiti

Un dominio non è omogeneo. Un'email condominiale può contenere un termine di ricorso o una diffida, e la soglia media del dominio nasconde allora un sottoinsieme in cui l'errore costa caro. Il criterio deve scendere fino al tipo di informazione, non fermarsi alla pratica.

E la via d'uscita serve solo se si sa che bisogna prenderla. Un errore che nessun segnale rivela lascia la fonte grezza intatta e inutile, perché nessuno andrà a consultarla.

Domande aperte

• Chi fissa la soglia quando chi delega il trattamento non è chi subirà l'errore?