Scritto originalmente in francese. Tradotto dall'IA — il significato è stato preservato, non la prosa.
Idea principale
Quando un assistente propone per un file una collocazione a cui il suo autore non avrebbe pensato — una guida di traduzione messa in testa allo spazio di lavoro invece che accanto al manoscritto —, la storia si racconta volentieri come una scoperta: la macchina avrebbe capito il sistema meglio di chi l'ha progettato.
Non è ciò che succede. Le distinzioni usate erano già scritte: una regola non è una fonte, una nota non è un deliverable, un documento che governa la produzione non è a sua volta ciò che si produce. L'assistente le ha applicate a un oggetto su cui nessuno le aveva ancora applicate, senza ponderarle con l'abitudine né con la storia della cartella. Non ha trovato nulla che non ci fosse; ha eseguito il sistema alla lettera su un caso nuovo.
Lo scarto che allora emerge non si colloca tra la macchina e l'umano, ma tra la definizione scritta e la definizione realmente praticata da chi l'ha posta. È questo scarto che la proposta rende visibile, ed è questo che vale la pena esaminare.
Perché è importante
Questo evita due letture false e simmetriche. La prima attribuisce all'assistente una comprensione che non ha, e trasforma ogni suo output in argomento d'autorità. La seconda scarta la proposta perché sorprende, e perde l'informazione che conteneva.
Dice anche dove portare l'attenzione quando un output stupisce: non sul ragionamento della macchina, che si è limitata a svolgere, ma sulla definizione che l'ha autorizzato.
Sfumature e limiti
L'applicazione letterale è anche ciò che rende l'assistente fallibile: le stesse distinzioni applicate senza ponderazione producono a volte un'archiviazione assurda, e nulla nella forma della risposta distingue i due casi.
E la dimostrazione presuppone che il sistema sia stato scritto. Di fronte a distinzioni rimaste nella testa del loro autore, resta solo il vocabolario generale del modello, che produce proposte plausibili senza rapporto con la logica della cartella.
Domande aperte
- Come riconoscere, davanti a una proposta che sorprende, se applica una distinzione del sistema o una convenzione generale che il modello ha portato con sé?