Ideia principal

Quando um assistente propõe para um arquivo um lugar que o autor não teria pensado — um guia de tradução colocado no topo do espaço de trabalho em vez de junto do manuscrito —, a história costuma ser contada como uma descoberta: a máquina teria entendido o sistema melhor do que quem projetou ele.

Não é isso que acontece. As distinções usadas já estavam escritas: uma regra não é uma fonte, uma nota não é um entregável, um documento que governa a produção não é ele mesmo aquilo que produzimos. O assistente aplicou elas a um objeto sobre o qual ninguém tinha aplicado elas ainda, sem ponderar pelo hábito nem pela história do dossiê. Ele não encontrou nada que não estivesse ali; ele executou o sistema ao pé da letra num caso novo.

A diferença que aparece então não está entre a máquina e o humano, e sim entre a definição escrita e a definição realmente praticada por quem colocou ela. É essa diferença que a proposta torna visível, e é ela que merece ser examinada.

Por que isso importa

Isso evita duas leituras falsas e simétricas. A primeira atribui ao assistente uma compreensão que ele não tem, e transforma cada saída dele em argumento de autoridade. A segunda descarta a proposta porque ela surpreende, e perde a informação que ela continha.

Isso também diz para onde levar a atenção quando uma saída espanta: não para o raciocínio da máquina, que só desenrolou, e sim para a definição que autorizou ele.

Nuances e limites

A aplicação literal é também o que torna o assistente falível: as mesmas distinções aplicadas sem ponderação produzem às vezes uma arrumação absurda, e nada na forma da resposta separa os dois casos.

E a demonstração supõe que o sistema tenha sido escrito. Diante de distinções que ficaram na cabeça do autor, sobra só o vocabulário geral do modelo, que produz propostas plausíveis sem relação com a lógica do dossiê.

Questões em aberto

• Como reconhecer, diante de uma proposta que surpreende, se ela aplica uma distinção do sistema ou uma convenção geral que o modelo trouxe junto?