Ideia principal

"A IA erra?" é uma pergunta mal formulada: ela erra, como erra a pessoa que acompanharia os mesmos processos. A pergunta que decide está em outro lugar — quanto custa um erro aqui, e quanto custa o que ganhamos em troca.

Um agente que estrutura quinhentos e-mails de condomínio de vez em quando liga um orçamento ao prestador errado, ou funde duas entradas que não eram a mesma pessoa. O erro se conserta reabrindo um e-mail, e é pago com horas de reconstituição de threads que ninguém faz mais. O mesmo agente em documentos bancários não tem essa margem: o erro não se conserta reabrindo um arquivo, e nenhum ganho de tempo o compensa. O limite de tolerância não é, portanto, uma propriedade do modelo, que é o mesmo nos dois casos — é uma propriedade do que um erro destrói ali e do que ele deixa recuperável.

Esse limite também se desloca por construção. Guardar no repositório uma cópia de todos os e-mails brutos, ao lado da informação agregada, muda a natureza do erro: ele deixa de ser uma perda e vira um desvio, já que a fonte de verdade continua consultável diretamente. O sistema estruturado passa a ser um acelerador, nunca um substituto — e é exatamente essa saída de emergência que torna aceitável uma taxa de erro que, sem ela, não seria.

Por que isso importa

Isso tira a discussão do debate de princípio sobre a confiabilidade dos modelos, que nunca chega a lugar nenhum porque procura um limite universal onde não existe nenhum. A pergunta a fazer antes de delegar um tratamento de informação fica concreta e local: o que um erro destrói neste material, e por qual caminho voltamos atrás?

Também dá uma alavanca, em vez de uma constatação. Não ficamos só medindo uma taxa de erro: tornamos o domínio mais tolerante mantendo a fonte bruta acessível, o que autoriza uma delegação que a mesma taxa proibiria em outro lugar.

Nuances e limites

Um domínio não é homogêneo. Um e-mail de condomínio pode carregar um prazo de recurso ou uma notificação extrajudicial, e aí o limite médio do domínio esconde um subconjunto em que o erro custa caro. O critério precisa descer até o tipo de informação, não parar no dossiê.

E a saída de emergência só serve se soubermos que é preciso usá-la. Um erro que nenhum sinal revela deixa a fonte bruta intacta e inútil, já que ninguém vai consultá-la.

Questões em aberto

• Quem define o limite quando quem delega o tratamento não é quem vai arcar com o erro?