Ideia principal

Trabalhar com uma IA pressupõe conseguir verificar o que ela produz. Essa verificação não é uma intenção: é um orçamento de leitura. Trinta ou quarenta arquivos no diretório dedicado a uma oportunidade de produto dá para reler — em uma manhã, um product manager consegue abrir todos, identificar o que não fecha e assinar embaixo do que vai defender. Várias centenas de notas interconectadas não dá para reler, e dizer o contrário é o mesmo que não verificar mais nada.

O número, portanto, não é um detalhe de implementação, é o parâmetro que decide se a auditoria existe. Um sistema em que a auditoria é possível na teoria mas impraticável na prática se comporta exatamente como um sistema sem auditoria.

A consequência para o projeto é clara: o tamanho do perímetro confiado a uma IA se escolhe pela capacidade humana de releitura, antes de se escolher pelo que seria útil colocar ali.

Por que isso importa

Isso transforma uma questão de confiança em uma questão de dimensionamento. "A gente confia no modelo?" não tem resposta estável; "quantos arquivos vamos realmente reler antes de decidir?" tem, e dá para medir.

Isso também explica por que engordar uma base assistida por IA pode degradar o valor dela: passado o patamar de releitura, cada arquivo acrescentado aumenta o que já não é controlado.

Nuances e limites

Uma amostragem, testes automáticos ou uma verificação focada no que sustenta a decisão podem estender o patamar sem exigir a releitura integral — ao preço de um risco assumido, não eliminado.

E o patamar não é universal: depende tanto da densidade dos arquivos quanto do número deles, e quarenta notas densas podem custar mais que duzentas linhas de fatos.

Questões em aberto

• Como reconhecer que um perímetro acabou de cruzar o patamar a partir do qual ninguém mais o relê?