Ideia principal

Num sistema de memória em que tudo o que o assistente escreve volta para o estoque de conhecimento, uma síntese produzida na segunda é relida na quarta como fato consumado. O assistente não mente e não trapaceia: ele lê o que a base contém, e a base contém o que ele mesmo escreveu. Nada no arquivo distingue uma frase vinda de um expositor encontrado numa feira de uma frase que o assistente formulou ao sintetizar três fontes.

A alça se fecha sem barulho. Uma aproximação formulada uma vez vira premissa na vez seguinte, depois apoio para uma conclusão mais ampla — e a cadeia parece tanto mais sólida quanto mais coerente ela é consigo mesma.

É por isso que um sistema de contexto mantém uma separação estrita entre a fonte, o conhecimento estabilizado, o estado atual, a síntese e o entregável: cada um desses registros diz um status epistêmico diferente, e fundir os cinco equivale a perder o rastro do que foi observado.

Por que isso importa

Isso desloca a pergunta sobre a qualidade de uma memória de agente. Normalmente a julgamos pelo que ela retém; é preciso julgá-la também pelo que ela sabe distinguir. Uma memória que guarda muito mas não marca a origem do que guarda fabrica falsa confirmação à medida que cresce.

E isso dá um teste simples para aplicar a qualquer dispositivo de memória: ao ler uma entrada, dá para dizer quem a produziu, um humano, uma fonte externa ou o próprio sistema?

Nuances e limites

O risco não é exclusivo das máquinas: uma equipe que cita o próprio documento de síntese em vez das entrevistas que o alimentaram faz exatamente a mesma coisa. O assistente só muda o ritmo, porque produz muito e rápido.

E a separação tem um custo: é preciso recusar escrever na base uma boa formulação enquanto ela não foi qualificada, o que é vivido como perda no momento em que a encontramos.

Questões em aberto

• Como localizar, numa base já constituída sem essa separação, as afirmações que se apoiam apenas em produções anteriores do próprio sistema?