Tese

Uma janela de atenção finita obriga a fatiar o conhecimento e a escolher a cada sessão o que entra

Info

Escrito originalmente em francês. Traduzido por IA — o sentido foi preservado, não a prosa.

Ângulo

Um modelo de linguagem recupera mal o que foi enterrado no meio de um documento longo, e essa degradação por preenchimento é uma propriedade medida, não uma impressão de uso: a capacidade anunciada de uma janela e a capacidade útil dela não coincidem. Toda a arquitetura de um espaço de trabalho com um assistente decorre dessa única restrição — um núcleo curto carregado sempre, o resto chamado sob demanda, andares separados para as fontes, a memória e as produções, notas curtas conectadas em vez de sínteses monolíticas. E esse fatiamento, pensado para caber dentro de um limite técnico, produz três efeitos que nada mais têm a ver com ele: permite rastrear as conclusões até as fontes, permite regenerar um entregável a qualquer momento em vez de só no fim de uma fase, e transforma os temas abertos sem desfecho na matéria-prima dos próximos.

Síntese

O ponto de partida parece um problema de volume. Um arquivo context.md cresce até não caber mais, e a resposta óbvia é cortá-lo. O primeiro corte é feito por destinatário — um arquivo para o assistente, outro para o humano — porque as duas necessidades são realmente incompatíveis: uma quer marcos de retomada, a outra quer agregar e arbitrar. Esse corte não se sustenta: os dois arquivos incham por sua vez e cada um se enche de um pouco de tudo.

O que decide não é o volume, é uma propriedade do modelo. A janela é finita, isso já se sabe, mas o que está dentro dela não está igualmente disponível — uma informação colocada no meio é recuperada bem pior do que uma informação colocada nas pontas. O preenchimento, portanto, não é neutro: cada linha acrescentada empurra para o meio o que já estava lá, e nada na resposta sinaliza o que passou batido.

Duas regras decorrem disso diretamente. A primeira é sobre o carregamento: um núcleo curto — missão, estado atual, plano, decisões, contradições em aberto — entra sempre, e todo o resto espera ser chamado, segundo uma ordem escrita de antemão em vez de improvisada na abertura da sessão. A segunda é sobre o fatiamento: ele não se faz nem por volume nem por destinatário, e sim por natureza de conteúdo — o material bruto de um lado, o que você retém dele no meio, as produções no fim. O que distingue essa arquitetura de uma simples arrumação é que ela tem uma razão mecânica.

E é aí que o dispositivo entrega mais do que se pedia dele. Separar os andares permite percorrer uma conclusão de trás para frente — da síntese ao checkpoint, do checkpoint às sessões, das sessões às fontes — e portanto responder algo diferente de "o assistente recomendou" diante de um stakeholder. Manter o material atualizado torna um entregável reproduzível a baixo custo, o que retira do sequenciamento discovery-specs-entrega a sua condição econômica. E, porque abrir um tema fica barato, você abre muitos, e a maioria não chega a lugar nenhum — só que eles se fertilizam, e um quarto tema nasce mais rico por causa de três que não foram a lugar algum.

O grão da escrita obedece à mesma restrição e produz o mesmo excedente. Notas curtas e conectadas são carregadas em pedaços, e também permitem segurar duas ideias lado a lado — o que uma síntese de dez páginas impede, já que nenhuma das suas quarenta ideias pode ser citada sem as outras trinta e nove. O recozimento simulado, transposto da metalurgia para a otimização combinatória, não vem de um estoque de saber, e sim de uma aproximação entre dois domínios precisos e distantes; o grão do material decide o que pode se encontrar.

Falta o que a arquitetura não captura. O que faz o valor de um praticante é a profundidade de situação que ele interiorizou, e é exatamente isso que um assistente não tem. Uma parte disso se escreve — é o trabalho de constituição do contexto, e escrever põe à prova o que você achava que tinha entendido, já que a máquina leva ao pé da letra o que um colega teria corrigido no ar. Outra parte não se escreve: o saber específico, aquele que desemboca numa convicção e numa aposta. O fatiamento desloca muito trabalho para o que se pode entregar a uma máquina; ele torna visível, por diferença, o que não se entrega.

Tensões / contradições

Uma tensão recai sobre a própria seleção. Um núcleo curto é o que torna o assistente operacional, e é também o que decide silenciosamente o que ele vai ignorar: o que não foi carregado não produz nenhum erro visível, exatamente como o que estava enterrado no meio. O fatiamento, portanto, não elimina o defeito que trata, apenas desloca a causa dele da máquina para quem redigiu o manifesto.

Segunda tensão, sobre o esquecimento. Uma memória longa precisa de um teto que force a consolidação dela, sob pena de voltar a ser um diário que ninguém relê; mas é justamente porque um sistema de arquivos não esquece nada que o rastreamento de uma conclusão até as fontes continua possível. O que a consolidação ganha em legibilidade, ela tira da cadeia de provas.

Terceira tensão, sobre o grão. O fatiamento em unidades finas é o que permite as aproximações distantes, e é também o que produz uma rede em que uma implicação lógica, um antagonismo e um parentesco vago assumem a mesma forma. Nada aqui diz a partir de que finura o ganho de aproximação se inverte em perda de discernimento.

Questões

  • Como identificar que um elemento deixado fora do núcleo deveria ter entrado nele, sabendo que a ausência dele não produz nenhum erro visível?
  • O que, num conjunto de temas abertos, dispara a aproximação na hora certa em vez de três meses tarde demais?
  • Até onde essa arquitetura, pensada para uma pessoa e o assistente dela, se sustenta quando várias pessoas escrevem no mesmo espaço de trabalho?