Ideia

Um teto nas diretrizes de uma ferramenta separa um núcleo embarcado de uma extensão carregada sob demanda

Info

Escrito originalmente em francês. Traduzido por IA — o sentido foi preservado, não a prosa.

Ideia principal

As diretrizes de um Projeto ChatGPT são limitadas a cerca de 8 000 caracteres. Um conjunto de regras que ultrapassa esse teto não é resumido: ele é cortado em dois níveis de natureza diferente. Um núcleo cabe nas diretrizes e contém aquilo sem o qual o motor não parte — o que é um contexto, onde ele fica armazenado, quais comandos existem, a estrutura dos arquivos, os invariantes e o endereço do resto. Uma diretriz estendida vive em outro lugar, num documento que o assistente sabe abrir, e carrega o método detalhado: critérios de ingestão, estratégias de leitura, tratamento de casos-limite.

O núcleo não se contenta em ser curto: ele sabe onde encontrar a extensão e ordena o carregamento dela no início da conversa. O que sustenta o conjunto, portanto, não é a brevidade do núcleo, mas o ponteiro que ele contém.

O corte não segue a importância das regras — a extensão costuma ser mais rica que o núcleo. Ele segue o momento de utilidade delas: o que precisa ser verdade antes de sabermos qualquer coisa sobre o trabalho em curso, e o que só serve depois que sabemos o que estamos fazendo.

Por que isso importa

Isso transforma um limite sofrido em princípio de concepção. Sem o teto, teríamos empilhado as regras num bloco único e descoberto mais tarde que o assistente trata mal o que fica enterrado no meio de uma instrução longa. O teto força um recorte que, de todo jeito, teria sido a resposta certa.

E isso dá uma regra de triagem aplicável em outros lugares: diante de um corpo de regras volumoso demais, procure o que precisa ser verdade na largada e deixe o resto disponível para chamada.

Nuances e limites

O recorte tem um custo: ele acrescenta uma dependência. Se a extensão não estiver acessível — documento movido, acesso revogado —, o motor parte com um núcleo que acha que sabe para onde ir. Um bloco único não teria esse modo de falha.

E a fronteira entre os dois níveis não é estável: uma regra considerada de detalhe vira fundamental assim que é violada com frequência suficiente, e nada sinaliza que ela deveria subir para o núcleo.

Questões em aberto

  • O que indica que uma regra alojada na extensão deveria estar no núcleo, já que a ausência dela na largada não produz erro, mas uma deriva lenta?