Escrito originalmente em francês. Traduzido por IA — o sentido foi preservado, não a prosa.
Ideia principal
O no-code já encenou isso. Pessoas sem formação técnica colocaram sites inteiros no ar em poucos dias, concluíram que não precisavam mais de desenvolvedores e depois descobriram que um site sem proteção contra ataques de força bruta, sem disjuntor, sem gestão de acessos vira um problema muito rápido. A ferramenta não era ruim: ela dava uma capacidade sem dar o que permite saber onde essa capacidade se torna perigosa.
Um assistente de código reproduz a mesma dissociação, com potência maior. Ele entrega telas, APIs, alterações de dados, e não entrega nem a cultura de segurança, nem o senso de arquitetura, nem o conhecimento das maneiras pelas quais um sistema desaba. Essas coisas se adquirem tendo visto sistemas quebrarem, e nada na ferramenta as transmite pelo uso.
A ilusão de competência nasce exatamente aí: na distância entre o que você consegue produzir e o que você é capaz de avaliar. Quanto melhor a ferramenta, mais larga essa distância, porque o que sai é plausível.
Por que isso importa
Isso dá uma leitura dos fracassos que não culpa nem a ferramenta nem o usuário. Proibir a ferramenta elimina a capacidade, culpar o usuário não transmite nada: o que falta é uma cultura, e ela precisa vir de outro lugar — do enquadramento posto por quem a tem, das verificações automáticas, do acompanhamento no início.
Também fornece um precedente utilizável numa discussão. O no-code não é uma analogia distante: é o mesmo mecanismo, já observado, com consequências documentadas.
Nuances e limites
A distância não é igualmente perigosa em todo lugar. Numa ferramenta isolada e descartável, produzir sem saber avaliar custa pouco; num sistema exposto ou ligado a dados reais, essa distância vira o risco principal.
E a cultura que falta não é indivisível: alguém pode ter senso de arquitetura sem cultura de segurança, ou o contrário. A ilusão se aloja então na parte que a pessoa não sabe que não sabe.
Questões em aberto
- Um assistente consegue transmitir parte dessa cultura explicando as próprias escolhas, ou a explicação recebida sem ter vivido a falha continua inoperante?