Idea

Una herramienta que da acceso a una potencia técnica no transmite la cultura que la vuelve segura

Info

Escrito originalmente en francés. Traducido por IA — se ha preservado el sentido, no la prosa.

Idea principal

El no-code ya representó esta escena. Personas sin formación técnica pusieron en línea sitios completos en pocos días, concluyeron que ya no necesitaban desarrolladores, y luego descubrieron que un sitio sin protección contra los ataques de fuerza bruta, sin cortacircuitos, sin gestión de accesos se convierte muy pronto en un problema. La herramienta no era mala: daba una capacidad sin dar lo que permite saber dónde esa capacidad se vuelve peligrosa.

Un asistente de código reproduce la misma disociación, con una potencia superior. Aporta pantallas, API, modificaciones de datos, y no aporta ni la cultura de seguridad, ni el sentido de la arquitectura, ni el conocimiento de las maneras en que un sistema se derrumba. Esas cosas se adquieren habiendo visto romperse sistemas, y nada en la herramienta las transmite con el uso.

La ilusión de competencia nace exactamente ahí: en la distancia entre lo que uno consigue producir y lo que es capaz de evaluar. Cuanto mejor es la herramienta, más ancha es esa distancia, porque lo que sale resulta plausible.

Por qué es importante

Ofrece una lectura de los fracasos que no culpa ni a la herramienta ni al usuario. Prohibir la herramienta suprime la capacidad, culpar al usuario no transmite nada: lo que falta es una cultura, y tiene que venir de otro sitio — del marco fijado por quienes la tienen, de los controles automáticos, del acompañamiento en el arranque.

También aporta un precedente utilizable en una discusión. El no-code no es una analogía lejana: es el mismo mecanismo, ya observado, con sus consecuencias documentadas.

Matices y límites

La distancia no es igual de peligrosa en todas partes. En una herramienta aislada y desechable, producir sin saber evaluar cuesta poco; en un sistema expuesto o conectado a datos reales, esa distancia se convierte en el riesgo principal.

Y la cultura que falta no es indivisible: alguien puede tener sentido de la arquitectura sin cultura de seguridad, o al revés. La ilusión se aloja entonces en la parte que no sabe que no sabe.

Preguntas abiertas

  • ¿Puede un asistente transmitir una parte de esa cultura explicando sus propias decisiones, o la explicación recibida sin haber vivido la avería sigue siendo inoperante?