Idée principale

Le no-code a déjà joué cette scène. Des personnes sans formation technique ont mis en ligne des sites complets en quelques jours, ont conclu qu'elles n'avaient plus besoin de développeurs, puis ont découvert qu'un site sans protection contre les attaques par force brute, sans coupe-circuit, sans gestion des accès devient un problème très vite. L'outil n'était pas mauvais : il donnait une capacité sans donner ce qui permet de savoir où elle devient dangereuse.

Un assistant de code reproduit la même dissociation, à une puissance supérieure. Il fournit des écrans, des API, des modifications de données, et il ne fournit ni la culture de sécurité, ni le sens de l'architecture, ni la connaissance des façons dont un système s'effondre. Ces choses s'acquièrent en ayant vu des systèmes casser, et rien dans l'outil ne les transmet à l'usage.

L'illusion de compétence naît exactement là : dans l'écart entre ce que l'on parvient à produire et ce que l'on est capable d'évaluer. Plus l'outil est bon, plus cet écart est large, parce que ce qui sort est plausible.

Pourquoi c'est important

Cela donne une lecture des échecs qui ne met en cause ni l'outil ni l'utilisateur. Interdire l'outil supprime la capacité, blâmer l'utilisateur ne transmet rien : ce qui manque est une culture, et elle doit venir d'ailleurs — du cadre posé par ceux qui l'ont, des contrôles automatiques, de l'accompagnement au démarrage.

Cela fournit aussi un précédent utilisable en discussion. Le no-code n'est pas une analogie lointaine : c'est le même mécanisme, déjà observé, avec ses conséquences documentées.

Nuances et limites

L'écart n'est pas également dangereux partout. Sur un outil isolé et jetable, produire sans savoir évaluer coûte peu ; sur un système exposé ou branché sur des données réelles, l'écart devient le risque principal.

Et la culture manquante n'est pas indivisible : quelqu'un peut avoir le sens de l'architecture sans culture de sécurité, ou l'inverse. L'illusion se loge alors dans la partie qu'il ne sait pas ne pas savoir.

Questions ouvertes

• Un assistant peut-il transmettre une partie de cette culture en expliquant ses propres choix, ou l'explication reçue sans avoir vécu la panne reste-t-elle inopérante ?