Idea principale

Il no-code ha già messo in scena questa storia. Persone senza formazione tecnica hanno messo online siti completi in pochi giorni, hanno concluso di non aver più bisogno di sviluppatori, e poi hanno scoperto che un sito senza protezione contro gli attacchi a forza bruta, senza circuit breaker, senza gestione degli accessi diventa un problema molto in fretta. Lo strumento non era scadente: dava una capacità senza dare ciò che permette di capire dove diventa pericolosa.

Un assistente di codice riproduce la stessa scissione, con una potenza maggiore. Fornisce schermate, API, modifiche ai dati, e non fornisce né la cultura della sicurezza, né il senso dell'architettura, né la conoscenza dei modi in cui un sistema crolla. Queste cose si acquisiscono vedendo dei sistemi rompersi, e niente nello strumento le trasmette con l'uso.

L'illusione di competenza nasce esattamente lì: nello scarto tra ciò che si riesce a produrre e ciò che si è in grado di valutare. Più lo strumento è bravo, più lo scarto è ampio, perché ciò che esce è plausibile.

Perché è importante

Propone una lettura dei fallimenti che non chiama in causa né lo strumento né chi lo usa. Vietare lo strumento elimina la capacità, dare la colpa a chi lo usa non trasmette niente: ciò che manca è una cultura, e deve arrivare da altrove — dal quadro posto da chi ce l'ha, dai controlli automatici, dall'affiancamento all'avvio.

Fornisce anche un precedente spendibile in una discussione. Il no-code non è un'analogia lontana: è lo stesso meccanismo, già osservato, con conseguenze documentate.

Sfumature e limiti

Lo scarto non è pericoloso ovunque allo stesso modo. Su uno strumento isolato e usa e getta, produrre senza saper valutare costa poco; su un sistema esposto o collegato a dati reali, lo scarto diventa il rischio principale.

E la cultura che manca non è un blocco unico: si può avere il senso dell'architettura senza cultura della sicurezza, o viceversa. L'illusione si annida allora nella parte che non si sa di non sapere.

Domande aperte

• Un assistente può trasmettere una parte di questa cultura spiegando le proprie scelte, o una spiegazione ricevuta senza aver vissuto il guasto resta inefficace?