Idea principal

Cuando una IA genera notas a partir de fuentes y las relaciona entre sí, el error que comete en una nota no se queda en esa nota. Los enlaces lo transportan: una conclusión sobre una oportunidad de producto se apoya en tres notas, que a su vez se apoyan en otras, y la nota falsa está en algún punto de esa cadena sin que nada la señale.

Esa es la diferencia con un error en un documento aislado. Un documento falso se lee, y el lector tiene una oportunidad de tropezar con él. Un error que ha sido relacionado se ha convertido ya en una premisa: llega al final de la cadena con forma de hecho adquirido, despojado de todo lo que habría permitido ponerlo en duda.

El resultado concreto es defender una oportunidad ante un comité apoyándose en una información falsa que no hay manera de detectar, porque nada en la red dice de dónde viene ni qué parte del análisis descansa sobre ella.

Por qué es importante

Esto desplaza la cuestión de la calidad de las notas producidas por una IA hacia la cuestión de su modo de ensamblaje. Una tasa de error baja por nota sigue siendo aceptable mientras las notas se leen una a una; deja de serlo en cuanto se encadenan, porque la probabilidad de que una cadena contenga al menos un error crece con su longitud.

Da también la razón por la que la trazabilidad — qué nota se apoya en cuál, y en qué fuente — no es una comodidad de ordenación sino la condición para poder retractarse.

Matices y límites

La propagación no es exclusiva de la IA: una nota humana falsa y relacionada se propaga igual. Lo que la IA cambia es el volumen, y por tanto el número de cadenas que ningún humano ha leído.

Y una cadena de notas también puede corregir: una nota posterior puede contradecir a la falsa, siempre que la contradicción se registre en vez de añadirse como un enlace más.

Preguntas abiertas

• ¿Qué rastro habría que dejar en una nota para que una retractación llegue hasta todo lo que se apoyaba en ella?