Hauptgedanke

Wenn eine KI aus Quellen Notizen erzeugt und sie miteinander verknüpft, bleibt ein Fehler, den sie in einer Notiz macht, nicht in dieser Notiz. Die Verknüpfungen tragen ihn weiter: Eine Schlussfolgerung zu einer Produktchance stützt sich auf drei Notizen, die sich ihrerseits auf andere stützen, und irgendwo in dieser Kette steckt die falsche Notiz, ohne dass etwas auf sie hinweist.

Das ist der Unterschied zu einem Fehler in einem einzelnen Dokument. Ein falsches Dokument wird gelesen, und der Leser hat eine Chance, darüber zu stolpern. Ein Fehler, der verknüpft wurde, ist bereits zur Prämisse geworden: Er kommt am Ende der Kette als gesicherte Tatsache an, befreit von allem, was erlaubt hätte, ihn in Zweifel zu ziehen.

Das konkrete Ergebnis: vor einem Gremium eine Opportunität zu verteidigen, die sich auf eine falsche Information stützt, die man auf keine Weise aufspüren kann, weil nichts im Netzwerk sagt, woher sie stammt und welcher Teil der Analyse auf ihr beruht.

Warum das wichtig ist

Das verlagert die Frage von der Qualität der Notizen, die eine KI produziert, auf die Frage, wie sie zusammengesetzt werden. Eine niedrige Fehlerquote pro Notiz bleibt akzeptabel, solange die Notizen einzeln gelesen werden; sie ist es nicht mehr, sobald sie sich verketten, denn die Wahrscheinlichkeit, dass eine Kette mindestens einen Fehler enthält, wächst mit ihrer Länge.

Es liefert auch den Grund, warum Nachvollziehbarkeit — welche Notiz sich auf welche stützt, und auf welche Quelle — kein Ordnungskomfort ist, sondern die Bedingung dafür, eine Aussage zurücknehmen zu können.

Nuancen und Grenzen

Die Ausbreitung ist nicht KI-spezifisch: Eine falsche, verknüpfte Notiz eines Menschen breitet sich genauso aus. Was die KI ändert, ist das Volumen, also die Zahl der Ketten, die kein Mensch gelesen hat.

Und eine Kette von Notizen kann auch korrigieren: Eine spätere Notiz kann der falschen widersprechen, vorausgesetzt, der Widerspruch wird festgehalten, statt als weitere Verknüpfung hinzugefügt zu werden.

Offene Fragen

• Wer wird eine bereits vor dem Gremium verteidigte Entscheidung wieder aufrollen, um darauf hinzuweisen, dass sie auf einer falschen Information beruhte?