Hauptgedanke

Von KI erwartet man oft, dass sie das Strukturieren überflüssig macht: Da ein Modell alles liest, müsse man ihm nur die Dokumente geben. Beobachten lässt sich das Gegenteil. Ein Assistent, der an einen geteilten Ordner angeschlossen ist, fasst zusammen, was er findet, ohne sagen zu können, was aktuell ist, was freigegeben wurde, was nur eine Annahme war und was inzwischen aufgegeben wurde — weil nichts in den Dateien es sagt.

Derselbe Assistent, angeschlossen an geregeltes Material, leistet etwas anderes: Er weiß, welche Quellen maßgeblich sind, findet bereits getroffene Entscheidungen wieder, wendet die aufgeschriebenen Regeln an, unterscheidet ein wörtliches Zitat von einer Deutung und weiß, was außerhalb seines Bereichs liegt. Jede dieser Fähigkeiten stammt aus menschlicher Vorarbeit — benennen, datieren, entscheiden, eine Grenze markieren — und aus keinem Fortschritt des Modells.

Quellen der Wahrheit, Namenskonventionen, ausgesprochene Entscheidungen und die Grenzen des Bereichs zählen also umso mehr, je weiter sich der Einsatz von KI ausdehnt. Ein Dokumentenchaos, über das man ein Sprachmodell legt, wird nicht intelligent; es halluziniert nur schneller.

Warum das wichtig ist

Das kehrt die Reihenfolge eines Ausstattungsplans um. Assistenten zu kaufen, bevor die Quellen der Wahrheit festgelegt sind, heißt, die beschleunigte Produktion nicht überprüfbarer Antworten zu finanzieren — und diese Antworten verbreiten sich, werden zitiert und werden ihrerseits zu Material.

Das liefert auch ein handfestes Argument für eine Arbeit, die gewöhnlich niemand bezahlt. Sauber zu benennen, eine Entscheidung zu datieren, eine Quelle als veraltet zu markieren hat nie einen sichtbaren Ertrag gebracht; jetzt ist es die Qualitätsbedingung für alles, was ein Assistent hervorbringen wird.

Nuancen und Grenzen

Governance kostet etwas, und nicht alles muss geregelt werden. Material, das man einmal nachschlägt, ein Entwurf, eine explorative Diskussion verdienen keine Einordnung — der Anspruch gilt dem, was wieder abgefragt werden wird.

Und geregeltes Material schützt nicht vor allem: Eine maßgebliche, aber falsche Quelle wird mit noch mehr Bestimmtheit übernommen.

Offene Fragen

• Wer bemerkt, dass ein Anhaltspunkt für Verlässlichkeit verloren gegangen ist, wenn der Assistent weiter mit derselben Bestimmtheit antwortet?