Ursprünglich auf Französisch verfasst. Von KI übersetzt — der Sinn wurde bewahrt, nicht der Stil.
Hauptgedanke
Mit einer KI zu arbeiten setzt voraus, dass man prüfen kann, was sie produziert. Diese Prüfung ist keine Absicht, sondern ein Lesebudget. Dreißig oder vierzig Dateien in dem Verzeichnis, das einer Produktchance gewidmet ist, lassen sich nachlesen — an einem Vormittag kann ein Product Manager sie alle öffnen, erkennen, was nicht passt, und für das unterschreiben, was er verteidigen wird. Mehrere hundert vernetzte Notizen lassen sich nicht nachlesen, und wer das Gegenteil behauptet, prüft in Wahrheit gar nicht mehr.
Die Zahl ist also kein Implementierungsdetail, sondern der Parameter, der darüber entscheidet, ob es eine Prüfung überhaupt gibt. Eine Struktur, in der die Prüfung theoretisch möglich, praktisch aber undurchführbar ist, verhält sich genau wie eine Struktur ohne Prüfung.
Die Folge für den Entwurf ist eindeutig: Die Größe des Bereichs, den man einer KI anvertraut, richtet sich zuerst danach, wie viel ein Mensch nachlesen kann, und erst dann danach, was es nützlich wäre hineinzulegen.
Warum das wichtig ist
Das verwandelt eine Vertrauensfrage in eine Frage der Dimensionierung. „Vertrauen wir dem Modell?“ hat keine stabile Antwort; „Wie viele Dateien werden wir tatsächlich nachlesen, bevor wir entscheiden?“ hat eine, und sie lässt sich messen.
Es erklärt auch, warum das Wachstum einer KI-gestützten Sammlung ihren Wert mindern kann: Jenseits der Schwelle des Nachlesbaren vergrößert jede hinzugefügte Datei das, was nicht mehr kontrolliert wird.
Nuancen und Grenzen
Stichproben, automatische Tests oder eine gezielte Prüfung dessen, was die Entscheidung trägt, können die Schwelle verschieben, ohne vollständiges Nachlesen zu verlangen — um den Preis eines Risikos, das man in Kauf nimmt, statt es zu beseitigen.
Und die Schwelle ist nicht universell: Sie hängt ebenso von der Dichte der Dateien ab wie von ihrer Zahl, und vierzig verschachtelte Notizen können mehr kosten als zweihundert Zeilen mit Fakten.
Offene Fragen
- Woran erkennt man, dass ein Bereich gerade die Schwelle überschritten hat, jenseits derer niemand mehr ihn nachliest?