Hauptgedanke

In einem Gedächtnissystem, in dem alles, was der Assistent schreibt, in den Wissensbestand zurückfließt, wird eine am Montag erzeugte Zusammenfassung am Mittwoch als gesicherte Tatsache gelesen. Der Assistent lügt nicht und trickst nicht: Er liest, was die Basis enthält, und die Basis enthält, was er selbst geschrieben hat. Nichts in der Datei unterscheidet einen Satz, der von einem auf einer Messe getroffenen Aussteller stammt, von einem Satz, den der Assistent beim Zusammenfassen dreier Quellen formuliert hat.

Die Schleife schließt sich geräuschlos. Eine einmal formulierte Näherung wird beim nächsten Mal zur Prämisse, dann zur Stütze für einen weiter reichenden Schluss — und die Kette wirkt umso solider, je stimmiger sie mit sich selbst ist.

Deshalb hält ein Kontext-System eine strikte Trennung zwischen der Quelle, dem stabilisierten Wissen, dem aktuellen Zustand, der Synthese und dem Ergebnis: Jedes dieser Register benennt einen anderen epistemischen Status, und die fünf zu verschmelzen heißt, die Spur dessen zu verlieren, was beobachtet worden ist.

Warum das wichtig ist

Das verschiebt die Frage nach der Qualität eines Agenten-Gedächtnisses. Üblicherweise beurteilt man es danach, was es behält; man muss es auch danach beurteilen, was es zu unterscheiden weiß. Ein Gedächtnis, das viel aufbewahrt, aber die Herkunft des Aufbewahrten nicht markiert, fabriziert mit seinem Wachstum falsche Bestätigung.

Und es liefert einen einfachen Test für jedes Gedächtnisdispositiv: Lässt sich beim Lesen eines Eintrags sagen, wer ihn erzeugt hat — ein Mensch, eine externe Quelle oder das System selbst?

Nuancen und Grenzen

Das Risiko ist nicht den Maschinen eigen: Ein Team, das sein eigenes Synthesedokument zitiert statt der Gespräche, die es gespeist haben, tut genau dasselbe. Der Assistent ändert daran nur das Tempo, weil er viel und schnell produziert.

Und die Trennung hat einen Preis: Man muss sich weigern, eine gute Formulierung in die Basis zu schreiben, solange sie nicht eingeordnet ist — was sich in dem Moment, in dem man sie findet, wie ein Verlust anfühlt.

Offene Fragen

• Wie erkennt man in einer bereits ohne diese Trennung aufgebauten Basis jene Aussagen, die allein auf früheren Produktionen des Systems beruhen?