Hauptgedanke

Ein ChatGPT-Gespräch, das sich über mehrere Tage erstreckt, bleibt vollständig angezeigt: Man scrollt durch die Nachrichten und findet wieder, was drei Tage zuvor gesagt wurde. Die Oberfläche erweckt also den Eindruck eines vollständigen Gedächtnisses.

Hinter diesem Eindruck vermischen sich drei Dinge, die nicht deckungsgleich sind:

• das Transkript, das in der Oberfläche aufbewahrt und angezeigt wird;
• das, worüber das Modell in dem Moment, in dem es seine Antwort formuliert, tatsächlich verfügt;
• sein Gedächtnis, das bestimmte, als nützlich eingestufte Elemente behält und kein lückenloser Speicher alles Gesagten ist.

Ein Absatz, der auf dem Bildschirm zu sehen ist, kann also außerhalb der Reichweite des Modells liegen, ohne dass irgendein Signal darauf hinweist.

Warum das wichtig ist

Die Folge ist praktisch: Man kann sich nicht darauf verlassen, in einem Gespräch fünf Tage später drei bestimmte Absätze wiederzufinden, die man heute ausgewählt hat. Was man für archiviert hält, ist in Wirklichkeit nur angezeigt.

Genau das rechtfertigt eine von Hand entschiedene Persistenz außerhalb des Werkzeugs. Nicht aus Misstrauen, sondern weil das, was man sieht, und das, worüber das Werkzeug verfügt, zwei verschiedene Mengen sind.

Nuancen und Grenzen

Die Abweichung hängt vom Werkzeug und von der Länge des Austauschs ab; sie ist keine allgemeine Eigenschaft von Assistenten.

Und das Transkript behält seinen Wert: Ein Mensch kann es weiterhin nachlesen. Der Mangel besteht nicht darin, dass es schlecht aufbewahrt, sondern darin, dass man ihm eine Funktion zuschreibt, die es nicht hat.

Offene Fragen

• Wie erfährt man im Moment, in dem man eine Frage stellt, was das Modell noch zur Hand hat?