Idee

Wer ein Ergebnis neu erzeugt, indem er den ganzen Verlauf wieder liest, lässt seine Kosten mit dem Bestand wachsen, nicht mit dem Neuen

Info

Ursprünglich auf Französisch verfasst. Von KI übersetzt — der Sinn wurde bewahrt, nicht der Stil.

Hauptgedanke

Am Freitag kommt ein Dokument über einen Wettbewerber herein. Um sein Profil zu aktualisieren, liest der Skill die bereits erstellten Analysen zu diesem Wettbewerber erneut — 102 000 Input-Tokens —, obwohl das einzig Neue fünftausend wiegt.

Der Verbrauch folgt dann der Größe des Verlaufs und nicht der Menge neuer Information. An der Nutzung ändert sich nichts, und derselbe Handgriff kostet jeden Monat mehr. Ein inkrementeller Modus bricht diese Kopplung auf: Man geht von der vorhandenen Synthese und allein den hinzugekommenen Elementen aus. Er hat eine Bedingung — man muss wissen, was bereits eingearbeitet wurde, es also irgendwo festhalten, etwa im Frontmatter des erzeugten Profils.

Warum das wichtig ist

Das trennt zwei Kostenregime, die man leicht verwechselt: proportional zum Neuen oder proportional zum Bestand. Ein Skill der zweiten Art wird irgendwann untragbar, ohne dass jemand etwas verändert hätte, allein durch Anhäufung.

Die Diagnose gehört deshalb an den Anfang: Es ist eine Eigenschaft der Architektur, keine Einstellungssache.

Nuancen und Grenzen

Alles neu zu lesen ist manchmal die Arbeit selbst: Eine Synthese, die das Ganze neu austarieren muss, kann sich nicht mit den Ergänzungen begnügen.

Und das Inkrementelle driftet: Jeder Durchlauf erbt die Ungenauigkeiten des vorigen, ohne sie je am Ausgangsmaterial zu überprüfen. Es verlangt von Zeit zu Zeit eine vollständige Neuerzeugung.

Offene Fragen

  • Wie oft braucht es eine vollständige Neuerzeugung, um die Drift aufzuholen, die ein inkrementeller Modus ansammelt?