Idee

Das Modell wählt man nach der Schwierigkeit des Schritts, nicht nach der des Skills

Info

Ursprünglich auf Französisch verfasst. Von KI übersetzt — der Sinn wurde bewahrt, nicht der Stil.

Hauptgedanke

Zahlen aus einer Liste zu extrahieren ist etwas anderes, als aus fünfzehn Analysen ein Wettbewerberprofil zu synthetisieren: Beides verlangt nicht dieselbe Leistungsfähigkeit. Trotzdem wird ein Skill nach seinem anspruchsvollsten Schritt eingestuft, und alles, was er sonst tut, erbt diese Stufe — zwei- bis dreifache Kosten bei identischem Ergebnis.

Die sinnvolle Aufteilung weist jedem Schritt ein eigenes Modell zu: strukturierte Extraktion an ein kleines Modell, Synthese an ein mittleres, mehrphasige Orchestrierung an das leistungsfähigste. Was die hohe Stufe rechtfertigt, ist nie der Skill als Ganzes, sondern es sind die zwei oder drei Schritte, die ohne sie scheitern würden.

Warum das wichtig ist

So wird aus einer globalen Entscheidung, einmal getroffen und nie wieder aufgerollt, eine Reihe lokaler, begründbarer Entscheidungen — und man muss sagen, welcher Schritt das teuerste Modell rechtfertigt.

Es ist auch der Hebel mit dem geringsten Aufwand: Er verlangt kein Umschreiben der Logik.

Nuancen und Grenzen

Mehrere Modelle in einem Skill zu bedienen, bringt zusätzliche technische Infrastruktur und Kontextübergaben zwischen den Schritten mit sich. Unterhalb eines gewissen Volumens wiegt der Gewinn diese Komplexität nicht auf.

Und ein Schritt wirkt einfach, weil er immer von einem leistungsfähigen Modell erledigt wurde: Ihn herabzustufen erzeugt plausible Outputs, deren Fehler erst weiter hinten in der Kette sichtbar wird.

Offene Fragen

  • Wer kann weiter hinten einen Fehler bis zu dem Schritt zurückverfolgen, der ihn erzeugt hat, und ab wann lässt sich diese Verbindung nicht mehr nachvollziehen?