Idee

Eine KI, die ein neues Objekt ablegt, wendet die Unterscheidungen des Systems an, statt neue zu entdecken

Info

Ursprünglich auf Französisch verfasst. Von KI übersetzt — der Sinn wurde bewahrt, nicht der Stil.

Hauptgedanke

Wenn ein Assistent für eine Datei einen Ort vorschlägt, auf den ihr Autor nicht gekommen wäre — ein Übersetzungsleitfaden an der Spitze des Arbeitsraums statt neben dem Manuskript —, wird die Geschichte gern als Entdeckung erzählt: Die Maschine habe das System besser verstanden als der, der es entworfen hat.

So läuft es nicht. Die verwendeten Unterscheidungen waren bereits geschrieben: Eine Regel ist keine Quelle, eine Notiz ist kein Lieferergebnis, und ein Dokument, das die Produktion regiert, ist nicht selbst das, was produziert wird. Der Assistent hat sie auf ein Objekt angewendet, auf das sie noch niemand angewendet hatte, ohne sie durch Gewohnheit oder durch die Geschichte des Ordners zu gewichten. Er hat nichts gefunden, was nicht da war; er hat das System buchstabengetreu auf einen neuen Fall ausgeführt.

Der Abstand, der dabei sichtbar wird, liegt nicht zwischen Maschine und Mensch, sondern zwischen der geschriebenen Definition und der Definition, die ihr Urheber tatsächlich praktiziert. Diesen Abstand macht der Vorschlag sichtbar, und er ist es, der die Prüfung verdient.

Warum das wichtig ist

Das verhindert zwei falsche, spiegelbildliche Lesarten. Die erste unterstellt dem Assistenten ein Verständnis, das er nicht hat, und macht aus jeder seiner Ausgaben ein Autoritätsargument. Die zweite verwirft den Vorschlag, weil er überrascht, und verpasst die Information, die er enthielt.

Das sagt auch, wohin die Aufmerksamkeit gehört, wenn eine Ausgabe erstaunt: nicht auf die Begründung der Maschine, die nur abgespult hat, sondern auf die Definition, die sie zugelassen hat.

Nuancen und Grenzen

Die buchstabengetreue Anwendung ist auch das, was den Assistenten fehlbar macht: Dieselben Unterscheidungen, ungewichtet angewendet, erzeugen manchmal eine absurde Ablage, und nichts an der Form der Antwort unterscheidet die beiden Fälle.

Und der Nachweis setzt voraus, dass das System geschrieben wurde. Bleiben die Unterscheidungen im Kopf ihres Urhebers, bleibt nur das allgemeine Vokabular des Modells, das plausible Vorschläge ohne Bezug zur Logik des Ordners erzeugt.

Offene Fragen

  • Wie erkennt man bei einem überraschenden Vorschlag, ob er eine Unterscheidung des Systems anwendet oder eine allgemeine Konvention, die das Modell mitgebracht hat?