Kurzdefinition

System, das bei jeder Frage in einem Korpus von Dokumenten die Passagen sucht, die dieser Frage nahekommen, und sie von einem Modell zu einer Antwort zusammenfassen lässt.

Ausführliche Definition

Die Abkürzung steht für retrieval-augmented generation – durch Suche angereicherte Generierung. Im weiten technischen Sinn bezeichnet sie jede Architektur, in der ein Modell externe Elemente heranzieht, bevor es antwortet; das umfasst eine Dokumentensuche ebenso wie den Zugriff auf eine Fachdatenbank.

In den Artikeln dieses Blogs wird der Begriff im Sinn von „klassischem RAG“ verwendet: Man lädt rohe Dokumente hoch, stellt Fragen, und das Werkzeug arbeitet auf Anfrage. NotebookLM oder eine ChatGPT-Unterhaltung, der man PDFs angehängt hat, sind die gängigen Formen. Entscheidend ist nicht die Suchtechnik, sondern was nach der Antwort übrig bleibt: nichts. Die nächste Frage beginnt wieder bei denselben Dokumenten.

Gebrauch im Feld

Verwendet als Vergleichsbegriff, um im Kontrast zu zeigen, was eine konsolidierte Basis leistet: RAG bezeichnet den Ausgangspunkt, über den man hinauswill, nicht eine Technik, die man verwirft.

Synonyme und Varianten

„Klassisches RAG“, wenn deutlich werden soll, dass vom Hochladen roher Dokumente die Rede ist; „suchgestützte Dokumentenabfrage“ in nicht technischer Formulierung.

Nicht zu verwechseln mit

• KI-Wiki — persistente Basis, die ein Agent schreibt und pflegt und in der jede Quelle die bestehenden Seiten aktualisiert. Sie bewahrt, was verstanden wurde; RAG stellt es bei jeder Anfrage neu her.
• Vektorsuche — Methode, die eine Frage und Texte nach Bedeutungsnähe zusammenbringt. Sie ist ein Bestandteil von RAG und eignet sich ebenso gut dafür, ein bereits konsolidiertes Wiki abzufragen.
• Sitzungsgedächtnis — fortlaufend im Austausch geschriebene Spur dessen, was getan, entschieden und offen gelassen wurde. Sie hält den Verlauf einer Arbeit fest; RAG enthält nur ein Korpus von Dokumenten.

Beispiele

Eine Frage, für die fünf Dokumente abgeglichen werden müssen: Das System findet in jedem Passagen, fügt sie zusammen, antwortet – und fängt bei der nächsten Frage komplett von vorn an.

Mehrdeutigkeiten / Debatten

Die Abkürzung steht mal für eine bestimmte Softwarearchitektur, mal für die verbreitete Praxis, einer Unterhaltung Dateien anzuhängen. Beides überschneidet sich so weit, dass man es verwechselt, und dieser Bedeutungsunterschied erklärt ganze Meinungsverschiedenheiten darüber, was „RAG nicht kann“.