Retrieval-Augmented Generation (RAG)

Wie funktioniert RAG?

Ein RAG-System arbeitet in drei Schritten:

1. Retrieval: Zur Frage werden passende Dokumente oder Textabschnitte gesucht, häufig über eine Vektorsuche mit Embeddings, teils kombiniert mit klassischer Stichwortsuche.
2. Augmentation: Die gefundenen Abschnitte werden zusammen mit der Frage in den Prompt des Sprachmodells eingefügt.
3. Generation: Das Modell formuliert die Antwort auf Basis von Frage und abgerufenem Kontext.

Der Begriff stammt aus einem Paper von Patrick Lewis und Koautoren, das im Mai 2020 erschienen ist. Dort kombinierten die Autoren ein vortrainiertes Sprachmodell (parametrisches Gedächtnis) mit einem Vektorindex der Wikipedia (nicht-parametrisches Gedächtnis).

Gegenüber einem Nachtraining (Fine-Tuning) hat RAG praktische Vorteile. Die Wissensbasis lässt sich austauschen, ohne das Modell neu zu trainieren, und Antworten können auf ihre Quellen verweisen.

Was bedeutet RAG für SEO und GEO?

Viele KI-Suchen arbeiten nach diesem Prinzip (Einschätzung, die Anbieter verwenden den Begriff nicht durchgängig). Sie suchen zur Frage aktuelle Webseiten, lesen sie aus und fassen sie zusammen. Perplexity zum Beispiel betreibt mit PerplexityBot einen Crawler, der Websites für die Anzeige und Verlinkung in seinen Suchergebnissen erfasst.

Für Website-Betreiber heißt das, dass eine Seite nur dann als Quelle in Frage kommt, wenn der jeweilige Bot sie abrufen darf und den Inhalt ohne Hürden lesen kann. Gut abgegrenzte Abschnitte mit klaren Überschriften erleichtern es, einen passenden Ausschnitt zu finden. Diese Folgerung ist eine fachliche Einschätzung, keine Vorgabe eines Anbieters. Google schreibt für die eigenen KI-Funktionen sogar, dass Inhalte nicht in winzige Stücke zerlegt werden müssen.

Beispiel

Ein Unternehmen baut einen Chatbot für seine Produktdokumentation. Die Handbücher werden in Abschnitte zerlegt und als Vektoren gespeichert. Fragt ein Kunde „Wie setze ich das Gerät zurück?“, holt das System die drei passendsten Abschnitte, gibt sie dem Sprachmodell mit und zeigt unter der Antwort Links zu den Handbuchseiten.

Häufige Fragen

Ist ChatGPT ein RAG-Modell? Das Sprachmodell selbst nicht. RAG beschreibt eine Architektur um ein Modell herum. Nutzt ChatGPT eine Websuche oder hochgeladene Dateien, um eine Antwort zu stützen, entspricht das dem RAG-Prinzip.

Verhindert RAG Halluzinationen? Es kann sie verringern, weil das Modell sich auf abgerufene Texte stützt. Ausschließen kann es sie nicht. Findet die Suche unpassende Abschnitte oder interpretiert das Modell sie falsch, bleibt die Antwort fehlerhaft.

Stand: 8. Oktober 2026