Glossar

Technik und Modelle

RAG: Definition, Einsatz und Grenzen

Thema: RAG

Definition

RAG steht für Retrieval Augmented Generation. Das Sprachmodell schlägt vor jeder Antwort in einer eigenen Wissensquelle nach und formuliert erst dann. Statt sich auf antrainiertes Wissen zu verlassen, holt es passende Textstellen aus Preislisten, FAQ oder Verfügbarkeiten. Für einen KI-Telefonassistenten heißt das: Er antwortet mit deinen aktuellen Fakten, nicht mit einer allgemeinen Vermutung.

Warum der Begriff zählt

Ein Assistent, der Preise oder Öffnungszeiten frei erfindet, kostet Vertrauen und Termine. RAG trennt das feste Modell vom veränderlichen Firmenwissen, sodass du Inhalte pflegst, ohne das Modell neu zu trainieren. Wer RAG versteht, sieht, warum ein Telefonassistent verlässlich Auskunft geben kann, obwohl sich Bestände, Tarife und Aktionen laufend ändern.

Wann es relevant ist

  • Antworten hängen von Daten ab, die sich häufig ändern.
  • Es gibt viele Standardfragen mit klaren, dokumentierten Antworten.
  • Falsche Auskünfte am Telefon haben echte Folgen.
  • Das Wissen liegt bereits schriftlich vor und lässt sich anbinden.

Wann nicht

Wenn dein Wissen in zwei Sätze passt, ist RAG überdimensioniert, dann reicht ein fester Text im Prompt. Und wenn die Quellen veraltet oder widersprüchlich sind, verstärkt RAG nur den Fehler, weil der Assistent falsche Stellen sauber vorträgt.

Branchen, die das nutzen

  • Versicherungen: Tarifdetails und Deckungsfragen am Telefon korrekt beantworten, statt zu raten.
  • E-Commerce: Lieferzeiten, Rückgabe und Verfügbarkeit aus dem aktuellen Bestand nennen.
  • Autohäuser: Modellausstattung, Termine und Serviceumfang direkt aus dem gepflegten Katalog auskunftsfähig machen.
  • Kanzleien: wiederkehrende Mandantenfragen mit dem hinterlegten Leistungsprofil beantworten und den Rest sauber weiterleiten.

Typische Anwendungsfälle

  • Inbound-Auskunft zu Preisen und Konditionen aus einer gepflegten Quelle.
  • Verfügbarkeitsabfrage vor der Terminbuchung.
  • Outbound-Nachfass mit korrektem Bezug auf ein konkretes Angebot.
  • Beantwortung technischer Rückfragen aus einer Produktdokumentation.
  • Weitergabe an einen Menschen, sobald keine belegte Antwort gefunden wird.

Entscheidungshilfe

Entscheidungshilfe
Signal RAG passt Alternative
Fakten ändern sich oft RAG mit gepflegter Quelle fester Prompt veraltet schnell
Wenig, stabiles Wissen eher nicht Antwort direkt in den Prompt
Quellen sind unsauber erst aufräumen schlechte Quelle bleibt schlechte Antwort
Falschauskunft ist teuer RAG plus Übergabe freies Raten des Modells vermeiden

Beispiel

[Praxisbeispiel]

Ein Anbieter hinterlegt Preisliste und FAQ als durchsuchbare Quelle. Ruft jemand an und fragt nach Konditionen, sucht der Assistent die passende Stelle, liest den Kern vor und bucht bei Interesse einen Termin. Findet er keinen Beleg, übergibt er an einen Menschen. Das Beispiel beschreibt die Methode, keine behauptete Kundenkennzahl.

Verbindung zu Services

Am sichtbarsten wird RAG im KI-Telefonassistent für die Inbound-Auskunft und im Voice Agent, der Wissen im Gespräch anwendet, mit Buchung über Terminbuchung.

Verwandte Begriffe

Embeddings, Vektordatenbank, Kontextfenster.

Quellen

Diese Einordnung beschreibt gängige Praxis rund um Retrieval Augmented Generation. Konkrete Umsetzung, Datenqualität und Datenschutz hängen vom Fall und den Systemen ab und müssen im Einzelfall geprüft werden.

Verwandte ThemenEmbeddingsVektordatenbankKontextfenster

Termin

Strategiegespräch buchen

Prüfe, welche deiner Antworten der Assistent belegen soll. Buche direkt einen Termin über den eingebetteten Kalender (Strategiegespräch buchen). Alternativ: info@ki-telefonassistent.co.

Alternativ per E-Mail an info@ki-telefonassistent.co

Anwendungsfall prüfen

FAQ

Häufige Fragen

01 Woher weiß der Assistent, dass die Antwort stimmt?
Er zieht sie aus deiner hinterlegten Quelle statt aus allgemeinem Wissen. Ist die Quelle gepflegt, ist die Auskunft belegt, findet er nichts Passendes, übergibt er an einen Menschen.
02 Muss ich das Modell dafür trainieren?
Nein. Bei RAG bleibt das Modell unverändert, du pflegst nur die Inhalte. Das macht Aktualisierungen schnell und ohne technischen Neuaufbau möglich.
03 Was passiert bei einer Lücke im Wissen?
Der Assistent rät nicht, sondern signalisiert die Grenze und leitet weiter. So bleibt die Auskunft ehrlich und der Anrufer bekommt trotzdem eine Lösung.