Definition
Eine Halluzination ist eine Antwort eines Sprachmodells, die plausibel klingt, aber sachlich falsch oder frei erfunden ist. Das Modell füllt Lücken mit statistisch wahrscheinlichem Text, auch wenn ihm die belastbare Grundlage fehlt. Am Telefon heißt das: Der Assistent nennt einen Preis, einen Termin oder eine Zusage, die so nicht stimmt. Ohne Absicherung wirkt die Aussage überzeugend und richtet trotzdem Schaden an.
Warum der Begriff zählt
Am Telefon gibt es kein Zurückscrollen. Was der Assistent sagt, gilt beim Anrufer als verbindlich, und eine erfundene Öffnungszeit oder ein falscher Preis kostet Vertrauen und manchmal Geld. Wer Halluzination versteht, baut den Anruf-Flow so, dass der Assistent nur aus geprüften Quellen antwortet und bei Unsicherheit lieber übergibt, statt zu raten.
Wann es relevant ist
- Der Assistent gibt Auskünfte zu Preisen, Verfügbarkeit oder Konditionen.
- Anrufer stellen Fragen, deren Antwort sich häufig ändert.
- Zusagen am Telefon haben rechtliche oder finanzielle Folgen.
- Der Assistent arbeitet ohne feste Anbindung an eine Wissensquelle.
Wann nicht
Bei rein steuernden Gesprächen, etwa Anliegen erfragen und an die richtige Stelle weiterleiten, spielt das Thema kaum eine Rolle, weil der Assistent keine Fakten behauptet. Auch bei reinen Terminbuchungen gegen einen echten Kalender ist das Risiko gering, solange keine freien Auskünfte dazukommen.
Branchen, die das nutzen
- Versicherung und Finanzberatung: falsche Auskünfte zu Tarifen oder Fristen am Telefon vermeiden, weil sie direkt haften.
- Gesundheitswesen: keine erfundenen medizinischen oder terminlichen Aussagen, sondern klare Übergabe an die Praxis.
- E-Commerce und Handel: Preis- und Lieferauskünfte müssen zum realen Bestand passen, nicht zur Wahrscheinlichkeit.
- Reise und Mobilität: Verfügbarkeit und Buchungsregeln ändern sich ständig und dürfen nicht geraten werden.
Typische Anwendungsfälle
- Preisauskunft, die der Assistent nur aus einer gepflegten Liste vorliest.
- Verfügbarkeitsfrage, die gegen den echten Kalender geprüft wird.
- Rückfrage zu Konditionen, bei der der Assistent bewusst übergibt statt zu raten.
- Protokollierung jeder Auskunft, damit sich falsche Aussagen nachvollziehen lassen.
- Fallback-Satz, wenn keine Quelle greift, statt einer erfundenen Antwort.
Entscheidungshilfe
| Signal | Absicherung passt | Alternative |
|---|---|---|
| Assistent gibt Fakten heraus | Antworten an Quelle binden | freies Modell erfindet Details |
| Auskünfte ändern sich oft | Live-Abgleich mit System | statische Antwort veraltet |
| Aussage hat Folgen | bei Unsicherheit übergeben | Raten schadet dem Vertrauen |
| Nur Gesprächssteuerung | Risiko gering | keine Faktenprüfung nötig |
Beispiel
Ein Handelsbetrieb lässt eingehende Anrufe vom Assistenten annehmen. Fragt der Anrufer nach Lieferzeit, liest der Assistent nur den Wert aus dem angebundenen System vor. Fehlt der Wert, sagt er das offen und bietet den Rückruf eines Mitarbeiters an, statt eine Zahl zu erfinden. Jede Auskunft landet im Protokoll. Das Beispiel beschreibt die Methode, keine behauptete Kundenkennzahl.
Verbindung zu Services
Sauber abgesicherte Auskünfte am Telefon liefert der KI-Telefonassistent, im Ausgang der KI-Vertrieb am Telefon, technisch als Voice Agent mit Anbindung an geprüfte Quellen.
Verwandte Begriffe
Quellen
Diese Einordnung beschreibt gängige Praxis im Umgang mit Sprachmodellen. Wie stark ein Assistent zu Halluzinationen neigt, hängt vom Modell, der Anbindung und dem Prompt ab und muss im Einzelfall getestet werden.
Mit AI zusammenfassen