Halluzination
Eine Halluzination tritt auf, wenn eine KI selbstsicher falsche oder erfundene Informationen ausgibt, weil sie Wahrscheinlichkeiten folgt statt Fakten zu prüfen.
Das ist eines der zentralen Risiken bei generativer KI. Ein guter KI-Mitarbeiter vermeidet Halluzinationen durch klare Regeln, Quellenangaben und die Eskalation unsicherer Fälle an Menschen.
Für Unternehmen bedeutet das: Prozesse dürfen nicht blind automatisiert werden, sondern müssen nachvollziehbar und kontrollierbar bleiben.
Worin es sich unterscheidet
Prompt: Ein schlecht formulierter Prompt führt zu einer unpassenden, aber erklärbaren Antwort. Eine Halluzination ist etwas anderes: eine flüssig formulierte Aussage, für die es keine Grundlage gibt. Bessere Prompts verringern das Risiko, beseitigen es aber nicht.
RAG: RAG ist die übliche Gegenmaßnahme, weil das Modell aus vorgelegten Quellen antwortet statt aus dem Gedächtnis. Halluzination beschreibt das Problem, RAG einen Teil der Lösung.
Was das für einen mittelständischen Betrieb bedeutet
Das Risiko liegt nicht darin, dass eine KI Fehler macht, sondern darin, dass die falsche Aussage überzeugend klingt. Wer sie ungeprüft an einen Kunden weitergibt, haftet dafür wie für jede andere Auskunft des Betriebs.
Deshalb wird in der Einrichtung festgelegt, welche Ausgaben ohne Kontrolle nach außen gehen dürfen und welche nicht. Interne Zusammenfassungen sind unkritischer als verbindliche Preis- oder Rechtsauskünfte.
Zwei Maßnahmen wirken in der Praxis am stärksten: Antworten mit Quellenangabe und eine klare Regel, dass bei fehlender Grundlage keine Antwort erzeugt wird.
In der Anfangszeit gehört eine Stichprobenprüfung zum Betrieb dazu, ähnlich wie bei einer neuen Person in der Einarbeitung.
Ein Beispiel aus dem Alltag
Ein Autohaus lässt Kundenanfragen zu Ausstattungsmerkmalen automatisch beantworten. Für ein Modell, das im Bestand nicht sauber gepflegt ist, formuliert das System eine plausible Ausstattungsliste, die es so nie gab.
Nach der Korrektur greift der Ablauf anders: Das System darf nur noch aus dem Fahrzeugbestand antworten und schreibt bei fehlendem Datensatz, dass die Angaben geprüft werden und sich ein Mitarbeiter meldet. Aus einer falschen Auskunft wird damit eine Rückfrage.
Häufige Fragen
Woran erkenne ich eine Halluzination im Alltag?
Meist an konkreten Details ohne Quelle, etwa Paragrafen, Produktnummern oder Termine. Wenn eine Angabe überprüfbar sein müsste und keine Quelle mitgeliefert wird, ist Nachprüfen angebracht.
Wer haftet, wenn eine KI-Auskunft falsch ist?
Verantwortlich ist das Unternehmen, das die Auskunft erteilt, nicht der Softwareanbieter des Modells. Deshalb gehören Freigaberegeln für alle nach außen gerichteten Texte zum Aufbau dazu.
Wird das Problem mit neueren Modellen verschwinden?
Die Häufigkeit ist gesunken, das Verhalten ist aber in der Funktionsweise angelegt. Verlässlichkeit entsteht durch Anbindung an geprüfte Daten und durch Eskalation, nicht durch Abwarten.
Was kostet mich eine Kontrolle der Ergebnisse?
In der Regel deutlich weniger als die Arbeit, die ersetzt wird, weil Prüfen schneller geht als Erstellen. Nach der Einführungsphase genügt meist eine Stichprobe statt einer Vollkontrolle.
Synonyme und verwandte Begriffe
KI-Fehlinformation · Faktentreue