Sprachmodelle wie ChatGPT, Claude oder Gemini klingen souverän – auch dann, wenn sie schlicht falsch liegen. Sie erfinden Paragrafen, nennen erfundene Quellen oder liefern plausible, aber falsche Zahlen. Dieses Phänomen heißt KI-Halluzination. Für den Mittelstand ist das kein akademisches Detail, sondern ein handfestes Risiko: Ein falscher Wert im Angebot, eine erfundene Rechtsauskunft oder eine ausgedachte Produktdetails können teuer werden. Dieser Ratgeber erklärt, warum KI halluziniert, wie Sie es erkennen und mit welchen Maßnahmen Sie das Risiko im Betrieb wirksam senken.
Was eine KI-Halluzination genau ist
Von einer Halluzination spricht man, wenn ein KI-System eine Antwort erzeugt, die überzeugend formuliert, aber sachlich falsch oder frei erfunden ist. Typische Beispiele:
- Erfundene Quellen, Studien, Urteile oder Aktenzeichen, die es nie gab
- Falsche Zahlen, Preise, Fristen oder technische Kennwerte
- Nicht existierende Funktionen einer Software oder eines Produkts
- Falsch zugeordnete Zitate oder Aussagen realer Personen
Entscheidend ist: Das Modell lügt nicht im menschlichen Sinne. Es hat kein Bewusstsein für Wahrheit und keine eingebaute Faktenprüfung. Es füllt einfach die wahrscheinlichste Lücke – und Selbstsicherheit im Ton sagt nichts über die Richtigkeit aus.
Warum KI überhaupt Fakten erfindet
Große Sprachmodelle sind im Kern Wahrscheinlichkeitsmaschinen. Sie sagen anhand riesiger Textmengen das jeweils nächste plausible Wort voraus. Sie „wissen“ nichts, sondern reproduzieren Muster. Daraus ergeben sich mehrere Ursachen für Halluzinationen:
1. Kein direkter Zugriff auf Fakten
Ohne angebundene Datenquelle antwortet ein Modell nur aus dem, was es beim Training aufgenommen hat. Lücken werden mit plausiblem Text überbrückt, statt mit „Das weiß ich nicht“.
2. Veraltetes oder unvollständiges Trainingswissen
Modelle haben einen Wissensstichtag. Zu neuen Gesetzen, Preisen oder Ereignissen fehlen belastbare Daten – das Modell rät.
3. Unklare oder überfordernde Fragen
Je vager der Prompt und je spezifischer die geforderte Detailtiefe (exakte Paragrafen, konkrete Zahlen), desto höher die Halluzinationsgefahr.
4. Optimierung auf hilfreiche Antworten
Modelle sind darauf trainiert, hilfreich zu wirken. Eine ausführliche – wenn auch erfundene – Antwort wirkt „hilfreicher“ als ein ehrliches „unbekannt“.
Wo Halluzinationen im KMU besonders wehtun
Nicht jeder Fehler ist gleich kritisch. Ein holprig formulierter Social-Media-Post lässt sich korrigieren. Riskant wird es dort, wo Fakten unmittelbar in Entscheidungen oder Außenkommunikation fließen:
- Recht & Steuern: erfundene Paragrafen oder Fristen in Schreiben und Verträgen
- Angebote & Kalkulation: falsche Preise, Mengen oder technische Werte
- Kundenservice: ein Chatbot sagt Leistungen oder Konditionen zu, die es nicht gibt
- Medizin & Pflege: falsche Dosierungen oder Verfahrensangaben
- Dokumentation: zusammengefasste Berichte mit Zahlen, die im Original nicht stehen
Faustregel: Je höher der Schaden bei einem Fehler, desto strenger muss die Kontrolle sein.
Halluzinationen erkennen
Ganz vermeiden lassen sich Halluzinationen nach heutigem Stand nicht – aber sie lassen sich zuverlässiger aufspüren. Diese Warnsignale helfen im Alltag:
- Konkrete Quellen prüfen: Nennt die KI eine Studie, ein Urteil oder eine URL, überprüfen Sie deren Existenz. Erfundene Quellen sind ein klassisches Muster.
- Zahlen gegenchecken: Preise, Fristen und Kennwerte immer gegen eine verlässliche Primärquelle abgleichen.
- Gegenfrage stellen: „Woher stammt diese Angabe? Wie sicher bist du?“ Unsicherheiten treten so oft zutage.
- Zweimal fragen: Weichen zwei Antworten auf dieselbe Frage stark ab, ist Vorsicht geboten.
Fünf Maßnahmen, um das Risiko zu senken
1. Eigene Daten anbinden (RAG)
Bei der sogenannten Retrieval-Augmented-Generation greift die KI vor der Antwort auf Ihre eigenen, geprüften Dokumente zu – etwa Handbücher, Preislisten oder Richtlinien. Das Modell antwortet dann belegbasiert statt aus dem Gedächtnis, was Halluzinationen deutlich reduziert. Wichtig ist, dass Antworten mit Quellenverweis auf das Ausgangsdokument geliefert werden, damit sich jede Aussage nachprüfen lässt.
2. Konkrete, begrenzte Prompts
Geben Sie Kontext und Grenzen vor: „Nutze ausschließlich den folgenden Text. Wenn die Information dort fehlt, antworte mit ‚nicht enthalten‘.“ Solche Leitplanken senken den Drang des Modells, Lücken zu füllen.
3. Menschliche Freigabe bei kritischen Inhalten
Für alles mit rechtlicher, finanzieller oder medizinischer Tragweite gilt: Ein Mensch prüft und gibt frei, bevor der Inhalt nach außen geht. KI liefert den Entwurf, nicht die Endverantwortung.
4. Aufgaben passend wählen
Sprachmodelle sind stark beim Umformulieren, Strukturieren und Zusammenfassen von vorhandenem Material. Schwächer sind sie beim Abruf präziser Fakten aus dem Gedächtnis. Nutzen Sie KI dort, wo sie zuverlässig ist – und liefern Sie die Fakten selbst mit.
5. Team schulen und Regeln festhalten
Mitarbeitende sollten wissen, dass souveräner Ton keine Richtigkeit garantiert. Eine kurze, verbindliche Nutzungsrichtlinie – was geprüft werden muss, was nicht ohne Freigabe raus darf – schafft Klarheit und schützt vor Leichtsinn.
Realistisch bleiben: Kontrolle statt blindem Vertrauen
KI-Halluzinationen sind kein Grund, auf die Technik zu verzichten – aber ein guter Grund, sie mit klarem Prozess einzusetzen. Der Nutzen entsteht, wenn Sie Stärken (Sprache, Struktur, Tempo) nutzen und Schwächen (Faktenabruf) durch Datenanbindung und Review absichern. Wer KI wie einen fleißigen, aber gelegentlich fantasievollen Assistenten behandelt, dessen Ergebnisse man gegenliest, holt den Mehrwert heraus, ohne die Risiken zu tragen.
Der pragmatische Einstieg: Beginnen Sie mit einem klar umrissenen Anwendungsfall, in dem Fehler wenig kosten, definieren Sie eine feste Prüfschleife und weiten Sie den Einsatz erst aus, wenn die Qualität nachweislich stimmt. Möchten Sie einen KI-Assistenten so einrichten, dass er belegbasiert auf Ihren eigenen Dokumenten arbeitet, lohnt ein unverbindliches Erstgespräch, um den passenden, abgesicherten Weg für Ihren Betrieb zu finden.
Weiterführend: KI für Bäckereien: Praktische Anwendungen im Alltag