Lexikon
Was ist eine KI-Halluzination?
Eine KI-Halluzination ist eine plausibel klingende, aber sachlich falsche Ausgabe — in Software etwa erfundene Funktionen oder nur scheinbar korrekter Code.
Zuletzt aktualisiert: 18. August 2026 · Baldux GmbH
Das Risiko ist nicht der offensichtliche Fehler, sondern der überzeugende: Code, der übersetzt, ordentlich aussieht und im Testfall das Richtige tut, im Betrieb aber falsch handelt. In der Softwareentwicklung tritt das in wiederkehrenden Formen auf — eine Funktion einer Fremdbibliothek, die es so nie gab; ein Feldname, der beim Modell plausibel, in Ihrer Datenbank aber anders geschrieben ist; ein Sonderfall, der stillschweigend wie der Normalfall behandelt wird.
Dass dies der praktische Hauptärger ist, zeigen die Zahlen: Im Stack Overflow Developer Survey 2025 nannten 66 % der Entwickler als größte Frustration KI-Lösungen, die „fast richtig, aber nicht ganz“ sind; 45 % gaben an, dass das Debuggen von KI-Code zeitaufwendiger ist. Eine Stanford-Studie (Perry et al., ACM CCS 2023) fand zudem: Entwickler mit KI-Assistent schrieben signifikant unsichereren Code — und hielten ihn zugleich häufiger für sicher. Die Fehleinschätzung gehört also zum Muster dazu.
Ein Beispiel: Ein Modell baut die Berechnung eines Rabatts und liest dafür ein Feld „netto“ aus, das es aus tausend ähnlichen Systemen kennt. In Ihrem System heißt das Feld genauso, enthält aber den Betrag inklusive Fracht. Nichts stürzt ab, keine Fehlermeldung erscheint, die Rechnungen sehen normal aus — bis jemand nachrechnet. Ohne unabhängige Prüfung fällt so etwas oft erst nach Wochen auf, und dann rückwirkend.
MCP Baldux begegnet dem mit Council und Belegkette: Vier unabhängige Prüfrollen gehen mit unterschiedlichen Fragen an dieselbe Stelle, statt dass eine KI ihre eigene Arbeit bestätigt, und jeder Schritt bleibt nachvollziehbar. Halluzinationen verschwinden dadurch nicht — sie werden zu etwas, das auffällt, bevor es in Betrieb geht.
Wichtig ist die realistische Erwartung: Halluzinationen lassen sich nicht abschalten. Sie sind kein Defekt einzelner Modelle, sondern eine Eigenschaft der Art, wie diese Systeme arbeiten — sie erzeugen die wahrscheinlichste Fortsetzung, nicht die überprüfte. Ein Anbieter, der Fehlerfreiheit zusagt, sagt etwas zu, das er nicht halten kann. Belastbar ist nur die Zusage, dass jeder Schritt geprüft und der Prüfweg nachlesbar ist.
Woran man sie im Alltag erkennt: Auffällig sind Antworten, die zu glatt sind — keine Rückfrage, kein Hinweis auf eine Annahme, kein „das hängt davon ab“. Wo ein erfahrener Entwickler nachfragen würde, füllt ein Modell die Lücke selbst. Deshalb prüft die Rolle Vollständigkeit ausdrücklich, ob eine Annahme getroffen wurde, die niemand vereinbart hat.
Für die Praxis bedeutet das eine einfache Arbeitsteilung: Je genauer der Plan die Wirklichkeit Ihres Betriebs beschreibt — Feldnamen, Sonderfälle, Ausnahmen —, desto weniger muss ein Modell raten. Deshalb ist die Aufnahme des Ist-Zustands in der Beratung keine Formalie, sondern die wirksamste Vorbeugung gegen genau diese Fehlerklasse.
Häufige Fragen zu KI-Halluzinationen: erkennen und vermeiden
Was ist eine KI-Halluzination?
Eine plausibel klingende, aber sachlich falsche Ausgabe eines Sprachmodells. In Software heißt das: eine Funktion, die es in der Bibliothek nie gab, ein Feldname, der anders geschrieben ist, ein Sonderfall, der wie der Normalfall behandelt wird — alles ohne Fehlermeldung.
Warum halluziniert eine KI?
Weil diese Systeme die wahrscheinlichste Fortsetzung erzeugen, nicht die überprüfte. Wo Wissen fehlt, entsteht trotzdem eine Antwort — und zwar in derselben Tonlage wie eine richtige. Das ist keine Panne einzelner Modelle, sondern eine Eigenschaft der Arbeitsweise.
Gibt es Beispiele aus der Softwareentwicklung?
Ein Modell berechnet einen Rabatt und liest dafür ein Feld „netto“ aus, das es aus tausend ähnlichen Systemen kennt. In Ihrem System heißt das Feld genauso, enthält aber den Betrag inklusive Fracht. Nichts stürzt ab, die Rechnungen sehen normal aus — bis jemand nachrechnet.
Wie erkennt man Halluzinationen im Code?
Nicht am Aussehen, sondern an der Gegenfrage. Auffällig sind Antworten, die zu glatt sind: keine Rückfrage, kein Hinweis auf eine Annahme. Deshalb prüft bei uns die Rolle Vollständigkeit ausdrücklich, ob eine Annahme getroffen wurde, die niemand vereinbart hat.
Wie lassen sich KI-Halluzinationen vermeiden oder reduzieren?
Abschalten lassen sie sich nicht, erkennen schon. Zwei Hebel wirken: Je genauer der Plan die Wirklichkeit Ihres Betriebs beschreibt — Feldnamen, Sonderfälle, Ausnahmen —, desto weniger muss ein Modell raten. Und jede Änderung wird von Rollen geprüft, die nicht gebaut haben.
Wo der Begriff vorkommt
- KI-Halluzination im Code erkennen und abfangen
- Warum KI-Code Prüfung braucht
- Vibe Coding vs. verifizierte KI-Entwicklung