In Teil 3 haben wir gesehen: Eine KI weiß nichts. Sie rät das nächste Wort.
Heute geht es um die Kehrseite davon. Wenn das Raten danebengeht, entsteht kein „Fehler 404". Es entsteht eine Antwort, die genauso überzeugend klingt wie eine richtige – nur dass sie erfunden ist. Das nennt man Halluzination.
Warum das passiert.
Ein Sprachmodell füllt Lücken. Immer. Es kennt kein „dazu habe ich keine Information". Wo es nichts Gelerntes findet, setzt es das ein, was statistisch am plausibelsten klingt.
Meistens trifft es damit. Manchmal nicht. Und je spezifischer und seltener Ihre Frage ist – ein konkreter Paragraf, eine bestimmte Zahl, eine genaue Quelle –, desto höher die Gefahr, dass es sich etwas zusammenreimt.
Die Maschine unterscheidet nicht zwischen „das weiß ich" und „das klingt plausibel". Für sie ist beides dasselbe.
Es ist kein Lügen – und genau das ist das Problem.
Lügen setzt Absicht voraus. Die hat eine KI nicht. Sie täuscht nicht, sie irrt sich – ohne es zu merken.
Das macht Halluzinationen gefährlicher als einen normalen Fehler. Ein Tippfehler sieht aus wie ein Fehler. Eine Halluzination sieht aus wie die Wahrheit: flüssig formuliert, im richtigen Ton, mit erfundenen Details, die echt wirken.
Es gibt keine Warnleuchte. Je überzeugter die KI klingt, desto weniger sagt das über ihre Richtigkeit.
Wie das konkret aussieht.
Sie fragen nach einer Rechtsgrundlage – und bekommen einen Paragrafen genannt, den es so nicht gibt.
Sie bitten um Belege – und erhalten eine Studie samt Autor und Jahr, die nie geschrieben wurde.
Sie lassen eine Auswertung erklären – und eine Zahl ist frei dazuerfunden, mitten zwischen korrekten.
Das ist keine Theorie. 2023 reichte ein New Yorker Anwalt vor Gericht einen Schriftsatz ein – mit mehreren Urteilen, die ChatGPT frei erfunden hatte. Er hatte nicht geprüft. Das Gericht verhängte eine Strafe. Der Fehler fiel auf ihn zurück, nicht auf das Modell.
So ist das immer. Wer den Output ungeprüft verwendet, haftet für die Erfindung.
Wie Sie sich schützen.
Nicht durch Misstrauen gegen KI. Durch ein paar feste Gewohnheiten:
Prüfen Sie alles Prüfbare. Zahlen, Gesetze, Namen, Zitate, Quellen – kurz gegenchecken, bevor es weitergeht. Immer.
Verlangen Sie Quellen – und prüfen Sie auch die. KI erfindet zur Not auch den Link dazu. Erst öffnen, dann glauben.
Je wichtiger, desto mehr Kontrolle. Ein Brainstorming verträgt einen Ausrutscher. Ein Angebot, ein Vertrag, eine Veröffentlichung nicht.
Nutzen Sie KI für Entwürfe, nicht für Endprodukte mit harten Fakten. Formulieren, strukturieren, zusammenfassen: stark. Letzte Faktenquelle sein: schwach.
Ein menschlicher Schlussblick auf alles, was rausgeht. Das ist keine Bürokratie. Das ist der Unterschied zwischen Werkzeug und Autopilot.
Hilft ein guter Prompt? Teils.
Halluzinationen lassen sich nicht wegprompten, aber spürbar senken. Diesen Baustein können Sie vor Ihre Frage setzen:
Dein oberstes Ziel ist Genauigkeit, nicht Vollständigkeit. Eine unvollständige, aber korrekte Antwort ist besser als eine vollständige, möglicherweise falsche. Wenn du etwas nicht sicher weißt, sag das ausdrücklich, statt zu raten. Erfinde keine Zahlen, Paragrafen, Namen oder Quellen. Wenn ich dir einen Text gebe, antworte nur daraus.
Der Haken: Auch damit kann die KI selbstbewusst danebenliegen. Der Prompt ist der Sicherheitsgurt – nicht die Vollkasko. Das Gegenprüfen bleibt.
Kein Bug, sondern die Kehrseite.
Halluzinationen sind kein Defekt, den der nächste Anbieter wegpatcht. Sie sind die direkte Kehrseite dessen, was KI so nützlich macht – das schnelle, flüssige Raten.
Sie verschwinden nicht. Aber sie sind beherrschbar, sobald man weiß, dass es sie gibt.
Vertrauen ist gut. Quelle ist besser.
Im nächsten Teil geht es um Datenschutz beim KI-Einsatz: Welche Daten dürfen überhaupt in ein KI-Tool – und unter welchen Bedingungen ist das DSGVO-konform? Danach folgen der AI Act in der Praxis und die Anbieterprüfung.
Und wenn Sie KI in Ihrer Organisation sicher einsetzen wollen, ohne in solche Fallen zu treten: Das erste Gespräch ist kostenlos.