Zum Hauptinhalt springen
Glossar

Halluzination (KI)

Aktualisiert am 1 Min.

Eine Halluzination ist eine Ausgabe eines generativen KI-Modells, die überzeugend klingt, inhaltlich aber falsch oder frei erfunden ist. Typische Fälle sind erfundene Quellenangaben, Gerichtsentscheidungen, die es nie gab, falsche Zahlen oder Funktionen einer Software, die nie gebaut wurden. Die Ursache liegt im Verfahren: Ein Sprachmodell erzeugt die wahrscheinlichste Fortsetzung eines Textes und prüft dabei keine Fakten.

Halluzinationen lassen sich verringern, ganz ausschließen lassen sie sich nicht. Bewährt haben sich die Anbindung an geprüfte Quellen, die Pflicht, Belege mitzuliefern, und eine fachliche Prüfung, bevor Ergebnisse nach außen gehen oder in Entscheidungen einfließen. Diese Regeln gehören in die KI-Nutzungsrichtlinie. Die Gefährdung T13 Halluzination und fehlerhafte Ausgaben beschreibt Beispiele und Kontrollen.

Keine Cookies!

Dieses Wiki sammelt nichts, bäckt nichts und lässt nichts bei dir. Deshalb gibt es auch nichts einzuwilligen. Mehr Datenschutz geht nicht.