Zum Hauptinhalt springen
Glossar

Automation Bias

Aktualisiert am 1 Min.

Automation Bias (deutsch auch Automatisierungsbias) bezeichnet die Neigung von Menschen, den Ergebnissen eines automatisierten Systems mehr zu vertrauen als dem eigenen Urteil oder widersprechenden Hinweisen. Daraus entstehen zwei Arten von Fehlern: Eine falsche Empfehlung wird übernommen, oder ein Problem bleibt unbemerkt, weil das System nicht gewarnt hat. Der Effekt wächst mit Zeitdruck, Routine und einer langen Reihe richtiger Ergebnisse.

Der AI Act greift den Begriff ausdrücklich auf: Wer ein Hochrisiko-KI-System beaufsichtigt, soll sich dieser Neigung bewusst bleiben können (Art. 14 Abs. 4 Buchst. b). Hilfreich sind Stichproben mit unabhängiger Gegenprüfung, eine Begründungspflicht bei Freigaben, Schulungen zu den Grenzen des Systems und Oberflächen, die Unsicherheit sichtbar machen. Die Gefährdung T03 Übermäßige Automatisierung (Automation Bias) beschreibt Ursachen und passende Kontrollen.

Keine Cookies!

Dieses Wiki sammelt nichts, bäckt nichts und lässt nichts bei dir. Deshalb gibt es auch nichts einzuwilligen. Mehr Datenschutz geht nicht.