Zum Hauptinhalt springen
Glossar

Bias (KI)

Aktualisiert am 1 Min.

Bias bezeichnet bei KI-Systemen eine systematische Verzerrung, durch die Ergebnisse für bestimmte Personen oder Gruppen regelmäßig schlechter oder ungenauer ausfallen. Quellen sind unausgewogene Trainingsdaten, historische Benachteiligungen, die sich in den Daten spiegeln, Ersatzmerkmale wie Postleitzahl oder Vorname, die mit geschützten Merkmalen zusammenhängen, und Rückkopplungen, bei denen das System aus seinen eigenen Ergebnissen weiterlernt.

Für Hochrisiko-KI-Systeme verlangt der AI Act, Trainings-, Validierungs- und Testdaten auf mögliche Verzerrungen zu untersuchen und Gegenmaßnahmen zu treffen (Art. 10 Abs. 2). Zur Erkennung und Korrektur erlaubt Art. 4a unter engen Voraussetzungen auch die Verarbeitung besonderer Kategorien personenbezogener Daten. In der Praxis heißt das: Kennzahlen je Gruppe messen, Datensätze dokumentieren und Ergebnisse regelmäßig nachprüfen. Hintergrund: T12 Verzerrung und Diskriminierung (Bias).

Keine Cookies!

Dieses Wiki sammelt nichts, bäckt nichts und lässt nichts bei dir. Deshalb gibt es auch nichts einzuwilligen. Mehr Datenschutz geht nicht.