Zum Hauptinhalt springen
Glossar

Menschliche Aufsicht

Aktualisiert am 1 Min.

Menschliche Aufsicht bedeutet, dass natürliche Personen ein KI-System während seiner Nutzung wirksam überwachen und bei Bedarf eingreifen können. Art. 14 des AI Act verlangt das für Hochrisiko-KI-Systeme. Die Aufsichtspersonen verstehen Fähigkeiten und Grenzen des Systems, deuten seine Ausgaben richtig, können ein Ergebnis verwerfen oder übersteuern und den Betrieb über eine Stopp-Funktion anhalten. Bei biometrischer Fernidentifizierung bestätigen mindestens zwei Personen eine Identifizierung, bevor darauf gehandelt wird (Art. 14 Abs. 5).

Die Pflicht verteilt sich auf zwei Rollen. Der Anbieter gestaltet das System so, dass Aufsicht möglich ist. Der Betreiber benennt Personen mit der nötigen Kompetenz, Schulung und Befugnis und gibt ihnen die erforderliche Unterstützung (Art. 26). Aufsicht verliert ihre Wirkung, sobald Freigaben zur Routine werden. Deshalb gehört Automation Bias in jede Schulung der Aufsichtspersonen. Was bei umgangener Aufsicht droht, zeigt MU-05 Umgehung der menschlichen Aufsicht.

Keine Cookies!

Dieses Wiki sammelt nichts, bäckt nichts und lässt nichts bei dir. Deshalb gibt es auch nichts einzuwilligen. Mehr Datenschutz geht nicht.