Menschliche Aufsicht bedeutet, dass natürliche Personen ein KI-System während seiner Nutzung wirksam überwachen und bei Bedarf eingreifen können. Art. 14 des AI Act verlangt das für Hochrisiko-KI-Systeme. Die Aufsichtspersonen verstehen Fähigkeiten und Grenzen des Systems, deuten seine Ausgaben richtig, können ein Ergebnis verwerfen oder übersteuern und den Betrieb über eine Stopp-Funktion anhalten. Bei biometrischer Fernidentifizierung bestätigen mindestens zwei Personen eine Identifizierung, bevor darauf gehandelt wird (Art. 14 Abs. 5).
Die Pflicht verteilt sich auf zwei Rollen. Der Anbieter gestaltet das System so, dass Aufsicht möglich ist. Der Betreiber benennt Personen mit der nötigen Kompetenz, Schulung und Befugnis und gibt ihnen die erforderliche Unterstützung (Art. 26). Aufsicht verliert ihre Wirkung, sobald Freigaben zur Routine werden. Deshalb gehört Automation Bias in jede Schulung der Aufsichtspersonen. Was bei umgangener Aufsicht droht, zeigt MU-05 Umgehung der menschlichen Aufsicht.