KI-Kompetenz (englisch AI Literacy) umfasst nach Art. 3 Nr. 56 des AI Act die Fähigkeiten, Kenntnisse und das Verständnis, mit denen Anbieter, Betreiber und Betroffene KI-Systeme sachkundig einsetzen und Chancen, Risiken und mögliche Schäden einschätzen können. Im Arbeitsalltag heißt das: Wer ein System nutzt, weiß, was es leisten kann, wo es typischerweise irrt und wann ein Ergebnis zu prüfen ist.
Art. 4 verpflichtet Anbieter und Betreiber, Maßnahmen zu ergreifen, die die KI-Kompetenz ihres Personals und weiterer Personen unterstützen, die in ihrem Auftrag mit KI-Systemen umgehen. Die Pflicht gilt für alle KI-Systeme unabhängig von der Risikoklasse. Seit dem Digital Omnibus muss niemand ein bestimmtes Kompetenzniveau einzelner Personen garantieren. Üblich sind Schulungen nach Rolle, Einweisungen vor der ersten Nutzung und Nachweise der Teilnahme. Was ohne Einweisung passieren kann, zeigt MU-04 Nutzung durch nicht eingewiesene Personen.