Ein Hochrisiko-KI-System ist nach Art. 6 des EU AI Act entweder Sicherheitsbauteil eines Produkts, das unter eine Harmonisierungsvorschrift nach Anhang I fällt, oder ein System in einem der Bereiche nach Anhang III, etwa Beschäftigung und Personalmanagement, Bildung, Kreditwürdigkeit oder kritische Infrastruktur. Ein System nach Anhang III ist ausnahmsweise kein Hochrisiko-System, wenn es kein erhebliches Risiko birgt; diese Einschätzung dokumentiert der Anbieter.
Für Hochrisiko-Systeme trägt der Anbieter unter anderem Risikomanagement, technische Dokumentation, Qualitätsmanagementsystem und Konformitätsbewertung, der Betreiber unter anderem menschliche Aufsicht und die Überwachung des Betriebs. Die Anforderungen gelten nach dem Digital Omnibus ab dem 2. Dezember 2027 (Anhang III) beziehungsweise ab dem 2. August 2028 (Anhang I).