Zum Hauptinhalt springen
Gesetz · EU

EU AI Act: Verordnung über künstliche Intelligenz

Aktualisiert am 5 Min. Geprüft von: Cenedril-Redaktion
EUEU AI Act

Eine Personalabteilung testet ein Werkzeug, das Bewerbungen vorsortiert. Das Werkzeug kommt von einem Anbieter aus den USA, der Vertrag ist schnell unterschrieben. Was im Einkauf niemand geprüft hat: Systeme, die über Einstellungen mitentscheiden, sind nach dem AI Act Hochrisiko-Systeme, und die Organisation, die sie einsetzt, trägt eigene Pflichten. Der AI Act regelt KI nach dem Risiko, das von ihrem Einsatz ausgeht, und weist jeder Rolle in der Lieferkette ihre Pflichten zu.

Die Verordnung (EU) 2024/1689 über künstliche Intelligenz (KI-Verordnung, englisch AI Act) ist das erste umfassende Gesetz für KI. Sie gilt unmittelbar in allen Mitgliedstaaten und erfasst Anbieter und Betreiber unabhängig von ihrem Sitz, sobald ein KI-System in der EU in Verkehr gebracht oder genutzt wird oder seine Ergebnisse in der EU verwendet werden. Im Juli 2026 hat die Verordnung (EU) 2026/1744 (Digital Omnibus on AI) Fristen verschoben, zwei Verbote ergänzt und kleine und mittlere Unternehmen entlastet.

Die Risikoklassen

Verbotene Praktiken (Art. 5). Bestimmte Anwendungen sind untersagt, etwa unterschwellige Manipulation, die Ausnutzung von Schwächen schutzbedürftiger Gruppen, Social Scoring, das ungezielte Auslesen von Gesichtsbildern aus dem Internet und Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen. Mit dem Digital Omnibus kommen ab dem 2. Dezember 2026 zwei Verbote hinzu: Systeme, die nicht einvernehmliches intimes Material oder Material sexuellen Kindesmissbrauchs erzeugen.

Hochrisiko-Systeme (Art. 6). Hochrisiko sind KI-Systeme, die Sicherheitsbauteil eines Produkts unter einer Harmonisierungsvorschrift nach Anhang I sind, und Systeme in den Bereichen nach Anhang III: biometrische Identifizierung, kritische Infrastruktur, Bildung, Beschäftigung und Personalmanagement, Zugang zu wesentlichen Dienstleistungen (etwa Kreditwürdigkeit, Versicherung), Strafverfolgung, Migration sowie Justiz und demokratische Prozesse. Ein System nach Anhang III ist ausnahmsweise kein Hochrisiko-System, wenn es kein erhebliches Risiko birgt (Art. 6 Abs. 3); diese Einschätzung dokumentiert der Anbieter.

Transparenzpflichten (Art. 50). Wer mit einem KI-System interagiert, erfährt das. Synthetische Inhalte werden maschinenlesbar gekennzeichnet, Deepfakes offengelegt.

KI-Modelle mit allgemeinem Verwendungszweck (Kapitel V). Anbieter solcher Modelle führen technische Dokumentation, eine Strategie zum Urheberrecht und eine Zusammenfassung der Trainingsdaten. Für Modelle mit systemischem Risiko kommen Bewertungen, Vorfallmeldungen und Cybersicherheit hinzu.

Alle übrigen KI-Systeme unterliegen keinen besonderen Pflichten aus der Verordnung, mit Ausnahme der KI-Kompetenz nach Art. 4.

Pflichten nach Rolle

RolleKernpflichten bei Hochrisiko-Systemen
AnbieterRisikomanagementsystem (Art. 9), Daten-Governance (Art. 10), technische Dokumentation (Art. 11), Protokollierung (Art. 12), Gebrauchsanweisung (Art. 13), menschliche Aufsicht (Art. 14), Genauigkeit, Robustheit, Cybersicherheit (Art. 15), Qualitätsmanagementsystem (Art. 17), Konformitätsbewertung, Konformitätserklärung, CE-Kennzeichnung, Registrierung (Art. 43, 47 bis 49), Beobachtung nach dem Inverkehrbringen (Art. 72), Meldung schwerwiegender Vorfälle (Art. 73)
BetreiberVerwendung nach Gebrauchsanweisung, menschliche Aufsicht durch kompetente Personen, Eingabedaten, Überwachung des Betriebs, Aufbewahrung der Protokolle, Information der Beschäftigten (Art. 26); Grundrechte-Folgenabschätzung für öffentliche Stellen und bestimmte private Betreiber (Art. 27); Erläuterung von Entscheidungen auf Verlangen (Art. 86)
Einführer und HändlerPrüfung von Konformitätsbewertung, Dokumentation und Kennzeichnung vor der Bereitstellung (Art. 23, 24)

Fristen

DatumWas gilt
1. August 2024Inkrafttreten der Verordnung
2. Februar 2025Verbotene Praktiken (Art. 5) und KI-Kompetenz (Art. 4)
2. August 2025Pflichten für KI-Modelle mit allgemeinem Verwendungszweck, Governance, Sanktionen
27. Juli 2026Inkrafttreten des Digital Omnibus (Verordnung (EU) 2026/1744)
2. August 2026Geltung der Verordnung im Übrigen, etwa der Transparenzpflichten nach Art. 50
2. Dezember 2026Zwei neue Verbote (Art. 5 Abs. 1 Buchst. ba und bb)
2. Dezember 2027Anforderungen an Hochrisiko-Systeme nach Anhang III (Kapitel III Abschnitte 1 bis 3)
2. August 2028Anforderungen an Hochrisiko-Systeme nach Anhang I

Pflichten, die an die Hochrisiko-Anforderungen anknüpfen, aber außerhalb von Kapitel III Abschnitte 1 bis 3 stehen (Konformitätsbewertung, Registrierung, Beobachtung nach dem Inverkehrbringen, Vorfallmeldung), laufen ohne diese Anforderungen leer. Cenedril datiert sie deshalb auf den Geltungsbeginn der zugehörigen Anforderungen.

Normen zum AI Act

Für die Konformitätsvermutung nach Art. 40 zählen nur harmonisierte Normen, deren Fundstelle im Amtsblatt veröffentlicht ist. Mit dem Durchführungsbeschluss (EU) 2026/2274 vom 12. Oktober 2026 ist das bisher die EN 18286 für das Qualitätsmanagementsystem von Anbietern (Art. 17). Weitere Normen für Risikomanagement, Daten, Genauigkeit und Cybersicherheit erarbeitet CEN-CENELEC JTC 21. ISO/IEC 42001 ist nicht harmonisiert, liefert aber das Managementsystem, in dem du die Pflichten dauerhaft führst.

Für die Cybersicherheit nach Art. 15 begründet seit dem Digital Omnibus auch die Konformität mit dem Cyber Resilience Act eine Vermutung (Art. 42 Abs. 3).

Bezug zu anderen Gesetzen

  • DSGVO: Verarbeitet ein KI-System personenbezogene Daten, gilt die DSGVO daneben. Die Grundrechte-Folgenabschätzung darf auf die Datenschutz-Folgenabschätzung verweisen (Art. 27 Abs. 4).
  • Cyber Resilience Act: Produkte mit digitalen Elementen, die KI enthalten, fallen unter beide Verordnungen.
  • NIS2: Für Einrichtungen unter NIS2 gehören KI-Systeme zu den Netz- und Informationssystemen, deren Sicherheit sie steuern.

Freie Vorlagen

Das KI-Compliance-Starter-Kit ordnet die Pflichten der Verordnung den Rollen zu und liefert die Vorlagen dafür: für alle die KI-Politik und die KI-Nutzungsrichtlinie, für Betreiber die Unterrichtung der Beschäftigten und die Grundrechte-Folgenabschätzung, für Anbieter die KI-Anbieterrichtlinie, die technische Dokumentation, die EU-Konformitätserklärung, den Beobachtungsplan und die Meldung schwerwiegender Vorfälle.

Was Cenedril davon trägt

Der KI-Assistent von Cenedril bildet die Verordnung in der Fassung der Verordnung (EU) 2026/1744 ab:

  • Klassifizierung jedes KI-Systems: verbotene Praktiken, Hochrisiko nach Anhang I und III mit der Ausnahme nach Art. 6 Abs. 3, Transparenzpflichten,
  • Bestimmung der Rolle und ein Pflichtenkatalog je Rolle mit Geltungsbeginn,
  • KI-Verzeichnis, KI-Risikoregister und Grundrechte-Folgenabschätzung,
  • technische Dokumentation nach Anhang IV, Konformitätsprüfung und EU-Konformitätserklärung,
  • Plan und Auswertung der Beobachtung nach dem Inverkehrbringen, Vorfälle mit den zuständigen Marktüberwachungsbehörden je Land,
  • Erläuterungsanfragen nach Art. 86 und Beschwerden,
  • für Anbieter das Qualitätsmanagementsystem nach EN 18286.

Quellen

Häufig gestellte Fragen

Betrifft mich der AI Act, wenn ich KI nur einkaufe und nutze?

Ja. Wer ein KI-System in eigener Verantwortung einsetzt, ist Betreiber. Für alle Betreiber gelten die verbotenen Praktiken (Art. 5) und die Pflicht, die KI-Kompetenz des Personals zu unterstützen (Art. 4). Betreiber von Hochrisiko-Systemen haben zusätzlich eigene Pflichten nach Art. 26, etwa menschliche Aufsicht, Überwachung des Betriebs und die Aufbewahrung der Protokolle. Bestimmte Betreiber müssen vor dem Einsatz eine Grundrechte-Folgenabschätzung durchführen (Art. 27).

Ab wann gelten die Pflichten für Hochrisiko-KI?

Mit der Verordnung (EU) 2026/1744 (Digital Omnibus on AI) hat sich der Geltungsbeginn verschoben. Die Anforderungen an Hochrisiko-Systeme nach Anhang III gelten ab dem 2. Dezember 2027, für Hochrisiko-Systeme nach Anhang I (Produkte unter Harmonisierungsvorschriften der EU) ab dem 2. August 2028. Verbote und KI-Kompetenz gelten seit dem 2. Februar 2025, die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck seit dem 2. August 2025.

Welche Bußgelder drohen?

Für verbotene Praktiken bis zu 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes, für Verstöße gegen die meisten übrigen Pflichten bis zu 15 Mio. Euro oder 3 %, für falsche oder unvollständige Angaben gegenüber Behörden bis zu 7,5 Mio. Euro oder 1 %. Für kleine und mittlere Unternehmen gilt jeweils der niedrigere der beiden Beträge (Art. 99).

Keine Cookies!

Dieses Wiki sammelt nichts, bäckt nichts und lässt nichts bei dir. Deshalb gibt es auch nichts einzuwilligen. Mehr Datenschutz geht nicht.