Ein Anbieter einer KI, die für Lebensversicherer Gesundheitsrisiken in Anträgen einschätzt, hat seine Compliance-Strategie sorgfältig erarbeitet, damals auf dem Stand der Entwürfe. Heute steht in der technischen Dokumentation als Nachweisweg für das Qualitätsmanagementsystem noch eine eigene Spezifikation, obwohl EN 18286 inzwischen als harmonisierte Norm im Amtsblatt veröffentlicht ist. Die Verweise auf die KI-Verordnung zitieren den Stand vor der Änderungsverordnung (EU) 2026/1744. Die Ursache ist schlicht: Es war niemandes Aufgabe, auf solche Änderungen zu achten.
EN 18286 verlangt in Kapitel 6.1.3, dass der Anbieter bei den Maßnahmen gegen Risiken des QMS mindestens vier Punkte berücksichtigt. Der erste ist die Strategie zur Einhaltung der Regulierungsvorschriften aus Kapitel 4.4. Das Risiko dahinter: Die Strategie war richtig, als sie geschrieben wurde, und veraltet, während sich der Rechtsrahmen weiterbewegt.
Was steckt dahinter?
Die Compliance-Strategie ist der Plan auf oberster Ebene: Sie legt fest, auf welchem Weg der Anbieter die Anforderungen der KI-Verordnung erfüllt, welches Konformitätsbewertungsverfahren gilt und wie Änderungen, Daten, Beobachtung und Vorfälle gesteuert werden. Sie stützt sich auf die regulatorischen Anforderungen, die der Anbieter nach Kapitel 4.2 ermittelt und systematisch überprüft. Ändert sich diese Grundlage, ist die Strategie nur so aktuell wie der Ablauf, der die Änderung einarbeitet.
Was sich bewegt
- Rechtsakte. Die KI-Verordnung selbst wurde bereits durch die Verordnung (EU) 2026/1744 geändert. Dazu kommen delegierte Rechtsakte und Durchführungsrechtsakte, etwa die Vorlage für den Beobachtungsplan nach Art. 72.
- Harmonisierte Normen. Mit jeder Fundstelle im Amtsblatt entsteht ein neuer Weg zur Konformitätsvermutung. EN 18286 ist seit dem Durchführungsbeschluss (EU) 2026/2274 einer davon, weitere Normen für die Anforderungen an Hochrisiko-Systeme sind in Arbeit.
- Gemeinsame Spezifikationen und Leitlinien. Die Kommission kann gemeinsame Spezifikationen per Durchführungsrechtsakt erlassen (Art. 41) und gibt Leitlinien zur Anwendung der Verordnung heraus (Art. 96).
- Sektorales Recht. Für Systeme, die unter das Harmonisierungsrecht des Anhangs I fallen, ändern sich auch die Anforderungen des jeweiligen Produktrechts.
Wo der Ablauf reißt
Häufig fehlt eine verantwortliche Person. EN 18286 verlangt, dass die oberste Leitung die Verantwortung für die Ermittlung und Überprüfung der regulatorischen Anforderungen und des Stands der Technik zuweist (Kapitel 5.3). Ebenso häufig wird eine Änderung bemerkt, kommt aber nicht in Verfahren und Dokumentation an: Die Strategie ist angepasst, das Kapitel der technischen Dokumentation mit den angewandten Normen nicht. Und wo Normen ohne Ausgabe zitiert werden, lässt sich später kaum sagen, welcher Stand gemeint war.
Schadensausmaß
Eine veraltete Strategie kann zum falschen Konformitätsbewertungsverfahren führen oder dazu, dass sich der Anbieter auf eine Vermutung stützt, die eine Norm in der zitierten Ausgabe nicht trägt. Die EU-Konformitätserklärung nennt dann Normen oder Rechtsstände, die nicht mehr passen. Umgekehrt verschenkt ein Anbieter, der eine neu harmonisierte Norm nicht bemerkt, einen einfacheren Nachweisweg und beschreibt mühsam eigene Lösungen. Am schwersten wiegt der Fall, dass eine neue Pflicht ein System betrifft und niemand sie umsetzt, denn dann ist das System ab dem Tag ihrer Geltung nicht mehr konform.
Praxisbeispiele
Nicht bemerkte Harmonisierung. Ein Anbieter einer Prüfsoftware für Hochschulzulassungen hat für sein QMS eine eigene Spezifikation beschrieben, weil es zum Zeitpunkt der Planung keine harmonisierte Norm gab. Nach der Veröffentlichung der EN 18286 bleibt der Eintrag unverändert. Bei der nächsten Überprüfung fällt auf, dass der Anbieter die Norm in weiten Teilen längst anwendet, sich aber nicht auf die Vermutung beruft.
Zitate ohne Ausgabe. Ein Anbieter von Sicherheitsbauteilen für Industrieroboter zitiert in allen Unterlagen Normen nur mit Nummer. Als eine neue Ausgabe erscheint, kann niemand mehr belegen, gegen welchen Stand die Systeme geprüft wurden.
Änderung ohne Weg in die Praxis. Ein Anbieter eines Systems zur Bewerbungsvorauswahl, das auf dem Basismodell eines Schwesterunternehmens beruht, erfährt aus einem Fachnewsletter, dass die Änderungsverordnung für solche Systeme einen anderen Empfänger für Meldungen schwerwiegender Vorfälle vorsieht. Die Rechtsabteilung notiert es, der Meldeweg im KI-Kommunikationsplan bleibt unverändert.
Wirksame Maßnahmen
Die KI-Anbieterrichtlinie aus dem KI-Compliance-Starter-Kit setzt an diesen Stellen an:
- Abschnitt 1 (Rechtliche und normative Grundlage): Die Rechtsgrundlagen werden laufend beobachtet und systematisch überprüft, jede Änderung, die ein Anbietersystem berührt, wird bewertet. Der Stand geht in die Managementbewertung ein.
- Abschnitt 4 (Strategie zur Einhaltung der Regulierungsvorschriften): Bewertungsverfahren, Umgang mit Änderungen und weiterlernende Systeme sind je System geregelt, und die Ergebnisse werden mit Datum festgehalten.
- Abschnitt 14 (Technische Spezifikationen und Normen): Je System steht fest, welche Normen angewandt werden. Wo eine harmonisierte Norm nicht vollständig angewandt wird, beschreibt die technische Dokumentation die gewählte Lösung.
- Abschnitt 22 (Lenkung dokumentierter Information): Unterlagen externer Herkunft werden mit Bezeichnung, Ausgabe und Ort geführt, Rechtsakte im KI-Rechtsregister.
- Abschnitt 24 (Rollen und Verantwortlichkeiten): Eine eigene Rolle ermittelt die regulatorischen Anforderungen und den Stand der Technik und meldet Änderungen an die KI-beauftragte Person.
- Abschnitt 26 (Überprüfung und Pflege): Ändern sich die Rechtsgrundlagen, wird die Richtlinie außerhalb des jährlichen Turnus überprüft.
Aus ISO/IEC 42001 tragen diese Kontrollen bei:
- A.2 Richtlinien für KI: Die Überprüfung der Politik in Abständen und bei Anlass schließt Änderungen der rechtlichen Pflichten ein.
- A.3 Interne Organisation: Die Zuweisung von Rollen sorgt dafür, dass die Beobachtung der Rechtslage eine verantwortliche Person hat.
Bezug zur KI-Verordnung
Art. 17 Abs. 1 Buchstabe a der Verordnung (EU) 2024/1689 nennt als ersten Aspekt des QMS ein Konzept zur Einhaltung der Regulierungsvorschriften, das die Konformitätsbewertungsverfahren und den Umgang mit Änderungen einschließt. Buchstabe e verlangt, die angewandten technischen Spezifikationen und Normen festzulegen und, wo harmonisierte Normen nicht vollständig angewandt werden oder nicht alle Anforderungen abdecken, die Mittel zu beschreiben, mit denen das System sie trotzdem erfüllt. Beides setzt voraus, dass der Anbieter den aktuellen Stand kennt. Die Managementbewertung nach EN 18286 nimmt neue oder geänderte Rechtsvorschriften und Normen ausdrücklich als Eingangsgrößen auf (Kapitel 10.1). Wer die Norm anwendet, stützt sich für Art. 17 Abs. 1 auf die Konformitätsvermutung im Umfang von Anhang ZA (→ EN 18286: Qualitätsmanagementsystem für KI-Anbieter).
Verwandte QMS-Risiken
- QMS-04 Eingesetzte KI-Technologien überfordern die Abläufe: Neue Technik und neue Vorgaben treffen oft zusammen, etwa bei weiterlernenden Systemen.
- QMS-05 Fehlende Informationen oder Unterstützung Dritter: Neue Pflichten verlangen oft neue Angaben von Lieferanten und Modellanbietern.
- QMS-01 Das QMS verfehlt seine beabsichtigten Ergebnisse: Ein QMS auf altem Rechtsstand weist Konformität mit Anforderungen nach, die so nicht mehr gelten.
Quellen
- EN 18286:2026, Kapitel 4.2, 4.4 und 6.1.3 a sowie Kapitel 10.1 (Managementbewertung)
- Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 17 Abs. 1 Buchstaben a und e, Art. 40, 41 und 96
- Durchführungsbeschluss (EU) 2026/2274: Fundstelle der EN 18286 als harmonisierte Norm
- KI-Anbieterrichtlinie, Abschnitte 1, 4, 14, 22, 24 und 26
- EN 18286: Qualitätsmanagementsystem für KI-Anbieter im Cenedril-Wiki