Zum Hauptinhalt springen
KI-Compliance-Starter-Kit · Vorlage

Beobachtungsplan (Art. 72)

Aktualisiert am 1 Min. Geprüft von: Cenedril-Redaktion
EU AI Act Art. 72, Anhang IV Nr. 9

Ein Prognosemodell, das bei der Freigabe alle Schwellen erfüllt hat, kann ein Jahr später schlechter treffen, weil sich die Daten im Einsatz verändert haben. Art. 72 verlangt deshalb, dass Anbieter ihre Hochrisiko-Systeme über die gesamte Lebensdauer beobachten. Der Beobachtungsplan legt fest, aus welchen Quellen Daten kommen, wie oft ausgewertet wird und ab wann eine Prüfung beginnt.

Für wen ist die Vorlage gedacht?

Für Anbieter von Hochrisiko-KI-Systemen. Die Betriebsgrenzen stehen im KI-Verzeichnis; die Reaktion auf einen schwerwiegenden Vorfall regelt die Vorlage zur Vorfallmeldung.

Vorlage: Beobachtungsplan

Vollständige Richtlinie

Beobachtungsplan

Dokumentenkontrolle
Eigentümer: [RICHTLINIEN_EIGENTÜMER_ROLLE, z. B. KI-beauftragte Person]
Genehmigt von: [GENEHMIGER_NAME_UND_ROLLE]
Version: [VERSION]
Gültig ab: [GÜLTIGKEITSDATUM]
Nächste Überprüfung: [NÄCHSTES_ÜBERPRÜFUNGSDATUM]

KI-Compliance-Starter-Kit. Vorlage für den Beobachtungsplan eines Hochrisiko-KI-Systems nach Art. 72 und Anhang IV Nr. 9 der Verordnung (EU) 2024/1689. Je System wird ein Plan geführt. Die Abschnitte 1, 6 und 8 tragen feste Texte; die übrigen legt die Organisation je System fest.

Angabe Eintrag
KI-System [SYSTEM]
Kennung [KENNUNG]
Beginn der Beobachtung [DATUM DES INVERKEHRBRINGENS ODER DER INBETRIEBNAHME]

1. Überwachungsumfang

Überwacht werden alle anwendbaren Konformitätsanforderungen nach Kapitel III Abschnitt 2 (Genauigkeit, Robustheit und Sicherheit, Verzerrung und Fairness, menschliche Aufsicht, Datenqualität, Transparenz).

2. Datenquellen

Beobachtungsdaten werden aus den folgenden Kanälen erhoben (Zutreffendes stehen lassen):

  • Nutzer- und Betroffenenrückmeldungen
  • Betriebs- und Leistungsprotokolle (Logs)
  • Fehler- und Vorfallmeldungen
  • Technische Modellüberwachung (Drift-Erkennung)
  • Rückmeldungen der Betreiber
  • Marktbeobachtung und Behördenhinweise
  • Ergebnisse der menschlichen Aufsicht

3. Auswertungsturnus und Verantwortung

Angabe Eintrag
Auswertungsturnus [Fortlaufend, monatlich, vierteljährlich, halbjährlich oder jährlich]
Verantwortliche Person [NAME_UND_ROLLE]

Umfang und Turnus sind verhältnismäßig zu Technologie, Risikoklasse, Zweckbestimmung und vorhersehbarer Fehlanwendung; für Hochrisiko-Systeme ist der Turnus enger als für Systeme mit geringerem Risiko.

4. Auslösekriterium

Ab welchem Beobachtungsergebnis eine Prüfung beginnt, bestimmen zwei Angaben zusammen.

Betriebsgrenzen (aus dem KI-Verzeichnis):

Kennzahl Grenze Messweise
[z. B. Genauigkeit im Monatsmittel] [z. B. unter 0,90] [MESSWEISE]

Ereignisse, die für sich genommen auslösen (Zutreffendes stehen lassen): Auffälligkeit im Betrieb; Beinahe-Vorfall; Rückmeldung aus dem Einsatz; Beschwerde; anderes Ereignis: [EREIGNIS].

5. Grenzen der Beobachtung

Angabe Eintrag
Einschränkungen [z. B. kein Zugriff des Anbieters auf die Protokolle, Betrieb in der Umgebung des Betreibers, Einsatz ohne Verbindung zum Anbieter, Datenschutz schränkt die Erhebung ein, nur zusammengefasste Daten verfügbar]
Ausgleich [womit die Einschränkung ausgeglichen wird]
Zugriff auf Protokolle [vollständig, teilweise oder kein Zugriff]
Mitwirkung der Betreiber nötig [JA_ODER_NEIN; wenn ja, welche Angaben die Gebrauchsanweisung von ihnen verlangt]

6. Reaktion bei Auffälligkeit

Bei einer Auffälligkeit greift die verpflichtende Reaktionskette: Korrekturmaßnahme, Neubewertung des Risikos (Art. 9), Aktualisierung der technischen Dokumentation und Meldung schwerwiegender Vorfälle (Art. 73).

7. Bestehendes Überwachungssystem

[Nein, eigenständige Beobachtung] oder [Ja, in ein bestehendes sektorales Beobachtungssystem integriert: SYSTEM, z. B. Medizinprodukte-Vigilanz nach MDR oder Finanzaufsicht] (Art. 72 Abs. 4).

8. Aufbewahrung und Einbindung

Dieser Plan ist Bestandteil der technischen Dokumentation (Anhang IV Nr. 9) und wird zehn Jahre aufbewahrt (Art. 18).

Quellen

Häufig gestellte Fragen

Wer braucht einen Beobachtungsplan?

Anbieter von Hochrisiko-KI-Systemen. Der Plan ist Teil der technischen Dokumentation (Anhang IV Nr. 9); die Kommission legt ein Muster für seinen Inhalt fest (Art. 72 Abs. 3).

Was, wenn der Anbieter keinen Zugriff auf die Daten im Betrieb hat?

Dann hält Abschnitt 5 die Einschränkung fest und beschreibt den Ausgleich, etwa Rückmeldungen der Betreiber nach festgelegten Angaben, die die Gebrauchsanweisung von ihnen verlangt.

Darf ich die Beobachtung in ein bestehendes System integrieren?

Ja, bei Produkten nach Anhang I mit eigener Marktüberwachung und bei Finanzinstituten mit bestehender Aufsicht (Art. 72 Abs. 4). Abschnitt 7 nennt dann das System.

Keine Cookies!

Dieses Wiki sammelt nichts, bäckt nichts und lässt nichts bei dir. Deshalb gibt es auch nichts einzuwilligen. Mehr Datenschutz geht nicht.