Ein Prognosemodell, das bei der Freigabe alle Schwellen erfüllt hat, kann ein Jahr später schlechter treffen, weil sich die Daten im Einsatz verändert haben. Art. 72 verlangt deshalb, dass Anbieter ihre Hochrisiko-Systeme über die gesamte Lebensdauer beobachten. Der Beobachtungsplan legt fest, aus welchen Quellen Daten kommen, wie oft ausgewertet wird und ab wann eine Prüfung beginnt.
Für wen ist die Vorlage gedacht?
Für Anbieter von Hochrisiko-KI-Systemen. Die Betriebsgrenzen stehen im KI-Verzeichnis; die Reaktion auf einen schwerwiegenden Vorfall regelt die Vorlage zur Vorfallmeldung.
Vorlage: Beobachtungsplan
Dokumentenkontrolle
Eigentümer: [RICHTLINIEN_EIGENTÜMER_ROLLE, z. B. KI-beauftragte Person]
Genehmigt von: [GENEHMIGER_NAME_UND_ROLLE]
Version: [VERSION]
Gültig ab: [GÜLTIGKEITSDATUM]
Nächste Überprüfung: [NÄCHSTES_ÜBERPRÜFUNGSDATUM]
KI-Compliance-Starter-Kit. Vorlage für den Beobachtungsplan eines Hochrisiko-KI-Systems nach Art. 72 und Anhang IV Nr. 9 der Verordnung (EU) 2024/1689. Je System wird ein Plan geführt. Die Abschnitte 1, 6 und 8 tragen feste Texte; die übrigen legt die Organisation je System fest.
| Angabe | Eintrag |
|---|---|
| KI-System | [SYSTEM] |
| Kennung | [KENNUNG] |
| Beginn der Beobachtung | [DATUM DES INVERKEHRBRINGENS ODER DER INBETRIEBNAHME] |
1. Überwachungsumfang
Überwacht werden alle anwendbaren Konformitätsanforderungen nach Kapitel III Abschnitt 2 (Genauigkeit, Robustheit und Sicherheit, Verzerrung und Fairness, menschliche Aufsicht, Datenqualität, Transparenz).
2. Datenquellen
Beobachtungsdaten werden aus den folgenden Kanälen erhoben (Zutreffendes stehen lassen):
- Nutzer- und Betroffenenrückmeldungen
- Betriebs- und Leistungsprotokolle (Logs)
- Fehler- und Vorfallmeldungen
- Technische Modellüberwachung (Drift-Erkennung)
- Rückmeldungen der Betreiber
- Marktbeobachtung und Behördenhinweise
- Ergebnisse der menschlichen Aufsicht
3. Auswertungsturnus und Verantwortung
| Angabe | Eintrag |
|---|---|
| Auswertungsturnus | [Fortlaufend, monatlich, vierteljährlich, halbjährlich oder jährlich] |
| Verantwortliche Person | [NAME_UND_ROLLE] |
Umfang und Turnus sind verhältnismäßig zu Technologie, Risikoklasse, Zweckbestimmung und vorhersehbarer Fehlanwendung; für Hochrisiko-Systeme ist der Turnus enger als für Systeme mit geringerem Risiko.
4. Auslösekriterium
Ab welchem Beobachtungsergebnis eine Prüfung beginnt, bestimmen zwei Angaben zusammen.
Betriebsgrenzen (aus dem KI-Verzeichnis):
| Kennzahl | Grenze | Messweise |
|---|---|---|
| [z. B. Genauigkeit im Monatsmittel] | [z. B. unter 0,90] | [MESSWEISE] |
Ereignisse, die für sich genommen auslösen (Zutreffendes stehen lassen): Auffälligkeit im Betrieb; Beinahe-Vorfall; Rückmeldung aus dem Einsatz; Beschwerde; anderes Ereignis: [EREIGNIS].
5. Grenzen der Beobachtung
| Angabe | Eintrag |
|---|---|
| Einschränkungen | [z. B. kein Zugriff des Anbieters auf die Protokolle, Betrieb in der Umgebung des Betreibers, Einsatz ohne Verbindung zum Anbieter, Datenschutz schränkt die Erhebung ein, nur zusammengefasste Daten verfügbar] |
| Ausgleich | [womit die Einschränkung ausgeglichen wird] |
| Zugriff auf Protokolle | [vollständig, teilweise oder kein Zugriff] |
| Mitwirkung der Betreiber nötig | [JA_ODER_NEIN; wenn ja, welche Angaben die Gebrauchsanweisung von ihnen verlangt] |
6. Reaktion bei Auffälligkeit
Bei einer Auffälligkeit greift die verpflichtende Reaktionskette: Korrekturmaßnahme, Neubewertung des Risikos (Art. 9), Aktualisierung der technischen Dokumentation und Meldung schwerwiegender Vorfälle (Art. 73).
7. Bestehendes Überwachungssystem
[Nein, eigenständige Beobachtung] oder [Ja, in ein bestehendes sektorales Beobachtungssystem integriert: SYSTEM, z. B. Medizinprodukte-Vigilanz nach MDR oder Finanzaufsicht] (Art. 72 Abs. 4).
8. Aufbewahrung und Einbindung
Dieser Plan ist Bestandteil der technischen Dokumentation (Anhang IV Nr. 9) und wird zehn Jahre aufbewahrt (Art. 18).
Document control
Owner: [POLICY_OWNER_ROLE, e.g. AI Officer]
Approved by: [APPROVER_NAME_AND_ROLE]
Version: [VERSION]
Effective date: [EFFECTIVE_DATE]
Next review: [NEXT_REVIEW_DATE]
AI Compliance Starter Kit. Template for the post-market monitoring plan of a high-risk AI system under Art. 72 and Annex IV point 9 of Regulation (EU) 2024/1689. One plan is kept per system. Sections 1, 6 and 8 carry fixed texts; the organisation sets the others per system.
| Item | Entry |
|---|---|
| AI system | [SYSTEM] |
| Identifier | [IDENTIFIER] |
| Start of monitoring | [DATE OF PLACING ON THE MARKET OR PUTTING INTO SERVICE] |
1. Monitoring scope
All applicable requirements under Chapter III Section 2 are monitored (accuracy, robustness and security, bias and fairness, human oversight, data quality, transparency).
2. Data sources
Monitoring data is collected from the following channels (keep what applies):
- User and data-subject feedback
- Operation and performance logs
- Error and incident reports
- Technical model monitoring (drift detection)
- Deployer feedback
- Market surveillance and authority notices
- Results of human oversight
3. Evaluation cadence and responsibility
| Item | Entry |
|---|---|
| Evaluation cadence | [continuous, monthly, quarterly, semi-annually or annually] |
| Responsible person | [NAME_AND_ROLE] |
Scope and cadence are proportionate to the technology, risk class, intended purpose and foreseeable misuse; for high-risk systems the cadence is tighter than for systems with lower risk.
4. Trigger criterion
Two entries together determine from which monitoring result a review starts.
Operating margins (from the AI register):
| Metric | Margin | Measurement |
|---|---|---|
| [e.g. accuracy in the monthly average] | [e.g. below 0.90] | [MEASUREMENT] |
Events that trigger on their own (keep what applies): anomaly in operation; near miss; feedback from use; complaint; other event: [EVENT].
5. Limits of monitoring
| Item | Entry |
|---|---|
| Limitations | [e.g. provider has no access to the logs, operation in the deployer's environment, use without connection to the provider, data protection limits collection, only aggregated data available] |
| Compensation | [how the limitation is compensated] |
| Access to logs | [full, partial or no access] |
| Deployer involvement needed | [YES_OR_NO; if yes, which details the instructions for use require from them] |
6. Response to anomalies
When an anomaly occurs, the mandatory response chain applies: corrective action, re-assessment of the risk (Art. 9), update of the technical documentation, and reporting of serious incidents (Art. 73).
7. Existing monitoring system
[No, standalone monitoring] or [Yes, integrated into an existing sectoral monitoring system: SYSTEM, e.g. medical device vigilance under MDR or financial supervision] (Art. 72(4)).
8. Retention and integration
This plan is part of the technical documentation (Annex IV point 9) and is retained for ten years (Art. 18).
Quellen
- Verordnung (EU) 2024/1689 (EUR-Lex): KI-Verordnung, Art. 72 und Anhang IV Nr. 9