A forecasting model that met all thresholds at release can perform worse a year later because the data in use has changed. Art. 72 therefore requires providers to monitor their high-risk systems throughout their lifetime. The monitoring plan sets out which sources data comes from, how often it is evaluated and from when a review starts.
Who is the template for?
For providers of high-risk AI systems. The operating margins are kept in the AI register; the response to a serious incident is governed by the incident report template.
Template: Post-Market Monitoring Plan
Dokumentenkontrolle
Eigentümer: [RICHTLINIEN_EIGENTÜMER_ROLLE, z. B. KI-beauftragte Person]
Genehmigt von: [GENEHMIGER_NAME_UND_ROLLE]
Version: [VERSION]
Gültig ab: [GÜLTIGKEITSDATUM]
Nächste Überprüfung: [NÄCHSTES_ÜBERPRÜFUNGSDATUM]
KI-Compliance-Starter-Kit. Vorlage für den Beobachtungsplan eines Hochrisiko-KI-Systems nach Art. 72 und Anhang IV Nr. 9 der Verordnung (EU) 2024/1689. Je System wird ein Plan geführt. Die Abschnitte 1, 6 und 8 tragen feste Texte; die übrigen legt die Organisation je System fest.
| Angabe | Eintrag |
|---|---|
| KI-System | [SYSTEM] |
| Kennung | [KENNUNG] |
| Beginn der Beobachtung | [DATUM DES INVERKEHRBRINGENS ODER DER INBETRIEBNAHME] |
1. Überwachungsumfang
Überwacht werden alle anwendbaren Konformitätsanforderungen nach Kapitel III Abschnitt 2 (Genauigkeit, Robustheit und Sicherheit, Verzerrung und Fairness, menschliche Aufsicht, Datenqualität, Transparenz).
2. Datenquellen
Beobachtungsdaten werden aus den folgenden Kanälen erhoben (Zutreffendes stehen lassen):
- Nutzer- und Betroffenenrückmeldungen
- Betriebs- und Leistungsprotokolle (Logs)
- Fehler- und Vorfallmeldungen
- Technische Modellüberwachung (Drift-Erkennung)
- Rückmeldungen der Betreiber
- Marktbeobachtung und Behördenhinweise
- Ergebnisse der menschlichen Aufsicht
3. Auswertungsturnus und Verantwortung
| Angabe | Eintrag |
|---|---|
| Auswertungsturnus | [Fortlaufend, monatlich, vierteljährlich, halbjährlich oder jährlich] |
| Verantwortliche Person | [NAME_UND_ROLLE] |
Umfang und Turnus sind verhältnismäßig zu Technologie, Risikoklasse, Zweckbestimmung und vorhersehbarer Fehlanwendung; für Hochrisiko-Systeme ist der Turnus enger als für Systeme mit geringerem Risiko.
4. Auslösekriterium
Ab welchem Beobachtungsergebnis eine Prüfung beginnt, bestimmen zwei Angaben zusammen.
Betriebsgrenzen (aus dem KI-Verzeichnis):
| Kennzahl | Grenze | Messweise |
|---|---|---|
| [z. B. Genauigkeit im Monatsmittel] | [z. B. unter 0,90] | [MESSWEISE] |
Ereignisse, die für sich genommen auslösen (Zutreffendes stehen lassen): Auffälligkeit im Betrieb; Beinahe-Vorfall; Rückmeldung aus dem Einsatz; Beschwerde; anderes Ereignis: [EREIGNIS].
5. Grenzen der Beobachtung
| Angabe | Eintrag |
|---|---|
| Einschränkungen | [z. B. kein Zugriff des Anbieters auf die Protokolle, Betrieb in der Umgebung des Betreibers, Einsatz ohne Verbindung zum Anbieter, Datenschutz schränkt die Erhebung ein, nur zusammengefasste Daten verfügbar] |
| Ausgleich | [womit die Einschränkung ausgeglichen wird] |
| Zugriff auf Protokolle | [vollständig, teilweise oder kein Zugriff] |
| Mitwirkung der Betreiber nötig | [JA_ODER_NEIN; wenn ja, welche Angaben die Gebrauchsanweisung von ihnen verlangt] |
6. Reaktion bei Auffälligkeit
Bei einer Auffälligkeit greift die verpflichtende Reaktionskette: Korrekturmaßnahme, Neubewertung des Risikos (Art. 9), Aktualisierung der technischen Dokumentation und Meldung schwerwiegender Vorfälle (Art. 73).
7. Bestehendes Überwachungssystem
[Nein, eigenständige Beobachtung] oder [Ja, in ein bestehendes sektorales Beobachtungssystem integriert: SYSTEM, z. B. Medizinprodukte-Vigilanz nach MDR oder Finanzaufsicht] (Art. 72 Abs. 4).
8. Aufbewahrung und Einbindung
Dieser Plan ist Bestandteil der technischen Dokumentation (Anhang IV Nr. 9) und wird zehn Jahre aufbewahrt (Art. 18).
Document control
Owner: [POLICY_OWNER_ROLE, e.g. AI Officer]
Approved by: [APPROVER_NAME_AND_ROLE]
Version: [VERSION]
Effective date: [EFFECTIVE_DATE]
Next review: [NEXT_REVIEW_DATE]
AI Compliance Starter Kit. Template for the post-market monitoring plan of a high-risk AI system under Art. 72 and Annex IV point 9 of Regulation (EU) 2024/1689. One plan is kept per system. Sections 1, 6 and 8 carry fixed texts; the organisation sets the others per system.
| Item | Entry |
|---|---|
| AI system | [SYSTEM] |
| Identifier | [IDENTIFIER] |
| Start of monitoring | [DATE OF PLACING ON THE MARKET OR PUTTING INTO SERVICE] |
1. Monitoring scope
All applicable requirements under Chapter III Section 2 are monitored (accuracy, robustness and security, bias and fairness, human oversight, data quality, transparency).
2. Data sources
Monitoring data is collected from the following channels (keep what applies):
- User and data-subject feedback
- Operation and performance logs
- Error and incident reports
- Technical model monitoring (drift detection)
- Deployer feedback
- Market surveillance and authority notices
- Results of human oversight
3. Evaluation cadence and responsibility
| Item | Entry |
|---|---|
| Evaluation cadence | [continuous, monthly, quarterly, semi-annually or annually] |
| Responsible person | [NAME_AND_ROLE] |
Scope and cadence are proportionate to the technology, risk class, intended purpose and foreseeable misuse; for high-risk systems the cadence is tighter than for systems with lower risk.
4. Trigger criterion
Two entries together determine from which monitoring result a review starts.
Operating margins (from the AI register):
| Metric | Margin | Measurement |
|---|---|---|
| [e.g. accuracy in the monthly average] | [e.g. below 0.90] | [MEASUREMENT] |
Events that trigger on their own (keep what applies): anomaly in operation; near miss; feedback from use; complaint; other event: [EVENT].
5. Limits of monitoring
| Item | Entry |
|---|---|
| Limitations | [e.g. provider has no access to the logs, operation in the deployer's environment, use without connection to the provider, data protection limits collection, only aggregated data available] |
| Compensation | [how the limitation is compensated] |
| Access to logs | [full, partial or no access] |
| Deployer involvement needed | [YES_OR_NO; if yes, which details the instructions for use require from them] |
6. Response to anomalies
When an anomaly occurs, the mandatory response chain applies: corrective action, re-assessment of the risk (Art. 9), update of the technical documentation, and reporting of serious incidents (Art. 73).
7. Existing monitoring system
[No, standalone monitoring] or [Yes, integrated into an existing sectoral monitoring system: SYSTEM, e.g. medical device vigilance under MDR or financial supervision] (Art. 72(4)).
8. Retention and integration
This plan is part of the technical documentation (Annex IV point 9) and is retained for ten years (Art. 18).
Sources
- Regulation (EU) 2024/1689 (EUR-Lex): AI Act, Art. 72 and Annex IV point 9