Bevor ein Hochrisiko-KI-System auf den Markt kommt, muss der Anbieter nachweisen können, wie es gebaut, getestet und überwacht wird. Die notifizierte Stelle oder die eigene interne Kontrolle prüft diesen Nachweis gegen Anhang IV. Die technische Dokumentation ist dieser Nachweis: neun Abschnitte von der Zweckbestimmung bis zur Beobachtung nach dem Inverkehrbringen.
Für wen ist die Vorlage gedacht?
Für Anbieter von Hochrisiko-KI-Systemen und für Organisationen, die nach Art. 25 zur Anbieterin werden. Die KI-Anbieterrichtlinie legt die Regeln fest; die technische Dokumentation hält den Stand je System fest.
Vorlage: Technische Dokumentation
Dokumentenkontrolle
Eigentümer: [RICHTLINIEN_EIGENTÜMER_ROLLE, z. B. KI-beauftragte Person]
Genehmigt von: [GENEHMIGER_NAME_UND_ROLLE]
Version: [VERSION]
Gültig ab: [GÜLTIGKEITSDATUM]
Nächste Überprüfung: [NÄCHSTES_ÜBERPRÜFUNGSDATUM]
KI-Compliance-Starter-Kit. Vorlage für die technische Dokumentation eines Hochrisiko-KI-Systems nach Art. 11 und Anhang IV der Verordnung (EU) 2024/1689. Die Gliederung folgt den Nummern 1 bis 9 des Anhangs IV; jeder Abschnitt nennt die Buchstaben, die er abdeckt. Die Dokumentation wird vor dem Inverkehrbringen oder der Inbetriebnahme erstellt, aktuell gehalten und zehn Jahre aufbewahrt (Art. 18). Kleine und mittlere Unternehmen dürfen die Angaben in vereinfachter Form vorlegen (Art. 11 Abs. 1).
| Angabe | Eintrag |
|---|---|
| KI-System | [SYSTEM] |
| Eindeutige Kennung | [KENNUNG] |
| Version | [VERSION_DES_SYSTEMS] |
| Anbieter | [IHR_ORGANISATIONSNAME], [ANSCHRIFT] |
| Stand der Dokumentation | [DATUM] |
1. Allgemeine Beschreibung des KI-Systems
1.1 Zweckbestimmung und Funktionsweise
Anhang IV Nr. 1 Buchst. a.
- Zweckbestimmung: [wofür das System bestimmt ist, in welchem Einsatzkontext, für welche Nutzergruppen]
- Betroffene Personen: [wen die Ergebnisse betreffen]
- Funktionsweise: [was das System mit den Eingaben tut, z. B. ordnet Eingaben Kategorien zu und gibt einen Konfidenzwert aus]
- Vorhersehbare Fehlanwendung: [welche Nutzung außerhalb der Zweckbestimmung vernünftigerweise vorhersehbar ist]
1.2 Einstufungsgrundlage
- Risikoklasse: [z. B. hohes Risiko]
- Grundlage: [z. B. Anhang III Nr. 5 Buchst. c oder Sicherheitsbauteil eines Produkts nach Anhang I]
- Rolle der Organisation: [Anbieter, Anbieter und Betreiber]
1.3 Anbieter, Versionen und Wertschöpfungskette
Anhang IV Nr. 1 Buchst. a bis c.
- Versionen: [Versionsstand des Systems und Bezug zu früheren Versionen]
- Zusammenwirken mit anderer Hard- und Software und anderen KI-Systemen: [Schnittstellen, eingebundene Modelle]
- Bestandteile Dritter: [zugekaufte Modelle, Werkzeuge, Dienste und Komponenten]
| Lieferant | Art des Bestandteils | Bezeichnung | Vereinbarung nach Art. 25 Abs. 4 | Wiedervorlage |
|---|---|---|---|---|
| [LIEFERANT] | [z. B. KI-Modell mit allgemeinem Verwendungszweck] | [BEZEICHNUNG] | [z. B. vereinbart, in Verhandlung, frei und quelloffen ausgenommen] | [DATUM] |
1.4 Bereitstellung, Aktualisierung und Zielhardware
Anhang IV Nr. 1 Buchst. c bis e.
- Formen des Inverkehrbringens: [z. B. Software als Dienst, Programmierschnittstelle, herunterladbares Paket]
- Aktualisierungen: [Anforderungen an Software- und Firmware-Aktualisierungen]
- Zielhardware: [Hardware, auf der das System laufen soll, oder „serverseitig beim Anbieter“]
1.5 Benutzeroberfläche und Gebrauchsanweisung
Anhang IV Nr. 1 Buchst. f bis h.
- Benutzeroberfläche: [Beschreibung der Oberfläche für den Betreiber]
- Abbildungen: [bei Produktbestandteilen: Fotos oder Abbildungen der äußeren Merkmale, Kennzeichnung, innerer Aufbau]
- Gebrauchsanweisung: [Fundstelle und Version der Gebrauchsanweisung nach Art. 13]
2. Detaillierte Beschreibung der Bestandteile und des Entwicklungsprozesses
2.1 Methoden und Entwicklungsschritte
Anhang IV Nr. 2 Buchst. a und b.
- Entwicklungsweg: [Methoden und Schritte, einschließlich vortrainierter Systeme und Werkzeuge Dritter und wie sie verwendet, integriert oder verändert wurden]
- Entwurfsspezifikationen: [allgemeine Logik, Algorithmen, wesentliche Entwurfsentscheidungen mit Begründung und Annahmen, auch zu den Personen, für die das System bestimmt ist]
- Optimierungsziel und Abwägungen: [was das System optimieren soll, erwartete Ausgabequalität, technische Abwägungen zur Erfüllung von Kapitel III Abschnitt 2]
2.2 Systemarchitektur
Anhang IV Nr. 2 Buchst. c.
[Aufbau der Softwarebestandteile, ihr Zusammenwirken und ihre Einbindung in die Gesamtverarbeitung; Rechenressourcen für Entwicklung, Training, Test und Validierung.]
2.3 Daten und Datengovernance (Art. 10)
Anhang IV Nr. 2 Buchst. d.
| Datensatz | Zweck (Training, Validierung, Test) | Herkunft | Umfang und Merkmale | Aufbereitung (Kennzeichnung, Bereinigung) | Prüfung auf Verzerrung |
|---|---|---|---|---|---|
| [DATENSATZ] | [ZWECK] | [HERKUNFT] | [UMFANG] | [AUFBEREITUNG] | [ERGEBNIS] |
2.4 Menschliche Aufsicht und Automation Bias
Anhang IV Nr. 2 Buchst. e.
[Bewertung der Maßnahmen der menschlichen Aufsicht nach Art. 14, einschließlich der technischen Vorkehrungen, die den Betreibern die Auslegung der Ausgaben erleichtern, und der Vorkehrungen gegen übermäßiges Vertrauen in die Ausgabe.]
2.5 Validierungs- und Testverfahren
Anhang IV Nr. 2 Buchst. g.
| Testart | Testdaten | Kennzahl | Abnahmeschwelle | Ergebnis | Protokoll (Datum, unterzeichnet von) |
|---|---|---|---|---|---|
| [z. B. Genauigkeit je Altersgruppe] | [TESTDATEN] | [KENNZAHL] | [SCHWELLE] | [ERGEBNIS] | [PROTOKOLL] |
Geprüft werden Genauigkeit, Robustheit und mögliche diskriminierende Auswirkungen, auch in Bezug auf Personen und Gruppen, für die das System bestimmt ist.
2.6 Cybersicherheitsmaßnahmen
Anhang IV Nr. 2 Buchst. h.
[Maßnahmen gegen Datenvergiftung, Modellvergiftung, gezielte Umgehung, Angriffe auf Vertraulichkeit und Modellfehler; Verweis auf eine Cybersicherheitszertifizierung, falls vorhanden (Art. 42 Abs. 2 und 3).]
3. Überwachung, Funktionsweise und Kontrolle
Anhang IV Nr. 3.
3.1 Fähigkeiten, Grenzen und Genauigkeit
- Fähigkeiten und Leistungsgrenzen: [was das System kann und wo seine Grenzen liegen]
- Genauigkeit: [Genauigkeit für bestimmte Personen oder Gruppen und insgesamt erwartete Genauigkeit für die Zweckbestimmung]
- Validiertes Einsatzgebiet: [Einsatzgebiete, für die die Werte gelten]
3.2 Vorhersehbare unbeabsichtigte Ergebnisse und Risikoquellen
[Vorhersehbare unbeabsichtigte Ergebnisse und Quellen von Risiken für Gesundheit, Sicherheit, Grundrechte und Diskriminierung im Hinblick auf die Zweckbestimmung.]
3.3 Menschliche Aufsichtsmaßnahmen
[Maßnahmen der menschlichen Aufsicht nach Art. 14 aus Sicht des Betriebs: wer beaufsichtigt, welche Werkzeuge zur Auslegung bereitstehen, wie das System angehalten wird.]
3.4 Spezifikationen der Eingabedaten
[Anforderungen an die Eingabedaten: Formate, Wertebereiche, Qualität, Repräsentativität für den Einsatzkontext.]
3.5 Protokollierung (Art. 12)
[Welche Ereignisse automatisch protokolliert werden, wo die Protokolle liegen, wer Zugriff hat und wie lange sie aufbewahrt werden.]
4. Eignung der Leistungskennzahlen
Anhang IV Nr. 4.
[Begründung, warum die gewählten Leistungskennzahlen für das konkrete System geeignet sind.]
5. Risikomanagementsystem (Art. 9)
Anhang IV Nr. 5.
[Beschreibung des Risikomanagementsystems nach Art. 9 für dieses System, mit Verweis auf das KI-Risikoregister und den KI-Risikobehandlungsplan (Anlage B).]
6. Relevante Änderungen über den Lebenszyklus
Anhang IV Nr. 6 und Nr. 2 Buchst. f.
| Datum | Version | Änderung | Wesentlich (Art. 43 Abs. 4) | Vorab bestimmt | Folge (z. B. erneute Konformitätsbewertung) |
|---|---|---|---|---|---|
| [DATUM] | [VERSION] | [ÄNDERUNG] | [JA_ODER_NEIN] | [JA_ODER_NEIN] | [FOLGE] |
7. Angewandte harmonisierte Normen
Anhang IV Nr. 7.
| Norm oder gemeinsame Spezifikation | Ausgabe | Angewandt (vollständig, teilweise) | Abgedeckte Anforderungen |
|---|---|---|---|
| [z. B. EN 18286:2026] | [AUSGABE] | [UMFANG] | [z. B. Art. 17 Abs. 1] |
Wo keine harmonisierte Norm angewandt wird: [gewählte Lösung je Anforderung des Kapitels III Abschnitt 2, Grund und Nachweis, einschließlich anderer Normen und technischer Spezifikationen].
8. Kopie der EU-Konformitätserklärung
Anhang IV Nr. 8.
[Kopie der EU-Konformitätserklärung nach Art. 47 oder Verweis auf ihre Fundstelle.]
9. Beobachtung nach dem Inverkehrbringen (Art. 72)
Anhang IV Nr. 9.
[Beschreibung des Systems zur Bewertung der Leistung nach dem Inverkehrbringen, einschließlich des Beobachtungsplans nach Art. 72 Abs. 3: Datenquellen, Auswertungsturnus, Auslösekriterium, verantwortliche Person.]
Anlagen
| Anlage | Inhalt | Fundstelle |
|---|---|---|
| A | Gebrauchsanweisung | [FUNDSTELLE] |
| B | KI-Risikoregister und KI-Risikobehandlungsplan | [FUNDSTELLE] |
| C | Test- und Validierungsprotokolle | [FUNDSTELLE] |
| D | Beobachtungsplan | [FUNDSTELLE] |
Document control
Owner: [POLICY_OWNER_ROLE, e.g. AI Officer]
Approved by: [APPROVER_NAME_AND_ROLE]
Version: [VERSION]
Effective date: [EFFECTIVE_DATE]
Next review: [NEXT_REVIEW_DATE]
AI Compliance Starter Kit. Template for the technical documentation of a high-risk AI system under Art. 11 and Annex IV of Regulation (EU) 2024/1689. The structure follows points 1 to 9 of Annex IV; each section names the points it covers. The documentation is drawn up before placing on the market or putting into service, kept up to date and retained for ten years (Art. 18). Small and medium-sized enterprises may provide the elements in a simplified manner (Art. 11(1)).
| Item | Entry |
|---|---|
| AI system | [SYSTEM] |
| Unique identifier | [IDENTIFIER] |
| Version | [SYSTEM_VERSION] |
| Provider | [YOUR_ORGANISATION_NAME], [ADDRESS] |
| Status of the documentation | [DATE] |
1. General description of the AI system
1.1 Intended purpose and operating principle
Annex IV point 1(a).
- Intended purpose: [what the system is intended for, in which context of use, for which user groups]
- Affected persons: [whom the results affect]
- Operating principle: [what the system does with the inputs, e.g. assigns inputs to categories and returns a confidence value]
- Foreseeable misuse: [which use outside the intended purpose is reasonably foreseeable]
1.2 Classification basis
- Risk class: [e.g. high risk]
- Basis: [e.g. Annex III point 5(c) or safety component of a product under Annex I]
- Role of the organisation: [provider, provider and deployer]
1.3 Provider, versions and value chain
Annex IV point 1(a) to (c).
- Versions: [version of the system and relation to previous versions]
- Interaction with other hardware, software and AI systems: [interfaces, integrated models]
- Third-party components: [procured models, tools, services and components]
| Supplier | Kind of component | Name | Agreement under Art. 25(4) | Next review |
|---|---|---|---|---|
| [SUPPLIER] | [e.g. general-purpose AI model] | [NAME] | [e.g. agreed, under negotiation, free and open-source exempt] | [DATE] |
1.4 Provision, updates and target hardware
Annex IV point 1(c) to (e).
- Forms of placing on the market: [e.g. software as a service, API, downloadable package]
- Updates: [requirements for software and firmware updates]
- Target hardware: [hardware the system is intended to run on, or "server-side at the provider"]
1.5 User interface and instructions for use
Annex IV point 1(f) to (h).
- User interface: [description of the interface for the deployer]
- Illustrations: [for product components: photographs or illustrations of external features, marking, internal layout]
- Instructions for use: [location and version of the instructions for use under Art. 13]
2. Detailed description of the components and the development process
2.1 Methods and development steps
Annex IV point 2(a) and (b).
- Development path: [methods and steps, including pre-trained systems and third-party tools and how they were used, integrated or modified]
- Design specifications: [general logic, algorithms, key design choices with rationale and assumptions, including regarding the persons the system is intended for]
- Optimisation target and trade-offs: [what the system is designed to optimise, expected output quality, technical trade-offs to comply with Chapter III Section 2]
2.2 System architecture
Annex IV point 2(c).
[Structure of the software components, how they build on or feed into each other and integrate into the overall processing; computational resources for development, training, testing and validation.]
2.3 Data and data governance (Art. 10)
Annex IV point 2(d).
| Dataset | Purpose (training, validation, testing) | Provenance | Scope and characteristics | Preparation (labelling, cleaning) | Bias examination |
|---|---|---|---|---|---|
| [DATASET] | [PURPOSE] | [PROVENANCE] | [SCOPE] | [PREPARATION] | [RESULT] |
2.4 Human oversight and automation bias
Annex IV point 2(e).
[Assessment of the human oversight measures under Art. 14, including the technical measures that facilitate the interpretation of outputs by deployers, and the measures against over-reliance on the output.]
2.5 Validation and testing
Annex IV point 2(g).
| Type of test | Test data | Metric | Acceptance threshold | Result | Log (date, signed by) |
|---|---|---|---|---|---|
| [e.g. accuracy per age group] | [TEST_DATA] | [METRIC] | [THRESHOLD] | [RESULT] | [LOG] |
Accuracy, robustness and potentially discriminatory impacts are tested, including with regard to the persons and groups the system is intended for.
2.6 Cybersecurity measures
Annex IV point 2(h).
[Measures against data poisoning, model poisoning, adversarial examples, confidentiality attacks and model flaws; reference to a cybersecurity certification where available (Art. 42(2) and (3)).]
3. Monitoring, functioning and control
Annex IV point 3.
3.1 Capabilities, limits and accuracy
- Capabilities and limitations of performance: [what the system can do and where its limits are]
- Accuracy: [degrees of accuracy for specific persons or groups and the overall expected accuracy for the intended purpose]
- Validated domain: [domains the values apply to]
3.2 Foreseeable unintended outcomes and risk sources
[Foreseeable unintended outcomes and sources of risks to health, safety, fundamental rights and discrimination in view of the intended purpose.]
3.3 Human oversight measures
[Human oversight measures under Art. 14 from the operational view: who oversees, which tools for interpretation are available, how the system is stopped.]
3.4 Input data specifications
[Requirements for the input data: formats, value ranges, quality, representativeness for the context of use.]
3.5 Logging (Art. 12)
[Which events are logged automatically, where the logs are kept, who has access and how long they are retained.]
4. Suitability of the performance metrics
Annex IV point 4.
[Justification of why the chosen performance metrics are appropriate for the specific system.]
5. Risk management system (Art. 9)
Annex IV point 5.
[Description of the risk management system under Art. 9 for this system, with reference to the AI risk register and the AI risk treatment plan (Annex B).]
6. Relevant changes over the lifecycle
Annex IV point 6 and point 2(f).
| Date | Version | Change | Substantial (Art. 43(4)) | Predetermined | Consequence (e.g. new conformity assessment) |
|---|---|---|---|---|---|
| [DATE] | [VERSION] | [CHANGE] | [YES_OR_NO] | [YES_OR_NO] | [CONSEQUENCE] |
7. Applied harmonised standards
Annex IV point 7.
| Standard or common specification | Edition | Applied (in full, in part) | Requirements covered |
|---|---|---|---|
| [e.g. EN 18286:2026] | [EDITION] | [EXTENT] | [e.g. Art. 17(1)] |
Where no harmonised standard is applied: [solution adopted per requirement of Chapter III Section 2, reason and evidence, including other standards and technical specifications].
8. Copy of the EU declaration of conformity
Annex IV point 8.
[Copy of the EU declaration of conformity under Art. 47, or reference to where it is kept.]
9. Post-market monitoring (Art. 72)
Annex IV point 9.
[Description of the system in place to evaluate performance after placing on the market, including the post-market monitoring plan under Art. 72(3): data sources, evaluation cadence, trigger criterion, responsible person.]
Annexes
| Annex | Content | Location |
|---|---|---|
| A | Instructions for use | [LOCATION] |
| B | AI risk register and AI risk treatment plan | [LOCATION] |
| C | Test and validation logs | [LOCATION] |
| D | Post-market monitoring plan | [LOCATION] |
Quellen
- Verordnung (EU) 2024/1689 (EUR-Lex): KI-Verordnung, Art. 11, Art. 18 und Anhang IV