An insurer uses an AI system that assesses applications for life and health insurance. An error hits above all the people who are refused a contract or offered one at a higher price. The fundamental rights impact assessment checks before deployment which groups are affected, which harms are possible and which oversight and remedies are in place.
Who is the template for?
For deployers carrying out a fundamental rights impact assessment as a legal duty, and for any organisation with an AI management system under ISO/IEC 42001 that wants to keep its impact assessments in a uniform way. The groups, impact areas and societal fields are listed as choices in the template.
Template: Fundamental Rights Impact Assessment
Dokumentenkontrolle
Eigentümer: [RICHTLINIEN_EIGENTÜMER_ROLLE, z. B. KI-beauftragte Person]
Genehmigt von: [GENEHMIGER_NAME_UND_ROLLE]
Version: [VERSION]
Gültig ab: [GÜLTIGKEITSDATUM]
Nächste Überprüfung: [NÄCHSTES_ÜBERPRÜFUNGSDATUM]
KI-Compliance-Starter-Kit. Vorlage für die Folgenabschätzung eines KI-Systems. Sie deckt die Grundrechte-Folgenabschätzung nach Art. 27 der Verordnung (EU) 2024/1689 ab, wo diese als Rechtspflicht greift, und die Folgenabschätzung nach ISO/IEC 42001 A.5 für alle übrigen Systeme. Die Abschnitte 2 bis 7 folgen Art. 27 Abs. 1 Buchst. a bis f. Je System wird eine eigene Abschätzung geführt; eine erneute Durchführung erzeugt eine neue Version.
1. System und Anlass
| Angabe | Eintrag |
|---|---|
| KI-System | [SYSTEM] |
| Kennung im KI-Verzeichnis | [KENNUNG] |
| Rolle der Organisation | [ROLLE, z. B. Betreiber] |
| Rechtspflicht nach Art. 27 | [JA_ODER_NEIN] |
| Grund der Rechtspflicht | [z. B. Einrichtung des öffentlichen Rechts, öffentliche Dienstleistung, Anhang III Nr. 5 Buchst. b oder c] |
| Erste Verwendung am | [DATUM] |
| Stützt sich auf | [z. B. Folgenabschätzung des Anbieters oder eines vergleichbaren Systems, sonst „eigene Abschätzung“] |
Eine Grundrechte-Folgenabschätzung als Rechtspflicht führen Betreiber durch, die Einrichtungen des öffentlichen Rechts sind oder als private Einrichtungen öffentliche Dienste erbringen, wenn sie ein Hochrisiko-KI-System nach Art. 6 Abs. 2 einsetzen (ausgenommen Anhang III Nr. 2), sowie Betreiber von Systemen nach Anhang III Nr. 5 Buchst. b und c. Die Abschätzung wird vor der ersten Verwendung durchgeführt und aktualisiert, sobald sich eine der Angaben ändert (Art. 27 Abs. 2).
2. Einsatzprozesse (Art. 27 Abs. 1 Buchst. a)
[Beschreibung der Prozesse, in denen das System im Einklang mit seiner Zweckbestimmung eingesetzt wird: welcher Ablauf, welche Entscheidungen es vorbereitet oder unterstützt, wer mit den Ergebnissen arbeitet.]
3. Zeitraum und Häufigkeit (Art. 27 Abs. 1 Buchst. b)
[Zeitraum, in dem das System eingesetzt werden soll, und Häufigkeit der Verwendung, z. B. „ab [DATUM] unbefristet, rund [ANZAHL] Vorgänge je Monat“.]
4. Betroffene Personengruppen und Folgenbereiche (Art. 27 Abs. 1 Buchst. c)
Je Gruppe wird festgehalten, ob sie schutzbedürftig ist, welche Folgenbereiche berührt sind und welcher Nutzen für sie erwartet wird. Schutzbedürftig sind insbesondere Beschäftigte, Kinder und Minderjährige, Menschen mit Beeinträchtigungen und ältere Menschen.
| Gruppe | Schutzbedürftig | Berührte Folgenbereiche | Erwarteter Nutzen |
|---|---|---|---|
| [z. B. Kundinnen und Kunden] | [JA_ODER_NEIN] | [Auswahl aus der Liste unten] | [NUTZEN] |
| [z. B. Ältere Menschen] | Ja | [Auswahl aus der Liste unten] | [NUTZEN] |
Gruppen zur Auswahl: Beschäftigte; Bewerberinnen und Bewerber; Kundinnen und Kunden; Lieferanten und Partner; Besucherinnen und Besucher; Kinder und Minderjährige; Menschen mit Beeinträchtigungen; ältere Menschen; allgemeine Öffentlichkeit.
Folgenbereiche zur Auswahl: Fairness; Rechenschaftspflicht; Transparenz und Erklärbarkeit; Sicherheit und Datenschutz; Betriebssicherheit und Gesundheit; finanzielle Folgen; Barrierefreiheit; Menschenrechte.
5. Schadensrisiken (Art. 27 Abs. 1 Buchst. d)
| Schadensrisiko | Betroffene Gruppe | Umstände mit Risikopotenzial | Ausmaß | Wahrscheinlichkeit |
|---|---|---|---|---|
| [z. B. ungerechtfertigte Benachteiligung] | [GRUPPE] | [z. B. unvollständige Eingabedaten] | [1 BIS 5] | [1 BIS 5] |
Berücksichtigt werden die Informationen des Anbieters nach Art. 13. Jede Folge oberhalb der Akzeptanzschwelle geht als Risikoszenario in das KI-Risikoregister.
Vorhersehbare Fehlanwendung: [Wie das System entgegen seiner Zweckbestimmung genutzt werden könnte, und das zugeordnete Risikoszenario im KI-Risikoregister.]
6. Gesellschaftliche Wirkung (ISO/IEC 42001 A.5.5)
| Wirkungsfeld | Berührt | Beschreibung |
|---|---|---|
| Ökologische Nachhaltigkeit | [JA_ODER_NEIN] | [BESCHREIBUNG] |
| Wirtschaftliche Folgen | [JA_ODER_NEIN] | [BESCHREIBUNG] |
| Staat und Verwaltung | [JA_ODER_NEIN] | [BESCHREIBUNG] |
| Gesundheit und Betriebssicherheit | [JA_ODER_NEIN] | [BESCHREIBUNG] |
| Normen, Kultur und Werte | [JA_ODER_NEIN] | [BESCHREIBUNG] |
7. Menschliche Aufsicht (Art. 27 Abs. 1 Buchst. e)
[Umsetzung der Maßnahmen der menschlichen Aufsicht nach der Betriebsanleitung: aufsichtsführende Person, ihre Kompetenz und Befugnis, wie sie Ergebnisse prüft, übersteuert und das System anhält.]
8. Maßnahmen bei Eintritt der Risiken (Art. 27 Abs. 1 Buchst. f)
- Mindernde Maßnahmen: [Maßnahmen, die die Risiken aus Abschnitt 5 verringern, mit Verweis auf den KI-Risikobehandlungsplan]
- Interne Unternehmensführung: [Wer entscheidet, wenn ein Risiko eintritt; Eskalation an die oberste Leitung]
- Beschwerdeweg: [Wie betroffene Personen Beschwerde einlegen und eine Erläuterung nach Art. 86 verlangen]
9. Datenschutz-Folgenabschätzung (Art. 27 Abs. 4)
[Verweis auf die Datenschutz-Folgenabschätzung der Verarbeitung, in die das System einfließt, mit ihrem Stand. Was dort bereits geführt wird, wird hier nicht erneut erhoben; diese Abschätzung ergänzt die Sicht der Grundrechte.]
10. Mitteilung an die Marktüberwachungsbehörde (Art. 27 Abs. 3)
| Angabe | Eintrag |
|---|---|
| Mitteilung erforderlich | [JA_ODER_NEIN] |
| Grund, falls nicht erforderlich | [z. B. Ausnahme nach Art. 46 Abs. 1 oder Rückgriff auf eine bestehende Abschätzung nach Art. 27 Abs. 2] |
| Mitgeteilt am | [DATUM] |
| Zeichen der Mitteilung | [ZEICHEN] |
Die Mitteilung geht an die Marktüberwachungsbehörde, die auch für die Meldung schwerwiegender Vorfälle zuständig ist, mit dem ausgefüllten Muster des Büros für Künstliche Intelligenz (Art. 27 Abs. 5).
11. Ergebnis und Freigabe
| Angabe | Eintrag |
|---|---|
| Ergebnis | [z. B. Einsatz freigegeben, Einsatz nach Umsetzung der Maßnahmen, Einsatz eingestellt] |
| Durchgeführt durch | [NAME_UND_ROLLE] |
| Freigegeben durch | [NAME_UND_ROLLE, bei Folgen oberhalb der Akzeptanzschwelle die oberste Leitung] |
| Abgeschlossen am | [DATUM] |
| Nächste Überprüfung | [DATUM, spätestens nach einem Jahr] |
Die Abschätzung wird als Aufzeichnung je System [AUFBEWAHRUNGSFRIST, z. B. 10 Jahre] aufbewahrt.
Document control
Owner: [POLICY_OWNER_ROLE, e.g. AI Officer]
Approved by: [APPROVER_NAME_AND_ROLE]
Version: [VERSION]
Effective date: [EFFECTIVE_DATE]
Next review: [NEXT_REVIEW_DATE]
AI Compliance Starter Kit. Template for the impact assessment of an AI system. It covers the fundamental rights impact assessment under Art. 27 of Regulation (EU) 2024/1689 where it applies as a legal duty, and the impact assessment under ISO/IEC 42001 A.5 for all other systems. Sections 2 to 7 follow Art. 27(1)(a) to (f). One assessment is kept per system; a repeated assessment creates a new version.
1. System and occasion
| Item | Entry |
|---|---|
| AI system | [SYSTEM] |
| Identifier in the AI register | [IDENTIFIER] |
| Role of the organisation | [ROLE, e.g. deployer] |
| Legal duty under Art. 27 | [YES_OR_NO] |
| Reason for the legal duty | [e.g. body governed by public law, public service, Annex III point 5(b) or (c)] |
| First use on | [DATE] |
| Builds on | [e.g. impact assessment of the provider or of a comparable system, otherwise "own assessment"] |
A fundamental rights impact assessment is a legal duty for deployers that are bodies governed by public law or private entities providing public services when they deploy a high-risk AI system under Art. 6(2) (except Annex III point 2), and for deployers of systems under Annex III point 5(b) and (c). The assessment is carried out before the first use and updated as soon as any of the elements changes (Art. 27(2)).
2. Processes of use (Art. 27(1)(a))
[Description of the processes in which the system is used in line with its intended purpose: which workflow, which decisions it prepares or supports, who works with the results.]
3. Period and frequency (Art. 27(1)(b))
[Period of time within which the system is intended to be used, and frequency of use, e.g. "from [DATE], open-ended, around [NUMBER] cases per month".]
4. Affected groups of persons and impact areas (Art. 27(1)(c))
For each group, record whether it is vulnerable, which impact areas are affected and which benefit is expected for it. Vulnerable groups include in particular employees, children and minors, people with disabilities and older people.
| Group | Vulnerable | Impact areas affected | Expected benefit |
|---|---|---|---|
| [e.g. Customers] | [YES_OR_NO] | [selection from the list below] | [BENEFIT] |
| [e.g. Older people] | Yes | [selection from the list below] | [BENEFIT] |
Groups to choose from: employees; applicants; customers; suppliers and partners; visitors; children and minors; people with disabilities; older people; general public.
Impact areas to choose from: fairness; accountability; transparency and explainability; security and privacy; safety and health; financial consequences; accessibility; human rights.
5. Risks of harm (Art. 27(1)(d))
| Risk of harm | Group affected | Circumstances that may lead to risks | Impact | Likelihood |
|---|---|---|---|---|
| [e.g. unjustified disadvantage] | [GROUP] | [e.g. incomplete input data] | [1 TO 5] | [1 TO 5] |
The information provided by the provider under Art. 13 is taken into account. Every impact above the acceptance threshold is entered as a risk scenario in the AI risk register.
Reasonably foreseeable misuse: [How the system could be used contrary to its intended purpose, and the risk scenario assigned in the AI risk register.]
6. Societal impact (ISO/IEC 42001 A.5.5)
| Societal field | Affected | Description |
|---|---|---|
| Environmental sustainability | [YES_OR_NO] | [DESCRIPTION] |
| Economic effects | [YES_OR_NO] | [DESCRIPTION] |
| Government and public administration | [YES_OR_NO] | [DESCRIPTION] |
| Health and safety | [YES_OR_NO] | [DESCRIPTION] |
| Norms, culture and values | [YES_OR_NO] | [DESCRIPTION] |
7. Human oversight (Art. 27(1)(e))
[Implementation of the human oversight measures according to the instructions for use: the person exercising oversight, their competence and authority, how they review results, override them and stop the system.]
8. Measures if the risks materialise (Art. 27(1)(f))
- Mitigating measures: [measures that reduce the risks from section 5, with reference to the AI risk treatment plan]
- Internal governance: [who decides when a risk materialises; escalation to top management]
- Complaint mechanism: [how affected persons lodge a complaint and request an explanation under Art. 86]
9. Data protection impact assessment (Art. 27(4))
[Reference to the data protection impact assessment of the processing the system feeds into, with its status. What is recorded there is not collected again; this assessment adds the fundamental rights perspective.]
10. Notification to the market surveillance authority (Art. 27(3))
| Item | Entry |
|---|---|
| Notification required | [YES_OR_NO] |
| Reason, if not required | [e.g. exemption under Art. 46(1) or reliance on an existing assessment under Art. 27(2)] |
| Notified on | [DATE] |
| Reference of the notification | [REFERENCE] |
The notification goes to the market surveillance authority that is also responsible for reporting serious incidents, using the completed template of the AI Office (Art. 27(5)).
11. Result and approval
| Item | Entry |
|---|---|
| Result | [e.g. use approved, use after the measures are implemented, use discontinued] |
| Carried out by | [NAME_AND_ROLE] |
| Approved by | [NAME_AND_ROLE, top management for impacts above the acceptance threshold] |
| Completed on | [DATE] |
| Next review | [DATE, at the latest after one year] |
The assessment is retained as a record per system for [RETENTION_PERIOD, e.g. 10 years].
Sources
- Regulation (EU) 2024/1689 (EUR-Lex): AI Act, Art. 13, 26, 27 and 46, Annex III point 5
- ISO/IEC 42001:2023 (ISO): Annex A, controls A.5.2 to A.5.5