A system for pre-screening job applications disadvantages older applicants, a chatbot states a wrong notice period, a forecasting model loses accuracy after a year. The AI risk register records such hazards per system, rates them by impact and likelihood and shows what remains after treatment.
What does the template contain?
The CSV file has 22 columns and eight example risks for the systems in the AI register, including a risk of the quality management system itself (category “Quality management system”). The scale runs from 1 to 5, the risk score is the product of impact and likelihood; levels: Low up to 5, Medium from 6, High from 12, Critical from 20.
Template: AI Risk Register
| ID | Gefährdung | Kategorie | Systemgruppe | Betroffene KI-Systeme | Schadensausmaß (1-5) | Eintrittswahrscheinlichkeit (1-5) | Risikowert | Risikostufe | Schwere für Betroffene (1-5) | Betroffene schutzbedürftige Gruppen | Abgedeckte Fehlanwendungen | Schadenskategorien | Risikoverantwortliche Person | Restschadensausmaß | Restwahrscheinlichkeit | Restrisikowert | Restrisikostufe | Angenommen | Angenommen durch | Angenommen am | Anmerkung |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| KR-001 | Verzerrung und Diskriminierung (Bias) | KI-System | Personalprozesse | Vorauswahl von Bewerbungen | 4 | 3 | 12 | Hoch | 4 | Menschen mit Beeinträchtigungen; ältere Menschen | Vorschlag als alleinige Grundlage der Absage | Diskriminierung; Verlust einer Beschäftigungschance | Leitung Personal | 3 | 2 | 6 | Mittel | Ja | Leitung Personal | 2026-09-02 | Monatliche Auswertung der Vorschläge nach Gruppen |
| KR-002 | Übermäßige Automatisierung (Automation Bias) | KI-System | Personalprozesse | Vorauswahl von Bewerbungen | 4 | 3 | 12 | Hoch | 4 | – | Übernahme der Reihenfolge ohne eigene Prüfung | Verlust einer Beschäftigungschance | Leitung Personal | 3 | 2 | 6 | Mittel | Ja | Leitung Personal | 2026-09-02 | – |
| KR-003 | Halluzination und fehlerhafte Ausgaben | KI-System | Generative KI | Chatbot im Kundenservice; Textassistent (generative KI) | 3 | 4 | 12 | Hoch | 2 | – | Ungeprüfte Veröffentlichung von KI-Texten | Falsche Auskunft; finanzieller Schaden | Leitung Kundenservice | 2 | 3 | 6 | Mittel | Ja | Leitung Kundenservice | 2026-09-15 | Übergabe an eine Person bei Vertrags- und Zahlungsfragen |
| KR-004 | Angriffe auf vertrauliche Daten | KI-System | Generative KI | Textassistent (generative KI) | 4 | 2 | 8 | Mittel | 3 | – | Eingabe vertraulicher Daten in nicht freigegebene Werkzeuge | Offenlegung personenbezogener Daten | Leitung IT | 3 | 1 | 3 | Niedrig | Ja | Leitung IT | 2026-08-05 | – |
| KR-005 | Unausgereifte Technologie / Modelldrift | KI-System | Versicherungsprozesse | Risikobewertung für Lebens- und Krankenversicherungsanträge | 4 | 3 | 12 | Hoch | 4 | Ältere Menschen | – | Ungerechtfertigte Ablehnung; finanzielle Folgen | Leitung Data Science | 3 | 2 | 6 | Mittel | Ja | Leitung Underwriting | 2026-07-01 | Vierteljährliche Leistungsprüfung gegen die Abnahmeschwellen |
| KR-006 | Mangelnde Datenqualität | KI-System | Versicherungsprozesse | Risikobewertung für Lebens- und Krankenversicherungsanträge | 4 | 2 | 8 | Mittel | 4 | Menschen mit Beeinträchtigungen | – | Diskriminierung; finanzielle Folgen | Leitung Data Science | 3 | 1 | 3 | Niedrig | Ja | Leitung Underwriting | 2026-07-01 | – |
| KR-007 | Adversarial Examples (gezielte Umgehung) | KI-System | Versicherungsprozesse | Risikobewertung für Lebens- und Krankenversicherungsanträge | 3 | 2 | 6 | Mittel | 2 | – | Gezielt geschönte Angaben im Antrag | Finanzieller Schaden der Organisation | Leitung IT-Sicherheit | 3 | 1 | 3 | Niedrig | Nein | – | – | Bestätigung durch die risikoverantwortliche Person steht aus |
| KR-008 | Ausfall der externen Software für die Unterlagen des Qualitätsmanagementsystems | Qualitätsmanagementsystem | Managementsystem | Alle Anbietersysteme | 3 | 2 | 6 | Mittel | 1 | – | – | Verlust von Nachweisen | KI-beauftragte Person | 2 | 1 | 2 | Niedrig | Ja | KI-beauftragte Person | 2026-07-01 | Wöchentliche Sicherung der Unterlagen und beschriebener Ausweichweg |
| ID | Hazard | Category | System group | AI systems concerned | Impact (1-5) | Likelihood (1-5) | Risk score | Risk level | Severity for affected persons (1-5) | Vulnerable groups concerned | Misuse covered | Harm categories | Risk owner | Residual impact | Residual likelihood | Residual risk score | Residual risk level | Accepted | Accepted by | Accepted on | Note |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| KR-001 | Bias and discrimination | AI system | HR processes | Pre-screening of job applications | 4 | 3 | 12 | High | 4 | People with disabilities; older people | Proposal used as the sole basis for rejection | Discrimination; loss of an employment opportunity | Head of HR | 3 | 2 | 6 | Medium | Yes | Head of HR | 2026-09-02 | Monthly analysis of proposals by group |
| KR-002 | Excessive automation (automation bias) | AI system | HR processes | Pre-screening of job applications | 4 | 3 | 12 | High | 4 | – | Adopting the ranking without own review | Loss of an employment opportunity | Head of HR | 3 | 2 | 6 | Medium | Yes | Head of HR | 2026-09-02 | – |
| KR-003 | Hallucination and incorrect outputs | AI system | Generative AI | Customer service chatbot; writing assistant (generative AI) | 3 | 4 | 12 | High | 2 | – | Unreviewed publication of AI texts | Incorrect information; financial loss | Head of Customer Service | 2 | 3 | 6 | Medium | Yes | Head of Customer Service | 2026-09-15 | Handover to a person for contract and payment questions |
| KR-004 | Attacks on confidential data | AI system | Generative AI | Writing assistant (generative AI) | 4 | 2 | 8 | Medium | 3 | – | Entering confidential data into tools not approved for it | Disclosure of personal data | Head of IT | 3 | 1 | 3 | Low | Yes | Head of IT | 2026-08-05 | – |
| KR-005 | Immature technology / model drift | AI system | Insurance processes | Risk assessment for life and health insurance applications | 4 | 3 | 12 | High | 4 | Older people | – | Unjustified rejection; financial consequences | Head of Data Science | 3 | 2 | 6 | Medium | Yes | Head of Underwriting | 2026-07-01 | Quarterly performance check against the acceptance thresholds |
| KR-006 | Poor data quality | AI system | Insurance processes | Risk assessment for life and health insurance applications | 4 | 2 | 8 | Medium | 4 | People with disabilities | – | Discrimination; financial consequences | Head of Data Science | 3 | 1 | 3 | Low | Yes | Head of Underwriting | 2026-07-01 | – |
| KR-007 | Adversarial examples (targeted evasion) | AI system | Insurance processes | Risk assessment for life and health insurance applications | 3 | 2 | 6 | Medium | 2 | – | Deliberately embellished information in the application | Financial loss for the organisation | Head of IT Security | 3 | 1 | 3 | Low | No | – | – | Confirmation by the risk owner is pending |
| KR-008 | Failure of the external software holding the quality management system documentation | Quality management system | Management system | All provider systems | 3 | 2 | 6 | Medium | 1 | – | – | Loss of evidence | AI Officer | 2 | 1 | 2 | Low | Yes | AI Officer | 2026-07-01 | Weekly backup of the documentation and a documented fallback |
Sources
- ISO/IEC 42001:2023 (ISO): clauses 6.1.2 and 8.2
- Regulation (EU) 2024/1689 (EUR-Lex): AI Act, Art. 9