Ein System zur Vorauswahl von Bewerbungen benachteiligt ältere Bewerbende, ein Chatbot nennt eine falsche Kündigungsfrist, ein Prognosemodell verliert nach einem Jahr an Treffsicherheit. Das KI-Risikoregister hält solche Gefährdungen je System fest, bewertet sie nach Schadensausmaß und Wahrscheinlichkeit und zeigt, was nach der Behandlung übrig bleibt.
Was enthält die Vorlage?
Die CSV-Datei hat 22 Spalten und acht Beispielrisiken zu den Systemen des KI-Verzeichnisses, darunter ein Risiko des Qualitätsmanagementsystems selbst (Kategorie „Qualitätsmanagementsystem“). Die Skala reicht von 1 bis 5, der Risikowert ist das Produkt aus Schadensausmaß und Wahrscheinlichkeit; Stufen: Niedrig bis 5, Mittel ab 6, Hoch ab 12, Kritisch ab 20.
Vorlage: KI-Risikoregister
| ID | Gefährdung | Kategorie | Systemgruppe | Betroffene KI-Systeme | Schadensausmaß (1-5) | Eintrittswahrscheinlichkeit (1-5) | Risikowert | Risikostufe | Schwere für Betroffene (1-5) | Betroffene schutzbedürftige Gruppen | Abgedeckte Fehlanwendungen | Schadenskategorien | Risikoverantwortliche Person | Restschadensausmaß | Restwahrscheinlichkeit | Restrisikowert | Restrisikostufe | Angenommen | Angenommen durch | Angenommen am | Anmerkung |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| KR-001 | Verzerrung und Diskriminierung (Bias) | KI-System | Personalprozesse | Vorauswahl von Bewerbungen | 4 | 3 | 12 | Hoch | 4 | Menschen mit Beeinträchtigungen; ältere Menschen | Vorschlag als alleinige Grundlage der Absage | Diskriminierung; Verlust einer Beschäftigungschance | Leitung Personal | 3 | 2 | 6 | Mittel | Ja | Leitung Personal | 2026-09-02 | Monatliche Auswertung der Vorschläge nach Gruppen |
| KR-002 | Übermäßige Automatisierung (Automation Bias) | KI-System | Personalprozesse | Vorauswahl von Bewerbungen | 4 | 3 | 12 | Hoch | 4 | – | Übernahme der Reihenfolge ohne eigene Prüfung | Verlust einer Beschäftigungschance | Leitung Personal | 3 | 2 | 6 | Mittel | Ja | Leitung Personal | 2026-09-02 | – |
| KR-003 | Halluzination und fehlerhafte Ausgaben | KI-System | Generative KI | Chatbot im Kundenservice; Textassistent (generative KI) | 3 | 4 | 12 | Hoch | 2 | – | Ungeprüfte Veröffentlichung von KI-Texten | Falsche Auskunft; finanzieller Schaden | Leitung Kundenservice | 2 | 3 | 6 | Mittel | Ja | Leitung Kundenservice | 2026-09-15 | Übergabe an eine Person bei Vertrags- und Zahlungsfragen |
| KR-004 | Angriffe auf vertrauliche Daten | KI-System | Generative KI | Textassistent (generative KI) | 4 | 2 | 8 | Mittel | 3 | – | Eingabe vertraulicher Daten in nicht freigegebene Werkzeuge | Offenlegung personenbezogener Daten | Leitung IT | 3 | 1 | 3 | Niedrig | Ja | Leitung IT | 2026-08-05 | – |
| KR-005 | Unausgereifte Technologie / Modelldrift | KI-System | Versicherungsprozesse | Risikobewertung für Lebens- und Krankenversicherungsanträge | 4 | 3 | 12 | Hoch | 4 | Ältere Menschen | – | Ungerechtfertigte Ablehnung; finanzielle Folgen | Leitung Data Science | 3 | 2 | 6 | Mittel | Ja | Leitung Underwriting | 2026-07-01 | Vierteljährliche Leistungsprüfung gegen die Abnahmeschwellen |
| KR-006 | Mangelnde Datenqualität | KI-System | Versicherungsprozesse | Risikobewertung für Lebens- und Krankenversicherungsanträge | 4 | 2 | 8 | Mittel | 4 | Menschen mit Beeinträchtigungen | – | Diskriminierung; finanzielle Folgen | Leitung Data Science | 3 | 1 | 3 | Niedrig | Ja | Leitung Underwriting | 2026-07-01 | – |
| KR-007 | Adversarial Examples (gezielte Umgehung) | KI-System | Versicherungsprozesse | Risikobewertung für Lebens- und Krankenversicherungsanträge | 3 | 2 | 6 | Mittel | 2 | – | Gezielt geschönte Angaben im Antrag | Finanzieller Schaden der Organisation | Leitung IT-Sicherheit | 3 | 1 | 3 | Niedrig | Nein | – | – | Bestätigung durch die risikoverantwortliche Person steht aus |
| KR-008 | Ausfall der externen Software für die Unterlagen des Qualitätsmanagementsystems | Qualitätsmanagementsystem | Managementsystem | Alle Anbietersysteme | 3 | 2 | 6 | Mittel | 1 | – | – | Verlust von Nachweisen | KI-beauftragte Person | 2 | 1 | 2 | Niedrig | Ja | KI-beauftragte Person | 2026-07-01 | Wöchentliche Sicherung der Unterlagen und beschriebener Ausweichweg |
| ID | Hazard | Category | System group | AI systems concerned | Impact (1-5) | Likelihood (1-5) | Risk score | Risk level | Severity for affected persons (1-5) | Vulnerable groups concerned | Misuse covered | Harm categories | Risk owner | Residual impact | Residual likelihood | Residual risk score | Residual risk level | Accepted | Accepted by | Accepted on | Note |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| KR-001 | Bias and discrimination | AI system | HR processes | Pre-screening of job applications | 4 | 3 | 12 | High | 4 | People with disabilities; older people | Proposal used as the sole basis for rejection | Discrimination; loss of an employment opportunity | Head of HR | 3 | 2 | 6 | Medium | Yes | Head of HR | 2026-09-02 | Monthly analysis of proposals by group |
| KR-002 | Excessive automation (automation bias) | AI system | HR processes | Pre-screening of job applications | 4 | 3 | 12 | High | 4 | – | Adopting the ranking without own review | Loss of an employment opportunity | Head of HR | 3 | 2 | 6 | Medium | Yes | Head of HR | 2026-09-02 | – |
| KR-003 | Hallucination and incorrect outputs | AI system | Generative AI | Customer service chatbot; writing assistant (generative AI) | 3 | 4 | 12 | High | 2 | – | Unreviewed publication of AI texts | Incorrect information; financial loss | Head of Customer Service | 2 | 3 | 6 | Medium | Yes | Head of Customer Service | 2026-09-15 | Handover to a person for contract and payment questions |
| KR-004 | Attacks on confidential data | AI system | Generative AI | Writing assistant (generative AI) | 4 | 2 | 8 | Medium | 3 | – | Entering confidential data into tools not approved for it | Disclosure of personal data | Head of IT | 3 | 1 | 3 | Low | Yes | Head of IT | 2026-08-05 | – |
| KR-005 | Immature technology / model drift | AI system | Insurance processes | Risk assessment for life and health insurance applications | 4 | 3 | 12 | High | 4 | Older people | – | Unjustified rejection; financial consequences | Head of Data Science | 3 | 2 | 6 | Medium | Yes | Head of Underwriting | 2026-07-01 | Quarterly performance check against the acceptance thresholds |
| KR-006 | Poor data quality | AI system | Insurance processes | Risk assessment for life and health insurance applications | 4 | 2 | 8 | Medium | 4 | People with disabilities | – | Discrimination; financial consequences | Head of Data Science | 3 | 1 | 3 | Low | Yes | Head of Underwriting | 2026-07-01 | – |
| KR-007 | Adversarial examples (targeted evasion) | AI system | Insurance processes | Risk assessment for life and health insurance applications | 3 | 2 | 6 | Medium | 2 | – | Deliberately embellished information in the application | Financial loss for the organisation | Head of IT Security | 3 | 1 | 3 | Low | No | – | – | Confirmation by the risk owner is pending |
| KR-008 | Failure of the external software holding the quality management system documentation | Quality management system | Management system | All provider systems | 3 | 2 | 6 | Medium | 1 | – | – | Loss of evidence | AI Officer | 2 | 1 | 2 | Low | Yes | AI Officer | 2026-07-01 | Weekly backup of the documentation and a documented fallback |
Quellen
- ISO/IEC 42001:2023 (ISO): Kapitel 6.1.2 und 8.2
- Verordnung (EU) 2024/1689 (EUR-Lex): KI-Verordnung, Art. 9