Ein Risiko zu bewerten ist die halbe Arbeit. ISO/IEC 42001 verlangt in Kapitel 6.1.3 einen Plan, wie jedes Risiko behandelt wird, und die Zustimmung der verantwortlichen Leitung zum verbleibenden Restrisiko. Der KI-Risikobehandlungsplan zeigt je Szenario die mindernden Kontrollen, das Restrisiko und wer es wann angenommen hat.
Was enthält die Vorlage?
Die CSV-Datei hat zwölf Spalten und behandelt die acht Beispielrisiken aus dem KI-Risikoregister. Restrisiken bis zur Stufe Mittel gelten im Beispiel als akzeptabel; ein Szenario wartet noch auf die Bestätigung durch die risikoverantwortliche Person.
Vorlage: KI-Risikobehandlungsplan
| ID | Risikoszenario | Ausgangsrisiko | Mindernde Kontrollen | Beseitigung oder Verringerung durch Konzeption und Entwicklung (Art. 9 Abs. 5 Buchst. a) | Restrisiko | Akzeptanz | Bestätigt durch | Bestätigt am | Verantwortlich | Ausnahmegrund | Anmerkung |
|---|---|---|---|---|---|---|---|---|---|---|---|
| KR-001 | Verzerrung und Diskriminierung (Bias) | Hoch (12) | A.5.4 Bewertung der Auswirkungen auf Personengruppen; A.6.2.4 Verifizierung und Validierung; A.9.4 Bestimmungsgemäße Verwendung | – | Mittel (6) | Akzeptabel | Leitung Personal | 2026-09-02 | Leitung Personal | – | Monatliche Auswertung der Vorschläge nach Gruppen |
| KR-002 | Übermäßige Automatisierung (Automation Bias) | Hoch (12) | A.9.2 Prozesse für die verantwortungsvolle Nutzung; A.3.2 KI-Rollen (aufsichtsführende Person) | – | Mittel (6) | Akzeptabel | Leitung Personal | 2026-09-02 | Leitung Personal | – | – |
| KR-003 | Halluzination und fehlerhafte Ausgaben | Hoch (12) | A.8.2 Informationen für Nutzer; A.9.2 Prozesse für die verantwortungsvolle Nutzung | – | Mittel (6) | Akzeptabel | Leitung Kundenservice | 2026-09-15 | Leitung Kundenservice | – | Übergabe an eine Person bei Vertrags- und Zahlungsfragen |
| KR-004 | Angriffe auf vertrauliche Daten | Mittel (8) | A.9.2 Prozesse für die verantwortungsvolle Nutzung; A.10.3 Lieferanten (Unternehmensversion mit Auftragsverarbeitungsvertrag) | – | Niedrig (3) | Akzeptabel | Leitung IT | 2026-08-05 | Leitung IT | – | – |
| KR-005 | Unausgereifte Technologie / Modelldrift | Hoch (12) | A.6.2.6 Betrieb und Überwachung; A.6.2.4 Verifizierung und Validierung | Die Gefahr wurde durch Konzeption und Entwicklung verringert | Mittel (6) | Akzeptabel | Leitung Underwriting | 2026-07-01 | Leitung Data Science | – | Vierteljährliche Leistungsprüfung gegen die Abnahmeschwellen |
| KR-006 | Mangelnde Datenqualität | Mittel (8) | A.7.4 Qualität der Daten; A.7.5 Datenherkunft; A.7.6 Datenaufbereitung | Die Gefahr wurde durch Konzeption und Entwicklung verringert | Niedrig (3) | Akzeptabel | Leitung Underwriting | 2026-07-01 | Leitung Data Science | – | – |
| KR-007 | Adversarial Examples (gezielte Umgehung) | Mittel (6) | A.6.2.4 Verifizierung und Validierung; A.6.2.8 Ereignisprotokolle | Eine Beseitigung oder Verringerung durch Konzeption und Entwicklung war technisch nicht möglich | Niedrig (3) | Akzeptabel | – | – | Leitung IT-Sicherheit | – | Bestätigung durch die risikoverantwortliche Person steht aus |
| KR-008 | Ausfall der externen Software für die Unterlagen des Qualitätsmanagementsystems | Mittel (6) | A.4.4 Werkzeug-Ressourcen; A.6.2.3 Dokumentation der Entwicklung | – | Niedrig (2) | Akzeptabel | KI-beauftragte Person | 2026-07-01 | KI-beauftragte Person | – | Wöchentliche Sicherung der Unterlagen und beschriebener Ausweichweg |
| ID | Risk scenario | Gross risk | Mitigating controls | Elimination or reduction through design and development (Art. 9(5)(a)) | Residual risk | Acceptance | Confirmed by | Confirmed on | Responsible | Override reason | Note |
|---|---|---|---|---|---|---|---|---|---|---|---|
| KR-001 | Bias and discrimination | High (12) | A.5.4 Assessing impact on groups of individuals; A.6.2.4 Verification and validation; A.9.4 Intended use | – | Medium (6) | Acceptable | Head of HR | 2026-09-02 | Head of HR | – | Monthly analysis of proposals by group |
| KR-002 | Excessive automation (automation bias) | High (12) | A.9.2 Processes for responsible use; A.3.2 AI roles (person exercising oversight) | – | Medium (6) | Acceptable | Head of HR | 2026-09-02 | Head of HR | – | – |
| KR-003 | Hallucination and incorrect outputs | High (12) | A.8.2 Information for users; A.9.2 Processes for responsible use | – | Medium (6) | Acceptable | Head of Customer Service | 2026-09-15 | Head of Customer Service | – | Handover to a person for contract and payment questions |
| KR-004 | Attacks on confidential data | Medium (8) | A.9.2 Processes for responsible use; A.10.3 Suppliers (enterprise version with data processing agreement) | – | Low (3) | Acceptable | Head of IT | 2026-08-05 | Head of IT | – | – |
| KR-005 | Immature technology / model drift | High (12) | A.6.2.6 Operation and monitoring; A.6.2.4 Verification and validation | The hazard was reduced through design and development | Medium (6) | Acceptable | Head of Underwriting | 2026-07-01 | Head of Data Science | – | Quarterly performance check against the acceptance thresholds |
| KR-006 | Poor data quality | Medium (8) | A.7.4 Quality of data; A.7.5 Data provenance; A.7.6 Data preparation | The hazard was reduced through design and development | Low (3) | Acceptable | Head of Underwriting | 2026-07-01 | Head of Data Science | – | – |
| KR-007 | Adversarial examples (targeted evasion) | Medium (6) | A.6.2.4 Verification and validation; A.6.2.8 Event logs | Elimination or reduction through design and development was not technically feasible | Low (3) | Acceptable | – | – | Head of IT Security | – | Confirmation by the risk owner is pending |
| KR-008 | Failure of the external software holding the quality management system documentation | Medium (6) | A.4.4 Tooling resources; A.6.2.3 Documentation of design and development | – | Low (2) | Acceptable | AI Officer | 2026-07-01 | AI Officer | – | Weekly backup of the documentation and a documented fallback |
Quellen
- ISO/IEC 42001:2023 (ISO): Kapitel 6.1.3 und 8.3
- Verordnung (EU) 2024/1689 (EUR-Lex): KI-Verordnung, Art. 9 Abs. 5