Zum Hauptinhalt springen
KI-Compliance-Starter-Kit · Register

KI-Risikoregister

Aktualisiert am 1 Min. Geprüft von: Cenedril-Redaktion
ISO/IEC 42001 6.1.2EU AI Act Art. 9

Ein System zur Vorauswahl von Bewerbungen benachteiligt ältere Bewerbende, ein Chatbot nennt eine falsche Kündigungsfrist, ein Prognosemodell verliert nach einem Jahr an Treffsicherheit. Das KI-Risikoregister hält solche Gefährdungen je System fest, bewertet sie nach Schadensausmaß und Wahrscheinlichkeit und zeigt, was nach der Behandlung übrig bleibt.

Was enthält die Vorlage?

Die CSV-Datei hat 22 Spalten und acht Beispielrisiken zu den Systemen des KI-Verzeichnisses, darunter ein Risiko des Qualitätsmanagementsystems selbst (Kategorie „Qualitätsmanagementsystem“). Die Skala reicht von 1 bis 5, der Risikowert ist das Produkt aus Schadensausmaß und Wahrscheinlichkeit; Stufen: Niedrig bis 5, Mittel ab 6, Hoch ab 12, Kritisch ab 20.

Vorlage: KI-Risikoregister

Register-Vorlage

KI-Risikoregister

IDGefährdungKategorieSystemgruppeBetroffene KI-SystemeSchadensausmaß (1-5)Eintrittswahrscheinlichkeit (1-5)RisikowertRisikostufeSchwere für Betroffene (1-5)Betroffene schutzbedürftige GruppenAbgedeckte FehlanwendungenSchadenskategorienRisikoverantwortliche PersonRestschadensausmaßRestwahrscheinlichkeitRestrisikowertRestrisikostufeAngenommenAngenommen durchAngenommen amAnmerkung
KR-001Verzerrung und Diskriminierung (Bias)KI-SystemPersonalprozesseVorauswahl von Bewerbungen4312Hoch4Menschen mit Beeinträchtigungen; ältere MenschenVorschlag als alleinige Grundlage der AbsageDiskriminierung; Verlust einer BeschäftigungschanceLeitung Personal326MittelJaLeitung Personal2026-09-02Monatliche Auswertung der Vorschläge nach Gruppen
KR-002Übermäßige Automatisierung (Automation Bias)KI-SystemPersonalprozesseVorauswahl von Bewerbungen4312Hoch4–Übernahme der Reihenfolge ohne eigene PrüfungVerlust einer BeschäftigungschanceLeitung Personal326MittelJaLeitung Personal2026-09-02–
KR-003Halluzination und fehlerhafte AusgabenKI-SystemGenerative KIChatbot im Kundenservice; Textassistent (generative KI)3412Hoch2–Ungeprüfte Veröffentlichung von KI-TextenFalsche Auskunft; finanzieller SchadenLeitung Kundenservice236MittelJaLeitung Kundenservice2026-09-15Übergabe an eine Person bei Vertrags- und Zahlungsfragen
KR-004Angriffe auf vertrauliche DatenKI-SystemGenerative KITextassistent (generative KI)428Mittel3–Eingabe vertraulicher Daten in nicht freigegebene WerkzeugeOffenlegung personenbezogener DatenLeitung IT313NiedrigJaLeitung IT2026-08-05–
KR-005Unausgereifte Technologie / ModelldriftKI-SystemVersicherungsprozesseRisikobewertung für Lebens- und Krankenversicherungsanträge4312Hoch4Ältere Menschen–Ungerechtfertigte Ablehnung; finanzielle FolgenLeitung Data Science326MittelJaLeitung Underwriting2026-07-01Vierteljährliche Leistungsprüfung gegen die Abnahmeschwellen
KR-006Mangelnde DatenqualitätKI-SystemVersicherungsprozesseRisikobewertung für Lebens- und Krankenversicherungsanträge428Mittel4Menschen mit Beeinträchtigungen–Diskriminierung; finanzielle FolgenLeitung Data Science313NiedrigJaLeitung Underwriting2026-07-01–
KR-007Adversarial Examples (gezielte Umgehung)KI-SystemVersicherungsprozesseRisikobewertung für Lebens- und Krankenversicherungsanträge326Mittel2–Gezielt geschönte Angaben im AntragFinanzieller Schaden der OrganisationLeitung IT-Sicherheit313NiedrigNein––Bestätigung durch die risikoverantwortliche Person steht aus
KR-008Ausfall der externen Software für die Unterlagen des QualitätsmanagementsystemsQualitätsmanagementsystemManagementsystemAlle Anbietersysteme326Mittel1––Verlust von NachweisenKI-beauftragte Person212NiedrigJaKI-beauftragte Person2026-07-01Wöchentliche Sicherung der Unterlagen und beschriebener Ausweichweg

Quellen

Häufig gestellte Fragen

Brauche ich ein eigenes KI-Risikoregister neben dem ISMS-Risikoregister?

Die Methodik kann dieselbe sein, die Gegenstände unterscheiden sich: Das KI-Risikoregister bewertet Gefährdungen durch KI-Systeme für Personen und die Organisation, einschließlich der Schwere für die Betroffenen. Viele Organisationen führen beide Register mit derselben Skala und denselben Risikostufen.

Was bedeutet die Spalte „Schwere für Betroffene“?

Sie bewertet die Folge für die betroffenen Personen getrennt vom Schaden der Organisation, etwa bei Diskriminierung oder dem Verlust einer Beschäftigungschance. Art. 9 verlangt den Blick auf Gesundheit, Sicherheit und Grundrechte.

Wie hängen Risikoregister und Folgenabschätzung zusammen?

Jede vorhersehbare Fehlanwendung aus der Folgenabschätzung wird einem Risikoszenario zugeordnet und im Register bewertet. So laufen die Folgen für Betroffene und die Risiken der Organisation im selben Verfahren.

Keine Cookies!

Dieses Wiki sammelt nichts, bäckt nichts und lässt nichts bei dir. Deshalb gibt es auch nichts einzuwilligen. Mehr Datenschutz geht nicht.