Zum Hauptinhalt springen
KI-Compliance-Starter-Kit · Vorlage

Grundrechte-Folgenabschätzung (Art. 27)

Aktualisiert am 1 Min. Geprüft von: Cenedril-Redaktion
EU AI Act Art. 27ISO/IEC 42001 A.5

Eine Versicherung setzt ein KI-System ein, das Anträge auf Lebens- und Krankenversicherung bewertet. Ein Fehler trifft vor allem die Menschen, denen ein Vertrag verweigert oder teurer angeboten wird. Die Grundrechte-Folgenabschätzung prüft vor dem Einsatz, welche Gruppen betroffen sind, welche Schäden drohen und welche Aufsicht und Abhilfe bereitstehen.

Für wen ist die Vorlage gedacht?

Für Betreiber, die eine Grundrechte-Folgenabschätzung als Rechtspflicht durchführen, und für jede Organisation mit einem KI-Managementsystem nach ISO/IEC 42001, die ihre Folgenabschätzungen einheitlich führen will. Die Gruppen, Folgenbereiche und Wirkungsfelder stehen als Auswahllisten in der Vorlage.

Vorlage: Grundrechte-Folgenabschätzung

Vollständige Richtlinie

Grundrechte-Folgenabschätzung

Dokumentenkontrolle
Eigentümer: [RICHTLINIEN_EIGENTÜMER_ROLLE, z. B. KI-beauftragte Person]
Genehmigt von: [GENEHMIGER_NAME_UND_ROLLE]
Version: [VERSION]
Gültig ab: [GÜLTIGKEITSDATUM]
Nächste Überprüfung: [NÄCHSTES_ÜBERPRÜFUNGSDATUM]

KI-Compliance-Starter-Kit. Vorlage für die Folgenabschätzung eines KI-Systems. Sie deckt die Grundrechte-Folgenabschätzung nach Art. 27 der Verordnung (EU) 2024/1689 ab, wo diese als Rechtspflicht greift, und die Folgenabschätzung nach ISO/IEC 42001 A.5 für alle übrigen Systeme. Die Abschnitte 2 bis 7 folgen Art. 27 Abs. 1 Buchst. a bis f. Je System wird eine eigene Abschätzung geführt; eine erneute Durchführung erzeugt eine neue Version.

1. System und Anlass

Angabe Eintrag
KI-System [SYSTEM]
Kennung im KI-Verzeichnis [KENNUNG]
Rolle der Organisation [ROLLE, z. B. Betreiber]
Rechtspflicht nach Art. 27 [JA_ODER_NEIN]
Grund der Rechtspflicht [z. B. Einrichtung des öffentlichen Rechts, öffentliche Dienstleistung, Anhang III Nr. 5 Buchst. b oder c]
Erste Verwendung am [DATUM]
Stützt sich auf [z. B. Folgenabschätzung des Anbieters oder eines vergleichbaren Systems, sonst „eigene Abschätzung“]

Eine Grundrechte-Folgenabschätzung als Rechtspflicht führen Betreiber durch, die Einrichtungen des öffentlichen Rechts sind oder als private Einrichtungen öffentliche Dienste erbringen, wenn sie ein Hochrisiko-KI-System nach Art. 6 Abs. 2 einsetzen (ausgenommen Anhang III Nr. 2), sowie Betreiber von Systemen nach Anhang III Nr. 5 Buchst. b und c. Die Abschätzung wird vor der ersten Verwendung durchgeführt und aktualisiert, sobald sich eine der Angaben ändert (Art. 27 Abs. 2).

2. Einsatzprozesse (Art. 27 Abs. 1 Buchst. a)

[Beschreibung der Prozesse, in denen das System im Einklang mit seiner Zweckbestimmung eingesetzt wird: welcher Ablauf, welche Entscheidungen es vorbereitet oder unterstützt, wer mit den Ergebnissen arbeitet.]

3. Zeitraum und Häufigkeit (Art. 27 Abs. 1 Buchst. b)

[Zeitraum, in dem das System eingesetzt werden soll, und Häufigkeit der Verwendung, z. B. „ab [DATUM] unbefristet, rund [ANZAHL] Vorgänge je Monat“.]

4. Betroffene Personengruppen und Folgenbereiche (Art. 27 Abs. 1 Buchst. c)

Je Gruppe wird festgehalten, ob sie schutzbedürftig ist, welche Folgenbereiche berührt sind und welcher Nutzen für sie erwartet wird. Schutzbedürftig sind insbesondere Beschäftigte, Kinder und Minderjährige, Menschen mit Beeinträchtigungen und ältere Menschen.

Gruppe Schutzbedürftig Berührte Folgenbereiche Erwarteter Nutzen
[z. B. Kundinnen und Kunden] [JA_ODER_NEIN] [Auswahl aus der Liste unten] [NUTZEN]
[z. B. Ältere Menschen] Ja [Auswahl aus der Liste unten] [NUTZEN]

Gruppen zur Auswahl: Beschäftigte; Bewerberinnen und Bewerber; Kundinnen und Kunden; Lieferanten und Partner; Besucherinnen und Besucher; Kinder und Minderjährige; Menschen mit Beeinträchtigungen; ältere Menschen; allgemeine Öffentlichkeit.

Folgenbereiche zur Auswahl: Fairness; Rechenschaftspflicht; Transparenz und Erklärbarkeit; Sicherheit und Datenschutz; Betriebssicherheit und Gesundheit; finanzielle Folgen; Barrierefreiheit; Menschenrechte.

5. Schadensrisiken (Art. 27 Abs. 1 Buchst. d)

Schadensrisiko Betroffene Gruppe Umstände mit Risikopotenzial Ausmaß Wahrscheinlichkeit
[z. B. ungerechtfertigte Benachteiligung] [GRUPPE] [z. B. unvollständige Eingabedaten] [1 BIS 5] [1 BIS 5]

Berücksichtigt werden die Informationen des Anbieters nach Art. 13. Jede Folge oberhalb der Akzeptanzschwelle geht als Risikoszenario in das KI-Risikoregister.

Vorhersehbare Fehlanwendung: [Wie das System entgegen seiner Zweckbestimmung genutzt werden könnte, und das zugeordnete Risikoszenario im KI-Risikoregister.]

6. Gesellschaftliche Wirkung (ISO/IEC 42001 A.5.5)

Wirkungsfeld Berührt Beschreibung
Ökologische Nachhaltigkeit [JA_ODER_NEIN] [BESCHREIBUNG]
Wirtschaftliche Folgen [JA_ODER_NEIN] [BESCHREIBUNG]
Staat und Verwaltung [JA_ODER_NEIN] [BESCHREIBUNG]
Gesundheit und Betriebssicherheit [JA_ODER_NEIN] [BESCHREIBUNG]
Normen, Kultur und Werte [JA_ODER_NEIN] [BESCHREIBUNG]

7. Menschliche Aufsicht (Art. 27 Abs. 1 Buchst. e)

[Umsetzung der Maßnahmen der menschlichen Aufsicht nach der Betriebsanleitung: aufsichtsführende Person, ihre Kompetenz und Befugnis, wie sie Ergebnisse prüft, übersteuert und das System anhält.]

8. Maßnahmen bei Eintritt der Risiken (Art. 27 Abs. 1 Buchst. f)

  • Mindernde Maßnahmen: [Maßnahmen, die die Risiken aus Abschnitt 5 verringern, mit Verweis auf den KI-Risikobehandlungsplan]
  • Interne Unternehmensführung: [Wer entscheidet, wenn ein Risiko eintritt; Eskalation an die oberste Leitung]
  • Beschwerdeweg: [Wie betroffene Personen Beschwerde einlegen und eine Erläuterung nach Art. 86 verlangen]

9. Datenschutz-Folgenabschätzung (Art. 27 Abs. 4)

[Verweis auf die Datenschutz-Folgenabschätzung der Verarbeitung, in die das System einfließt, mit ihrem Stand. Was dort bereits geführt wird, wird hier nicht erneut erhoben; diese Abschätzung ergänzt die Sicht der Grundrechte.]

10. Mitteilung an die Marktüberwachungsbehörde (Art. 27 Abs. 3)

Angabe Eintrag
Mitteilung erforderlich [JA_ODER_NEIN]
Grund, falls nicht erforderlich [z. B. Ausnahme nach Art. 46 Abs. 1 oder Rückgriff auf eine bestehende Abschätzung nach Art. 27 Abs. 2]
Mitgeteilt am [DATUM]
Zeichen der Mitteilung [ZEICHEN]

Die Mitteilung geht an die Marktüberwachungsbehörde, die auch für die Meldung schwerwiegender Vorfälle zuständig ist, mit dem ausgefüllten Muster des Büros für Künstliche Intelligenz (Art. 27 Abs. 5).

11. Ergebnis und Freigabe

Angabe Eintrag
Ergebnis [z. B. Einsatz freigegeben, Einsatz nach Umsetzung der Maßnahmen, Einsatz eingestellt]
Durchgeführt durch [NAME_UND_ROLLE]
Freigegeben durch [NAME_UND_ROLLE, bei Folgen oberhalb der Akzeptanzschwelle die oberste Leitung]
Abgeschlossen am [DATUM]
Nächste Überprüfung [DATUM, spätestens nach einem Jahr]

Die Abschätzung wird als Aufzeichnung je System [AUFBEWAHRUNGSFRIST, z. B. 10 Jahre] aufbewahrt.

Quellen

Häufig gestellte Fragen

Wer muss eine Grundrechte-Folgenabschätzung durchführen?

Betreiber, die Einrichtungen des öffentlichen Rechts sind oder als private Einrichtungen öffentliche Dienste erbringen, wenn sie ein Hochrisiko-KI-System nach Art. 6 Abs. 2 einsetzen (ausgenommen Anhang III Nr. 2), und Betreiber von Systemen zur Kreditwürdigkeitsprüfung und zur Risikobewertung bei Lebens- und Krankenversicherungen (Anhang III Nr. 5 Buchst. b und c).

Brauche ich die Vorlage, wenn keine Rechtspflicht besteht?

ISO/IEC 42001 verlangt in A.5 eine Folgenabschätzung für jedes KI-System, unabhängig von der Risikoklasse. Die Vorlage deckt beide Fälle ab; ohne Rechtspflicht entfällt die Mitteilung an die Marktüberwachungsbehörde.

Kann ich die Datenschutz-Folgenabschätzung wiederverwenden?

Ja. Art. 27 Abs. 4 sieht vor, dass die Grundrechte-Folgenabschätzung eine bestehende Datenschutz-Folgenabschätzung ergänzt. Verweise auf deren Abschnitte und ergänze die Sicht der Grundrechte, etwa Fairness, Barrierefreiheit und gesellschaftliche Wirkung.

Keine Cookies!

Dieses Wiki sammelt nichts, bäckt nichts und lässt nichts bei dir. Deshalb gibt es auch nichts einzuwilligen. Mehr Datenschutz geht nicht.