Zum Hauptinhalt springen
ISO/IEC 27701:2025 · Anhang A, Tabelle A.1 · Kontrolle für Verantwortliche

A.1.3.11 Automatisierte Entscheidungsfindung

Aktualisiert am 5 Min. Geprüft von: Cenedril-Redaktion
ISO/IEC 27701:2025DSGVO

Ein Personaldienstleister nutzt eine Plattform, die Lebensläufe bewertet und Bewerbungen unterhalb einer Punktzahl automatisch absagt. Die Absage geht ohne menschliche Sichtung hinaus. Eine abgelehnte Bewerberin fragt, warum sie aussortiert wurde, und verlangt, dass ein Mensch ihre Unterlagen ansieht. Erst jetzt merkt die Organisation, dass sie seit Monaten automatisierte Einzelentscheidungen trifft, ohne Information, ohne Prüfweg und ohne Folgenabschätzung. A.1.3.11 verlangt, jede Entscheidung über Menschen, die ohne menschliche Prüfung allein aus automatisierter Verarbeitung entsteht, zu erkennen und die daraus folgenden Pflichten gegenüber den Betroffenen zu erfüllen, gesetzliche eingeschlossen.

Mit dem Einsatz von KI-Werkzeugen wächst die Zahl solcher Entscheidungen schnell. Oft fallen sie in Einkauf und Fachbereichen an, wo niemand an Datenschutz denkt, wenn ein Werkzeug „nur vorsortiert“.

Was verlangt die Norm?

Die Kontrolle schließt die Gruppe der Verpflichtungen gegenüber Betroffenen ab und greift einen Sonderfall heraus.

  • Pflichten erkennen und erfüllen. Trifft die Organisation Entscheidungen über eine Person allein auf Grundlage automatisierter Verarbeitung, ermittelt sie die daraus folgenden Pflichten, auch die rechtlichen, und kommt ihnen nach.
  • Typische Pflichten. Manche Rechtsordnungen knüpfen an Entscheidungen mit erheblicher Wirkung besondere Pflichten. Genannt werden die Information darüber, dass automatisiert entschieden wird, die Möglichkeit, dieser Entscheidungsfindung zu widersprechen, und der Zugang zu einem menschlichen Eingreifen.
  • Grenzen der Automatisierung. In einer Anmerkung weist die Norm darauf hin, dass manche Verarbeitungen in einigen Rechtsordnungen nicht vollständig automatisiert ablaufen dürfen.
  • Einhaltung einplanen. Organisationen, die in solchen Rechtsordnungen tätig sind, berücksichtigen diese Pflichten in ihren Abläufen.

In der Praxis

Automatisierte Entscheidungen finden. Kennzeichne im Verarbeitungsverzeichnis jede Tätigkeit, in der ein System über Personen entscheidet. Prüfe auch eingekaufte Software und KI-Funktionen, die Bewerbungen filtern, Kredite prüfen, Preise festlegen oder Konten sperren. Das KI-Verzeichnis ist dafür eine gute Gegenprobe.

Zulässigkeit klären. Rein automatisierte Entscheidungen mit erheblicher Wirkung sind nach der DSGVO nur in bestimmten Fällen erlaubt: wenn sie für einen Vertrag erforderlich sind, ein Gesetz sie zulässt oder die Person ausdrücklich eingewilligt hat. Für besondere Kategorien gelten noch engere Grenzen.

Informieren und erklären. Die Datenschutzhinweise nennen das Verfahren, die Logik in verständlichen Worten und die Folgen für die Person. Eine Beschreibung wie „Wir nutzen Algorithmen“ genügt dafür nicht.

Den Weg zum Menschen öffnen. Betroffene können ihren Standpunkt darlegen, die Entscheidung anfechten und eine Prüfung durch einen Menschen verlangen. Die prüfende Person ist geschult, hat Zugriff auf alle relevanten Informationen und darf die Entscheidung ändern.

Logik dokumentieren und überwachen. Halte fest, welche Daten einfließen, welche Kriterien gelten und wie das Verfahren getestet wird, auch auf Fehler und Verzerrungen. Für solche Verarbeitungen ist in aller Regel eine Folgenabschätzung nach A.1.2.6 nötig.

Typische Audit-Nachweise

Bei A.1.3.11 erwarten Auditoren typischerweise:

  • Kennzeichnung automatisierter Entscheidungen im Verarbeitungsverzeichnis, abgeglichen mit dem KI-Verzeichnis
  • Prüfung der Zulässigkeit je Verfahren mit der tragenden Ausnahme
  • Informationen an Betroffene zu Logik, Tragweite und Folgen
  • Verfahren für menschliche Überprüfung mit Protokollen der bearbeiteten Fälle
  • Folgenabschätzungen für die betroffenen Verarbeitungen (→ Risikoregister)

KPI

% der automatisierten Entscheidungen mit dokumentierter Logik und Überprüfungsoption

Gezählt werden Verfahren mit automatisierter Entscheidung, deren Logik beschrieben ist und bei denen Betroffene eine menschliche Prüfung verlangen können. Ziel ist 100 %. Die Kennzahl steht und fällt mit der Vollständigkeit des Inventars.

Ergänzende KPIs:

  • Anteil der Überprüfungsanträge, die fristgerecht von einem Menschen bearbeitet wurden
  • Anteil der Überprüfungen, die zu einer geänderten Entscheidung führten
  • Anteil der Verfahren mit abgeschlossener Folgenabschätzung

Bezug zur DSGVO

A.1.3.11 entspricht Art. 22 DSGVO. Nach Abs. 1 müssen Betroffene keine ausschließlich automatisierte Entscheidung einschließlich Profiling hinnehmen, die rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt. Abs. 2 nennt die Ausnahmen, Abs. 3 die Schutzmaßnahmen: mindestens das Recht auf Eingreifen einer Person, auf Darlegung des eigenen Standpunkts und auf Anfechtung. Abs. 4 begrenzt den Einsatz besonderer Kategorien. Art. 13 Abs. 2 lit. f, Art. 14 Abs. 2 lit. g und Art. 15 Abs. 1 lit. h verlangen aussagekräftige Informationen über die Logik und die Tragweite. Art. 35 Abs. 3 lit. a nennt solche Verfahren als Regelfall der Folgenabschätzung. In Deutschland regelt § 37 BDSG eine Ausnahme für Versicherungsleistungen (→ DSGVO Datenschutz-Grundverordnung). Beruhen Entscheidungen auf Hochrisiko-KI-Systemen, kommen die Pflichten der KI-Verordnung hinzu (→ EU AI Act: Verordnung über künstliche Intelligenz).

Verwandte Kontrollen

Automatisierte Entscheidungen verbinden Datenschutz und KI-Management:

Quellen

Häufig gestellte Fragen

Wann gilt eine Entscheidung als ausschließlich automatisiert?

Wenn kein Mensch mit eigener Befugnis und ausreichender Information das Ergebnis prüft, bevor es wirkt. Eine Person, die Empfehlungen des Systems routinemäßig bestätigt, ohne sie ändern zu können, macht daraus keine menschliche Entscheidung. So sehen es die vom Europäischen Datenschutzausschuss bestätigten Leitlinien WP 251.

Ist ein Scoring schon eine automatisierte Entscheidung?

Es kann eine sein. Der EuGH hat im Dezember 2023 entschieden, dass bereits die Ermittlung eines Wahrscheinlichkeitswerts unter Art. 22 DSGVO fällt, wenn ein Dritter seine Entscheidung maßgeblich darauf stützt (C-634/21, SCHUFA). Wer Bewertungen für andere erstellt oder fremde Bewertungen nutzt, prüft deshalb beide Seiten.

Welche Rolle spielt die KI-Verordnung?

Sie ergänzt die DSGVO. Für Hochrisiko-KI-Systeme verlangt sie menschliche Aufsicht, und Art. 86 gibt Betroffenen ein Recht auf Erläuterung bestimmter Entscheidungen, die auf solchen Systemen beruhen. Die Pflichten aus Art. 22 DSGVO bestehen daneben weiter.

Keine Cookies!

Dieses Wiki sammelt nichts, bäckt nichts und lässt nichts bei dir. Deshalb gibt es auch nichts einzuwilligen. Mehr Datenschutz geht nicht.