Ein Onlineshop setzt einen Chatbot ein, der Fragen zu Lieferungen beantwortet. Eine Kundin merkt erst nach zehn Minuten, dass sie mit einer Maschine schreibt. Als der Bot ihr eine falsche Rückgabefrist nennt, findet sie keinen Weg, das zu melden. A.8 sorgt dafür, dass Menschen wissen, womit sie es zu tun haben, Probleme melden können und bei Vorfällen rechtzeitig erfahren, was passiert ist.
A.8 richtet den Blick nach außen. Die übrigen Kontrollen erzeugen Wissen über ein KI-System: Ressourcen, Folgen, Grenzen, Vorfälle. A.8 regelt, wer davon was erfährt, auf welchem Weg und wann. Die Norm legt dabei Wert auf Verständlichkeit: Informationen müssen für ihr Publikum lesbar und auffindbar sein, auch für Menschen, die auf Barrierefreiheit angewiesen sind.
Was verlangt die Norm?
Anhang A.8 der ISO/IEC 42001 enthält vier Kontrollen. Die Umsetzungshinweise stehen in Anhang B.8.
- Informationen für Nutzende (A.8.2). Die Organisation bestimmt, welche Informationen die Nutzenden eines KI-Systems brauchen, und stellt sie bereit. Je nach Kontext reicht das vom schlichten Hinweis, dass ein KI-System im Spiel ist, oder der Kennzeichnung erzeugter Bilder bis zu technischen Details. Anhang B.8.2 nennt unter anderem Zweck, Bedienung, Art und Zeitpunkt des Übersteuerns, technische Voraussetzungen und Grenzen samt erwarteter Lebensdauer, Bedarf an menschlicher Aufsicht, Genauigkeit und Leistung, einschlägige Ergebnisse der Folgenabschätzung, geänderte Nutzenversprechen, Aktualisierungen und Wartung, Kontaktdaten und Lernmaterial. Die Kriterien für die Auswahl werden dokumentiert, etwa vorgesehene Nutzung, vorhersehbare Fehlanwendung, Fachkenntnis der Nutzenden und mögliche Auswirkungen. Die Organisation prüft, dass die Informationen erreichbar, vollständig, aktuell und richtig sind.
- Externe Berichterstattung (A.8.3). Nutzende und andere externe Parteien erhalten eine Möglichkeit, nachteilige Auswirkungen des Systems zu melden, etwa unfaire Ergebnisse. Das ergänzt die eigene Überwachung des Betriebs.
- Kommunikation von Vorfällen (A.8.4). Die Organisation legt einen Plan fest, wie sie Nutzende über Vorfälle informiert, und dokumentiert ihn. Vorfälle können das KI-System selbst betreffen oder Informationssicherheit und Datenschutz, etwa eine Datenpanne. Verträge und Recht können vorgeben, welche Vorfälle zu melden sind, in welcher Frist, an welche Behörden und mit welchen Angaben. KI-Vorfälle dürfen ins allgemeine Vorfallmanagement eingebunden werden, solange KI-eigene Anforderungen beachtet bleiben, etwa eigene Meldepflichten bei personenbezogenen Daten in Trainingsdaten.
- Berichtspflichten gegenüber interessierten Parteien (A.8.5). Die Organisation bestimmt und dokumentiert, welche Informationen über das KI-System sie wem berichten muss, etwa Kunden oder Aufsichtsbehörden. Das kann technische Dokumentation (mit Datensätzen, Begründung der Algorithmen und Prüfnachweisen), Risiken, Ergebnisse von Folgenabschätzungen und Protokolle umfassen. Die Organisation kennt dabei auch die Vorgaben für Auskünfte an Strafverfolgungsbehörden.
In der Praxis
Zielgruppen und Inhalte zuordnen. Lege für jedes System fest, wer welche Information braucht: Endnutzende einen klaren KI-Hinweis und den Weg zur Beschwerde, Bedienende Gebrauchsanleitung und Eingriffsmöglichkeiten, Kunden die Grenzen des Einsatzbereichs, Behörden die technische Dokumentation. Halte die Zuordnung im KI-Kommunikationsplan fest.
Einen externen Meldeweg anbieten. Ein Formular auf der Website, eine Adresse in der Gebrauchsanweisung oder eine Funktion im System selbst genügt, solange der Weg auffindbar ist und Meldungen bearbeitet werden. Leite eingehende Meldungen in denselben Prozess wie interne Beobachtungen, damit sie bewertet und bei Bedarf als Vorfall behandelt werden.
Den Vorfallplan vorab schreiben. Wer im Ernstfall erst überlegt, wer zu informieren ist, verliert Zeit. Lege je Vorfallart fest, wer benachrichtigt wird, über welchen Kanal, in welcher Frist und mit welcher Kernbotschaft. Gleiche die Fristen mit den gesetzlichen Vorgaben ab, etwa den 72 Stunden für Datenpannen nach der DSGVO und den Fristen für schwerwiegende Vorfälle nach der KI-Verordnung.
Informationen aktuell halten. Jede wesentliche Änderung am System löst eine Prüfung der Nutzerinformation aus. Ändern sich Leistungswerte oder Nutzenversprechen, aktualisierst du die Angaben und informierst die Betroffenen.
Typische Audit-Nachweise
Bei A.8 erwarten Auditoren typischerweise:
- Nutzerinformation je System mit Zweck, Grenzen, Aufsicht und Kontakt (→ KI-Nutzungsrichtlinie im KI-Compliance-Starter-Kit, Abschnitt 5)
- Dokumentierte Auswahlkriterien für die bereitgestellten Informationen
- Externer Meldeweg mit Beschreibung und Bearbeitungsnachweisen
- Kommunikationsplan mit Zielgruppen, Kanälen, Fristen und Inhalten für Vorfälle (→ KI-Kommunikationsplan)
- Vorlage für Behördenmeldungen (→ Meldung schwerwiegender Vorfälle)
- Übersicht der Berichtspflichten gegenüber Kunden und Behörden (→ Rechtsregister)
- Gebrauchsanweisung bei eigener Anbieterrolle (→ KI-Anbieterrichtlinie, Abschnitt 6)
KPI
Anteil der KI-Systeme mit Kontakt zu Nutzenden oder Betroffenen, für die Nutzerinformation, externer Meldeweg und Vorfallkommunikation festgelegt sind
Ziel ist 100 %. Der Wert zeigt, ob jedes System, das Menschen erreicht, die drei Grundbausteine von A.8 hat. Fehlt einer davon, bleibt entweder die Information, der Rückweg oder die Krisenkommunikation offen.
Ergänzende KPIs:
- Durchschnittliche Zeit vom Erkennen eines Vorfalls bis zur Information der Nutzenden
- Anzahl externer Meldungen und Anteil, der innerhalb der Zielzeit beantwortet wurde
- Anteil der Nutzerinformationen, die nach der letzten wesentlichen Änderung aktualisiert wurden
Bezug zur KI-Verordnung
A.8 bündelt mehrere Informationspflichten der KI-Verordnung (EU) 2024/1689. Art. 50 verlangt, Menschen über die Interaktion mit einem KI-System zu informieren, sofern das nicht offensichtlich ist, und künstlich erzeugte oder manipulierte Inhalte offenzulegen. Anbieter von Hochrisiko-Systemen liefern nach Art. 13 eine Gebrauchsanweisung mit Zweck, Genauigkeit, Grenzen, Aufsichtsmaßnahmen und Wartung. Betreiber informieren nach Art. 26 Abs. 11 Personen, über die ein Hochrisiko-System nach Anhang III entscheidet oder bei deren Entscheidung es unterstützt, und erläutern nach Art. 86 auf Verlangen die Rolle des Systems bei einer Entscheidung.
Für Vorfälle gilt Art. 73: Anbieter melden schwerwiegende Vorfälle der Marktüberwachungsbehörde in gestaffelten Fristen von höchstens 15 Tagen, bei weitverbreiteten Verstößen oder Störungen kritischer Infrastruktur von 2 Tagen und bei einem Todesfall von 10 Tagen. Betreiber unterrichten nach Art. 26 Abs. 5 Anbieter und Behörden. Bei Datenpannen greifen daneben Art. 33 und 34 der DSGVO (→ EU AI Act).
Verwandte Kontrollen
A.8 trägt Wissen aus anderen Kontrollen nach außen:
- A.3 Interne Organisation: der interne Meldeweg für Bedenken, der sich mit dem externen aus A.8.3 verbinden lässt.
- A.5 Folgenabschätzung für KI-Systeme: liefert die Ergebnisse, die Nutzende und Behörden erfahren.
- A.6.2 Lebenszyklus von KI-Systemen: erstellt die technische Dokumentation, aus der die Informationen stammen.
- A.5.24 Planung des Vorfallmanagements und A.5.26 Reaktion auf IS-Vorfälle: die Gegenstücke aus ISO 27001, in die sich KI-Vorfälle einbinden lassen.
Quellen
- ISO/IEC 42001:2023, Anhang A.8 und Anhang B.8: Information für interessierte Parteien; Kapitel 7.4
- Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 13, 26, 50, 73 und 86
- Verordnung (EU) 2016/679 (DSGVO), Art. 33 und 34
- ISO/IEC 42001 im Cenedril-Wiki: Aufbau der Norm und Verhältnis zur KI-Verordnung