Zum Hauptinhalt springen
ISO/IEC 42001 · Anhang A · KI-Kontrolle

A.8 Information für interessierte Parteien

Aktualisiert am 6 Min. Geprüft von: Cenedril-Redaktion
ISO/IEC 42001EU AI Act

Ein Onlineshop setzt einen Chatbot ein, der Fragen zu Lieferungen beantwortet. Eine Kundin merkt erst nach zehn Minuten, dass sie mit einer Maschine schreibt. Als der Bot ihr eine falsche Rückgabefrist nennt, findet sie keinen Weg, das zu melden. A.8 sorgt dafür, dass Menschen wissen, womit sie es zu tun haben, Probleme melden können und bei Vorfällen rechtzeitig erfahren, was passiert ist.

A.8 richtet den Blick nach außen. Die übrigen Kontrollen erzeugen Wissen über ein KI-System: Ressourcen, Folgen, Grenzen, Vorfälle. A.8 regelt, wer davon was erfährt, auf welchem Weg und wann. Die Norm legt dabei Wert auf Verständlichkeit: Informationen müssen für ihr Publikum lesbar und auffindbar sein, auch für Menschen, die auf Barrierefreiheit angewiesen sind.

Was verlangt die Norm?

Anhang A.8 der ISO/IEC 42001 enthält vier Kontrollen. Die Umsetzungshinweise stehen in Anhang B.8.

  • Informationen für Nutzende (A.8.2). Die Organisation bestimmt, welche Informationen die Nutzenden eines KI-Systems brauchen, und stellt sie bereit. Je nach Kontext reicht das vom schlichten Hinweis, dass ein KI-System im Spiel ist, oder der Kennzeichnung erzeugter Bilder bis zu technischen Details. Anhang B.8.2 nennt unter anderem Zweck, Bedienung, Art und Zeitpunkt des Übersteuerns, technische Voraussetzungen und Grenzen samt erwarteter Lebensdauer, Bedarf an menschlicher Aufsicht, Genauigkeit und Leistung, einschlägige Ergebnisse der Folgenabschätzung, geänderte Nutzenversprechen, Aktualisierungen und Wartung, Kontaktdaten und Lernmaterial. Die Kriterien für die Auswahl werden dokumentiert, etwa vorgesehene Nutzung, vorhersehbare Fehlanwendung, Fachkenntnis der Nutzenden und mögliche Auswirkungen. Die Organisation prüft, dass die Informationen erreichbar, vollständig, aktuell und richtig sind.
  • Externe Berichterstattung (A.8.3). Nutzende und andere externe Parteien erhalten eine Möglichkeit, nachteilige Auswirkungen des Systems zu melden, etwa unfaire Ergebnisse. Das ergänzt die eigene Überwachung des Betriebs.
  • Kommunikation von Vorfällen (A.8.4). Die Organisation legt einen Plan fest, wie sie Nutzende über Vorfälle informiert, und dokumentiert ihn. Vorfälle können das KI-System selbst betreffen oder Informationssicherheit und Datenschutz, etwa eine Datenpanne. Verträge und Recht können vorgeben, welche Vorfälle zu melden sind, in welcher Frist, an welche Behörden und mit welchen Angaben. KI-Vorfälle dürfen ins allgemeine Vorfallmanagement eingebunden werden, solange KI-eigene Anforderungen beachtet bleiben, etwa eigene Meldepflichten bei personenbezogenen Daten in Trainingsdaten.
  • Berichtspflichten gegenüber interessierten Parteien (A.8.5). Die Organisation bestimmt und dokumentiert, welche Informationen über das KI-System sie wem berichten muss, etwa Kunden oder Aufsichtsbehörden. Das kann technische Dokumentation (mit Datensätzen, Begründung der Algorithmen und Prüfnachweisen), Risiken, Ergebnisse von Folgenabschätzungen und Protokolle umfassen. Die Organisation kennt dabei auch die Vorgaben für Auskünfte an Strafverfolgungsbehörden.

In der Praxis

Zielgruppen und Inhalte zuordnen. Lege für jedes System fest, wer welche Information braucht: Endnutzende einen klaren KI-Hinweis und den Weg zur Beschwerde, Bedienende Gebrauchsanleitung und Eingriffsmöglichkeiten, Kunden die Grenzen des Einsatzbereichs, Behörden die technische Dokumentation. Halte die Zuordnung im KI-Kommunikationsplan fest.

Einen externen Meldeweg anbieten. Ein Formular auf der Website, eine Adresse in der Gebrauchsanweisung oder eine Funktion im System selbst genügt, solange der Weg auffindbar ist und Meldungen bearbeitet werden. Leite eingehende Meldungen in denselben Prozess wie interne Beobachtungen, damit sie bewertet und bei Bedarf als Vorfall behandelt werden.

Den Vorfallplan vorab schreiben. Wer im Ernstfall erst überlegt, wer zu informieren ist, verliert Zeit. Lege je Vorfallart fest, wer benachrichtigt wird, über welchen Kanal, in welcher Frist und mit welcher Kernbotschaft. Gleiche die Fristen mit den gesetzlichen Vorgaben ab, etwa den 72 Stunden für Datenpannen nach der DSGVO und den Fristen für schwerwiegende Vorfälle nach der KI-Verordnung.

Informationen aktuell halten. Jede wesentliche Änderung am System löst eine Prüfung der Nutzerinformation aus. Ändern sich Leistungswerte oder Nutzenversprechen, aktualisierst du die Angaben und informierst die Betroffenen.

Typische Audit-Nachweise

Bei A.8 erwarten Auditoren typischerweise:

KPI

Anteil der KI-Systeme mit Kontakt zu Nutzenden oder Betroffenen, für die Nutzerinformation, externer Meldeweg und Vorfallkommunikation festgelegt sind

Ziel ist 100 %. Der Wert zeigt, ob jedes System, das Menschen erreicht, die drei Grundbausteine von A.8 hat. Fehlt einer davon, bleibt entweder die Information, der Rückweg oder die Krisenkommunikation offen.

Ergänzende KPIs:

  • Durchschnittliche Zeit vom Erkennen eines Vorfalls bis zur Information der Nutzenden
  • Anzahl externer Meldungen und Anteil, der innerhalb der Zielzeit beantwortet wurde
  • Anteil der Nutzerinformationen, die nach der letzten wesentlichen Änderung aktualisiert wurden

Bezug zur KI-Verordnung

A.8 bündelt mehrere Informationspflichten der KI-Verordnung (EU) 2024/1689. Art. 50 verlangt, Menschen über die Interaktion mit einem KI-System zu informieren, sofern das nicht offensichtlich ist, und künstlich erzeugte oder manipulierte Inhalte offenzulegen. Anbieter von Hochrisiko-Systemen liefern nach Art. 13 eine Gebrauchsanweisung mit Zweck, Genauigkeit, Grenzen, Aufsichtsmaßnahmen und Wartung. Betreiber informieren nach Art. 26 Abs. 11 Personen, über die ein Hochrisiko-System nach Anhang III entscheidet oder bei deren Entscheidung es unterstützt, und erläutern nach Art. 86 auf Verlangen die Rolle des Systems bei einer Entscheidung.

Für Vorfälle gilt Art. 73: Anbieter melden schwerwiegende Vorfälle der Marktüberwachungsbehörde in gestaffelten Fristen von höchstens 15 Tagen, bei weitverbreiteten Verstößen oder Störungen kritischer Infrastruktur von 2 Tagen und bei einem Todesfall von 10 Tagen. Betreiber unterrichten nach Art. 26 Abs. 5 Anbieter und Behörden. Bei Datenpannen greifen daneben Art. 33 und 34 der DSGVO (→ EU AI Act).

Verwandte Kontrollen

A.8 trägt Wissen aus anderen Kontrollen nach außen:

Quellen

Häufig gestellte Fragen

Was unterscheidet A.3.3 von A.8.3?

A.3.3 richtet einen Weg für Bedenken zur Rolle der Organisation ein, der Beschäftigten und vertraglich gebundenen Personen offensteht. A.8.3 öffnet einen Weg, über den Nutzende und andere externe Parteien nachteilige Auswirkungen eines Systems melden. Beide Wege können zusammenfallen, wenn sie die Anforderungen beider Kontrollen erfüllen.

Müssen wir jeden Vorfall den Nutzenden mitteilen?

Die Norm verlangt einen Plan, der festlegt, welche Vorfälle wem mitgeteilt werden. Welche Mitteilungen Pflicht sind, ergibt sich aus Verträgen und Recht, etwa aus der DSGVO bei hohem Risiko für Betroffene oder aus der KI-Verordnung bei schwerwiegenden Vorfällen. Darüber hinaus entscheidest du nach dem Schadensausmaß und hältst die Begründung fest.

Reicht es, die technische Dokumentation auf Anfrage herauszugeben?

Für Behörden kann das genügen, wenn die Unterlagen kurzfristig bereitstehen. Nutzende brauchen verständliche Angaben zu Zweck, Grenzen und Aufsicht, bevor sie das System verwenden, und zwar ohne danach fragen zu müssen. A.8.2 verlangt, dass die Organisation den Bedarf je Zielgruppe bestimmt und die Informationen bereitstellt.

Keine Cookies!

Dieses Wiki sammelt nichts, bäckt nichts und lässt nichts bei dir. Deshalb gibt es auch nichts einzuwilligen. Mehr Datenschutz geht nicht.