Ein Chatbot im Kundenservice gibt einer Kundin eine falsche Auskunft zu ihrem Vertrag. Die Fachabteilung verweist auf die IT, die IT auf den Anbieter, und der Datenschutz sieht sich nicht zuständig. Eine Beschäftigte, die das Problem seit Wochen kennt, weiß nicht, wem sie es sagen soll. A.3 sorgt dafür, dass für jede KI-Aufgabe feststeht, wer handelt, und dass Bedenken einen Weg haben, der bei jemandem ankommt.
Anhang A.3 ist die Organisationskontrolle des KI-Managementsystems. Sie überträgt die Rollen aus Kapitel 5.3 auf die KI-Themen, die tatsächlich verteilt werden müssen, und ergänzt einen Meldeweg, über den Probleme früh sichtbar werden. Ohne diese Grundlage bleiben Politik, Risikobeurteilung und Folgenabschätzung Papier, weil niemand für sie einsteht.
Was verlangt die Norm?
Anhang A.3 der ISO/IEC 42001 enthält zwei Kontrollen. Die Umsetzungshinweise dazu stehen in Anhang B.3.
- KI-Rollen nach Bedarf festlegen und zuweisen (A.3.2). Welche Rollen es gibt, richtet sich nach dem Bedarf der Organisation. Bei der Verteilung zieht sie ihre KI-Politik, ihre KI-Ziele und die erkannten Risiken heran, damit kein Bereich ohne Zuständigkeit bleibt. Die Reihenfolge darf sie selbst priorisieren.
- Typische Bereiche. Anhang B.3.2 nennt als Beispiele Risikomanagement, Folgenabschätzung, Werte und Ressourcen, Informationssicherheit, Betriebssicherheit, Datenschutz, Entwicklung, Leistung, menschliche Aufsicht, Lieferantenbeziehungen, den Nachweis der dauerhaften Rechtstreue und die Datenqualität über den ganzen Lebenszyklus.
- Verantwortlichkeiten konkret genug beschreiben. Jede Rolle wird so genau ausformuliert, dass die Person ihre Aufgaben damit tatsächlich wahrnehmen kann.
- Ein Weg für Bedenken (A.3.3). Die Organisation richtet einen Prozess ein und betreibt ihn, über den sich Bedenken zu ihrer Rolle bei einem KI-System melden lassen, von der Planung bis zur Außerbetriebnahme.
- Acht Anforderungen an den Meldeweg. Anhang B.3.3 beschreibt, was der Kanal leisten soll: Vertraulichkeit, Anonymität oder beides nach Wahl der meldenden Person; Zugang und Bekanntmachung für Beschäftigte und vertraglich gebundene Personen; Betreuung durch qualifizierte Personen; Befugnisse zur Untersuchung und Klärung; zeitnahe Meldung und Eskalation an die Leitung; wirksamer Schutz vor Vergeltung für Meldende und Untersuchende; Berichte nach den Untersuchungs- und Eskalationsregeln, die Anonymität und Geschäftsgeheimnisse wahren; eine Reaktion in angemessener Frist. Vorhandene Meldewege dürfen genutzt werden.
In der Praxis
Eine Liste der KI-Aufgaben ist der Ausgangspunkt. Nimm die zwölf Bereiche aus Anhang B.3.2 und streiche, was für dich nicht zutrifft. Eine Organisation, die nur zugekaufte Systeme betreibt, streicht in der Regel die Entwicklung; Lieferantensteuerung und menschliche Aufsicht bleiben für sie dagegen zentral. Für jeden verbliebenen Bereich legst du fest, wer entscheidet, wer ausführt und wer informiert wird.
Rollen an bestehende Funktionen anbinden. Viele Aufgaben haben schon ein Zuhause. Die Informationssicherheit regelt Zugriffe auf Modelle und Schnittstellen, der Datenschutz prüft Rechtsgrundlagen für Trainings- und Eingabedaten, der Einkauf führt die Lieferanten. Lege für jede dieser Schnittstellen fest, wer bei einem KI-System das letzte Wort hat und wer nur konsultiert wird. Eine RACI-Matrix macht das auf einer Seite sichtbar.
Menschliche Aufsicht namentlich besetzen. Für Systeme, deren Ausgaben Menschen betreffen, und besonders für Hochrisiko-Systeme reicht eine Funktionsbezeichnung selten. Benenne die Personen, beschreibe ihre Befugnis zum Eingreifen und Anhalten und sorge dafür, dass sie geschult sind und Zeit für die Aufgabe haben.
Den Meldeweg bekannt machen und erproben. Ein Kanal, den niemand kennt, erfüllt B.3.3 nicht, denn Anhang B.3.3 sieht vor, dass er bekannt gemacht wird. Verweise in der KI-Nutzungsrichtlinie, in der Einarbeitung und in Verträgen mit Dienstleistern auf den Weg. Lege Zielzeiten für Eingangsbestätigung und Antwort fest. Bewährt hat sich eine jährliche Testmeldung, die zeigt, ob die Meldung bei den richtigen Personen ankommt und die Eskalation greift.
Typische Audit-Nachweise
Bei A.3 erwarten Auditoren typischerweise:
- Rollenbeschreibungen und Zuweisung der KI-Verantwortlichkeiten mit Namen, Befugnissen und Vertretung (→ KI-Politik im KI-Compliance-Starter-Kit, Abschnitt 16)
- RACI-Matrix für die KI-Prozesse (→ RACI-Matrix)
- Verantwortliche je KI-System, etwa risikoverantwortliche Person und Aufsicht (→ KI-Verzeichnis)
- Beschreibung des Meldewegs mit Vertraulichkeit, Anonymität, Schutz vor Vergeltung und Eskalation (→ KI-Politik, Abschnitt 17)
- Bekanntmachung des Wegs an Beschäftigte und vertraglich gebundene Personen (→ KI-Nutzungsrichtlinie, Abschnitt 7)
- Fallakten eingegangener Meldungen mit Eingang, Bestätigung, Bearbeitung und Abschluss, bei Bedarf anonymisiert
- Qualifikationsnachweise der Personen, die Meldungen bearbeiten (→ Kompetenzmatrix)
KPI
Anteil der KI-Systeme im KI-Verzeichnis, für die alle benötigten Rollen namentlich besetzt sind
Der Wert zeigt, ob die Rollenverteilung den tatsächlichen Bestand abdeckt. Ziel ist 100 %. Typische Lücken sind neue Systeme ohne risikoverantwortliche Person und Hochrisiko-Systeme ohne benannte Aufsicht.
Ergänzende KPIs:
- Durchschnittliche Zeit bis zur Eingangsbestätigung einer Meldung (Ziel: höchstens 7 Tage)
- Anteil der Meldungen, die innerhalb der festgelegten Frist abgeschlossen wurden
- Anzahl der KI-Rollen ohne benannte Vertretung
Bezug zur KI-Verordnung
Die KI-Verordnung (EU) 2024/1689 verteilt Pflichten nach Rollen wie Anbieter, Betreiber, Einführer und Händler und setzt voraus, dass die Organisation sie intern weiterreicht. Betreiber von Hochrisiko-Systemen übertragen die menschliche Aufsicht nach Art. 26 Abs. 2 an Personen mit der nötigen Kompetenz, Ausbildung und Befugnis. Anbieter beschreiben im Qualitätsmanagementsystem nach Art. 17 Abs. 1 Buchst. m einen Rahmen für die Rechenschaftspflicht, der die Verantwortlichkeiten von Leitung und Personal festhält. Die Pflicht, die KI-Kompetenz des Personals zu unterstützen (Art. 4), lässt sich ohne klare Rollen kaum gezielt erfüllen.
Für den Meldeweg ist Art. 87 wichtig: Er erklärt die Hinweisgeberrichtlinie (EU) 2019/1937 auf Meldungen von Verstößen gegen die KI-Verordnung für anwendbar. In Deutschland setzt das Hinweisgeberschutzgesetz diese Richtlinie um, und viele Organisationen haben dort bereits eine interne Meldestelle. A.3.3 reicht weiter, weil auch ein Bedenken ohne Rechtsverstoß gemeldet werden kann (→ EU AI Act).
Verwandte Kontrollen
A.3 verbindet die Grundsätze der Politik mit den Menschen, die sie umsetzen:
- A.2 Richtlinien für KI: Die KI-Politik nennt Rollen und Meldeweg, A.3 setzt beides um.
- A.4 Ressourcen für KI-Systeme: hält fest, welche Personen und Kompetenzen jedes System braucht.
- A.10 Beziehungen zu Dritten und Kunden: verteilt Verantwortung über die Grenzen der Organisation hinaus.
- A.5.2 Rollen und Verantwortlichkeiten: das Gegenstück aus ISO 27001 für die Informationssicherheit.
- A.6.8 Meldung von IS-Vorfällen: der Meldeweg für Sicherheitsereignisse, der sich mit dem KI-Meldeweg verbinden lässt.
Quellen
- ISO/IEC 42001:2023, Anhang A.3 und Anhang B.3: Interne Organisation; Kapitel 5.3
- Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 4, 17, 26 und 87
- Richtlinie (EU) 2019/1937 (Hinweisgeberrichtlinie)
- ISO 37002:2021, Leitlinien für Hinweisgebersysteme, in Anhang B.3.3 als ergänzende Quelle genannt
- ISO/IEC 42001 im Cenedril-Wiki: Aufbau der Norm und Verhältnis zur KI-Verordnung