Zum Hauptinhalt springen
ISO/IEC 42001 · Anhang A · KI-Kontrolle

A.3 Interne Organisation

Aktualisiert am 5 Min. Geprüft von: Cenedril-Redaktion
ISO/IEC 42001EU AI Act

Ein Chatbot im Kundenservice gibt einer Kundin eine falsche Auskunft zu ihrem Vertrag. Die Fachabteilung verweist auf die IT, die IT auf den Anbieter, und der Datenschutz sieht sich nicht zuständig. Eine Beschäftigte, die das Problem seit Wochen kennt, weiß nicht, wem sie es sagen soll. A.3 sorgt dafür, dass für jede KI-Aufgabe feststeht, wer handelt, und dass Bedenken einen Weg haben, der bei jemandem ankommt.

Anhang A.3 ist die Organisationskontrolle des KI-Managementsystems. Sie überträgt die Rollen aus Kapitel 5.3 auf die KI-Themen, die tatsächlich verteilt werden müssen, und ergänzt einen Meldeweg, über den Probleme früh sichtbar werden. Ohne diese Grundlage bleiben Politik, Risikobeurteilung und Folgenabschätzung Papier, weil niemand für sie einsteht.

Was verlangt die Norm?

Anhang A.3 der ISO/IEC 42001 enthält zwei Kontrollen. Die Umsetzungshinweise dazu stehen in Anhang B.3.

  • KI-Rollen nach Bedarf festlegen und zuweisen (A.3.2). Welche Rollen es gibt, richtet sich nach dem Bedarf der Organisation. Bei der Verteilung zieht sie ihre KI-Politik, ihre KI-Ziele und die erkannten Risiken heran, damit kein Bereich ohne Zuständigkeit bleibt. Die Reihenfolge darf sie selbst priorisieren.
  • Typische Bereiche. Anhang B.3.2 nennt als Beispiele Risikomanagement, Folgenabschätzung, Werte und Ressourcen, Informationssicherheit, Betriebssicherheit, Datenschutz, Entwicklung, Leistung, menschliche Aufsicht, Lieferantenbeziehungen, den Nachweis der dauerhaften Rechtstreue und die Datenqualität über den ganzen Lebenszyklus.
  • Verantwortlichkeiten konkret genug beschreiben. Jede Rolle wird so genau ausformuliert, dass die Person ihre Aufgaben damit tatsächlich wahrnehmen kann.
  • Ein Weg für Bedenken (A.3.3). Die Organisation richtet einen Prozess ein und betreibt ihn, über den sich Bedenken zu ihrer Rolle bei einem KI-System melden lassen, von der Planung bis zur Außerbetriebnahme.
  • Acht Anforderungen an den Meldeweg. Anhang B.3.3 beschreibt, was der Kanal leisten soll: Vertraulichkeit, Anonymität oder beides nach Wahl der meldenden Person; Zugang und Bekanntmachung für Beschäftigte und vertraglich gebundene Personen; Betreuung durch qualifizierte Personen; Befugnisse zur Untersuchung und Klärung; zeitnahe Meldung und Eskalation an die Leitung; wirksamer Schutz vor Vergeltung für Meldende und Untersuchende; Berichte nach den Untersuchungs- und Eskalationsregeln, die Anonymität und Geschäftsgeheimnisse wahren; eine Reaktion in angemessener Frist. Vorhandene Meldewege dürfen genutzt werden.

In der Praxis

Eine Liste der KI-Aufgaben ist der Ausgangspunkt. Nimm die zwölf Bereiche aus Anhang B.3.2 und streiche, was für dich nicht zutrifft. Eine Organisation, die nur zugekaufte Systeme betreibt, streicht in der Regel die Entwicklung; Lieferantensteuerung und menschliche Aufsicht bleiben für sie dagegen zentral. Für jeden verbliebenen Bereich legst du fest, wer entscheidet, wer ausführt und wer informiert wird.

Rollen an bestehende Funktionen anbinden. Viele Aufgaben haben schon ein Zuhause. Die Informationssicherheit regelt Zugriffe auf Modelle und Schnittstellen, der Datenschutz prüft Rechtsgrundlagen für Trainings- und Eingabedaten, der Einkauf führt die Lieferanten. Lege für jede dieser Schnittstellen fest, wer bei einem KI-System das letzte Wort hat und wer nur konsultiert wird. Eine RACI-Matrix macht das auf einer Seite sichtbar.

Menschliche Aufsicht namentlich besetzen. Für Systeme, deren Ausgaben Menschen betreffen, und besonders für Hochrisiko-Systeme reicht eine Funktionsbezeichnung selten. Benenne die Personen, beschreibe ihre Befugnis zum Eingreifen und Anhalten und sorge dafür, dass sie geschult sind und Zeit für die Aufgabe haben.

Den Meldeweg bekannt machen und erproben. Ein Kanal, den niemand kennt, erfüllt B.3.3 nicht, denn Anhang B.3.3 sieht vor, dass er bekannt gemacht wird. Verweise in der KI-Nutzungsrichtlinie, in der Einarbeitung und in Verträgen mit Dienstleistern auf den Weg. Lege Zielzeiten für Eingangsbestätigung und Antwort fest. Bewährt hat sich eine jährliche Testmeldung, die zeigt, ob die Meldung bei den richtigen Personen ankommt und die Eskalation greift.

Typische Audit-Nachweise

Bei A.3 erwarten Auditoren typischerweise:

KPI

Anteil der KI-Systeme im KI-Verzeichnis, für die alle benötigten Rollen namentlich besetzt sind

Der Wert zeigt, ob die Rollenverteilung den tatsächlichen Bestand abdeckt. Ziel ist 100 %. Typische Lücken sind neue Systeme ohne risikoverantwortliche Person und Hochrisiko-Systeme ohne benannte Aufsicht.

Ergänzende KPIs:

  • Durchschnittliche Zeit bis zur Eingangsbestätigung einer Meldung (Ziel: höchstens 7 Tage)
  • Anteil der Meldungen, die innerhalb der festgelegten Frist abgeschlossen wurden
  • Anzahl der KI-Rollen ohne benannte Vertretung

Bezug zur KI-Verordnung

Die KI-Verordnung (EU) 2024/1689 verteilt Pflichten nach Rollen wie Anbieter, Betreiber, Einführer und Händler und setzt voraus, dass die Organisation sie intern weiterreicht. Betreiber von Hochrisiko-Systemen übertragen die menschliche Aufsicht nach Art. 26 Abs. 2 an Personen mit der nötigen Kompetenz, Ausbildung und Befugnis. Anbieter beschreiben im Qualitätsmanagementsystem nach Art. 17 Abs. 1 Buchst. m einen Rahmen für die Rechenschaftspflicht, der die Verantwortlichkeiten von Leitung und Personal festhält. Die Pflicht, die KI-Kompetenz des Personals zu unterstützen (Art. 4), lässt sich ohne klare Rollen kaum gezielt erfüllen.

Für den Meldeweg ist Art. 87 wichtig: Er erklärt die Hinweisgeberrichtlinie (EU) 2019/1937 auf Meldungen von Verstößen gegen die KI-Verordnung für anwendbar. In Deutschland setzt das Hinweisgeberschutzgesetz diese Richtlinie um, und viele Organisationen haben dort bereits eine interne Meldestelle. A.3.3 reicht weiter, weil auch ein Bedenken ohne Rechtsverstoß gemeldet werden kann (→ EU AI Act).

Verwandte Kontrollen

A.3 verbindet die Grundsätze der Politik mit den Menschen, die sie umsetzen:

Quellen

Häufig gestellte Fragen

Brauche ich eine KI-beauftragte Person?

Die Norm schreibt keine bestimmte Bezeichnung vor. Sie verlangt, dass die KI-Rollen nach dem Bedarf der Organisation festgelegt und zugewiesen sind, ergänzt durch Kapitel 5.3. Bewährt hat sich eine koordinierende Rolle, die das KI-Verzeichnis pflegt und Ansprechperson ist; in kleinen Organisationen übernimmt sie oft jemand aus Datenschutz oder Informationssicherheit.

Kann ich die interne Meldestelle nach dem HinSchG auch für KI-Bedenken nutzen?

Ja, Anhang B.3.3 lässt ausdrücklich zu, vorhandene Meldewege zu verwenden. Prüfe, ob der Kanal alle acht Anforderungen erfüllt, vor allem den Zugang für vertraglich gebundene Personen und die zeitnahe Eskalation an die Leitung. Stelle außerdem sicher, dass die Meldestelle auch Bedenken annimmt, die keinen Rechtsverstoß betreffen.

Wie genau müssen Verantwortlichkeiten beschrieben sein?

So genau, dass die Person ihre Aufgaben damit erfüllen kann; das ist der Maßstab aus Anhang B.3.2. Eine Zeile wie „zuständig für KI“ reicht selten. Bewährt haben sich je Rolle die Aufgaben, die Entscheidungsbefugnisse, die betroffenen KI-Systeme und die Vertretung.

Keine Cookies!

Dieses Wiki sammelt nichts, bäckt nichts und lässt nichts bei dir. Deshalb gibt es auch nichts einzuwilligen. Mehr Datenschutz geht nicht.