Ein Logistikunternehmen bindet das Sprachmodell eines großen Anbieters in seine Kundenkommunikation ein. Ein Dienstleister übernimmt die Integration, die Daten für die Feinabstimmung liefert ein dritter Partner. Als das System einer Kundin falsche Zollinformationen gibt, verweisen alle drei aufeinander. A.10 verlangt, dass für jedes KI-System vorab feststeht, welche Partei welchen Teil verantwortet, wie Lieferanten gesteuert werden und welche Erwartungen der Kunden der eigene Ansatz berücksichtigt.
Kaum ein KI-System entsteht in einer Hand. Modelle, Daten, Rechenleistung, Integration und Betrieb verteilen sich auf mehrere Parteien. A.10 sorgt dafür, dass die Organisation dabei ihre eigene Rechenschaft behält und Risiken angemessen aufgeteilt werden. Die Kontrolle blickt in beide Richtungen: zu den Lieferanten, deren Leistungen in eigene Systeme einfließen, und zu den Kunden, denen die Organisation selbst KI liefert.
Was verlangt die Norm?
Anhang A.10 der ISO/IEC 42001 enthält drei Kontrollen. Die Umsetzungshinweise stehen in Anhang B.10.
- Verantwortung aufteilen (A.10.2). Die Organisation sorgt dafür, dass die Verantwortlichkeiten im Lebenszyklus ihrer KI-Systeme zwischen ihr, Partnern, Lieferanten, Kunden und weiteren Dritten verteilt sind. Sie dokumentiert alle beteiligten Parteien mit ihrer Rolle, etwa wer Daten liefert, wer Modelle oder Algorithmen bereitstellt und wer das System entwickelt oder nutzt, und legt deren Verantwortung fest. Liefert sie selbst ein System an Dritte, entwickelt sie es verantwortungsvoll und kann die nötige Dokumentation bereitstellen. Bei personenbezogenen Daten klärt sie, ob sie verantwortliche Stelle, gemeinsam verantwortlich, Auftragsverarbeiterin oder mehreres davon ist; ISO/IEC 27701 bietet dafür passende Kontrollen.
- Lieferanten steuern (A.10.3). Ein Prozess stellt sicher, dass bezogene Dienste, Produkte und Materialien zum eigenen verantwortungsvollen Ansatz passen. Das reicht vom einzelnen Datensatz, Algorithmus oder Modell über Softwarebibliotheken bis zum vollständigen KI-System, eigenständig oder eingebaut in ein Produkt. Auswahl, Anforderungen und Überwachung richten sich nach Art des Lieferanten, seiner Leistung und dem Risiko. Die Organisation dokumentiert, wie bezogene Systeme und Komponenten in ihre eigenen Systeme eingebunden sind, verlangt Korrekturmaßnahmen, wenn eine Lieferung nicht wie vorgesehen funktioniert oder unerwünschte Folgen für Menschen hat, und sorgt dafür, dass der Lieferant geeignete und ausreichende Dokumentation liefert.
- Kunden berücksichtigen (A.10.4). Liefert die Organisation selbst Produkte oder Dienste mit KI, berücksichtigt ihr Ansatz die Erwartungen und Bedürfnisse der Kunden. Diese zeigen sich als Produktanforderungen, Vertragsklauseln oder Nutzungsbedingungen und können je Kundenbeziehung verschieden sein. Die Organisation klärt, welche Verantwortung beim Anbieter und welche beim Kunden liegt. Erkennt sie Risiken aus der Nutzung durch den Kunden, kann sie diese behandeln, indem sie ihm geeignete Informationen gibt, etwa die Grenzen des Einsatzbereichs, für den das System gültig ist.
In der Praxis
Lieferanten nach Risiko staffeln. Ein Modell, das in einem Hochrisiko-System Entscheidungen über Personen vorbereitet, braucht eine engere Führung als ein Übersetzungswerkzeug. Lege je Stufe fest, welche Unterlagen vor dem Vertrag vorliegen müssen, welche Zusagen vertraglich vereinbart werden und wie oft die Beurteilung wiederholt wird.
Unterlagen und Mitwirkung vertraglich sichern. Fordere Systembeschreibung, Angaben zu Trainingsdaten und Leistungsgrenzen, Gebrauchsanweisung und Sicherheitsinformationen an. Vereinbare, dass der Lieferant Vorfälle und wesentliche Änderungen meldet und bei Auskünften gegenüber Behörden mitwirkt. Bewährt hat sich außerdem eine Regel für fremdes geistiges Eigentum, Geschäftsgeheimnisse und Quellcode aus der Lieferkette: Zugriff nur für benannte Personen, eingestufte Ablage, Rückgabe oder Löschung nach Zweckfortfall.
Korrekturen einfordern und nachhalten. Arbeitet ein zugekauftes System nicht wie zugesagt oder benachteiligt es Gruppen, verlangt die Organisation vom Lieferanten Abhilfe und führt den Vorgang als Korrekturmaßnahme. Bleibt die Abhilfe aus, wird der Einsatz eingeschränkt oder beendet. Die Norm lässt ausdrücklich zu, gemeinsam mit dem Lieferanten an der Lösung zu arbeiten.
Kunden die Grenzen mitgeben. Wer KI liefert, übergibt mit dem System die Grenzen des validierten Einsatzbereichs, die gemessene Genauigkeit und die Aufteilung der Verantwortung. Das hilft dem Kunden, seine eigenen Risiken zu behandeln, und schützt die Organisation vor Einsätzen, für die das System nie gedacht war.
Typische Audit-Nachweise
Bei A.10 erwarten Auditoren typischerweise:
- Parteien und Verantwortung je System (→ KI-Verzeichnis im KI-Compliance-Starter-Kit)
- Regeln zur Verantwortungsteilung und Lieferantensteuerung (→ KI-Politik, Abschnitte 13 und 14)
- Lieferantenbeurteilungen mit Risikourteil, Stand der Unterlagen und Turnus (→ Lieferantenregister)
- Verträge mit Pflichten zu Dokumentation, Vorfallmeldung, Änderungen und Mitwirkung
- Integrationsbeschreibung bezogener Systeme und Komponenten mit Schnittstellen und Datenflüssen
- Korrekturmaßnahmen gegenüber Lieferanten (→ CAPA-Register)
- Kundeninformationen zu Einsatzgrenzen, Genauigkeit und Verantwortungsteilung (→ KI-Anbieterrichtlinie, Abschnitt 6)
KPI
Anteil der KI-Systeme im KI-Verzeichnis, für die alle beteiligten Parteien mit Rolle und Verantwortung dokumentiert sind
Ziel ist 100 %. Typische Lücken sind Unterauftragnehmer des Hauptlieferanten und Datenlieferanten, die nur ein einziges Mal geliefert haben.
Ergänzende KPIs:
- Anteil der KI-Lieferanten mit Beurteilung innerhalb des festgelegten Turnus
- Anzahl offener Korrekturforderungen an Lieferanten mit überschrittener Frist
- Anteil der an Kunden gelieferten Systeme mit übergebener Beschreibung der Einsatzgrenzen
Bezug zur KI-Verordnung
Die KI-Verordnung (EU) 2024/1689 verteilt Pflichten entlang der Wertschöpfungskette und verlangt, dass die Beteiligten zusammenarbeiten. Wer ein KI-System, Werkzeug, Dienst, Bauteil oder Verfahren für ein Hochrisiko-System liefert, schließt nach Art. 25 Abs. 4 mit dem Anbieter eine schriftliche Vereinbarung über die nötigen Informationen, Fähigkeiten und den technischen Zugang. Für frei und quelloffen bereitgestellte Bestandteile gilt eine Ausnahme, die für KI-Modelle mit allgemeinem Verwendungszweck nicht greift. Art. 25 Abs. 1 regelt, wann ein Händler, Einführer oder Betreiber selbst zum Anbieter wird, und Abs. 2 verpflichtet den ursprünglichen Anbieter dann zur Mitwirkung. Anbieter von KI-Modellen mit allgemeinem Verwendungszweck stellen nach Art. 53 Abs. 1 Buchst. b nachgelagerten Anbietern die Angaben bereit, die diese für ihre Pflichten brauchen.
Einführer und Händler prüfen nach Art. 23 und 24 vor dem Inverkehrbringen oder der Bereitstellung, ob der Anbieter seine Pflichten erfüllt hat. Für Betreiber bleibt Art. 26 maßgeblich: Sie verwenden das System nach der Gebrauchsanweisung des Anbieters und unterrichten ihn über Risiken und Vorfälle (→ EU AI Act).
Verwandte Kontrollen
A.10 verlängert die interne Verantwortung über die Grenzen der Organisation hinaus:
- A.3 Interne Organisation: verteilt die Rollen innerhalb der Organisation, darunter die Lieferantensteuerung.
- A.6.2 Lebenszyklus von KI-Systemen: erstellt die technische Dokumentation, die Kunden und Partner erhalten.
- A.8 Information für interessierte Parteien: regelt, welche Informationen Nutzende und Kunden bekommen.
- A.5.19 IS in Lieferantenbeziehungen und A.5.20 IS in Lieferantenvereinbarungen: die Gegenstücke aus ISO 27001 für die Informationssicherheit in der Lieferkette.
Quellen
- ISO/IEC 42001:2023, Anhang A.10 und Anhang B.10: Beziehungen zu Dritten und Kunden
- Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 23, 24, 25, 26 und 53
- ISO/IEC 27701 und ISO/IEC 29100, in Anhang B.10.2 für die Rollen bei personenbezogenen Daten genannt
- ISO/IEC 42001 im Cenedril-Wiki: Aufbau der Norm und Verhältnis zur KI-Verordnung