Zum Hauptinhalt springen
ISO/IEC 42001 · Anhang A · KI-Kontrolle

A.10 Beziehungen zu Dritten und Kunden

Aktualisiert am 6 Min. Geprüft von: Cenedril-Redaktion
ISO/IEC 42001EU AI Act

Ein Logistikunternehmen bindet das Sprachmodell eines großen Anbieters in seine Kundenkommunikation ein. Ein Dienstleister übernimmt die Integration, die Daten für die Feinabstimmung liefert ein dritter Partner. Als das System einer Kundin falsche Zollinformationen gibt, verweisen alle drei aufeinander. A.10 verlangt, dass für jedes KI-System vorab feststeht, welche Partei welchen Teil verantwortet, wie Lieferanten gesteuert werden und welche Erwartungen der Kunden der eigene Ansatz berücksichtigt.

Kaum ein KI-System entsteht in einer Hand. Modelle, Daten, Rechenleistung, Integration und Betrieb verteilen sich auf mehrere Parteien. A.10 sorgt dafür, dass die Organisation dabei ihre eigene Rechenschaft behält und Risiken angemessen aufgeteilt werden. Die Kontrolle blickt in beide Richtungen: zu den Lieferanten, deren Leistungen in eigene Systeme einfließen, und zu den Kunden, denen die Organisation selbst KI liefert.

Was verlangt die Norm?

Anhang A.10 der ISO/IEC 42001 enthält drei Kontrollen. Die Umsetzungshinweise stehen in Anhang B.10.

  • Verantwortung aufteilen (A.10.2). Die Organisation sorgt dafür, dass die Verantwortlichkeiten im Lebenszyklus ihrer KI-Systeme zwischen ihr, Partnern, Lieferanten, Kunden und weiteren Dritten verteilt sind. Sie dokumentiert alle beteiligten Parteien mit ihrer Rolle, etwa wer Daten liefert, wer Modelle oder Algorithmen bereitstellt und wer das System entwickelt oder nutzt, und legt deren Verantwortung fest. Liefert sie selbst ein System an Dritte, entwickelt sie es verantwortungsvoll und kann die nötige Dokumentation bereitstellen. Bei personenbezogenen Daten klärt sie, ob sie verantwortliche Stelle, gemeinsam verantwortlich, Auftragsverarbeiterin oder mehreres davon ist; ISO/IEC 27701 bietet dafür passende Kontrollen.
  • Lieferanten steuern (A.10.3). Ein Prozess stellt sicher, dass bezogene Dienste, Produkte und Materialien zum eigenen verantwortungsvollen Ansatz passen. Das reicht vom einzelnen Datensatz, Algorithmus oder Modell über Softwarebibliotheken bis zum vollständigen KI-System, eigenständig oder eingebaut in ein Produkt. Auswahl, Anforderungen und Überwachung richten sich nach Art des Lieferanten, seiner Leistung und dem Risiko. Die Organisation dokumentiert, wie bezogene Systeme und Komponenten in ihre eigenen Systeme eingebunden sind, verlangt Korrekturmaßnahmen, wenn eine Lieferung nicht wie vorgesehen funktioniert oder unerwünschte Folgen für Menschen hat, und sorgt dafür, dass der Lieferant geeignete und ausreichende Dokumentation liefert.
  • Kunden berücksichtigen (A.10.4). Liefert die Organisation selbst Produkte oder Dienste mit KI, berücksichtigt ihr Ansatz die Erwartungen und Bedürfnisse der Kunden. Diese zeigen sich als Produktanforderungen, Vertragsklauseln oder Nutzungsbedingungen und können je Kundenbeziehung verschieden sein. Die Organisation klärt, welche Verantwortung beim Anbieter und welche beim Kunden liegt. Erkennt sie Risiken aus der Nutzung durch den Kunden, kann sie diese behandeln, indem sie ihm geeignete Informationen gibt, etwa die Grenzen des Einsatzbereichs, für den das System gültig ist.

In der Praxis

Lieferanten nach Risiko staffeln. Ein Modell, das in einem Hochrisiko-System Entscheidungen über Personen vorbereitet, braucht eine engere Führung als ein Übersetzungswerkzeug. Lege je Stufe fest, welche Unterlagen vor dem Vertrag vorliegen müssen, welche Zusagen vertraglich vereinbart werden und wie oft die Beurteilung wiederholt wird.

Unterlagen und Mitwirkung vertraglich sichern. Fordere Systembeschreibung, Angaben zu Trainingsdaten und Leistungsgrenzen, Gebrauchsanweisung und Sicherheitsinformationen an. Vereinbare, dass der Lieferant Vorfälle und wesentliche Änderungen meldet und bei Auskünften gegenüber Behörden mitwirkt. Bewährt hat sich außerdem eine Regel für fremdes geistiges Eigentum, Geschäftsgeheimnisse und Quellcode aus der Lieferkette: Zugriff nur für benannte Personen, eingestufte Ablage, Rückgabe oder Löschung nach Zweckfortfall.

Korrekturen einfordern und nachhalten. Arbeitet ein zugekauftes System nicht wie zugesagt oder benachteiligt es Gruppen, verlangt die Organisation vom Lieferanten Abhilfe und führt den Vorgang als Korrekturmaßnahme. Bleibt die Abhilfe aus, wird der Einsatz eingeschränkt oder beendet. Die Norm lässt ausdrücklich zu, gemeinsam mit dem Lieferanten an der Lösung zu arbeiten.

Kunden die Grenzen mitgeben. Wer KI liefert, übergibt mit dem System die Grenzen des validierten Einsatzbereichs, die gemessene Genauigkeit und die Aufteilung der Verantwortung. Das hilft dem Kunden, seine eigenen Risiken zu behandeln, und schützt die Organisation vor Einsätzen, für die das System nie gedacht war.

Typische Audit-Nachweise

Bei A.10 erwarten Auditoren typischerweise:

KPI

Anteil der KI-Systeme im KI-Verzeichnis, für die alle beteiligten Parteien mit Rolle und Verantwortung dokumentiert sind

Ziel ist 100 %. Typische Lücken sind Unterauftragnehmer des Hauptlieferanten und Datenlieferanten, die nur ein einziges Mal geliefert haben.

Ergänzende KPIs:

  • Anteil der KI-Lieferanten mit Beurteilung innerhalb des festgelegten Turnus
  • Anzahl offener Korrekturforderungen an Lieferanten mit überschrittener Frist
  • Anteil der an Kunden gelieferten Systeme mit übergebener Beschreibung der Einsatzgrenzen

Bezug zur KI-Verordnung

Die KI-Verordnung (EU) 2024/1689 verteilt Pflichten entlang der Wertschöpfungskette und verlangt, dass die Beteiligten zusammenarbeiten. Wer ein KI-System, Werkzeug, Dienst, Bauteil oder Verfahren für ein Hochrisiko-System liefert, schließt nach Art. 25 Abs. 4 mit dem Anbieter eine schriftliche Vereinbarung über die nötigen Informationen, Fähigkeiten und den technischen Zugang. Für frei und quelloffen bereitgestellte Bestandteile gilt eine Ausnahme, die für KI-Modelle mit allgemeinem Verwendungszweck nicht greift. Art. 25 Abs. 1 regelt, wann ein Händler, Einführer oder Betreiber selbst zum Anbieter wird, und Abs. 2 verpflichtet den ursprünglichen Anbieter dann zur Mitwirkung. Anbieter von KI-Modellen mit allgemeinem Verwendungszweck stellen nach Art. 53 Abs. 1 Buchst. b nachgelagerten Anbietern die Angaben bereit, die diese für ihre Pflichten brauchen.

Einführer und Händler prüfen nach Art. 23 und 24 vor dem Inverkehrbringen oder der Bereitstellung, ob der Anbieter seine Pflichten erfüllt hat. Für Betreiber bleibt Art. 26 maßgeblich: Sie verwenden das System nach der Gebrauchsanweisung des Anbieters und unterrichten ihn über Risiken und Vorfälle (→ EU AI Act).

Verwandte Kontrollen

A.10 verlängert die interne Verantwortung über die Grenzen der Organisation hinaus:

Quellen

Häufig gestellte Fragen

Wer ist verantwortlich, wenn ein zugekauftes Modell falsche Ergebnisse liefert?

Das hängt von der Aufteilung ab, die A.10.2 verlangt. Gegenüber Betroffenen und Behörden bleibt die Organisation für ihren eigenen Einsatz rechenschaftspflichtig, auch wenn der Fehler beim Lieferanten liegt. Sie verlangt vom Lieferanten Korrekturmaßnahmen und schränkt den Einsatz ein, wenn die Abhilfe ausbleibt.

Welche Unterlagen sollte ich von einem KI-Lieferanten verlangen?

Anhang B.10.3 verlangt geeignete und ausreichende Dokumentation und verweist dafür auf technische Dokumentation und Nutzerinformationen. Bewährt haben sich Systembeschreibung, Angaben zu Trainingsdaten und Leistungsgrenzen, Gebrauchsanweisung, Sicherheitsinformationen und Zusagen zur Meldung von Vorfällen und Änderungen. Bei Hochrisiko-Systemen kommen die Angaben hinzu, die du für deine Betreiberpflichten nach Art. 26 der KI-Verordnung brauchst.

Gilt A.10.4 auch, wenn wir KI nur intern nutzen?

A.10.4 greift, wenn die Organisation Produkte oder Dienste mit KI an Kunden liefert. Wer KI ausschließlich intern einsetzt, kann A.10.4 in der Anwendbarkeitserklärung mit Begründung ausschließen. A.10.2 und A.10.3 bleiben dann meist relevant, weil kaum ein System ohne Lieferanten auskommt.

Keine Cookies!

Dieses Wiki sammelt nichts, bäckt nichts und lässt nichts bei dir. Deshalb gibt es auch nichts einzuwilligen. Mehr Datenschutz geht nicht.