Zum Hauptinhalt springen
ISO/IEC 42001 · Anhang A · KI-Kontrolle

A.4 Ressourcen für KI-Systeme

Aktualisiert am 5 Min. Geprüft von: Cenedril-Redaktion
ISO/IEC 42001EU AI Act

Ein Versicherer setzt ein Modell zur Schadenprüfung ein. Als die Trefferquote plötzlich sinkt, fragt die Leitung, auf welchen Daten das Modell zuletzt trainiert wurde, in welcher Cloud-Region es läuft und wer es nachtrainieren kann. Niemand kann alle drei Fragen beantworten. A.4 verlangt, dass die Organisation für jedes KI-System weiß und aufschreibt, worauf es angewiesen ist: Komponenten, Daten, Werkzeuge, Rechenleistung und Menschen.

Die Ressourcendokumentation ist die Bestandsaufnahme hinter dem KI-Verzeichnis. Sie macht Abhängigkeiten sichtbar, bevor sie zum Problem werden, und liefert der Folgenabschätzung die Fakten, auf denen sie aufbaut. Anhang B.4.2 nennt dafür ausdrücklich Hilfsmittel wie Datenflussdiagramme und Architekturskizzen.

Was verlangt die Norm?

Anhang A.4 der ISO/IEC 42001 enthält fünf Kontrollen. Die erste verlangt die Dokumentation insgesamt, die übrigen vier vertiefen je eine Ressourcenart. Die Umsetzungshinweise stehen in Anhang B.4.

  • Ressourcen je Lebenszyklusphase dokumentieren (A.4.2). Die Organisation bestimmt, welche Ressourcen ihre Tätigkeiten in den einzelnen Phasen eines KI-Systems und weitere KI-Tätigkeiten brauchen, und hält sie fest. Dazu zählen Systemkomponenten, Daten, Werkzeuge, System- und Rechenressourcen sowie Personen mit ihrem Fachwissen. Die Ressourcen können aus der eigenen Organisation, von Kunden oder von Dritten stammen. Zeigt die Dokumentation, dass etwas fehlt, passt die Organisation die Spezifikation des Systems oder seine Einsatzanforderungen an.
  • Datenressourcen (A.4.3). Zur Dokumentation gehören unter anderem Herkunft, Datum der letzten Änderung, beim maschinellen Lernen die Einteilung in Trainings-, Validierungs-, Test- und Produktionsdaten, Datenkategorien, das Kennzeichnungsverfahren, der vorgesehene Zweck, die Qualität, Aufbewahrungs- und Löschregeln, bekannte oder mögliche Verzerrungen und die Aufbereitung.
  • Werkzeug-Ressourcen (A.4.4). Gemeint sind Algorithmen und Modelltypen, Werkzeuge zur Datenaufbereitung, Optimierungs- und Bewertungsmethoden, Werkzeuge zur Bereitstellung, Hilfen für die Modellentwicklung sowie Software und Hardware für Entwurf, Entwicklung und Einsatz.
  • System- und Rechenressourcen (A.4.5). Festgehalten werden etwa der Ressourcenbedarf, damit klar ist, ob das System auch auf schwachen Geräten läuft, der Standort (lokal, Cloud, Edge), Verarbeitung samt Netz und Speicher sowie die Auswirkungen der Hardware auf Umwelt und Kosten. Entwicklung, Bereitstellung und Betrieb können jeweils andere Ressourcen brauchen.
  • Personelle Ressourcen (A.4.6). Die Organisation dokumentiert die Personen und Kompetenzen, die das System tragen, von der Entwicklung über Einsatz, Betrieb, Änderung und Wartung bis zu Übergabe und Außerbetriebnahme, dazu Verifizierung und Integration. Sie berücksichtigt den Bedarf an unterschiedlichem Fachwissen, etwa Datenwissenschaft, Aufsichtsrollen, Fachleute für Sicherheit und Datenschutz, KI-Forschung und Domänenwissen.

In der Praxis

Ein Steckbrief je KI-System. Lege im KI-Verzeichnis für jedes System einen Ressourcenteil mit den fünf Kategorien an. Für ein zugekauftes Sprachmodell im Kundenservice reichen oft wenige Zeilen: Anbieter und Modellversion, Region des Rechenzentrums, die eingespeisten Wissensquellen und die verantwortliche Fachperson. Ein selbst trainiertes Modell braucht deutlich mehr, vor allem bei den Daten.

Daten wie eigenständige Werte führen. Jeder Datensatz bekommt einen Eintrag mit Herkunft, Nutzungsrecht, Stand, Kategorie und verantwortlicher Person. Notiere bekannte Verzerrungen ausdrücklich, auch wenn sie noch nicht behoben sind. Eine dokumentierte Schwäche lässt sich behandeln, eine unbekannte überrascht dich im Betrieb.

Abhängigkeiten von Dritten sichtbar machen. Kennzeichne bei Werkzeugen und Rechenressourcen, was von Lieferanten kommt: Cloud-Plattform, vortrainiertes Modell, Bibliotheken, Dienstleister für die Datenkennzeichnung. Diese Einträge sind die Grundlage für die Lieferantensteuerung nach A.10 und für einen Ausweichplan, falls ein Dienst abgekündigt wird.

Kompetenzlücken früh benennen. Vergleiche die benötigten Kompetenzen je System mit dem, was intern vorhanden ist. Wo niemand ein Modell validieren oder seine Ausgaben fachlich beurteilen kann, hältst du die Lücke fest und übernimmst sie in die Schulungsplanung oder in die Beauftragung externer Unterstützung. Bleibt eine Ressource dauerhaft aus, sieht die Norm vor, Entwurf oder Einsatzbedingungen anzupassen.

Typische Audit-Nachweise

Bei A.4 erwarten Auditoren typischerweise:

  • Ressourcenteil je KI-System mit Komponenten, Daten, Werkzeugen, Rechenressourcen und Personen (→ KI-Verzeichnis im KI-Compliance-Starter-Kit)
  • Datenflussdiagramme oder Architekturskizzen für die wesentlichen Systeme
  • Datensatzbeschreibungen mit Herkunft, Stand, Kategorie, Zweck, Qualität, Aufbewahrung und bekannten Verzerrungen
  • Grundsätze zu den Ressourcen in der Politik (→ KI-Politik, Abschnitt 9)
  • Ressourcen und Versorgungssicherheit bei eigener Anbieterrolle (→ KI-Anbieterrichtlinie, Abschnitt 23)
  • Kompetenzübersicht mit den Rollen je System und dem Stand der Schulungen (→ Kompetenzmatrix)
  • Verknüpfung zum Asset-Register für Werte, die bereits im ISMS geführt werden (→ Asset-Register)

KPI

Anteil der KI-Systeme im KI-Verzeichnis mit vollständiger Ressourcendokumentation in allen fünf Kategorien

Vollständig heißt: Jede Kategorie ist ausgefüllt oder mit Begründung als nicht zutreffend markiert. Ziel ist 100 %. Der Wert sinkt meist bei neu aufgenommenen Systemen und nach Modellwechseln, wenn die Angaben nicht nachgezogen werden.

Ergänzende KPIs:

  • Anteil der Datensätze mit dokumentierter Herkunft und geklärtem Nutzungsrecht
  • Anzahl der Systeme mit offener Kompetenzlücke
  • Monate seit der letzten Prüfung der Ressourcenangaben je System (Ziel: höchstens 12)

Bezug zur KI-Verordnung

Für Anbieter von Hochrisiko-Systemen deckt sich A.4 weitgehend mit der technischen Dokumentation nach Art. 11 und Anhang IV der KI-Verordnung (EU) 2024/1689, die unter anderem die Systemarchitektur, die eingesetzten Rechenressourcen und die Datenanforderungen beschreibt. Art. 10 verlangt für Trainings-, Validierungs- und Testdaten eine Daten-Governance, die sich ohne Dokumentation der Datenressourcen kaum nachweisen lässt. Die Gebrauchsanweisung nennt nach Art. 13 Abs. 3 Buchst. e die benötigten Rechen- und Hardwareressourcen und die erwartete Lebensdauer.

Für Betreiber zählt vor allem die personelle Seite. Art. 26 Abs. 2 verlangt für die menschliche Aufsicht Personen mit Kompetenz, Ausbildung und Befugnis, und Art. 4 verpflichtet dazu, die KI-Kompetenz des Personals zu unterstützen. A.4.6 liefert dafür die Übersicht, welche Kompetenzen je System gebraucht werden (→ EU AI Act).

Verwandte Kontrollen

A.4 liefert die Bestandsaufnahme, auf die andere Kontrollen zugreifen:

Quellen

Häufig gestellte Fragen

Reicht ein Asset-Register nach ISO 27001 für A.4?

Nur zum Teil. Ein Asset-Register erfasst Werte mit Schutzbedarf und verantwortlicher Person, A.4 erwartet zusätzlich KI-eigene Angaben wie die Einteilung der Daten in Training, Validierung, Test und Produktion, das Kennzeichnungsverfahren, bekannte Verzerrungen, Optimierungs- und Bewertungsmethoden und die Kompetenzen der beteiligten Personen. Bewährt hat sich, das KI-Verzeichnis mit dem Asset-Register zu verknüpfen und die KI-Angaben dort zu ergänzen.

Muss ich bei zugekauften KI-Diensten auch Rechenressourcen dokumentieren?

Ja, denn Anhang B.4.2 zählt ausdrücklich Ressourcen mit, die Kunden oder Dritte bereitstellen. Halte fest, was du weißt: Anbieter, Dienstart, Region des Rechenzentrums und vertragliche Zusagen zur Verfügbarkeit. Wo der Anbieter keine Angaben macht, notiere die Lücke und berücksichtige sie in der Risikobeurteilung.

Was hat die Umweltwirkung von Hardware mit A.4 zu tun?

Anhang B.4.5 nennt die Auswirkungen der Hardware, auf der die KI-Lasten laufen, als mögliche Angabe, etwa durch Energieverbrauch, Herstellung oder Betriebskosten. Die Angabe speist die gesellschaftliche Folgenabschätzung nach A.5.5, in der ökologische Nachhaltigkeit ausdrücklich vorkommt. Für den Anfang genügt eine grobe Schätzung des Energiebedarfs, solange die Annahmen dokumentiert sind.

Keine Cookies!

Dieses Wiki sammelt nichts, bäckt nichts und lässt nichts bei dir. Deshalb gibt es auch nichts einzuwilligen. Mehr Datenschutz geht nicht.