Zum Hauptinhalt springen
QMS-Risiko · EN 18286

QMS-07 Ausfall einer Software mit QMS-Unterlagen

Aktualisiert am 5 Min. Geprüft von: Cenedril-Redaktion
EN 18286EU AI ActISO/IEC 42001

Ein Anbieter einer KI, die für Krankenversicherer Risiken in Anträgen bewertet, führt sein gesamtes Qualitätsmanagementsystem (QMS) in einem Cloud-Dienst für Dokumentenmanagement: Richtlinien, Freigaben, Testberichte, technische Dokumentation. An einem Montag ist der Dienst nach einem Angriff auf den Betreiber nicht erreichbar, am Donnerstag noch immer nicht. Am Dienstag ist eine begründete Anfrage der Marktüberwachungsbehörde eingegangen. Die Nachweise existieren, doch niemand kommt an sie heran.

EN 18286 nennt genau diesen Fall in Kapitel 6.1.1 als Beispiel für ein Risiko des QMS: Unterlagen liegen in einer Softwarelösung, die ein Dritter kontrolliert und die ausfallen kann. Als Maßnahme schlägt die Norm eine regelmäßige Sicherung vor. Die KI-Anbieterrichtlinie greift das Beispiel auf und ergänzt einen beschriebenen Ausweichweg.

Was steckt dahinter?

Die Unterlagen des QMS sind Gedächtnis und Beweismittel zugleich. Sie zeigen, dass die Verfahren angewandt wurden, und das über viele Jahre. Heute liegen sie fast immer in externen Werkzeugen: Dokumentenmanagement, Wiki, Ticketsystem, Code-Repository, Plattformen für Modellexperimente, Compliance-Software. Fällt eines davon aus, fehlt nicht nur ein Arbeitsmittel. Es fehlt der Zugang zu Belegen, die der Anbieter auf Verlangen vorlegen muss.

Wie Unterlagen unerreichbar werden

  • Störung oder Angriff. Der Dienst ist Stunden, Tage oder Wochen nicht erreichbar.
  • Ende des Produkts. Der Hersteller stellt den Dienst ein, wird übernommen oder ist insolvent.
  • Verlorener Zugang. Ein Abonnement läuft wegen einer gescheiterten Zahlung aus, das einzige Verwaltungskonto gehört einer Person, die das Unternehmen verlassen hat.
  • Unbrauchbarer Export. Die Daten lassen sich nur in einem eigenen Format exportieren, Versionen und Freigabehistorie gehen dabei verloren.
  • Sicherung ohne Probe. Eine Sicherung existiert, ihre Wiederherstellung wurde aber nie geübt und scheitert im Ernstfall.

Warum die Frist das Problem verschärft

Die KI-Verordnung verlangt, wesentliche Unterlagen zehn Jahre bereitzuhalten (Art. 18). EN 18286 verlangt, dokumentierte Information so zu lenken, dass sie bei Bedarf verfügbar, geschützt und dauerhaft lesbar bleibt, und sie notifizierten Stellen und Behörden zur Verfügung zu halten (Kapitel 4.5). Über einen solchen Zeitraum wechseln Werkzeuge fast sicher mindestens einmal.

Schadensausmaß

Kurzfristig stehen die Abläufe: Freigaben lassen sich nicht erteilen, Korrekturen nicht dokumentieren, Vorfälle nicht mit den nötigen Unterlagen bearbeiten. Eine Anfrage der Behörde nach Art. 21 lässt sich nicht fristgerecht beantworten, ein Audit der notifizierten Stelle muss verschoben werden. Langfristig wiegt ein endgültiger Verlust am schwersten. Was nicht mehr vorhanden ist, lässt sich nicht nachträglich belegen, und der Anbieter verstößt gegen seine Aufbewahrungspflicht, selbst wenn er die Verfahren immer korrekt angewandt hat.

Praxisbeispiele

Angriff auf den Betreiber. Das Beispiel vom Anfang zeigt den Kern: Die Behörde wartet, die Unterlagen sind vorhanden und trotzdem nicht greifbar. Hätte der Anbieter wöchentliche Exporte der freigegebenen Dokumente in einem eigenen Speicher gehalten, wäre die Anfrage beantwortbar gewesen.

Abgekündigte Plattform. Ein Anbieter einer KI zur Prüfungsaufsicht führt seine Testberichte auf einer Plattform für Modellexperimente. Der Hersteller wird übernommen und stellt den Dienst mit kurzer Frist ein. Der Export umfasst nur die aktuellen Läufe. Die Testnachweise für die ersten beiden Versionen des Systems sind danach verloren.

Gesperrtes Konto. Bei einem kleinen Anbieter einer Software zur Bewerbungsvorauswahl läuft das Abonnement für das Ticketsystem über die Kreditkarte eines ausgeschiedenen Geschäftsführers. Die Zahlung scheitert, das Konto wird gesperrt. Darin liegen alle Freigabevorgänge der letzten drei Jahre.

Wirksame Maßnahmen

Die KI-Anbieterrichtlinie aus dem KI-Compliance-Starter-Kit setzt an diesen Stellen an:

  • Abschnitt 16 (Risikomanagement): Der Ausfall einer externen Software mit QMS-Unterlagen ist dort das Beispiel für ein Risiko des QMS. Ihm wird mit einer regelmäßigen Sicherung und einem beschriebenen Ausweichweg begegnet, geführt im KI-Risikoregister unter der Kategorie „Qualitätsmanagementsystem“.
  • Abschnitt 19 (Kommunikation mit Behörden und Akteuren): Die Nachweise der Konformität werden je System in einem Konformitätsdossier zusammengestellt und auf begründete Anfrage bereitgestellt.
  • Abschnitt 21 (Aufzeichnungen und Aufbewahrung): Speicherort, Zugriffsrechte und eine jährliche Prüfung auf Vollständigkeit werden je System festgelegt.
  • Abschnitt 22 (Lenkung dokumentierter Information): Frühere Versionen bleiben erhalten und lesbar, auch außerhalb des Dokumentensystems, etwa als PDF. Gelöscht wird nur auf ausdrückliche Entscheidung nach Fristende.
  • Abschnitt 23 (Ressourcen und Versorgungssicherheit): Für Werkzeuge von Dritten sind Bezugsquelle, vertragliche Fristen und die Folgen eines Ausfalls oder einer Abkündigung festgehalten.

Aus ISO/IEC 42001 tragen diese Kontrollen bei:

Bezug zur KI-Verordnung

Art. 17 Abs. 1 der Verordnung (EU) 2024/1689 verlangt Systeme und Verfahren für die Aufbewahrung aller einschlägigen Dokumente und Informationen (Buchstabe k) sowie Ressourcenmanagement mit Maßnahmen zur Versorgungssicherheit (Buchstabe l). Art. 18 verpflichtet Anbieter, unter anderem die technische Dokumentation, die Dokumentation des QMS, von notifizierten Stellen genehmigte Änderungen und deren Entscheidungen sowie die EU-Konformitätserklärung zehn Jahre für die zuständigen Behörden bereitzuhalten. Nach Art. 21 stellen sie auf begründete Anfrage alle Informationen und Unterlagen bereit, die die Konformität belegen. Ein Ausfall der QMS-Software trifft alle drei Pflichten zugleich. Zur Reichweite der Konformitätsvermutung beim Einsatz der Norm siehe EN 18286: Qualitätsmanagementsystem für KI-Anbieter.

Verwandte QMS-Risiken

Quellen

Häufig gestellte Fragen

Reicht die Datensicherung des Softwareanbieters?

Meist nicht, weil sie beim selben Anbieter liegt, der gerade ausfällt. Bewährt hat sich eine eigene Kopie außerhalb des Werkzeugs in einem lesbaren Format, etwa PDF oder CSV, in festen Abständen erstellt und mit einer erprobten Wiederherstellung. Die KI-Anbieterrichtlinie verlangt, dass frühere Versionen auch außerhalb des Dokumentensystems lesbar bleiben.

Wie lange müssen die Unterlagen verfügbar bleiben?

Art. 18 der KI-Verordnung verlangt zehn Jahre ab dem Inverkehrbringen oder der Inbetriebnahme, unter anderem für die technische Dokumentation, die Dokumentation des QMS und die EU-Konformitätserklärung. EN 18286 verlangt außerdem, Unterlagen mindestens für die festgelegte Lebensdauer jedes Systems verfügbar zu halten. Das ist oft länger, als ein einzelnes Softwareprodukt am Markt bleibt.

Was gehört in einen beschriebenen Ausweichweg?

Festgelegt wird, wer über die Umstellung entscheidet, wo die Kopien liegen und wer darauf zugreifen kann. Dazu kommt, wie Anfragen von Behörden während des Ausfalls beantwortet werden, wie Freigaben in dieser Zeit festgehalten werden und wie die Aufzeichnungen danach zurück in das Werkzeug kommen.

Keine Cookies!

Dieses Wiki sammelt nichts, bäckt nichts und lässt nichts bei dir. Deshalb gibt es auch nichts einzuwilligen. Mehr Datenschutz geht nicht.