# KI-Nutzungsrichtlinie

> **Dokumentenkontrolle**  
> Eigentümer: [RICHTLINIEN_EIGENTÜMER_ROLLE, z. B. KI-beauftragte Person]  
> Genehmigt von: [GENEHMIGER_NAME_UND_ROLLE]  
> Version: [VERSION]  
> Gültig ab: [GÜLTIGKEITSDATUM]  
> Nächste Überprüfung: [NÄCHSTES_ÜBERPRÜFUNGSDATUM]

> **KI-Compliance-Starter-Kit.** Diese Richtlinie überträgt die KI-Politik in die tägliche Arbeit: freigegebene Dienste, Umgang mit Eingaben und Ausgaben, Transparenz nach Art. 50, menschliche Aufsicht, Meldewege und die Betreiberpflichten nach Art. 26 der Verordnung (EU) 2024/1689. Sie richtet sich an alle Beschäftigten. Abschnitte, die nur für bestimmte Rollen gelten, tragen einen kursiven Hinweis und entfallen, wenn die Rolle nicht zutrifft.

## 1. Rechtliche und normative Grundlage

ISO/IEC 42001:2023, Anhang-A-Maßnahme A.9.2 (verantwortungsvolle Nutzung von KI-Systemen).

Verordnung (EU) 2024/1689 (KI-Verordnung), insbesondere:

- Art. 4, KI-Kompetenz der Beschäftigten, die KI-Systeme nutzen.
- Art. 5, verbotene KI-Praktiken.
- Art. 50, Transparenzpflichten, einschließlich der Offenlegung künstlich erzeugter oder manipulierter Inhalte und der Interaktion mit einem KI-System.
- Art. 26 i.V.m. Art. 14, Pflichten der Betreiber und menschliche Aufsicht über Hochrisiko-KI-Systeme.

Der Umgang mit personenbezogenen Daten beim KI-Einsatz richtet sich zusätzlich nach dem Datenschutzrecht (DSGVO), der Umgang mit Informationen nach der Informationssicherheitsrichtlinie. Diese Richtlinie überträgt die KI-Politik in die tägliche Praxis und leitet ihre Verbindlichkeit aus ihr ab.

## 2. Zweck und Geltungsbereich

Diese KI-Nutzungsrichtlinie legt die Regeln für den Einsatz künstlicher Intelligenz in der täglichen Arbeit von **[IHR_ORGANISATIONSNAME]** fest. Sie übersetzt die Grundsätze der KI-Politik in konkrete Regeln und zieht eine klare Grenze zwischen zulässiger und unzulässiger Nutzung, damit KI die Arbeit der Organisation unterstützt, ohne ihre Informationen, ihre Beschäftigten oder ihre rechtliche Stellung zu gefährden.

Diese Richtlinie gilt für:

- Alle Beschäftigten, ob unbefristet, befristet oder in Teilzeit.
- Externes Personal wie Auftragnehmer, Berater und Zeitarbeitskräfte, die im Auftrag der Organisation KI nutzen.
- Jedes für die Arbeit genutzte KI-System und jeden KI-Dienst, einschließlich eigenständiger KI-Assistenten (zum Beispiel ChatGPT, Microsoft Copilot, Google Gemini oder Claude), in andere Software eingebetteter KI-Funktionen sowie KI-Werkzeuge für Bild, Ton oder Code.

Die Beschäftigten machen sich mit dieser Richtlinie vertraut, bestätigen sie und befolgen ihre Vorgaben. Übt eine Person die menschliche Aufsicht über ein Hochrisiko-KI-System aus, gelten zusätzlich die für dieses System festgehaltenen Regelungen. Ein Verstoß gegen diese Richtlinie wird über das Disziplinarverfahren von **[IHR_ORGANISATIONSNAME]** behandelt.

## 3. Freigegebene KI-Systeme

Die Beschäftigten nutzen nur KI-Systeme und -Dienste, die **[IHR_ORGANISATIONSNAME]** für den jeweiligen Zweck freigegeben hat. Die Freigabe stellt sicher, dass ein Dienst vor der Nutzung gegen die verbotenen Praktiken, die Datenschutzanforderungen und die Sicherheitsanforderungen geprüft wurde.

### 3.1 Nur freigegebene Dienste

- Die freigegebenen KI-Dienste, die Bedingungen ihrer Nutzung und die Datenklassifizierung, die sie verarbeiten dürfen, stehen im Katalog der freigegebenen IT- und KI-Dienste. Die Beschäftigten prüfen den Katalog, bevor sie einen KI-Dienst für eine neue Art von Aufgabe nutzen.
- Steht ein freigegebener Dienst sowohl in einer öffentlichen als auch in einer geschützten Unternehmensversion zur Verfügung, wird für die Arbeit die Unternehmensversion genutzt (zum Beispiel ein KI-Assistent mit Auftragsverarbeitungsvertrag statt eines freien öffentlichen Werkzeugs).
- In bereits genutzte Software eingebettete KI-Funktionen werden wie jeder andere KI-Dienst behandelt: Sie werden innerhalb ihres freigegebenen Zwecks genutzt, und Funktionen, die Daten an einen externen Anbieter übermitteln, werden nur aktiviert, soweit dies freigegeben ist.

### 3.2 Beantragung eines neuen KI-Dienstes

Ein neuer KI-Dienst wird erst in Betrieb genommen, nachdem er über den etablierten Freigabeprozess beantragt und freigegeben wurde. Beschäftigte, die Bedarf an einem noch nicht freigegebenen Werkzeug sehen, stellen einen Antrag, statt das Werkzeug eigenmächtig zu nutzen, damit eine freigegebene Alternative geprüft und bei Eignung in den Katalog aufgenommen wird.

### 3.3 Schatten-KI

Die Nutzung eines KI-Dienstes außerhalb dieser Freigabe, etwa das Anlegen eines privaten Kontos bei einem öffentlichen KI-Werkzeug für Arbeitsdaten, ist nicht zulässig. Jede bekannt werdende Nutzung dieser Art wird der für KI verantwortlichen Person gemeldet, die sie bewertet und entweder unter freigegebenen Bedingungen ins KI-Inventar übernimmt oder einstellen lässt. Neue oder geänderte KI-Anwendungen in einem Arbeitsbereich werden gemeldet, damit das KI-Inventar vollständig bleibt.

## 4. Nutzungsregeln

### 4.1 Zulässige Nutzung

KI wird innerhalb des Zwecks, für den sie freigegeben ist, und als Unterstützung der Arbeit der nutzenden Person eingesetzt, etwa um Texte zu entwerfen und zusammenzufassen, zu übersetzen, Ideen zu sammeln, ein Thema zu erklären oder bei Code zu unterstützen. Die nutzende Person bleibt für das Ergebnis und für jede darauf gestützte Entscheidung verantwortlich. Die Ausgabe eines KI-Systems gilt als Vorschlag, der geprüft und angepasst wird; sie wird nicht ungeprüft als fertiges Ergebnis übernommen.

### 4.2 Unzulässige Nutzung

Die folgenden Nutzungen von KI sind nicht zulässig:

- **Verbotene Praktiken:** Jede Nutzung, die unter die nach Art. 5 der KI-Verordnung verbotenen Praktiken fällt, etwa manipulative oder ausnutzende Techniken, die das Verhalten einer Person wesentlich verzerren, Social Scoring, das ungezielte Auslesen von Gesichtsbildern, das Erzeugen oder Verändern intimer Darstellungen bestimmbarer Personen ohne deren ausdrückliche Einwilligung sowie das Erzeugen von Darstellungen sexuellen Kindesmissbrauchs (beide ab dem 2. Dezember 2026), die Risikobewertung von Personen zur Vorhersage einer Straftat allein aufgrund von Profiling oder Persönlichkeitsmerkmalen, die biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zu Strafverfolgungszwecken oder Emotionserkennung und biometrische Kategorisierung, soweit die Verordnung sie untersagt.
- **Vertrauliche und personenbezogene Daten in nicht freigegebenen Werkzeugen:** Die Eingabe vertraulicher, klassifizierter oder personenbezogener Daten in einen KI-Dienst, der dafür nicht freigegeben ist, insbesondere in freie öffentliche KI-Werkzeuge. Dazu zählen auch fremde Geschäftsgeheimnisse, Quellcode und Unterlagen, die aus der KI-Lieferkette stammen, etwa von Anbietern oder aus Konformitätsbewertungen.
- **Ungeprüfte Entscheidungen über Personen:** Die Verwendung der Ausgabe eines KI-Systems als alleinige Grundlage für eine Entscheidung, die gegenüber einer Person rechtliche Wirkung entfaltet oder sie in ähnlicher Weise beeinträchtigt (etwa bei der Personalauswahl, der Leistungsbewertung oder der Bearbeitung eines Kundenanliegens), ohne Prüfung durch eine fachkundige Person.
- **Täuschung:** Das Ausgeben KI-erzeugter Inhalte als menschlich, soweit dies die empfangende Person irreführt, oder das Erstellen von Inhalten, die eine reale Person oder ihre Stimme ohne Rechtsgrundlage nachahmen.
- **Umgehung von Kontrollen:** Der Einsatz von KI, um Sicherheits- oder Compliance-Kontrollen zu umgehen, oder die Eingabe fremder Zugangsdaten, Sicherheitsinformationen oder geschützten Materials in einen KI-Dienst.

### 4.3 Umgang mit Eingaben und Daten

Vor der Eingabe von Daten in einen KI-Dienst wird deren Sensibilität geprüft. Es gelten die folgenden Regeln:

- Vertrauliche, klassifizierte oder personenbezogene Daten werden nur in einen für diese Klassifizierung freigegebenen KI-Dienst eingegeben. Bei freien öffentlichen KI-Werkzeugen wird davon ausgegangen, dass ihre Eingaben Dritten bekannt werden können.
- Für sensible Arbeiten werden die freigegebenen Unternehmensinstanzen genutzt, da sie die Daten innerhalb der Vereinbarung der Organisation halten und nicht zum Training der Modelle des Anbieters verwenden.
- Geschäftsgeheimnisse, Quellcode, unveröffentlichte Geschäftszahlen sowie personenbezogene Daten von Kunden oder Kolleginnen und Kollegen werden nicht in einen KI-Dienst eingegeben, sofern dieser nicht ausdrücklich für solche Daten freigegeben ist.
- Für jede Eingabe in einen KI-Dienst gelten die Regeln der Informationssicherheitsrichtlinie und der Datenschutzdokumentation von **[IHR_ORGANISATIONSNAME]** in vollem Umfang.

### 4.4 Prüfung der Ausgabe

Die Ausgabe eines KI-Systems wird vor ihrer Verwendung geprüft, da KI-Systeme flüssige und überzeugende, aber falsche Ergebnisse erzeugen können. Es gilt:

- **Richtigkeit:** Von KI erzeugte Fakten, Zahlen, Zitate, Rechtsverweise und Quellen werden gegen eine verlässliche Quelle verifiziert, bevor man sich auf sie stützt.
- **Verzerrung und Fairness:** Ausgaben, die Personen betreffen oder sich auf sie auswirken, werden auf ungerechtfertigte Verzerrungen oder diskriminierende Annahmen geprüft.
- **Rechte am Material:** KI-Ausgaben werden daraufhin geprüft, dass sie fremdes Material nicht in einer Weise wiedergeben, die Urheber- oder andere Rechte verletzt.
- **Dokumentation:** Wird die Ausgabe für einen externen oder folgenreichen Zweck verwendet, wird die Prüfung dokumentiert, damit nachvollziehbar ist, wer das Ergebnis auf welcher Grundlage geprüft hat.

## 5. Transparenz und Offenlegung (Art. 50)

**[IHR_ORGANISATIONSNAME]** macht den KI-Einsatz transparent, wo die KI-Verordnung dies verlangt. Es gelten die folgenden Offenlegungspflichten:

- **Künstlich erzeugte oder manipulierte Inhalte (Deepfakes):** Bild-, Ton- oder Videoinhalte, die durch KI erzeugt oder manipuliert wurden und täuschend echt wirken, werden als künstlich erzeugt oder manipuliert offengelegt, etwa ein mit einem KI-Bildwerkzeug erstelltes Werbebild oder eine synthetische Sprachaufnahme.
- **Interaktion mit einem KI-System:** Interagieren Personen mit einem KI-System wie einem Chatbot im Kundenkontakt, werden sie darüber informiert, dass sie es mit einem KI-System zu tun haben, sofern sich dies nicht aus den Umständen ergibt.
- **KI-erzeugte Texte zu Angelegenheiten von öffentlichem Interesse:** Von KI erzeugte Texte, die veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, werden als künstlich erzeugt offengelegt. Die Offenlegung entfällt nur, wenn der Text einer menschlichen Prüfung unterzogen wurde und zugleich eine Person oder die Organisation die redaktionelle Verantwortung dafür trägt.

### 5.1 Freigabe veröffentlichter Inhalte

KI-erzeugte Inhalte, die zur externen Veröffentlichung bestimmt sind (etwa eine Pressemitteilung, ein Website-Text, eine Kundenkommunikation oder ein Social-Media-Beitrag), werden vor der Freigabe geprüft und genehmigt. Die Prüfung bestätigt die Richtigkeit der Inhalte, die oben verlangte Offenlegung und die Rechte an dem verwendeten Material. Die Offenlegung wird so platziert, dass sie für die empfangende Person erkennbar ist (etwa als klar lesbare Kennzeichnung auf einem synthetischen Bild).

### 5.2 Zeitpunkt und Barrierefreiheit der Information

Soweit nach Artikel 50 Absatz 1 bis 4 eine Information geschuldet ist, wird sie spätestens zum Zeitpunkt der ersten Interaktion oder Aussetzung bereitgestellt, in klarer und eindeutiger Weise. Sie ist über assistive Technik erreichbar, für sich verständlich und ohne Farbe allein erkennbar; für digitale Oberflächen gilt dafür EN 301 549.

Bei offensichtlich künstlerischen, kreativen, satirischen, fiktionalen oder analogen Werken beschränkt sich die Offenlegung darauf, das Vorhandensein erzeugter oder manipulierter Inhalte in geeigneter Weise offenzulegen, ohne die Darstellung oder den Genuss des Werks zu beeinträchtigen.

## 6. Menschliche Aufsicht

Hat der Einsatz eines KI-Systems folgenreiche Wirkung auf Personen oder auf die Organisation, prüft eine fachkundige Person die Ausgabe, bevor auf ihrer Grundlage gehandelt wird, damit ein KI-Ergebnis nie automatisch wirksam wird, ohne dass eine Person es prüfen und bei Bedarf korrigieren kann.

Für Hochrisiko-KI-Systeme gilt die dem System zugewiesene menschliche Aufsicht (KI-Verordnung, Art. 26 i.V.m. Art. 14): Die aufsichtsführende Person versteht die Fähigkeiten und Grenzen des Systems, überwacht seinen Betrieb, erkennt Anzeichen von Fehlfunktionen oder unerwarteter Ausgabe, kann eine Ausgabe außer Acht lassen oder außer Kraft setzen und das System bei Bedarf anhalten. Die Regelungen der Aufsicht werden mit der Klassifizierung jedes Hochrisiko-Systems festgehalten.

## 7. Meldung von Vorfällen und Bedenken

Die Beschäftigten melden das Folgende über den KI-Vorfallmeldeweg von **[IHR_ORGANISATIONSNAME]**, unverzüglich und ohne auf Gewissheit zu warten:

- Fehlfunktionen eines KI-Systems sowie Ausgaben, die fehlerhaft, schädlich oder diskriminierend sind.
- Jeden Verdacht auf unzulässige Nutzung sowie jeden Fall, in dem vertrauliche oder personenbezogene Daten in einen nicht freigegebenen KI-Dienst eingegeben worden sein könnten.
- Anzeichen dafür, dass ein KI-System außerhalb seines freigegebenen Zwecks genutzt wird oder Ergebnisse erzeugt, die Personen unfair beeinträchtigen.

In gutem Glauben erstattete Meldungen werden ohne Nachteil für die meldende Person behandelt. Die für die Vorfallmeldung verantwortliche Person bewertet jede Meldung, leitet die erforderlichen Korrekturmaßnahmen ein und leitet schwerwiegende Vorfälle an die zuständigen Behörden weiter, wo die KI-Verordnung dies verlangt.

Bedenken zum Einsatz eines KI-Systems bei **[IHR_ORGANISATIONSNAME]** lassen sich über den KI-Meldeweg ([KI_MELDEWEG, z. B. Meldeformular oder Postfach]) äußern, wahlweise vertraulich oder anonym. Der Weg steht auch vertraglich gebundenen Personen offen, und eine in gutem Glauben abgegebene Meldung führt zu keinem Nachteil (ISO/IEC 42001 A.3.3).

## 8. Recht auf Erläuterung (Art. 86)

Trifft ein freigegebenes Hochrisiko-KI-System eine Entscheidung mit rechtlicher oder erheblich beeinträchtigender Wirkung über eine Person, hat diese Person das Recht, von **[IHR_ORGANISATIONSNAME]** eine klare und verständliche Erläuterung zu verlangen: welche Rolle das System bei der Entscheidung hatte und welche wesentlichen Gründe ihr zugrunde lagen.

Anfragen auf Erläuterung gehen über den dafür eingerichteten Weg ein ([ERLÄUTERUNGSWEG, z. B. Formular auf der Website oder Postfach]) und werden getrennt vom Beschwerdeweg nach Art. 85 bearbeitet. **[IHR_ORGANISATIONSNAME]** beantwortet jede Anfrage innerhalb von 30 Tagen anhand einer Vorlage, welche die Rolle des Systems, die verwendeten Eingangsdaten und die zuständige Stelle benennt, und hält die Antwort je Anfrage fest.

## 9. Betrieb und Unterstützung

Für jedes freigegebene KI-System ist ein Unterstützungsweg festgelegt, über den Beschäftigte Störungen und Auffälligkeiten melden. Der Weg, die zuständige Stelle und die zugesagte Reaktionszeit sind im KI-Verzeichnis je System hinterlegt; bei zugekauften Systemen sind dort die Zusagen des Anbieters festgehalten.

Reparaturen und Aktualisierungen folgen einem festgelegten Ablauf. Die zuständige Stelle prüft vor der Übernahme einer Aktualisierung, ob sich das Verhalten des Systems in sicherheitsrelevanter Weise ändert. Ändert eine Aktualisierung das Verhalten eines Systems in einer für die Nutzung erheblichen Weise, werden die betroffenen Nutzenden vor oder mit der Übernahme darüber unterrichtet.

## 10. Betreiberpflichten für Hochrisiko-Systeme (Art. 26)

*Nur, wenn die Organisation Hochrisiko-KI-Systeme betreibt; sonst entfällt dieser Abschnitt.*

Als Betreiberin von Hochrisiko-KI-Systemen erfüllt **[IHR_ORGANISATIONSNAME]** die folgenden Pflichten nach Artikel 26 der KI-Verordnung. Sie werden von den zuständigen Stellen erfüllt und ergänzen die allgemeinen Regeln oben.

Jedes Hochrisiko-System wird nur gemäß der Betriebsanleitung des Anbieters verwendet; zulässige Anwendungsfälle, Grenzen und Zuständigkeiten sind intern festgelegt. Die menschliche Aufsicht ist einer Person mit der nötigen Kompetenz, Schulung und Befugnis übertragen, die die zum Eingreifen oder Anhalten des Systems erforderliche Unterstützung erhält.

Soweit **[IHR_ORGANISATIONSNAME]** die Eingabedaten eines Hochrisiko-Systems kontrolliert, sorgt die Organisation dafür, dass diese für die Zweckbestimmung erheblich und hinreichend repräsentativ sind.

Der Betrieb jedes Hochrisiko-Systems wird anhand der Betriebsanleitung überwacht und der Anbieter unterrichtet, soweit dies relevant ist. Besteht Grund zur Annahme, dass die Verwendung ein Risiko für Gesundheit, Sicherheit oder Grundrechte birgt, wird die Verwendung ausgesetzt und der Anbieter oder Händler sowie die Marktüberwachungsbehörde unverzüglich unterrichtet; schwerwiegende Vorfälle werden gemeldet.

Je Hochrisiko-System ist festgelegt, welche Ereignisse protokolliert werden, wer auf die Protokolle zugreifen darf und wo sie gespeichert sind. Protokolle im Einflussbereich der Organisation werden mindestens sechs Monate aufbewahrt, soweit nicht eine längere Frist gilt; nach Ablauf der Frist werden sie gelöscht, wobei eine vom Datenschutzrecht verlangte frühere Löschung personenbezogener Daten vorgeht.

Bevor ein Hochrisiko-System am Arbeitsplatz in Betrieb genommen wird und die Beschäftigten der Organisation seiner Verwendung unterliegen, werden die betroffenen Beschäftigten und ihre Vertretung unterrichtet.

*Nur für Behörden und Einrichtungen der Union; sonst entfällt dieser Absatz.*

Als Behörde oder Einrichtung der Union prüft **[IHR_ORGANISATIONSNAME]** vor der Verwendung, ob das Hochrisiko-System in der EU-Datenbank registriert ist, und verwendet es nicht, wenn dies nicht der Fall ist.

Trifft ein Hochrisiko-System Entscheidungen über natürliche Personen oder unterstützt es solche Entscheidungen, werden die betroffenen Personen darüber informiert, dass sie seiner Verwendung unterliegen. Weg und Fundstelle der Unterrichtung sind je System im KI-Verzeichnis festgehalten.

Werden personenbezogene Daten verarbeitet, werden die Anbieterinformationen genutzt, um die Datenschutz-Folgenabschätzung durchzuführen oder zu aktualisieren (Art. 26 Abs. 9). **[IHR_ORGANISATIONSNAME]** arbeitet bei allen Maßnahmen der zuständigen Behörden zum Hochrisiko-System mit.

Verlangt eine Marktüberwachungsbehörde für ein eingesetztes KI-System eine Korrekturmaßnahme, die Rücknahme, den Rückruf oder eine Beschränkung der Bereitstellung, wird die angeordnete Maßnahme innerhalb der von der Behörde gesetzten Frist umgesetzt; diese liegt in jedem Fall unter fünfzehn Arbeitstagen, soweit das Unionsharmonisierungsrecht nichts anderes bestimmt. Behörde, Aktenzeichen und Frist werden am betroffenen System im KI-Verzeichnis erfasst, die Umsetzung wird als Korrekturmaßnahme geführt und ihre Erledigung dort nachgewiesen; bis dahin ruht der Einsatz des Systems.

## 11. Einführerpflichten für Hochrisiko-Systeme (Art. 23)

*Nur, wenn die Organisation Hochrisiko-KI-Systeme aus Drittländern in Verkehr bringt; sonst entfällt dieser Abschnitt.*

Als Einführerin von Hochrisiko-KI-Systemen aus Drittländern erfüllt **[IHR_ORGANISATIONSNAME]** die folgenden Pflichten nach Artikel 23 der KI-Verordnung, bevor ein solches System in Verkehr gebracht wird.

Vor dem Inverkehrbringen wird geprüft, ob der Anbieter das Konformitätsbewertungsverfahren durchgeführt und die technische Dokumentation erstellt hat, ob das System die CE-Kennzeichnung trägt und ihm die EU-Konformitätserklärung sowie die Betriebsanleitung beiliegen und ob der Anbieter einen Bevollmächtigten benannt hat.

Besteht Grund zur Annahme, dass ein System nicht konform ist, verfälscht wurde oder mit falschen Unterlagen versehen ist, wird es erst in Verkehr gebracht, wenn die Konformität hergestellt ist. Birgt das System ein Risiko für Gesundheit, Sicherheit oder Grundrechte, werden der Anbieter und die Marktüberwachungsbehörde unterrichtet.

Der Name, der eingetragene Handelsname oder die eingetragene Handelsmarke und die Kontaktanschrift von **[IHR_ORGANISATIONSNAME]** werden auf dem System oder, wo das nicht möglich ist, auf der Verpackung oder in den Begleitunterlagen angegeben.

Solange sich ein System in der Verantwortung von **[IHR_ORGANISATIONSNAME]** befindet, werden die Lager- und Transportbedingungen so gewählt, dass die Konformität nicht beeinträchtigt wird, soweit dies einschlägig ist.

Eine Kopie der Bescheinigung der notifizierten Stelle, der Betriebsanleitung und der EU-Konformitätserklärung wird zehn Jahre nach dem Inverkehrbringen für die zuständigen Behörden bereitgehalten. Auf begründetes Verlangen werden diesen alle Informationen und Unterlagen zum Nachweis der Konformität zur Verfügung gestellt, und **[IHR_ORGANISATIONSNAME]** wirkt an Maßnahmen zur Beseitigung der von einem eingeführten System ausgehenden Risiken mit.

## 12. Händlerpflichten für Hochrisiko-Systeme (Art. 24)

*Nur, wenn die Organisation Hochrisiko-KI-Systeme auf dem Markt bereitstellt, ohne Anbieterin oder Einführerin zu sein; sonst entfällt dieser Abschnitt.*

Als Händlerin von Hochrisiko-KI-Systemen erfüllt **[IHR_ORGANISATIONSNAME]** die folgenden Pflichten nach Artikel 24 der KI-Verordnung, bevor ein solches System auf dem Markt bereitgestellt wird.

Vor der Bereitstellung wird geprüft, ob das System die CE-Kennzeichnung trägt, ob ihm die EU-Konformitätserklärung und die Betriebsanleitung beiliegen und ob der Anbieter und, sofern zutreffend, die Einführerin ihre Kennzeichnungspflichten erfüllt haben.

Besteht Grund zur Annahme, dass ein System nicht konform ist, wird es erst bereitgestellt, wenn die Konformität hergestellt ist. Birgt das System ein Risiko, werden der Anbieter oder die Einführerin und die Marktüberwachungsbehörde unterrichtet.

Solange sich ein System in der Verantwortung von **[IHR_ORGANISATIONSNAME]** befindet, werden die Lager- und Transportbedingungen so gewählt, dass die Konformität nicht beeinträchtigt wird, soweit dies einschlägig ist.

Wird nach der Bereitstellung bekannt, dass ein System nicht konform ist, werden die erforderlichen Korrekturmaßnahmen ergriffen, um es in Konformität zu bringen, vom Markt zu nehmen oder zurückzurufen; der Anbieter oder die Einführerin sowie die zuständigen Behörden werden unterrichtet. Auf begründetes Verlangen werden diesen alle Informationen und Unterlagen zum Nachweis der Konformität zur Verfügung gestellt, und **[IHR_ORGANISATIONSNAME]** wirkt an Maßnahmen zur Beseitigung der Risiken mit.

## 13. Fingierter Anbieter (Art. 25)

*Nur, wenn einer der Fälle des Artikels 25 eintreten kann; sonst entfällt dieser Abschnitt.*

Bringt **[IHR_ORGANISATIONSNAME]** den eigenen Namen oder die eigene Marke auf einem fremden Hochrisiko-System an, verändert ein solches System wesentlich oder ändert dessen Zweck so, dass es hochriskant wird, gilt **[IHR_ORGANISATIONSNAME]** nach Artikel 25 Absatz 1 der KI-Verordnung als dessen Anbieter und erfüllt für dieses System die Anbieterpflichten nach Artikel 16. Der ursprüngliche Anbieter tritt für dieses System zurück; die dafür nötige technische Dokumentation und der nötige Zugang werden bei ihm eingeholt (Artikel 25 Absatz 2).

Gibt **[IHR_ORGANISATIONSNAME]** ein Hochrisiko-KI-System zusammen mit einem eigenen Produkt, das unter die Harmonisierungsrechtsakte des Anhangs I fällt, unter eigenem Namen oder eigener Marke ab, gilt **[IHR_ORGANISATIONSNAME]** nach Artikel 25 Absatz 3 ebenfalls als Anbieter dieses Systems.

## 14. KI-Kompetenz

Beschäftigte, die KI nutzen, halten ein für ihre Rolle ausreichendes Maß an KI-Kompetenz vor. KI-Kompetenz umfasst das Verständnis der genutzten KI-Systeme, ihrer Fähigkeiten und Grenzen, der damit verbundenen Risiken (etwa fehlerhafter Ausgaben, Verzerrung und der Offenlegung von Daten) und der Regeln dieser Richtlinie. Grundlage dieser Anforderung ist ISO/IEC 42001, Kapitel 7.2, wonach der Kompetenzbedarf bestimmt, die erforderliche Kompetenz sichergestellt und der Nachweis darüber geführt wird. Artikel 4 der KI-Verordnung verlangt daneben, Maßnahmen zu ergreifen, um die Entwicklung der KI-Kompetenz zu unterstützen; die Schulungen und Hilfsmittel nach dieser Richtlinie sind solche Maßnahmen.

Das Maß der KI-Kompetenz richtet sich nach der Rolle sowie nach den technischen Kenntnissen und der Erfahrung der Person. Jede beschäftigte Person absolviert die ihrer Rolle zugewiesene KI-Schulung, hält sie aktuell und wendet sie in der Praxis an. Der Schulungsbedarf wird je Rolle bestimmt, und der Abschluss wird aufgezeichnet.

## 15. Folgen bei Verstößen

Ein Verstoß gegen diese Richtlinie wird nach dem Disziplinarverfahren von **[IHR_ORGANISATIONSNAME]** behandelt. Die Reaktion steht im Verhältnis zu Art und Schwere des Verstoßes, dazu, ob er vorsätzlich oder versehentlich erfolgte, ob die Person angemessen geschult war und ob es sich um einen ersten oder wiederholten Vorfall handelt. Je nach Schwere reicht die Reaktion von einem dokumentierten Gespräch und einer Auffrischungsschulung über eine befristete Einschränkung des Zugangs zu KI-Diensten bis zu förmlichen Disziplinarmaßnahmen bei schweren oder vorsätzlichen Verstößen. Verursacht ein Verstoß einen wesentlichen Schaden oder umfasst er rechtswidriges Verhalten, verfolgt die Organisation zusätzlich die ihr nach geltendem Recht zustehenden Ansprüche.

## 16. Verantwortlichkeiten

- **Alle Beschäftigten:** Nutzen KI im Einklang mit dieser Richtlinie, nutzen nur freigegebene KI-Dienste, halten vertrauliche und personenbezogene Daten aus nicht freigegebenen Werkzeugen heraus, prüfen KI-Ausgaben vor ihrer Verwendung und melden Vorfälle und Bedenken.
- **Führungskräfte und Fachbereiche:** Melden neue oder geänderte KI-Anwendungen in ihrem Bereich, stellen sicher, dass ihr Team diese Richtlinie kennt und befolgt, und unterstützen die Aufsicht über die von ihnen genutzten Systeme.
- **KI-beauftragte Person:** Pflegt diese Richtlinie und das KI-Inventar, bewertet gemeldete und Schatten-KI und ist Ansprechperson für den verantwortungsvollen Einsatz von KI. Die Bearbeitung von Vorfallmeldungen liegt bei der dafür verantwortlichen Person nach Abschnitt 7.
- **IT und Freigabe von Diensten:** Betreibt den Freigabeprozess und den Katalog der freigegebenen IT- und KI-Dienste und stellt die freigegebenen Unternehmensinstanzen bereit.
- **Datenschutz:** Berät zum Umgang mit personenbezogenen Daten in KI-Diensten und zu den Datenschutzanforderungen, die ein Dienst vor seiner Freigabe erfüllt.

Soweit **[IHR_ORGANISATIONSNAME]** eigene KI-Systeme entwickelt oder betreibt, befolgen die beteiligten Beschäftigten zusätzlich die Anbieterpflichten aus den Dokumenten des KI-Managementsystems.

## 17. Verweisdokumente

- **KI-Politik:** Das übergeordnete Leitdokument, aus dem diese Regeln abgeleitet sind.
- **Katalog der freigegebenen IT- und KI-Dienste:** Die Liste der freigegebenen KI-Dienste und der Bedingungen ihrer Nutzung samt Verfahren zur Beantragung eines neuen Dienstes.
- **KI-Inventar:** Die Aufstellung der genutzten KI-Systeme und ihrer Klassifizierung, einschließlich der Aufsichtsregelungen für Hochrisiko-Systeme.
- **KI-Vorfallmeldung:** Der Meldeweg für Vorfälle und Fehlfunktionen von KI-Systemen.
- **Informationssicherheitsrichtlinie und Datenschutzdokumentation:** Die Regeln für den Umgang mit Informationen und personenbezogenen Daten beim KI-Einsatz.

## 18. Überprüfung und Pflege

Diese Richtlinie wird überprüft:

- Mindestens jährlich im Rahmen des Überprüfungszyklus des KI-Managementsystems.
- Wenn neue KI-Dienste freigegeben oder neue Kategorien der KI-Nutzung eingeführt werden.
- Nach einem bedeutenden KI-Vorfall oder einer Häufung von Vorfällen im Zusammenhang mit dem KI-Einsatz.
- Wenn Änderungen des geltenden Rechts die Nutzungsregeln berühren, insbesondere neue Anforderungen der KI-Verordnung oder geänderte Geltungsbeginne.

Jede Überprüfung und jede Änderung wird versioniert und mit Begründung dokumentiert.
