Ein Energieversorger stellt auf seiner Website einen Chat bereit, in dem „Anna aus dem Kundenteam“ mit Foto die Fragen beantwortet. Anna ist ein Sprachmodell. Eine Kundin schildert ihr ausführlich ihre finanzielle Notlage, weil sie glaubt, mit einem Menschen aus Fleisch und Blut zu sprechen, und erhält eine Ratenzahlungszusage, die das System gar nicht geben darf. Die Kundin hat sich einem Menschen anvertraut, den es nicht gab, und genau diesen Irrtum hätte die Offenlegung verhindert.
Dieses Muster beschreibt KI-erzeugte Inhalte, die ohne die Offenlegung weitergegeben werden, die die Situation verlangt. Die KI-Verordnung (EU) 2024/1689 regelt einen Teil dieser Situationen ausdrücklich in Art. 50. Als vernünftigerweise vorhersehbare Fehlanwendung nach Art. 3 Nr. 13 ist das Muster ohnehin naheliegend: Wer KI nutzt, möchte das Ergebnis oft als eigene Leistung zeigen.
Was steckt dahinter?
Ob ein Inhalt als KI-erzeugt erkennbar sein muss, hängt von der Situation ab. Das Recht, Verträge und berufliche Regeln verlangen Offenlegung dort, wo Menschen ihr Vertrauen, ihr Geld oder ihre Entscheidungen auf die Annahme stützen, ein Mensch stehe dahinter. Die KI-Verordnung nennt drei Fälle ausdrücklich: das Gespräch mit einem KI-System, Deepfakes und KI-Texte zu Angelegenheiten von öffentlichem Interesse. Daneben stehen Verträge, die eine persönliche Leistung versprechen, sowie Prüfungs- und Veröffentlichungsregeln.
Wie es im Alltag dazu kommt
- Prestige. Eine Arbeit mit KI-Hilfe gilt als weniger wert, also wird die Hilfe verschwiegen.
- Unklare Regeln. Beschäftigte wissen nicht, wann eine Offenlegung nötig ist und wann nicht.
- Freundliche Personas. Chatbots bekommen menschliche Namen und Fotos, damit sie zugänglicher wirken.
- Verlorene Kennzeichnung. Wasserzeichen und Metadaten gehen beim Bearbeiten, Exportieren oder Abfotografieren verloren.
- Übernahme in eigene Dokumente. KI-Text landet in einem Bericht, unter dem der Name einer Person steht.
Warum es riskant ist
Empfängerinnen und Empfänger werden getäuscht und treffen Entscheidungen auf falscher Grundlage. Sie prüfen Inhalte zudem weniger kritisch, weil sie menschliche Sorgfalt unterstellen, und übersehen so Fehler, die sie bei einem gekennzeichneten KI-Text gesucht hätten. Rechtlich drohen Verstöße gegen Art. 50, die nach Art. 99 bußgeldbewehrt sind, und Streit über vertraglich vereinbarte Leistungen. Hinzu kommt, dass rein maschinell erzeugte Inhalte nach verbreiteter Auffassung urheberrechtlich kaum geschützt sind, was bei verkauften Werken zum Problem werden kann.
Schadensausmaß
Am schwersten wiegt der Vertrauensverlust, wenn die Täuschung auffliegt: bei Kundinnen und Kunden, in der Öffentlichkeit, bei Auftraggebern. Bei Deepfakes kann zusätzlich das Persönlichkeitsrecht der dargestellten Person verletzt sein. Ein einziger aufgedeckter Fall stellt rückwirkend alles in Frage, was die Organisation bisher veröffentlicht oder geliefert hat.
Praxisbeispiele
Gutachten aus dem Sprachmodell. Eine Beratungsfirma liefert einem Kunden ein Marktgutachten, das zum größten Teil von einem Sprachmodell geschrieben und nur oberflächlich überarbeitet wurde. Der Vertrag verspricht eine Analyse durch benannte Fachleute. Als der Kunde auf erfundene Quellen stößt, steht die gesamte Vergütung zur Diskussion.
Videobotschaft mit synthetischer Stimme. Die Kommunikationsabteilung eines Konzerns erstellt eine Videobotschaft, in der die Vorständin mit KI-erzeugter Stimme und Mimik zu den Beschäftigten spricht. Ein Hinweis fehlt. Als bekannt wird, dass die Aufnahme synthetisch ist, zweifeln viele auch an echten Botschaften.
Meldung einer Kommune. Die Pressestelle einer Stadt veröffentlicht eine KI-erzeugte Meldung über eine Entscheidung des Gemeinderats, ohne dass jemand sie inhaltlich prüft oder die redaktionelle Verantwortung übernimmt. Die Meldung enthält eine falsche Angabe zu Gebühren, und die Offenlegung nach Art. 50 Abs. 4 fehlt ebenfalls.
Wirksame Kontrollen
Die folgenden Kontrollen aus ISO/IEC 42001 wirken diesem Muster entgegen.
Prävention:
- A.3 Interne Organisation: Rollen legen fest, wer externe Veröffentlichungen freigibt und die redaktionelle Verantwortung trägt.
- A.8 Information für interessierte Parteien: Nutzende erfahren, dass sie mit einem KI-System zu tun haben, und Ausgaben werden als erzeugt kenntlich gemacht, etwa mit dem Hinweis, dass ein Bild maschinell entstanden ist.
- A.10 Beziehungen zu Dritten und Kunden: Die Organisation versteht die Erwartungen ihrer Kunden und berücksichtigt sie, auch die vertraglich vereinbarten, wenn sie Leistungen mit KI erbringt.
- A.9 Nutzung von KI-Systemen: Die Prozesse für die verantwortungsvolle Nutzung enthalten die Regeln zur Offenlegung, und Transparenz gehört zu den Zielen der Nutzung.
Erkennung:
- A.3 Interne Organisation: Über den Meldeweg für Bedenken können Beschäftigte melden, wenn KI-Inhalte ohne Offenlegung veröffentlicht werden.
Reaktion:
- A.8 Information für interessierte Parteien: Betroffene Veröffentlichungen werden berichtigt und nachträglich gekennzeichnet, Empfängerinnen und Empfänger werden informiert.
Die KI-Nutzungsrichtlinie untersagt in Abschnitt 4.2 das irreführende Ausgeben KI-erzeugter Inhalte als menschlich. Abschnitt 5 regelt die Offenlegung nach Art. 50, Abschnitt 5.1 die Freigabe veröffentlichter Inhalte und Abschnitt 5.2 Zeitpunkt und Barrierefreiheit der Information.
Bezug zur KI-Verordnung
Art. 50 verteilt die Transparenzpflichten auf Anbieter und Betreiber. Anbieter gestalten Systeme für die direkte Interaktion so, dass Menschen erfahren, dass sie mit einer KI sprechen, sofern das nicht offensichtlich ist (Abs. 1), und kennzeichnen synthetische Audio-, Bild-, Video- und Textinhalte maschinenlesbar (Abs. 2). Betreiber legen offen, dass Deepfakes im Sinne von Art. 3 Nr. 60 künstlich erzeugt oder manipuliert sind, mit Erleichterungen für offensichtlich künstlerische oder satirische Werke, und legen KI-Texte zu Angelegenheiten von öffentlichem Interesse offen, es sei denn, sie wurden menschlich geprüft und jemand trägt die redaktionelle Verantwortung (Abs. 4). Die Information erfolgt spätestens bei der ersten Interaktion oder Aussetzung, klar und barrierefrei (Abs. 5).
Für Hochrisiko-Systeme gelten daneben die Pflichten zur Fehlanwendung aus Art. 9 Abs. 2 lit. b und Art. 13 Abs. 3 lit. b Ziff. iii. Art. 50 Abs. 6 stellt klar, dass die Transparenzpflichten die Anforderungen an Hochrisiko-Systeme unberührt lassen (→ EU AI Act).
Verwandte Muster und Gefährdungen
- MU-02 Ungeprüfte Übernahme der Ausgaben: Wer KI-Inhalte ungeprüft übernimmt, gibt sie oft auch ungekennzeichnet weiter.
- T02 Mangelnde Transparenz und Erklärbarkeit: Die Gefährdung, die fehlende Offenlegung verschärft.
- T13 Halluzination und fehlerhafte Ausgaben: Erfundene Quellen und Fakten wirken unter menschlichem Namen besonders glaubwürdig.
- MU-10 Weiterverwendung der Ausgaben für einen anderen Zweck: Ein intern erzeugter Entwurf wandert ohne Hinweis nach außen.
Quellen
- Verordnung (EU) 2024/1689 (KI-Verordnung), Art. 3 Nr. 13 und 60, Art. 9, 13, 50 und 99
- ISO/IEC 42001:2023, Anhang B.8.2, B.9.3 und B.10.4
- KI-Nutzungsrichtlinie des KI-Compliance-Starter-Kits, Abschnitte 4.2, 5, 5.1 und 5.2
- EU AI Act im Cenedril-Wiki: Transparenzpflichten für Anbieter und Betreiber