Zum Hauptinhalt springen
Missbrauchsmuster · KI-Verordnung

MU-13 Ausgaben werden als menschliche Arbeit ausgegeben

Aktualisiert am 5 Min. Geprüft von: Cenedril-Redaktion
EU AI ActISO/IEC 42001

Ein Energieversorger stellt auf seiner Website einen Chat bereit, in dem „Anna aus dem Kundenteam“ mit Foto die Fragen beantwortet. Anna ist ein Sprachmodell. Eine Kundin schildert ihr ausführlich ihre finanzielle Notlage, weil sie glaubt, mit einem Menschen aus Fleisch und Blut zu sprechen, und erhält eine Ratenzahlungszusage, die das System gar nicht geben darf. Die Kundin hat sich einem Menschen anvertraut, den es nicht gab, und genau diesen Irrtum hätte die Offenlegung verhindert.

Dieses Muster beschreibt KI-erzeugte Inhalte, die ohne die Offenlegung weitergegeben werden, die die Situation verlangt. Die KI-Verordnung (EU) 2024/1689 regelt einen Teil dieser Situationen ausdrücklich in Art. 50. Als vernünftigerweise vorhersehbare Fehlanwendung nach Art. 3 Nr. 13 ist das Muster ohnehin naheliegend: Wer KI nutzt, möchte das Ergebnis oft als eigene Leistung zeigen.

Was steckt dahinter?

Ob ein Inhalt als KI-erzeugt erkennbar sein muss, hängt von der Situation ab. Das Recht, Verträge und berufliche Regeln verlangen Offenlegung dort, wo Menschen ihr Vertrauen, ihr Geld oder ihre Entscheidungen auf die Annahme stützen, ein Mensch stehe dahinter. Die KI-Verordnung nennt drei Fälle ausdrücklich: das Gespräch mit einem KI-System, Deepfakes und KI-Texte zu Angelegenheiten von öffentlichem Interesse. Daneben stehen Verträge, die eine persönliche Leistung versprechen, sowie Prüfungs- und Veröffentlichungsregeln.

Wie es im Alltag dazu kommt

  • Prestige. Eine Arbeit mit KI-Hilfe gilt als weniger wert, also wird die Hilfe verschwiegen.
  • Unklare Regeln. Beschäftigte wissen nicht, wann eine Offenlegung nötig ist und wann nicht.
  • Freundliche Personas. Chatbots bekommen menschliche Namen und Fotos, damit sie zugänglicher wirken.
  • Verlorene Kennzeichnung. Wasserzeichen und Metadaten gehen beim Bearbeiten, Exportieren oder Abfotografieren verloren.
  • Übernahme in eigene Dokumente. KI-Text landet in einem Bericht, unter dem der Name einer Person steht.

Warum es riskant ist

Empfängerinnen und Empfänger werden getäuscht und treffen Entscheidungen auf falscher Grundlage. Sie prüfen Inhalte zudem weniger kritisch, weil sie menschliche Sorgfalt unterstellen, und übersehen so Fehler, die sie bei einem gekennzeichneten KI-Text gesucht hätten. Rechtlich drohen Verstöße gegen Art. 50, die nach Art. 99 bußgeldbewehrt sind, und Streit über vertraglich vereinbarte Leistungen. Hinzu kommt, dass rein maschinell erzeugte Inhalte nach verbreiteter Auffassung urheberrechtlich kaum geschützt sind, was bei verkauften Werken zum Problem werden kann.

Schadensausmaß

Am schwersten wiegt der Vertrauensverlust, wenn die Täuschung auffliegt: bei Kundinnen und Kunden, in der Öffentlichkeit, bei Auftraggebern. Bei Deepfakes kann zusätzlich das Persönlichkeitsrecht der dargestellten Person verletzt sein. Ein einziger aufgedeckter Fall stellt rückwirkend alles in Frage, was die Organisation bisher veröffentlicht oder geliefert hat.

Praxisbeispiele

Gutachten aus dem Sprachmodell. Eine Beratungsfirma liefert einem Kunden ein Marktgutachten, das zum größten Teil von einem Sprachmodell geschrieben und nur oberflächlich überarbeitet wurde. Der Vertrag verspricht eine Analyse durch benannte Fachleute. Als der Kunde auf erfundene Quellen stößt, steht die gesamte Vergütung zur Diskussion.

Videobotschaft mit synthetischer Stimme. Die Kommunikationsabteilung eines Konzerns erstellt eine Videobotschaft, in der die Vorständin mit KI-erzeugter Stimme und Mimik zu den Beschäftigten spricht. Ein Hinweis fehlt. Als bekannt wird, dass die Aufnahme synthetisch ist, zweifeln viele auch an echten Botschaften.

Meldung einer Kommune. Die Pressestelle einer Stadt veröffentlicht eine KI-erzeugte Meldung über eine Entscheidung des Gemeinderats, ohne dass jemand sie inhaltlich prüft oder die redaktionelle Verantwortung übernimmt. Die Meldung enthält eine falsche Angabe zu Gebühren, und die Offenlegung nach Art. 50 Abs. 4 fehlt ebenfalls.

Wirksame Kontrollen

Die folgenden Kontrollen aus ISO/IEC 42001 wirken diesem Muster entgegen.

Prävention:

  • A.3 Interne Organisation: Rollen legen fest, wer externe Veröffentlichungen freigibt und die redaktionelle Verantwortung trägt.
  • A.8 Information für interessierte Parteien: Nutzende erfahren, dass sie mit einem KI-System zu tun haben, und Ausgaben werden als erzeugt kenntlich gemacht, etwa mit dem Hinweis, dass ein Bild maschinell entstanden ist.
  • A.10 Beziehungen zu Dritten und Kunden: Die Organisation versteht die Erwartungen ihrer Kunden und berücksichtigt sie, auch die vertraglich vereinbarten, wenn sie Leistungen mit KI erbringt.
  • A.9 Nutzung von KI-Systemen: Die Prozesse für die verantwortungsvolle Nutzung enthalten die Regeln zur Offenlegung, und Transparenz gehört zu den Zielen der Nutzung.

Erkennung:

  • A.3 Interne Organisation: Über den Meldeweg für Bedenken können Beschäftigte melden, wenn KI-Inhalte ohne Offenlegung veröffentlicht werden.

Reaktion:

Die KI-Nutzungsrichtlinie untersagt in Abschnitt 4.2 das irreführende Ausgeben KI-erzeugter Inhalte als menschlich. Abschnitt 5 regelt die Offenlegung nach Art. 50, Abschnitt 5.1 die Freigabe veröffentlichter Inhalte und Abschnitt 5.2 Zeitpunkt und Barrierefreiheit der Information.

Bezug zur KI-Verordnung

Art. 50 verteilt die Transparenzpflichten auf Anbieter und Betreiber. Anbieter gestalten Systeme für die direkte Interaktion so, dass Menschen erfahren, dass sie mit einer KI sprechen, sofern das nicht offensichtlich ist (Abs. 1), und kennzeichnen synthetische Audio-, Bild-, Video- und Textinhalte maschinenlesbar (Abs. 2). Betreiber legen offen, dass Deepfakes im Sinne von Art. 3 Nr. 60 künstlich erzeugt oder manipuliert sind, mit Erleichterungen für offensichtlich künstlerische oder satirische Werke, und legen KI-Texte zu Angelegenheiten von öffentlichem Interesse offen, es sei denn, sie wurden menschlich geprüft und jemand trägt die redaktionelle Verantwortung (Abs. 4). Die Information erfolgt spätestens bei der ersten Interaktion oder Aussetzung, klar und barrierefrei (Abs. 5).

Für Hochrisiko-Systeme gelten daneben die Pflichten zur Fehlanwendung aus Art. 9 Abs. 2 lit. b und Art. 13 Abs. 3 lit. b Ziff. iii. Art. 50 Abs. 6 stellt klar, dass die Transparenzpflichten die Anforderungen an Hochrisiko-Systeme unberührt lassen (→ EU AI Act).

Verwandte Muster und Gefährdungen

Quellen

Häufig gestellte Fragen

Muss ich jeden Text kennzeichnen, bei dem KI geholfen hat?

Nein. Die KI-Verordnung verlangt eine Offenlegung in bestimmten Fällen: bei Deepfakes und bei KI-erzeugten Texten, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren sollen (Art. 50 Abs. 4), sofern dort keine menschliche Prüfung mit redaktioneller Verantwortung stattfand. Darüber hinaus können Verträge, Prüfungsordnungen oder interne Regeln eine Offenlegung verlangen.

Darf unser Chatbot einen menschlichen Namen tragen?

Ein Name allein ist nicht verboten, aber die Menschen müssen erfahren, dass sie mit einem KI-System sprechen, es sei denn, das ist aus den Umständen offensichtlich (Art. 50 Abs. 1). Ein menschlicher Name mit Foto macht genau das weniger offensichtlich. Ein klarer Hinweis zu Beginn des Gesprächs löst das Problem.

Was gilt, wenn wir KI-Inhalte für Kunden erstellen?

Dann zählen zusätzlich die Erwartungen und Verträge der Kunden. Wer ein Gutachten, einen Text oder ein Design als persönliche Leistung verkauft und es weitgehend maschinell erzeugt, riskiert Streit über die vereinbarte Leistung. Am sichersten ist, die Nutzung von KI im Auftrag offen zu vereinbaren.

Keine Cookies!

Dieses Wiki sammelt nichts, bäckt nichts und lässt nichts bei dir. Deshalb gibt es auch nichts einzuwilligen. Mehr Datenschutz geht nicht.