Zum Hauptinhalt springen
Glossar

Deepfake

Aktualisiert am 1 Min.

Ein Deepfake ist ein mit KI erzeugter oder veränderter Bild-, Ton- oder Videoinhalt, der realen Personen, Orten oder Ereignissen ähnelt und für echt gehalten werden kann (Art. 3 Nr. 60 AI Act). Für Organisationen besonders relevant sind geklonte Stimmen und gefälschte Videokonferenzen, mit denen Angreifer etwa im Namen der Geschäftsführung eine dringende Überweisung verlangen.

Betreiber, die mit einem KI-System Deepfakes erzeugen, legen nach Art. 50 Abs. 4 offen, dass der Inhalt künstlich erzeugt oder verändert ist. Für offensichtlich künstlerische oder satirische Werke gilt eine abgeschwächte Pflicht. Anbieter generativer Systeme kennzeichnen Ausgaben zusätzlich maschinenlesbar (Art. 50 Abs. 2). Gegen Betrug helfen Rückrufe über bekannte Nummern, Freigaben im Vier-Augen-Prinzip und Schulungen. Zur fehlenden Offenlegung siehe MU-13 Ausgaben werden als menschliche Arbeit ausgegeben, zum Betrugsweg G 0.42 Social Engineering.

Keine Cookies!

Dieses Wiki sammelt nichts, bäckt nichts und lässt nichts bei dir. Deshalb gibt es auch nichts einzuwilligen. Mehr Datenschutz geht nicht.