Zum Hauptinhalt springen
Glossar

Adversarial Example

Aktualisiert am 1 Min.

Ein Adversarial Example ist eine Eingabe, die so verändert wurde, dass ein KI-Modell sie falsch verarbeitet, während ein Mensch kaum einen Unterschied bemerkt. Bekannte Beispiele sind Aufkleber, die eine Bilderkennung ein Stoppschild als Tempolimit lesen lassen, oder unhörbares Rauschen in Audiodateien, das eine Spracherkennung in die Irre führt. Der Angriff geschieht im laufenden Betrieb und lässt das Modell unverändert, deshalb spricht man auch von Umgehungsangriffen (Evasion).

Der AI Act zählt solche Eingaben zu den Angriffen, gegen die Hochrisiko-KI-Systeme Vorkehrungen brauchen (Art. 15 Abs. 5). Gegenmittel sind Robustheitstests mit gezielt gestörten Eingaben, Training mit solchen Beispielen, Plausibilitätsprüfungen und eine zweite Prüfung bei kritischen Entscheidungen. Einzelheiten stehen unter T10 Adversarial Examples (gezielte Umgehung).

Keine Cookies!

Dieses Wiki sammelt nichts, bäckt nichts und lässt nichts bei dir. Deshalb gibt es auch nichts einzuwilligen. Mehr Datenschutz geht nicht.