Ein Adversarial Example ist eine Eingabe, die so verändert wurde, dass ein KI-Modell sie falsch verarbeitet, während ein Mensch kaum einen Unterschied bemerkt. Bekannte Beispiele sind Aufkleber, die eine Bilderkennung ein Stoppschild als Tempolimit lesen lassen, oder unhörbares Rauschen in Audiodateien, das eine Spracherkennung in die Irre führt. Der Angriff geschieht im laufenden Betrieb und lässt das Modell unverändert, deshalb spricht man auch von Umgehungsangriffen (Evasion).
Der AI Act zählt solche Eingaben zu den Angriffen, gegen die Hochrisiko-KI-Systeme Vorkehrungen brauchen (Art. 15 Abs. 5). Gegenmittel sind Robustheitstests mit gezielt gestörten Eingaben, Training mit solchen Beispielen, Plausibilitätsprüfungen und eine zweite Prüfung bei kritischen Entscheidungen. Einzelheiten stehen unter T10 Adversarial Examples (gezielte Umgehung).