Zum Hauptinhalt springen
Glossar

Vorhersehbare Fehlanwendung

Aktualisiert am 1 Min.

Eine vorhersehbare Fehlanwendung (im AI Act „vernünftigerweise vorhersehbare Fehlanwendung“) ist eine Nutzung eines KI-Systems, die von seiner Zweckbestimmung abweicht, mit der aber aufgrund menschlichen Verhaltens oder des Zusammenspiels mit anderen Systemen zu rechnen ist (Art. 3 Nr. 13). Beispiele sind ein Chatbot für Produktfragen, den Kundschaft für Rechtsberatung nutzt, oder ein Werkzeug zur Vorauswahl von Bewerbungen, das später auch der Leistungsbeurteilung dient.

Anbieter von Hochrisiko-KI-Systemen beziehen solche Fehlanwendungen in ihr Risikomanagement ein (Art. 9) und weisen in der Gebrauchsanweisung auf daraus folgende Risiken hin (Art. 13). Betreiber begrenzen sie durch klare Nutzungsregeln, Einweisungen und technische Sperren. Typische Muster beschreibt MU-01 Einsatz außerhalb der Zweckbestimmung.

Keine Cookies!

Dieses Wiki sammelt nichts, bäckt nichts und lässt nichts bei dir. Deshalb gibt es auch nichts einzuwilligen. Mehr Datenschutz geht nicht.