Eine vorhersehbare Fehlanwendung (im AI Act „vernünftigerweise vorhersehbare Fehlanwendung“) ist eine Nutzung eines KI-Systems, die von seiner Zweckbestimmung abweicht, mit der aber aufgrund menschlichen Verhaltens oder des Zusammenspiels mit anderen Systemen zu rechnen ist (Art. 3 Nr. 13). Beispiele sind ein Chatbot für Produktfragen, den Kundschaft für Rechtsberatung nutzt, oder ein Werkzeug zur Vorauswahl von Bewerbungen, das später auch der Leistungsbeurteilung dient.
Anbieter von Hochrisiko-KI-Systemen beziehen solche Fehlanwendungen in ihr Risikomanagement ein (Art. 9) und weisen in der Gebrauchsanweisung auf daraus folgende Risiken hin (Art. 13). Betreiber begrenzen sie durch klare Nutzungsregeln, Einweisungen und technische Sperren. Typische Muster beschreibt MU-01 Einsatz außerhalb der Zweckbestimmung.