Eine Marktüberwachungsbehörde ist eine nationale Behörde, die kontrolliert, ob Produkte auf dem EU-Binnenmarkt die geltenden Anforderungen erfüllen, und bei Verstößen Maßnahmen bis zur Rücknahme anordnen kann. Grundlage ist die Verordnung (EU) 2019/1020, die der AI Act auf KI-Systeme anwendet (Art. 74). Jeder Mitgliedstaat benennt mindestens eine solche Behörde. In Deutschland ist nach dem KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) die Bundesnetzagentur die zentrale Stelle, sektorale Aufsichten wie die BaFin bleiben für ihre Bereiche zuständig.
Die Behörde kann Dokumentation, Trainings-, Validierungs- und Testdaten und unter engen Voraussetzungen den Quellcode anfordern. Anbieter melden ihr schwerwiegende Vorfälle (Art. 73), Betreiber übermitteln ihr das Ergebnis der Grundrechte-Folgenabschätzung. Für KI-Systeme auf Grundlage eines KI-Modells mit allgemeinem Verwendungszweck desselben Anbieters ist seit dem Digital Omnibus in der Regel das KI-Büro der Kommission zuständig. Überblick: EU AI Act: Verordnung über künstliche Intelligenz.