Emotionserkennung bezeichnet KI-Systeme, die aus biometrischen Daten wie Gesichtsausdruck, Stimme oder Körperhaltung auf Gefühle oder Absichten einer Person schließen, etwa auf Freude, Ärger, Langeweile oder Stress. Der AI Act definiert das Emotionserkennungssystem in Art. 3 Nr. 39. Rein körperliche Zustände wie Müdigkeit oder Schmerz fallen nicht darunter, ebenso wenig das bloße Erkennen eines Lächelns ohne Rückschluss auf ein Gefühl.
Am Arbeitsplatz und in Bildungseinrichtungen ist Emotionserkennung verboten, außer aus medizinischen Gründen oder Sicherheitsgründen (Art. 5 Abs. 1 Buchst. f). Wo sie zulässig ist, gilt sie als Hochrisiko-Anwendung nach Anhang III, und Betreiber informieren die betroffenen Personen (Art. 50 Abs. 3). Hinzu kommen fachliche Zweifel: Die wissenschaftliche Aussagekraft ist umstritten, und der Ausdruck von Gefühlen unterscheidet sich zwischen Kulturen. Überblick: EU AI Act: Verordnung über künstliche Intelligenz.