Zum Hauptinhalt springen
Glossar

Erklärbarkeit

Aktualisiert am 1 Min.

Erklärbarkeit (englisch Explainability) ist die Eigenschaft eines KI-Systems, die Faktoren hinter einem Ergebnis so darzustellen, dass Menschen sie nachvollziehen können. Bei einfachen Modellen wie einem Entscheidungsbaum ergibt sich das aus der Logik selbst. Bei komplexen Modellen wie neuronalen Netzen zeigen nachgelagerte Verfahren wie SHAP oder LIME, welche Merkmale eine einzelne Ausgabe am stärksten beeinflusst haben.

Erklärbarkeit ist Voraussetzung dafür, dass Beschäftigte ein Ergebnis prüfen und Betroffene es anfechten können. Der AI Act verlangt, dass Betreiber die Ausgaben von Hochrisiko-KI-Systemen interpretieren können (Art. 13), und gibt Betroffenen bestimmter Entscheidungen ein Recht auf Erläuterung (Art. 86). Bei automatisierten Einzelentscheidungen verlangt die DSGVO, dass Betroffene aussagekräftig über die Logik der Entscheidung informiert werden. Mehr unter T02 Mangelnde Transparenz und Erklärbarkeit.

Keine Cookies!

Dieses Wiki sammelt nichts, bäckt nichts und lässt nichts bei dir. Deshalb gibt es auch nichts einzuwilligen. Mehr Datenschutz geht nicht.