Ein Konfidenzwert ist ein Zahlenwert, meist zwischen 0 und 1 oder in Prozent, mit dem ein KI-Modell ausdrückt, wie sicher es sich bei einer einzelnen Vorhersage ist. Eine Bilderkennung meldet etwa „Katze, 0,94“, ein Betrugsfilter einen Risikowert je Zahlung. Viele Anwendungen arbeiten mit Schwellenwerten: Oberhalb entscheidet das System selbst, darunter geht der Fall an einen Menschen.
Ein hoher Wert garantiert keine richtige Antwort. Modelle sind oft schlecht kalibriert und gerade bei ungewohnten Eingaben außerhalb ihrer Trainingsdaten übermäßig sicher. Schwellenwerte brauchen daher eine Begründung aus Tests, eine Überprüfung im Betrieb und eine Darstellung, die Beschäftigte nicht zu blindem Vertrauen verleitet. Zu Eingaben aus unvorhergesehenen Umgebungen siehe T01 Komplexität der Einsatzumgebung, zum Übervertrauen T03 Übermäßige Automatisierung (Automation Bias).