Testdaten sind Daten, mit denen Software oder ein KI-System vor der Freigabe geprüft wird. In der klassischen Softwareentwicklung dienen sie dazu, Funktionen, Schnittstellen und Fehlerfälle durchzuspielen. Bei KI-Systemen ist ein Testdatensatz ein zurückgehaltener Teil der Daten, mit dem sich die Leistung unabhängig vom Training bewerten lässt. Der AI Act definiert Testdaten in diesem Sinn (Art. 3 Nr. 32) und stellt in Art. 10 Qualitätsanforderungen an sie.
Ein häufiger Fehler ist das Kopieren von Produktivdaten in schwächer geschützte Testumgebungen. Die Kontrolle A.8.33 Testinformationen verlangt deshalb eine bewusste Auswahl und den Schutz von Testdaten. Bevorzugt werden synthetische oder anonymisierte Daten. Lassen sich echte Daten nicht vermeiden, gelten für sie dieselben Zugriffsregeln wie in der Produktion, und sie werden nach dem Test gelöscht.