Ein Chatbot (auch Chat-Assistent) ist ein Dialogsystem, das Anfragen in natürlicher Sprache entgegennimmt und in Textform antwortet. Frühere Chatbots folgten festen Regeln und Entscheidungsbäumen. Heutige Chatbots beruhen meist auf einem großen Sprachmodell und formulieren Antworten frei, oft mit Zugriff auf interne Dokumente oder Werkzeuge.
Anbieter eines Chatbots sorgen nach Art. 50 Abs. 1 des EU AI Act dafür, dass Menschen erfahren, dass sie mit einem KI-System interagieren, sofern das nicht offensichtlich ist. Hinzu kommen praktische Risiken: erfundene Antworten, verbindlich klingende Zusagen, die Preisgabe interner Informationen und Manipulation über Eingaben. Bewährt sind klare Themengrenzen, die Anbindung an geprüfte Quellen, Protokollierung und ein Weg zu einem Menschen. Typische Fehlausgaben beschreibt T13 Halluzination und fehlerhafte Ausgaben.