Zum Hauptinhalt springen
Glossar

KI-Agent

Aktualisiert am 1 Min.

Ein KI-Agent ist ein KI-System, das eine Aufgabe über mehrere Schritte selbstständig bearbeitet: Er plant das Vorgehen, ruft Werkzeuge wie Suche, E-Mail, Kalender oder Programmierschnittstellen auf, wertet Zwischenergebnisse aus und entscheidet über den nächsten Schritt. Grundlage ist meist ein Sprachmodell. Im AI Act fallen Agenten unter die allgemeine Definition des KI-Systems, die unterschiedliche Grade an Autonomie ausdrücklich einschließt (Art. 3 Nr. 1).

Mit der Selbstständigkeit wächst die Reichweite von Fehlern. Ein Agent mit weitreichenden Rechten kann Daten löschen, Nachrichten versenden oder Bestellungen auslösen, auch wenn ihn eine Prompt Injection fehlgeleitet hat. Schutz bieten minimale Berechtigungen, menschliche Freigabe für folgenreiche Aktionen, lückenlose Protokolle und Grenzen für Kosten und Laufzeit. Freigaben verlieren ihren Wert, wenn sie zur Routine werden, siehe T03 Übermäßige Automatisierung (Automation Bias).

Keine Cookies!

Dieses Wiki sammelt nichts, bäckt nichts und lässt nichts bei dir. Deshalb gibt es auch nichts einzuwilligen. Mehr Datenschutz geht nicht.