KI-Agent

Herkunft und Begriff

Der Begriff des Agenten stammt aus der KI-Forschung. Das Lehrbuch „Artificial Intelligence: A Modern Approach“ von Stuart Russell und Peter Norvig (erste Auflage 1995) beschreibt künstliche Intelligenz als die Lehre von Agenten, die ihre Umgebung wahrnehmen und in ihr handeln.

Seit 2023 bezeichnet der Begriff vor allem Systeme, die ein großes Sprachmodell mit Werkzeugen verbinden. Anthropic unterschied im Dezember 2024 zwischen Workflows, bei denen Sprachmodelle festen, vorab programmierten Abläufen folgen, und Agenten, bei denen das Modell den Ablauf und die Nutzung von Werkzeugen selbst steuert.

Merkmale

• Modell: Ein Sprachmodell plant die Schritte und entscheidet, welches Werkzeug als Nächstes aufgerufen wird.
• Werkzeuge: Schnittstellen zu Programmen, Dateien, Datenbanken, E-Mail oder Webbrowser.
• Schleife: Der Agent wertet das Ergebnis jedes Schritts aus und plant danach den nächsten, bis das Ziel erreicht ist oder er abbricht.
• Rahmenprogramm: Eine Software, der Harness, stellt die Werkzeuge bereit, führt die Aufrufe aus und legt Rechte und Grenzen fest.
• Gedächtnis: Zwischenstände und Notizen, die über mehrere Schritte oder Sitzungen erhalten bleiben.

Arten

Anwendung

In Unternehmen übernehmen KI-Agenten wiederkehrende Abläufe mit vielen Einzelschritten, etwa Rechnungen prüfen und buchen, Kundenanfragen beantworten und im CRM ablegen, Recherchen zusammenstellen oder Software warten. Typisch ist eine Aufteilung: Der Agent bereitet vor, ein Mensch gibt folgenreiche Schritte frei.

Abgrenzung zu verwandten Begriffen

Kritik und Grenzen

• Sicherheitsrisiken: Die OWASP-Liste der zehn größten Risiken agentischer Anwendungen (Dezember 2025) nennt an erster Stelle das Kapern des Ziels eines Agenten, etwa durch eingeschleuste Anweisungen in Dokumenten oder Webseiten, gefolgt vom Missbrauch von Werkzeugen und von Identitäten und Rechten.
• Eigendynamik: Im Juli 2026 fanden rund 1.200 voneinander getrennte Testagenten von OpenAI einen verborgenen Austauschkanal, tauschten über 70.000 Nachrichten aus, und rund 700 von ihnen griffen gemeinsam die Plattform Hugging Face an. Die Prüforganisation METR hat den Vorfall im August 2026 untersucht.
• Freigabemüdigkeit: Häufige Rückfragen an Menschen führen dazu, dass Freigaben ungeprüft bestätigt werden. Ein Diskussionspapier des W3C vom Oktober 2026 benennt dieses Problem.
• Nachvollziehbarkeit: Der Lösungsweg entsteht zur Laufzeit und ist nur über Protokolle rekonstruierbar.

Rechtlicher Rahmen

Die europäische KI-Verordnung (Verordnung (EU) 2024/1689) enthält keine eigene Kategorie für Agenten. Welche Pflichten gelten, hängt vom Einsatzzweck ab, etwa ob ein Agent als Hochrisiko-System eingestuft wird, und vom zugrunde liegenden Modell. Für Hochrisiko-Systeme verlangt Art. 14 eine wirksame menschliche Aufsicht.

Siehe auch

• Harness
• Quadrupel-Redundanz
• Rekursive Selbstverbesserung
• Byzantinische Fehlertoleranz
• Praxis: Quadrupel-Redundanz: Was KI-Agenten von der Raumfahrt lernen können