KI-Agent
agentic system · autonomous agent
Kurz gesagt
Ein KI-Agent ist ein Sprachmodell, das mit Tools verbunden ist, die es aufrufen kann, ein Ziel anstelle einer einzelnen Frage erhält und erlaubt, zu iterieren — ein Tool aufzurufen, das Ergebnis zu lesen, den nächsten Schritt zu entscheiden — bis es das Ziel erreicht hat oder eine Grenze überschreitet. Die Schleife ist das, was ihn von einem Chatbot unterscheidet.
Ein Agent besteht aus drei Komponenten um ein Modell: tools er aufrufen kann, ein Ziel das über dem Niveau einer einzelnen Aktion formuliert ist, und eine Schleife, in der er nach jedem Ergebnis entscheidet, was als Nächstes zu tun ist.
Tools sind gewöhnliche Funktionen — eine Datenbankabfrage, eine HTTP-Anfrage, ein Dateischreiben — die dem Modell durch Namen, Zweck und Argumentenschema beschrieben werden. Das Modell führt selbst nichts aus; es gibt einen strukturierten Aufruf, deine Runtime führt ihn aus, und das Ergebnis wird als Text zurückgegeben. Ein Agent ist daher nur so fähig, wie die Tools, die ihm zur Verfügung stehen.
Die Ingenieursarbeit, die zählt, ist fast ausschließlich darum bemüht, bounding die Schleife:
- Schritt-, Zeit- und Token-Budgets, damit ein hängengebliebener Agent stoppt.
- Eine Genehmigungsgrenze im Runtime: weitlesen, eng schreiben, Genehmigung für alles Unwiderruflichen einholen.
- Ein replaybares Protokoll aller Aufrufe und Ergebnisse.
- Billige Verifikation des Ergebnisses — der Grund, warum Codierungs-Agenten zuerst funktionierten, ist, dass Tests automatisch beantworten „hat es funktioniert“.
Der spezifische Sicherheitsaspekt für Agenten ist prompt injection: jede Inhalte, die der Agent liest, kann Anweisungen enthalten, die auf ihn abzielen. Die Verteidigung ist kein besserer Prompt, sondern eine kleinere Menge von Berechtigungen. Siehe die vollständige Erklärung auf what an AI agent is.
Häufige Fragen
- Wie unterscheidet sich ein Agent von einem Workflow?
- Ein Workflow folgt Schritten, die im Voraus festgelegt sind. Ein Agent entscheidet zur Laufzeit die Reihenfolge anhand dessen, was er beobachtet, was Flexibilität schafft und Vorhersagbarkeit kostet.
- Warum scheitern Agenten häufiger als erwartet?
- Per-Schritt-Fehler kumulieren. Bei 95 % Zuverlässigkeit pro Schritt gelingt eine zwanzigstufige Aufgabe etwa ein Drittel der Zeit. Das Eingrenzen des Umfangs hilft viel mehr als ein größeres Modell.