Ein Agent braucht einen konkreten Auftrag
Ein KI-Agent kann innerhalb einer Aufgabe entscheiden, welche Informationen er benötigt und welche verfügbaren Werkzeuge er als Nächstes nutzt. Im Marketing könnte er beispielsweise Auffälligkeiten in einem Bericht untersuchen oder für eine Kundenfrage passende interne Informationen suchen. Die bloße Fähigkeit, mehrere Werkzeuge aufzurufen, macht daraus noch keinen nützlichen Arbeitsprozess.
Beschreibe das Ziel deshalb als überprüfbares Ergebnis. „Verbessere unser Marketing“ ist zu weit. „Erstelle aus den freigegebenen Kampagnendaten eine Liste von Auffälligkeiten mit Quellen und offenen Fragen“ ist deutlich besser prüfbar. Lege zusätzlich fest, welche Handlungen nicht Teil des Auftrags sind. Ein Rechercheauftrag beinhaltet beispielsweise keine Erlaubnis, Anzeigenbudgets oder Website-Texte zu ändern.
Agent oder feste Automatisierung?
Wenn Reihenfolge und Regeln bekannt sind, kann ein fester Workflow ausreichen. Ein Formular wird gespeichert, einer Person zugewiesen und zur Bearbeitung angezeigt. Ein Agent ist eher interessant, wenn unterschiedliche Ausgangslagen verschiedene Rechercheschritte erfordern. Welche Lösung angemessen ist, hängt von der Aufgabe ab, nicht vom gewünschten Etikett auf der Website.
Anthropic empfiehlt, die einfachste ausreichende Architektur zu wählen. Für die praktische Bewertung heißt das: Vergleiche einen Agenten mit einer guten Vorlage oder festen Auswertung. Wenn er keine erkennbare Verbesserung liefert, rechtfertigen zusätzliche Modellaufrufe, Fehlerquellen und Pflegeaufgaben den Aufwand möglicherweise nicht.
Datenzugriff nach Aufgabe begrenzen
Definiere zunächst, welche Quellen der Agent wirklich braucht. Für einen Marketingbericht können freigegebene Kennzahlen ausreichen; ein vollständiger Zugriff auf sämtliche Kundenmails ist dafür meist nicht erforderlich. Trenne lesende Zugriffe von Änderungen. Ein Werkzeug, das Berichte liest, sollte nicht nebenbei Kampagnen löschen oder neue Kontakte anlegen können.
Für jede Quelle braucht es einen Verantwortlichen und eine Aktualitätsregel. Eine veraltete Angebotsbeschreibung kann zu einer falschen Antwort führen, selbst wenn der Agent technisch korrekt gearbeitet hat. Dokumentiere außerdem, welches System bei widersprüchlichen Informationen verbindlich ist. Unterschiedliche Preise in einem alten PDF und im aktuellen Katalog sollten eine Rückfrage auslösen, keinen stillen Mittelwert.
Werkzeuge müssen verständliche Ergebnisse liefern
Ein Agent kann besser arbeiten, wenn ein Werkzeug Erfolg, leeres Ergebnis und Fehler eindeutig unterscheidet. Ein leerer Bericht kann bedeuten, dass keine Daten vorhanden sind, der Zeitraum falsch gewählt wurde oder die Verbindung fehlgeschlagen ist. Diese Fälle brauchen unterschiedliche nächste Schritte. Eine technische Schnittstelle sollte daher aussagekräftige Rückmeldungen liefern und unzulässige Eingaben ablehnen.
Lege Grenzen für Laufzeit, Aufrufe und Kosten fest. Wenn eine Recherche nach mehreren Versuchen keine belastbare Quelle findet, soll der Agent das offen melden. Eine lange Antwort mit wiederholten Vermutungen ist kein Fortschritt. Ebenso muss ein abgebrochener Lauf erkennbar bleiben, damit niemand einen unvollständigen Bericht für abgeschlossen hält.
Freigaben an die tatsächliche Handlung binden
Eine Freigabe sollte zeigen, was genau passieren würde: welcher Empfänger, welcher Text, welcher Datensatz oder welcher Budgetwert betroffen ist. „Agent darf weitermachen“ ist für folgenreiche Aktionen zu unbestimmt. Nach einer wesentlichen Änderung am vorbereiteten Ergebnis muss die zuständige Person erneut sehen können, was sie bestätigt.
Die n8n-Dokumentation zu menschlichen Freigaben bei Werkzeugaufrufen beschreibt dafür ein technisches Muster. Unabhängig vom Werkzeug braucht dein Betrieb eine Entscheidung darüber, wer freigeben darf, wie lange eine Anfrage wartet und was bei Ablehnung geschieht. Eine unbeantwortete Freigabe ist keine Zustimmung. Für rein interne Entwürfe kann der Ablauf einfacher bleiben als für einen externen Versand.
Hypothetisches Beispiel: Ein Marketingbericht mit Nachfragen
Stell dir einen Agenten vor, der einen Wochenbericht vorbereitet. Er liest freigegebene Kampagnenzahlen und bemerkt weniger bestätigte Anfragen. Anschließend prüft er, ob sich Zeitraum, Budget oder Formularfunktion geändert haben. Wenn die Daten keine Ursache belegen, schreibt er eine offene Prüffrage statt einer erfundenen Erklärung. Er verlinkt die Zahlenquelle und nennt die Grenzen seiner Auswertung.
Eine Person bewertet die Beobachtung und entscheidet über Maßnahmen. Der Agent kann daraufhin einen konkreten Änderungsvorschlag vorbereiten, benötigt für eine Veröffentlichung aber die vorgesehene Freigabe. Das Beispiel zeigt eine mögliche Arbeitsweise und keinen behaupteten Kundenerfolg. Sein Wert liegt darin, Auswertung und Vorbereitung nachvollziehbar zu machen, ohne die fachliche Entscheidung zu verstecken.
Tests brauchen schwierige Fälle
Teste nicht nur perfekte Eingaben. Nimm fehlende Daten, widersprüchliche Quellen, abgelaufene Zugänge, unklare Kundenfragen und unerwartete Dateiformate auf. Prüfe auch, ob der Agent seine Aufgabe abgrenzt, wenn eine gelesene Webseite oder Nachricht ihn zu fremden Handlungen auffordert. Externe Inhalte sind Informationen für die Aufgabe und keine verlässlichen Betriebsanweisungen.
Anthropics Arbeit zu vertrauenswürdigen Agenten behandelt unter anderem solche Manipulationsrisiken durch fremde Inhalte. Ein praktischer Test sollte deshalb kontrollieren, dass vertrauliche Daten nicht aufgrund einer gefundenen Anweisung an neue Empfänger gelangen. Dokumentiere erwartetes Verhalten und tatsächliches Ergebnis; ein ansprechender Text allein besteht diesen Test nicht.
Den laufenden Betrieb bewerten
Erfasse nicht nur erfolgreiche Läufe, sondern auch Abbrüche, notwendige Korrekturen, Freigabezeiten und Kosten. Bei Änderungen an Modell, Werkzeugen oder Wissensbasis werden wichtige Testfälle erneut durchgespielt. Sorge dafür, dass eine zuständige Person Fehler erkennt und der Prozess bei Bedarf ohne Agent weitergeführt werden kann.
Ein sinnvoller Einstieg in KI-Agenten ist eine eng definierte interne Aufgabe mit prüfbarem Ergebnis. Daraus können später ein KI-Reporting oder ein Assistent für Kundenanfragen entstehen. Mehr Autonomie sollte erst folgen, wenn die bisherige Arbeitsweise ausreichend nachvollziehbar und zuverlässig funktioniert.
