Ein klassischer Assistent stellt eine Anfrage pro Frage. Ein Agent läuft in einer Schleife: Er denkt, ruft ein Werkzeug auf, liest das Ergebnis, denkt wieder. Jede Runde schleppt alles Vorherige mit, also wächst der Kontext, und die zehnte Runde sieht ganz anders aus als die erste. Deshalb liegen Schätzungen auf Basis einer einzelnen Anfrage weit daneben.
Auf einen Blick
| Was passiert | Der Verlauf wird in jeder Runde erneut mitgeschickt |
| Wirkung | Die Kosten wachsen schneller als die Zahl der Schritte |
| Wie messen | Pro erledigter Aufgabe, nicht pro Anfrage |
| Hebel | Verlauf kürzen, Schritte begrenzen, im Loop das Modell wechseln |
Woher die Kosten kommen
Drei Dinge summieren sich. Erstens der Verlauf: In Runde N liest das Modell die vorherigen N-1 noch einmal. Zweitens die Werkzeugbeschreibungen, die in jeder Anfrage mitreisen, auch wenn der Agent zwei von fünfzehn nutzt. Drittens die Wiederholungen: Ein fehlgeschlagener Schritt wird wiederholt und zweimal bezahlt.
Ergebnis: Die Ausgaben einer agentischen Aufgabe verlaufen nicht linear zur Zahl der Schritte. Die Länge der Konversation zu verdoppeln kann die Rechnung mehr als verdoppeln.
Pro Aufgabe messen, nicht pro Anfrage
Die richtige Einheit ist nicht die Anfrage, sondern die erledigte Aufgabe. Ein Agent, der den Fall in vier Schritten mit einem teuren Modell löst, kann günstiger sein als einer, der zwanzig Runden mit einem billigen dreht, und der Preis pro Million Tokens sagt Ihnen das nicht. Genau das misst Kosten pro Aufgabe.
Ergänzen Sie eine zweite Spalte: den Anteil der Aufgaben, die richtig enden. Ein billiger Agent, der jedes vierte Mal scheitert, erzwingt eine Wiederholung, und die wird ebenfalls berechnet.
Wo Sie bremsen
Kürzen Sie den Verlauf. Nicht alles von vor acht Schritten wird im neunten gebraucht. Altes zusammenfassen und Neues vollständig behalten schneidet das Wachstum an der Wurzel ab.
Reduzieren Sie die Werkzeuge. Zeigen Sie dem Agenten nur die, die er an dieser Stelle des Ablaufs nutzen kann, nicht den ganzen Katalog.
Begrenzen Sie die Schritte. Ein Agent ohne Limit ist eine Rechnung ohne Limit. Besser, er gibt auf und meldet den Fall, als dass er vierzig Runden dreht.
Wechseln Sie im Loop das Modell. Den nächsten Schritt zu bestimmen ist meist einfacher, als die Aufgabe zu lösen. Viele Schleifen laufen genauso gut mit einem kleinen Modell zum Navigieren und dem großen nur für den schwierigen Schritt, wie in das Modell je Aufgabe wählen.
Cachen Sie den festen Teil. Systemanweisungen und Werkzeugbeschreibungen ändern sich zwischen den Runden nicht: der Lehrbuchfall für Prompt-Caching.
Häufige Fragen
Wie viel teurer ist ein Agent als ein normaler Assistent? Das hängt von der Zahl der Runden ab, aber eine agentische Aufgabe kostet oft eine Größenordnung mehr als eine einzelne vergleichbare Anfrage.
Lohnt es sich, die Schritte zu begrenzen? Ja. Das Limit schützt vor den seltenen Fällen, die das Budget auffressen, und betrifft in der Regel nur einen sehr kleinen Teil der Aufgaben.
Woran erkenne ich, dass mein Agent zu viele Runden dreht? Sehen Sie sich die Verteilung der Schritte pro Aufgabe an. Wenn der lange Ausläufer den Großteil der Ausgaben bündelt, haben Sie ein Schleifenproblem, kein Preisproblem.
Bei e-ficient messen wir die Kosten pro Aufgabe von Unternehmen, die KI bereits produktiv einsetzen, und sagen Ihnen, wie viel Sie mit jedem Hebel bei Ihrem realen Volumen sparen würden. Das erste Audit ist kostenfrei, wenn Sie einen Plan mit drei Monaten Laufzeit abschließen, und liefert innerhalb von 72 Stunden eine Diagnose.