Un assistente classico fa una richiesta per domanda. Un agente fa un ciclo: pensa, chiama uno strumento, legge il risultato, torna a pensare. Ogni giro si trascina dietro tutto quello che è venuto prima, quindi il contesto cresce e il costo del decimo giro non somiglia a quello del primo. Per questo le stime fatte con una sola richiesta sono molto sotto la realtà.
In sintesi
| Cosa succede | Lo storico viene rimandato a ogni giro del ciclo |
| Effetto | Il costo cresce più in fretta del numero di passi |
| Come misurarlo | Per attività completata, non per richiesta |
| Leve | Potare lo storico, limitare i passi, scendere di modello dentro il ciclo |
Da dove viene il costo
Si sommano tre cose. La prima, lo storico: al giro N il modello rilegge gli N-1 precedenti. La seconda, le descrizioni degli strumenti, che viaggiano in tutte le richieste anche se l’agente ne usa due su quindici. La terza, i tentativi ripetuti: un passo che fallisce si rifà e si paga due volte.
Il risultato è che la spesa di un’attività agentica non è lineare rispetto ai passi. Raddoppiare la lunghezza della conversazione può più che raddoppiare la fattura.
Misurare per attività, non per richiesta
L’unità giusta non è la richiesta, è l’attività completata. Un agente che risolve il caso in quattro passi con un modello caro può risultare più economico di un altro che fa venti giri con uno economico, e il prezzo per milione di token non te lo dice. È esattamente ciò che misura il costo per attività.
Aggiungi una seconda colonna: la quota di attività che finiscono bene. Un agente economico che sbaglia una volta su quattro costringe a rifare, e anche quel rifacimento si paga.
Dove metterci un freno
Pota lo storico. Non tutto quello che è successo otto passi fa serve al nono. Riassumere il vecchio e tenere intatto il recente taglia la crescita alla radice.
Riduci gli strumenti. Mostra all’agente solo quelli che può usare in quel punto del flusso, non l’intero catalogo.
Metti un tetto ai passi. Un agente senza limite è una fattura senza limite. Meglio che si arrenda e segnali il caso piuttosto che faccia quaranta giri.
Scendi di modello dentro il ciclo. Decidere il passo successivo di solito è più facile che risolvere l’attività. Molti cicli funzionano uguale con un modello piccolo per navigare e quello grande solo per il passo difficile, come in scegliere il modello per attività.
Metti in cache la parte fissa. Le istruzioni di sistema e le descrizioni degli strumenti non cambiano tra un giro e l’altro: sono il caso da manuale del prompt caching.
Domande frequenti
Quanto costa di più un agente rispetto a un assistente normale? Dipende dal numero di giri, ma è normale che un’attività agentica costi un ordine di grandezza in più di una singola richiesta equivalente.
Vale la pena limitare i passi? Sì. Il tetto protegge dai casi rari, che sono quelli che mangiano il budget, e di solito tocca una frazione piccolissima delle attività.
Come faccio a sapere se il mio agente gira troppo? Guarda la distribuzione dei passi per attività. Se la coda lunga concentra la maggior parte della spesa, hai un problema di ciclo, non di prezzo.
In e-ficient misuriamo il costo per attività di aziende che hanno già l’IA in produzione e ti diciamo quanto risparmieresti con ogni leva al tuo volume reale. Il primo audit è gratuito se attivi un piano con impegno di tre mesi e restituisce una diagnosi in 72 ore.