Quase todos os fornecedores cobram os tokens de saída três a cinco vezes mais caros do que os de entrada. É a assimetria mais importante da fatura e a que mais se ignora: otimiza-se o prompt, que é a parte barata, e deixa-se intacta a resposta, que é a cara.
Se ainda não tem claro o que está a ser contado, comece por o que é um token e como é faturado.
Num relance
| O que acontece | A saída custa 3 a 5 vezes mais do que a entrada |
| Onde se nota | Respostas longas, raciocínio, formato livre |
| Alavanca | Encurtar e estruturar a resposta |
| Quando compensa | Sempre que a saída pese no seu gasto |
Porque é que a saída custa mais
A entrada é processada de uma vez: o modelo lê todo o prompt em paralelo. A saída é gerada token a token, e cada um obriga a percorrer o modelo inteiro outra vez. É trabalho sequencial e não se reparte igualmente bem, por isso o fornecedor cobra mais. A diferença não é um capricho comercial, reflete o custo real de gerar.
Quando a saída domina a fatura
Há três casos típicos. As respostas longas por omissão, quando ninguém pôs um limite e o modelo se alonga. Os modelos com raciocínio, que produzem tokens intermédios que paga mesmo sem os ver. E a geração de conteúdo, onde o trabalho é precisamente escrever muito.
Se, pelo contrário, a sua carga é classificar, extrair campos ou responder sobre documentos longos, o peso está na entrada e a alavanca é outra: o custo do contexto longo e o prompt caching.
Como cortar a parte cara
Ponha um teto explícito. Um limite de tokens de saída por tipo de tarefa evita que uma solicitação se descontrole. Sem ele, o custo máximo de uma solicitação não tem limite.
Peça uma estrutura. Um objeto com quatro campos ocupa uma fração do que ocupa um parágrafo a explicar o mesmo, e ainda por cima é mais fácil de usar a seguir.
Tire a cortesia. Os preâmbulos do tipo “claro, aqui tem a análise que pediu” são tokens faturados que não acrescentam nada.
Separe raciocinar de redigir. Se precisa que o modelo pense, deixe-o pensar onde é barato e escrever onde é preciso, em vez de pagar o raciocínio ao preço do modelo grande.
Ponha número
Pegue numa semana de tráfego real e reparta o gasto entre entrada e saída. Com esses dois números e a calculadora de custo de tokens saberá se o seu problema é o prompt ou a resposta antes de mexer em nada. É o primeiro corte do custo por tarefa.
Perguntas frequentes
Quanto mais cara é a saída? Depende do fornecedor e do modelo, mas o intervalo habitual vai de três a cinco vezes o preço da entrada.
Os tokens de raciocínio são pagos? Sim, são faturados como saída ainda que não apareçam na resposta final. Em modelos de raciocínio podem ser a maior parte do custo.
Limitar a saída piora a qualidade? Só se o limite ficar abaixo da resposta útil. Medido por tarefa quase sempre há margem: as respostas longas raramente são as melhores.
Na e-ficient medimos o custo por tarefa de empresas que já têm IA em produção e dizemos-lhe quanto pouparia com cada alavanca ao seu volume real. A primeira auditoria é gratuita se contratar um plano com compromisso de três meses e devolve um diagnóstico em 72 horas.