Capítulo 6.1 — Custo total de sistemas de IA
Custo total =
input_tokens + output_tokens
+ embeddings + retrieval + reranking
+ tool calls + storage
+ observabilidade + evals
+ retries + retraining
+ revisão humana
+ serving_infra
+ incidentes
📊 Unidades de custo
| Unidade |
Por que importa |
| Custo por chamada |
Estimativa básica |
| Custo por etapa |
Gargalos no agente |
| Custo por tarefa |
Métrica principal de produto |
| Custo por jornada |
Workflows longos |
| Custo por tenant |
Chargeback / showback |
| Custo por erro |
Retries e falhas podem dominar gasto |
| Custo por eval |
Testes contínuos consomem orçamento |
| Custo por sucesso |
Eficiência real (custo/sucesso, não custo/chamada) |
| Custo por human review |
Latência e operação humana entram |