Pular para conteúdo

Capítulo 1.12 — Quando ML tradicional é melhor que LLM (e quando combiná-los)

🎯 Objetivo

Mostrar que ML tradicional, longe de ser obsoleto, continua sendo a escolha correta para uma classe enorme de problemas - e que combinações híbridas são o padrão enterprise mais defensável.

🧠 Quando ML tradicional vence

  • Tarefa repetitiva e bem definida.
  • Latência precisa ser baixa (p95 < 50 ms).
  • Custo por chamada precisa ser mínimo.
  • Output é classificação ou regressão.
  • Há dataset rotulado suficiente.
  • Comportamento precisa ser estável.

🤝 Quando combinar ML + LLM + agente

Padrão híbrido típico:

Entrada do usuário
   │
   ├─ 🧠 Classificador ML (intent / triagem)
   │     ├─ "simples" -> resposta determinística
   │     ├─ "documental" -> 🤖 LLM com RAG
   │     └─ "ação" -> 🧩 Agente com tool calling + HITL
   │
   └─ 🔭 Observabilidade comum

🚨 Modos de falha

  • Usar LLM onde um classificador resolveria por décimo do custo.
  • Usar agente onde um workflow determinístico bastaria.
  • Forçar único caminho para todos os casos.

📌 Checklist

  • [ ] A solução começa pelo mais simples?
  • [ ] LLM e agente são reservados para casos que de fato exigem?
  • [ ] Há roteamento e fallback entre os caminhos?