Pular para conteúdo

Capítulo 2.13 — Verdades incômodas sobre LLMs

Este bloco resume, de forma propositadamente desconfortável, o que um LLM não é. Ele serve como referência para revisões de arquitetura, onboardings e qualquer conversa em que alguém diga "o modelo cuida disso". Cada item retoma, em forma curta, pontos discutidos ao longo da Parte 2.

Use como lembrete operacional, não como manifesto.

  • LLM não é fonte de verdade. Use grounding, retrieval, banco, knowledge graph e validação.
  • LLM não deve ser mecanismo de autorização. Use IAM, RBAC/ABAC, OAuth, policy-as-code.
  • LLM não substitui regras determinísticas críticas. Use policy-as-code e validação.
  • Structured output melhora integração, mas não elimina validação. Forma sem conteúdo correto continua sendo inválido.
  • RAG reduz risco de alucinação, mas não garante verdade.
  • Fine-tuning não é base de conhecimento dinâmica.
  • Determinismo não existe puro, mesmo com temperatura 0.
  • Mudar de versão de modelo é uma mudança de produção, com potencial de regressão, mesmo que o nome seja igual.

Quando algum desses pontos chocar com uma afirmação de fornecedor ou de framework, a postura editorial deste livro é: acreditar na lista acima até prova em contrário medida em produção.