Capítulo 0.7 — O que IA faz bem (e o que não deveria controlar sozinha)¶
🎯 Objetivo do capítulo¶
Mapear capacidades e limites em alto nível, com critério prático para separar tarefa "natural para IA" de tarefa "que precisa de software determinístico ao redor".
🧠 Conceito principal¶
A pergunta certa raramente é "IA consegue fazer isso?". A pergunta certa é "o erro típico desta tarefa pode ser absorvido pelo sistema sem virar incidente?". Quando a resposta é sim, IA tende a ser a melhor escolha de produtividade; quando é não, há quase sempre algo determinístico que precisa entrar entre o modelo e a ação.
IA tende a fazer bem:
- Reconhecer padrões em dados de alta dimensão.
- Lidar com ambiguidade semântica.
- Interpolar dentro do domínio de treino.
- Personalizar com base em sinais.
- Sumarizar, classificar, traduzir, gerar texto, extrair entidades.
- Sugerir, ranquear, recomendar.
IA não deveria controlar sozinha:
- Autorização (quem pode fazer o quê).
- Cálculo financeiro exato.
- Regras de compliance.
- Consistência transacional.
- Controle de concorrência.
- Auditoria.
- Decisões irreversíveis sem revisão.
Nada disso é absoluto: IA pode assistir todas essas áreas (revisar um cálculo, sugerir uma decisão de compliance, propor a próxima ação). A linha vermelha é deixar o modelo decidir sozinho com efeito imediato no mundo, sem mediação determinística.
A regra prática:
Use IA para ambiguidade. Use software determinístico para compromissos, regras, permissões, cálculos e efeitos colaterais.
📚 Referências¶
- Anthropic - Measuring AI agent autonomy: https://www.anthropic.com/news/measuring-agent-autonomy