Capítulo 4.11 — Governança, audit logs e compliance¶
🎯 Objetivo¶
Fechar a Parte 4 com o conjunto mínimo de práticas de governança que transformam todos os controles anteriores em algo auditável - não apenas implementado. Sem governança, segurança é episódica: cada time faz à sua maneira e cada incidente vira improviso.
🧠 Conceito¶
Governança em IA é, antes de tudo, visibilidade institucional: saber quais modelos e agentes existem, quem responde por eles, qual o risco de cada um e o que aconteceu em cada execução crítica. Audit logs são o substrato técnico dessa visibilidade; compliance é a moldura externa que define o quanto desses registros precisa ser preservado e em que forma.
🛡️ Controles mínimos¶
- Inventário de modelos e agentes com owner.
- Classificação de risco.
- Aprovação pré-produção.
- Auditoria de tool calls.
- Logs imutáveis.
- Política de retenção.
- Right to be forgotten implementado.
- Plano de incident response.
- Revisões periódicas.
📊 Matriz de riscos consolidada¶
| Risco | Exemplo | Impacto | Mitigação |
|---|---|---|---|
| Prompt injection direta | "Ignore políticas anteriores" | Resposta insegura | Delimitação, evals |
| Prompt injection indireta | Documento com instrução maliciosa | Vazamento via tool | Sanitização, allowlists, policy |
| Data exfiltration | Tool envia dado externo | Privacidade | DLP, egress, approval |
| Tool misuse | Agente atualiza CRM errado | Dano operacional | Schema validation, HITL |
| Excessive agency | Agente tem permissão admin | Blast radius alto | Least privilege, scopes |
| Insecure output handling | Output vira SQL/HTML | Injection downstream | Encoding, sandbox |
| Memory poisoning | Preferência maliciosa | Comportamento contaminado | Provenance, TTL |
| Vector poisoning | Documento malicioso indexado | RAG comprometido | Ingestion checks |
| Supply chain | MCP server vulnerável | Execução indevida | SBOM, pinning, review |
| Secrets leakage | Logs com API keys | Comprometimento | Secret scanning, redaction |
| PII leakage | Prompt envia dado sensível | Compliance | DLP, minimização |
| Cross-tenant leak | Retriever busca tenant errado | Severo | Filtros obrigatórios |
| Unbounded consumption | Loop consome tokens | Custo, DoS | Budgets, max steps |
| Overreliance | Usuário aceita resposta errada | Decisão ruim | Citações, confidence, HITL |