Pular para conteúdo

Capítulo 0.3 — IA como sistema sociotécnico

🎯 Objetivo do capítulo

Estabelecer que sistemas de IA não são apenas técnicos: eles envolvem pessoas, processos, política e cultura.

🧠 Conceito principal

Um sistema sociotécnico opera sob a interação entre:

  • Técnico: dados, modelo, código, infraestrutura.
  • Social: usuários, operadores, stakeholders, reguladores.
  • Organizacional: processos, papéis, política interna, cultura.

Falhas operacionais, falta de documentação, ausência de governança ou conflito entre áreas costumam ser tão danosos quanto hiperparâmetros errados.

🏗️ Como isso aparece em produção

  • Um modelo bom é retirado porque a área de compliance não foi consultada.
  • Um agente útil é desligado porque ninguém assume operação.
  • Um pipeline correto produz dado errado porque o time de upstream mudou o schema sem aviso.

⚖️ Trade-offs

Opção Vantagem Risco
Centralizar governança Consistência Lentidão
Descentralizar para squads Velocidade Inconsistência
Modelo híbrido (federado) Equilíbrio Custo de coordenação

🚨 Modos de falha

  • Time técnico sem mandato organizacional para mudar dados, regras ou processo.
  • Ausência de RACI claro: ninguém é dono.
  • Sucesso técnico sem aceitação do usuário (overreliance ou rejeição).

🛡️ Controles e mitigações

  • RACI explícito para cada agente/modelo: owner técnico, owner de negócio, owner de operação.
  • Comitês de governança com participação multidisciplinar.
  • Treinamento de usuários sobre capacidades e limites do sistema.

🧰 Exemplo prático relacionado (planejado)

  • EX-FUND-03 - template de RACI para um sistema de IA enterprise.

📌 Checklist

  • [ ] Há owner técnico e owner de negócio nomeados?
  • [ ] Há plano de comunicação com usuários sobre o que o sistema é e não é?
  • [ ] Há processo de revisão multidisciplinar antes do go-live?

📚 Referências