RESPOSTA
Quem responde quando um agente de IA erra?
Revisado em .
Quem responde é a empresa que opera o processo — perante cliente, auditoria e LGPD, dizer que foi a IA não transfere responsabilidade. No tratamento de dados pessoais, controlador e operador respondem pelo que o agente faz. A pergunta útil não é de quem é a culpa, é se o desenho permite responder: cada ação com registro, cada exceção com dono, cada passo irreversível com aprovação humana nomeada e um desligamento imediato sempre disponível.
Passo a passo
- Nomeie o dono humano de cada agente antes do primeiro run — papel e pessoa, não departamento.
- Garanta trilha por ação: quem, o quê, quando e sob qual regra. Sem trilha, todo erro vira investigação arqueológica.
- Coloque aprovação humana nos passos irreversíveis: pagamento, exclusão, mudança em produção, comunicação externa.
- Trate exceção como fila com dono e prazo, não como alerta que rola no canal.
- Ensaie o incidente antes de precisar: quem desliga, quem comunica e quem decide a reversão.
Como um agente faz isso
É por isso que a AgenticosCore não opera agente sem os quatro controles: Trilha (registro por ação), Freio (desligamento em 1 clique), Regras da Casa (quem aprova o quê) e Paralelo (prova antes do corte). O agente executa o reversível; a decisão irreversível é sempre de uma pessoa com nome.
Perguntas frequentes
O fornecedor do modelo de IA não responde?
Contratos alocam custos entre fornecedor e cliente, mas perante o seu cliente e a LGPD quem responde pelo processo é quem o opera. Governança própria não é opcional.
Aprovação humana não mata a produtividade?
Ela fica onde o custo do erro é irreversível. O volume roda autônomo; a assinatura é rara e informada. O gargalo real é exceção sem dono, não aprovação.
Seguro cobre erro de agente de IA?
Apólices variam e ainda estão evoluindo; nenhuma substitui trilha e aprovação. Sem evidência de controle, até a conversa com a seguradora começa perdida.