Quem responde quando um agente de IA toma a decisão errada?
Com empresas liberando agentes para decidir sozinhos, a pergunta deixou de ser hipotética: a responsabilidade começa antes do erro, na escolha de quem configurou o sistema.
Por Elias Brandão · Analista de IA e ética
O cenário que já não é ficção
Imagine um agente de IA autorizado a negociar automaticamente com fornecedores — e que, numa madrugada qualquer, toma uma decisão que gera um prejuízo relevante pra empresa. Até pouco tempo esse exemplo era hipotético. Hoje, segundo a IBM, gigante centenária de tecnologia e consultoria, 61% dos CEOs já adotam ou se preparam para adotar agentes de IA em suas operações. A McKinsey, consultoria de gestão de referência global no mercado corporativo, estima que 40% das grandes organizações vão escalar o uso desses agentes ainda em 2026.
Em bom português: o problema é que ninguém fechou a porta
Aqui está o detalhe que normalmente passa batido: a Deloitte, uma das maiores redes de auditoria e consultoria do mundo, descobriu que apenas 21% das empresas têm um modelo de governança maduro pra lidar com IA agêntica. Ou seja, a maioria está destravando o motorista automático sem ter checado antes se o carro tem freio. E a Gartner, consultoria especializada em pesquisa de tecnologia, projeta que o uso desses agentes só vai crescer até 2028.
De quem é a culpa, então?
Segundo a colunista Alessandra Montini, da Fia Business School, a resposta não é um nome só. A responsabilidade em IA, segundo ela, "não está concentrada em um único ator" — ela se distribui ao longo de toda a cadeia: quem escolheu o modelo, quem definiu quais dados o agente podia acessar, quem estabeleceu até onde a autonomia ia. É como terceirizar uma decisão: você não se livra da responsabilidade só porque delegou a tarefa.
A função que ainda não existe no organograma
A proposta mais concreta do texto é a criação de um "gestor do agente" — um cargo novo, dedicado a supervisionar e auditar sistemas autônomos, do mesmo jeito que hoje existe alguém responsável por liderar uma equipe de pessoas. Cada empresa, defende a autora, precisa definir de forma explícita a fronteira: até onde o agente decide solto e a partir de que ponto um humano entra na jogada.
O que ainda falta responder
Nenhum dos números citados mostra, porém, como a legislação brasileira vai tratar esse tipo de responsabilidade civil quando o prejuízo passar da teoria pra conta bancária.