Microsoft trata agentes de IA como ameaça interna dentro das empresas
Satya Nadella e a chefe de segurança da Microsoft dizem que nem os modelos mais avançados podem ser confiáveis e lançam o Guardian Agents para monitorar IA dentro das empresas como se fosse um funcionário sob suspeita.
Por Elias Brandão · Analista de IA e ética
Tratando o robô como o novo funcionário suspeito
Toda empresa de porte tem protocolos para o chamado "insider threat" — a ameaça interna, aquele funcionário com acesso a dados sensíveis que pode, por erro ou má-fé, causar estrago. A Microsoft decidiu aplicar a mesma lógica aos agentes de inteligência artificial que as empresas vêm contratando para automatizar tarefas. Para a companhia, um agente de IA com acesso a sistemas internos merece a mesma vigilância que se daria a um novo colaborador desconhecido — só que, neste caso, o colaborador é um software que pode se comportar de forma imprevisível.
"Modelos de ponta não merecem crédito de confiança"
A frase é da executiva Hayete Gallot, chefe do negócio de segurança da Microsoft: "infelizmente, os modelos de ponta, independentemente de sua origem, não podem ser confiáveis". A ressalva importante é que ela não fala de malícia ou de modelos fáceis de hackear, mas de imprevisibilidade — a IA pode tomar decisões que fogem das normas da organização sem que isso seja um ataque deliberado.
O CEO Satya Nadella reforça o alerta: mesmo que um fornecedor de modelos de IA dê garantias de segurança, as empresas não deveriam confiar cegamente nisso. Segundo ele, é preciso "separar o fornecimento de inteligência da autoridade sobre ela" — ou seja, quem vende o motor da IA não deveria ser, ao mesmo tempo, o único fiscal de como esse motor é usado dentro de casa.
Guardian Agents e a vigilância em camadas
Para colocar a teoria em prática, a Microsoft ampliou o Guardian Agents, ferramenta que monitora o comportamento de agentes de IA dentro das organizações, parte de uma iniciativa de segurança lançada em junho. O Microsoft Defender, seu sistema de proteção corporativa, passou a identificar até 60 tipos de agentes que funcionários trazem para o ambiente de trabalho sem avisar a área de TI — de assistentes de código a outras ferramentas autônomas. A empresa também limitou o acesso desses agentes a dados sensíveis e passou a exigir aprovação humana quando um agente parece prestes a tomar uma decisão arriscada.
Um movimento maior que a Microsoft
Esse esforço não é solitário: a Microsoft integra a Open Agent Safety Platform, iniciativa liderada pela Nvidia, fabricante de chips voltados a inteligência artificial, que reúne mais de 100 empresas — entre elas a própria Anthropic, criadora do assistente Claude e conhecida por defender regras mais estritas de segurança para modelos de IA — para criar padrões de segurança comuns para agentes de IA. O recado dos dois lados do debate é direto: de um lado, laboratórios de IA querem provar que seus modelos são seguros; do outro, quem usa esses modelos no dia a dia prefere não apostar tudo na palavra do fabricante e constrói sua própria rede de segurança por cima.