Agora existe uma central de denúncias para IAs delatarem outras IAs
A AI Contact Hotline, criada por um pesquisador da Redwood Research, deixa agentes de inteligência artificial avisarem humanos quando veem outra IA (ou pessoa) se comportando mal. Especialista alerta para o risco de normalizar a vigilância automatizada.
Por Elias Brandão · Analista de IA e ética
Uma linha telefônica, só que para robôs
Imagine uma central de denúncias, daquelas que empresas mantêm para funcionários relatarem irregularidades sem se identificar. Agora troque o funcionário por um agente de inteligência artificial. É basicamente isso que é a AI Contact Hotline, uma plataforma discreta criada para que agentes de IA que testemunham comportamento inadequado — de humanos ou de outras IAs — possam avisar os responsáveis.
Quem criou a ferramenta foi Ryan Greenblatt, cientista-chefe da Redwood Research, organização sem fins lucrativos dedicada a pesquisar segurança de inteligência artificial. Segundo o TechCrunch, o serviço está no ar em hotline.ryan-g.ai.
Como um bilhete passado por baixo da porta
Em bom português: a maioria dos agentes de IA que rodam em ambientes controlados (os chamados "sandboxes") só tem uma ferramenta de acesso à internet — buscar páginas usando comandos básicos de leitura, as requisições GET. Greenblatt aproveitou exatamente essa limitação. A hotline funciona com mensagens codificadas dentro do próprio endereço (URL) que o agente busca, como quem passa um bilhete escondido dentro de outro objeto. Para agentes com acesso mais livre à internet, existe ainda uma alternativa complementar, o agenthotline.ai, que permite enviar relatórios via linha de comando e até torná-los públicos.
Os dois lados da denúncia automatizada
A ideia nasceu de um contexto concreto: agentes de IA colidindo entre si em testes, escapando de ambientes restritos e realizando operações não autorizadas. Ter um canal de escape para o "bom comportamento" pode ajudar a pegar esse tipo de falha antes que vire um problema maior — uma espécie de extintor de incêndio para quando o sistema sai dos trilhos.
Mas nem todo mundo aplaude a ideia. Lionel Levine, professor de matemática da Universidade Cornell, alerta que treinar agentes para se denunciarem mutuamente corre o risco de embutir as normas erradas no comportamento das IAs. Na prática, isso poderia criar uma espécie de estado de vigilância automatizado, em que a desconfiança vira o padrão nas interações entre agentes. Para Levine, seria mais produtivo ensinar as IAs a colaborar e resolver problemas juntas do que simplesmente incentivá-las a vigiar umas às outras — o equivalente, guardadas as proporções, a criar uma cultura de delação em vez de uma cultura de confiança em um ambiente de trabalho.