Ex-funcionário da OpenAI vira alarme humano sobre segurança da IA
David Robinson, que escreveu os relatórios de segurança da OpenAI por 3 anos e meio, pediu demissão e publicou ensaio na revista The Atlantic comparando a empresa a uma obra sem capacete. Mas alertas públicos de ex-funcionários já se tornaram padrão no setor.
Por Elias Brandão · Analista de IA e ética
Quem é o mensageiro
David Robinson passou três anos e meio dentro da OpenAI fazendo um trabalho pouco glamouroso, mas essencial: escrever os relatórios de segurança que acompanham o lançamento de cada modelo novo. Foi ele quem ajudou a redigir o chamado Preparedness Framework, o manual interno que define quais riscos a empresa precisa medir antes de soltar uma IA mais poderosa no mundo, e quem assinou as avaliações de pelo menos 12 lançamentos de ponta. Em bom português: era o cara que testava o freio antes de o carro ir pra pista.
Agora ele pediu demissão. E não foi uma saída discreta — Robinson publicou um ensaio na revista americana The Atlantic, uma das publicações mais tradicionais dos Estados Unidos, batendo de frente com a cultura de segurança do setor.
O que ele disse
O argumento central de Robinson é que a OpenAI, segundo suas próprias palavras, "prospera por tentativa e erro": lança o produto, espera o problema aparecer e só então reforça as travas de segurança. É como testar um elevador colocando gente dentro para ver se ele despenca. Funcionou enquanto os erros eram pequenos, mas Robinson argumenta que, à medida que os modelos ficam mais capazes, um tropeço pode não deixar margem para uma segunda chance.
Para ele, o Vale do Silício cultivou uma mistura de "confiança extrema", "sprints perpétuos" e "otimismo irrefreável" que subestima os riscos de sistemas cada vez mais avançados. A comparação que ele usa é direta: usinas nucleares e aeroportos movimentados não ganham aplausos por serem rápidos — eles sobrevivem porque têm camadas de redundância e planejamento cuidadoso, para que o erro humano, sempre inevitável, não abra a porta para o desastre.
O contexto da saída
Robinson não saiu no vácuo. Dias antes, a OpenAI demitiu três pesquisadores de segurança — Jasmine Wang, Tomek Korbak e Mikita Balesni — acusados de compartilhar informações confidenciais com uma organização externa dedicada a segurança de IA. A empresa também já havia dissolvido sua equipe de Preparedness, criada justamente para avaliar se os próprios modelos eram seguros para lançar, e Johannes Heidecke, que chefiava o time de sistemas de segurança, deixou o cargo em julho.
O outro lado: ceticismo sobre esse tipo de alerta
Aqui vale um parêntese professoral: alertas públicos de ex-funcionários da OpenAI já não são novidade. Em 2024, o cofundador Ilya Sutskever e o pesquisador Jan Leike saíram em bloco criticando a empresa por deixar a "cultura de segurança" em segundo plano diante de produtos vistosos. Isso levanta uma pergunta inevitável: cada ensaio desse tipo é um alerta genuíno sobre um risco real, ou é também uma forma previsível de ex-funcionário garantir voz depois de deixar o cargo? As duas coisas podem ser verdadeiras ao mesmo tempo — e é por isso que avaliar esse tipo de denúncia exige ouvir o conteúdo técnico do alerta, não só contar quantas pessoas bateram a porta.
Atualização (03/10, 21:50): David Robinson, o ex-responsável pelos relatórios de segurança da OpenAI que deixou a empresa após três anos e meio no cargo, detalhou em artigo no The Atlantic uma nova comparação para ilustrar o tamanho do problema: segundo ele, empresas de IA deveriam ser administradas como usinas nucleares, "com camadas de redundância e planejamento cuidadoso, para que o erro humano ocasional e inevitável não abra caminho para o desastre".
Robinson afirmou que, durante o tempo em que trabalhou na OpenAI, nunca teve um colega com experiência em manter aviões voando com segurança, evitar o colapso de reatores nucleares ou administrar sistemas financeiros — ou seja, a empresa contrata engenheiros de software brilhantes, mas não profissionais acostumados a gerenciar riscos catastróficos em sistemas complexos.
Para ele, regular apenas o treinamento dos modelos não resolve o problema: a indústria constrói sistemas cada vez maiores com "otimismo irrestrito" e precisa atacar a própria cultura organizacional das empresas, e não só criar novas regras pontuais.
Atualização (04/10, 15:46): David Robinson, que passou 3 anos e meio supervisionando segurança de 12 modelos da OpenAI, diz que 'o tempo de tentativa e erro acabou' e pede padrões mais rígidos para a indústria.