Ex-funcionários de segurança da OpenAI contestam demissão em carta
Jasmine Wang, Tomek Korbak e Mikita Balesni negam má conduta e dizem que a demissão intimida colegas que querem apontar riscos em IA. OpenAI mantém acusação, mas aceita parte das recomendações do trio.
Por Elias Brandão · Analista de IA e ética
Três pesquisadores, uma carta e uma acusação em disputa
Imagine ser demitido por justa causa, discordar frontalmente do motivo e, em vez de processar a empresa, escrever uma carta pedindo para que ela mude de comportamento com os colegas que ficaram. Foi mais ou menos isso que fizeram Jasmine Wang, Tomek Korbak e Mikita Balesni, três pesquisadores de segurança demitidos pela OpenAI na última semana. Em carta aberta publicada em 8 de outubro, endereçada ao Comitê de Segurança e Proteção, ao Grupo Consultivo de Segurança e ao Conselho Consultivo de Missão da empresa, os três negam terem cometido qualquer má conduta.
O que a OpenAI alega — e o que o trio nega
Foto: reprodução/techcrunch.com
A empresa afirma que identificou, em investigações internas, um "padrão de má conduta" relacionado ao acesso e manuseio de informações sensíveis — mas evitou detalhar quais regras exatamente teriam sido quebradas. Em bom português: a OpenAI diz que os três passaram informações internas para fora da empresa de um jeito indevido, só que não quer explicar o jeito.
Já os pesquisadores contam outra história. Segundo a carta, eles compartilharam informações com avaliadores externos de segurança — como a organização METR, para a qual Korbak atuava como contato técnico — em um momento em que as próprias políticas internas sobre o assunto ainda estavam sendo escritas. É como ser multado por uma lei que, na prática, só foi publicada depois da multa. Korbak e Balesni, aliás, foram autores principais de um estudo sobre "monitorabilidade da cadeia de raciocínio" — um tema que explica, em parte, por que avaliação externa importa tanto para eles: é a capacidade de auditores de fora conseguirem entender por que um modelo de IA tomou determinada decisão, e não apenas aceitar a resposta final como uma caixa-preta.
O medo de falar e o pedido dos três
O ponto central da carta não é tanto reverter a demissão, mas evitar um efeito colateral: o chamado "chilling effect", ou efeito inibidor, em que colegas que ainda trabalham na empresa passam a ter medo de levantar alertas de segurança ou de buscar ajuda externa, por temerem o mesmo destino. Balesni chegou a escrever nas redes sociais que acredita ter sido demitido por "priorizar a segurança acima dos interesses de curto prazo da OpenAI como empresa".
O trio pede três compromissos: manter auditores de segurança independentes, preservar a capacidade de monitorar modelos avançados e garantir um diálogo aberto entre pesquisadores de segurança e a empresa. A OpenAI, por meio de um memorando interno, negou retaliação e afirmou que as demissões "não foram sobre levantar preocupações de segurança" — mas, curiosamente, declarou concordar com as três recomendações da carta, mesmo mantendo a acusação original contra os ex-funcionários.
Atualização (09/10, 09:47): A OpenAI respondeu à carta divulgada pelos três pesquisadores de segurança demitidos e negou qualquer retaliação. Em publicação no X, a empresa afirmou que Jasmine Wang, Tomek Korbak e Mikita Balesni foram desligados por uma "violação significativa de confiança" e por descumprir políticas internas sobre tratamento de informações confidenciais — não por causa dos alertas que os três haviam feito em setembro sobre o ritmo de desenvolvimento de modelos avançados.
A empresa disse concordar com "o princípio de preservar a capacidade de monitorar esses modelos", mas manteve a decisão de demitir o trio. Em carta anterior ao conselho da OpenAI, os pesquisadores afirmaram temer que a repercussão do caso intimide outros funcionários a relatar preocupações de segurança — dizendo que colegas podem passar a "ter medo de falar e agir de maneiras que, até a semana passada, eram parte integrante do trabalho".
A OpenAI não detalhou publicamente qual informação confidencial teria sido compartilhada nem como chegou à conclusão da "violação de confiança", mantendo o caso em um impasse de versões entre a empresa e os ex-funcionários.