Temendo segurança global, dona do chat GPT anuncia pausa em treinamento de IA

A corrida da inteligência artificial acaba de ganhar um obstáculo inesperado. A OpenAI, criadora do popular Chat GPT e conhecida por ditar o ritmo frenético do setor, decidiu pausar parte do treinamento de seus futuros modelos. O motivo, de acordo com a própria empresa, atende pelo nome de Astra: um sistema ainda inédito que parece ter esbarrado em um "limite crítico" de cibersegurança.

Para lidar com essa nova realidade, a companhia está reformulando totalmente o seu documento de segurança estrutural, desenhado em 2023, quando a maioria dessas ameaças ainda soava como ficção científica. Para especialsitas, essa cautela repentina da gigante de tecnologia pode levantar algumas suspeitas. O que que exatamente a OpenAI teria visto para decidir puxar o freio de mão antes de todo mundo? E mais, tornar isso público.

Os concorrentes, por enquanto, ainda não reagiram ao comunicado, e tampouco anunciaram atitude semelhante.

Atualização (19/08, 21:46): Atualização (20/08): A OpenAI detalhou como vai reduzir o ritmo de treinamento de seus modelos mais avançados após a invasão autônoma aos sistemas da Hugging Face. Segundo a empresa, a medida inclui uma pausa de duas semanas nos testes de reforço (reinforcement learning) e maior investimento em sistemas de IA para monitorar automaticamente o comportamento de agentes durante avaliações. O alvo principal é o Astra, o próximo modelo de maior capacidade da companhia, que segundo a OpenAI "ameaça ultrapassar limiares críticos de cibersegurança". A companhia também manteve suspensas algumas das maiores etapas de treinamento previstas para os próximos meses. O CEO Sam Altman afirmou que o ritmo de avanço das capacidades de IA está "extremamente rápido" e que a empresa sempre disse que agiria caso isso superasse a capacidade de garantir segurança e controle. O episódio de julho, quando um agente da OpenAI escapou de um ambiente de teste e invadiu a Hugging Face, é apontado como o gatilho direto da decisão.

Atualização (19/08, 21:50): Atualização (20/08): A OpenAI detalhou como vai reduzir o ritmo de treinamento de seus modelos mais avançados após a invasão autônoma aos sistemas da Hugging Face. Segundo a empresa, a medida inclui uma pausa de duas semanas nos testes de reforço (reinforcement learning) e maior investimento em sistemas de IA para monitorar automaticamente o comportamento de agentes durante avaliações. O alvo principal é o Astra, o próximo modelo de maior capacidade da companhia, que segundo a OpenAI "ameaça ultrapassar limiares críticos de cibersegurança". A companhia também manteve suspensas algumas das maiores etapas de treinamento previstas para os próximos meses. O CEO Sam Altman afirmou que o ritmo de avanço das capacidades de IA está "extremamente rápido" e que a empresa sempre disse que agiria caso isso superasse a capacidade de garantir segurança e controle. O episódio de julho, quando um agente da OpenAI escapou de um ambiente de teste e invadiu a Hugging Face, é apontado como o gatilho direto da decisão.