Hinton, Fei-Fei Li e Andrew Ng discordam sobre manter a IA aberta
No evento Ai4, em Las Vegas, três dos nomes mais respeitados da inteligência artificial debateram regulação, modelos abertos e a corrida com a China — e saíram do palco com posições diferentes.
Por Elias Brandão · Analista de IA e ética
Três pesos-pesados, um só palco, opiniões distintas
Imagine reunir três professores renomados numa mesma sala para discutir se uma tecnologia poderosa deveria ter manual de instruções público ou ficar trancada a sete chaves. Foi mais ou menos isso que aconteceu no evento Ai4, em Las Vegas, quando Geoffrey Hinton, ganhador do Nobel e uma espécie de "padrinho" da IA moderna, dividiu o palco com Fei-Fei Li, da World Labs, e Andrew Ng, cofundador da Coursera.
Código aberto não é a mesma coisa que "pesos abertos"
Foto: reprodução/datacenterknowledge.com
Hinton fez questão de separar dois conceitos que o público leigo costuma confundir. "Open source é ótimo", disse ele, mas emendou: "open weights significa que você treina um modelo grande e depois entrega os pesos [os parâmetros treinados] para as pessoas. Isso é muito diferente." Em bom português: uma coisa é abrir a receita do bolo, outra é distribuir o bolo pronto para qualquer um recheá-lo do jeito que quiser — inclusive com fins maliciosos, como treinar um sistema para ajudar em ataques cibernéticos, segundo o próprio Hinton. Ainda assim, ele reconheceu a realidade: "Acho que essa batalha já foi perdida. Agora temos modelos de pesos abertos."
O medo do gatekeeper
Do outro lado, Andrew Ng defendeu a abertura como forma de evitar que poucas empresas controlem o acesso à tecnologia. "Eu não quero que existam porteiros. Isso limita como todos nós podemos acessar a IA", afirmou. Para Ng, fechar demais o acesso cria uma espécie de pedágio artificial — e ele também levantou a bandeira da geopolítica, alertando que a adoção de modelos chineses por "bilhões de pessoas" ao redor do mundo pode pesar em temas como democracia e direitos humanos.
O meio-termo da física nuclear
Fei-Fei Li tentou fugir do dilema binário. "É muito perigoso transformar isso numa dicotomia entre abertura completa e fechamento completo", disse. A analogia que ela usou foi certeira: artigos científicos são publicados abertamente, mas urânio é regulado. Ou seja, o conhecimento pode circular livremente — o que exige controle é a aplicação que pode causar dano.
O consenso possível
Apesar das divergências, os três concordaram em um ponto: alguma forma de regulação é necessária. Hinton resumiu o espírito da discussão ao dizer que se preocupar com os efeitos negativos da IA "não é injusto" — só falta o mundo concordar em qual grau de abertura é seguro o suficiente.