Pesquisa identifica no cérebro o momento em que a IA te entendeu errado
Equipe da KAIST usa eletroencefalograma pra distinguir, em tempo real, se a IA errou o objetivo ou só o caminho escolhido.
Por Elias Brandão · Analista de IA e ética
Duas formas de "errar o alvo"
Pense numa situação comum: você pede pra um assistente de IA fazer uma tarefa, e ele faz — só que do jeito errado. Às vezes o problema é o objetivo (ele entendeu outra coisa); às vezes é o método (ele entendeu o que você queria, mas escolheu um caminho estranho pra chegar lá). Pra um humano, essa diferença é óbvia. Pra uma IA, não.
Uma equipe da KAIST (Korea Advanced Institute of Science and Technology), universidade sul-coreana de referência em engenharia, em parceria com a Microsoft Research Asia, encontrou uma forma de a própria IA perceber essa diferença — direto no cérebro de quem está observando.
Foto: reprodução/digitaltoday.co.kr
O que o EEG mostrou
Usando eletroencefalograma (EEG), que capta a atividade elétrica do cérebro por eletrodos no escalpo, os pesquisadores liderados pelo professor Sang Wan Lee mediram o que acontece na cabeça de voluntários enquanto assistiam uma IA executar tarefas. Encontraram dois sinais distintos: um chamado RPE (erro de previsão de recompensa), que aparece quando a IA entendeu o objetivo errado; e outro chamado SPE (erro de previsão de estado), que aparece quando o objetivo estava certo, mas o método escolhido surpreendeu quem observava. Quando os dois erros acontecem juntos, surge um terceiro padrão, específico dessa combinação.
A tecnologia batizada de Neural Value Alignment (NVA), publicada em agosto na revista IEEE Transactions on Cybernetics, usa esses sinais pra alimentar a IA em tempo real — sem que a pessoa precise dizer em voz alta "não é isso".
Dois lados da promessa
Do lado animador: isso pode acelerar a correção de robôs domésticos, industriais, carros autônomos e sistemas de reabilitação, que hoje dependem de comando verbal ou botão de correção. Do lado cauteloso: por ora, tudo foi validado em simulação controlada, com eletrodos presos à cabeça — bem longe do uso cotidiano, sem fio e em ambiente real. Também fica em aberto se o sinal se mantém claro fora do laboratório, com distrações e ruído do dia a dia.
O que falta responder
A equipe da KAIST não testou o sistema fora de ambiente controlado. Antes de qualquer robô de casa "ler sua mente" de verdade, essa validação em condições reais ainda precisa acontecer.