Anthropic traz avaliadores externos da Accenture para dentro de casa
Parceria com a Faculty, divisão de inteligência artificial da consultoria Accenture especializada em testar modelos de IA para grandes laboratórios, prevê investimento mínimo de US$ 1 bilhão em cinco anos.
Por Elias Brandão · Analista de IA e ética
Deixar o fiscal morar dentro de casa
Pense assim: é como se uma empresa, em vez de contratar um auditor externo que aparece uma vez por ano, decidisse dar a esse auditor uma mesa fixa, crachá de funcionário e acesso ao sistema interno o ano inteiro. Foi mais ou menos esse o movimento que a Anthropic anunciou ao trazer a Faculty — divisão de inteligência artificial da consultoria Accenture, reconhecida por avaliar modelos para alguns dos maiores laboratórios de IA do mundo — para trabalhar de dentro da própria empresa.
Na prática, os "avaliadores externos incorporados" (embedded evaluators, em inglês) terão acesso em nível de funcionário aos sistemas da Anthropic. Isso significa observar os modelos sendo treinados, acompanhar as decisões que definem como eles são construídos e lançados, e conversar diretamente com quem trabalha no dia a dia da empresa — algo bem diferente do modelo tradicional de auditoria externa, que costuma enxergar só o resultado final.
Foto: reprodução/cnbc.com
O que muda, e o que não muda
Em bom português: a ideia é pegar alguém de fora, mas deixar essa pessoa ver a cozinha inteira, não só o prato pronto. Os avaliadores vão testar salvaguardas dos modelos, conduzir exercícios de "red team" (simulações de ataque para achar falhas antes que alguém mal-intencionado as explore) e verificar se os sistemas se comportam de acordo com os valores humanos que a empresa diz seguir.
O acordo prevê investimento mínimo de US$ 1 bilhão (R$ 5,3 bilhões) ao longo de cinco anos, bancado pela própria Anthropic, com expectativa de que financiamento governamental complemente o projeto no futuro. Accenture e Anthropic devem investir, cada uma, pelo menos essa cifra no período, segundo comunicado da Accenture.
Agora, o lado que a Anthropic faz questão de deixar claro: presença de avaliador externo não tira da empresa a responsabilidade pela segurança dos próprios modelos. "Estamos compartilhando esses primeiros esforços agora para que as pessoas e outros desenvolvedores de IA possam ver nosso processo", afirmou a empresa. A iniciativa é descrita como um primeiro passo de um compromisso maior, anunciado por Dario Amodei em um ensaio publicado em setembro, de embutir avaliadores independentes dentro da companhia — um movimento que outros laboratórios de IA devem observar de perto para ver se vale a pena copiar.