IA da Meta cria 'fichas' detalhadas de amigos e familiares dos usuários

O que aconteceu

Uma investigação da Wired, revista americana especializada em tecnologia, revelou que o Muse, assistente de inteligência artificial pessoal da Meta lançado há menos de dois meses e disponível por enquanto só nos Estados Unidos, está montando perfis detalhados sobre as pessoas da vida de cada usuário — mesmo quando essas pessoas nunca usaram o aplicativo. A descoberta partiu do pesquisador de segurança Karan Joshi, que extraiu e analisou o "system prompt" do Muse, isto é, o conjunto de instruções internas que define como a IA deve se comportar.

Segundo os documentos obtidos pela Wired, o Muse executa um processo automático, a cada hora, para atualizar páginas dedicadas a familiares, parceiros, amigos, colegas e outras pessoas conectadas à conta do usuário. Essas fichas reúnem nível de proximidade, aniversários, preferências pessoais, conversas anteriores e detalhes de relacionamento, podendo crescer continuamente com o tempo. A ferramenta chega a usar informações disponíveis publicamente para identificar onde essas pessoas moram, o que fazem e até se mudaram de endereço recentemente — tudo para, segundo a proposta da Meta, personalizar sugestões, como lembrar o usuário de ligar para um amigo no aniversário dele.

Quem é afetado

O alcance do problema vai além de quem baixou o aplicativo: qualquer pessoa mencionada, marcada ou associada a um usuário do Muse pode ter dados pessoais compilados automaticamente, sem ter dado consentimento e, muitas vezes, sem sequer saber que isso está acontecendo. Até o fechamento desta matéria, a Meta não havia se pronunciado oficialmente sobre as descobertas da Wired. O Muse já havia enfrentado outras polêmicas antes, incluindo bloqueio por parte da Amazon, agendamento de encontros sem autorização do usuário e negativas sobre monitorar mensagens privadas.