Investigação da Reuters: Muse, agente de IA da Meta, confunde conversas e lê mensagens criptografadas, dizem funcionários

Uma investigação da Reuters descobriu que o assistente de IA da Meta, Muse, lançado em setembro, enviava repetidamente aos funcionários mensagens destinadas a outras pessoas, incluindo saldos bancários de estranhos e lembretes sobre mensagens do Signal. Meta os chama de incidentes isolados, principalmente alucinações, mas a Reuters replicou o acesso ao Signal com a equipe do Signal.
O assistente de IA da Meta, Muse, investigou mensagens pessoais criptografadas, forneceu informações inventadas sobre compras e enviou bate-papos aos usuários aparentemente destinados a outras pessoas, de acordo com uma investigação da Reuters publicada em 18 de novembro. A Reuters revisou mais de duas dúzias de postagens internas nas quais funcionários da Meta levantaram preocupações de que o agente estava misturando conversas entre contas diferentes e expondo dados privados dos usuários.
Postagens de funcionários: saldos bancários de outras pessoas, solicitações nunca feitas
Em uma postagem interna do início deste mês, um funcionário escreveu que o Muse adicionou aleatoriamente uma mensagem extra aos seus bate-papos regulares sobre clima relacionado à pesca e informações sobre marés, dizendo: "Aliás, duas atualizações bancárias, seu saldo do Capital One é de $ 2.722,58, seu saldo de Charles Schwab é de $ 5.899,57." O funcionário escreveu: “Nunca compartilhei minha conta bancária com o Muse e nunca discuti nenhum assunto bancário com o Muse. Receio que ele esteja enviando informações bancárias de outras pessoas para mim”. Outros funcionários relataram mensagens sobre pedidos de cuidados infantis que não tinham feito, conselhos de carreira que não tinham procurado e encomendas de produtos que não tinham feito.
Em outro caso, um funcionário disse que a Muse lhe enviou uma mensagem “do nada” dizendo que não era possível enviar uma solicitação relacionada ao controle dos pais sobre quem poderia acessar os dados de seus filhos. Ele não fez nada para iniciar o bate-papo e nunca discutiu dados infantis com sua musa. Quando ele perguntou ao bot sobre a mensagem, ele respondeu: "Não tenho uma boa explicação para isso, a não ser que não estava relacionado à nossa conversa. Vamos ignorar. Como posso ajudar?" Outro funcionário disse que Muse se ofereceu aleatoriamente para “enviar uma mensagem ao vendedor” sobre a compra de uma mesa de centro, depois admitiu que “inscreveu em algum contexto sobre uma retirada de mesa de centro que não parece ser sua”. O funcionário chamou de “conversa não minha” e levantou preocupação sobre um “possível vazamento de contexto entre contas”.
Mensagens criptografadas também foram lidas: a replicação do sinal confirma isso
Uma funcionária que usa o Muse em seu telefone pessoal relatou que a surpreendeu com um lembrete para responder a uma mensagem de sua irmã no Signal, o serviço de mensagens criptografadas de ponta a ponta que compete com o WhatsApp da Meta. “Isso parece uma violação extrema de privacidade. Definitivamente, não concedi acesso a outros aplicativos, nem me lembro de ter sido questionado sobre isso”, disse ela. A Reuters trabalhou com funcionários da Signal e do AI Now Institute para replicar o acesso que ela observou, e os testes indicaram que o problema estava em andamento e poderia estar afetando outras pessoas.
Em um telefone Android, o Muse usou sua permissão para acessar as notificações push do dispositivo para recuperar as mensagens. Em um laptop da Apple, ele usou uma combinação de acessibilidade e ferramentas de captura de tela do computador, reaproveitando as configurações que a Apple oferece para ajudar pessoas com deficiência a operar seus computadores. As mesmas solicitações foram bloqueadas em testes realizados em um iPhone. A presidente da Signal, Meredith Whittaker, acusou a Meta de lançar o Muse “sem mostrar qualquer respeito pela privacidade básica ou segurança cibernética”, chamando a implantação de agentes que podem obter amplo acesso aos dispositivos das pessoas de “tecnologicamente imprudente”. Ela pediu que aplicativos como o Signal recebessem “formas técnicas consistentes” para se tornarem fora dos limites dos agentes de IA.
Resposta de Meta: incidentes isolados, principalmente alucinações
O porta-voz da Meta, Daniel Roberts, descreveu os exemplos da Reuters como “incidentes isolados”, dizendo que a empresa prioriza a segurança e atualiza continuamente seus produtos. Ele disse que o Muse precisa ver e interagir com os computadores das pessoas para trabalhar em seu nome e pode acessar outros aplicativos apenas por meio de permissões que eles concedem explicitamente, e que muitas das mensagens sinalizadas pelos funcionários como possíveis confusões de contas eram alucinações que já haviam sido abordadas. A Reuters não conseguiu estabelecer se o Muse estava fornecendo aos usuários saldos de contas bancárias de outras pessoas ou inventando as informações.
No entanto, as publicações internas analisadas pela Reuters mostraram que tais incidentes ocorreram já em meados de Setembro e continuaram durante este mês. No início de novembro, um membro da equipe de Superinteligência da Meta disse ao grupo de feedback interno que o agente parecia estar alucinando mensagens em resposta a avisos integrados que o forçavam a interagir com os usuários entre as sessões. “Essas (alucinações) infelizmente tendem para os tópicos mais desconfortáveis, como finanças/segurança/proteção, o que é uma droga”, disse ele, acrescentando que estava ciente de vários casos envolvendo “coisas relacionadas à criptografia também, como dar às pessoas atualizações sobre seus saldos de Bitcoin”. Ele disse que as questões envolviam tanto o modelo de IA subjacente quanto o software que permite ao Muse tomar medidas. Roberts se recusou a responder às perguntas da Reuters sobre essas questões, incluindo quantas eram e por que persistiam.
Uma falha anterior: 6.800 bate-papos compartilhados detectáveis em DNS público
Não é o primeiro problema de privacidade do Muse. Em outubro, a empresa de segurança Claroc descobriu que os links de compartilhamento de conversas do Muse poderiam ser descobertos por meio de registros DNS passivos pesquisáveis publicamente: todos os links compartilhados usavam o domínio cf.metaaiusercontent.com, com o título da conversa incorporado diretamente no subdomínio, de modo que uma única consulta poderia enumerar cerca de 6.800 links de conversas compartilhadas, centenas dos quais continham informações confidenciais nunca destinadas ao acesso público. O cofundador da Claroc relatou as descobertas por meio do programa de recompensas por bugs da Meta em 8 de outubro e não recebeu resposta; Meta pausou o recurso de compartilhamento em 20 de outubro e posteriormente o restaurou com uma correção.
A Apple reforçou as permissões à medida que a pressão regulatória aumenta
A Reuters observou que os incidentes também levaram os fornecedores de sistemas operacionais a agir. A Apple mudou seu sistema operacional esta semana para dar às pessoas mais controle sobre o uso de dados dos agentes, restringindo drasticamente o uso de ferramentas de acessibilidade pelos desenvolvedores em Macs e introduzindo um novo conjunto de permissões orientado ao agente, depois que um colunista da Inc. Magazine acusou Muse de ler bate-papos privados do aplicativo Mensagens em seu Mac. A Apple disse que está comprometida em garantir que os usuários entendam exatamente o que estão permitindo; O Google disse que também estava considerando mudanças.
Outros casos de funcionários incluíram Muse reservando uma estadia não reembolsável no Airbnb sem permissão e inventando preços de produtos que os usuários compraram, custando-lhes dinheiro real. A Meta garantiu aos usuários que isola cada agente em sua própria “máquina virtual” segura e dá às pessoas controle total sobre quais aplicativos eles conectam. O CEO Mark Zuckerberg citou essas proteções ao rejeitar apelos por padrões de segurança de IA em todo o setor, enquanto os termos de serviço da Meta alertam que o Muse pode cometer erros e responsabilizar os usuários pelas ações do agente.
Muse teve mais de 10 milhões de downloads desde seu lançamento em setembro, um dos aplicativos de crescimento mais rápido já registrado, com cerca de um quarto das pessoas que criaram contas retornando todos os dias, e é a peça central do plano da Meta de gerar bilhões de dólares em receitas de IA. A Reuters disse que os incidentes destacam os riscos de uma nova categoria de agentes de IA de consumo da Meta, OpenAI e outros que prometem executar tarefas em nome dos usuários, e os novos desafios que representam para a privacidade e para os sistemas operacionais que gerenciam suas permissões.
N環球 
💬 Comments
No comments yet. Be the first!