N環球 N GLOBE
Tecnologia dos EUA

Signal impede que agentes de IA telefônicos leiam bate-papos, chamando-os de “ameaça existencial” à privacidade

· N GLOBE

O aplicativo de mensagens criptografadas Signal anunciou em 20 de novembro que bloqueará assistentes de IA integrados em sistemas operacionais de telefone de lerem os bate-papos dos usuários por padrão. No iOS 27, ele bloqueia capturas de tela no aplicativo e adiciona um botão de alternância “Bloquear Siri AI”; no Android, ele ativa a segurança da tela automaticamente quando um assistente de IA tenta ler a tela. A presidente da Signal, Meredith Whittaker, chamou essa “integração de IA agente” de uma “ameaça existencial” à privacidade.

O aplicativo de mensagens criptografadas Signal anunciou em 20 de novembro que bloqueará os assistentes de IA integrados aos sistemas operacionais do telefone de lerem os bate-papos dos usuários por padrão. Apple, Google e Microsoft estão incorporando a “IA agente” profundamente em seus sistemas operacionais, disse Signal, e esses sistemas escaneiam o que está na tela e o armazenam – minando as garantias de privacidade na camada do aplicativo. A presidente da Signal, Meredith Whittaker, chamou a integração de uma “ameaça existencial” à privacidade.

Capturas de tela bloqueadas no iOS 27, segurança de tela no Android

No iOS 27, o Signal está impedindo capturas de tela dentro do aplicativo e adicionando uma configuração “Bloquear Siri AI”. No Android, o aplicativo ativa automaticamente a proteção de “segurança da tela” quando detecta um assistente de IA tentando ler a tela do Signal. As pessoas podem desativar as proteções nas configurações, disse Signal, mas isso poderia expor suas próprias mensagens e as de seus contatos a esses agentes de IA e quebrar suas garantias de privacidade.

Signal já moveu-se contra o Microsoft Recall

Esta não é a primeira vez que a Signal dá esse passo. No ano passado, ele usou o bloqueio de captura de tela para impedir que o Recall AI da Microsoft capturasse e armazenasse capturas de tela de mensagens do Signal no Windows 11 por padrão. O problema é o mesmo, disse Signal: os agentes de IA do sistema operacional “escaneiam” as informações na tela, capturam-nas e disponibilizam-nas aos sistemas agentes para que possam responder a perguntas e executar instruções – e uma vez capturados, os dados ficam fora do controle do Signal, armazenados em qualquer banco de dados local ou servidor remoto que o agente usa.

A correção está incompleta e o macOS está fora de alcance por enquanto

Signal reconheceu que a solução está incompleta. O bloqueio de capturas de tela não impede que os agentes de IA acessem os dados do aplicativo por meio de outras rotas mais sorrateiras, como a leitura de conteúdo que já está em um dispositivo por meio do sistema de arquivos – e a empresa disse que atualmente não pode implementar essas proteções no macOS porque o sistema não oferece nenhuma maneira de fazer isso. Nos últimos meses, a Signal disse que gastou um tempo considerável de desenvolvedor em investigações forenses no Android e iOS para saber o que realmente acontece quando esses sistemas de IA acessam dados de aplicativos, porque falta documentação.

Um pedido de ferramentas de exclusão dos três grandes fabricantes de sistemas operacionais

Signal pediu à Apple, Google e Microsoft que fornecessem duas “remédios de bom senso”: uma maneira fácil e bem documentada para os desenvolvedores optarem por excluir seu aplicativo do acesso e processamento de dados de IA – incluindo leitura de tela, acesso ao sistema de arquivos, notificações, APIs e outras estruturas de sistema operacional – sem prejudicar a utilidade principal do aplicativo; e melhor documentação e especificações técnicas sobre como esses agentes de IA trabalham e lidam com dados. A computação confidencial não é uma solução completa, argumentou Signal, porque ainda deixa o poder de determinar a extensão das garantias de privacidade nas mãos dos fornecedores.

Não apenas Signal: agentes terceirizados de IA também estão se expandindo

Signal também sinalizou uma necessidade crescente de ferramentas para impedir que agentes terceirizados, como o Meta's Muse, acessem dados de aplicativos usando as permissões profundas que os usuários são incentivados a conceder durante a configuração - em muitos casos, aproveitando configurações de acessibilidade destinadas a capacitar pessoas com deficiência. A Signal agradeceu aos aliados, incluindo a Electronic Frontier Foundation, por promoverem mudanças semelhantes e disse que é o “canário na mina de carvão”: integrar agentes de IA no sistema operacional sem soluções de bom senso é uma ameaça existencial à privacidade em todo o ecossistema de aplicativos.

💬 Comments

No comments yet. Be the first!