Signal impide que los agentes de inteligencia artificial del teléfono lean los chats, calificándolos de “amenaza existencial” a la privacidad

La aplicación de mensajería cifrada Signal anunció el 20 de noviembre que impedirá que los asistentes de inteligencia artificial integrados en los sistemas operativos de los teléfonos lean los chats de los usuarios de forma predeterminada. En iOS 27, bloquea las capturas de pantalla dentro de la aplicación y agrega una opción para “Bloquear Siri AI”; en Android, activa la seguridad de la pantalla automáticamente cuando un asistente de IA intenta leer la pantalla. La presidenta de Signal, Meredith Whittaker, calificó esa “integración de IA agente” como una “amenaza existencial” a la privacidad.
La aplicación de mensajería cifrada Signal anunció el 20 de noviembre que impedirá que los asistentes de inteligencia artificial integrados en los sistemas operativos de los teléfonos lean los chats de los usuarios de forma predeterminada. Apple, Google y Microsoft están incorporando una “IA agente” en sus sistemas operativos, dijo Signal, y esos sistemas escanean lo que está en la pantalla y lo almacenan, socavando las garantías de privacidad en la capa de aplicación. La presidenta de Signal, Meredith Whittaker, calificó la integración como una “amenaza existencial” a la privacidad.
Capturas de pantalla bloqueadas en iOS 27, seguridad de pantalla en Android
En iOS 27, Signal evita las capturas de pantalla dentro de la aplicación y agrega una configuración "Bloquear Siri AI". En Android, la aplicación activa automáticamente su protección de "Seguridad de pantalla" cuando detecta un asistente de IA que intenta leer la pantalla de Signal. Las personas pueden desactivar las protecciones en la configuración, dijo Signal, pero hacerlo podría exponer sus propios mensajes y los de sus contactos a estos agentes de IA y romper sus garantías de privacidad.
Signal ya se movió contra el retiro de Microsoft
Esta no es la primera vez que Signal da un paso de este tipo. El año pasado utilizó el bloqueo de capturas de pantalla para evitar que Recall AI de Microsoft capture y almacene capturas de pantalla de mensajes de Signal en Windows 11 de forma predeterminada. El problema es el mismo, dijo Signal: los agentes de IA del sistema operativo "escanean" la información en la pantalla, la capturan y la ponen a disposición de los sistemas de agentes para que puedan responder preguntas y seguir instrucciones, y una vez capturados, los datos quedan fuera del control de Signal, almacenados en cualquier base de datos local o servidor remoto que utilice el agente.
La solución está incompleta y macOS está fuera de su alcance por ahora
Signal reconoció que el remedio está incompleto. El bloqueo de capturas de pantalla no impide que los agentes de IA accedan a los datos de la aplicación a través de otras rutas más furtivas, como leer contenido que ya está en un dispositivo a través del sistema de archivos, y la compañía dijo que actualmente no puede implementar estas protecciones en macOS porque el sistema no proporciona forma de hacerlo. En los últimos meses, Signal dijo que dedicó un tiempo considerable a los desarrolladores en investigaciones forenses en Android e iOS para saber qué sucede realmente cuando estos sistemas de inteligencia artificial acceden a los datos de las aplicaciones, porque falta documentación.
Un llamado a herramientas de exclusión voluntaria por parte de los tres grandes fabricantes de sistemas operativos
Signal pidió a Apple, Google y Microsoft que proporcionen dos “remedios de sentido común”: una manera fácil y bien documentada para que los desarrolladores opten por excluir su aplicación del acceso y procesamiento de datos de IA (incluyendo lectura de pantalla, acceso al sistema de archivos, notificaciones, API y otros marcos del sistema operativo) sin socavar la utilidad principal de la aplicación; y mejor documentación y especificaciones técnicas sobre cómo funcionan y manejan los datos estos agentes de IA. La informática confidencial no es una solución completa, argumentó Signal, porque todavía deja en manos de los proveedores el poder de determinar el alcance de las garantías de privacidad.
No solo Signal: los agentes de IA de terceros también se están expandiendo
Signal también señaló una creciente necesidad de herramientas para impedir que agentes de terceros, como Meta's Muse, accedan a los datos de la aplicación utilizando los permisos profundos que los usuarios deben otorgar durante la configuración, en muchos casos aprovechando las configuraciones de accesibilidad destinadas a empoderar a las personas con discapacidades. Signal agradeció a sus aliados, incluida la Electronic Frontier Foundation, por impulsar cambios similares, y dijo que es el “canario en la mina de carbón”: integrar agentes de IA en el sistema operativo sin remedios de sentido común es una amenaza existencial a la privacidad en todo el ecosistema de aplicaciones.
N環球 
💬 Comments
No comments yet. Be the first!