Signal блокирует телефонные ИИ-агенты от чтения чатов, называя их «экзистенциальной угрозой» конфиденциальности

Приложение для обмена зашифрованными сообщениями Signal объявило 20 ноября, что оно по умолчанию блокирует чтение чатов пользователей встроенными ИИ-помощниками в операционных системах телефонов. В iOS 27 он блокирует снимки экрана в приложении и добавляет переключатель «Блокировать Siri AI»; на Android он автоматически включает защиту экрана, когда ИИ-помощник пытается прочитать экран. Президент Signal Мередит Уиттакер назвала такую «интеграцию агентов ИИ» «экзистенциальной угрозой» конфиденциальности.
Приложение для зашифрованных сообщений Signal объявило 20 ноября, что оно по умолчанию блокирует чтение чатов пользователей ИИ-помощниками, встроенными в операционные системы телефонов. По словам Сигнала, Apple, Google и Microsoft внедряют «агентный искусственный интеллект» глубоко в свои операционные системы, и эти системы сканируют то, что отображается на экране, и сохраняют это, подрывая гарантии конфиденциальности на уровне приложений. Президент Signal Мередит Уиттакер назвала интеграцию «экзистенциальной угрозой» конфиденциальности.
Скриншоты заблокированы на iOS 27, безопасность экрана на Android
В iOS 27 Signal предотвращает создание снимков экрана внутри приложения и добавляет настройку «Блокировать Siri AI». На Android приложение автоматически включает защиту «Экран безопасности», когда обнаруживает, что ИИ-помощник пытается прочитать экран Signal. По словам Сигнала, люди могут отключить защиту в настройках, но это может привести к тому, что их собственные сообщения и сообщения их контактов будут доступны этим агентам ИИ и нарушены гарантии конфиденциальности.
Signal уже подал против Microsoft Recall
Это не первый раз, когда Signal идет на такой шаг. В прошлом году компания использовала блокировку снимков экрана, чтобы запретить Microsoft Recall AI по умолчанию захватывать и сохранять снимки экрана сообщений Signal в Windows 11. Проблема та же, говорит Signal: агенты искусственного интеллекта операционной системы «сканируют» информацию на экране, захватывают ее и делают доступной агентским системам, чтобы они могли отвечать на вопросы и выполнять инструкции — и после захвата данные оказываются вне контроля Signal и хранятся в любой локальной базе данных или удаленном сервере, который использует агент.
Исправление неполное, и macOS на данный момент недоступен.
Сигнал признал, что средство правовой защиты является неполным. Блокировка снимков экрана не мешает агентам ИИ получать доступ к данным приложения другими, более скрытными способами, например, чтение контента, уже находящегося на устройстве, через файловую систему. Компания заявила, что в настоящее время не может реализовать эту защиту в macOS, поскольку система не предоставляет возможности сделать это. За последние несколько месяцев Signal заявила, что потратила значительное время разработчиков на судебно-медицинские исследования Android и iOS, чтобы узнать, что на самом деле происходит, когда эти системы искусственного интеллекта получают доступ к данным приложений, поскольку документации катастрофически не хватает.
Призыв к инструментам отказа от трех крупнейших производителей ОС
Signal призвал Apple, Google и Microsoft предоставить два «здравых средства»: простой, хорошо документированный способ для разработчиков отказаться от доступа и обработки данных своего приложения — включая чтение экрана, доступ к файловой системе, уведомлениям, API и другим платформам ОС — без ущерба для основной утилиты приложения; а также улучшенную документацию и технические спецификации того, как эти агенты ИИ работают и обрабатывают данные. Конфиденциальные вычисления не являются полным решением, утверждает Signal, поскольку они по-прежнему оставляют право определять степень гарантий конфиденциальности в руках провайдеров.
Не только Signal: сторонние ИИ-агенты тоже расширяются
Signal также отметил растущую потребность в инструментах, предотвращающих доступ сторонних агентов, таких как Meta’s Muse, к данным приложения с использованием глубоких разрешений, которые пользователям рекомендуется предоставлять во время установки — во многих случаях с использованием настроек доступности, предназначенных для расширения возможностей людей с ограниченными возможностями. Signal поблагодарил союзников, в том числе Electronic Frontier Foundation, за продвижение подобных изменений, и заявил, что это «канарейка в угольной шахте»: интеграция агентов ИИ в операционную систему без средств здравого смысла представляет собой экзистенциальную угрозу конфиденциальности во всей экосистеме приложений.
N環球 
💬 Comments
No comments yet. Be the first!