N環球 N GLOBE
Американские технологии

Signal блокирует телефонные ИИ-агенты от чтения чатов, называя их «экзистенциальной угрозой» конфиденциальности

· N GLOBE

Приложение для обмена зашифрованными сообщениями Signal объявило 20 ноября, что оно по умолчанию блокирует чтение чатов пользователей встроенными ИИ-помощниками в операционных системах телефонов. В iOS 27 он блокирует снимки экрана в приложении и добавляет переключатель «Блокировать Siri AI»; на Android он автоматически включает защиту экрана, когда ИИ-помощник пытается прочитать экран. Президент Signal Мередит Уиттакер назвала такую ​​«интеграцию агентов ИИ» «экзистенциальной угрозой» конфиденциальности.

Приложение для зашифрованных сообщений Signal объявило 20 ноября, что оно по умолчанию блокирует чтение чатов пользователей ИИ-помощниками, встроенными в операционные системы телефонов. По словам Сигнала, Apple, Google и Microsoft внедряют «агентный искусственный интеллект» глубоко в свои операционные системы, и эти системы сканируют то, что отображается на экране, и сохраняют это, подрывая гарантии конфиденциальности на уровне приложений. Президент Signal Мередит Уиттакер назвала интеграцию «экзистенциальной угрозой» конфиденциальности.

Скриншоты заблокированы на iOS 27, безопасность экрана на Android

В iOS 27 Signal предотвращает создание снимков экрана внутри приложения и добавляет настройку «Блокировать Siri AI». На Android приложение автоматически включает защиту «Экран безопасности», когда обнаруживает, что ИИ-помощник пытается прочитать экран Signal. По словам Сигнала, люди могут отключить защиту в настройках, но это может привести к тому, что их собственные сообщения и сообщения их контактов будут доступны этим агентам ИИ и нарушены гарантии конфиденциальности.

Signal уже подал против Microsoft Recall

Это не первый раз, когда Signal идет на такой шаг. В прошлом году компания использовала блокировку снимков экрана, чтобы запретить Microsoft Recall AI по умолчанию захватывать и сохранять снимки экрана сообщений Signal в Windows 11. Проблема та же, говорит Signal: агенты искусственного интеллекта операционной системы «сканируют» информацию на экране, захватывают ее и делают доступной агентским системам, чтобы они могли отвечать на вопросы и выполнять инструкции — и после захвата данные оказываются вне контроля Signal и хранятся в любой локальной базе данных или удаленном сервере, который использует агент.

Исправление неполное, и macOS на данный момент недоступен.

Сигнал признал, что средство правовой защиты является неполным. Блокировка снимков экрана не мешает агентам ИИ получать доступ к данным приложения другими, более скрытными способами, например, чтение контента, уже находящегося на устройстве, через файловую систему. Компания заявила, что в настоящее время не может реализовать эту защиту в macOS, поскольку система не предоставляет возможности сделать это. За последние несколько месяцев Signal заявила, что потратила значительное время разработчиков на судебно-медицинские исследования Android и iOS, чтобы узнать, что на самом деле происходит, когда эти системы искусственного интеллекта получают доступ к данным приложений, поскольку документации катастрофически не хватает.

Призыв к инструментам отказа от трех крупнейших производителей ОС

Signal призвал Apple, Google и Microsoft предоставить два «здравых средства»: простой, хорошо документированный способ для разработчиков отказаться от доступа и обработки данных своего приложения — включая чтение экрана, доступ к файловой системе, уведомлениям, API и другим платформам ОС — без ущерба для основной утилиты приложения; а также улучшенную документацию и технические спецификации того, как эти агенты ИИ работают и обрабатывают данные. Конфиденциальные вычисления не являются полным решением, утверждает Signal, поскольку они по-прежнему оставляют право определять степень гарантий конфиденциальности в руках провайдеров.

Не только Signal: сторонние ИИ-агенты тоже расширяются

Signal также отметил растущую потребность в инструментах, предотвращающих доступ сторонних агентов, таких как Meta’s Muse, к данным приложения с использованием глубоких разрешений, которые пользователям рекомендуется предоставлять во время установки — во многих случаях с использованием настроек доступности, предназначенных для расширения возможностей людей с ограниченными возможностями. Signal поблагодарил союзников, в том числе Electronic Frontier Foundation, за продвижение подобных изменений, и заявил, что это «канарейка в угольной шахте»: интеграция агентов ИИ в операционную систему без средств здравого смысла представляет собой экзистенциальную угрозу конфиденциальности во всей экосистеме приложений.

💬 Comments

No comments yet. Be the first!