Signal блокує агентам телефонного штучного інтелекту читання чатів, називаючи їх «екзистенційною загрозою» конфіденційності

Програма для зашифрованих повідомлень Signal оголосила 20 листопада, що за замовчуванням блокуватиме вбудованим помічникам ШІ в операційних системах телефону читання чатів користувачів. В iOS 27 він блокує скріншоти в програмі та додає перемикач «Блокувати Siri AI»; на Android він автоматично вмикає захист екрана, коли помічник AI намагається прочитати екран. Президент Signal Мередіт Віттакер назвала таку «агентну інтеграцію ШІ» «екзистенційною загрозою» конфіденційності.
Програма для зашифрованих повідомлень Signal оголосила 20 листопада, що за замовчуванням блокуватиме помічникам AI, вбудованим в операційні системи телефону, читання чатів користувачів. Apple, Google і Microsoft вплітають «агентний штучний інтелект» глибоко у свої операційні системи, повідомляє Signal, і ці системи сканують те, що на екрані, і зберігають це, підриваючи гарантії конфіденційності на рівні програми. Президент Signal Мередіт Віттакер назвала інтеграцію «екзистенційною загрозою» конфіденційності.
Скріншоти заблоковані на iOS 27, захист екрану на Android
В iOS 27 Signal запобігає створенню скріншотів у програмі та додає параметр «Блокувати Siri AI». На Android програма автоматично вмикає захист «Безпека екрана», коли виявляє, що помічник AI намагається прочитати екран Signal. За словами Signal, люди можуть вимкнути захист у налаштуваннях, але це може призвести до розкриття їхніх власних повідомлень і повідомлень контактів цим агентам ШІ та порушити гарантії конфіденційності.
Сигнал уже переміщено проти Microsoft Recall
Signal не вперше робить такий крок. Минулого року він використовував блокування скріншотів, щоб зупинити Microsoft Recall AI від захоплення та зберігання скріншотів повідомлень Signal у Windows 11 за замовчуванням. За словами Signal, проблема та сама: агенти штучного інтелекту операційної системи «сканують» інформацію на екрані, захоплюють її та роблять доступною для агентських систем, щоб вони могли відповідати на запитання та виконувати інструкції — і після захоплення дані виходять за межі контролю Signal, зберігаються в будь-якій локальній базі даних або на віддаленому сервері, який використовує агент.
Виправлення неповне, і macOS наразі недоступна
Сигнал підтвердив, що засіб не завершено. Блокування скріншотів не заважає агентам штучного інтелекту отримувати доступ до даних додатків іншими, більш прихованими шляхами, наприклад, читати вміст, який вже є на пристрої, через файлову систему, і компанія заявила, що наразі не може застосувати ці засоби захисту в macOS, оскільки система не надає можливості це зробити. Протягом останніх кількох місяців у Signal заявили, що витратили значний час розробників на судові дослідження Android та iOS, щоб дізнатися, що насправді відбувається, коли ці системи штучного інтелекту отримують доступ до даних програми, оскільки документації дуже бракує.
Заклик до інструментів відмови від трьох великих виробників ОС
Signal звернувся до Apple, Google і Microsoft з проханням надати два «засоби здорового глузду»: простий, добре задокументований спосіб для розробників відмовити своїм програмам від доступу та обробки даних AI, включаючи зчитування екрана, доступ до файлової системи, сповіщення, API та інші фреймворки ОС, не підриваючи основні утиліти програми; а також кращу документацію та технічні специфікації про те, як ці агенти ШІ працюють і обробляють дані. Signal стверджував, що конфіденційне обчислення не є повним рішенням, оскільки воно все ще залишає право визначати ступінь гарантій конфіденційності в руках провайдерів.
Не лише Signal: сторонні агенти ШІ також розширюються
Signal також зазначив зростаючу потребу в інструментах, які б заважали стороннім агентам, таким як Meta's Muse, отримати доступ до даних програми за допомогою глибоких дозволів, які користувачі заохочують надавати під час налаштування — у багатьох випадках із використанням налаштувань доступності, призначених для розширення можливостей людей з обмеженими можливостями. Signal подякував союзникам, включаючи Electronic Frontier Foundation, за просування подібних змін, і сказав, що це «канарка у вугільній шахті»: інтеграція агентів штучного інтелекту в операційну систему без засобів здорового глузду є загрозою для конфіденційності в усій екосистемі додатків.
N環球 
💬 Comments
No comments yet. Be the first!