Розслідування Reuters: співробітники кажуть, що AI-агент Meta Muse змішує розмови та читає зашифровані повідомлення

Розслідування Reuters виявило, що помічник Meta зі штучним інтелектом Muse, запущений у вересні, неодноразово надсилав співробітникам повідомлення, призначені для інших людей, включаючи банківські баланси незнайомців і нагадування про повідомлення Signal. Мета називає їх поодинокими випадками, переважно галюцинаціями, але Reuters скопіював доступ до Signal за допомогою співробітників Signal.
Згідно з дослідженням Reuters, опублікованим 18 листопада, помічник Meta зі штучним інтелектом, Muse, копався в зашифрованих особистих повідомленнях, надавав вигадану інформацію про покупки та надсилав користувачам чати, начебто призначені для інших людей. Reuters переглянув понад два десятки внутрішніх публікацій, у яких співробітники Meta висловлювали стурбованість тим, що агент змішував розмови між різними обліковими записами та відкривав особисті дані користувачів.
Посади персоналу: баланси інших людей у банках, запити не надходили
В одному внутрішньому дописі, опублікованому на початку цього місяця, один із співробітників написав, що Muse випадковим чином додала до своїх звичайних чатів додаткове повідомлення про погоду та інформацію про припливи, пов’язану з рибальством, таке: «До речі, два оновлення банку, ваш баланс Capital One становить 2722,58 доларів США, баланс Charles Schwab — 5899,57 доларів США». Співробітник написав: «Я ніколи не ділився з Muse своїм банківським рахунком і ніколи не обговорював з Muse жодних банківських тем. Я боюся, що він надсилає мені інформацію про інший банк». Інші співробітники повідомили про повідомлення про запити на догляд за дітьми, які вони не надсилали, поради щодо кар’єри, яких вони не шукали, і замовлення продуктів, які вони не розміщували.
В іншому випадку співробітник сказав, що Muse надіслала йому повідомлення «нізвідки», в якому говорилося, що вона не може надіслати запит, пов’язаний з контролем батьків над тим, хто може отримати доступ до даних їхньої дитини. Він не зробив нічого, щоб запустити чат, і ніколи не обговорював дані дітей зі своєю Музою. Коли він запитав бота про повідомлення, той відповів: «У мене немає хорошого пояснення, крім того, що воно не було пов’язано з нашою розмовою. Давайте ігнорувати це. Чим я можу допомогти?» Інший співробітник сказав, що Muse випадково запропонувала «повідомити продавцеві» про те, щоб забрати журнальний столик, а потім визнала, що «витягнула певний контекст про прийом журнального столика, який, здається, не був вашим». Співробітник назвав це «не моєю розмовою» і висловив стурбованість «можливим витоком контексту між обліковими записами».
Зашифровані повідомлення також були прочитані: реплікація сигналу підтверджує це
Одна співробітниця, яка використовує Muse на своєму особистому телефоні, повідомила, що вона здивувала її нагадуванням відповісти на повідомлення від її сестри в Signal, службі обміну повідомленнями з наскрізним шифруванням, яка конкурує з WhatsApp від Meta. «Здається, це серйозне порушення конфіденційності. Я точно не надала йому доступ до інших програм і не пам’ятаю, щоб мене про це запитували», — сказала вона. Reuters працювала зі співробітниками Signal та AI Now Institute, щоб відтворити доступ, який вона спостерігала, і тести показали, що проблема існує й може вплинути на інших.
На телефоні Android Muse використовувала свій дозвіл на доступ до push-повідомлень пристрою, щоб отримати повідомлення. На ноутбуці Apple він використовував комбінацію засобів доступності комп’ютера та інструментів для створення скріншотів, перепропонувавши налаштування, запропоновані Apple, щоб допомогти людям з обмеженими можливостями керувати своїми комп’ютерами. Ці ж запити були заблоковані в тестах, проведених на iPhone. Президент Signal Мередіт Віттакер звинуватила Meta у запуску Muse «без поваги до елементарної конфіденційності чи кібербезпеки», назвавши розгортання агентів, які можуть отримати широкий доступ до пристроїв людей, «технологічно безрозсудним». Вона закликала надати таким програмам, як Signal, «узгоджені технічні способи», щоб позначити себе як заборонені для агентів ШІ.
Відповідь Мети: поодинокі випадки, переважно галюцинації
Речник Meta Деніел Робертс описав приклади Reuters як «окремі випадки», заявивши, що компанія надає пріоритет безпеці та постійно оновлює свої продукти. Він сказав, що Muse потрібно бачити та взаємодіяти з комп’ютерами людей, щоб працювати від їх імені, і може отримати доступ до інших програм лише через дозволи, які вони явно надають, і що багато повідомлень, позначених працівниками як потенційна плутанина в облікових записах, були галюцинаціями, які вже були розглянуті. Reuters не змогло встановити, чи Muse повідомляла користувачам про баланси на банківських рахунках інших людей, чи вигадувала інформацію.
Однак внутрішні публікації, перевірені Reuters, показали, що такі інциденти відбувалися ще в середині вересня і тривали протягом цього місяця. На початку листопада член команди Superintelligence Meta повідомив групі внутрішнього зворотного зв’язку, що агент, схоже, галюцинує повідомлення у відповідь на вбудовані підказки, які змушують його взаємодіяти з користувачами між сеансами. «Ці (галюцинації), на жаль, схиляються до найбільш незручних тем, таких як фінанси/безпека/безпека, що погано», — сказав він, додавши, що він знав про кілька випадків, пов’язаних із «речами, пов’язаними з криптовалютою, як-от надання людям оновленої інформації про їхній баланс у біткойнах». Він сказав, що проблеми стосуються як основної моделі штучного інтелекту, так і програмного забезпечення, яке дозволяє Muse виконувати дії. Робертс відмовився відповідати на запитання Reuters про ці проблеми, зокрема про те, скільки їх і чому вони зберігаються.
Попередній недолік: 6800 спільних чатів, які можна виявити в публічному DNS
Це не перша проблема конфіденційності Muse. У жовтні охоронна фірма Claroc виявила, що посилання Muse для обміну бесідами можна виявити через публічно доступні для пошуку пасивні записи DNS: усі спільні посилання використовували домен cf.metaaiusercontent.com із заголовком бесіди, вбудованим безпосередньо в субдомен, тому один запит міг перерахувати близько 6800 спільних посилань на бесіди, сотні з яких містили конфіденційну інформацію, ніколи не призначену для загального доступу. Співзасновник Claroc повідомив про результати через програму винагороди за помилки Meta 8 жовтня та не отримав відповіді; Meta призупинила функцію спільного доступу 20 жовтня, а пізніше відновила її за допомогою виправлення.
Apple посилила дозволи через зростання нормативного тиску
Reuters зазначив, що інциденти також змусили постачальників операційних систем діяти. Цього тижня Apple змінила свою операційну систему, щоб дати людям більше контролю над використанням даних агентами, різко обмеживши розробниками використання інструментів доступності на комп’ютерах Mac і запровадивши новий орієнтований на агента набір дозволів після того, як оглядач журналу Inc. Magazine звинуватив Muse у читанні приватних чатів із програми Messages на його Mac. Apple заявила, що прагне забезпечити, щоб користувачі розуміли, що саме вони дозволяють; Google заявив, що також розглядає зміни.
Інші випадки співробітників включали, що Muse бронювала проживання в Airbnb, що не підлягає відшкодуванню, без дозволу та нарощувала ціни на продукти, які купували користувачі, коштуючи їм реальних грошей. Meta запевнила користувачів, що ізолює кожного агента у власній захищеній «віртуальній машині» та дає людям повний контроль над тим, до яких програм вони підключаються. Генеральний директор Марк Цукерберг посилався на ці засоби захисту, відхиляючи заклики до загальногалузевих стандартів безпеки штучного інтелекту, тоді як умови використання Meta попереджають, що Muse може робити помилки та притягувати користувачів до відповідальності за дії агента.
Muse було завантажено понад 10 мільйонів з моменту її запуску у вересні, це одна з найшвидше зростаючих програм за всю історію, приблизно чверть людей, які створили облікові записи, повертаються щодня, і це центральна частина плану Meta щодо отримання мільярдів доларів доходу від ШІ. За словами Reuters, ці інциденти підкреслюють ризики нової категорії споживчих агентів штучного інтелекту від Meta, OpenAI та інших, які обіцяють виконувати завдання від імені користувачів, і нові проблеми, які вони створюють для конфіденційності та операційних систем, які керують їхніми дозволами.
N環球 
💬 Comments
No comments yet. Be the first!