路透调查:Meta AI 助手 Muse 串号泄私隐 员工称它读到了加密讯息

路透社调查发现,Meta 九月推出的 AI 助手 Muse 多次向员工推送与其无关的讯息,包括他人的银行结余与加密通讯软件 Signal 的讯息提醒;Meta 称属孤立事件、多为 AI 幻觉,但路透联同 Signal 员工复测证实问题仍可重现。
路透社 11 月 18 日发表调查报道,指 Meta 今年九月推出的 AI 助手 Muse 多次向用户推送与其无关的讯息,包括他人的银行结余、没发过的托儿请求与求职建议,甚至提醒用户回复加密通讯软件 Signal 上的讯息。路透审阅了二十多则 Meta 员工在内部反馈群组的帖文,员工担心 Muse 在不同帐户之间串号、泄露用户私隐。
员工帖文:别人的银行结余、没发过的托儿请求
在一则本月初的内部帖文中,一名员工写道,Muse 在例行的钓鱼天气对话中突然加了一句:「顺便说一下,两笔银行更新,你的 Capital One 结余是 2,722.58 美元,Charles Schwab 结余是 5,899.57 美元。」该员工写道:「我从未向 Muse 分享过银行帐户,也从未与它讨论过银行话题。我担心它把别人的银行资料发给了我。」另有员工收到与自己无关的托儿请求、求职建议与网购订单提醒。
还有一名员工说,Muse 毫无征兆地发来讯息,称无法提交一项关于家长控制子女资料存取权限的请求,而他从未触发过这段对话、也从未与 Muse 谈过子女资料。当他追问时,Muse 回答:「除了与我们的对话无关,我没有很好的解释。我们忽略它吧。我能帮什么忙?」另一名员工则收到 Muse 主动提出「帮你联络卖家」取回一张咖啡桌,Muse 其后承认「拉入了一些看来不属于你的咖啡桌取货背景资料」。该员工在帖文中写道:「这不是我的对话」,担心出现「跨帐户背景泄漏」。
加密讯息也被读到:Signal 复测证实
一名女员工在个人手机上使用 Muse 时,收到提醒要回复姐姐在 Signal 上发来的讯息。Signal 是以端到端加密著称的通讯软件,与 Meta 旗下的 WhatsApp 存在竞争。她写道:「这似乎是极端的私隐侵犯。我肯定没有授权它存取其他应用,也不记得曾被问过。」路透把这则帖文交给 Signal 员工与非牟利机构 AI Now Institute 复测,结果显示问题仍然存在、可能影响其他用户。
测试发现,在安卓手机上,Muse 利用用户在初始设定时授予的推送通知权限读取讯息;在苹果 Mac 电脑上,则利用无障碍功能与截图工具的组合,绕过 Meta 的「连接器」工具直接取用讯息内容;同一请求在 iPhone 上被挡下。Signal 总裁梅雷迪思·惠特克批评 Meta 推出 Muse 时「对基本私隐与网络安全毫无尊重」,称这种可广泛存取用户装置的助手「在技术上是鲁莽的」,并呼吁让 Signal 等应用能以技术方式标明「禁止 AI 助手进入」,由 Meta 等公司与操作系统供应商共同执行。
Meta 回应:孤立事件、多为幻觉
Meta 发言人丹尼尔·罗伯茨回应路透时称,相关例子属「孤立事件」,公司把安全放在首位,并持续更新产品。他表示,Muse 要代用户办事,必须看到并与用户的电脑互动,只能透过用户明确授予的权限存取其他应用;许多被员工指为串号的讯息其实是 AI 幻觉、已经修复。路透表示,无法证实 Muse 显示的银行结余到底是他人的真实资料,还是模型捏造的内容。
不过,路透审阅的内部帖文显示,这类事件早在九月中旬已经出现,并持续至本月。Meta 超级智能团队一名成员 11 月初在内部反馈群组表示,Muse 似乎会对内置的互动提示产生幻觉式回复,而这类幻觉「不幸地偏向最令人不安的话题,例如财务、安全」,他还知道有几宗涉及加密货币、向用户汇报比特币结余的个案。该成员说,问题同时涉及底层模型与让 Muse 采取行动的软件,团队正在处理。罗伯茨拒绝回答路透关于问题数量与持续原因的提问。
早有前科:6800 段分享对话可被公开检索
这并非 Muse 首次出现私隐问题。今年 10 月,安全公司 Claroc 发现,Muse 的对话分享连结因网址设计缺陷,可透过被动 DNS 数据库公开检索:所有分享连结共用 cf.metaaiusercontent.com 域名,对话标题直接写在子域名中,一次查询就可枚举约 6800 条分享连结,其中数百条含有明显不应公开的敏感内容。Claroc 共同创办人 10 月 8 日已透过 Meta 的漏洞奖励计划通报,但未获回复;Meta 在 10 月 20 日暂停分享功能,其后修复并恢复。
苹果已收紧权限 监管压力升温
路透指出,事件也促使操作系统供应商出手。苹果本周更新 macOS,大幅限制开发者使用无障碍工具,并引入一套专为 AI 助手设计的权限——此前《Inc.》杂志一名专栏作家指控 Muse 读取了他 Mac 电脑 Messages 应用里的私人对话。苹果表示,致力确保用户清楚了解自己授权了什么,以便就数据作出知情选择;谷歌亦表示正考虑作出改变。
另有员工个案显示,Muse 在未获许可下预订了不可退款的 Airbnb 住宿,并捏造用户确实买过的商品价格,令用户蒙受实际金钱损失。Meta 一再向用户保证,每个 Muse 助手都在独立的云端「虚拟机」内运行,用户可完全控制连接哪些应用;行政总裁朱克伯格亦曾以这些保障为由,驳回业界制定统一 AI 安全标准的呼吁。不过,Muse 的使用条款同时提醒用户它可能出错,并把责任归于用户。
Muse 自九月上线以来下载量已超过 1000 万,是有纪录以来增长最快的应用之一,约四分之一开设帐户的用户每日回访,Meta 寄望它成为 AI 收入的核心。路透指出,随着 Meta、OpenAI 等公司竞相推出可代用户办事的 AI 助手,这类需要深度取用装置权限的产品,正成为私隐与监管的新战场。
N環球 
💬 留言
暂时还没有留言,来抢沙发!