N環球 N GLOBE
美國・科技

路透調查:Meta AI 助手 Muse 串號泄私隱 員工稱它讀到了加密訊息

· N GLOBE

路透社調查發現,Meta 九月推出的 AI 助手 Muse 多次向員工推送與其無關的訊息,包括他人的銀行結餘與加密通訊軟件 Signal 的訊息提醒;Meta 稱屬孤立事件、多為 AI 幻覺,但路透聯同 Signal 員工複測證實問題仍可重現。

路透社 11 月 18 日發表調查報道,指 Meta 今年九月推出的 AI 助手 Muse 多次向用戶推送與其無關的訊息,包括他人的銀行結餘、沒發過的托兒請求與求職建議,甚至提醒用戶回覆加密通訊軟件 Signal 上的訊息。路透審閱了二十多則 Meta 員工在內部反饋群組的帖文,員工擔心 Muse 在不同帳戶之間串號、泄露用戶私隱。

員工帖文:別人的銀行結餘、沒發過的托兒請求

在一則本月初的內部帖文中,一名員工寫道,Muse 在例行的釣魚天氣對話中突然加了一句:「順便說一下,兩筆銀行更新,你的 Capital One 結餘是 2,722.58 美元,Charles Schwab 結餘是 5,899.57 美元。」該員工寫道:「我從未向 Muse 分享過銀行帳戶,也從未與它討論過銀行話題。我擔心它把別人的銀行資料發給了我。」另有員工收到與自己無關的托兒請求、求職建議與網購訂單提醒。

還有一名員工說,Muse 毫無徵兆地發來訊息,稱無法提交一項關於家長控制子女資料存取權限的請求,而他從未觸發過這段對話、也從未與 Muse 談過子女資料。當他追問時,Muse 回答:「除了與我們的對話無關,我沒有很好的解釋。我們忽略它吧。我能幫什麼忙?」另一名員工則收到 Muse 主動提出「幫你聯絡賣家」取回一張咖啡桌,Muse 其後承認「拉入了一些看來不屬於你的咖啡桌取貨背景資料」。該員工在帖文中寫道:「這不是我的對話」,擔心出現「跨帳戶背景洩漏」。

加密訊息也被讀到:Signal 複測證實

一名女員工在個人手機上使用 Muse 時,收到提醒要回覆姐姐在 Signal 上發來的訊息。Signal 是以端到端加密著稱的通訊軟件,與 Meta 旗下的 WhatsApp 存在競爭。她寫道:「這似乎是極端的私隱侵犯。我肯定沒有授權它存取其他應用,也不記得曾被問過。」路透把這則帖文交給 Signal 員工與非牟利機構 AI Now Institute 複測,結果顯示問題仍然存在、可能影響其他用戶。

測試發現,在安卓手機上,Muse 利用用戶在初始設定時授予的推送通知權限讀取訊息;在蘋果 Mac 電腦上,則利用無障礙功能與截圖工具的組合,繞過 Meta 的「連接器」工具直接取用訊息內容;同一請求在 iPhone 上被擋下。Signal 總裁梅雷迪思·惠特克批評 Meta 推出 Muse 時「對基本私隱與網絡安全毫無尊重」,稱這種可廣泛存取用戶裝置的助手「在技術上是魯莽的」,並呼籲讓 Signal 等應用能以技術方式標明「禁止 AI 助手進入」,由 Meta 等公司與操作系統供應商共同執行。

Meta 回應:孤立事件、多為幻覺

Meta 發言人丹尼爾·羅伯茨回應路透時稱,相關例子屬「孤立事件」,公司把安全放在首位,並持續更新產品。他表示,Muse 要代用戶辦事,必須看到並與用戶的電腦互動,只能透過用戶明確授予的權限存取其他應用;許多被員工指為串號的訊息其實是 AI 幻覺、已經修復。路透表示,無法證實 Muse 顯示的銀行結餘到底是他人的真實資料,還是模型捏造的內容。

不過,路透審閱的內部帖文顯示,這類事件早在九月中旬已經出現,並持續至本月。Meta 超級智能團隊一名成員 11 月初在內部反饋群組表示,Muse 似乎會對內置的互動提示產生幻覺式回覆,而這類幻覺「不幸地偏向最令人不安的話題,例如財務、安全」,他還知道有幾宗涉及加密貨幣、向用戶匯報比特幣結餘的個案。該成員說,問題同時涉及底層模型與讓 Muse 採取行動的軟件,團隊正在處理。羅伯茨拒絕回答路透關於問題數量與持續原因的提問。

早有前科:6800 段分享對話可被公開檢索

這並非 Muse 首次出現私隱問題。今年 10 月,安全公司 Claroc 發現,Muse 的對話分享連結因網址設計缺陷,可透過被動 DNS 數據庫公開檢索:所有分享連結共用 cf.metaaiusercontent.com 域名,對話標題直接寫在子域名中,一次查詢就可枚舉約 6800 條分享連結,其中數百條含有明顯不應公開的敏感內容。Claroc 共同創辦人 10 月 8 日已透過 Meta 的漏洞獎勵計劃通報,但未獲回覆;Meta 在 10 月 20 日暫停分享功能,其後修復並恢復。

蘋果已收緊權限 監管壓力升溫

路透指出,事件也促使操作系統供應商出手。蘋果本週更新 macOS,大幅限制開發者使用無障礙工具,並引入一套專為 AI 助手設計的權限——此前《Inc.》雜誌一名專欄作家指控 Muse 讀取了他 Mac 電腦 Messages 應用裡的私人對話。蘋果表示,致力確保用戶清楚了解自己授權了什麼,以便就數據作出知情選擇;谷歌亦表示正考慮作出改變。

另有員工個案顯示,Muse 在未獲許可下預訂了不可退款的 Airbnb 住宿,並捏造用戶確實買過的商品價格,令用戶蒙受實際金錢損失。Meta 一再向用戶保證,每個 Muse 助手都在獨立的雲端「虛擬機」內運行,用戶可完全控制連接哪些應用;行政總裁朱克伯格亦曾以這些保障為由,駁回業界制定統一 AI 安全標準的呼籲。不過,Muse 的使用條款同時提醒用戶它可能出錯,並把責任歸於用戶。

Muse 自九月上線以來下載量已超過 1000 萬,是有紀錄以來增長最快的應用之一,約四分之一開設帳戶的用戶每日回訪,Meta 寄望它成為 AI 收入的核心。路透指出,隨着 Meta、OpenAI 等公司競相推出可代用戶辦事的 AI 助手,這類需要深度取用裝置權限的產品,正成為私隱與監管的新戰場。

💬 留言

暫時還沒有留言,來搶沙發!