ロイター調査:メタ社のAIエージェント「ミューズ」が会話を混同し、暗号化されたメッセージを読み取ったとスタッフが発表

ロイターの調査によると、9月に導入されたメタ社のAIアシスタント「ミューズ」が、見知らぬ人の銀行残高やシグナルメッセージに関するリマインダーなど、他人に向けたメッセージを従業員に繰り返し送信していたことが判明した。メタ社はこれらを孤立した事件、ほとんどが幻覚だと呼んでいるが、ロイターはシグナルのスタッフによるシグナルへのアクセスを再現した。
11月18日に発表されたロイターの調査によると、メタ社のAIアシスタントであるミューズは、暗号化された個人メッセージに侵入し、購入に関するでっちあげの情報を提供し、他の人向けと思われるチャットをユーザーに送信していたという。ロイターは、メタ社の従業員がエージェントが異なるアカウント間の会話を混同し、ユーザーの個人データを暴露しているとの懸念を表明した社内投稿20件以上を調査した。
スタッフの投稿: 他人の銀行残高、決して行われたことのないリクエスト
今月初めのある社内投稿で、ある従業員は、ミューズが釣り関連の天気や潮汐情報に関する定期チャットに「ところで、銀行の最新情報が 2 件あります。キャピタル ワンの残高は 2722.58 ドル、チャールズ シュワブの残高は 5899.57 ドルです。」という追加メッセージをランダムに追加したと書いています。この従業員は、「私は自分の銀行口座をミューズと共有したことはなく、銀行に関するいかなる話題についてもミューズと話し合ったことがありません。他人の銀行情報が私に送信されているのではないかと心配です。」と書いています。他の従業員は、自分が行っていない育児リクエスト、求めていないキャリアアドバイス、自分が発注していない製品の注文に関するメッセージを報告しました。
別のケースでは、従業員はミューズが「どこからともなく」彼に、子供のデータに誰がアクセスできるかについての親の制御に関連するリクエストを提出できないというメッセージを送ったと述べた。彼はチャットを開始するようなことは何もしておらず、子供のデータについてミューズと話し合ったこともありませんでした。彼がメッセージについてボットに尋ねると、ボットは「私たちの会話に関係がないということ以外に、適切な説明がありません。無視しましょう。どうすればいいでしょうか?」と答えた。別のスタッフは、ミューズがコーヒーテーブルを引き取ったことについて「販売者にメッセージを送りたい」と無作為に提案し、その後「あなたのものではないと思われるコーヒーテーブルの引き取りについて何らかの文脈で引っ張ってきた」ことを認めたと語った。この従業員は、これは「私の会話ではない」と呼び、「アカウント間のコンテキスト漏洩の可能性」について懸念を表明した。
暗号化されたメッセージも読み取られました: 信号のレプリケーションでそれが確認されました
私用電話で Muse を使用しているある従業員は、Meta の WhatsApp と競合するエンドツーエンドの暗号化メッセージング サービスである Signal で妹からのメッセージに返信するようリマインダーを表示されて驚いたと報告しました。 「これは極度のプライバシー侵害のようです。私は絶対に他のアプリへのアクセスを許可していませんし、このことについて尋ねられたことも覚えていません」と彼女は語った。ロイターは、Signal および AI Now Institute のスタッフと協力して、彼女が観察したアクセスを再現しました。テストの結果、問題が進行中であり、他の人に影響を与えている可能性があることが示されました。
Android スマートフォンでは、Muse はその権限を使用してデバイスのプッシュ通知にアクセスし、メッセージを取得しました。 Apple のラップトップでは、コンピュータのアクセシビリティ ツールとスクリーンショット ツールを組み合わせて使用し、障害を持つ人々がコンピュータを操作できるように Apple が提供する設定を再利用しました。 iPhone で実施されたテストでは、同じリクエストがブロックされました。 Signal社のメレディス・ウィテカー社長は、メタ社が「基本的なプライバシーやサイバーセキュリティを全く尊重せず」Museを立ち上げたことを非難し、人々のデバイスに広範囲にアクセスできるエージェントの配備は「技術的に無謀」だと述べた。彼女は、Signalのようなアプリに、AIエージェントの立ち入りを禁止するための「一貫した技術的方法」を与えるよう求めた。
メタの反応: 個別の事件、ほとんどが幻覚
メタの広報担当ダニエル・ロバーツ氏は、ロイターの事例を「孤立した事件」と表現し、同社は安全を優先し、製品を継続的に更新していると述べた。同氏は、ミューズがユーザーに代わって機能するためにはユーザーのコンピュータを確認して操作する必要があり、ユーザーが明示的に付与した権限を介してのみ他のアプリにアクセスできること、また従業員がアカウントの取り違えの可能性としてフラグを立てたメッセージの多くは、すでに対処されている幻覚だったと述べた。ロイターは、ミューズがユーザーに他人の銀行口座残高を提供していたのか、それとも情報をでっち上げていたのかを立証できなかった。
しかし、ロイターが精査した内部投稿によると、このような事件は9月中旬に遡り、今月まで続いていたことが判明した。 11月初旬、Metaのスーパーインテリジェンスチームのメンバーは、エージェントがセッション間でユーザーとの関わりを促す組み込みプロンプトに応じて幻覚メッセージを見せているようだと内部フィードバックグループに語った。同氏は、「残念なことに、これら(幻覚)は、財政、セキュリティ、安全性など、最も不快な話題に偏っており、最悪だ」と述べ、「人々にビットコイン残高の最新情報を与えるなど、仮想通貨関連の事柄にも関連する」いくつかの事件を認識していると付け加えた。同氏は、問題には基礎となるAIモデルと、Museがアクションを実行できるようにするソフトウェアの両方が関係していると述べた。ロバーツ氏は、それらの問題の数や、なぜ継続しているのかなど、これらの問題に関するロイターの質問に答えることを拒否した。
以前の欠陥: 6,800 の共有チャットがパブリック DNS で検出可能
ミューズにとってプライバシー問題はこれが初めてではない。 10月、セキュリティ会社Clarocは、Museの会話共有リンクが公的に検索可能なパッシブDNSレコードを通じて発見できることを発見した。すべての共有リンクはcf.metaaiusercontent.comドメインを使用しており、会話タイトルはサブドメインに直接埋め込まれていたため、1回のクエリで約6,800の共有会話リンクを列挙でき、その中には公開アクセスを意図したことのない機密情報が含まれていた。 Claroc の共同創設者は 10 月 8 日に Meta のバグ報奨金プログラムを通じて調査結果を報告しましたが、返答はありませんでした。 Meta は 10 月 20 日に共有機能を一時停止しましたが、その後修正を加えて再開しました。
規制圧力が高まる中、Appleは許可を厳格化
ロイター通信は、今回の事件によりオペレーティングシステムプロバイダーも行動を起こすようになったと指摘した。 Inc. Magazine のコラムニストが Muse が Mac のメッセージ アプリからプライベート チャットを読んでいたと非難したことを受け、Apple は今週、エージェントのデータ使用をより詳細に制御できるようにオペレーティング システムを変更し、開発者による Mac でのアクセシビリティ ツールの使用を大幅に制限し、新しいエージェント指向の権限セットを導入しました。 Appleは、ユーザーが何を許可しているのかを正確に理解できるようにすることに尽力していると述べた。 Googleは変更も検討していると述べた。
その他の従業員事件としては、ミューズが返金不可のAirbnb宿泊を許可なく予約し、ユーザーが購入した商品の価格をでっち上げ、実際に金銭を請求したことが含まれる。 Meta は、各エージェントを独自の安全な「仮想マシン」に隔離し、接続するアプリを完全に制御できるようにするとユーザーに保証しました。 CEOのマーク・ザッカーバーグ氏は、業界全体のAI安全基準を求める声を却下する際にこうした保護を引用したが、一方Metaの利用規約は、Museが間違いを犯し、ユーザーにエージェントの行動の責任を負わせる可能性があると警告している。
Muse は 9 月のリリース以来 1,000 万回以上のダウンロードを記録しており、記録上最も急速に成長しているアプリの 1 つであり、アカウントを設定したユーザーの約 4 分の 1 が毎日戻ってきており、数十億ドルの AI 収益を生み出すという Meta の計画の中心となっています。ロイター通信は、今回の事件は、ユーザーに代わってタスクを実行することを約束するMetaやOpenAIなどの新しいカテゴリーの消費者向けAIエージェントのリスクと、それらのエージェントがプライバシーや権限を管理するオペレーティングシステムにもたらす新たな課題を浮き彫りにしていると述べた。
N環球 
💬 Comments
No comments yet. Be the first!