N環球 N GLOBE
Công nghệ Mỹ

Điều tra của Reuters: Nhân viên AI của Meta, Muse, trộn lẫn các cuộc hội thoại và đọc tin nhắn được mã hóa, nhân viên cho biết

· N GLOBE

Một cuộc điều tra của Reuters cho thấy trợ lý AI Muse của Meta, ra mắt vào tháng 9, đã liên tục gửi cho nhân viên những tin nhắn dành cho người khác, bao gồm số dư ngân hàng của người lạ và lời nhắc về tin nhắn Signal. Meta gọi đó là những sự cố biệt lập, chủ yếu là ảo giác, nhưng Reuters đã sao chép quyền truy cập Signal với nhân viên Signal.

Theo một cuộc điều tra của Reuters được công bố vào ngày 18 tháng 11, trợ lý AI của Meta, Muse, đã đào sâu vào các tin nhắn cá nhân được mã hóa, cung cấp thông tin giả về việc mua hàng và gửi cho người dùng các cuộc trò chuyện dường như dành cho người khác, theo một cuộc điều tra của Reuters được công bố vào ngày 18 tháng 11. Reuters đã xem xét hơn hai chục bài đăng nội bộ trong đó nhân viên của Meta nêu lên lo ngại rằng đại lý này đang trộn lẫn các cuộc trò chuyện giữa các tài khoản khác nhau và làm lộ dữ liệu riêng tư của người dùng.

Bài viết của nhân viên: số dư ngân hàng của người khác, yêu cầu chưa bao giờ được thực hiện

Trong một bài đăng nội bộ từ đầu tháng này, một nhân viên đã viết rằng Muse đã ngẫu nhiên thêm một tin nhắn bổ sung vào các cuộc trò chuyện thường xuyên về thông tin thủy triều và thời tiết liên quan đến câu cá, nói rằng: "BTW, hai bản cập nhật ngân hàng, số dư Capital One của bạn là 2722,58 USD, số dư Charles Schwab của bạn là 5899,57 USD." Nhân viên này viết: "Tôi chưa bao giờ chia sẻ tài khoản ngân hàng của mình với Muse và cũng chưa bao giờ thảo luận bất kỳ chủ đề ngân hàng nào với Muse. Tôi sợ nó gửi thông tin ngân hàng của người khác cho tôi". Các nhân viên khác báo cáo các tin nhắn về yêu cầu chăm sóc trẻ em mà họ chưa thực hiện, lời khuyên nghề nghiệp mà họ chưa tìm kiếm và các đơn đặt hàng sản phẩm mà họ chưa đặt.

Trong một trường hợp khác, một nhân viên cho biết Muse đã gửi cho anh một tin nhắn “không biết từ đâu” nói rằng họ không thể gửi yêu cầu liên quan đến quyền kiểm soát của phụ huynh đối với việc ai có thể truy cập dữ liệu của con họ. Anh ấy chưa làm gì để kích hoạt cuộc trò chuyện và chưa bao giờ thảo luận về dữ liệu trẻ em với Nàng thơ của mình. Khi anh ấy hỏi bot về tin nhắn, nó trả lời: "Tôi không có lời giải thích hợp lý nào cho nó ngoài việc nó không liên quan đến cuộc trò chuyện của chúng ta. Hãy bỏ qua nó. Tôi có thể giúp gì được?" Một nhân viên khác cho biết Muse ngẫu nhiên đề nghị "nhắn tin cho người bán" về việc lấy một bàn cà phê, sau đó thừa nhận họ đã "kéo vào bối cảnh nào đó về việc lấy bàn cà phê dường như không phải của bạn." Nhân viên gọi đó là "không phải cuộc trò chuyện của tôi" và nêu lên lo ngại về "có thể xảy ra rò rỉ bối cảnh giữa các tài khoản".

Tin nhắn được mã hóa cũng đã được đọc: Bản sao tín hiệu xác nhận điều đó

Một nhân viên sử dụng Muse trên điện thoại cá nhân của cô ấy cho biết họ đã làm cô ấy ngạc nhiên với lời nhắc trả lời tin nhắn từ chị gái cô ấy trên Signal, dịch vụ nhắn tin được mã hóa hai đầu cạnh tranh với WhatsApp của Meta. Cô nói: “Đây có vẻ như là một hành vi vi phạm quyền riêng tư nghiêm trọng. Tôi chắc chắn đã không cấp cho nó quyền truy cập vào các ứng dụng khác hoặc nhớ lại rằng tôi đã được hỏi về điều này”. Reuters đã làm việc với nhân viên tại Signal và Viện AI Now để tái tạo quyền truy cập mà cô đã quan sát và các thử nghiệm cho thấy vấn đề vẫn đang diễn ra và có thể ảnh hưởng đến những người khác.

Trên điện thoại Android, Muse đã sử dụng quyền truy cập thông báo đẩy của thiết bị để truy xuất tin nhắn. Trên máy tính xách tay của Apple, nó sử dụng kết hợp các công cụ chụp màn hình và khả năng truy cập của máy tính, tái sử dụng các cài đặt mà Apple cung cấp để giúp người khuyết tật vận hành máy tính của họ. Các yêu cầu tương tự đã bị chặn trong các thử nghiệm được thực hiện trên iPhone. Chủ tịch Signal Meredith Whittaker cáo buộc Meta ra mắt Muse “không thể hiện bất kỳ sự tôn trọng nào đối với quyền riêng tư hoặc an ninh mạng cơ bản”, gọi việc triển khai các tác nhân có thể truy cập rộng rãi vào thiết bị của mọi người là “liều lĩnh về mặt công nghệ”. Cô kêu gọi các ứng dụng như Signal được cung cấp "các cách kỹ thuật nhất quán" để tự đánh dấu mình là ngoài giới hạn đối với các tác nhân AI.

Phản ứng của Meta: những sự cố riêng lẻ, chủ yếu là ảo giác

Người phát ngôn của Meta, Daniel Roberts, mô tả các ví dụ của Reuters là “sự cố riêng biệt”, cho biết công ty ưu tiên sự an toàn và liên tục cập nhật sản phẩm của mình. Anh ấy cho biết Muse cần xem và tương tác với máy tính của mọi người để thay mặt họ làm việc và chỉ có thể truy cập các ứng dụng khác thông qua các quyền mà họ cấp rõ ràng, đồng thời nhiều thông báo bị nhân viên gắn cờ là có khả năng nhầm lẫn tài khoản chỉ là ảo giác đã được giải quyết. Reuters không thể xác định liệu Muse có cung cấp cho người dùng số dư tài khoản ngân hàng của người khác hay bịa đặt thông tin hay không.

Tuy nhiên, các bài đăng nội bộ được Reuters xem xét cho thấy những sự cố như vậy đã xảy ra từ giữa tháng 9 và tiếp tục kéo dài đến tháng này. Vào đầu tháng 11, một thành viên trong nhóm Siêu trí tuệ của Meta đã nói với nhóm phản hồi nội bộ rằng tác nhân này dường như đang tạo ra các thông báo ảo giác để đáp lại những lời nhắc tích hợp thúc đẩy nó tương tác với người dùng giữa các phiên. “Thật không may, những (ảo giác) này lại thiên về những chủ đề khó chịu nhất, như tài chính/bảo mật/an toàn, thật tệ,” ông nói và nói thêm rằng ông đã biết về một số trường hợp liên quan đến “những thứ liên quan đến tiền điện tử, như cung cấp cho mọi người thông tin cập nhật về số dư Bitcoin của họ.” Ông cho biết các vấn đề liên quan đến cả mô hình AI cơ bản và phần mềm cho phép Muse thực hiện hành động. Roberts từ chối trả lời các câu hỏi của Reuters về những vấn đề đó, bao gồm cả số lượng và lý do chúng vẫn tồn tại.

Một lỗ hổng trước đó: 6.800 cuộc trò chuyện được chia sẻ có thể được phát hiện trong DNS công cộng

Đây không phải là vấn đề riêng tư đầu tiên của Muse. Vào tháng 10, công ty bảo mật Claroc phát hiện ra rằng các liên kết chia sẻ cuộc hội thoại của Muse có thể bị phát hiện thông qua các bản ghi DNS thụ động có thể tìm kiếm công khai: tất cả các liên kết được chia sẻ đều sử dụng tên miền cf.metaaiusercontent.com, với tiêu đề cuộc hội thoại được nhúng trực tiếp vào tên miền phụ, do đó, một truy vấn duy nhất có thể liệt kê khoảng 6.800 liên kết hội thoại được chia sẻ, hàng trăm liên kết trong số đó chứa thông tin nhạy cảm không bao giờ được phép truy cập công khai. Người đồng sáng lập Claroc đã báo cáo những phát hiện này thông qua chương trình tiền thưởng lỗi của Meta vào ngày 8 tháng 10 và không nhận được phản hồi nào; Meta đã tạm dừng tính năng chia sẻ vào ngày 20 tháng 10 và sau đó đã khôi phục nó bằng một bản sửa lỗi.

Apple đã thắt chặt quyền khi áp lực pháp lý ngày càng tăng

Reuters lưu ý các sự cố cũng đã thúc đẩy các nhà cung cấp hệ điều hành phải hành động. Apple đã thay đổi hệ điều hành của mình trong tuần này để cung cấp cho mọi người nhiều quyền kiểm soát hơn đối với việc sử dụng dữ liệu của các đại lý, hạn chế mạnh mẽ việc sử dụng các công cụ trợ năng của các nhà phát triển trên máy Mac và giới thiệu một bộ quyền mới hướng đến đại lý, sau khi một nhà báo chuyên mục của Tạp chí Inc. cáo buộc Muse đọc các cuộc trò chuyện riêng tư từ ứng dụng Tin nhắn trên máy Mac của anh ấy. Apple cho biết họ cam kết đảm bảo người dùng hiểu chính xác những gì họ đang cho phép; Google cho biết họ cũng đang xem xét những thay đổi.

Các trường hợp nhân viên khác bao gồm Muse đặt chỗ ở Airbnb không hoàn tiền mà không được phép và tính giá cho các sản phẩm mà người dùng đã mua, khiến họ phải trả tiền thật. Meta đã đảm bảo với người dùng rằng họ sẽ cách ly từng tác nhân trong "máy ảo" an toàn của riêng mình và cung cấp cho mọi người toàn quyền kiểm soát những ứng dụng mà họ kết nối. Giám đốc điều hành Mark Zuckerberg đã trích dẫn những biện pháp bảo vệ đó để bác bỏ các yêu cầu về tiêu chuẩn an toàn AI trong toàn ngành, trong khi điều khoản dịch vụ của Meta cảnh báo rằng Muse có thể mắc sai lầm và buộc người dùng phải chịu trách nhiệm về hành động của đại lý.

Muse đã có hơn 10 triệu lượt tải xuống kể từ khi ra mắt vào tháng 9, một trong những ứng dụng phát triển nhanh nhất được ghi nhận, với khoảng 1/4 số người thiết lập tài khoản quay trở lại mỗi ngày và đây là trọng tâm trong kế hoạch của Meta nhằm tạo ra hàng tỷ đô la doanh thu từ AI. Reuters cho biết các sự cố nêu bật những rủi ro của một loại đại lý AI tiêu dùng mới từ Meta, OpenAI và các đại lý khác hứa hẹn sẽ thực hiện các nhiệm vụ thay mặt người dùng cũng như những thách thức mới mà chúng đặt ra đối với quyền riêng tư và hệ điều hành quản lý quyền của họ.

💬 Comments

No comments yet. Be the first!