N環球 N GLOBE
Công nghệ Mỹ

Signal chặn các nhân viên AI trên điện thoại đọc các cuộc trò chuyện, gọi họ là “mối đe dọa hiện hữu” đối với quyền riêng tư

· N GLOBE

Ứng dụng nhắn tin mã hóa Signal đã công bố vào ngày 20 tháng 11 rằng nó sẽ chặn trợ lý AI tích hợp trong hệ điều hành điện thoại đọc các cuộc trò chuyện của người dùng theo mặc định. Trên iOS 27, nó chặn ảnh chụp màn hình trong ứng dụng và thêm nút chuyển đổi “Chặn Siri AI”; trên Android, nó tự động bật bảo mật màn hình khi trợ lý AI cố gắng đọc màn hình. Chủ tịch Signal Meredith Whittaker gọi việc “tích hợp AI tự động” như vậy là “mối đe dọa hiện hữu” đối với quyền riêng tư.

Ứng dụng nhắn tin mã hóa Signal đã công bố vào ngày 20 tháng 11 rằng nó sẽ chặn trợ lý AI được tích hợp trong hệ điều hành điện thoại đọc các cuộc trò chuyện của người dùng theo mặc định. Signal cho biết, Apple, Google và Microsoft đang đưa “AI tác nhân” vào sâu trong hệ điều hành của họ và những hệ thống đó sẽ quét những gì trên màn hình và lưu trữ nó – làm suy yếu sự đảm bảo quyền riêng tư ở lớp ứng dụng. Chủ tịch Signal Meredith Whittaker gọi việc tích hợp này là “mối đe dọa hiện hữu” đối với quyền riêng tư.

Ảnh chụp màn hình bị chặn trên iOS 27, bảo mật màn hình trên Android

Trên iOS 27, Signal đang ngăn ảnh chụp màn hình bên trong ứng dụng và thêm cài đặt “Chặn Siri AI”. Trên Android, ứng dụng sẽ tự động bật tính năng bảo vệ “Bảo mật màn hình” khi phát hiện trợ lý AI đang cố đọc màn hình Tín hiệu. Signal cho biết, mọi người có thể tắt các biện pháp bảo vệ trong cài đặt, nhưng làm như vậy có thể khiến tin nhắn của chính họ và những người liên hệ của họ bị lộ với các tác nhân AI này và vi phạm các đảm bảo về quyền riêng tư của nó.

Tín hiệu đã được chuyển sang Microsoft Recall

Đây không phải là lần đầu tiên Signal thực hiện bước đi như vậy. Năm ngoái, nó đã sử dụng tính năng chặn ảnh chụp màn hình để ngăn AI thu hồi của Microsoft chụp và lưu trữ ảnh chụp màn hình tin nhắn Signal trên Windows 11 theo mặc định. Vấn đề là như nhau, Signal cho biết: các tác nhân AI của hệ điều hành “quét” thông tin trên màn hình, nắm bắt và cung cấp cho các hệ thống tác nhân để chúng có thể trả lời các câu hỏi và thực hiện các hướng dẫn – và sau khi được thu thập, dữ liệu sẽ nằm ngoài tầm kiểm soát của Signal, được lưu trữ trong bất kỳ cơ sở dữ liệu cục bộ hoặc máy chủ từ xa nào mà tác nhân sử dụng.

Bản sửa lỗi chưa hoàn chỉnh và macOS hiện nằm ngoài tầm với

Signal thừa nhận việc khắc phục chưa đầy đủ. Việc chặn ảnh chụp màn hình không ngăn các tác nhân AI tiếp cận dữ liệu ứng dụng thông qua các con đường lén lút khác, chẳng hạn như đọc nội dung đã có trên thiết bị thông qua hệ thống tệp - và công ty cho biết hiện tại họ không thể triển khai các biện pháp bảo vệ này trên macOS vì hệ thống không cung cấp cách nào để làm như vậy. Trong vài tháng qua, Signal cho biết họ đã dành đáng kể thời gian cho nhà phát triển để điều tra pháp y trên Android và iOS để tìm hiểu điều gì thực sự xảy ra khi các hệ thống AI này truy cập vào dữ liệu ứng dụng, vì tài liệu rất thiếu.

Lời kêu gọi sử dụng các công cụ từ chối từ ba nhà sản xuất hệ điều hành lớn

Signal kêu gọi Apple, Google và Microsoft cung cấp hai “biện pháp thông thường”: một cách dễ dàng, được ghi chép đầy đủ để các nhà phát triển chọn không cho ứng dụng của họ truy cập và xử lý dữ liệu AI — bao gồm đọc màn hình, truy cập hệ thống tệp, thông báo, API và các khung hệ điều hành khác — mà không làm suy yếu tiện ích cốt lõi của ứng dụng; và tài liệu cũng như thông số kỹ thuật tốt hơn về cách các tác nhân AI này hoạt động và xử lý dữ liệu. Signal lập luận rằng điện toán bí mật không phải là một giải pháp hoàn chỉnh bởi vì nó vẫn để lại quyền xác định mức độ đảm bảo quyền riêng tư trong tay các nhà cung cấp.

Không chỉ Signal: các đại lý AI của bên thứ ba cũng đang mở rộng

Signal cũng đánh dấu nhu cầu ngày càng tăng về các công cụ nhằm ngăn chặn các tác nhân bên thứ ba, chẳng hạn như Muse của Meta, truy cập dữ liệu ứng dụng bằng các quyền sâu mà người dùng được khuyến khích cấp trong quá trình thiết lập — trong nhiều trường hợp, tận dụng cài đặt trợ năng nhằm trao quyền cho người khuyết tật. Signal cảm ơn các đồng minh bao gồm Electronic Frontier Foundation vì đã thúc đẩy những thay đổi tương tự và cho biết đó là “chim hoàng yến trong mỏ than”: việc tích hợp các tác nhân AI vào hệ điều hành mà không có các biện pháp khắc phục thông thường là mối đe dọa hiện hữu đối với quyền riêng tư trên toàn bộ hệ sinh thái ứng dụng.

💬 Comments

No comments yet. Be the first!