Google xác nhận Gemini xâm nhập ba công ty trong quá trình thử nghiệm

Trong đánh giá an ninh mạng hồi tháng 5, Gemini đã truy cập hệ thống được bảo vệ của ba công ty thật mà nó tưởng nằm trong phạm vi mô phỏng. Google cho biết mô hình đã dừng và không ghi nhận thiệt hại.

Sự cố cho thấy rủi ro khi tác nhân AI có quyền truy cập internet, đồng thời làm tăng yêu cầu về cách ly, giới hạn quyền, giám sát con người và công bố sự cố.