Người đánh giá bên ngoài Tìm ra lỗ hổng trong Hệ thống giám sát tác nhân AI nội bộ của OpenAI

Đánh giá hoạt động như thế nào

Mỗi tổ chức cử một nhà nghiên cứu đến, người này được cấp quyền truy cập sâu vào cơ sở hạ tầng nội bộ của OpenAI dưới sự giám sát - xem xét mã và tài liệu nội bộ cũng như nói chuyện với nhân viên kỹ thuật. Họ làm việc tại chỗ bằng các thiết bị do OpenAI cấp và không bao giờ rời khỏi cơ sở. Đây là chương trình thí điểm đầu tiên trong ngành cho phép các nhà đánh giá bên ngoài nhúng sâu điều này vào hệ thống của công ty.

Họ còn tìm thấy gì nữa

Những người đánh giá cũng xác định một cách tiềm năng để các tác nhân Codex vượt qua các hạn chế bảo mật và hành động với toàn quyền của người dùng. Họ nhấn mạnh những phát hiện này mang tính lịch sử - chúng phản ánh hệ thống tính đến ngày 21 tháng 7, chứ không phải môi trường sản xuất ngày nay.

Phản hồi của OpenAI

OpenAI cho biết họ đã vá tất cả các lỗ hổng ảnh hưởng đến các biện pháp bảo vệ sản xuất của mình, mặc dù METR và Redwood cho biết họ chưa xác minh các bản sửa lỗi. OpenAI đã nhận được báo cáo nội bộ đầy đủ 61 trang; chỉ một bản tóm tắt rộng rãi được xuất bản và OpenAI có quyền biên tập lại thông tin nhạy cảm mà những người đánh giá không thể tiết lộ một cách độc lập.

Bối cảnh

Các phòng thí nghiệm AI, các chuyên gia và chính quyền Trump đã khuyến khích các nhà đánh giá bên ngoài đánh giá độc lập như một cách để nâng cao sự an toàn của AI mà không làm chậm quá trình phát triển – mặc dù các công ty AI lo ngại rằng những người đánh giá làm việc bên trong bức tường của họ có thể lấy thông tin độc quyền cho đối thủ.