N環球 N GLOBE
Công nghệ Mỹ

OpenAI mở ra cánh cửa cho các nhà đánh giá an toàn bên ngoài, nhưng các nhà nghiên cứu cho biết khả năng tiếp cận không còn như hứa hẹn

· N GLOBE

OpenAI cho biết vào ngày 16 tháng 11 rằng nhân viên từ bốn tổ chức an toàn bên ngoài sẽ có mặt tại công ty để đánh giá các mô hình của nó, nhưng các nhà nghiên cứu nói với NPR rằng quyền truy cập được cung cấp không thua xa lời hứa vào tháng 9 của CEO Sam Altman về 'quyền truy cập giống như nhân viên'.

OpenAI đã thông báo vào thứ Hai, ngày 16 tháng 11, rằng nhân viên từ bốn tổ chức nghiên cứu và an toàn AI bên ngoài sẽ trở thành 'người đánh giá nhúng' tại công ty để đánh giá các mô hình của nó. Nhưng một báo cáo do NPR công bố hôm thứ Tư cho biết nhiều nhà nghiên cứu tin rằng quyền truy cập được cung cấp không vượt xa những gì giám đốc điều hành Sam Altman đã hứa vào tháng 9, khi ông tuyên bố những người đánh giá độc lập sẽ có 'quyền truy cập giống như nhân viên' vào hệ thống nội bộ của công ty.

Altman đã đưa ra lời hứa đó sau khi có thông tin cho rằng hệ thống tự trị của OpenAI đã tấn công Hugging Face trong quá trình thử nghiệm an ninh mạng, một sự kiện đã làm rung chuyển lĩnh vực AI và làm dấy lên mối lo ngại của công chúng về rủi ro thảm khốc. Vào thời điểm đó, đối thủ Anthropic cho biết họ sẽ thiết lập một chương trình tương tự.

Bốn giám khảo sẽ kiểm tra những gì

Theo OpenAI, Apollo Research sẽ đánh giá liệu các mô hình có thể hoạt động bí mật trái với ý định của nhà phát triển hay không và liệu các biện pháp bảo vệ hiện có có phát hiện ra hành vi đó hay không. Apollo được cho là sẽ cử sáu nhà nghiên cứu đi trong bốn tháng, kiểm tra bốn tuyên bố trong hai giai đoạn, bao gồm cả việc đào tạo có khuyến khích lật đổ hay không và liệu các mô hình có cố gắng lật đổ trong quá trình sử dụng nội bộ hay không. Goodfire sẽ nhúng các nhà nghiên cứu khả năng diễn giải để phân tích nội bộ mô hình, giám sát quá trình đào tạo và trợ giúp gỡ lỗi và căn chỉnh, chủ yếu phục vụ các nhà nghiên cứu của chính OpenAI. METR sẽ kiểm tra hoạt động học tăng cường lớn nhất của OpenAI cho đến nay, tìm kiếm hành vi sai lệch mà các bài kiểm tra và màn hình hiện tại của nó có thể đã bỏ sót. Transluce sẽ xem xét chất lượng và mức độ bao phủ của các đánh giá liên kết sau đào tạo của OpenAI, với đánh giá tiếp theo kéo dài khoảng 8 tuần được lên kế hoạch vào đầu năm 2027.

Khoảng cách giữa lời hứa và thực tế

Các nhà nghiên cứu cho biết các thuật ngữ thực tế hẹp hơn nhiều. Sydney Von Arx, người sáng lập nhóm nghiên cứu an toàn AI Nightingale cho biết: “Những người đánh giá có phạm vi tiếp cận rất hẹp và dường như chỉ có hai người trong số họ thực sự được phép nói chuyện với nhân viên”. Cô nói, không ai có quyền truy cập vào hệ thống nhắn tin Slack nội bộ của công ty và những nhân viên chưa được OpenAI đưa vào danh sách trắng sẽ không thể trò chuyện thực chất với những người đánh giá trừ khi OpenAI được tham gia trước. Cô nói: “Hãy tưởng tượng bạn là một nhân viên và chỉ được phép nói về thông tin công ty với những đồng nghiệp nằm trong danh sách cho phép và không có Slack”.

Theo các giao thức đã được OpenAI công bố, các cuộc thảo luận với nhân viên không được lưu lại: họ có thể đưa ra đánh giá nhưng không thể công bố hoặc quy kết. Người đánh giá có thể yêu cầu OpenAI đưa ra các tuyên bố đã được chứng thực để xác minh những gì họ đã học được và OpenAI có thể từ chối. Người đánh giá có thể công bố các phát hiện của họ, nhưng OpenAI có quyền biên tập lại thông tin bí mật và yêu cầu trì hoãn tiết lộ để có thể xử lý các phát hiện có thể gây ra rủi ro về bảo mật hoặc an toàn.

Nhân viên an toàn bị sa thải và điều gì xảy ra tiếp theo

Thông báo được đưa ra khi OpenAI sa thải ba nhân viên làm việc về an toàn. Một trong số họ, Tomek Korbak, từng là đầu mối liên lạc kỹ thuật cho hai nhà đánh giá bên ngoài điều tra vụ tấn công Ôm Mặt. Cả ba sau đó cho biết họ lo ngại OpenAI đang đi ngược lại lời hứa về các bộ đánh giá nhúng. Korbak đã viết trên X rằng kiểm toán nhúng 'sẽ chỉ hoàn thành mục tiêu của nó nếu kiểm toán viên thực sự có được quyền truy cập ở cấp độ nhân viên thay vì được thuê để làm một công việc cụ thể', đồng thời nói thêm rằng bài đăng tháng 9 của Altman về 'quyền truy cập giống như nhân viên' là 'chỉ là một lời hứa quá đáng khó xử rằng công ty muốn lặng lẽ quay trở lại.'

Trong một tuyên bố với NPR, OpenAI cho biết hiện tại không có tiêu chuẩn nào cho các đánh giá nhúng và họ hy vọng sẽ làm sâu sắc thêm các mối quan hệ theo thời gian và chia sẻ những gì họ học được để giúp thiết lập các phương pháp hay nhất. Công ty cho biết nỗ lực này hỗ trợ các cam kết của mình theo Hiệp định Nhà Trắng về Siêu trí thông minh, theo đó họ đồng ý đánh giá độc lập về các biện pháp kiểm soát an toàn của mình.

(Trụ sở chính của OpenAI. Ảnh chụp.)

💬 Comments

No comments yet. Be the first!