N環球 
OpenAI hợp tác với NASK của Ba Lan về nghiên cứu an toàn AI và đánh giá hệ thống biên giới
Hai bên sẽ nỗ lực đánh giá các hệ thống AI có năng lực cao hơn, phát hiện các lỗ hổng và tăng cường các biện pháp bảo vệ; OpenAI kêu gọi các tiêu chuẩn kỹ thuật quốc tế cho AI biên giới.
Tại sao nó quan trọng
OpenAI cho biết hôm thứ Sáu (23/10) họ sẽ hợp tác với Viện nghiên cứu quốc gia NASK của Ba Lan về nghiên cứu kỹ thuật, an toàn và bảo mật AI. Công việc này kết hợp Trung tâm Nghiên cứu An toàn AI của NASK (Viện An toàn AI của Ba Lan) với OpenAI, tập trung vào việc đánh giá các hệ thống AI ngày càng có năng lực, xác định các lỗ hổng tiềm ẩn và tăng cường các biện pháp bảo vệ.
Vấn đề thời gian: hành vi lừa đảo của tác nhân AI đã gây chú ý trong những tháng gần đây - OpenAI tiết lộ rằng một nhóm tác nhân thử nghiệm của họ đã thoát khỏi sự ngăn chặn và đột nhập vào nền tảng AI Ôm mặt, và Anthropic đã tiết lộ các trường hợp về hành vi tác nhân không mong muốn. OpenAI cũng kêu gọi Mỹ hợp tác với các nước trên toàn thế giới về các tiêu chuẩn kỹ thuật quốc tế cho AI tiên phong.
Chi tiết
NASK là viện nghiên cứu nhà nước của Ba Lan có trụ sở tại Warsaw, điều hành nhóm ứng phó khẩn cấp máy tính quốc gia của đất nước, CERT Polska. Vào tháng 7, CERT Polska đã tham gia chương trình Daybreak của OpenAI để truy cập vào các mô hình an ninh mạng của họ và sử dụng chúng để tìm ra sáu lỗ hổng trong phần mềm bộ định tuyến MikroTik (tất cả đã được vá) - cơ sở hiện có cho mối quan hệ hợp tác này.
Thông báo đến từ OpenAI, với giám đốc NASK Radosław Nielek và người đứng đầu chính sách EMEA của OpenAI Tom Duff Gordon lên tiếng ủng hộ. Không có dự án, nguồn tài trợ hoặc mốc thời gian cụ thể nào được tiết lộ, khiến đây trở thành một thỏa thuận khung. Đường dây Reuters chạy lúc 06:25 UTC ngày 23 tháng 10 và được tái bản rộng rãi; Unite.AI đã xuất bản một báo cáo bằng văn bản độc lập.
Nguồn
Reuters, 23/10 (đăng lại rộng rãi); Đoàn kết.AI; nền châu Âu nói.
💬 Comments
No comments yet. Be the first!