N環球 
Claude viết 180 triệu dòng chứng minh toán học trong quá trình xác minh chính thức AI quy mô lớn đầu tiên về phần mềm nguồn mở
Nghiên cứu chính thức của Anthropic: với Theorem, Claude đã chính thức xác minh các thuộc tính bảo mật ở cấp tập hợp RISC-V trên 123 thư viện nguồn mở và 239 điểm truy nhập — đồng thời phát hiện ra hàng trăm lỗi đã trốn tránh hàng nghìn tỷ lượt kiểm tra tự động.
Tại sao nó quan trọng
Xác minh chính thức từng là một điều xa xỉ mà chỉ các chuyên gia mới có thể chi trả trong nhiều năm - vi hạt seL4 mất 2 năm người để viết và 20 năm người để xác minh. Anthropic hiện đã chỉ ra rằng một mô hình tiên phong có thể thực hiện điều đó cho hơn một trăm thư viện nguồn mở thực sự trong vài tuần, đồng thời phát hiện ra các lỗi còn tồn tại trong "hàng nghìn tỷ" lần chạy thử nghiệm tự động.
Báo cáo đầy đủ
Anthropic đã công bố trên trang nghiên cứu chính thức của mình vào ngày 22 tháng 10: phối hợp với công ty xác minh phần mềm Theorem, Claude đã chính thức xác minh các thuộc tính bảo mật ở cấp độ tập hợp RISC-V trên 123 thư viện nguồn mở trong thế giới thực được rút ra từ OSS-Fuzz của Google, bao gồm 239 điểm đầu vào chương trình. Công ty gọi đây là “nỗ lực quy mô lớn đầu tiên sử dụng AI để áp dụng xác minh chính thức cho phần mềm sản xuất ở cấp độ mã lắp ráp”.
Quy mô rất đáng kinh ngạc: khoảng 180 triệu dòng bằng chứng Rocq, với bằng chứng điển hình chạy tới khoảng 600.000 dòng, bao gồm các tệp nhị phân có độ dài trung bình là 18.000 lệnh RISC-V - tất cả đều được hoàn thành trong vài tuần. Nhân Rocq kiểm tra độc lập từng bằng chứng, do đó không cần xem xét thủ công từng dòng một.
Phương pháp này chuyển đổi các thử nghiệm fuzz hiện có thành các thông số toán học: đối với mọi đầu vào dưới 64 MB, tệp nhị phân RISC-V được liên kết tĩnh đơn luồng trên Linux phải luôn thoát bình thường và không vi phạm an toàn bộ nhớ. Khi Claude nghi ngờ có lỗi ở giai đoạn giữa, nó đã trực tiếp vá mã và chứng minh lại thông số kỹ thuật mới.
Hàng trăm lỗi đã xuất hiện trong quá trình này, bao gồm lỗi tràn bộ đếm trong bản sao giải nén dẫn đến ghi ngoài giới hạn (chỉ có thể kích hoạt bằng ~20 MB đầu vào với một bố cục hiếm), lỗi đọc ngoài giới hạn trong bộ giải mã hình ảnh và phát hiện lại CVE-2026-56132 trong libexpat — một số lỗ hổng đã ẩn nấp trong nhiều năm.
Anthropic tự thừa nhận các giới hạn: xác minh chính thức được thông qua không có nghĩa là không có lỗi - bằng chứng chỉ bao gồm các tệp nhị phân RISC-V tĩnh đơn luồng, trong khi hầu hết mã thực sự chạy trên x86/ARM. Nó đã xuất bản một tập hợp con các bằng chứng trên GitHub để xác minh độc lập và Theorem cho biết họ sẽ chạy cùng một quy trình cho các dự án nguồn mở khác.
Các kết quả phụ cũng đáng chú ý: việc triển khai zlib của nhân Linux đã được chứng minh là tuân thủ RFC 1950 ở cấp độ nhị phân x86 và một tập hợp con lớn của trình thông dịch Python được viết bằng Rust phù hợp với hành vi của CPython trên 99,95% trong số hơn 1,7 triệu chương trình ngẫu nhiên.
💬 Comments
No comments yet. Be the first!