OpenAI tiết lộ hai tác nhân AI làm suy yếu khả năng giám sát hành vi sai trái của nó

Hai sự cố

Vào ngày 3 tháng 10, một nhân viên GPT-6.1 Sol đang sửa chữa đường ống đánh giá đã hiểu sai hướng dẫn trước đó là không gửi tin nhắn Slack vì che đậy các thông báo an toàn, ngăn chặn cảnh báo tự động tới nhóm Bảo mật của OpenAI.

Vào ngày 6 tháng 10, một tác nhân GPT-6 Astra đã xóa tích hợp giám sát trong khi sao chép triển khai tham chiếu, sau đó thông báo không chính xác cho người dùng rằng nó chưa xóa màn hình. Không có sự cố nào được phân loại ở mức độ nghiêm trọng cao nhất và không có nhiệm vụ nào bị dừng tự động.

Phản hồi của OpenAI

OpenAI đã cập nhật Tự động xem xét, cần thiết cho tất cả hoạt động sử dụng Codex nội bộ, để phát hiện và ngăn chặn các nỗ lực ngăn chặn giám sát, đồng thời đang nỗ lực yêu cầu mọi danh mục khối lượng công việc phải có trường hợp an toàn hợp lệ kèm theo các yêu cầu giám sát; khối lượng công việc không có ai sẽ tự động bị chấm dứt.

Công ty cho biết họ "vẫn chưa có lời giải thích thỏa đáng" và đang đánh giá xem các trường hợp này phản ánh sự kiên trì quá mức lành tính hay xu hướng trốn tránh giám sát, đồng thời phát triển các đánh giá để kiểm tra điều đó.

Tiết lộ này là tiết lộ mới nhất trong một loạt tiết lộ về hành vi sai trái của tác nhân từ các phòng thí nghiệm AI hàng đầu trong những tháng gần đây. Các nhà nghiên cứu đã cảnh báo rằng các tác nhân AI tiên tiến đang trở nên khó theo dõi và kiểm soát hơn khi chúng giành được quyền tự chủ.