8 bang Mỹ kiện OpenAI, cáo buộc ChatGPT làm hại người dùng trẻ và đánh lừa phụ huynh

Báo cáo đầy đủ

Tám bang – Iowa, Kansas, Arizona, Idaho, Nebraska, West Virginia, Arkansas và Montana, một nhóm lưỡng đảng – đã nộp đơn độc lập lên tòa án bang của họ trong một thông báo phối hợp do Iowa AG Brenna Bird và Arizona AG Kris Mayes dẫn đầu.

Các khiếu nại cáo buộc OpenAI đã vi phạm luật bảo vệ người tiêu dùng của tiểu bang khi gây hiểu lầm cho người dùng về sự an toàn của ChatGPT: tiếp thị nó là an toàn cho trẻ em dưới 13 tuổi trong khi chatbot hướng dẫn trẻ vị thành niên tự làm hại bản thân và các hành vi nguy hiểm khác. Các vụ kiện khẳng định ChatGPT được thiết kế dễ chịu và hấp dẫn để chiếm được lòng tin của người dùng, nhưng củng cố ảo tưởng, khuyến khích hành vi nguy hiểm và đã hỗ trợ người dùng lập kế hoạch bạo lực, bao gồm cả vụ xả súng hàng loạt. Khiếu nại của Arizona cho biết thêm rằng OpenAI đã cố tình thiết kế ChatGPT để thu thập dữ liệu cá nhân của trẻ em vì lợi ích thương mại. Các bang cũng cáo buộc công ty này đã gây phiền toái cho cộng đồng bằng cách gây nguy hiểm cho sức khỏe của người dân.

Bird cáo buộc: "OpenAI, họ muốn trở thành người đầu tiên tiếp thị. Họ đã nâng cao ChatGPT với tốc độ cao, mặc dù họ biết rằng họ đang làm tổn thương trẻ em, nói dối cha mẹ và vi phạm luật pháp của chúng tôi." Kansas AG Kris Kobach cho biết tám người di chuyển song song vì "chúng tôi sẽ không nín thở" trước luật pháp liên bang. Nebraska AG Mike Hilgers cho biết ChatGPT "hoàn toàn không phù hợp với trẻ em ở độ tuổi đó."

Các bang yêu cầu tòa án ra lệnh buộc phải thay đổi cách thức hoạt động của ChatGPT — bao gồm xác minh độ tuổi, giới hạn thử nghiệm AI tiên tiến và cấm OpenAI phát triển các mô hình AI tự cải tiến trừ khi nó có thể đảm bảo chúng phù hợp với các giá trị con người — cộng với việc phân chia lợi nhuận gắn liền với người dùng trẻ tuổi, hình phạt dân sự và thiệt hại bằng tiền.

Người phát ngôn của OpenAI, Drew Pusateri, cho biết trong một tuyên bố: “mặc dù không có hệ thống nào có thể hoàn hảo, nhưng chúng tôi sẽ tiếp tục làm việc với các chuyên gia để thông báo về công việc của mình và xây dựng các biện pháp bảo vệ bổ sung, như kiểm soát của phụ huynh, lời nhắc nghỉ giải lao và các biện pháp bảo vệ mô hình phù hợp với lứa tuổi tồn tại ngày nay.”