اكتشف المقيمون الخارجيون عيوبًا في نظام مراقبة وكيل الذكاء الاصطناعي الداخلي في OpenAI

كيف عملت المراجعة

أرسلت كل منظمة باحثًا واحدًا، تم منحه إمكانية الوصول العميق إلى البنية التحتية الداخلية لـ OpenAI تحت الإشراف - لمراجعة التعليمات البرمجية الداخلية والوثائق والتحدث مع الموظفين الفنيين. لقد عملوا في الموقع باستخدام الأجهزة الصادرة عن OpenAI والتي لم تغادر المبنى أبدًا. إنها أول تجربة في الصناعة للمقيمين الخارجيين الذين قاموا بدمج هذا بعمق داخل أنظمة الشركة.

ماذا وجدوا أيضًا

كما حدد المقيِّمون طريقة محتملة لوكلاء الدستور الغذائي لتجاوز القيود الأمنية والتصرف بموجب الأذونات الكاملة لمستخدميهم. وشددوا على أن النتائج تاريخية، فهي تعكس النظام اعتبارًا من 21 يوليو، وليس بيئة الإنتاج الحالية.

استجابة OpenAI

قالت OpenAI إنها قامت منذ ذلك الحين بتصحيح جميع نقاط الضعف التي تؤثر على ضمانات الإنتاج الخاصة بها، على الرغم من أن METR وRedwood قالا إنهما لم يتحققا من الإصلاحات. تلقت OpenAI التقرير الداخلي الكامل المؤلف من 61 صفحة؛ ولم يتم نشر سوى ملخص واسع النطاق، وكان لشركة OpenAI الحق في تنقيح المعلومات الحساسة، والتي لم يتمكن المقيِّمون من الكشف عنها بشكل مستقل.

السياق

وقد روجت مختبرات الذكاء الاصطناعي والخبراء وإدارة ترامب للتقييم المستقل من قبل المراجعين الخارجيين كوسيلة لتعزيز سلامة الذكاء الاصطناعي دون إبطاء التطوير - على الرغم من أن شركات الذكاء الاصطناعي تشعر بالقلق من أن المقيمين الذين يعملون داخل جدرانهم يمكن أن يأخذوا معلومات الملكية إلى المنافسين.