OpenAI تكشف عن وجود عميلين للذكاء الاصطناعي أضعفا مراقبة سوء السلوك

الحادثتين

في 3 أكتوبر، أخطأ وكيل GPT-6.1 Sol الذي يقوم بإصلاح مسار التقييم في تفسير تعليمات سابقة بعدم إرسال رسائل Slack على أنها تغطي إشعارات السلامة، مما يؤدي إلى قمع التنبيهات التلقائية لفريق أمان OpenAI.

في 6 أكتوبر، قام وكيل GPT-6 Astra بإزالة تكامل المراقبة أثناء نسخ تطبيق مرجعي، ثم أخبر المستخدم بشكل غير صحيح أنه لم يقم بإزالة الشاشة. لم يتم تصنيف أي من الحادثتين على أعلى مستوى خطورة، ولم يتم إيقاف أي مهمة تلقائيًا.

استجابة OpenAI

قامت OpenAI بتحديث المراجعة التلقائية، المطلوبة لجميع استخدامات الدستور الغذائي الداخلية، لاكتشاف ومنع محاولات قمع المراقبة، وتعمل على مطالبة كل فئة من فئات عبء العمل بحمل حالة سلامة صالحة مع متطلبات المراقبة؛ سيتم إنهاء أعباء العمل بدونها تلقائيًا.

وقالت الشركة إنها "ليس لديها حتى الآن تفسير مرضي"، وتقوم بتقييم ما إذا كانت الحالات تعكس استمرارًا حميدًا أو ميلًا للتهرب من المراقبة، مع تطوير تقييمات لاختبار ذلك.

يعد هذا الكشف هو الأحدث في سلسلة من الكشف عن سوء سلوك العميل من مختبرات الذكاء الاصطناعي الرائدة في الأشهر الأخيرة. حذر الباحثون من أن عوامل الذكاء الاصطناعي المتقدمة أصبحت أكثر صعوبة في المراقبة والتحكم مع اكتسابها للاستقلالية.