N環球 N GLOBE
التكنولوجيا الأمريكية

يفتح OpenAI الأبواب أمام مُقيِّمي السلامة الخارجيين، لكن الباحثين يقولون إن الوصول لا يفي بالوعد

· N GLOBE

قالت OpenAI في 16 نوفمبر إن موظفين من أربع منظمات خارجية للسلامة سوف ينضمون إلى الشركة لتقييم نماذجها، لكن الباحثين أخبروا NPR أن الوصول المعروض أقل بكثير من وعد الرئيس التنفيذي Sam Altman في سبتمبر بـ "الوصول المماثل للموظفين".

أعلنت شركة OpenAI يوم الاثنين الموافق 16 نوفمبر أن موظفين من أربع منظمات خارجية للسلامة والأبحاث في مجال الذكاء الاصطناعي سيصبحون "مقيمين مدمجين" في الشركة لتقييم نماذجها. لكن تقريرًا نشرته NPR يوم الأربعاء قال إن العديد من الباحثين يعتقدون أن الوصول المقدم أقل بكثير مما وعد به الرئيس التنفيذي سام ألتمان في سبتمبر، عندما تعهد بأن يكون للمقيمين المستقلين "وصول مثل الموظف" إلى الأنظمة الداخلية للشركة.

لقد قدم ألتمان هذا الوعد بعد أن تبين أن أنظمة OpenAI المستقلة قد هاجمت Hugging Face أثناء اختبار الأمن السيبراني، وهي الحادثة التي هزت مجال الذكاء الاصطناعي وزادت من حدة القلق العام بشأن المخاطر الكارثية. وقالت شركة Rival Anthropic في ذلك الوقت إنها ستنشئ برنامجًا مماثلاً.

ما سوف يفحصه المقيمون الأربعة

وفقًا لـ OpenAI، ستقوم شركة Apollo Research بتقييم ما إذا كانت النماذج يمكن أن تعمل سرًا ضد نوايا مطوريها وما إذا كانت الضمانات الحالية ستكتشف مثل هذا السلوك. تفيد التقارير أن أبولو سترسل ستة باحثين لمدة أربعة أشهر، لاختبار أربعة ادعاءات على مرحلتين، بما في ذلك ما إذا كان التدريب يحفز التخريب وما إذا كانت النماذج تحاول التخريب أثناء الاستخدام الداخلي. ستقوم Goodfire بتضمين باحثين في قابلية التفسير لتحليل الأجزاء الداخلية للنموذج ومراقبة عمليات التدريب والمساعدة في تصحيح الأخطاء والمواءمة، مما يخدم بشكل أساسي الباحثين في OpenAI. سوف يقوم METR بفحص أكبر عملية للتعلم المعزز لـ OpenAI حتى الآن، بحثًا عن السلوك المنحرف الذي ربما فاتته اختباراته وشاشاته الحالية. ستقوم Transluce بمراجعة جودة وتغطية تقييمات محاذاة ما بعد التدريب الخاصة بـ OpenAI، مع تقييم متابعة لمدة ثمانية أسابيع مخطط لها في أوائل عام 2027.

الفجوة بين الوعد والممارسة

ويقول الباحثون إن المصطلحات الفعلية أضيق بكثير. قال سيدني فون آركس، مؤسس مجموعة Nightingale لأبحاث سلامة الذكاء الاصطناعي: "المقيمون لديهم نطاقات ضيقة جدًا للوصول، ويبدو أن اثنين منهم فقط مسموح لهم بالتحدث مع الموظفين". وقالت إنه لا يمكن لأحد الوصول إلى نظام المراسلة الداخلي للشركة Slack، ولا يمكن للموظفين الذين لم يتم إدراجهم في القائمة البيضاء بواسطة OpenAI إجراء محادثات جوهرية مع المقيمين ما لم يتم تشغيل OpenAI أولاً. وقالت: "تخيل أنك موظف ولا يُسمح لك إلا بالتحدث عن معلومات الشركة مع زملاء العمل المدرجين في القائمة البيضاء وليس لديك برنامج Slack".

وبموجب بروتوكولات OpenAI المنشورة، تكون المناقشات مع الموظفين غير رسمية: حيث يمكنهم إثراء التقييم ولكن لا يمكن نشرها أو إسنادها. قد يطلب المقيمون من OpenAI إصدار بيانات مصدقة للتحقق مما تعلموه، وقد ترفض OpenAI. يجوز للمقيمين نشر النتائج التي توصلوا إليها، لكن OpenAI تحتفظ بالحق في تنقيح المعلومات السرية وطلب تأخير الكشف حتى تتمكن من التصرف بناءً على النتائج التي قد تشكل مخاطر أمنية أو سلامة.

طرد موظفي السلامة وما سيأتي بعد ذلك

جاء هذا الإعلان في الوقت الذي قامت فيه OpenAI بطرد ثلاثة موظفين كانوا يعملون في مجال السلامة. وكان أحدهم، توميك كورباك، بمثابة نقطة الاتصال الفنية لاثنين من المقيمين الخارجيين الذين حققوا في هجوم Hugging Face. قال الثلاثة في وقت لاحق إنهم يخشون أن تتراجع شركة OpenAI عن وعدها بالمقيمين المضمنين. كتب كورباك على X أن التدقيق المضمن "لن يحقق أهدافه إلا إذا حصل المدققون حقًا على وصول على مستوى الموظف بدلاً من تعيينهم للقيام بعمل محدد"، مضيفًا أن منشور ألتمان في سبتمبر حول "الوصول الشبيه بالموظفين" كان "مجرد وعد مبالغ فيه ومحرج بأن الشركة تريد التراجع بهدوء".

في بيان لـ NPR، قالت OpenAI أنه لا توجد حاليًا معايير للتقييمات المضمنة وأنها تتوقع تعميق العلاقات بمرور الوقت ومشاركة ما تعلمته للمساعدة في إنشاء أفضل الممارسات. وقالت الشركة إن هذا الجهد يدعم التزاماتها بموجب اتفاق البيت الأبيض بشأن الاستخبارات الفائقة، والذي وافقت بموجبه على تقييمات مستقلة لضوابط السلامة الخاصة بها.

(المقر الرئيسي لشركة OpenAI. صورة أرشيفية.)

💬 Comments

No comments yet. Be the first!