OpenAI بیرونی حفاظتی جائزہ لینے والوں کے لیے دروازے کھولتا ہے، لیکن محققین کا کہنا ہے کہ رسائی وعدے سے بہت کم ہے۔

اوپن اے آئی نے 16 نومبر کو کہا کہ چار بیرونی حفاظتی تنظیموں کا عملہ اس کے ماڈلز کا جائزہ لینے کے لیے کمپنی میں سرایت کرے گا، لیکن محققین نے NPR کو بتایا کہ پیشکش پر رسائی سی ای او سیم آلٹ مین کے ستمبر میں 'ملازمین جیسی رسائی' کے وعدے سے بہت کم ہے۔
OpenAI نے پیر، 16 نومبر کو اعلان کیا کہ AI حفاظتی اور تحقیقی تنظیموں سے باہر کے چاروں کا عملہ اس کے ماڈلز کا جائزہ لینے کے لیے کمپنی میں 'ایمبیڈڈ اسیسرز' بن جائے گا۔ لیکن بدھ کے روز این پی آر کی طرف سے شائع ہونے والی ایک رپورٹ میں کہا گیا ہے کہ بہت سے محققین کا خیال ہے کہ رسائی کی پیشکش اس سے کہیں کم ہے جس کا ستمبر میں چیف ایگزیکٹو سیم آلٹ مین نے وعدہ کیا تھا، جب انہوں نے وعدہ کیا تھا کہ آزاد تشخیص کاروں کو کمپنی کے اندرونی نظام تک 'ملازمین کی طرح رسائی' حاصل ہوگی۔
Altman نے یہ وعدہ اس کے سامنے آنے کے بعد کیا تھا کہ OpenAI کے خود مختار نظاموں نے سائبر سیکیورٹی ٹیسٹنگ کے دوران Hugging Face پر حملہ کیا تھا، ایک ایسا واقعہ جس نے AI فیلڈ کو ہلا کر رکھ دیا اور تباہ کن خطرے کے بارے میں عوامی تشویش کو تیز کر دیا۔ حریف اینتھروپک نے اس وقت کہا تھا کہ وہ اسی طرح کا پروگرام ترتیب دے گا۔
چار تشخیص کنندگان کیا جانچیں گے۔
OpenAI کے مطابق، Apollo Research اس بات کا جائزہ لے گی کہ آیا ماڈل خفیہ طور پر اپنے ڈویلپرز کے ارادوں کے خلاف کام کر سکتے ہیں اور کیا موجودہ حفاظتی اقدامات اس طرح کے رویے کا پتہ لگا سکتے ہیں۔ اپالو کے بارے میں بتایا گیا ہے کہ وہ چھ محققین کو چار مہینوں کے لیے بھیج رہا ہے، دو مراحل میں چار دعووں کی جانچ کر رہا ہے، جس میں یہ بھی شامل ہے کہ آیا تربیت کی ترغیب دی گئی تخریب کاری اور کیا ماڈلز نے اندرونی استعمال کے دوران بغاوت کی کوشش کی۔ Goodfire ماڈل انٹرنلز کا تجزیہ کرنے، ٹریننگ رنز کی نگرانی اور ڈیبگنگ اور الائنمنٹ میں مدد کرنے کے لیے تشریحی محققین کو سرایت کرے گا، بنیادی طور پر OpenAI کے اپنے محققین کی خدمت کرے گا۔ METR اوپن اے آئی کے اب تک کے سب سے بڑے کمک سیکھنے کے رن کی جانچ کرے گا، غلط رویے کی تلاش میں جو اس کے موجودہ ٹیسٹ اور مانیٹرس سے محروم ہو سکتے ہیں۔ Transluce 2027 کے اوائل کے لیے تقریباً آٹھ ہفتوں کے بعد کی تشخیص کے ساتھ، OpenAI کے پوسٹ ٹریننگ الائنمنٹ تشخیص کے معیار اور کوریج کا جائزہ لے گا۔
وعدے اور عمل کے درمیان فرق
محققین کا کہنا ہے کہ اصل اصطلاحات اس سے کہیں زیادہ تنگ ہیں۔ اے آئی سیفٹی ریسرچ گروپ نائٹنگیل کے بانی، سڈنی وان آرکس نے کہا، 'تجزیہ کاروں کے پاس اپنی رسائی کے لیے بہت تنگ دائرہ کار ہے، اور ایسا لگتا ہے کہ ان میں سے صرف دو کو واقعی ملازمین سے بات کرنے کی اجازت ہے۔' انہوں نے کہا کہ کسی کو بھی کمپنی کے اندرونی سلیک میسجنگ سسٹم تک رسائی حاصل نہیں ہے، اور وہ ملازمین جن کو OpenAI کے ذریعے وائٹ لسٹ نہیں کیا گیا ہے وہ تشخیص کاروں کے ساتھ اس وقت تک اہم بات چیت نہیں کر سکتے جب تک OpenAI کو پہلے نہیں دیکھا جاتا۔ اس نے کہا، 'ایک ملازم ہونے کا تصور کریں اور صرف وائٹ لسٹ شدہ ساتھی کارکنوں کے ساتھ کمپنی کی معلومات کے بارے میں بات کرنے کی اجازت دی جائے اور اس میں کوئی سستی نہ ہو۔
OpenAI کے شائع شدہ پروٹوکول کے تحت، ملازمین کے ساتھ بات چیت ریکارڈ سے باہر ہے: وہ ایک تشخیص کو مطلع کر سکتے ہیں لیکن شائع یا منسوب نہیں کیا جا سکتا. جائزہ لینے والے OpenAI سے تصدیق شدہ بیانات جاری کرنے کے لیے کہہ سکتے ہیں جو انھوں نے سیکھا ہے، اور OpenAI انکار کر سکتا ہے۔ جائزہ لینے والے اپنے نتائج شائع کر سکتے ہیں، لیکن OpenAI خفیہ معلومات کو دوبارہ ترتیب دینے اور افشاء میں تاخیر کی درخواست کرنے کا حق اپنے پاس رکھتا ہے تاکہ یہ ان نتائج پر عمل کر سکے جو سلامتی یا حفاظت کے خطرات کا باعث بن سکتے ہیں۔
برطرف حفاظتی عملہ اور آگے کیا ہوتا ہے۔
یہ اعلان اس وقت سامنے آیا جب OpenAI نے حفاظت پر کام کرنے والے تین ملازمین کو برطرف کردیا۔ ان میں سے ایک، ٹومیک کوربک، دو بیرونی جائزہ کاروں کے رابطے کا تکنیکی نقطہ تھا جنہوں نے ہیگنگ فیس حملے کی تحقیقات کی۔ تینوں نے بعد میں کہا کہ انہیں خدشہ ہے کہ اوپن اے آئی ایمبیڈڈ ایویلیوٹرز کے اپنے وعدے سے پیچھے ہٹ رہی ہے۔ کورباک نے X پر لکھا کہ ایمبیڈڈ آڈیٹنگ 'اپنے مقاصد کو صرف اس صورت میں پورا کرے گی جب آڈیٹرز کو کسی خاص کام کے لیے ملازم کی سطح تک رسائی حاصل ہو جائے، اس کے برعکس 'ملازمین جیسی رسائی' کے بارے میں آلٹ مین کی ستمبر کی پوسٹ 'صرف ایک عجیب و غریب وعدہ تھا کہ کمپنی خاموشی سے واپس چلنا چاہتی ہے'۔
NPR کو ایک بیان میں، OpenAI نے کہا کہ ایمبیڈڈ تشخیص کے لیے فی الحال کوئی معیار نہیں ہے اور یہ توقع کرتا ہے کہ وقت کے ساتھ ساتھ تعلقات مزید گہرے ہوں گے اور بہترین طریقوں کو قائم کرنے میں مدد کے لیے جو کچھ سیکھا ہے اسے شیئر کریں گے۔ کمپنی نے کہا کہ یہ کوشش سپر انٹیلی جنس پر وائٹ ہاؤس کے معاہدے کے تحت اپنے وعدوں کی حمایت کرتی ہے، جس کے تحت اس نے اپنے حفاظتی کنٹرولز کے آزادانہ جائزوں پر اتفاق کیا۔
(اوپن اے آئی کا ہیڈ کوارٹر۔ فائل فوٹو۔)
N環球 
💬 Comments
No comments yet. Be the first!