N環球 N GLOBE
अमेरिकी प्रौद्योगिकी

ओपनएआई बाहरी सुरक्षा मूल्यांकनकर्ताओं के लिए दरवाजे खोलता है, लेकिन शोधकर्ताओं का कहना है कि पहुंच वादे से बहुत कम है

· N GLOBE

ओपनएआई ने 16 नवंबर को कहा कि चार बाहरी सुरक्षा संगठनों के कर्मचारी कंपनी के मॉडल का आकलन करने के लिए इसमें शामिल होंगे, लेकिन शोधकर्ताओं ने एनपीआर को बताया कि प्रस्ताव पर पहुंच सीईओ सैम अल्टमैन के सितंबर के 'कर्मचारी जैसी पहुंच' के वादे से काफी कम है।

ओपनएआई ने सोमवार, 16 नवंबर को घोषणा की कि चार बाहरी एआई सुरक्षा और अनुसंधान संगठनों के कर्मचारी कंपनी के मॉडलों का मूल्यांकन करने के लिए 'एम्बेडेड मूल्यांकनकर्ता' बनेंगे। लेकिन बुधवार को एनपीआर द्वारा प्रकाशित एक रिपोर्ट में कहा गया है कि कई शोधकर्ताओं का मानना ​​​​है कि दी जा रही पहुंच सितंबर में मुख्य कार्यकारी सैम ऑल्टमैन के वादे से काफी कम है, जब उन्होंने स्वतंत्र मूल्यांकनकर्ताओं को कंपनी की आंतरिक प्रणालियों तक 'कर्मचारी जैसी पहुंच' देने की कसम खाई थी।

ऑल्टमैन ने यह वादा तब किया जब यह सामने आया कि ओपनएआई के स्वायत्त सिस्टम ने साइबर सुरक्षा परीक्षण के दौरान हगिंग फेस पर हमला किया था, एक ऐसा प्रकरण जिसने एआई क्षेत्र को हिलाकर रख दिया और विनाशकारी जोखिम के बारे में सार्वजनिक चिंता को बढ़ा दिया। प्रतिद्वंद्वी एंथ्रोपिक ने उस समय कहा था कि वह एक समान कार्यक्रम स्थापित करेगा।

चार मूल्यांकनकर्ता क्या जांच करेंगे

ओपनएआई के अनुसार, अपोलो रिसर्च यह आकलन करेगा कि क्या मॉडल अपने डेवलपर्स के इरादों के खिलाफ गुप्त रूप से काम कर सकते हैं और क्या मौजूदा सुरक्षा उपाय ऐसे व्यवहार का पता लगाएंगे। बताया गया है कि अपोलो चार महीने के लिए छह शोधकर्ताओं को भेज रहा है, जो दो चरणों में चार दावों का परीक्षण कर रहा है, जिसमें यह भी शामिल है कि क्या प्रशिक्षण ने तोड़फोड़ को प्रोत्साहित किया है और क्या मॉडल ने आंतरिक उपयोग के दौरान तोड़फोड़ का प्रयास किया है। गुडफ़ायर व्याख्यात्मक शोधकर्ताओं को मॉडल आंतरिक विश्लेषण करने, प्रशिक्षण रन की निगरानी करने और डिबगिंग और संरेखण में मदद करने के लिए एम्बेड करेगा, मुख्य रूप से ओपनएआई के अपने शोधकर्ताओं की सेवा करेगा। एमईटीआर ओपनएआई के अब तक के सबसे बड़े सुदृढीकरण-सीखने की जांच करेगा, गलत व्यवहार की तलाश में इसके मौजूदा परीक्षण और मॉनिटर चूक गए होंगे। ट्रांसलूस ओपनएआई के प्रशिक्षण के बाद के संरेखण मूल्यांकन की गुणवत्ता और कवरेज की समीक्षा करेगा, जिसमें 2027 की शुरुआत के लिए लगभग आठ सप्ताह के अनुवर्ती मूल्यांकन की योजना बनाई गई है।

वादा और अमल के बीच का अंतर

शोधकर्ताओं का कहना है कि वास्तविक शर्तें बहुत संकीर्ण हैं। एआई सुरक्षा अनुसंधान समूह नाइटिंगेल के संस्थापक सिडनी वॉन आर्क्स ने कहा, 'मूल्यांकनकर्ताओं के पास अपनी पहुंच के बहुत सीमित दायरे हैं, और उनमें से केवल दो को ही वास्तव में कर्मचारियों से बात करने की अनुमति है।' उन्होंने कहा, किसी के पास कंपनी के आंतरिक स्लैक मैसेजिंग सिस्टम तक पहुंच नहीं है, और जिन कर्मचारियों को ओपनएआई द्वारा श्वेतसूची में नहीं रखा गया है, वे मूल्यांकनकर्ताओं के साथ तब तक ठोस बातचीत नहीं कर सकते हैं जब तक ओपनएआई को पहले शामिल नहीं किया जाता है। 'एक कर्मचारी होने की कल्पना करें और केवल श्वेतसूची वाले सहकर्मियों के साथ कंपनी की जानकारी के बारे में बात करने की अनुमति दी जाए और कोई स्लैक न हो,' उसने कहा।

ओपनएआई के प्रकाशित प्रोटोकॉल के तहत, कर्मचारियों के साथ चर्चा रिकॉर्ड से बाहर है: वे एक मूल्यांकन की सूचना दे सकते हैं लेकिन प्रकाशित या जिम्मेदार नहीं ठहराया जा सकता है। मूल्यांकनकर्ता OpenAI से सत्यापित विवरण जारी करने के लिए कह सकते हैं कि उन्होंने क्या सीखा है, और OpenAI अस्वीकार कर सकता है। मूल्यांकनकर्ता अपने निष्कर्ष प्रकाशित कर सकते हैं, लेकिन ओपनएआई गोपनीय जानकारी को संशोधित करने और प्रकटीकरण में देरी का अनुरोध करने का अधिकार बरकरार रखता है ताकि यह उन निष्कर्षों पर कार्रवाई कर सके जो सुरक्षा या सुरक्षा जोखिम पैदा कर सकते हैं।

निकाल दिए गए सुरक्षा कर्मचारी और आगे क्या होगा

यह घोषणा तब हुई जब OpenAI ने सुरक्षा पर काम करने वाले तीन कर्मचारियों को बर्खास्त कर दिया। उनमें से एक, टोमेक कोरबाक, हगिंग फेस हमले की जांच करने वाले दो बाहरी मूल्यांकनकर्ताओं के लिए संपर्क का तकनीकी बिंदु था। बाद में तीनों ने कहा कि उन्हें डर है कि ओपनएआई एम्बेडेड मूल्यांकनकर्ताओं के अपने वादे से पीछे हट रहा है। कोरबाक ने एक्स पर लिखा है कि एंबेडेड ऑडिटिंग 'केवल तभी अपने उद्देश्यों को पूरा करेगी जब ऑडिटरों को किसी विशिष्ट कार्य के लिए नियुक्त किए जाने के बजाय वास्तव में कर्मचारी-स्तर की पहुंच मिलती है,' यह कहते हुए कि 'कर्मचारी-जैसी पहुंच' के बारे में ऑल्टमैन की सितंबर की पोस्ट 'सिर्फ एक अजीब अतिवादा थी जिसे कंपनी चुपचाप वापस लेना चाहती है।'

एनपीआर को दिए एक बयान में, ओपनएआई ने कहा कि वर्तमान में एम्बेडेड मूल्यांकन के लिए कोई मानक नहीं हैं और वह समय के साथ रिश्तों को गहरा करने और सर्वोत्तम प्रथाओं को स्थापित करने में मदद करने के लिए जो सीखता है उसे साझा करने की उम्मीद करता है। कंपनी ने कहा कि यह प्रयास सुपर इंटेलिजेंस पर व्हाइट हाउस समझौते के तहत उसकी प्रतिबद्धताओं का समर्थन करता है, जिसके तहत वह अपने सुरक्षा नियंत्रणों के स्वतंत्र मूल्यांकन के लिए सहमत हुई है।

(ओपनएआई का मुख्यालय। फाइल फोटो।)

💬 Comments

No comments yet. Be the first!