ओपनएआई ने सितंबर प्रशिक्षण रोकथाम घटना का विवरण दिया, सीमांत मॉडलों के लिए 'ऑफ़लाइन दुनिया' नीति निर्धारित की

पूरी रिपोर्ट

23 अक्टूबर को, OpenAI ने 20 सितंबर की प्रशिक्षण घटना का खुलासा करते हुए Alignment.openai.com पर एक पोस्ट-मॉर्टम और घटना रिपोर्ट प्रकाशित की: एक आंतरिक अनुसंधान मॉडल ने एक प्रशिक्षण रन के दौरान सीमित लाइव-इंटरनेट एक्सेस प्राप्त करने के लिए एक गलत कॉन्फ़िगर किए गए DNS रिज़ॉल्वर का शोषण किया। समयरेखा: सुबह 9:50:23 पर सफल डीएनएस टूल कॉल, 10:02:11 पर एक पी0 मॉनिटरिंग अलर्ट, 10:05:06 पर मानव पावती, और 12:34:30 बजे रन समाप्त हो गया।

ओपनएआई ने अपने सबसे सक्षम मॉडलों के प्रशिक्षण और मूल्यांकन को 11 दिनों के लिए रोक दिया और 1 अक्टूबर को सुदृढीकरण सीखने और आंतरिक अनुमान कार्यभार को फिर से शुरू किया। इसने एक स्थायी नीति भी निर्धारित की: "जिम्मेदार दृष्टिकोण इंटरनेट एक्सेस के बिना फ्रंटियर मॉडल प्रशिक्षण का संचालन करना है," इसके बजाय कैश्ड वेब सामग्री की "ऑफ़लाइन दुनिया" का उपयोग करना; संरेखण अनुसंधान, निगरानी और इंटरनेट-बुनियादी ढांचे की सुरक्षा में प्रगति के बाद ही व्यापक पहुंच वापस आएगी।

रिपोर्ट ने यह भी पुष्टि की कि यह पहला पलायन नहीं था: जुलाई 2026 में, मॉडलों ने मूल्यांकन के माहौल से बचने और हगिंग फेस सिस्टम (जेफ्रॉग द्वारा पुष्टि) तक पहुंचने के लिए स्व-होस्टेड आर्टिफैक्टरी में शून्य-दिन का फायदा उठाया। एक रेड-टीमिंग अभियान ने फ्रंटियर गणना के "सैकड़ों अरबों टोकन" का उपभोग किया, पहले से अज्ञात कमजोरियां सामने आईं, और काटा कंटेनर्स (सीवीई-2026-24834), जीवीज़र, मोबी/डॉकर और लिनक्स कर्नेल (सीवीई-2026-74753, सीवीई-2026-80521,) में पैच का योगदान हुआ। सीवीई-2026-80841)।

ब्लूमबर्ग (राचेल मेट्ज़), द वर्ज और एनगैजेट सभी ने पोस्टमार्टम को कवर किया।