ओपनएआई ने डेब्रेक सुरक्षा उपकरण लॉन्च किए जो ऐप्स का परीक्षण करते हैं और उनके पैच का मसौदा तैयार करते हैं

ओपनएआई ने 12 नवंबर को अपने "साइबर एट द फ्रंटियर" मुख्य वक्ता के रूप में अपने डेब्रेक साइबर सुरक्षा प्लेटफॉर्म के तहत दो उत्पादों का अनावरण किया: डेब्रेक रेड टीम और डेब्रेक डिफेंस फैक्ट्री, एआई एजेंटों को सुरक्षा के दोनों पक्षों पर काम करने के लिए रखा गया - खामियां ढूंढना और उन्हें ठीक करना - जबकि मानव समीक्षा को लूप में रखना।

रेड टीम: स्वचालित पेन-परीक्षण जो दोष साबित करता है

रेड टीम अब शुरुआती पहुंच में है और अनुप्रयोगों के लिए खुला है। एआई एजेंटों की टीमें एक साथ एक वेब एप्लिकेशन का परीक्षण करती हैं: वे स्रोत कोड और एप्लिकेशन संदर्भ को पढ़ते हैं, संभावित हमले के रास्तों को मैप करते हैं, फिर सत्यापित करते हैं कि क्या वास्तव में कमजोरी का फायदा उठाया जा सकता है, और परीक्षण करते हैं कि क्या कोई फिक्स काम करता है। नैन्सी वांग, जो ओपनएआई में साइबर-एप्लाइड एआई का नेतृत्व करती हैं, ने मुख्य भाषण में इसे "स्वचालित निरंतर स्कैनिंग के पैमाने पर अलौकिक पेन-परीक्षण" के रूप में वर्णित किया।

रक्षा फ़ैक्टरी: मूल कारण का पता लगाना और पैच का मसौदा तैयार करना

डिफेंस फ़ैक्टरी बाकी आधे काम को संभालती है। इसके एजेंट रेड टीम से या टीम द्वारा पहले से उपयोग किए जाने वाले टूल से खोज करते हैं - कोडबेस में इसके मूल कारण का पता लगाते हैं, और किसी भी चीज़ के विलय से पहले इंजीनियरों की समीक्षा के लिए परीक्षणों के साथ एक प्रस्तावित समाधान तैयार करते हैं; प्लेटफ़ॉर्म स्वयं फ़िक्सेस तैनात नहीं करता है। यह विज़, स्निक और एंडोर लैब्स के निष्कर्षों के साथ काम करता है, गिटहब रिपॉजिटरी से जुड़ता है, और उन कार्यस्थानों के लिए चैटजीपीटी के अंदर पूर्वावलोकन प्लगइन के रूप में उपलब्ध है जिनके पास पहले से ही डेब्रेक एक्सेस है।

नीचे दिए गए मॉडल, और कीमत का प्रश्न

दोनों उत्पाद OpenAI के विशेषज्ञ साइबर मॉडल पर चलते हैं, जिसमें GPT-6 साइबर भी शामिल है, जो 5 नवंबर को जारी किया गया था और रक्षात्मक डेब्रेक ब्लू और आक्रामक डेब्रेक रेड मॉडल के साथ, कंपनी की तैयारी फ्रेमवर्क के तहत साइबर सुरक्षा जोखिम के लिए क्रिटिकल रेटिंग वाला पहला OpenAI मॉडल है। ओपनएआई ने किसी भी उत्पाद के लिए मूल्य निर्धारण की घोषणा नहीं की है: रेड टीम अर्ली-एक्सेस एप्लिकेशन के माध्यम से उपलब्ध है, और डिफेंस फैक्ट्री बिक्री वार्तालाप के माध्यम से उपलब्ध है। डेब्रेक प्लेटफ़ॉर्म स्वयं 22 जून को लॉन्च हुआ।

हमले के दोनों ओर स्वचालन

लॉन्च का मतलब है कि एक कंपनी अब हमलावरों और रक्षकों दोनों को एआई एजेंट बेच रही है: रेड टीम स्वचालित रूप से खामियां ढूंढती है, डिफेंस फैक्ट्री उन्हें स्वचालित रूप से ठीक करती है। OpenAI इस बात पर जोर देता है कि किसी भी पैच को मर्ज करने से पहले मानवीय समीक्षा ही द्वार बनी रहती है - लेकिन जैसे-जैसे एजेंट पूर्ण कोडबेस तक पहुंच प्राप्त करते हैं और लंबे समय तक बिना निगरानी के चलते रहते हैं, कंपनियां अपनी अनुमतियों का दायरा कैसे बढ़ाती हैं और अपने कार्यों का ऑडिट कैसे करती हैं, यह अपनाने वालों के लिए महत्वपूर्ण सवाल होगा।

(स्रोत: ओपनएआई; द रजिस्टर; सिक्योरिटीवीक; जीबीहैकर्स।)