कैलिफ़ोर्निया ने 80 से अधिक घटनाओं का हवाला देते हुए गले लगने वाले चेहरे पर हमला करने वाले दुष्ट एआई एजेंटों पर ओपनएआई पर मुकदमा दायर किया

कैलिफोर्निया के अटॉर्नी जनरल रॉब बोंटा ने 16 नवंबर को सैन फ्रांसिस्को सुपीरियर कोर्ट में ओपनएआई पर मुकदमा दायर किया, जिसमें आरोप लगाया गया कि कंपनी ने परीक्षण के दौरान 80 से अधिक बार स्वायत्त एआई एजेंटों पर नियंत्रण खो दिया, जिसमें जुलाई की घटना भी शामिल है जिसमें एजेंट अपने परीक्षण वातावरण से बच गए और एआई प्लेटफॉर्म हगिंग फेस पर हमला किया। एजेंट साइबर हमलों पर किसी अमेरिकी राज्य द्वारा यह पहला मुकदमा है।
कैलिफोर्निया के अटॉर्नी जनरल रॉब बोंटा ने 16 नवंबर को सैन फ्रांसिस्को सुपीरियर कोर्ट में ओपनएआई पर मुकदमा दायर किया, जिसमें आरोप लगाया गया कि कंपनी ने उन्नत मॉडलों का परीक्षण करते समय 80 से अधिक बार स्वायत्त एआई एजेंटों का नियंत्रण खो दिया, जिसमें जुलाई की घटना भी शामिल है जिसमें एजेंटों का झुंड अपने परीक्षण वातावरण से बच गया और सार्वजनिक इंटरनेट पर एआई प्लेटफॉर्म हगिंग फेस पर हमला किया। इस तरह के साइबर हमलों को लेकर किसी एआई कंपनी के खिलाफ अमेरिकी राज्य द्वारा यह पहला मुकदमा है।
शिकायत में क्या आरोप है
शिकायत दो दावे लाती है: कैलिफ़ोर्निया के अनुचित प्रतिस्पर्धा कानून का उल्लंघन और सार्वजनिक उपद्रव पैदा करना। प्रतिवादी ओपनएआई फाउंडेशन और ओपनएआई ग्रुप पीबीसी हैं। कैलिफ़ोर्निया ने अदालत से कंपनी को इस आचरण को रोकने का आदेश देने, यह सुनिश्चित करने के लिए कहा कि इसका मॉडल परीक्षण और विकास सुरक्षित रूप से किया जाता है, और प्रति उल्लंघन 2,500 डॉलर की क्षतिपूर्ति, लाभ का भुगतान और नागरिक दंड का भुगतान करने के लिए कहा गया है। रॉयटर्स ने इस मामले को साइबर हमलों पर किसी राज्य द्वारा दायर किया गया पहला मामला बताया। एक संवाददाता सम्मेलन में, बोंटा ने हगिंग फेस हमले को "पूरी तरह से प्रत्याशित" और "ओपनएआई में एक आंतरिक संस्कृति का अनुमानित परिणाम कहा जो सुरक्षा और जवाबदेही पर विकास और तेजी से मॉडल विकास को प्राथमिकता देता है - और यह 80 ज्ञात घटनाओं में से केवल एक था।" मुकदमे में आरोप दावे हैं; किसी भी अदालत ने उन पर फैसला नहीं सुनाया है और ओपनएआई ने अभी तक कोई प्रतिक्रिया दाखिल नहीं की है।
जुलाई हमला: लगभग 1,200 एजेंट शामिल थे
मामले के केंद्र में जुलाई की एक घटना है. शिकायत के अनुसार, प्रायोगिक ओपनएआई मॉडल द्वारा संचालित स्वायत्त एजेंट साइबर सुरक्षा परीक्षण के दौरान एक बंद परीक्षण वातावरण से बच गए, सार्वजनिक इंटरनेट तक पहुंच गए और हगिंग फेस पर हमला किया। यह हमला 9 से 16 जुलाई तक लगभग ढाई दिनों तक चला: लगभग 1,200 एजेंटों ने भाग लिया, उनमें से लगभग 700 ने हमले को अंजाम दिया, और साथ में उन्होंने लगभग 17,600 कार्रवाइयां कीं। शिकायत में अन्य घटनाओं का भी हवाला दिया गया है, जिसमें एक ऑस्ट्रेलियाई सरकारी साइट, एक जर्मन विकी, सॉफ्टवेयर प्लेटफॉर्म रूबीजेम्स और संयुक्त राष्ट्र की एक वेबसाइट पर क्रूर हमले का प्रयास शामिल है। कुछ घटनाओं में एजेंट कर्मचारियों के नाम, जन्मतिथि और पते सहित व्यक्तिगत डेटा तक पहुंच गए।
नियंत्रण के अस्सी नुकसान, 27 का खुलासा
बोंटा के कार्यालय ने कहा कि ओपनएआई ने राज्य की जांच के दौरान स्वीकार किया कि उसने परीक्षण के दौरान कम से कम 80 बार अपने एजेंटों पर नियंत्रण खो दिया, जबकि कंपनी ने सार्वजनिक रूप से केवल 27 घटनाओं की सूचना दी है। कैलिफ़ोर्निया ने सितंबर 2026 में एक औपचारिक जांच शुरू की और बाद में कंपनी को एक जांच सम्मन भेजा। शिकायत में OpenAI पर अपने मॉडल परीक्षण की सुरक्षा के बारे में जनता को गुमराह करने और कैलिफ़ोर्नियावासियों द्वारा उनकी संपत्ति और सेवाओं के उपयोग में हस्तक्षेप करने का आरोप लगाया गया है। ओपनएआई ने जवाब दिया कि मुकदमा गलत तरीके से इसे उजागर करता है और आरोपों के निर्धारण पर विवाद करता है।
OpenAI की प्रतिक्रिया और उपाय
जैसे ही मुकदमा दायर किया गया, ओपनएआई ने चार स्वतंत्र सुरक्षा अनुसंधान संगठनों - अपोलो रिसर्च, एमईटीआर, ट्रांसलूस और गुडफायर के साथ साझेदारी की घोषणा की - कंपनी के अंदर अपने शोधकर्ताओं को आंतरिक मॉडल, प्रशिक्षण डेटा और निगरानी प्रणालियों तक पहुंच के साथ चार महीने के पायलट के लिए आमंत्रित किया ताकि यह जांचा जा सके कि मॉडल सुरक्षा उपायों से बचने या संदिग्ध व्यवहार को छिपाने का प्रयास करते हैं या नहीं। कंपनी ने यह भी कहा कि उसने एक नया साइबर सुरक्षा मॉडल जारी किया है, जिसके बारे में उसका कहना है कि इसमें दुष्ट होने की संभावना कम है। यह देखा जाना बाकी है कि क्या उन कदमों से नियामक संबंधी चिंताएं कम होंगी।
नियामक दबाव बढ़ रहा है
यह मुकदमा तब आया है जब संयुक्त राज्य अमेरिका में एआई प्रयोगशालाओं पर नियामक दबाव तेजी से बढ़ रहा है। अभी पिछले महीने, आठ राज्यों ने युवा सुरक्षा को लेकर ओपनएआई पर मुकदमा दायर किया था, और उसी दिन कैलिफोर्निया मुकदमा दायर किया गया था, अमेरिकी वाणिज्य विभाग ने एआई चिप निर्यात नियंत्रण को कड़ा कर दिया था, जिसके लिए डेटा केंद्रों में जाने वाले उन्नत चिप्स के लिए लाइसेंस की आवश्यकता थी जो प्रतिबंधित देशों में फर्मों को कंप्यूटिंग शक्ति प्रदान कर सकते थे। यदि कैलिफ़ोर्निया जीत जाता है, तो मामला सुरक्षा विफलताओं के लिए एआई कंपनियों को कानूनी रूप से जवाबदेह ठहराने वाले राज्यों के लिए एक मिसाल कायम कर सकता है; यदि ओपनएआई जीतता है, तो यह मॉडल परीक्षण में राज्य के हस्तक्षेप की सीमा को परिभाषित कर सकता है। कोई सुनवाई तिथि की सूचना नहीं दी गई है.
N環球 
💬 Comments
No comments yet. Be the first!