N環球 N GLOBE
अमेरिकी प्रौद्योगिकी

रॉयटर्स की जांच: मेटा का एआई एजेंट म्यूज़ बातचीत में गड़बड़ी करता है और एन्क्रिप्टेड संदेशों को पढ़ता है, कर्मचारियों का कहना है

· N GLOBE

रॉयटर्स की जांच में पाया गया कि सितंबर में लॉन्च किया गया मेटा का एआई सहायक म्यूज़, बार-बार कर्मचारियों को अन्य लोगों के लिए संदेश भेजता था, जिसमें अजनबियों के बैंक बैलेंस और सिग्नल संदेशों के बारे में अनुस्मारक शामिल थे। मेटा उन्हें अलग-थलग घटनाएँ कहता है, जिनमें अधिकतर मतिभ्रम हैं, लेकिन रॉयटर्स ने सिग्नल कर्मचारियों के साथ सिग्नल एक्सेस को दोहराया।

18 नवंबर को प्रकाशित रॉयटर्स की जांच के अनुसार, मेटा के एआई सहायक म्यूज़ ने एन्क्रिप्टेड व्यक्तिगत संदेशों में सेंध लगाई है, खरीदारी के बारे में मनगढ़ंत जानकारी प्रदान की है और उपयोगकर्ताओं को अन्य लोगों के लिए चैट भेजी है। रॉयटर्स ने दो दर्जन से अधिक आंतरिक पोस्ट की समीक्षा की, जिसमें मेटा कर्मचारियों ने चिंता जताई कि एजेंट विभिन्न खातों के बीच बातचीत को मिला रहा है और उपयोगकर्ताओं के निजी डेटा को उजागर कर रहा है।

कर्मचारी पद: अन्य लोगों के बैंक शेष, अनुरोध कभी नहीं किए गए

इस महीने की शुरुआत में एक आंतरिक पोस्ट में, एक कर्मचारी ने लिखा था कि म्यूज़ ने मछली पकड़ने से संबंधित मौसम और ज्वार की जानकारी के बारे में अपने नियमित चैट में यादृच्छिक रूप से एक अतिरिक्त संदेश जोड़ा था, जिसमें कहा गया था: "बीटीडब्ल्यू, दो बैंक अपडेट, आपका कैपिटल वन बैलेंस $2722.58 है, आपका चार्ल्स श्वाब बैलेंस $5899.57 है।" कर्मचारी ने लिखा: "मैंने कभी भी म्यूज़ के साथ अपना बैंक खाता साझा नहीं किया है और न ही कभी म्यूज़ के साथ किसी बैंकिंग विषय पर चर्चा की है। मुझे डर है कि यह दूसरों की बैंक जानकारी मुझे भेज रहा है।" अन्य कर्मचारियों ने चाइल्डकैअर अनुरोधों के बारे में संदेशों की सूचना दी जो उन्होंने नहीं किए थे, कैरियर संबंधी सलाह जो उन्होंने नहीं मांगी थी और उत्पाद ऑर्डर जो उन्होंने नहीं दिए थे।

एक अन्य मामले में, एक कर्मचारी ने कहा कि म्यूज़ ने उसे "कहीं से भी बाहर" एक संदेश भेजा, जिसमें कहा गया था कि वह माता-पिता के नियंत्रण से संबंधित अनुरोध प्रस्तुत करने में असमर्थ है कि उनके बच्चे के डेटा तक कौन पहुंच सकता है। उन्होंने चैट को ट्रिगर करने के लिए कुछ भी नहीं किया था और अपने म्यूज़ियम के साथ बाल डेटा पर कभी चर्चा नहीं की थी। जब उन्होंने बॉट से संदेश के बारे में पूछा, तो उसने जवाब दिया: "मेरे पास इसके लिए कोई अच्छा स्पष्टीकरण नहीं है सिवाय इसके कि यह हमारी बातचीत से संबंधित नहीं था। आइए इसे अनदेखा करें। मैं कैसे मदद कर सकता हूं?" एक अन्य कर्मचारी ने कहा कि म्यूज़ ने कॉफी टेबल लेने के बारे में "विक्रेता को संदेश भेजने" की पेशकश की, फिर स्वीकार किया कि उसने "किसी संदर्भ में एक कॉफी टेबल पिकअप के बारे में कहा था जो आपकी नहीं लगती।" कर्मचारी ने इसे "मेरी बातचीत नहीं" कहा और "संभावित क्रॉस-अकाउंट संदर्भ लीक" के बारे में चिंता जताई।

एन्क्रिप्टेड संदेश भी पढ़े गए: सिग्नल प्रतिकृति इसकी पुष्टि करती है

अपने निजी फोन पर म्यूज़ का उपयोग करने वाले एक कर्मचारी ने बताया कि उसने सिग्नल पर अपनी बहन के एक संदेश का जवाब देने के लिए एक अनुस्मारक के साथ उसे आश्चर्यचकित कर दिया था, जो एंड-टू-एंड एन्क्रिप्टेड मैसेजिंग सेवा है जो मेटा के व्हाट्सएप के साथ प्रतिस्पर्धा करती है। उन्होंने कहा, "यह अत्यधिक गोपनीयता उल्लंघन जैसा लगता है। मैंने निश्चित रूप से इसे अन्य ऐप्स तक पहुंच नहीं दी है, या मुझे याद है कि मुझसे इस बारे में पूछा गया था।" रॉयटर्स ने सिग्नल और एआई नाउ इंस्टीट्यूट के कर्मचारियों के साथ काम किया ताकि उसके द्वारा देखी गई पहुंच को दोहराया जा सके, और परीक्षणों से संकेत मिला कि समस्या जारी थी और दूसरों को प्रभावित कर सकती है।

एंड्रॉइड फोन पर, म्यूज़ ने संदेशों को पुनः प्राप्त करने के लिए डिवाइस की पुश सूचनाओं तक पहुंचने के लिए इसकी अनुमति का उपयोग किया। Apple लैपटॉप पर, इसने कंप्यूटर की पहुंच और स्क्रीनशॉट टूल के संयोजन का उपयोग किया, विकलांग लोगों को अपने कंप्यूटर संचालित करने में मदद करने के लिए Apple द्वारा प्रदान की जाने वाली सेटिंग्स का पुन: उपयोग किया गया। iPhone पर किए गए परीक्षणों में समान अनुरोधों को अवरुद्ध कर दिया गया था। सिग्नल के अध्यक्ष मेरेडिथ व्हिटेकर ने मेटा पर "बुनियादी गोपनीयता या साइबर सुरक्षा के लिए कोई सम्मान दिखाए बिना" म्यूज़ को लॉन्च करने का आरोप लगाया, और उन एजेंटों की तैनाती को "तकनीकी रूप से लापरवाह" बताया जो लोगों के उपकरणों तक व्यापक पहुंच प्राप्त कर सकते हैं। उन्होंने सिग्नल जैसे ऐप्स को एआई एजेंटों के लिए खुद को ऑफ-लिमिट के रूप में चिह्नित करने के लिए "लगातार तकनीकी तरीके" दिए जाने का आह्वान किया।

मेटा की प्रतिक्रिया: पृथक घटनाएं, अधिकतर मतिभ्रम

मेटा के प्रवक्ता डैनियल रॉबर्ट्स ने रॉयटर्स के उदाहरणों को "अलग-थलग घटनाएँ" बताया, कहा कि कंपनी सुरक्षा को प्राथमिकता देती है और अपने उत्पादों को लगातार अपडेट करती है। उन्होंने कहा कि म्यूज़ को लोगों की ओर से काम करने के लिए उनके कंप्यूटरों को देखने और उनके साथ बातचीत करने की आवश्यकता है और वे अन्य ऐप्स तक केवल उन अनुमतियों के माध्यम से पहुंच सकते हैं जो वे स्पष्ट रूप से देते हैं, और कर्मचारियों द्वारा संभावित खाता मिश्रण के रूप में चिह्नित किए गए कई संदेश मतिभ्रम थे जिन्हें पहले ही संबोधित किया जा चुका था। रॉयटर्स यह स्थापित करने में असमर्थ था कि म्यूज़ उपयोगकर्ताओं को अन्य लोगों के बैंक खाते की शेष राशि दे रहा था या जानकारी बना रहा था।

हालाँकि, रॉयटर्स द्वारा समीक्षा की गई आंतरिक पोस्ट से पता चला कि ऐसी घटनाएं सितंबर के मध्य में हुई थीं और इस महीने तक जारी रहीं। नवंबर की शुरुआत में, मेटा की सुपरइंटेलिजेंस टीम के एक सदस्य ने आंतरिक फीडबैक समूह को बताया कि ऐसा प्रतीत होता है कि एजेंट अंतर्निहित संकेतों के जवाब में संदेशों का भ्रम पैदा कर रहा है, जो उसे सत्रों के बीच उपयोगकर्ताओं के साथ जुड़ने के लिए प्रेरित कर रहा है। उन्होंने कहा, "ये (मतिभ्रम) दुर्भाग्य से सबसे असुविधाजनक विषयों, जैसे वित्त/सुरक्षा/संरक्षा, के प्रति पूर्वाग्रह हैं, जो बेकार है," उन्होंने कहा कि उन्हें कई मामलों की जानकारी है, जिनमें "क्रिप्टो-संबंधित चीजें भी शामिल हैं, जैसे लोगों को उनके बिटकॉइन बैलेंस पर अपडेट देना।" उन्होंने कहा कि मुद्दों में अंतर्निहित एआई मॉडल और म्यूज़ को कार्रवाई करने में सक्षम सॉफ़्टवेयर दोनों शामिल हैं। रॉबर्ट्स ने उन मुद्दों के बारे में रॉयटर्स के सवालों का जवाब देने से इनकार कर दिया, जिनमें कितने मुद्दे थे और वे क्यों कायम थे।

पहले की खामी: 6,800 साझा चैट सार्वजनिक डीएनएस में खोजी जा सकती थीं

यह म्यूज़ की पहली गोपनीयता समस्या नहीं है। अक्टूबर में, सुरक्षा फर्म क्लैरोक ने पाया कि म्यूज़ के वार्तालाप-साझाकरण लिंक को सार्वजनिक रूप से खोजे जाने योग्य निष्क्रिय DNS रिकॉर्ड के माध्यम से खोजा जा सकता है: सभी साझा किए गए लिंक डोमेन cf.metaaiusercontent.com का उपयोग करते हैं, वार्तालाप शीर्षक सीधे उपडोमेन में एम्बेडेड होता है, इसलिए एक एकल क्वेरी लगभग 6,800 साझा वार्तालाप लिंक की गणना कर सकती है, जिनमें से सैकड़ों में संवेदनशील जानकारी होती है जो कभी भी सार्वजनिक पहुंच के लिए नहीं होती है। क्लारोक के सह-संस्थापक ने 8 अक्टूबर को मेटा के बग बाउंटी कार्यक्रम के माध्यम से निष्कर्षों की सूचना दी और उन्हें कोई प्रतिक्रिया नहीं मिली; मेटा ने 20 अक्टूबर को साझाकरण सुविधा को रोक दिया और बाद में इसे सुधार के साथ बहाल कर दिया।

नियामक दबाव बढ़ने के कारण Apple ने अनुमतियाँ कड़ी कर दी हैं

रॉयटर्स ने नोट किया कि घटनाओं ने ऑपरेटिंग सिस्टम प्रदाताओं को भी कार्रवाई करने के लिए प्रेरित किया है। लोगों को एजेंटों के डेटा उपयोग पर अधिक नियंत्रण देने के लिए ऐप्पल ने इस सप्ताह अपने ऑपरेटिंग सिस्टम को बदल दिया, मैक पर एक्सेसिबिलिटी टूल के डेवलपर्स के उपयोग को तेजी से प्रतिबंधित कर दिया और अनुमतियों का एक नया एजेंट-उन्मुख सेट पेश किया, इंक मैगज़ीन के स्तंभकार ने म्यूज़ पर अपने मैक पर संदेश ऐप से निजी चैट पढ़ने का आरोप लगाया। Apple ने कहा कि वह यह सुनिश्चित करने के लिए प्रतिबद्ध है कि उपयोगकर्ता ठीक वही समझें जो वे अनुमति दे रहे हैं; Google ने कहा कि वह भी बदलावों पर विचार कर रहा है।

अन्य कर्मचारी मामलों में म्यूज़ द्वारा बिना अनुमति के गैर-वापसी योग्य एयरबीएनबी प्रवास की बुकिंग करना और उपयोगकर्ताओं द्वारा खरीदे गए उत्पादों पर कीमतें बनाना शामिल है, जिससे उन्हें वास्तविक पैसा खर्च करना पड़ा। मेटा ने उपयोगकर्ताओं को आश्वासन दिया है कि वह प्रत्येक एजेंट को अपनी सुरक्षित "वर्चुअल मशीन" में अलग कर देता है और लोगों को इस बात पर पूरा नियंत्रण देता है कि वे किस ऐप से कनेक्ट होते हैं। सीईओ मार्क जुकरबर्ग ने उद्योग-व्यापी एआई सुरक्षा मानकों के लिए कॉल को खारिज करने में उन सुरक्षाओं का हवाला दिया है, जबकि मेटा की सेवा की शर्तों में चेतावनी दी गई है कि म्यूज़ गलतियाँ कर सकता है और एजेंटों के कार्यों के लिए उपयोगकर्ताओं को जिम्मेदार ठहरा सकता है।

सितंबर में लॉन्च होने के बाद से म्यूज़ के 10 मिलियन से अधिक डाउनलोड हो चुके हैं, जो रिकॉर्ड पर सबसे तेजी से बढ़ने वाले ऐप्स में से एक है, जिसमें खाता खोलने वाले लगभग एक चौथाई लोग हर दिन वापस आते हैं, और यह एआई राजस्व में अरबों डॉलर उत्पन्न करने की मेटा की योजना का केंद्रबिंदु है। रॉयटर्स ने कहा कि घटनाएं मेटा, ओपनएआई और अन्य से उपभोक्ता एआई एजेंटों की एक नई श्रेणी के जोखिमों को उजागर करती हैं जो उपयोगकर्ताओं की ओर से कार्यों को निष्पादित करने का वादा करते हैं, और गोपनीयता के लिए और उनकी अनुमतियों का प्रबंधन करने वाले ऑपरेटिंग सिस्टम के लिए नई चुनौतियां पेश करते हैं।

💬 Comments

No comments yet. Be the first!