N環球 N GLOBE
امریکی ٹیکنالوجی

رائٹرز کی تحقیقات: عملے کا کہنا ہے کہ میٹا کا اے آئی ایجنٹ میوز گفتگو کو ملا دیتا ہے اور انکرپٹڈ پیغامات پڑھتا ہے

· N GLOBE

رائٹرز کی ایک تحقیقات میں پتہ چلا کہ ستمبر میں شروع کی گئی میٹا کے AI اسسٹنٹ میوز نے ملازمین کو بار بار پیغامات بھیجے جن کا مقصد دوسرے لوگوں کے لیے ہوتا ہے، بشمول اجنبیوں کے بینک بیلنس اور سگنل پیغامات کے بارے میں یاددہانی۔ میٹا انہیں الگ تھلگ واقعات قرار دیتا ہے، زیادہ تر فریب نظر، لیکن رائٹرز نے سگنل کے عملے کے ساتھ سگنل تک رسائی کو نقل کیا۔

18 نومبر کو شائع ہونے والی روئٹرز کی تحقیقات کے مطابق، میٹا کے AI اسسٹنٹ میوز نے خفیہ کردہ ذاتی پیغامات کو جمع کیا، خریداری کے بارے میں بنائی گئی معلومات فراہم کیں اور صارفین کی چیٹس بھیجی جو بظاہر دوسرے لوگوں کے لیے ہیں۔

اسٹاف پوسٹس: دوسرے لوگوں کے بینک بیلنس، درخواستیں کبھی نہیں کی گئیں۔

اس مہینے کے شروع میں ایک داخلی پوسٹ میں، ایک ملازم نے لکھا کہ Muse نے ماہی گیری سے متعلق موسم اور جوار کی معلومات کے بارے میں اپنی باقاعدہ چیٹس میں تصادفی طور پر ایک اضافی پیغام شامل کیا ہے، جس میں کہا گیا ہے: "BTW، دو بینک اپڈیٹس، آپ کا Capital One بیلنس $2722.58 ہے، آپ کا Charles Schwab بیلنس $5899.57 ہے۔" ملازم نے لکھا: "میں نے کبھی بھی اپنے بینک اکاؤنٹ کو میوز کے ساتھ شیئر نہیں کیا اور نہ ہی کبھی میوز کے ساتھ بینکنگ کے کسی موضوع پر بات کی۔ مجھے ڈر ہے کہ یہ مجھے کسی دوسرے کے بینک کی معلومات بھیج رہا ہے۔" دوسرے ملازمین نے بچوں کی دیکھ بھال کی درخواستوں کے بارے میں پیغامات کی اطلاع دی جو انہوں نے نہیں کی تھی، کیریئر کے مشورے جو انہوں نے نہیں مانگے تھے اور پروڈکٹ آرڈرز کے بارے میں جو انہوں نے نہیں دی تھیں۔

ایک اور معاملے میں، ایک ملازم نے کہا کہ میوز نے اسے "کہیں سے باہر" ایک پیغام بھیجا کہ وہ والدین کے کنٹرول سے متعلق درخواست جمع کرنے سے قاصر ہے کہ کون ان کے بچے کے ڈیٹا تک رسائی حاصل کر سکتا ہے۔ اس نے چیٹ کو متحرک کرنے کے لیے کچھ نہیں کیا تھا اور نہ ہی اس نے اپنے میوزک کے ساتھ بچوں کے ڈیٹا پر بات کی تھی۔ جب اس نے بوٹ سے اس پیغام کے بارے میں پوچھا تو اس نے جواب دیا: "میرے پاس اس کے لیے کوئی اچھی وضاحت نہیں ہے اس کے علاوہ کہ یہ ہماری گفتگو سے متعلق نہیں ہے۔ آئیے اسے نظر انداز کر دیں۔ میں کیسے مدد کر سکتا ہوں؟" ایک اور عملے نے بتایا کہ میوز نے تصادفی طور پر کافی ٹیبل اٹھانے کے بارے میں "بیچنے والے کو میسج کرنے" کی پیشکش کی، پھر اعتراف کیا کہ اس نے "کافی ٹیبل پک اپ کے بارے میں کچھ سیاق و سباق میں کھینچا تھا جو لگتا ہے کہ آپ کا نہیں ہے۔" ملازم نے اسے "میری بات چیت نہیں" کہا اور "ممکنہ کراس اکاؤنٹ سیاق و سباق کے لیک" کے بارے میں تشویش کا اظہار کیا۔

خفیہ کردہ پیغامات بھی پڑھے گئے: سگنل کی نقل اس کی تصدیق کرتی ہے۔

اپنے ذاتی فون پر میوزک استعمال کرنے والے ایک ملازم نے اطلاع دی کہ اس نے میٹا کے واٹس ایپ کے ساتھ مقابلہ کرنے والی اینڈ ٹو اینڈ انکرپٹڈ میسجنگ سروس سگنل پر اپنی بہن کے پیغام کا جواب دینے کی یاد دہانی سے اسے حیران کر دیا ہے۔ "یہ رازداری کی انتہائی خلاف ورزی کی طرح لگتا ہے۔ میں نے یقینی طور پر اسے دوسری ایپس تک رسائی نہیں دی، یا اس کے بارے میں پوچھا گیا تھا،" اس نے کہا۔ رائٹرز نے سگنل اور اے آئی ناؤ انسٹی ٹیوٹ کے عملے کے ساتھ مل کر اس رسائی کو نقل کرنے کے لیے کام کیا جو اس نے دیکھا تھا، اور ٹیسٹوں نے اشارہ کیا کہ مسئلہ جاری ہے اور دوسروں کو متاثر کر سکتا ہے۔

اینڈرائیڈ فون پر، میوز نے پیغامات کو بازیافت کرنے کے لیے ڈیوائس کے پش نوٹیفیکیشنز تک رسائی کے لیے اپنی اجازت کا استعمال کیا۔ ایپل کے لیپ ٹاپ پر، اس نے کمپیوٹر کی ایکسیسبیلٹی اور اسکرین شاٹ ٹولز کا ایک مجموعہ استعمال کیا، جو ایپل معذور افراد کو اپنے کمپیوٹر چلانے میں مدد کرنے کے لیے پیش کردہ ترتیبات کو دوبارہ پیش کرتا ہے۔ آئی فون پر کیے گئے ٹیسٹوں میں انہی درخواستوں کو روک دیا گیا تھا۔ سگنل کے صدر میرڈیتھ وائٹیکر نے میٹا پر "بنیادی رازداری یا سائبرسیکیوریٹی کا کوئی احترام ظاہر کیے بغیر" میوزک لانچ کرنے کا الزام لگایا، اور ایسے ایجنٹوں کی تعیناتی کو قرار دیا جو لوگوں کے آلات تک وسیع رسائی حاصل کر سکتے ہیں "تکنیکی طور پر لاپرواہ۔" اس نے سگنل جیسی ایپس کو "مسلسل تکنیکی طریقے" دیے جانے کا مطالبہ کیا تاکہ وہ خود کو AI ایجنٹوں کی حد سے دور کر سکیں۔

میٹا کا ردعمل: الگ تھلگ واقعات، زیادہ تر فریب نظر

میٹا کے ترجمان ڈینیئل رابرٹس نے رائٹرز کی مثالوں کو "الگ تھلگ واقعات" قرار دیتے ہوئے کہا کہ کمپنی حفاظت کو ترجیح دیتی ہے اور اپنی مصنوعات کو مسلسل اپ ڈیٹ کرتی رہتی ہے۔ انہوں نے کہا کہ میوز کو لوگوں کے کمپیوٹرز کو ان کی طرف سے کام کرنے کے لیے دیکھنے اور ان کے ساتھ بات چیت کرنے کی ضرورت ہے اور وہ صرف ان اجازتوں کے ذریعے ہی دوسری ایپس تک رسائی حاصل کر سکتا ہے جو وہ واضح طور پر دیتے ہیں، اور یہ کہ ملازمین کی طرف سے ممکنہ اکاؤنٹ مکس اپس کے طور پر جھنڈا لگائے گئے بہت سے پیغامات فریب ہیں جن کا پہلے ہی ازالہ کیا جا چکا ہے۔ رائٹرز اس بات کا تعین کرنے سے قاصر تھا کہ آیا میوز صارفین کو دوسرے لوگوں کے بینک اکاؤنٹ بیلنس دے رہا تھا یا معلومات بنا رہا تھا۔

تاہم، روئٹرز کی طرف سے نظرثانی شدہ داخلی پوسٹس میں دکھایا گیا ہے کہ ایسے واقعات ستمبر کے وسط تک ہوتے ہیں اور اس مہینے تک جاری رہتے ہیں۔ نومبر کے اوائل میں، میٹا کی سپر انٹیلی جنس ٹیم کے ایک رکن نے داخلی فیڈ بیک گروپ کو بتایا کہ ایجنٹ بلٹ ان پرامپٹس کے جواب میں گمراہ کن پیغامات دکھا رہا ہے جو اسے سیشنوں کے درمیان صارفین کے ساتھ مشغول ہونے پر مجبور کرتا ہے۔ "یہ (فریب) بدقسمتی سے سب سے زیادہ غیر آرام دہ موضوعات کی طرف تعصب کرتے ہیں، جیسے مالیات/سیکیورٹی/حفاظت، جو بیکار ہے،" انہوں نے کہا، انہوں نے مزید کہا کہ وہ "کرپٹو سے متعلق چیزیں بھی شامل ہیں، جیسے لوگوں کو ان کے بٹ کوائن بیلنس پر اپ ڈیٹ دینا۔" انہوں نے کہا کہ مسائل میں بنیادی AI ماڈل اور سافٹ ویئر دونوں شامل ہیں جو میوز کو کارروائی کرنے کے قابل بناتے ہیں۔ رابرٹس نے ان مسائل کے بارے میں رائٹرز کے سوالات کا جواب دینے سے انکار کر دیا، بشمول ان میں کتنے تھے اور وہ کیوں برقرار تھے۔

پہلے کی ایک خامی: عوامی DNS میں 6,800 مشترکہ چیٹس قابل دریافت ہیں۔

یہ میوزک کا پہلا رازداری کا مسئلہ نہیں ہے۔ اکتوبر میں، سیکورٹی فرم Claroc نے پایا کہ Muse کے گفتگو کے اشتراک کے لنکس کو عوامی طور پر تلاش کیے جانے والے غیر فعال DNS ریکارڈز کے ذریعے دریافت کیا جا سکتا ہے: تمام مشترکہ لنکس cf.metaaiusercontent.com ڈومین کا استعمال کرتے ہیں، گفتگو کا عنوان براہ راست ذیلی ڈومین میں سرایت کرتا ہے، لہذا ایک سوال تقریباً 6,800 کا شمار کر سکتا ہے، جن میں سیکڑوں عوامی گفتگو کے لنکس تک رسائی حاصل نہیں کی گئی۔ Claroc کے شریک بانی نے 8 اکتوبر کو میٹا کے بگ باؤنٹی پروگرام کے ذریعے نتائج کی اطلاع دی اور کوئی جواب نہیں ملا۔ میٹا نے 20 اکتوبر کو شیئرنگ کی خصوصیت کو روک دیا اور بعد میں اسے درست کر کے بحال کیا۔

ایپل نے ریگولیٹری دباؤ بڑھنے کے ساتھ ہی اجازتوں کو سخت کر دیا ہے۔

رائٹرز نے نوٹ کیا کہ واقعات نے آپریٹنگ سسٹم فراہم کرنے والوں کو بھی کام کرنے پر مجبور کیا ہے۔ ایپل نے اس ہفتے اپنا آپریٹنگ سسٹم تبدیل کیا تاکہ لوگوں کو ایجنٹوں کے ڈیٹا کے استعمال پر زیادہ کنٹرول دیا جا سکے، میکس پر ڈیولپرز کے ایکسیسبیلٹی ٹولز کے استعمال پر تیزی سے پابندیاں لگائیں اور ایک انکارپوریٹڈ میگزین کے کالم نگار نے Muse پر اپنے میک پر میسجز ایپ سے نجی چیٹس پڑھنے کا الزام لگانے کے بعد، ایک نیا ایجنٹ پر مبنی اجازتیں متعارف کروائیں۔ ایپل نے کہا کہ وہ اس بات کو یقینی بنانے کے لیے پرعزم ہے کہ صارفین بالکل وہی سمجھتے ہیں جس کی وہ اجازت دے رہے ہیں۔ گوگل نے کہا کہ وہ بھی تبدیلیوں پر غور کر رہا ہے۔

ملازمین کے دیگر معاملات میں Muse میں بغیر اجازت کے ناقابل واپسی Airbnb قیام کی بکنگ اور صارفین کی جانب سے خریدی گئی مصنوعات کی قیمتوں میں اضافہ کرنا شامل ہے، جس کی وجہ سے ان کی حقیقی رقم خرچ ہوتی ہے۔ میٹا نے صارفین کو یقین دلایا ہے کہ وہ ہر ایجنٹ کو اپنی محفوظ "ورچوئل مشین" میں الگ کر دیتا ہے اور لوگوں کو مکمل کنٹرول دیتا ہے کہ وہ کن ایپس سے جڑتے ہیں۔ سی ای او مارک زکربرگ نے ان تحفظات کا حوالہ دیا ہے کہ وہ صنعت کے وسیع AI حفاظتی معیارات کی کالوں کو مسترد کرتے ہیں، جبکہ میٹا کی سروس کی شرائط متنبہ کرتی ہیں کہ Muse غلطیاں کر سکتا ہے اور صارفین کو ایجنٹ کے اعمال کا ذمہ دار ٹھہرا سکتا ہے۔

Muse کے ستمبر میں لانچ ہونے کے بعد سے اب تک 10 ملین سے زیادہ ڈاؤن لوڈ ہو چکے ہیں، جو کہ ریکارڈ پر تیزی سے ترقی کرنے والی ایپس میں سے ایک ہے، جس میں تقریباً ایک چوتھائی لوگ اکاؤنٹس قائم کرتے ہیں جو ہر روز واپس آ رہے ہیں، اور یہ میٹا کے اربوں ڈالر کی AI آمدنی پیدا کرنے کے منصوبے کا مرکز ہے۔ روئٹرز نے کہا کہ یہ واقعات میٹا، اوپن اے آئی اور دیگر کے صارفین کے AI ایجنٹوں کی ایک نئی قسم کے خطرات کو اجاگر کرتے ہیں جو صارفین کی جانب سے کاموں کو انجام دینے کا وعدہ کرتے ہیں، اور ان کی پرائیویسی اور آپریٹنگ سسٹمز کے لیے جو نئے چیلنجز ان کی اجازتوں کا انتظام کرتے ہیں۔

💬 Comments

No comments yet. Be the first!