N環球 N GLOBE
امریکی ٹیکنالوجی

سگنل فون AI ایجنٹوں کو چیٹ پڑھنے سے روکتا ہے، انہیں رازداری کے لیے "موجود خطرہ" قرار دیتا ہے۔

· N GLOBE

انکرپٹڈ میسجنگ ایپ سگنل نے 20 نومبر کو اعلان کیا کہ وہ فون آپریٹنگ سسٹم میں بلٹ ان AI معاونین کو بطور ڈیفالٹ صارفین کی چیٹ پڑھنے سے روک دے گی۔ iOS 27 پر یہ ایپ اسکرین شاٹس کو بلاک کرتا ہے اور "Block Siri AI" ٹوگل شامل کرتا ہے۔ جب کوئی AI اسسٹنٹ اسکرین کو پڑھنے کی کوشش کرتا ہے تو اینڈرائیڈ پر یہ اسکرین سیکیورٹی خود بخود آن ہوجاتا ہے۔ سگنل کے صدر میریڈیتھ وائٹیکر نے اس طرح کے "ایجنٹک AI انضمام" کو رازداری کے لیے "وجود کا خطرہ" قرار دیا۔

انکرپٹڈ میسجنگ ایپ سگنل نے 20 نومبر کو اعلان کیا کہ وہ فون آپریٹنگ سسٹم میں بنائے گئے AI معاونین کو بطور ڈیفالٹ صارفین کی چیٹ پڑھنے سے روک دے گی۔ ایپل، گوگل اور مائیکروسافٹ اپنے آپریٹنگ سسٹمز کی گہرائی میں "ایجنٹک AI" بنا رہے ہیں، سگنل نے کہا، اور وہ سسٹم اسکرین پر موجود چیزوں کو اسکین کرتے ہیں اور اسے اسٹور کرتے ہیں - ایپلیکیشن لیئر پر پرائیویسی کی ضمانتوں کو نقصان پہنچاتے ہیں۔ سگنل کے صدر میرڈیتھ وائٹیکر نے انضمام کو رازداری کے لیے ایک "وجود خطرہ" قرار دیا۔

iOS 27 پر اسکرین شاٹس بلاک، اینڈرائیڈ پر اسکرین سیکیورٹی

iOS 27 پر، سگنل ایپ کے اندر اسکرین شاٹس کو روک رہا ہے اور "Block Siri AI" سیٹنگ شامل کر رہا ہے۔ اینڈرائیڈ پر، ایپ خود بخود اپنے "اسکرین سیکیورٹی" پروٹیکشن کو آن کر دیتی ہے جب اسے سگنل اسکرین کو پڑھنے کی کوشش کرنے والے AI اسسٹنٹ کا پتہ چلتا ہے۔ سگنل نے کہا کہ لوگ ترتیبات میں تحفظات کو بند کر سکتے ہیں، لیکن ایسا کرنے سے ان کے اپنے اور اپنے رابطوں کے پیغامات ان AI ایجنٹوں تک پہنچ سکتے ہیں اور اس کی رازداری کی ضمانتیں ٹوٹ سکتی ہیں۔

مائیکروسافٹ ریکال کے خلاف سگنل پہلے ہی منتقل ہو چکا ہے۔

یہ پہلا موقع نہیں جب سگنل نے ایسا قدم اٹھایا ہو۔ پچھلے سال اس نے مائیکروسافٹ کے Recal AI کو ونڈوز 11 پر بطور ڈیفالٹ سگنل پیغامات کے اسکرین شاٹس کیپچر اور اسٹور کرنے سے روکنے کے لیے اسکرین شاٹ بلاکنگ کا استعمال کیا۔ مسئلہ وہی ہے، سگنل نے کہا: آپریٹنگ سسٹم AI ایجنٹس اسکرین پر موجود معلومات کو "اسکین" کرتے ہیں، اسے حاصل کرتے ہیں اور اسے ایجنٹی سسٹمز کے لیے دستیاب کراتے ہیں تاکہ وہ سوالات کے جوابات دے سکیں اور ہدایات پر عمل کر سکیں - اور ایک بار پکڑے جانے کے بعد، ڈیٹا سگنل کے کنٹرول سے باہر ہوتا ہے، جو بھی مقامی ڈیٹا بیس یا ریموٹ سرور استعمال کرتا ہے اس میں محفوظ ہوتا ہے۔

ٹھیک کرنا نامکمل ہے، اور میکوس ابھی تک پہنچ سے باہر ہے۔

سگنل نے تسلیم کیا کہ علاج نامکمل ہے۔ اسکرین شاٹس کو مسدود کرنا AI ایجنٹوں کو دوسرے، چپکے راستوں کے ذریعے ایپ ڈیٹا تک پہنچنے سے نہیں روکتا، جیسے کہ فائل سسٹم کے ذریعے ڈیوائس پر پہلے سے موجود مواد کو پڑھنا — اور کمپنی نے کہا کہ وہ فی الحال میک او ایس پر ان تحفظات کو نافذ نہیں کر سکتی کیونکہ سسٹم ایسا کرنے کا کوئی طریقہ فراہم نہیں کرتا ہے۔ پچھلے کچھ مہینوں کے دوران سگنل نے کہا کہ اس نے اینڈرائیڈ اور آئی او ایس پر فرانزک تحقیقات پر کافی وقت صرف کیا تاکہ یہ جاننے کے لیے کہ جب یہ AI سسٹمز ایپ ڈیٹا تک رسائی حاصل کرتے ہیں تو اصل میں کیا ہوتا ہے، کیونکہ دستاویزات کی بہت کمی ہے۔

تین بڑے OS بنانے والوں سے آپٹ آؤٹ ٹولز کے لیے کال

سگنل نے ایپل، گوگل اور مائیکروسافٹ سے دو "عام فہم علاج" فراہم کرنے کا مطالبہ کیا: ڈویلپرز کے لیے AI ڈیٹا تک رسائی اور پروسیسنگ سے اپنی ایپ کو آپٹ آؤٹ کرنے کا ایک آسان، اچھی طرح سے دستاویزی طریقہ — بشمول اسکرین ریڈنگ، فائل سسٹم تک رسائی، اطلاعات، APIs اور دیگر OS فریم ورک — ایپ کی بنیادی افادیت کو نقصان پہنچائے بغیر۔ اور بہتر دستاویزات اور تکنیکی وضاحتیں کہ یہ AI ایجنٹ کیسے کام کرتے ہیں اور ڈیٹا کو ہینڈل کرتے ہیں۔ سگنل نے دلیل دی کہ خفیہ کمپیوٹنگ ایک مکمل حل نہیں ہے، کیونکہ یہ اب بھی فراہم کنندگان کے ہاتھ میں رازداری کی ضمانتوں کی حد کا تعین کرنے کا اختیار چھوڑ دیتا ہے۔

صرف سگنل ہی نہیں: تھرڈ پارٹی اے آئی ایجنٹس بھی پھیل رہے ہیں۔

سگنل نے تھرڈ پارٹی ایجنٹس، جیسے کہ Meta's Muse، کو ایپ ڈیٹا تک رسائی سے روکنے کے لیے ٹولز کی بڑھتی ہوئی ضرورت کو بھی نشان زد کیا ہے جو کہ سیٹ اپ کے دوران صارفین کو دی جانے والی گہری اجازتوں کا استعمال کرتے ہوئے حوصلہ افزائی کی جاتی ہے — بہت سے معاملات میں رسائی کی ترتیبات کا فائدہ اٹھانا معذور افراد کو بااختیار بنانا ہے۔ سگنل نے اسی طرح کی تبدیلیوں کو آگے بڑھانے کے لیے الیکٹرانک فرنٹیئر فاؤنڈیشن سمیت اتحادیوں کا شکریہ ادا کیا، اور کہا کہ یہ "کوئلے کی کان میں کینری" ہے: AI ایجنٹوں کو عام فہم علاج کے بغیر آپریٹنگ سسٹم میں ضم کرنا پورے ایپ ایکو سسٹم میں رازداری کے لیے ایک وجودی خطرہ ہے۔

💬 Comments

No comments yet. Be the first!