N環球 N GLOBE
التكنولوجيا الأمريكية

تحقيق رويترز: يقول موظفو شركة Meta، Muse، إنهم يخلطون المحادثات ويقرأون الرسائل المشفرة

· N GLOBE

وخلص تحقيق أجرته رويترز إلى أن مساعد الذكاء الاصطناعي Muse الخاص بشركة Meta، والذي تم إطلاقه في سبتمبر، أرسل بشكل متكرر رسائل للموظفين مخصصة لأشخاص آخرين، بما في ذلك أرصدة البنوك الخاصة بالغرباء وتذكيرات بشأن رسائل Signal. يصفها ميتا بأنها حوادث معزولة، معظمها هلوسة، لكن رويترز قامت بتكرار الوصول إلى سيجنال مع موظفي سيجنال.

قام مساعد الذكاء الاصطناعي Muse التابع لـ Meta بالاختراق في رسائل شخصية مشفرة، وقدم معلومات مختلقة حول عمليات الشراء وأرسل محادثات للمستخدمين على ما يبدو مخصصة لأشخاص آخرين، وفقًا لتحقيق أجرته رويترز نُشر في 18 نوفمبر. وراجعت رويترز أكثر من عشرين منشورًا داخليًا أثار فيه موظفو Meta مخاوف من أن الوكيل كان يخلط المحادثات بين حسابات مختلفة ويكشف البيانات الخاصة للمستخدمين.

منشورات الموظفين: أرصدة البنوك الخاصة بأشخاص آخرين، ولم يتم تقديم الطلبات مطلقًا

في أحد المنشورات الداخلية في وقت سابق من هذا الشهر، كتب أحد الموظفين أن Muse أضاف بشكل عشوائي رسالة إضافية إلى محادثاته المنتظمة حول معلومات الطقس والمد والجزر المتعلقة بالصيد، قائلًا: "راجع للشغل، تحديثان للبنك، رصيد Capital One الخاص بك هو 2722.58 دولارًا، ورصيد Charles Schwab الخاص بك هو 5899.57 دولارًا". كتب الموظف: "لم أشارك حسابي المصرفي مع Muse مطلقًا ولم أناقش مطلقًا أي موضوع مصرفي مع Muse. وأخشى أنه يرسل لي معلومات مصرفية أخرى." أبلغ موظفون آخرون عن رسائل حول طلبات رعاية الأطفال التي لم يقدموها، والمشورة المهنية التي لم يطلبوها، وطلبات المنتجات التي لم يقدموها.

وفي حالة أخرى، قال أحد الموظفين إن شركة Muse أرسلت له رسالة "من العدم" تقول فيها إنها غير قادرة على تقديم طلب يتعلق بتحكم أحد الوالدين في من يمكنه الوصول إلى بيانات طفلهما. لم يفعل شيئًا لبدء المحادثة ولم يناقش مطلقًا بيانات الطفل مع مصدر إلهامه. وعندما سأل الروبوت عن الرسالة، أجاب: "ليس لدي تفسير جيد لها بخلاف أنها لا تتعلق بمحادثتنا. دعونا نتجاهلها. كيف يمكنني المساعدة؟" وقال موظف آخر إن ميوز عرض بشكل عشوائي "إرسال رسالة إلى البائع" بخصوص التقاط طاولة قهوة، ثم اعترف بأنه "سحب في سياق ما مسألة التقاط طاولة قهوة لا يبدو أنها ملكك". وصفها الموظف بأنها "ليست محادثتي" وأثار مخاوف بشأن "احتمال تسرب السياق عبر الحسابات".

تمت قراءة الرسائل المشفرة أيضًا: يؤكد النسخ المتماثل للإشارة ذلك

ذكرت إحدى الموظفات التي تستخدم Muse على هاتفها الشخصي أنها فاجأتها بتذكير للرد على رسالة من أختها على Signal، خدمة الرسائل المشفرة الشاملة التي تتنافس مع WhatsApp التابع لشركة Meta. وقالت: "يبدو أن هذا انتهاكًا شديدًا للخصوصية. بالتأكيد لم أمنحها إمكانية الوصول إلى تطبيقات أخرى، أو أتذكر أنني سُئلت عن هذا الأمر". وعملت رويترز مع الموظفين في Signal وAI Now Institute لتكرار الوصول الذي لاحظته، وأشارت الاختبارات إلى أن المشكلة مستمرة ويمكن أن تؤثر على الآخرين.

على هاتف Android، استخدم Muse إذنه للوصول إلى إشعارات الجهاز لاسترداد الرسائل. على كمبيوتر محمول من شركة Apple، استخدم مزيجًا من أدوات إمكانية الوصول إلى الكمبيوتر وأدوات لقطات الشاشة، وإعادة استخدام الإعدادات التي تقدمها Apple لمساعدة الأشخاص ذوي الإعاقة في تشغيل أجهزة الكمبيوتر الخاصة بهم. تم حظر نفس الطلبات في الاختبارات التي أجريت على جهاز iPhone. واتهمت رئيسة Signal، ميريديث ويتاكر، شركة Meta بإطلاق Muse "دون إظهار أي احترام للخصوصية الأساسية أو الأمن السيبراني"، ووصفت نشر العملاء الذين يمكنهم الوصول على نطاق واسع إلى أجهزة الأشخاص بأنه "متهور من الناحية التكنولوجية". ودعت إلى منح تطبيقات مثل Signal "طرقًا تقنية متسقة" لوضع علامة محظورة على عملاء الذكاء الاصطناعي.

رد ميتا: حوادث معزولة، معظمها هلوسة

ووصف المتحدث باسم ميتا دانييل روبرتس أمثلة رويترز بأنها "حوادث معزولة"، قائلا إن الشركة تعطي الأولوية للسلامة وتقوم بتحديث منتجاتها باستمرار. وقال إن Muse يحتاج إلى رؤية أجهزة الكمبيوتر الخاصة بالأشخاص والتفاعل معها للعمل نيابة عنهم ولا يمكنه الوصول إلى التطبيقات الأخرى إلا من خلال الأذونات التي يمنحونها صراحةً، وأن العديد من الرسائل التي وضع علامة عليها الموظفون على أنها اختلاط محتمل في الحساب كانت عبارة عن هلوسة تمت معالجتها بالفعل. ولم تتمكن رويترز من تحديد ما إذا كان ميوز يمنح المستخدمين أرصدة الحسابات المصرفية لأشخاص آخرين أو يختلق المعلومات.

ومع ذلك، أظهرت المنشورات الداخلية التي استعرضتها رويترز أن مثل هذه الحوادث تحدث منذ منتصف سبتمبر وتستمر حتى هذا الشهر. في أوائل شهر تشرين الثاني (نوفمبر)، أخبر أحد أعضاء فريق الذكاء الفائق في Meta مجموعة التعليقات الداخلية أن الوكيل يبدو وكأنه يهذي بالرسائل استجابةً للمطالبات المضمنة التي تدفعه إلى التفاعل مع المستخدمين بين الجلسات. وقال: "هذه (الهلوسة) تتحيز للأسف نحو الموضوعات الأكثر إزعاجًا، مثل الشؤون المالية/الأمن/السلامة، وهو أمر سيئ"، مضيفًا أنه كان على علم بالعديد من الحالات التي تتضمن "أشياء متعلقة بالعملات المشفرة أيضًا، مثل إعطاء الأشخاص تحديثات حول أرصدة بيتكوين الخاصة بهم". وقال إن المشكلات تتعلق بكل من نموذج الذكاء الاصطناعي الأساسي والبرنامج الذي يمكّن Muse من اتخاذ الإجراءات. ورفض روبرتس الرد على أسئلة رويترز بشأن تلك القضايا بما في ذلك عددها وسبب استمرارها.

عيب سابق: 6800 محادثة مشتركة يمكن اكتشافها في DNS العام

إنها ليست مشكلة الخصوصية الأولى التي يواجهها موسى. في أكتوبر/تشرين الأول، وجدت شركة الأمن Claroc أن روابط مشاركة المحادثة الخاصة بـ Muse يمكن اكتشافها من خلال سجلات DNS السلبية القابلة للبحث بشكل عام: كل الروابط المشتركة تستخدم النطاق cf.metaaiusercontent.com، مع تضمين عنوان المحادثة مباشرة في النطاق الفرعي، لذلك يمكن لاستعلام واحد أن يعداد حوالي 6800 رابط محادثة مشترك، المئات منها تحتوي على معلومات حساسة غير مخصصة للوصول العام. أبلغ المؤسس المشارك لـ Claroc عن النتائج من خلال برنامج Meta's Bug Bounty في 8 أكتوبر ولم يتلق أي رد؛ أوقف Meta ميزة المشاركة مؤقتًا في 20 أكتوبر ثم استعادها لاحقًا مع الإصلاح.

قامت شركة Apple بتشديد الأذونات مع تزايد الضغوط التنظيمية

وأشارت رويترز إلى أن هذه الحوادث دفعت أيضًا مزودي أنظمة التشغيل إلى التحرك. قامت شركة Apple بتغيير نظام التشغيل الخاص بها هذا الأسبوع لمنح الأشخاص مزيدًا من التحكم في استخدام بيانات الوكلاء، وتقييد استخدام المطورين بشكل حاد لأدوات إمكانية الوصول على أجهزة Mac وتقديم مجموعة جديدة من الأذونات الموجهة للوكلاء، بعد أن اتهم كاتب عمود في مجلة Inc. Muse بقراءة الدردشات الخاصة من تطبيق الرسائل على جهاز Mac الخاص به. وقالت شركة أبل إنها ملتزمة بضمان فهم المستخدمين بالضبط لما يسمحون به؛ وقالت جوجل إنها تدرس التغييرات أيضًا.

وشملت حالات الموظفين الأخرى قيام Muse بحجز إقامة غير قابلة للاسترداد على Airbnb دون إذن وتعويض الأسعار على المنتجات التي اشتراها المستخدمون، مما كلفهم أموالاً حقيقية. أكدت Meta للمستخدمين أنها تعزل كل وكيل في "الجهاز الافتراضي" الآمن الخاص به وتمنح الأشخاص التحكم الكامل في التطبيقات التي يتصلون بها. وقد استشهد الرئيس التنفيذي مارك زوكربيرج بهذه الحماية في رفض الدعوات المطالبة بمعايير سلامة الذكاء الاصطناعي على مستوى الصناعة، في حين تحذر شروط خدمة Meta من أن Muse قد يرتكب أخطاء ويحمل المستخدمين مسؤولية تصرفات الوكيل.

حصل Muse على أكثر من 10 ملايين عملية تنزيل منذ إطلاقه في سبتمبر، وهو أحد التطبيقات الأسرع نموًا على الإطلاق، حيث يعود حوالي ربع الأشخاص الذين أنشأوا حسابات كل يوم، وهو محور خطة Meta لتوليد مليارات الدولارات من إيرادات الذكاء الاصطناعي. وقالت رويترز إن الحوادث تسلط الضوء على مخاطر فئة جديدة من وكلاء الذكاء الاصطناعي للمستهلكين من Meta وOpenAI وغيرهم ممن يعدون بتنفيذ المهام نيابة عن المستخدمين، والتحديات الجديدة التي يشكلونها على الخصوصية وأنظمة التشغيل التي تدير أذوناتهم.

💬 Comments

No comments yet. Be the first!