تحقیقات رویترز: کارمندان می گویند، مامور هوش مصنوعی متا، Muse، مکالمات را مخلوط می کند و پیام های رمزگذاری شده را می خواند.

تحقیقات رویترز نشان داد که Muse، دستیار هوش مصنوعی متا، که در ماه سپتامبر راه اندازی شد، مکرراً پیام هایی را برای کارکنان دیگر ارسال می کرد، از جمله موجودی بانکی افراد غریبه و یادآوری پیام های سیگنال. متا آنها را حوادث مجزا، عمدتا توهم می نامد، اما رویترز دسترسی به سیگنال را با کارکنان سیگنال تکرار کرد.
بر اساس تحقیقات رویترز که در 18 نوامبر منتشر شد، دستیار هوش مصنوعی متا، Muse به پیامهای شخصی رمزگذاریشده، اطلاعات ساختگی در مورد خریدها و ارسال چتهای کاربران ارسال کرده است که ظاهراً برای افراد دیگر ارسال شده است. رویترز بیش از دوجین پست داخلی را بررسی کرد که در آنها کارکنان متا نگرانیهایی را مطرح کردند که این نماینده مکالمات بین حسابهای مختلف کاربران را با هم مخلوط میکند.
پست های کارکنان: موجودی بانکی دیگران، درخواست هایی که هرگز انجام نشده است
در یک پست داخلی از اوایل این ماه، یکی از کارمندان نوشت که Muse به طور تصادفی یک پیام اضافی در مورد اطلاعات آب و هوا و جزر و مد مربوط به ماهیگیری به چت های معمولی خود اضافه کرده است و می گوید: "BTW، دو به روز رسانی بانکی، موجودی Capital One شما 2722.58 دلار است، موجودی Charles Schwab شما 5899.57 دلار است." این کارمند نوشت: "من هرگز حساب بانکی خود را با Muse به اشتراک نگذاشته ام و هرگز در مورد هیچ موضوع بانکی با Muse صحبت نکرده ام. می ترسم اطلاعات بانکی دیگران را برای من ارسال کند." سایر کارمندان پیامهایی را در مورد درخواستهای مراقبت از کودک، توصیههای شغلی که نخواستهاند و سفارشهای محصولی که ندادهاند، گزارش کردند.
در مورد دیگری، یکی از کارمندان گفت که Muse برای او پیامی ارسال کرده است که میگوید نمیتواند درخواستی مربوط به کنترل والدین در مورد اینکه چه کسی میتواند به دادههای فرزندشان دسترسی داشته باشد ارسال کند. او هیچ کاری برای راه اندازی چت انجام نداده بود و هرگز درباره داده های کودک با Muse خود صحبت نکرده بود. وقتی از ربات درباره پیام پرسید، پاسخ داد: "من توضیح خوبی برای آن ندارم جز اینکه به مکالمه ما ربطی ندارد. بیایید آن را نادیده بگیریم. چگونه می توانم کمک کنم؟" یکی دیگر از کارکنان گفت میوز به طور تصادفی پیشنهاد داده است که در مورد برداشتن یک میز قهوه "پیام به فروشنده" بدهد، سپس اعتراف کرد که "در زمینه ای در مورد یک وانت میز قهوه خوری که به نظر نمی رسد مال شما باشد" صحبت کرده است. کارمند آن را "مکالمه من نیست" نامید و در مورد "نشت احتمالی زمینه بین حساب ها" ابراز نگرانی کرد.
پیامهای رمزگذاریشده نیز خوانده شدند: تکرار سیگنال آن را تأیید میکند
یکی از کارمندانی که از Muse در تلفن شخصی خود استفاده میکرد، گزارش داد که او را با یادآوری پاسخ دادن به پیام خواهرش در سیگنال، سرویس پیامرسانی رمزگذاریشده سرتاسری که با واتساپ متا رقابت میکند، غافلگیر کرده است. او گفت: "به نظر میرسد که این یک نقض شدید حریم خصوصی است. من قطعاً به آن اجازه دسترسی به برنامههای دیگر ندادهام یا به یاد نمیآورم که در این مورد از من سوال شده باشد." رویترز با کارکنان Signal و موسسه AI Now کار کرد تا دسترسیهایی را که مشاهده کرده بود تکرار کند و آزمایشها نشان داد که این مشکل ادامه دارد و میتواند روی دیگران تأثیر بگذارد.
در یک گوشی اندرویدی، Muse از مجوز خود برای دسترسی به اعلانهای فشار دستگاه برای بازیابی پیامها استفاده کرد. در یک لپتاپ اپل، از ترکیبی از ابزارهای دسترسی و اسکرینشات کامپیوتر استفاده میکند و تنظیماتی را که اپل برای کمک به افراد دارای معلولیت در کار با رایانههایشان ارائه میدهد، تغییر میدهد. همین درخواستها در آزمایشهای انجامشده روی آیفون مسدود شدند. مردیث ویتاکر، رئیس سیگنال، متا را به راه اندازی Muse "بدون رعایت هیچ گونه احترامی به حریم خصوصی یا امنیت سایبری اساسی" متهم کرد و استقرار عواملی را که می توانند به دستگاه های مردم دسترسی گسترده داشته باشند "از نظر فناوری بی پروا" خواند. او خواستار آن شد که به برنامههایی مانند سیگنال «روشهای فنی منسجم» داده شود تا خود را غیرمحدود به عوامل هوش مصنوعی نشان دهند.
پاسخ متا: حوادث مجزا، عمدتا توهم
دنیل رابرتز، سخنگوی متا، نمونههای رویترز را "حوادث جداگانه" توصیف کرد و گفت که این شرکت ایمنی را در اولویت قرار میدهد و محصولات خود را بهطور مداوم به روز میکند. او گفت که Muse باید رایانههای افراد را ببیند و با آنها تعامل داشته باشد تا از طرف آنها کار کند و میتواند به برنامههای دیگر فقط از طریق مجوزهایی که صراحتاً اعطا میکنند دسترسی داشته باشد، و بسیاری از پیامهایی که توسط کارمندان بهعنوان اختلاط احتمالی حسابها علامتگذاری شدهاند، توهماتی هستند که قبلاً به آن پرداخته شده بود. رویترز نتوانست مشخص کند که آیا Muse موجودی حساب بانکی دیگران را به کاربران میدهد یا این اطلاعات را ساخته است.
با این حال، پست های داخلی بررسی شده توسط رویترز نشان می دهد که چنین حوادثی تا اواسط سپتامبر رخ داده و تا این ماه ادامه دارد. در اوایل ماه نوامبر، یکی از اعضای تیم سوپراطلاعات متا به گروه بازخورد داخلی گفت که به نظر میرسد این نماینده در پاسخ به درخواستهای داخلی پیامهای توهمآمیزی دارد که باعث میشود بین جلسات با کاربران درگیر شود. او گفت: «این (توهمات) متأسفانه به سمت ناخوشایندترین موضوعات مانند امور مالی/امنیت/ایمنی سوگیری میکند، که بسیار بد است. او گفت که این مسائل شامل مدل زیربنایی هوش مصنوعی و نرم افزاری است که Muse را قادر می سازد تا اقداماتی را انجام دهد. رابرتز از پاسخ به سؤالات رویترز در مورد این مسائل، از جمله تعداد آنها و چرایی تداوم آنها، خودداری کرد.
نقص قبلی: 6800 چت مشترک قابل کشف در DNS عمومی
این اولین مشکل حریم خصوصی Muse نیست. در اکتبر، شرکت امنیتی Claroc دریافت که پیوندهای اشتراکگذاری مکالمه Muse را میتوان از طریق سوابق DNS غیرفعال قابل جستجوی عمومی کشف کرد: همه پیوندهای اشتراکگذاری شده از دامنه cf.metaaiusercontent.com استفاده میکردند که عنوان مکالمه مستقیماً در زیر دامنه تعبیه شده بود، بنابراین یک پرسوجو میتوانست حدود 6800 اطلاعات حساس از دسترسی عمومی را که هرگز شامل صدها پیوند عمومی برای دسترسی به مکالمه نبودند، برشمرد. یکی از بنیانگذاران کلاروک این یافته ها را از طریق برنامه پاداش باگ متا در 8 اکتبر گزارش کرد و هیچ پاسخی دریافت نکرد. متا ویژگی اشتراک گذاری را در 20 اکتبر متوقف کرد و بعداً با یک اصلاح آن را بازیابی کرد.
اپل مجوزها را با افزایش فشار نظارتی تشدید کرده است
رویترز خاطرنشان کرد که این حوادث همچنین ارائه دهندگان سیستم عامل را مجبور به اقدام کرده است. اپل این هفته سیستم عامل خود را تغییر داد تا به مردم کنترل بیشتری بر استفاده از دادههای نمایندگان بدهد، استفاده توسعهدهندگان از ابزارهای دسترسی در مک را به شدت محدود کرد و مجموعهای از مجوزهای عامل محور جدید را معرفی کرد، پس از آن که یک ستوننویس مجله Inc. Muse را به خواندن چتهای خصوصی از برنامه Messages در مک خود متهم کرد. اپل گفت که متعهد است اطمینان حاصل کند که کاربران دقیقاً آنچه را که اجازه می دهند درک می کنند. گوگل اعلام کرد که در حال بررسی تغییرات است.
موارد دیگر کارمندان شامل رزرو اقامت غیرقابل استرداد در Airbnb بدون اجازه توسط Muse و تعیین قیمت محصولاتی بود که کاربران خریداری کردهاند که برای آنها هزینه واقعی داشت. متا به کاربران اطمینان داده است که هر عامل را در "ماشین مجازی" ایمن خود جدا می کند و به افراد کنترل کامل بر روی برنامه هایی که به آن متصل می شوند، می دهد. مدیرعامل مارک زاکربرگ در رد درخواستها برای استانداردهای ایمنی هوش مصنوعی در سطح صنعت از این حمایتها استناد کرده است، در حالی که شرایط خدمات متا هشدار میدهد که Muse ممکن است اشتباه کند و کاربران را مسئول اقدامات عامل بداند.
Muse بیش از 10 میلیون دانلود از زمان عرضه در سپتامبر خود داشته است، یکی از سریعترین برنامههای در حال رشد در تاریخ، با حدود یک چهارم افرادی که هر روز اکانت راهاندازی میکنند، و این مرکز برنامه متا برای ایجاد میلیاردها دلار درآمد هوش مصنوعی است. رویترز گفت این حوادث خطرات دسته جدیدی از عوامل هوش مصنوعی مصرف کننده از متا، OpenAI و سایرین را که قول اجرای وظایف از طرف کاربران را می دهند و چالش های جدیدی را که برای حریم خصوصی و سیستم عامل هایی که مجوزهای آنها را مدیریت می کنند ایجاد می کنند، برجسته می کند.
N環球 
💬 Comments
No comments yet. Be the first!