N環球 N GLOBE
فناوری ایالات متحده

سیگنال، عوامل هوش مصنوعی تلفن را از خواندن چت ها مسدود می کند و آنها را "تهدید وجودی" برای حریم خصوصی می نامد.

· N GLOBE

اپلیکیشن پیام رسان رمزگذاری شده Signal در 20 نوامبر اعلام کرد که دستیاران هوش مصنوعی داخلی در سیستم عامل های تلفن را از خواندن چت کاربران به طور پیش فرض مسدود می کند. در iOS 27، اسکرین شات های درون برنامه را مسدود می کند و یک کلید «Block Siri AI» اضافه می کند. در اندروید هنگامی که دستیار هوش مصنوعی سعی می کند صفحه را بخواند، امنیت صفحه را به طور خودکار روشن می کند. مردیث ویتاکر، رئیس سیگنال، چنین "ادغام هوش مصنوعی عاملی" را "تهدیدی وجودی" برای حریم خصوصی نامید.

اپلیکیشن پیام رسان رمزگذاری شده Signal در 20 نوامبر اعلام کرد که به طور پیش فرض دستیارهای هوش مصنوعی تعبیه شده در سیستم عامل های تلفن را از خواندن چت کاربران جلوگیری می کند. به گفته سیگنال، اپل، گوگل و مایکروسافت «هوش مصنوعی عاملی» را عمیقاً در سیستم عامل‌های خود وارد می‌کنند و این سیستم‌ها آنچه را که روی صفحه است اسکن می‌کنند و آن را ذخیره می‌کنند - تضمین‌های حریم خصوصی در لایه برنامه را تضعیف می‌کنند. مردیث ویتاکر، رئیس سیگنال، این ادغام را "تهدیدی وجودی" برای حریم خصوصی خواند.

اسکرین شات ها در iOS 27 مسدود شدند، امنیت صفحه در اندروید

در iOS 27، سیگنال از اسکرین شات ها در داخل برنامه جلوگیری می کند و تنظیمات «Block Siri AI» را اضافه می کند. در اندروید، این برنامه به‌طور خودکار محافظ «Screen Security» خود را هنگامی که تشخیص می‌دهد دستیار هوش مصنوعی تلاش می‌کند صفحه سیگنال را بخواند، روشن می‌کند. سیگنال گفت که افراد می توانند حفاظت ها را در تنظیمات خاموش کنند، اما انجام این کار می تواند پیام های خود و مخاطبینشان را در معرض این عوامل هوش مصنوعی قرار دهد و ضمانت های حفظ حریم خصوصی آن را زیر پا بگذارد.

سیگنال قبلاً علیه مایکروسافت فراخوان حرکت کرده است

این اولین بار نیست که سیگنال چنین اقدامی را انجام می دهد. سال گذشته از مسدود کردن اسکرین شات استفاده کرد تا هوش مصنوعی مایکروسافت Recall را از گرفتن و ذخیره اسکرین شات های پیام های سیگنال در ویندوز 11 به طور پیش فرض متوقف کند. سیگنال گفت: عامل‌های هوش مصنوعی سیستم عامل اطلاعات روی صفحه را اسکن می‌کنند، آن‌ها را ضبط می‌کنند و در اختیار سیستم‌های عامل قرار می‌دهند تا بتوانند به سؤالات پاسخ دهند و دستورالعمل‌ها را انجام دهند - و پس از ضبط، داده‌ها خارج از کنترل سیگنال هستند و در هر پایگاه داده محلی یا سرور راه دوری که نماینده استفاده می‌کند ذخیره می‌شود.

رفع ناقص است و macOS فعلاً دور از دسترس است

سیگنال تأیید کرد که درمان ناقص است. مسدود کردن اسکرین‌شات‌ها مانع از دستیابی عوامل هوش مصنوعی به داده‌های برنامه از طریق مسیرهای مخرب‌تر، مانند خواندن محتوای موجود در دستگاه از طریق سیستم فایل نمی‌شود – و این شرکت اعلام کرد در حال حاضر نمی‌تواند این حفاظت‌ها را در macOS پیاده‌سازی کند، زیرا سیستم هیچ راهی برای انجام این کار ارائه نمی‌دهد. طی چند ماه گذشته سیگنال اعلام کرد که زمان قابل توجهی را برای توسعه دهندگان صرف تحقیقات پزشکی قانونی در سراسر اندروید و iOS کرده است تا بفهمد وقتی این سیستم‌های هوش مصنوعی به داده‌های برنامه دسترسی پیدا می‌کنند، واقعاً چه اتفاقی می‌افتد، زیرا اسناد به شدت کم است.

فراخوانی برای ابزارهای انصراف از سه سازنده بزرگ سیستم عامل

سیگنال از اپل، گوگل و مایکروسافت خواست تا دو «راه حل عقل سلیم» ارائه دهند: یک راه آسان و مستند برای توسعه دهندگان که برنامه خود را از دسترسی و پردازش داده های هوش مصنوعی - از جمله خواندن صفحه نمایش، دسترسی به سیستم فایل، اعلان ها، API ها و سایر چارچوب های سیستم عامل - بدون تضعیف ابزار اصلی برنامه حذف کنند. و مستندات و مشخصات فنی بهتر در مورد نحوه کار این عوامل هوش مصنوعی و مدیریت داده ها. سیگنال استدلال کرد که محاسبات محرمانه راه حل کاملی نیست، زیرا هنوز قدرت تعیین میزان تضمین حریم خصوصی را در دست ارائه دهندگان می گذارد.

نه فقط سیگنال: عوامل هوش مصنوعی شخص ثالث نیز در حال گسترش هستند

سیگنال همچنین نیاز روزافزون به ابزارهایی را برای جلوگیری از دسترسی عوامل شخص ثالث، مانند Meta's Muse، با استفاده از مجوزهای عمیقی که کاربران در طول راه‌اندازی به آن‌ها اعطا می‌کنند، نشان می‌دهد - در بسیاری از موارد استفاده از تنظیمات دسترسی به منظور توانمندسازی افراد دارای معلولیت. سیگنال از متحدانش از جمله Electronic Frontier Foundation برای اعمال تغییرات مشابه تشکر کرد و گفت که این "قناری در معدن زغال سنگ" است: ادغام عوامل هوش مصنوعی در سیستم عامل بدون راه حل های عقل سلیم یک تهدید وجودی برای حریم خصوصی در کل اکوسیستم برنامه است.

💬 Comments

No comments yet. Be the first!