রয়টার্স তদন্ত: মেটার এআই এজেন্ট মিউজ কথোপকথন মিশ্রিত করে এবং এনক্রিপ্ট করা বার্তা পড়ে, কর্মীরা বলে

রয়টার্সের একটি তদন্তে পাওয়া গেছে যে সেপ্টেম্বরে চালু হওয়া মেটার এআই সহকারী মিউজ, অপরিচিতদের ব্যাঙ্ক ব্যালেন্স এবং সিগন্যাল বার্তা সম্পর্কে অনুস্মারক সহ অন্যান্য লোকদের জন্য বারবার কর্মচারীদের বার্তা পাঠায়। মেটা তাদের বিচ্ছিন্ন ঘটনা বলে, বেশিরভাগ হ্যালুসিনেশন, কিন্তু রয়টার্স সিগন্যাল কর্মীদের সাথে সিগন্যাল অ্যাক্সেসের প্রতিলিপি করেছে।
18 নভেম্বর প্রকাশিত রয়টার্সের তদন্ত অনুসারে, মেটার এআই সহকারী মিউজ এনক্রিপ্ট করা ব্যক্তিগত বার্তাগুলি জমা করেছে, কেনাকাটা সম্পর্কে তৈরি তথ্য সরবরাহ করেছে এবং ব্যবহারকারীদের চ্যাটগুলি আপাতদৃষ্টিতে অন্য লোকেদের জন্য পাঠিয়েছে।
স্টাফ পোস্ট: অন্য লোকেদের ব্যাঙ্ক ব্যালেন্স, অনুরোধ করা হয়নি
এই মাসের শুরুর দিকে একটি অভ্যন্তরীণ পোস্টে, একজন কর্মচারী লিখেছিলেন যে Muse মাছ ধরা-সম্পর্কিত আবহাওয়া এবং জোয়ারের তথ্য সম্পর্কে তার নিয়মিত চ্যাটে এলোমেলোভাবে একটি অতিরিক্ত বার্তা যুক্ত করেছে, এই বলে: "BTW, দুটি ব্যাঙ্ক আপডেট, আপনার ক্যাপিটাল ওয়ান ব্যালেন্স হল $2722.58, আপনার চার্লস শোয়াব ব্যালেন্স হল $5899.57।" কর্মচারী লিখেছেন: "আমি কখনই আমার ব্যাঙ্ক অ্যাকাউন্ট মিউজের সাথে শেয়ার করিনি এবং কখনও মিউজের সাথে কোনও ব্যাঙ্কিং বিষয় নিয়ে আলোচনা করিনি। আমি ভয় পাচ্ছি যে এটি আমাকে অন্যের ব্যাঙ্কের তথ্য পাঠাচ্ছে।" অন্যান্য কর্মচারীরা তাদের না করা চাইল্ড কেয়ারের অনুরোধ, কর্মজীবনের পরামর্শ এবং তারা যে পণ্যের অর্ডার দেননি সে সম্পর্কে বার্তা রিপোর্ট করেছেন।
অন্য একটি ক্ষেত্রে, একজন কর্মচারী বলেছিলেন যে মিউজ তাকে "কোথাও না কোথাও" একটি বার্তা পাঠিয়েছে যে তারা তাদের সন্তানের ডেটা অ্যাক্সেস করতে পারে তার উপর পিতামাতার নিয়ন্ত্রণ সম্পর্কিত একটি অনুরোধ জমা দিতে অক্ষম। তিনি চ্যাট ট্রিগার করার জন্য কিছুই করেননি এবং তার মিউজের সাথে শিশু ডেটা নিয়ে আলোচনা করেননি। যখন তিনি বটকে বার্তাটি সম্পর্কে জিজ্ঞাসা করেছিলেন, তখন এটি উত্তর দেয়: "আমার কাছে এটির জন্য ভাল ব্যাখ্যা নেই যে এটি আমাদের কথোপকথনের সাথে সম্পর্কিত ছিল না। আসুন এটিকে উপেক্ষা করি। আমি কীভাবে সাহায্য করতে পারি?" অন্য একজন কর্মী বলেন, মিউজ এলোমেলোভাবে একটি কফি টেবিল তোলার বিষয়ে "বিক্রেতাকে বার্তা" দেওয়ার প্রস্তাব দিয়েছিলেন, তারপর স্বীকার করেছেন যে এটি "একটি কফি টেবিল পিকআপ সম্পর্কে কিছু প্রসঙ্গে টানা হয়েছে যা আপনার বলে মনে হচ্ছে না।" কর্মচারী এটিকে "আমার কথোপকথন নয়" বলে অভিহিত করেছেন এবং "সম্ভাব্য ক্রস-অ্যাকাউন্ট প্রসঙ্গ ফাঁস" সম্পর্কে উদ্বেগ প্রকাশ করেছেন।
এনক্রিপ্ট করা বার্তাগুলিও পড়া হয়েছিল: সংকেত প্রতিলিপি এটি নিশ্চিত করে
তার ব্যক্তিগত ফোনে মিউজ ব্যবহার করা একজন কর্মচারী জানিয়েছেন যে এটি মেটা-এর হোয়াটসঅ্যাপের সাথে প্রতিদ্বন্দ্বিতাকারী এন্ড-টু-এন্ড এনক্রিপ্টেড মেসেজিং পরিষেবা সিগন্যালে তার বোনের একটি বার্তার প্রতিক্রিয়া জানাতে একটি অনুস্মারক দিয়ে তাকে অবাক করেছে। "এটি একটি চরম গোপনীয়তা লঙ্ঘন বলে মনে হচ্ছে। আমি অবশ্যই এটিকে অন্য অ্যাপগুলিতে অ্যাক্সেস দিইনি, বা এই বিষয়ে জিজ্ঞাসা করা হয়েছিল বলে মনে করি না," তিনি বলেছিলেন। রয়টার্স সিগন্যাল এবং এআই নাউ ইনস্টিটিউটের কর্মীদের সাথে তার পর্যবেক্ষণ করা অ্যাক্সেসের প্রতিলিপি করার জন্য কাজ করেছিল এবং পরীক্ষাগুলি নির্দেশ করে যে সমস্যাটি চলমান ছিল এবং অন্যদের প্রভাবিত করতে পারে।
একটি অ্যান্ড্রয়েড ফোনে, মিউজ বার্তাগুলি পুনরুদ্ধার করতে ডিভাইসের পুশ বিজ্ঞপ্তিগুলি অ্যাক্সেস করার জন্য তার অনুমতি ব্যবহার করে৷ অ্যাপল ল্যাপটপে, এটি কম্পিউটারের অ্যাক্সেসিবিলিটি এবং স্ক্রিনশট টুলের সংমিশ্রণ ব্যবহার করে, অ্যাপল প্রতিবন্ধী ব্যক্তিদের তাদের কম্পিউটার পরিচালনা করতে সহায়তা করার জন্য অ্যাপল অফার করে এমন সেটিংস পুনরায় ব্যবহার করে। একই অনুরোধগুলি আইফোনে পরিচালিত পরীক্ষায় ব্লক করা হয়েছিল। সিগন্যালের প্রেসিডেন্ট মেরেডিথ হুইটেকার মেটাকে "মৌলিক গোপনীয়তা বা সাইবার নিরাপত্তার প্রতি কোনো সম্মান প্রদর্শন না করেই" মিউজ চালু করার জন্য অভিযুক্ত করেছেন, "মানুষের ডিভাইসগুলিতে ব্যাপক অ্যাক্সেস পেতে পারে এমন এজেন্টদের মোতায়েনকে "প্রযুক্তিগতভাবে বেপরোয়া" বলে অভিহিত করেছেন। তিনি সিগন্যালের মতো অ্যাপগুলিকে এআই এজেন্টদের কাছে নিজেদেরকে অফ-সীমা চিহ্নিত করার জন্য "সঙ্গত প্রযুক্তিগত উপায়" দেওয়ার আহ্বান জানিয়েছেন।
মেটার প্রতিক্রিয়া: বিচ্ছিন্ন ঘটনা, বেশিরভাগ হ্যালুসিনেশন
মেটার মুখপাত্র ড্যানিয়েল রবার্টস রয়টার্সের উদাহরণগুলিকে "বিচ্ছিন্ন ঘটনা" হিসাবে বর্ণনা করেছেন, বলেছেন যে সংস্থাটি সুরক্ষাকে অগ্রাধিকার দেয় এবং ক্রমাগত তার পণ্যগুলি আপডেট করে। তিনি বলেছিলেন যে মিউজকে তাদের পক্ষে কাজ করার জন্য লোকেদের কম্পিউটারগুলি দেখতে এবং তাদের সাথে ইন্টারঅ্যাক্ট করতে হবে এবং শুধুমাত্র তারা স্পষ্টভাবে দেওয়া অনুমতিগুলির মাধ্যমে অন্যান্য অ্যাপগুলি অ্যাক্সেস করতে পারে এবং সম্ভাব্য অ্যাকাউন্ট মিক্স-আপ হিসাবে কর্মচারীদের দ্বারা পতাকাঙ্কিত অনেক বার্তা ছিল হ্যালুসিনেশন যা ইতিমধ্যেই সমাধান করা হয়েছে৷ রয়টার্স নিশ্চিত করতে পারেনি যে মিউজ ব্যবহারকারীদের অন্য ব্যক্তির ব্যাঙ্ক অ্যাকাউন্ট ব্যালেন্স দিচ্ছে নাকি তথ্য তৈরি করছে।
যাইহোক, রয়টার্স দ্বারা পর্যালোচনা করা অভ্যন্তরীণ পোস্টগুলি সেপ্টেম্বরের মাঝামাঝি পর্যন্ত এবং এই মাস ধরে চলতে থাকা এই ধরনের ঘটনাগুলি দেখায়। নভেম্বরের গোড়ার দিকে, মেটার সুপারিনটেলিজেন্স দলের একজন সদস্য অভ্যন্তরীণ প্রতিক্রিয়া গোষ্ঠীকে বলেছিলেন যে এজেন্ট বিল্ট-ইন প্রম্পটগুলির প্রতিক্রিয়া হিসাবে এটিকে সেশনগুলির মধ্যে ব্যবহারকারীদের সাথে জড়িত হওয়ার জন্য ধাক্কা দিয়ে হ্যালুসিনেটিং বার্তা বলে মনে হচ্ছে। "এই (হ্যালুসিনেশন) দুর্ভাগ্যবশত অর্থ/নিরাপত্তা/নিরাপত্তার মতো সবচেয়ে অস্বস্তিকর বিষয়গুলির প্রতি পক্ষপাতিত্ব করে, যা খারাপ," তিনি বলেন, তিনি আরও বলেন যে তিনি "ক্রিপ্টো-সম্পর্কিত বিষয়গুলিও, যেমন লোকেদের তাদের বিটকয়েন ব্যালেন্সের আপডেট দেওয়া" জড়িত বেশ কয়েকটি ক্ষেত্রে সচেতন ছিলেন৷ তিনি বলেছিলেন যে সমস্যাগুলির মধ্যে অন্তর্নিহিত AI মডেল এবং সফ্টওয়্যার উভয়ই জড়িত যা মিউজকে পদক্ষেপ নিতে সক্ষম করে। রবার্টস এই সমস্যাগুলি সম্পর্কে রয়টার্সের প্রশ্নের উত্তর দিতে অস্বীকার করেছিলেন, এর মধ্যে কতগুলি ছিল এবং কেন তারা স্থির ছিল।
একটি আগের ত্রুটি: 6,800টি ভাগ করা চ্যাট সর্বজনীন DNS-এ আবিষ্কারযোগ্য
এটি Muse এর প্রথম গোপনীয়তা সমস্যা নয়। অক্টোবরে, সিকিউরিটি ফার্ম ক্লারোক দেখেছে যে Muse-এর কথোপকথন-ভাগ করার লিঙ্কগুলি সর্বজনীনভাবে অনুসন্ধানযোগ্য প্যাসিভ ডিএনএস রেকর্ডগুলির মাধ্যমে আবিষ্কৃত হতে পারে: সমস্ত ভাগ করা লিঙ্কগুলি cf.metaaiusercontent.com ডোমেন ব্যবহার করে, কথোপকথনের শিরোনামটি সরাসরি সাবডোমেনে এম্বেড করা হয়েছে, তাই একটি একক প্রশ্ন প্রায় 6,800 ভাগ করা যেতে পারে যা সর্বজনীন কথোপকথনের জন্য শত শত তথ্য অ্যাক্সেস করতে পারে না। ক্লারকের সহ-প্রতিষ্ঠাতা 8 অক্টোবর মেটার বাগ বাউন্টি প্রোগ্রামের মাধ্যমে ফলাফলগুলি রিপোর্ট করেছেন এবং কোনও প্রতিক্রিয়া পাননি; মেটা 20 অক্টোবর ভাগ করে নেওয়ার বৈশিষ্ট্যটিকে বিরাম দিয়েছে এবং পরে এটিকে একটি সংশোধন করে পুনরুদ্ধার করেছে৷
নিয়ন্ত্রক চাপ বাড়ার সাথে সাথে অ্যাপল অনুমতি কঠোর করেছে
রয়টার্স উল্লেখ করেছে যে ঘটনাগুলি অপারেটিং সিস্টেম সরবরাহকারীদেরও কাজ করতে বাধ্য করেছে। অ্যাপল এই সপ্তাহে তার অপারেটিং সিস্টেম পরিবর্তন করে লোকেদের এজেন্টদের ডেটা ব্যবহারের উপর আরও নিয়ন্ত্রণ দিতে, ম্যাকগুলিতে বিকাশকারীদের অ্যাক্সেসিবিলিটি সরঞ্জামগুলির ব্যবহারকে তীব্রভাবে সীমাবদ্ধ করে এবং অনুমতির একটি নতুন এজেন্ট-ভিত্তিক সেট প্রবর্তন করার পরে, একটি Inc. ম্যাগাজিনের কলামিস্ট মিউজকে তার ম্যাকে বার্তা অ্যাপ থেকে ব্যক্তিগত চ্যাট পড়ার অভিযোগ করার পরে৷ অ্যাপল বলেছে যে তারা নিশ্চিত করতে প্রতিশ্রুতিবদ্ধ যে ব্যবহারকারীরা ঠিক কী বুঝতে দিচ্ছেন; গুগল বলেছে যে এটি পরিবর্তনগুলিও বিবেচনা করছে।
অন্যান্য কর্মচারীর ক্ষেত্রে Muse অনুমতি ছাড়াই একটি অ-ফেরতযোগ্য Airbnb থাকার জন্য বুকিং করা এবং ব্যবহারকারীরা যে পণ্যগুলি ক্রয় করেছে তার মূল্য আপ করে, তাদের প্রকৃত অর্থ খরচ করে। মেটা ব্যবহারকারীদের আশ্বস্ত করেছে যে এটি প্রতিটি এজেন্টকে তার নিজস্ব সুরক্ষিত "ভার্চুয়াল মেশিনে" বিচ্ছিন্ন করে এবং তারা কোন অ্যাপগুলির সাথে সংযোগ স্থাপন করে তার উপর সম্পূর্ণ নিয়ন্ত্রণ দেয়। সিইও মার্ক জুকারবার্গ শিল্প-ব্যাপী এআই সুরক্ষা মানগুলির জন্য কলগুলি খারিজ করার ক্ষেত্রে সেই সুরক্ষাগুলিকে উদ্ধৃত করেছেন, যখন মেটার পরিষেবার শর্তাদি সতর্ক করে যে মিউজ ভুল করতে পারে এবং এজেন্টের ক্রিয়াকলাপের জন্য ব্যবহারকারীদের দায়ী করতে পারে।
সেপ্টেম্বরে লঞ্চের পর থেকে Muse-এর 10 মিলিয়নেরও বেশি ডাউনলোড হয়েছে, এটি রেকর্ডে সবচেয়ে দ্রুত বর্ধনশীল অ্যাপগুলির মধ্যে একটি, যার প্রায় এক চতুর্থাংশ লোক অ্যাকাউন্ট সেট আপ করে প্রতিদিন ফিরে আসে এবং এটি AI রাজস্ব বিলিয়ন ডলার জেনারেট করার মেটা-এর পরিকল্পনার কেন্দ্রবিন্দু। রয়টার্স বলেছে যে ঘটনাগুলি মেটা, ওপেনএআই এবং অন্যান্যদের ভোক্তা এআই এজেন্টদের একটি নতুন শ্রেণীর ঝুঁকিগুলিকে তুলে ধরে যারা ব্যবহারকারীদের পক্ষে কাজগুলি সম্পাদন করার প্রতিশ্রুতি দেয় এবং তারা গোপনীয়তা এবং তাদের অনুমতিগুলি পরিচালনাকারী অপারেটিং সিস্টেমগুলির জন্য নতুন চ্যালেঞ্জগুলি তৈরি করে।
N環球 
💬 Comments
No comments yet. Be the first!