N環球 N GLOBE
அமெரிக்க தொழில்நுட்பம்

ராய்ட்டர்ஸ் விசாரணை: மெட்டாவின் AI முகவர் மியூஸ் உரையாடல்களை கலந்து மறைகுறியாக்கப்பட்ட செய்திகளைப் படிக்கிறார் என்று ஊழியர்கள் கூறுகின்றனர்

· N GLOBE

ராய்ட்டர்ஸ் விசாரணையில், செப்டம்பரில் தொடங்கப்பட்ட மெட்டாவின் AI உதவியாளர் மியூஸ், அந்நியர்களின் வங்கி நிலுவைகள் மற்றும் சிக்னல் செய்திகளைப் பற்றிய நினைவூட்டல்கள் உட்பட மற்ற நபர்களுக்கான செய்திகளை ஊழியர்களுக்கு மீண்டும் மீண்டும் அனுப்பியது. மெட்டா அவற்றை தனிமைப்படுத்தப்பட்ட சம்பவங்கள், பெரும்பாலும் மாயத்தோற்றங்கள் என்று அழைக்கிறது, ஆனால் ராய்ட்டர்ஸ் சிக்னல் அணுகலை சிக்னல் ஊழியர்களுடன் பிரதிபலிக்கிறது.

நவம்பர் 18 அன்று வெளியிடப்பட்ட ராய்ட்டர்ஸ் விசாரணையின்படி, Meta இன் AI உதவியாளர் மியூஸ் மறைகுறியாக்கப்பட்ட தனிப்பட்ட செய்திகளை ஆராய்ந்து, வாங்குதல்கள் பற்றிய தயாரிக்கப்பட்ட தகவல்களையும் பயனர்களுக்கு மற்றவர்களுக்கான அரட்டைகளையும் அனுப்பியுள்ளது. ராய்ட்டர்ஸ் இரண்டு டஜன் உள் இடுகைகளை மதிப்பாய்வு செய்தது.

பணியாளர் பதவிகள்: மற்றவர்களின் வங்கி இருப்பு, கோரிக்கைகள் ஒருபோதும் செய்யப்படவில்லை

இந்த மாத தொடக்கத்தில் இருந்து ஒரு உள் இடுகையில், ஒரு ஊழியர் மியூஸ் மீன்பிடி தொடர்பான வானிலை மற்றும் அலைத் தகவல் பற்றிய வழக்கமான அரட்டைகளில் தோராயமாக கூடுதல் செய்தியைச் சேர்த்ததாக எழுதினார்: "BTW, இரண்டு வங்கி புதுப்பிப்புகள், உங்கள் கேபிடல் ஒன் இருப்பு $2722.58, உங்கள் சார்லஸ் ஸ்வாப் இருப்பு $5899.57." ஊழியர் எழுதினார்: "எனது வங்கிக் கணக்கை நான் மியூஸுடன் பகிர்ந்து கொள்ளவில்லை மற்றும் மியூஸுடன் எந்த வங்கித் தலைப்பையும் விவாதித்ததில்லை. அது பிறருடைய வங்கித் தகவலை எனக்கு அனுப்பும் என்று நான் பயப்படுகிறேன்." பிற ஊழியர்கள் தாங்கள் செய்யாத குழந்தை பராமரிப்பு கோரிக்கைகள், அவர்கள் நாடாத தொழில் ஆலோசனைகள் மற்றும் அவர்கள் வைக்காத தயாரிப்பு ஆர்டர்கள் பற்றிய செய்திகளைப் புகாரளித்தனர்.

மற்றொரு வழக்கில், மியூஸ் தனது குழந்தையின் தரவை யார் அணுகலாம் என்பது குறித்த பெற்றோரின் கட்டுப்பாடு தொடர்பான கோரிக்கையை சமர்ப்பிக்க முடியவில்லை எனக் கூறி "எங்கும் வெளியே" ஒரு செய்தியை அனுப்பியதாக ஒரு ஊழியர் கூறினார். அரட்டையைத் தூண்டுவதற்கு அவர் எதுவும் செய்யவில்லை, மேலும் அவரது மியூஸுடன் குழந்தைகளின் தரவைப் பற்றி விவாதிக்கவில்லை. செய்தியைப் பற்றி அவர் போட்டிடம் கேட்டபோது, ​​​​அது பதிலளித்தது: "இது எங்கள் உரையாடலுடன் தொடர்புடையது அல்ல என்பதைத் தவிர அதற்கு என்னிடம் நல்ல விளக்கம் இல்லை. அதை புறக்கணிப்போம். நான் எப்படி உதவ முடியும்?" காபி டேபிளை எடுப்பது பற்றி "விற்பனையாளருக்கு செய்தி அனுப்ப" மியூஸ் தோராயமாக முன்வந்ததாக மற்றொரு பணியாளர் கூறினார், பின்னர் அது "உங்களுடையது போல் தோன்றாத காபி டேபிள் பிக்கப் பற்றி சில சூழலில் இழுத்ததாக" ஒப்புக்கொண்டார். ஊழியர் அதை "எனது உரையாடல் அல்ல" என்று அழைத்தார் மற்றும் "சாத்தியமான குறுக்கு கணக்கு சூழல் கசிவு" பற்றி கவலை தெரிவித்தார்.

மறைகுறியாக்கப்பட்ட செய்திகளும் படிக்கப்பட்டன: சிக்னல் பிரதி அதை உறுதிப்படுத்துகிறது

மெட்டாவின் வாட்ஸ்அப்புடன் போட்டியிடும் என்ட்-டு-எண்ட் என்க்ரிப்ட் செய்யப்பட்ட மெசேஜிங் சேவையான சிக்னலில் தனது சகோதரியின் செய்திக்கு பதிலளிப்பதை நினைவூட்டியதன் மூலம் தனது தனிப்பட்ட தொலைபேசியில் மியூஸைப் பயன்படுத்தும் ஒரு ஊழியர் தன்னை ஆச்சரியப்படுத்தியதாகக் கூறினார். "இது ஒரு தீவிர தனியுரிமை மீறல் போல் தெரிகிறது. நான் நிச்சயமாக பிற பயன்பாடுகளுக்கான அணுகலை வழங்கவில்லை, அல்லது இதைப் பற்றி கேட்கப்பட்டதை நினைவுபடுத்தவில்லை," என்று அவர் கூறினார். ராய்ட்டர்ஸ் சிக்னல் மற்றும் ஏஐ நவ் இன்ஸ்டிட்யூட்டில் உள்ள ஊழியர்களுடன் இணைந்து அவர் கவனித்த அணுகலைப் பிரதிபலித்தார், மேலும் சோதனைகள் சிக்கல் நடந்துகொண்டிருப்பதாகவும் மற்றவர்களைப் பாதிக்கக்கூடும் என்றும் சுட்டிக்காட்டியது.

ஆண்ட்ராய்டு மொபைலில், செய்திகளை மீட்டெடுக்க, சாதனத்தின் புஷ் அறிவிப்புகளை அணுக, மியூஸ் அதன் அனுமதியைப் பயன்படுத்தியது. ஆப்பிள் மடிக்கணினியில், இது கணினியின் அணுகல்தன்மை மற்றும் ஸ்கிரீன்ஷாட் கருவிகளின் கலவையைப் பயன்படுத்தியது, குறைபாடுகள் உள்ளவர்கள் தங்கள் கணினிகளை இயக்க உதவும் வகையில் ஆப்பிள் வழங்கும் அமைப்புகளை மீண்டும் உருவாக்குகிறது. ஐபோனில் நடத்தப்பட்ட சோதனைகளிலும் அதே கோரிக்கைகள் தடுக்கப்பட்டன. சிக்னல் தலைவர் மெரிடித் விட்டேக்கர் மெட்டாவை "அடிப்படை தனியுரிமை அல்லது இணையப் பாதுகாப்பிற்கு எந்த மரியாதையும் காட்டாமல்" மியூஸை அறிமுகப்படுத்தியதாகக் குற்றம் சாட்டினார், மேலும் மக்களின் சாதனங்களுக்கு பரந்த அணுகலைப் பெறக்கூடிய முகவர்களின் வரிசைப்படுத்தலை "தொழில்நுட்ப பொறுப்பற்றது" என்று அழைத்தார். AI முகவர்களிடம் வரம்பற்றதாகக் குறிக்க, சிக்னல் போன்ற பயன்பாடுகளுக்கு "நிலையான தொழில்நுட்ப வழிகள்" வழங்கப்பட வேண்டும் என்று அவர் அழைப்பு விடுத்தார்.

மெட்டாவின் பதில்: தனிமைப்படுத்தப்பட்ட சம்பவங்கள், பெரும்பாலும் மாயத்தோற்றங்கள்

மெட்டா செய்தித் தொடர்பாளர் டேனியல் ராபர்ட்ஸ், ராய்ட்டர்ஸ் உதாரணங்களை "தனிமைப்படுத்தப்பட்ட சம்பவங்கள்" என்று விவரித்தார், நிறுவனம் பாதுகாப்பிற்கு முன்னுரிமை அளிக்கிறது மற்றும் அதன் தயாரிப்புகளை தொடர்ந்து புதுப்பிக்கிறது. மியூஸ் மக்கள் கணினிகளைப் பார்த்து, அவர்களின் சார்பாகப் பணியாற்ற வேண்டும் என்றும், அவர்கள் வெளிப்படையாக வழங்கும் அனுமதிகள் மூலம் மட்டுமே பிற பயன்பாடுகளை அணுக முடியும் என்றும், கணக்குக் கலவைகள் என ஊழியர்களால் குறிக்கப்பட்ட பல செய்திகள் ஏற்கனவே கவனிக்கப்பட்ட மாயத்தோற்றங்கள் என்றும் அவர் கூறினார். மியூஸ் பயனர்களுக்கு மற்றவர்களின் வங்கிக் கணக்கு நிலுவைகளை வழங்குகிறதா அல்லது தகவலை உருவாக்குகிறதா என்பதை ராய்ட்டர்ஸால் நிறுவ முடியவில்லை.

எவ்வாறாயினும், ராய்ட்டர்ஸ் மதிப்பாய்வு செய்த உள் இடுகைகள், செப்டம்பர் நடுப்பகுதியில் இதுபோன்ற சம்பவங்கள் நிகழ்ந்து இந்த மாதம் வரை தொடர்கின்றன. நவம்பர் தொடக்கத்தில், மெட்டாவின் சூப்பர் இன்டெலிஜென்ஸ் குழுவின் உறுப்பினர் உள் கருத்துக் குழுவிடம், அமர்வுகளுக்கு இடையில் பயனர்களுடன் ஈடுபட தூண்டும் உள்ளமைக்கப்பட்ட தூண்டுதல்களுக்கு பதிலளிக்கும் விதமாக முகவர் செய்திகளை மாயத்தோற்றம் செய்வதாகத் தோன்றினார். "இந்த (மாயத்தோற்றங்கள்) துரதிர்ஷ்டவசமாக நிதி/பாதுகாப்பு/பாதுகாப்பு போன்ற மிகவும் சங்கடமான தலைப்புகளுக்குச் சார்புடையவை," என்று அவர் கூறினார், மேலும் "கிரிப்டோ தொடர்பான விஷயங்களையும் உள்ளடக்கிய பல வழக்குகள், மக்கள் தங்கள் பிட்காயின் இருப்புகளைப் பற்றிய புதுப்பிப்புகளை வழங்குவது போன்ற"வற்றை அவர் அறிந்திருப்பதாகவும் கூறினார். அடிப்படை AI மாதிரி மற்றும் மியூஸ் நடவடிக்கைகளை எடுக்க உதவும் மென்பொருள் ஆகிய இரண்டையும் உள்ளடக்கிய சிக்கல்கள் இருப்பதாக அவர் கூறினார். அந்த பிரச்சினைகள் பற்றிய ராய்ட்டர்ஸின் கேள்விகளுக்கு பதிலளிக்க ராபர்ட்ஸ் மறுத்துவிட்டார், அவற்றில் எத்தனை உள்ளன, அவை ஏன் தொடர்ந்து வருகின்றன.

முந்தைய குறைபாடு: 6,800 பகிரப்பட்ட அரட்டைகள் பொது DNS இல் கண்டறியப்பட்டது

இது மியூஸின் முதல் தனியுரிமை பிரச்சனை அல்ல. அக்டோபரில், பாதுகாப்பு நிறுவனமான கிளாரோக், பொதுவில் தேடக்கூடிய செயலற்ற DNS பதிவுகள் மூலம் மியூஸின் உரையாடல்-பகிர்வு இணைப்புகளைக் கண்டறிய முடியும் என்பதைக் கண்டறிந்தது: அனைத்து பகிரப்பட்ட இணைப்புகளும் cf.metaaiusercontent.com என்ற டொமைனைப் பயன்படுத்தின, உரையாடல் தலைப்பு நேரடியாக துணை டொமைனில் உட்பொதிக்கப்பட்டுள்ளது, எனவே ஒரு வினவலில் 6,800 பகிரப்பட்ட உரையாடல்களின் பொதுத் தகவல்களைக் கணக்கிட முடியாது. அணுகல். Claroc இன் இணை நிறுவனர் அக்டோபர் 8 அன்று Meta's bug bounty program மூலம் கண்டுபிடிப்புகளை அறிவித்தார் மற்றும் எந்த பதிலும் கிடைக்கவில்லை; Meta அக்டோபர் 20 அன்று பகிர்தல் அம்சத்தை இடைநிறுத்தி, பின்னர் அதை சரிசெய்து மீட்டமைத்தது.

ஒழுங்குமுறை அழுத்தம் அதிகரிக்கும் போது ஆப்பிள் அனுமதிகளை இறுக்கியுள்ளது

இந்த சம்பவங்கள் இயக்க முறைமை வழங்குநர்களையும் செயல்படத் தள்ளியுள்ளன என்று ராய்ட்டர்ஸ் குறிப்பிட்டது. Inc. இதழின் கட்டுரையாளர் தனது Mac இல் உள்ள Messages செயலியில் இருந்து தனிப்பட்ட அரட்டைகளைப் படித்ததாக மியூஸ் மீது குற்றம் சாட்டியதை அடுத்து, ஏஜென்ட்களின் டேட்டா உபயோகத்தின் மீது மக்களுக்கு அதிகக் கட்டுப்பாட்டை வழங்க, மேக்ஸில் டெவலப்பர்களின் அணுகல் கருவிகளைப் பயன்படுத்துவதைக் கடுமையாகக் கட்டுப்படுத்தி, புதிய ஏஜென்ட் சார்ந்த அனுமதிகளின் தொகுப்பை அறிமுகப்படுத்தியதற்காக Apple தனது இயக்க முறைமையை இந்த வாரம் மாற்றியது. பயனர்கள் தாங்கள் அனுமதிக்கும் விஷயங்களை சரியாகப் புரிந்துகொள்வதை உறுதி செய்வதில் உறுதியாக இருப்பதாக ஆப்பிள் கூறியது; மாற்றங்களையும் பரிசீலிப்பதாக கூகுள் தெரிவித்துள்ளது.

பிற ஊழியர் வழக்குகளில் அனுமதியின்றி மியூஸ் திரும்பப்பெறாத Airbnb தங்குவதற்கு முன்பதிவு செய்தல் மற்றும் பயனர்கள் வாங்கிய பொருட்களின் விலைகளை உருவாக்குதல் ஆகியவை அடங்கும். மெட்டா பயனர்களுக்கு உறுதியளித்துள்ளது, இது ஒவ்வொரு முகவரையும் அதன் சொந்த பாதுகாப்பான "மெய்நிகர் இயந்திரத்தில்" தனிமைப்படுத்துகிறது மற்றும் மக்களுக்கு அவர்கள் இணைக்கும் பயன்பாடுகளின் மீது முழு கட்டுப்பாட்டையும் வழங்குகிறது. தொழில்துறை அளவிலான AI பாதுகாப்புத் தரங்களுக்கான அழைப்புகளை நிராகரிப்பதில் CEO மார்க் ஜுக்கர்பெர்க் அந்த பாதுகாப்புகளை மேற்கோள் காட்டினார், அதே நேரத்தில் Meta இன் சேவை விதிமுறைகள் மியூஸ் தவறுகளை செய்யலாம் மற்றும் முகவரின் செயல்களுக்கு பயனர்களை பொறுப்பாக்கக்கூடும் என்று எச்சரிக்கிறது.

மியூஸ் செப்டம்பர் மாதம் தொடங்கப்பட்டதிலிருந்து 10 மில்லியனுக்கும் அதிகமான பதிவிறக்கங்களைப் பெற்றுள்ளது, இது பதிவுசெய்யப்பட்ட மிக வேகமாக வளர்ந்து வரும் பயன்பாடுகளில் ஒன்றாகும், ஒவ்வொரு நாளும் கணக்குகளை அமைக்கும் நபர்களில் கால் பகுதியினர் திரும்பி வருகிறார்கள், மேலும் இது AI வருவாயில் பில்லியன் கணக்கான டாலர்களை ஈட்டுவதற்கான மெட்டாவின் திட்டத்தின் மையப் பகுதியாகும். Meta, OpenAI மற்றும் பயனர்களின் சார்பாக பணிகளைச் செய்வதாக உறுதியளிக்கும் புதிய வகை நுகர்வோர் AI முகவர்களின் அபாயங்கள் மற்றும் தனியுரிமை மற்றும் அவர்களின் அனுமதிகளை நிர்வகிக்கும் இயக்க முறைமைகளுக்கு அவர்கள் முன்வைக்கும் புதிய சவால்களை இந்த சம்பவங்கள் எடுத்துக்காட்டுகின்றன என்று ராய்ட்டர்ஸ் தெரிவித்துள்ளது.

💬 Comments

No comments yet. Be the first!