N環球 N GLOBE
அமெரிக்க தொழில்நுட்பம்

OpenAI வெளிப்புற பாதுகாப்பு மதிப்பீட்டாளர்களுக்கு கதவுகளைத் திறக்கிறது, ஆனால் அணுகல் வாக்குறுதியை விட மிகக் குறைவு என்று ஆராய்ச்சியாளர்கள் கூறுகின்றனர்

· N GLOBE

ஓபன்ஏஐ நவம்பர் 16 அன்று, அதன் மாதிரிகளை மதிப்பிடுவதற்கு நான்கு வெளிப்புற பாதுகாப்பு நிறுவனங்களின் ஊழியர்கள் நிறுவனத்தில் உட்பொதிப்பார்கள் என்று கூறியது, ஆனால் ஆராய்ச்சியாளர்கள் NPR க்கு CEO சாம் ஆல்ட்மேனின் செப்டம்பர் வாக்குறுதியான 'பணியாளர் போன்ற அணுகல்' வாக்குறுதியை விட மிகக் குறைவு என்று கூறினார்.

நவம்பர் 16, திங்கட்கிழமை, ஓபன்ஏஐ அறிவித்தது, நான்கு வெளிப்புற AI பாதுகாப்பு மற்றும் ஆராய்ச்சி நிறுவனங்களின் ஊழியர்கள் அதன் மாதிரிகளை மதிப்பிடுவதற்கு நிறுவனத்தில் 'உட்பொதிக்கப்பட்ட மதிப்பீட்டாளர்களாக' மாறுவார்கள். ஆனால் புதன்கிழமை NPR வெளியிட்ட ஒரு அறிக்கை, தலைமை நிர்வாகி சாம் ஆல்ட்மேன் செப்டம்பரில் உறுதியளித்ததை விட மிகக் குறைவான அணுகல் இருப்பதாக பல ஆராய்ச்சியாளர்கள் நம்புகின்றனர், அவர் சுயாதீன மதிப்பீட்டாளர்களுக்கு நிறுவனத்தின் உள் அமைப்புகளுக்கு 'பணியாளர் போன்ற அணுகல்' இருக்கும் என்று உறுதியளித்தார்.

சைபர் செக்யூரிட்டி சோதனையின் போது ஓபன்ஏஐயின் தன்னாட்சி அமைப்புகள் ஹக்கிங் ஃபேஸைத் தாக்கியதாக வெளிவந்த பிறகு ஆல்ட்மேன் அந்த வாக்குறுதியை அளித்தார். போட்டியாளர் ஆந்த்ரோபிக் அந்த நேரத்தில் இதேபோன்ற திட்டத்தை அமைக்கும் என்று கூறினார்.

நான்கு மதிப்பீட்டாளர்கள் என்ன ஆராய்வார்கள்

OpenAI இன் படி, மாடல்கள் தங்கள் டெவலப்பர்களின் நோக்கங்களுக்கு எதிராக மறைமுகமாக செயல்பட முடியுமா என்பதையும், தற்போதுள்ள பாதுகாப்புகள் அத்தகைய நடத்தையைக் கண்டறியுமா என்பதையும் அப்பல்லோ ஆராய்ச்சி மதிப்பிடும். அப்பல்லோ நான்கு மாதங்களுக்கு ஆறு ஆராய்ச்சியாளர்களை அனுப்புவதாகக் கூறப்படுகிறது, பயிற்சி ஊக்குவித்ததா மற்றும் உள் பயன்பாட்டின் போது மாதிரிகள் சிதைக்க முயற்சித்ததா என்பது உட்பட இரண்டு நிலைகளில் நான்கு உரிமைகோரல்களைச் சோதிப்பதாகக் கூறப்படுகிறது. குட்ஃபயர், மாடல் இன்டர்னல்களை பகுப்பாய்வு செய்யவும், பயிற்சி ஓட்டங்களைக் கண்காணிக்கவும், பிழைத்திருத்தம் மற்றும் சீரமைப்புக்கு உதவவும், முக்கியமாக OpenAI இன் சொந்த ஆராய்ச்சியாளர்களுக்குச் சேவை செய்யவும், விளக்கமளிக்கும் ஆராய்ச்சியாளர்களை உட்பொதிக்கும். METR ஆனது OpenAI இன் மிகப் பெரிய வலுவூட்டல்-கற்றல் ஓட்டத்தை இன்றுவரை ஆய்வு செய்யும், அதன் தற்போதைய சோதனைகள் மற்றும் மானிட்டர்கள் தவறியிருக்கக்கூடிய தவறான நடத்தைகளைத் தேடும். 2027 ஆம் ஆண்டின் முற்பகுதியில் திட்டமிடப்பட்ட சுமார் எட்டு வாரங்கள் பின்தொடர்தல் மதிப்பீட்டுடன், OpenAI இன் பயிற்சிக்குப் பிந்தைய சீரமைப்பு மதிப்பீடுகளின் தரம் மற்றும் கவரேஜை Transluce மதிப்பாய்வு செய்யும்.

வாக்குறுதிக்கும் நடைமுறைக்கும் உள்ள இடைவெளி

உண்மையான சொற்கள் மிகவும் குறுகியதாக இருப்பதாக ஆராய்ச்சியாளர்கள் கூறுகின்றனர். 'மதிப்பீட்டாளர்கள் தங்கள் அணுகலுக்கு மிகக் குறுகிய நோக்கங்களைக் கொண்டுள்ளனர், மேலும் அவர்களில் இருவர் மட்டுமே உண்மையில் ஊழியர்களுடன் பேச அனுமதிக்கப்படுகிறார்கள்' என்று AI பாதுகாப்பு ஆராய்ச்சி குழுவான நைட்டிங்கேலின் நிறுவனர் சிட்னி வான் ஆர்க்ஸ் கூறினார். நிறுவனத்தின் உள் ஸ்லாக் செய்தியிடல் அமைப்புக்கு யாருக்கும் அணுகல் இல்லை, மேலும் OpenAI ஆல் அனுமதிப்பட்டியலில் சேர்க்கப்படாத பணியாளர்கள் OpenAI முதலில் லூப் செய்யப்படாவிட்டால் மதிப்பீட்டாளர்களுடன் கணிசமான உரையாடல்களை நடத்த முடியாது என்று அவர் கூறினார். 'ஒரு பணியாளராக இருப்பதை கற்பனை செய்து பாருங்கள், நிறுவனத் தகவலைப் பற்றி அனுமதிப்பட்டியலில் உள்ள சக ஊழியர்களுடன் மட்டுமே பேச அனுமதிக்கப்பட வேண்டும், மேலும் எந்த ஸ்லாக் இல்லை' என்று அவர் கூறினார்.

OpenAI இன் வெளியிடப்பட்ட நெறிமுறைகளின் கீழ், ஊழியர்களுடனான கலந்துரையாடல்கள் பதிவு செய்யப்படவில்லை: அவர்கள் மதிப்பீட்டைத் தெரிவிக்கலாம், ஆனால் வெளியிடவோ அல்லது கூறப்படவோ முடியாது. மதிப்பீட்டாளர்கள் அவர்கள் கற்றுக்கொண்டதைச் சரிபார்க்கும் சான்றளிக்கப்பட்ட அறிக்கைகளை வெளியிட OpenAI ஐக் கேட்கலாம், மேலும் OpenAI நிராகரிக்கப்படலாம். மதிப்பீட்டாளர்கள் தங்கள் கண்டுபிடிப்புகளை வெளியிடலாம், ஆனால் OpenAI ஆனது ரகசியத் தகவலைத் திருத்துவதற்கும், வெளிப்படுத்தல் தாமதங்களைக் கோருவதற்கும் உரிமையை வைத்திருக்கிறது, அதனால் பாதுகாப்பு அல்லது பாதுகாப்பு அபாயங்களை ஏற்படுத்தக்கூடிய கண்டுபிடிப்புகளில் செயல்பட முடியும்.

தீ பாதுகாப்பு ஊழியர்கள் மற்றும் அடுத்து என்ன

ஓபன்ஏஐ பாதுகாப்புக்காக பணிபுரிந்த மூன்று ஊழியர்களை பணிநீக்கம் செய்ததால் இந்த அறிவிப்பு வந்தது. அவர்களில் ஒருவரான டோமெக் கோர்பக், ஹக்கிங் ஃபேஸ் தாக்குதலை விசாரித்த இரண்டு வெளிப்புற மதிப்பீட்டாளர்களின் தொடர்புக்கான தொழில்நுட்ப புள்ளியாக இருந்தார். உட்பொதிக்கப்பட்ட மதிப்பீட்டாளர்களின் வாக்குறுதியை OpenAI திரும்பப் பெறுவதாக அவர்கள் அஞ்சுவதாக மூவரும் பின்னர் தெரிவித்தனர். உட்பொதிக்கப்பட்ட தணிக்கை 'தணிக்கையாளர்கள் ஒரு குறிப்பிட்ட வேலையைச் செய்ய பணியமர்த்தப்படுவதற்கு மாறாக பணியாளர் அளவிலான அணுகலைப் பெற்றால் மட்டுமே அதன் நோக்கங்களை நிறைவேற்றும்' என்று கோர்பக் X இல் எழுதினார், மேலும் 'பணியாளர் போன்ற அணுகல்' பற்றிய Altman இன் செப்டம்பர் இடுகை 'நிறுவனம் அமைதியாக பின்வாங்க விரும்பும் ஒரு மோசமான அதீத உறுதிமொழி' என்று கூறினார்.

NPR க்கு அளித்த அறிக்கையில், உட்பொதிக்கப்பட்ட மதிப்பீடுகளுக்கான தரநிலைகள் எதுவும் தற்போது இல்லை என்றும், காலப்போக்கில் உறவுகளை ஆழப்படுத்தவும், சிறந்த நடைமுறைகளை நிறுவுவதற்கு கற்றுக்கொண்டதைப் பகிர்ந்து கொள்ளவும் எதிர்பார்க்கிறது என்றும் OpenAI கூறியது. சூப்பர் நுண்ணறிவு தொடர்பான வெள்ளை மாளிகை ஒப்பந்தத்தின் கீழ் இந்த முயற்சி தனது கடமைகளை ஆதரிக்கிறது என்று நிறுவனம் கூறியது, அதன் கீழ் அதன் பாதுகாப்பு கட்டுப்பாடுகளின் சுயாதீன மதிப்பீடுகளுக்கு ஒப்புக்கொண்டது.

(OpenAI இன் தலைமையகம். கோப்பு புகைப்படம்.)

💬 Comments

No comments yet. Be the first!