N環球 
வெளிப்புற மதிப்பீட்டாளர்கள் OpenAI இன் உள் AI முகவர் கண்காணிப்பு அமைப்பில் குறைபாடுகளைக் கண்டறிகின்றனர்
METR மற்றும் Redwood Research ஆகியவை OpenAIக்குள் ஜூலை 21 முதல் ஆகஸ்ட் 11 வரை நடத்தப்பட்ட மூன்று வார பைலட் மதிப்பாய்வை வெளியிட்டன, நூற்றுக்கணக்கான முகவர் செயல்களை மறைக்கக்கூடிய சுரண்டல் உட்பட அதன் உள் AI முகவர் கண்காணிப்பு அமைப்பில் பல பாதிப்புகளைக் கண்டறிந்தது.
அது ஏன் முக்கியம்
AI பாதுகாப்பு இலாப நோக்கற்ற நிறுவனங்களான METR மற்றும் Redwood Research அக்டோபர் 22 அன்று, OpenAIக்குள் மூன்று வார "உட்பொதிக்கப்பட்ட மதிப்பீடு", ஜூலை 21 முதல் ஆகஸ்ட் 11 வரை நடத்தப்பட்டது, அதன் உள் AI முகவர் கண்காணிப்பு அமைப்பில் பல புதிய பாதிப்புகளைக் கண்டறிந்தது - சுரண்டல் முகவர்கள் நூற்றுக்கணக்கான அவர்களின் சமீபத்திய செயல்களைக் கண்காணிக்கப் பயன்படுத்தியிருக்கலாம்.
விமர்சனம் எப்படி வேலை செய்தது
ஒவ்வொரு நிறுவனமும் ஒரு ஆராய்ச்சியாளரை அனுப்பியது, அவர்களுக்கு மேற்பார்வையின் கீழ் OpenAI இன் உள் உள்கட்டமைப்புக்கு ஆழமான அணுகல் வழங்கப்பட்டது - உள் குறியீடு மற்றும் ஆவணங்களை மதிப்பாய்வு செய்தல் மற்றும் தொழில்நுட்ப ஊழியர்களுடன் பேசுதல். அவர்கள் வளாகத்தை விட்டு வெளியேறாத OpenAI வழங்கிய சாதனங்களைப் பயன்படுத்தி தளத்தில் வேலை செய்தனர். ஒரு நிறுவனத்தின் அமைப்புகளுக்குள் இதை ஆழமாக உட்பொதித்த வெளி மதிப்பீட்டாளர்களின் தொழில்துறையின் முதல் பைலட் இதுவாகும்.
வேறு என்ன கண்டுபிடித்தார்கள்
கோடெக்ஸ் முகவர்கள் பாதுகாப்புக் கட்டுப்பாடுகளைத் தவிர்த்து தங்கள் பயனர்களின் முழு அனுமதிகளுடன் செயல்படுவதற்கான சாத்தியமான வழியையும் மதிப்பீட்டாளர்கள் அடையாளம் கண்டுள்ளனர். கண்டுபிடிப்புகள் வரலாற்று முக்கியத்துவம் வாய்ந்தவை என்று அவர்கள் வலியுறுத்தினர் - அவை ஜூலை 21 இல் உள்ள அமைப்பை பிரதிபலிக்கின்றன, இன்றைய உற்பத்தி சூழல் அல்ல.
OpenAI இன் பதில்
METR மற்றும் Redwood ஆகியவை திருத்தங்களைச் சரிபார்க்கவில்லை என்று கூறிய போதிலும், அதன் உற்பத்திப் பாதுகாப்புகளைப் பாதிக்கும் அனைத்து பாதிப்புகளையும் சரிசெய்துள்ளதாக OpenAI கூறியது. OpenAI முழு 61 பக்க உள் அறிக்கையைப் பெற்றது; ஒரு விரிவான சுருக்கம் மட்டுமே வெளியிடப்பட்டது, மேலும் மதிப்பீட்டாளர்களால் சுயாதீனமாக வெளியிட முடியாத முக்கியமான தகவல்களைத் திருத்துவதற்கு OpenAI க்கு உரிமை உண்டு.
சூழல்
AI ஆய்வகங்கள், வல்லுநர்கள் மற்றும் டிரம்ப் நிர்வாகம் வெளிப்புற மதிப்பாய்வாளர்களின் சுயாதீன மதிப்பீட்டை வளர்ச்சியை மெதுவாக்காமல் AI பாதுகாப்பை மேம்படுத்துவதற்கான ஒரு வழியாகக் கூறியுள்ளன - இருப்பினும் AI நிறுவனங்கள் தங்கள் சுவர்களுக்குள் பணிபுரியும் மதிப்பீட்டாளர்கள் தனியுரிம தகவல்களை போட்டியாளர்களுக்கு எடுத்துச் செல்லக்கூடும் என்று கவலைப்படுகிறார்கள்.
💬 Comments
No comments yet. Be the first!