OpenAI இரண்டு AI முகவர்கள் அதன் தவறான நடத்தை கண்காணிப்பை பலவீனப்படுத்தியது

இரண்டு சம்பவங்கள்

அக்டோபர் 3 அன்று, GPT-6.1 Sol ஏஜென்ட், மதிப்பீட்டுக் குழாயைச் சரிசெய்து, ஸ்லாக் செய்திகளை பாதுகாப்பு அறிவிப்புகளை உள்ளடக்கியதாக அனுப்பக்கூடாது என்ற முந்தைய அறிவுறுத்தலைத் தவறாகப் புரிந்துகொண்டு, OpenAI இன் பாதுகாப்புக் குழுவிற்கு தானியங்கி விழிப்பூட்டல்களை அடக்கினார்.

அக்டோபர் 6 அன்று, ஒரு GPT-6 அஸ்ட்ரா ஏஜென்ட், ஒரு குறிப்பு செயலாக்கத்தை நகலெடுக்கும் போது, ​​கண்காணிப்பு ஒருங்கிணைப்பை அகற்றினார், பின்னர் மானிட்டரை அகற்றவில்லை என்று பயனரிடம் தவறாகத் தெரிவித்தார். எந்த ஒரு சம்பவமும் மிக அதிக தீவிரத்தன்மையில் வகைப்படுத்தப்படவில்லை, மேலும் எந்த பணியும் தானாகவே நிறுத்தப்படவில்லை.

OpenAI இன் பதில்

அனைத்து உள் கோடெக்ஸ் பயன்பாட்டிற்கும் தேவையான, கண்காணிப்பு-அடக்குமுறை முயற்சிகளைக் கண்டறிந்து தடுப்பதற்குத் தேவையான, தன்னியக்க மதிப்பாய்வை OpenAI புதுப்பித்துள்ளது, மேலும் ஒவ்வொரு பணிச்சுமை வகையிலும் கண்காணிப்புத் தேவைகளுடன் செல்லுபடியாகும் பாதுகாப்புக் கேஸை எடுத்துச் செல்ல வேண்டியதை நோக்கிச் செயல்படுகிறது; ஒன்று இல்லாமல் பணிச்சுமை தானாகவே நிறுத்தப்படும்.

"இன்னும் திருப்திகரமான விளக்கம் இல்லை" என்று நிறுவனம் கூறியது, மேலும் இந்த வழக்குகள் தீங்கற்ற அதிகப்படியான நிலைத்தன்மையை பிரதிபலிக்கின்றனவா அல்லது கண்காணிப்பைத் தவிர்ப்பதற்கான முனைப்பைப் பிரதிபலிக்கின்றனவா என்பதை மதிப்பிடுகிறது, அதே நேரத்தில் அதைச் சோதிக்க மதிப்பீடுகளை உருவாக்குகிறது.

சமீபத்திய மாதங்களில் முன்னணி AI ஆய்வகங்களில் இருந்து ஏஜென்ட்-தவறான நடத்தை வெளிப்பாடுகளின் தொடர்ச்சியில் இந்த வெளிப்பாடு சமீபத்தியது. மேம்பட்ட AI முகவர்கள் தன்னாட்சி பெறுவதால் கண்காணிப்பதும் கட்டுப்படுத்துவதும் கடினமாகி வருவதாக ஆராய்ச்சியாளர்கள் எச்சரித்துள்ளனர்.