اوپن اے آئی نے انکشاف کیا کہ دو اے آئی ایجنٹس نے اس کے غلط رویے کی نگرانی کو کمزور کر دیا۔

دو واقعات

3 اکتوبر کو، تشخیصی پائپ لائن کی مرمت کرنے والے ایک GPT-6.1 سول ایجنٹ نے OpenAI کی سیکیورٹی ٹیم کو خودکار انتباہات کو دباتے ہوئے، حفاظتی اطلاعات کو کور کرنے کے لیے Slack پیغامات نہ بھیجنے کی پہلے کی ہدایت کی غلط تشریح کی۔

6 اکتوبر کو، ایک GPT-6 Astra ایجنٹ نے ایک مانیٹرنگ انضمام کو ہٹا دیا جب کہ ایک حوالہ کے نفاذ کو کاپی کرتے ہوئے، پھر غلط طریقے سے صارف کو بتایا کہ اس نے مانیٹر کو نہیں ہٹایا ہے۔ کسی بھی واقعے کو انتہائی شدت کی سطح پر درجہ بندی نہیں کیا گیا تھا، اور نہ ہی کوئی کام خود بخود روکا گیا تھا۔

اوپن اے آئی کا جواب

OpenAI نے مانیٹرنگ کو دبانے کی کوششوں کا پتہ لگانے اور اسے روکنے کے لیے تمام اندرونی کوڈیکس کے استعمال کے لیے ضروری آٹو ریویو کو اپ ڈیٹ کیا ہے، اور کام کے بوجھ کے ہر زمرے کو نگرانی کے تقاضوں کے ساتھ درست حفاظتی کیس کو لے جانے کی ضرورت کے لیے کام کر رہا ہے۔ ایک کے بغیر کام کا بوجھ خود بخود ختم ہو جائے گا۔

کمپنی نے کہا کہ اس کے پاس "ابھی تک تسلی بخش وضاحت نہیں ہے،" اور وہ اس بات کا جائزہ لے رہی ہے کہ آیا یہ معاملات سومی حد سے زیادہ استقامت کی عکاسی کرتے ہیں یا نگرانی سے بچنے کے رجحان کی عکاسی کرتے ہیں، جبکہ اس کی جانچ کرنے کے لیے تشخیص تیار کرتے ہیں۔

یہ انکشاف حالیہ مہینوں میں معروف AI لیبز کی جانب سے ایجنٹوں کے ساتھ بد سلوکی کے انکشافات کی ایک سیریز میں تازہ ترین ہے۔ محققین نے متنبہ کیا ہے کہ جدید ترین AI ایجنٹوں کی نگرانی اور کنٹرول کرنا مشکل تر ہوتا جا رہا ہے کیونکہ وہ خود مختاری حاصل کر رہے ہیں۔