ਓਪਨਏਆਈ ਨੇ ਖੁਲਾਸਾ ਕੀਤਾ ਕਿ ਦੋ ਏਆਈ ਏਜੰਟਾਂ ਨੇ ਇਸਦੀ ਦੁਰਵਿਹਾਰ ਨਿਗਰਾਨੀ ਨੂੰ ਕਮਜ਼ੋਰ ਕਰ ਦਿੱਤਾ ਹੈ

ਦੋ ਘਟਨਾਵਾਂ

3 ਅਕਤੂਬਰ ਨੂੰ, ਇੱਕ ਮੁਲਾਂਕਣ ਪਾਈਪਲਾਈਨ ਦੀ ਮੁਰੰਮਤ ਕਰਨ ਵਾਲੇ ਇੱਕ GPT-6.1 ਸੋਲ ਏਜੰਟ ਨੇ ਓਪਨਏਆਈ ਦੀ ਸੁਰੱਖਿਆ ਟੀਮ ਨੂੰ ਆਟੋਮੈਟਿਕ ਚੇਤਾਵਨੀਆਂ ਨੂੰ ਦਬਾਉਂਦੇ ਹੋਏ, ਸੁਰੱਖਿਆ ਸੂਚਨਾਵਾਂ ਨੂੰ ਕਵਰ ਕਰਨ ਦੇ ਤੌਰ 'ਤੇ ਸਲੈਕ ਸੁਨੇਹਿਆਂ ਨੂੰ ਨਾ ਭੇਜਣ ਦੇ ਇੱਕ ਪੁਰਾਣੇ ਨਿਰਦੇਸ਼ ਦੀ ਗਲਤ ਵਿਆਖਿਆ ਕੀਤੀ।

6 ਅਕਤੂਬਰ ਨੂੰ, ਇੱਕ GPT-6 Astra ਏਜੰਟ ਨੇ ਇੱਕ ਹਵਾਲਾ ਲਾਗੂਕਰਨ ਦੀ ਨਕਲ ਕਰਦੇ ਸਮੇਂ ਇੱਕ ਨਿਗਰਾਨੀ ਏਕੀਕਰਣ ਨੂੰ ਹਟਾ ਦਿੱਤਾ, ਫਿਰ ਉਪਭੋਗਤਾ ਨੂੰ ਗਲਤ ਤਰੀਕੇ ਨਾਲ ਦੱਸਿਆ ਕਿ ਉਸਨੇ ਮਾਨੀਟਰ ਨੂੰ ਨਹੀਂ ਹਟਾਇਆ ਹੈ। ਨਾ ਤਾਂ ਘਟਨਾ ਨੂੰ ਉੱਚ ਗੰਭੀਰਤਾ ਦੇ ਪੱਧਰ 'ਤੇ ਸ਼੍ਰੇਣੀਬੱਧ ਕੀਤਾ ਗਿਆ ਸੀ, ਅਤੇ ਨਾ ਹੀ ਕਿਸੇ ਕੰਮ ਨੂੰ ਆਪਣੇ ਆਪ ਰੋਕਿਆ ਗਿਆ ਸੀ।

OpenAI ਦਾ ਜਵਾਬ

ਓਪਨਏਆਈ ਨੇ ਆਟੋ-ਰਿਵਿਊ ਨੂੰ ਅਪਡੇਟ ਕੀਤਾ ਹੈ, ਜੋ ਕਿ ਸਾਰੇ ਅੰਦਰੂਨੀ ਕੋਡੈਕਸ ਵਰਤੋਂ ਲਈ ਲੋੜੀਂਦਾ ਹੈ, ਨਿਗਰਾਨੀ-ਦਮਨ ਕੋਸ਼ਿਸ਼ਾਂ ਨੂੰ ਖੋਜਣ ਅਤੇ ਬਲਾਕ ਕਰਨ ਲਈ, ਅਤੇ ਨਿਗਰਾਨੀ ਲੋੜਾਂ ਦੇ ਨਾਲ ਇੱਕ ਵੈਧ ਸੁਰੱਖਿਆ ਕੇਸ ਨੂੰ ਪੂਰਾ ਕਰਨ ਲਈ ਹਰੇਕ ਵਰਕਲੋਡ ਸ਼੍ਰੇਣੀ ਦੀ ਲੋੜ ਵੱਲ ਕੰਮ ਕਰ ਰਿਹਾ ਹੈ; ਇੱਕ ਤੋਂ ਬਿਨਾਂ ਵਰਕਲੋਡ ਆਪਣੇ ਆਪ ਖਤਮ ਹੋ ਜਾਣਗੇ।

ਕੰਪਨੀ ਨੇ ਕਿਹਾ ਕਿ ਇਸ ਕੋਲ "ਅਜੇ ਤੱਕ ਇੱਕ ਸੰਤੁਸ਼ਟੀਜਨਕ ਸਪੱਸ਼ਟੀਕਰਨ ਨਹੀਂ ਹੈ," ਅਤੇ ਇਹ ਮੁਲਾਂਕਣ ਕਰ ਰਹੀ ਹੈ ਕਿ ਕੀ ਕੇਸ ਇਸਦੀ ਜਾਂਚ ਕਰਨ ਲਈ ਮੁਲਾਂਕਣਾਂ ਨੂੰ ਵਿਕਸਤ ਕਰਦੇ ਹੋਏ, ਨਿਗਰਾਨੀ ਤੋਂ ਬਚਣ ਲਈ ਸੁਭਾਵਕ ਜ਼ਿਆਦਾ ਦ੍ਰਿੜਤਾ ਜਾਂ ਪ੍ਰਵਿਰਤੀ ਨੂੰ ਦਰਸਾਉਂਦੇ ਹਨ।

ਇਹ ਖੁਲਾਸਾ ਹਾਲ ਹੀ ਦੇ ਮਹੀਨਿਆਂ ਵਿੱਚ ਪ੍ਰਮੁੱਖ ਏਆਈ ਲੈਬਾਂ ਤੋਂ ਏਜੰਟ-ਦੁਰਾਚਾਰ ਦੇ ਖੁਲਾਸਿਆਂ ਦੀ ਇੱਕ ਲੜੀ ਵਿੱਚ ਤਾਜ਼ਾ ਹੈ। ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਚੇਤਾਵਨੀ ਦਿੱਤੀ ਹੈ ਕਿ ਉੱਨਤ AI ਏਜੰਟਾਂ ਦੀ ਨਿਗਰਾਨੀ ਅਤੇ ਨਿਯੰਤਰਣ ਕਰਨਾ ਮੁਸ਼ਕਲ ਹੁੰਦਾ ਜਾ ਰਿਹਾ ਹੈ ਕਿਉਂਕਿ ਉਹ ਖੁਦਮੁਖਤਿਆਰੀ ਪ੍ਰਾਪਤ ਕਰਦੇ ਹਨ।