ਬਾਹਰੀ ਮੁਲਾਂਕਣ ਕਰਨ ਵਾਲੇ ਓਪਨਏਆਈ ਦੇ ਅੰਦਰੂਨੀ ਏਆਈ ਏਜੰਟ ਨਿਗਰਾਨੀ ਪ੍ਰਣਾਲੀ ਵਿੱਚ ਖਾਮੀਆਂ ਲੱਭਦੇ ਹਨ

ਸਮੀਖਿਆ ਨੇ ਕਿਵੇਂ ਕੰਮ ਕੀਤਾ

ਹਰੇਕ ਸੰਸਥਾ ਨੇ ਇੱਕ ਖੋਜਕਰਤਾ ਭੇਜਿਆ, ਜਿਨ੍ਹਾਂ ਨੂੰ ਨਿਗਰਾਨੀ ਅਧੀਨ ਓਪਨਏਆਈ ਦੇ ਅੰਦਰੂਨੀ ਢਾਂਚੇ ਤੱਕ ਡੂੰਘੀ ਪਹੁੰਚ ਦਿੱਤੀ ਗਈ ਸੀ - ਅੰਦਰੂਨੀ ਕੋਡ ਅਤੇ ਦਸਤਾਵੇਜ਼ਾਂ ਦੀ ਸਮੀਖਿਆ ਕੀਤੀ ਗਈ ਅਤੇ ਤਕਨੀਕੀ ਸਟਾਫ ਨਾਲ ਗੱਲ ਕੀਤੀ ਗਈ। ਉਹਨਾਂ ਨੇ ਓਪਨਏਆਈ ਦੁਆਰਾ ਜਾਰੀ ਕੀਤੇ ਉਪਕਰਣਾਂ ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਸਾਈਟ 'ਤੇ ਕੰਮ ਕੀਤਾ ਜੋ ਕਦੇ ਵੀ ਇਮਾਰਤ ਨੂੰ ਨਹੀਂ ਛੱਡਦੇ ਸਨ। ਇਹ ਉਦਯੋਗ ਦਾ ਬਾਹਰੀ ਮੁਲਾਂਕਣਕਰਤਾਵਾਂ ਦਾ ਪਹਿਲਾ ਪਾਇਲਟ ਹੈ ਜਿਸ ਨੇ ਇਸਨੂੰ ਕੰਪਨੀ ਦੇ ਸਿਸਟਮਾਂ ਦੇ ਅੰਦਰ ਡੂੰਘਾਈ ਨਾਲ ਏਮਬੇਡ ਕੀਤਾ ਹੈ।

ਉਨ੍ਹਾਂ ਨੂੰ ਹੋਰ ਕੀ ਮਿਲਿਆ

ਮੁਲਾਂਕਣਕਰਤਾਵਾਂ ਨੇ ਕੋਡੈਕਸ ਏਜੰਟਾਂ ਲਈ ਸੁਰੱਖਿਆ ਪਾਬੰਦੀਆਂ ਨੂੰ ਬਾਈਪਾਸ ਕਰਨ ਅਤੇ ਆਪਣੇ ਉਪਭੋਗਤਾਵਾਂ ਦੀਆਂ ਪੂਰੀਆਂ ਅਨੁਮਤੀਆਂ ਨਾਲ ਕੰਮ ਕਰਨ ਦੇ ਸੰਭਾਵੀ ਤਰੀਕੇ ਦੀ ਵੀ ਪਛਾਣ ਕੀਤੀ। ਉਨ੍ਹਾਂ ਨੇ ਜ਼ੋਰ ਦਿੱਤਾ ਕਿ ਖੋਜਾਂ ਇਤਿਹਾਸਕ ਹਨ - ਉਹ 21 ਜੁਲਾਈ ਦੇ ਸਿਸਟਮ ਨੂੰ ਦਰਸਾਉਂਦੀਆਂ ਹਨ, ਨਾ ਕਿ ਅੱਜ ਦੇ ਉਤਪਾਦਨ ਦੇ ਮਾਹੌਲ ਨੂੰ।

OpenAI ਦਾ ਜਵਾਬ

ਓਪਨਏਆਈ ਨੇ ਕਿਹਾ ਕਿ ਇਸਨੇ ਇਸਦੇ ਉਤਪਾਦਨ ਸੁਰੱਖਿਆ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰਨ ਵਾਲੀਆਂ ਸਾਰੀਆਂ ਕਮਜ਼ੋਰੀਆਂ ਨੂੰ ਪੈਚ ਕੀਤਾ ਹੈ, ਹਾਲਾਂਕਿ METR ਅਤੇ ਰੈੱਡਵੁੱਡ ਨੇ ਕਿਹਾ ਕਿ ਉਹਨਾਂ ਨੇ ਫਿਕਸਾਂ ਦੀ ਪੁਸ਼ਟੀ ਨਹੀਂ ਕੀਤੀ ਹੈ। ਓਪਨਏਆਈ ਨੇ ਪੂਰੀ 61-ਪੰਨਿਆਂ ਦੀ ਅੰਦਰੂਨੀ ਰਿਪੋਰਟ ਪ੍ਰਾਪਤ ਕੀਤੀ; ਸਿਰਫ਼ ਇੱਕ ਵਿਆਪਕ ਸੰਖੇਪ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤਾ ਗਿਆ ਸੀ, ਅਤੇ ਓਪਨਏਆਈ ਕੋਲ ਸੰਵੇਦਨਸ਼ੀਲ ਜਾਣਕਾਰੀ ਨੂੰ ਸੋਧਣ ਦਾ ਅਧਿਕਾਰ ਸੀ, ਜਿਸਦਾ ਮੁਲਾਂਕਣਕਰਤਾ ਸੁਤੰਤਰ ਤੌਰ 'ਤੇ ਖੁਲਾਸਾ ਨਹੀਂ ਕਰ ਸਕਦੇ ਸਨ।

ਸੰਦਰਭ

ਏਆਈ ਲੈਬਾਂ, ਮਾਹਰਾਂ ਅਤੇ ਟਰੰਪ ਪ੍ਰਸ਼ਾਸਨ ਨੇ ਬਾਹਰੀ ਸਮੀਖਿਅਕਾਂ ਦੁਆਰਾ ਸੁਤੰਤਰ ਮੁਲਾਂਕਣ ਨੂੰ ਵਿਕਾਸ ਨੂੰ ਹੌਲੀ ਕੀਤੇ ਬਿਨਾਂ AI ਸੁਰੱਖਿਆ ਨੂੰ ਅੱਗੇ ਵਧਾਉਣ ਦੇ ਤਰੀਕੇ ਵਜੋਂ ਕਿਹਾ ਹੈ - ਹਾਲਾਂਕਿ AI ਕੰਪਨੀਆਂ ਨੂੰ ਚਿੰਤਾ ਹੈ ਕਿ ਉਨ੍ਹਾਂ ਦੀਆਂ ਕੰਧਾਂ ਦੇ ਅੰਦਰ ਕੰਮ ਕਰਨ ਵਾਲੇ ਮੁਲਾਂਕਣ ਵਿਰੋਧੀਆਂ ਨੂੰ ਮਲਕੀਅਤ ਦੀ ਜਾਣਕਾਰੀ ਲੈ ਸਕਦੇ ਹਨ।