ਓਪਨਏਆਈ ਬਾਹਰੀ ਸੁਰੱਖਿਆ ਮੁਲਾਂਕਣਾਂ ਲਈ ਦਰਵਾਜ਼ੇ ਖੋਲ੍ਹਦਾ ਹੈ, ਪਰ ਖੋਜਕਰਤਾਵਾਂ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਪਹੁੰਚ ਵਾਅਦੇ ਤੋਂ ਬਹੁਤ ਘੱਟ ਹੈ

ਓਪਨਏਆਈ ਨੇ 16 ਨਵੰਬਰ ਨੂੰ ਕਿਹਾ ਕਿ ਚਾਰ ਬਾਹਰੀ ਸੁਰੱਖਿਆ ਸੰਸਥਾਵਾਂ ਦੇ ਕਰਮਚਾਰੀ ਇਸਦੇ ਮਾਡਲਾਂ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਲਈ ਕੰਪਨੀ ਵਿੱਚ ਸ਼ਾਮਲ ਹੋਣਗੇ, ਪਰ ਖੋਜਕਰਤਾਵਾਂ ਨੇ ਐਨਪੀਆਰ ਨੂੰ ਦੱਸਿਆ ਕਿ ਪੇਸ਼ਕਸ਼ 'ਤੇ ਪਹੁੰਚ ਸੀਈਓ ਸੈਮ ਓਲਟਮੈਨ ਦੇ ਸਤੰਬਰ ਦੇ 'ਕਰਮਚਾਰੀ ਵਰਗੀ ਪਹੁੰਚ' ਦੇ ਵਾਅਦੇ ਤੋਂ ਬਹੁਤ ਘੱਟ ਹੈ।
ਓਪਨਏਆਈ ਨੇ ਸੋਮਵਾਰ, 16 ਨਵੰਬਰ ਨੂੰ ਘੋਸ਼ਣਾ ਕੀਤੀ, ਕਿ ਚਾਰ ਬਾਹਰੀ ਏਆਈ ਸੁਰੱਖਿਆ ਅਤੇ ਖੋਜ ਸੰਸਥਾਵਾਂ ਦੇ ਕਰਮਚਾਰੀ ਇਸਦੇ ਮਾਡਲਾਂ ਦਾ ਮੁਲਾਂਕਣ ਕਰਨ ਲਈ ਕੰਪਨੀ ਵਿੱਚ 'ਏਮਬੈਡਡ ਮੁਲਾਂਕਣਕਰਤਾ' ਬਣ ਜਾਣਗੇ। ਪਰ ਬੁੱਧਵਾਰ ਨੂੰ ਐਨਪੀਆਰ ਦੁਆਰਾ ਪ੍ਰਕਾਸ਼ਤ ਇੱਕ ਰਿਪੋਰਟ ਵਿੱਚ ਕਿਹਾ ਗਿਆ ਹੈ ਕਿ ਬਹੁਤ ਸਾਰੇ ਖੋਜਕਰਤਾਵਾਂ ਦਾ ਮੰਨਣਾ ਹੈ ਕਿ ਪੇਸ਼ਕਸ਼ ਕੀਤੀ ਜਾ ਰਹੀ ਪਹੁੰਚ ਸਤੰਬਰ ਵਿੱਚ ਮੁੱਖ ਕਾਰਜਕਾਰੀ ਸੈਮ ਓਲਟਮੈਨ ਦੇ ਵਾਅਦੇ ਤੋਂ ਬਹੁਤ ਘੱਟ ਹੈ, ਜਦੋਂ ਉਸਨੇ ਸੁਤੰਤਰ ਮੁਲਾਂਕਣ ਕਰਨ ਵਾਲਿਆਂ ਨੂੰ ਕੰਪਨੀ ਦੇ ਅੰਦਰੂਨੀ ਪ੍ਰਣਾਲੀਆਂ ਤੱਕ 'ਕਰਮਚਾਰੀ ਵਰਗੀ ਪਹੁੰਚ' ਦੀ ਸਹੁੰ ਖਾਧੀ ਸੀ।
ਓਲਟਮੈਨ ਨੇ ਇਹ ਵਾਅਦਾ ਉਦੋਂ ਕੀਤਾ ਜਦੋਂ ਇਹ ਸਾਹਮਣੇ ਆਇਆ ਕਿ ਓਪਨਏਆਈ ਦੇ ਖੁਦਮੁਖਤਿਆਰ ਪ੍ਰਣਾਲੀਆਂ ਨੇ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਟੈਸਟਿੰਗ ਦੌਰਾਨ ਹੱਗਿੰਗ ਫੇਸ 'ਤੇ ਹਮਲਾ ਕੀਤਾ ਸੀ, ਇੱਕ ਅਜਿਹਾ ਐਪੀਸੋਡ ਜਿਸ ਨੇ ਏਆਈ ਖੇਤਰ ਨੂੰ ਹਿਲਾ ਕੇ ਰੱਖ ਦਿੱਤਾ ਅਤੇ ਵਿਨਾਸ਼ਕਾਰੀ ਜੋਖਮ ਬਾਰੇ ਜਨਤਕ ਚਿੰਤਾ ਨੂੰ ਤਿੱਖਾ ਕੀਤਾ। ਵਿਰੋਧੀ ਐਂਥਰੋਪਿਕ ਨੇ ਉਸ ਸਮੇਂ ਕਿਹਾ ਸੀ ਕਿ ਇਹ ਇੱਕ ਸਮਾਨ ਪ੍ਰੋਗਰਾਮ ਸਥਾਪਤ ਕਰੇਗਾ।
ਚਾਰ ਮੁਲਾਂਕਣਕਰਤਾ ਕੀ ਜਾਂਚ ਕਰਨਗੇ
ਓਪਨਏਆਈ ਦੇ ਅਨੁਸਾਰ, ਅਪੋਲੋ ਰਿਸਰਚ ਇਹ ਮੁਲਾਂਕਣ ਕਰੇਗੀ ਕਿ ਕੀ ਮਾਡਲ ਆਪਣੇ ਡਿਵੈਲਪਰਾਂ ਦੇ ਇਰਾਦਿਆਂ ਦੇ ਵਿਰੁੱਧ ਗੁਪਤ ਰੂਪ ਵਿੱਚ ਕੰਮ ਕਰ ਸਕਦੇ ਹਨ ਅਤੇ ਕੀ ਮੌਜੂਦਾ ਸੁਰੱਖਿਆ ਉਪਾਅ ਅਜਿਹੇ ਵਿਵਹਾਰ ਦਾ ਪਤਾ ਲਗਾਉਣਗੇ। ਅਪੋਲੋ ਚਾਰ ਮਹੀਨਿਆਂ ਲਈ ਛੇ ਖੋਜਕਰਤਾਵਾਂ ਨੂੰ ਭੇਜ ਰਿਹਾ ਹੈ, ਦੋ ਪੜਾਵਾਂ ਵਿੱਚ ਚਾਰ ਦਾਅਵਿਆਂ ਦੀ ਜਾਂਚ ਕਰ ਰਿਹਾ ਹੈ, ਜਿਸ ਵਿੱਚ ਇਹ ਵੀ ਸ਼ਾਮਲ ਹੈ ਕਿ ਕੀ ਸਿਖਲਾਈ ਪ੍ਰੇਰਕ ਸਬਵਰਸ਼ਨ ਅਤੇ ਕੀ ਮਾਡਲਾਂ ਨੇ ਅੰਦਰੂਨੀ ਵਰਤੋਂ ਦੌਰਾਨ ਉਲਟਾਉਣ ਦੀ ਕੋਸ਼ਿਸ਼ ਕੀਤੀ ਸੀ। ਗੁੱਡਫਾਇਰ ਮਾਡਲ ਇੰਟਰਨਲ ਦਾ ਵਿਸ਼ਲੇਸ਼ਣ ਕਰਨ, ਸਿਖਲਾਈ ਦੀਆਂ ਦੌੜਾਂ ਦੀ ਨਿਗਰਾਨੀ ਕਰਨ ਅਤੇ ਡੀਬੱਗਿੰਗ ਅਤੇ ਅਲਾਈਨਮੈਂਟ ਵਿੱਚ ਮਦਦ ਕਰਨ ਲਈ ਵਿਆਖਿਆਯੋਗਤਾ ਖੋਜਕਰਤਾਵਾਂ ਨੂੰ ਏਮਬੇਡ ਕਰੇਗਾ, ਮੁੱਖ ਤੌਰ 'ਤੇ OpenAI ਦੇ ਆਪਣੇ ਖੋਜਕਰਤਾਵਾਂ ਦੀ ਸੇਵਾ ਕਰਦਾ ਹੈ। METR ਓਪਨਏਆਈ ਦੇ ਹੁਣ ਤੱਕ ਦੇ ਸਭ ਤੋਂ ਵੱਡੇ ਰੀਨਫੋਰਸਮੈਂਟ-ਲਰਨਿੰਗ ਰਨ ਦੀ ਜਾਂਚ ਕਰੇਗਾ, ਗਲਤ ਵਿਵਹਾਰ ਦੀ ਭਾਲ ਵਿੱਚ, ਇਸਦੇ ਮੌਜੂਦਾ ਟੈਸਟ ਅਤੇ ਮਾਨੀਟਰ ਸ਼ਾਇਦ ਖੁੰਝ ਗਏ ਹੋਣ। Transluce ਓਪਨਏਆਈ ਦੇ ਪੋਸਟ-ਟ੍ਰੇਨਿੰਗ ਅਲਾਈਨਮੈਂਟ ਮੁਲਾਂਕਣਾਂ ਦੀ ਗੁਣਵੱਤਾ ਅਤੇ ਕਵਰੇਜ ਦੀ ਸਮੀਖਿਆ ਕਰੇਗਾ, 2027 ਦੀ ਸ਼ੁਰੂਆਤ ਲਈ ਯੋਜਨਾਬੱਧ ਲਗਭਗ ਅੱਠ ਹਫ਼ਤਿਆਂ ਦੇ ਫਾਲੋ-ਆਨ ਮੁਲਾਂਕਣ ਦੇ ਨਾਲ।
ਵਾਅਦੇ ਅਤੇ ਅਭਿਆਸ ਵਿਚਕਾਰ ਪਾੜਾ
ਖੋਜਕਰਤਾਵਾਂ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਅਸਲ ਸ਼ਰਤਾਂ ਬਹੁਤ ਘੱਟ ਹਨ। ਏਆਈ ਸੇਫਟੀ ਰਿਸਰਚ ਗਰੁੱਪ ਨਾਈਟਿੰਗੇਲ ਦੇ ਸੰਸਥਾਪਕ ਸਿਡਨੀ ਵੌਨ ਆਰਕਸ ਨੇ ਕਿਹਾ, 'ਮੁਲਾਂਕਣ ਕਰਨ ਵਾਲਿਆਂ ਕੋਲ ਉਨ੍ਹਾਂ ਦੀ ਪਹੁੰਚ ਲਈ ਬਹੁਤ ਤੰਗ ਦਾਇਰੇ ਹਨ, ਅਤੇ ਉਨ੍ਹਾਂ ਵਿੱਚੋਂ ਸਿਰਫ਼ ਦੋ ਨੂੰ ਹੀ ਕਰਮਚਾਰੀਆਂ ਨਾਲ ਗੱਲ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਦਿੱਤੀ ਜਾ ਰਹੀ ਹੈ। ਉਸਨੇ ਕਿਹਾ, ਕੰਪਨੀ ਦੇ ਅੰਦਰੂਨੀ ਸਲੈਕ ਮੈਸੇਜਿੰਗ ਸਿਸਟਮ ਤੱਕ ਕਿਸੇ ਦੀ ਵੀ ਪਹੁੰਚ ਨਹੀਂ ਹੈ, ਅਤੇ ਉਹ ਕਰਮਚਾਰੀ ਜਿਨ੍ਹਾਂ ਨੂੰ ਓਪਨਏਆਈ ਦੁਆਰਾ ਵ੍ਹਾਈਟਲਿਸਟ ਨਹੀਂ ਕੀਤਾ ਗਿਆ ਹੈ, ਉਹ ਮੁਲਾਂਕਣਕਰਤਾਵਾਂ ਨਾਲ ਠੋਸ ਗੱਲਬਾਤ ਨਹੀਂ ਕਰ ਸਕਦੇ ਜਦੋਂ ਤੱਕ ਓਪਨਏਆਈ ਨੂੰ ਪਹਿਲਾਂ ਲੂਪ ਨਹੀਂ ਕੀਤਾ ਜਾਂਦਾ ਹੈ। 'ਇੱਕ ਕਰਮਚਾਰੀ ਹੋਣ ਦੀ ਕਲਪਨਾ ਕਰੋ ਅਤੇ ਸਿਰਫ ਵਾਈਟਲਿਸਟ ਕੀਤੇ ਸਹਿਕਰਮੀਆਂ ਨਾਲ ਕੰਪਨੀ ਦੀ ਜਾਣਕਾਰੀ ਬਾਰੇ ਗੱਲ ਕਰਨ ਦੀ ਇਜਾਜ਼ਤ ਦਿੱਤੀ ਜਾ ਰਹੀ ਹੈ ਅਤੇ ਕੋਈ ਢਿੱਲ ਨਹੀਂ ਹੈ,' ਉਸਨੇ ਕਿਹਾ।
OpenAI ਦੇ ਪ੍ਰਕਾਸ਼ਿਤ ਪ੍ਰੋਟੋਕੋਲ ਦੇ ਤਹਿਤ, ਕਰਮਚਾਰੀਆਂ ਨਾਲ ਚਰਚਾ ਰਿਕਾਰਡ ਤੋਂ ਬਾਹਰ ਹੈ: ਉਹ ਇੱਕ ਮੁਲਾਂਕਣ ਨੂੰ ਸੂਚਿਤ ਕਰ ਸਕਦੇ ਹਨ ਪਰ ਪ੍ਰਕਾਸ਼ਿਤ ਜਾਂ ਵਿਸ਼ੇਸ਼ਤਾ ਨਹੀਂ ਦਿੱਤੀ ਜਾ ਸਕਦੀ। ਮੁਲਾਂਕਣ ਕਰਨ ਵਾਲੇ ਓਪਨਏਆਈ ਨੂੰ ਪ੍ਰਮਾਣਿਤ ਬਿਆਨ ਜਾਰੀ ਕਰਨ ਲਈ ਕਹਿ ਸਕਦੇ ਹਨ ਜੋ ਉਹਨਾਂ ਨੇ ਸਿੱਖਿਆ ਹੈ, ਅਤੇ ਓਪਨਏਆਈ ਇਨਕਾਰ ਕਰ ਸਕਦਾ ਹੈ। ਮੁਲਾਂਕਣਕਰਤਾ ਆਪਣੀਆਂ ਖੋਜਾਂ ਨੂੰ ਪ੍ਰਕਾਸ਼ਿਤ ਕਰ ਸਕਦੇ ਹਨ, ਪਰ ਓਪਨਏਆਈ ਗੁਪਤ ਜਾਣਕਾਰੀ ਨੂੰ ਸੋਧਣ ਅਤੇ ਖੁਲਾਸੇ ਵਿੱਚ ਦੇਰੀ ਦੀ ਬੇਨਤੀ ਕਰਨ ਦਾ ਅਧਿਕਾਰ ਬਰਕਰਾਰ ਰੱਖਦਾ ਹੈ ਤਾਂ ਜੋ ਇਹ ਉਹਨਾਂ ਖੋਜਾਂ 'ਤੇ ਕਾਰਵਾਈ ਕਰ ਸਕੇ ਜੋ ਸੁਰੱਖਿਆ ਜਾਂ ਸੁਰੱਖਿਆ ਜੋਖਮ ਪੈਦਾ ਕਰ ਸਕਦੇ ਹਨ।
ਬਰਖਾਸਤ ਸੁਰੱਖਿਆ ਸਟਾਫ ਅਤੇ ਅੱਗੇ ਕੀ ਹੁੰਦਾ ਹੈ
ਇਹ ਘੋਸ਼ਣਾ ਉਦੋਂ ਆਈ ਜਦੋਂ ਓਪਨਏਆਈ ਨੇ ਸੁਰੱਖਿਆ 'ਤੇ ਕੰਮ ਕਰਨ ਵਾਲੇ ਤਿੰਨ ਕਰਮਚਾਰੀਆਂ ਨੂੰ ਬਰਖਾਸਤ ਕਰ ਦਿੱਤਾ। ਉਨ੍ਹਾਂ ਵਿੱਚੋਂ ਇੱਕ, ਟੋਮੇਕ ਕੋਰਬਾਕ, ਹੱਗਿੰਗ ਫੇਸ ਹਮਲੇ ਦੀ ਜਾਂਚ ਕਰਨ ਵਾਲੇ ਦੋ ਬਾਹਰੀ ਮੁਲਾਂਕਣਾਂ ਲਈ ਸੰਪਰਕ ਦਾ ਤਕਨੀਕੀ ਬਿੰਦੂ ਸੀ। ਤਿੰਨਾਂ ਨੇ ਬਾਅਦ ਵਿੱਚ ਕਿਹਾ ਕਿ ਉਨ੍ਹਾਂ ਨੂੰ ਡਰ ਹੈ ਕਿ ਓਪਨਏਆਈ ਏਮਬੇਡਡ ਮੁਲਾਂਕਣ ਕਰਨ ਵਾਲੇ ਆਪਣੇ ਵਾਅਦੇ ਤੋਂ ਪਿੱਛੇ ਹਟ ਰਹੀ ਹੈ। ਕੋਰਬਾਕ ਨੇ ਐਕਸ 'ਤੇ ਲਿਖਿਆ ਕਿ ਏਮਬੇਡਡ ਆਡਿਟਿੰਗ 'ਆਪਣੇ ਉਦੇਸ਼ਾਂ ਨੂੰ ਤਾਂ ਹੀ ਪੂਰਾ ਕਰੇਗੀ ਜੇਕਰ ਆਡੀਟਰਾਂ ਨੂੰ ਕਿਸੇ ਖਾਸ ਕੰਮ ਲਈ ਨਿਯੁਕਤ ਕੀਤੇ ਜਾਣ ਦੇ ਉਲਟ ਕਰਮਚਾਰੀ-ਪੱਧਰ ਦੀ ਪਹੁੰਚ ਮਿਲਦੀ ਹੈ,' ਇਹ ਜੋੜਦੇ ਹੋਏ ਕਿ 'ਕਰਮਚਾਰੀ ਵਰਗੀ ਪਹੁੰਚ' ਬਾਰੇ ਆਲਟਮੈਨ ਦੀ ਸਤੰਬਰ ਦੀ ਪੋਸਟ 'ਸਿਰਫ਼ ਇੱਕ ਅਜੀਬ ਵਾਅਦਾ ਸੀ ਕਿ ਕੰਪਨੀ ਚੁੱਪ-ਚਾਪ ਵਾਪਸ ਚੱਲਣਾ ਚਾਹੁੰਦੀ ਹੈ'।
NPR ਨੂੰ ਦਿੱਤੇ ਇੱਕ ਬਿਆਨ ਵਿੱਚ, OpenAI ਨੇ ਕਿਹਾ ਕਿ ਮੌਜੂਦਾ ਸਮੇਂ ਵਿੱਚ ਏਮਬੈਡਡ ਮੁਲਾਂਕਣਾਂ ਲਈ ਕੋਈ ਮਾਪਦੰਡ ਨਹੀਂ ਹਨ ਅਤੇ ਇਹ ਸਮੇਂ ਦੇ ਨਾਲ ਸਬੰਧਾਂ ਨੂੰ ਡੂੰਘਾ ਕਰਨ ਦੀ ਉਮੀਦ ਕਰਦਾ ਹੈ ਅਤੇ ਸਭ ਤੋਂ ਵਧੀਆ ਅਭਿਆਸਾਂ ਨੂੰ ਸਥਾਪਤ ਕਰਨ ਵਿੱਚ ਮਦਦ ਕਰਨ ਲਈ ਜੋ ਕੁਝ ਸਿੱਖਦਾ ਹੈ ਉਸਨੂੰ ਸਾਂਝਾ ਕਰਨ ਦੀ ਉਮੀਦ ਕਰਦਾ ਹੈ। ਕੰਪਨੀ ਨੇ ਕਿਹਾ ਕਿ ਇਹ ਕੋਸ਼ਿਸ਼ ਸੁਪਰ ਇੰਟੈਲੀਜੈਂਸ 'ਤੇ ਵ੍ਹਾਈਟ ਹਾਊਸ ਸਮਝੌਤੇ ਦੇ ਤਹਿਤ ਉਸ ਦੀਆਂ ਵਚਨਬੱਧਤਾਵਾਂ ਦਾ ਸਮਰਥਨ ਕਰਦੀ ਹੈ, ਜਿਸ ਦੇ ਤਹਿਤ ਉਹ ਆਪਣੇ ਸੁਰੱਖਿਆ ਨਿਯੰਤਰਣਾਂ ਦੇ ਸੁਤੰਤਰ ਮੁਲਾਂਕਣ ਲਈ ਸਹਿਮਤ ਹੋਈ ਸੀ।
(ਓਪਨਏਆਈ ਦਾ ਹੈੱਡਕੁਆਰਟਰ। ਫਾਈਲ ਫੋਟੋ।)
N環球 
💬 Comments
No comments yet. Be the first!