OpenAI ਨੇ ਡੇਬ੍ਰੇਕ ਸੁਰੱਖਿਆ ਟੂਲ ਲਾਂਚ ਕੀਤੇ ਹਨ ਜੋ ਐਪਸ ਨੂੰ ਪੈਨ-ਟੈਸਟ ਕਰਦੇ ਹਨ ਅਤੇ ਉਹਨਾਂ ਦੇ ਪੈਚਾਂ ਦਾ ਖਰੜਾ ਤਿਆਰ ਕਰਦੇ ਹਨ

OpenAI ਨੇ 12 ਨਵੰਬਰ ਨੂੰ ਆਪਣੇ "ਸਾਈਬਰ ਐਟ ਦ ਫਰੰਟੀਅਰ" ਮੁੱਖ-ਨੋਟ 'ਤੇ ਡੇਬ੍ਰੇਕ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਪਲੇਟਫਾਰਮ ਦੇ ਤਹਿਤ ਦੋ ਉਤਪਾਦਾਂ ਦਾ ਪਰਦਾਫਾਸ਼ ਕੀਤਾ: ਡੇਬ੍ਰੇਕ ਰੈੱਡ ਟੀਮ ਅਤੇ ਡੇਬ੍ਰੇਕ ਡਿਫੈਂਸ ਫੈਕਟਰੀ, AI ਏਜੰਟਾਂ ਨੂੰ ਸੁਰੱਖਿਆ ਦੇ ਦੋਵਾਂ ਪਾਸਿਆਂ 'ਤੇ ਕੰਮ ਕਰਨ ਲਈ - ਖਾਮੀਆਂ ਨੂੰ ਲੱਭਣਾ ਅਤੇ ਉਹਨਾਂ ਨੂੰ ਠੀਕ ਕਰਨਾ — ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਨੂੰ ਲੂਪ ਵਿੱਚ ਰੱਖਦੇ ਹੋਏ।

ਰੈੱਡ ਟੀਮ: ਸਵੈਚਲਿਤ ਪੈੱਨ-ਟੈਸਟਿੰਗ ਜੋ ਨੁਕਸ ਸਾਬਤ ਕਰਦੀ ਹੈ

Red ਟੀਮ ਹੁਣ ਸ਼ੁਰੂਆਤੀ ਪਹੁੰਚ ਵਿੱਚ ਹੈ ਅਤੇ ਐਪਲੀਕੇਸ਼ਨਾਂ ਲਈ ਖੁੱਲ੍ਹੀ ਹੈ। ਏਆਈ ਏਜੰਟਾਂ ਦੀਆਂ ਟੀਮਾਂ ਇਕੱਠੇ ਇੱਕ ਸਿੰਗਲ ਵੈਬ ਐਪਲੀਕੇਸ਼ਨ ਦੀ ਜਾਂਚ ਕਰਦੀਆਂ ਹਨ: ਉਹ ਸਰੋਤ ਕੋਡ ਅਤੇ ਐਪਲੀਕੇਸ਼ਨ ਸੰਦਰਭ ਨੂੰ ਪੜ੍ਹਦੇ ਹਨ, ਸੰਭਾਵਿਤ ਹਮਲੇ ਦੇ ਮਾਰਗਾਂ ਦਾ ਨਕਸ਼ਾ ਬਣਾਉਂਦੇ ਹਨ, ਫਿਰ ਜਾਂਚ ਕਰਦੇ ਹਨ ਕਿ ਕੀ ਇੱਕ ਕਮਜ਼ੋਰੀ ਦਾ ਅਸਲ ਵਿੱਚ ਸ਼ੋਸ਼ਣ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ, ਅਤੇ ਜਾਂਚ ਕਰੋ ਕਿ ਕੀ ਇੱਕ ਫਿਕਸ ਕੰਮ ਕਰਦਾ ਹੈ। ਨੈਨਸੀ ਵੈਂਗ, ਜੋ ਓਪਨਏਆਈ ਵਿੱਚ ਸਾਈਬਰ-ਅਪਲਾਈਡ ਏਆਈ ਦੀ ਅਗਵਾਈ ਕਰਦੀ ਹੈ, ਨੇ ਮੁੱਖ ਭਾਸ਼ਣ ਵਿੱਚ ਇਸਨੂੰ "ਆਟੋਮੇਟਿਡ ਨਿਰੰਤਰ ਸਕੈਨਿੰਗ ਦੇ ਪੈਮਾਨੇ 'ਤੇ ਅਲੌਕਿਕ ਪੈੱਨ-ਟੈਸਟ" ਵਜੋਂ ਦਰਸਾਇਆ।

ਰੱਖਿਆ ਫੈਕਟਰੀ: ਮੂਲ ਕਾਰਨ ਦਾ ਪਤਾ ਲਗਾਉਣਾ ਅਤੇ ਪੈਚ ਦਾ ਖਰੜਾ ਤਿਆਰ ਕਰਨਾ

ਡਿਫੈਂਸ ਫੈਕਟਰੀ ਬਾਕੀ ਅੱਧੇ ਕੰਮ ਨੂੰ ਸੰਭਾਲਦੀ ਹੈ। ਇਸਦੇ ਏਜੰਟ ਇੱਕ ਖੋਜ ਲੈਂਦੇ ਹਨ — ਰੈੱਡ ਟੀਮ ਤੋਂ ਜਾਂ ਇੱਕ ਟੀਮ ਪਹਿਲਾਂ ਹੀ ਵਰਤਦੀ ਹੈ — ਇਸ ਨੂੰ ਕੋਡਬੇਸ ਵਿੱਚ ਇਸਦੇ ਮੂਲ ਕਾਰਨ ਦਾ ਪਤਾ ਲਗਾਉਂਦੇ ਹਨ, ਅਤੇ ਕਿਸੇ ਵੀ ਚੀਜ਼ ਨੂੰ ਮਿਲਾਉਣ ਤੋਂ ਪਹਿਲਾਂ ਸਮੀਖਿਆ ਕਰਨ ਲਈ ਇੰਜੀਨੀਅਰਾਂ ਲਈ ਟੈਸਟਾਂ ਦੇ ਨਾਲ ਇੱਕ ਪ੍ਰਸਤਾਵਿਤ ਫਿਕਸ ਤਿਆਰ ਕਰਦੇ ਹਨ; ਪਲੇਟਫਾਰਮ ਆਪਣੇ ਆਪ ਫਿਕਸ ਨੂੰ ਲਾਗੂ ਨਹੀਂ ਕਰਦਾ ਹੈ। ਇਹ Wiz, Snyk ਅਤੇ Endor ਲੈਬਜ਼ ਤੋਂ ਖੋਜਾਂ ਨਾਲ ਕੰਮ ਕਰਦਾ ਹੈ, GitHub ਰਿਪੋਜ਼ਟਰੀਆਂ ਨਾਲ ਜੁੜਦਾ ਹੈ, ਅਤੇ ਵਰਕਸਪੇਸ ਲਈ ChatGPT ਦੇ ਅੰਦਰ ਇੱਕ ਪੂਰਵਦਰਸ਼ਨ ਪਲੱਗਇਨ ਵਜੋਂ ਉਪਲਬਧ ਹੈ ਜਿਨ੍ਹਾਂ ਕੋਲ ਪਹਿਲਾਂ ਹੀ ਡੇਬ੍ਰੇਕ ਪਹੁੰਚ ਹੈ।

ਹੇਠਾਂ ਦਿੱਤੇ ਮਾਡਲ, ਅਤੇ ਕੀਮਤ ਦਾ ਸਵਾਲ

ਦੋਵੇਂ ਉਤਪਾਦ ਓਪਨਏਆਈ ਦੇ ਮਾਹਰ ਸਾਈਬਰ ਮਾਡਲਾਂ 'ਤੇ ਚੱਲਦੇ ਹਨ, ਜਿਸ ਵਿੱਚ GPT-6 ਸਾਈਬਰ ਸ਼ਾਮਲ ਹਨ, 5 ਨਵੰਬਰ ਨੂੰ ਜਾਰੀ ਕੀਤਾ ਗਿਆ ਹੈ ਅਤੇ ਰੱਖਿਆਤਮਕ ਡੇਬ੍ਰੇਕ ਬਲੂ ਅਤੇ ਅਪਮਾਨਜਨਕ ਡੇਬ੍ਰੇਕ ਰੈੱਡ ਮਾਡਲਾਂ ਦੇ ਨਾਲ, ਕੰਪਨੀ ਦੇ ਤਿਆਰੀ ਫਰੇਮਵਰਕ ਦੇ ਤਹਿਤ ਸਾਈਬਰ ਸੁਰੱਖਿਆ ਜੋਖਮ ਲਈ ਗੰਭੀਰ ਦਰਜਾ ਦਿੱਤਾ ਗਿਆ ਪਹਿਲਾ OpenAI ਮਾਡਲ। ਓਪਨਏਆਈ ਨੇ ਕਿਸੇ ਵੀ ਉਤਪਾਦ ਲਈ ਕੀਮਤ ਦੀ ਘੋਸ਼ਣਾ ਨਹੀਂ ਕੀਤੀ ਹੈ: ਰੈੱਡ ਟੀਮ ਇੱਕ ਸ਼ੁਰੂਆਤੀ-ਪਹੁੰਚ ਐਪਲੀਕੇਸ਼ਨ, ਅਤੇ ਡਿਫੈਂਸ ਫੈਕਟਰੀ ਇੱਕ ਵਿਕਰੀ ਗੱਲਬਾਤ ਰਾਹੀਂ ਉਪਲਬਧ ਹੈ। ਡੇਬ੍ਰੇਕ ਪਲੇਟਫਾਰਮ ਖੁਦ 22 ਜੂਨ ਨੂੰ ਲਾਂਚ ਹੋਇਆ ਸੀ।

ਹਮਲੇ ਦੇ ਦੋਵੇਂ ਪਾਸੇ ਆਟੋਮੇਸ਼ਨ

ਲਾਂਚ ਦਾ ਮਤਲਬ ਹੈ ਕਿ ਇੱਕ ਕੰਪਨੀ ਹੁਣ ਹਮਲਾਵਰਾਂ ਅਤੇ ਬਚਾਅ ਕਰਨ ਵਾਲਿਆਂ ਦੋਵਾਂ ਨੂੰ AI ਏਜੰਟ ਵੇਚ ਰਹੀ ਹੈ: ਰੈੱਡ ਟੀਮ ਆਪਣੇ ਆਪ ਖਾਮੀਆਂ ਲੱਭਦੀ ਹੈ, ਡਿਫੈਂਸ ਫੈਕਟਰੀ ਉਹਨਾਂ ਨੂੰ ਆਪਣੇ ਆਪ ਪੈਚ ਕਰਦੀ ਹੈ। ਓਪਨਏਆਈ ਜ਼ੋਰ ਦਿੰਦਾ ਹੈ ਕਿ ਕਿਸੇ ਵੀ ਪੈਚ ਨੂੰ ਮਿਲਾਉਣ ਤੋਂ ਪਹਿਲਾਂ ਮਨੁੱਖੀ ਸਮੀਖਿਆ ਗੇਟ ਬਣੀ ਰਹਿੰਦੀ ਹੈ - ਪਰ ਜਿਵੇਂ ਕਿ ਏਜੰਟ ਪੂਰੇ ਕੋਡਬੇਸ ਤੱਕ ਪਹੁੰਚ ਪ੍ਰਾਪਤ ਕਰਦੇ ਹਨ ਅਤੇ ਲੰਬੇ ਸਮੇਂ ਤੱਕ ਬਿਨਾਂ ਨਿਗਰਾਨੀ ਦੇ ਚੱਲਦੇ ਹਨ, ਕੰਪਨੀਆਂ ਕਿਵੇਂ ਆਪਣੀਆਂ ਇਜਾਜ਼ਤਾਂ ਦਾ ਘੇਰਾ ਬਣਾਉਂਦੀਆਂ ਹਨ ਅਤੇ ਉਹਨਾਂ ਦੀਆਂ ਕਾਰਵਾਈਆਂ ਦਾ ਆਡਿਟ ਕਰਨ ਵਾਲਿਆਂ ਲਈ ਮੁੱਖ ਸਵਾਲ ਹੋਵੇਗਾ।

(ਸਰੋਤ: ਓਪਨਏਆਈ; ਰਜਿਸਟਰ; ਸੁਰੱਖਿਆ ਵੀਕ; GBHackers।)