ওপেনএআই ডেব্রেক সিকিউরিটি টুল চালু করেছে যা অ্যাপগুলোকে পেন-টেস্ট করে এবং তাদের প্যাচ তৈরি করে

OpenAI 12 নভেম্বর তার ডেব্রেক সাইবারসিকিউরিটি প্ল্যাটফর্মের অধীনে তার "সাইবার অ্যাট দ্য ফ্রন্টিয়ার" মূল নোটে দুটি পণ্য উন্মোচন করেছে: ডেব্রেক রেড টিম এবং ডেব্রেক ডিফেন্স ফ্যাক্টরি, এআই এজেন্টদের নিরাপত্তার উভয় দিকে কাজ করার জন্য - ত্রুটিগুলি খুঁজে বের করা এবং সেগুলিকে সংশোধন করা - মানুষের পর্যালোচনাকে লুপে রাখা।

লাল দল: স্বয়ংক্রিয় কলম-পরীক্ষা যা ত্রুটি প্রমাণ করে

রেড টিম এখন প্রাথমিক অ্যাক্সেসে রয়েছে এবং অ্যাপ্লিকেশনগুলির জন্য উন্মুক্ত৷ এআই এজেন্টদের দল একসাথে একটি একক ওয়েব অ্যাপ্লিকেশন পরীক্ষা করে: তারা সোর্স কোড এবং অ্যাপ্লিকেশন প্রসঙ্গ পড়ে, সম্ভাব্য আক্রমণের পথগুলি ম্যাপ করে, তারপরে একটি দুর্বলতা আসলেই কাজে লাগানো যায় কিনা তা যাচাই করে এবং একটি সমাধান কাজ করে কিনা তা পরীক্ষা করে। ন্যান্সি ওয়াং, যিনি ওপেনএআই-তে সাইবার-প্রযোজ্য এআই-এর নেতৃত্ব দেন, এটিকে "স্বয়ংক্রিয় ক্রমাগত স্ক্যানিংয়ের স্কেলে অতিমানবীয় কলম-পরীক্ষা" হিসাবে মূল বক্তব্যে বর্ণনা করেন।

প্রতিরক্ষা কারখানা: মূল কারণ খুঁজে বের করা এবং প্যাচের খসড়া তৈরি করা

ডিফেন্স ফ্যাক্টরি বাকি অর্ধেক কাজ পরিচালনা করে। এর এজেন্টরা একটি অনুসন্ধান করে — রেড টিম থেকে বা কোনও দল ইতিমধ্যেই ব্যবহার করে এমন সরঞ্জামগুলি থেকে — কোডবেসে এটির মূল কারণ খুঁজে বের করে, এবং কিছু একত্রিত হওয়ার আগে প্রকৌশলীদের পর্যালোচনা করার জন্য পরীক্ষা সহ একটি প্রস্তাবিত সমাধান প্রস্তুত করে; প্ল্যাটফর্ম নিজেই ফিক্স স্থাপন করে না। এটি Wiz, Snyk এবং Endor ল্যাবস থেকে প্রাপ্ত ফলাফলগুলির সাথে কাজ করে, GitHub সংগ্রহস্থলের সাথে সংযোগ করে এবং ইতিমধ্যেই ডেব্রেক অ্যাক্সেস রয়েছে এমন ওয়ার্কস্পেসগুলির জন্য ChatGPT-এর মধ্যে একটি পূর্বরূপ প্লাগইন হিসাবে উপলব্ধ৷

নীচে মডেল, এবং মূল্য প্রশ্ন

উভয় পণ্যই ওপেনএআই-এর বিশেষজ্ঞ সাইবার মডেলে চলে, যার মধ্যে রয়েছে GPT-6 সাইবার, 5 নভেম্বর প্রকাশিত এবং প্রথম OpenAI মডেলটিকে কোম্পানির প্রস্তুতি কাঠামোর অধীনে সাইবার নিরাপত্তা ঝুঁকির জন্য ক্রিটিক্যাল রেট দেওয়া হয়েছে, সাথে প্রতিরক্ষামূলক ডেব্রেক ব্লু এবং আক্রমণাত্মক ডেব্রেক রেড মডেল। ওপেনএআই উভয় পণ্যের জন্য মূল্য ঘোষণা করেনি: রেড টিম একটি প্রারম্ভিক-অ্যাক্সেস অ্যাপ্লিকেশন এবং ডিফেন্স ফ্যাক্টরি একটি বিক্রয় কথোপকথনের মাধ্যমে উপলব্ধ। ডেব্রেক প্ল্যাটফর্মটি নিজেই 22 জুন চালু হয়েছিল।

আক্রমণের উভয় পক্ষের অটোমেশন

লঞ্চের অর্থ হল একটি কোম্পানি এখন আক্রমণকারী এবং ডিফেন্ডার উভয়ের কাছে এআই এজেন্ট বিক্রি করছে: রেড টিম স্বয়ংক্রিয়ভাবে ত্রুটিগুলি খুঁজে পায়, প্রতিরক্ষা কারখানা স্বয়ংক্রিয়ভাবে সেগুলিকে প্যাচ করে৷ ওপেনএআই জোর দেয় যে কোনও প্যাচ একত্রিত হওয়ার আগে মানুষের পর্যালোচনা গেট হিসাবে রয়ে যায় — কিন্তু এজেন্টরা সম্পূর্ণ কোডবেসে অ্যাক্সেস লাভ করে এবং তত্ত্বাবধান ছাড়াই দীর্ঘ প্রসারিত পর্যন্ত চালায়, কীভাবে কোম্পানিগুলি তাদের অনুমতির সুযোগ দেয় এবং তাদের ক্রিয়াকলাপগুলি গ্রহণকারীদের জন্য মূল প্রশ্ন হবে।

(সূত্র: ওপেনএআই; দ্য রেজিস্টার; সিকিউরিটি উইক; জিবিহ্যাকারস।)