OpenAI ابزارهای امنیتی Daybreak را راه‌اندازی می‌کند که برنامه‌ها را آزمایش کرده و وصله‌های آن‌ها را پیش‌نویس می‌کند

OpenAI در 12 نوامبر از دو محصول تحت پلت فرم امنیت سایبری Daybreak خود در سخنرانی اصلی "Cyber ​​at the Frontier" خود رونمایی کرد: Daybreak Red Team و Daybreak Defence Factory، عوامل هوش مصنوعی را در هر دو طرف امنیت - یافتن نقص ها و رفع آنها - و در عین حال بررسی های انسانی را در جریان قرار می دهد.

تیم قرمز: تست خودکار خودکار که نقص را ثابت می کند

تیم قرمز اکنون در دسترس است و برای برنامه ها باز است. تیم‌هایی از عوامل هوش مصنوعی یک برنامه وب را با هم آزمایش می‌کنند: کد منبع و زمینه برنامه را می‌خوانند، مسیرهای حمله احتمالی را ترسیم می‌کنند، سپس بررسی می‌کنند که آیا واقعاً می‌توان از یک نقطه ضعف سوء استفاده کرد یا خیر، و آزمایش می‌کنند که آیا یک اصلاح کار می‌کند یا خیر. نانسی وانگ، که رهبری هوش مصنوعی کاربردی سایبری در OpenAI را بر عهده دارد، در سخنرانی اصلی آن را به عنوان "آزمون قلم فوق بشری در مقیاس اسکن مداوم خودکار" توصیف کرد.

Defence Factory: ردیابی علت اصلی و تهیه پچ

کارخانه دفاع نیمه دیگر کار را بر عهده دارد. عوامل آن یافته‌ای - از تیم Red Team یا ابزارهایی که یک تیم قبلاً استفاده می‌کند - می‌گیرند - آن را به علت اصلی آن در پایگاه کد ردیابی می‌کنند و یک اصلاح پیشنهادی را با آزمایش‌هایی آماده می‌کنند تا مهندسان قبل از ادغام هر چیزی، آن‌ها را بررسی کنند. پلت فرم استقرار خود را رفع نمی کند. این با یافته‌های Wiz، Snyk و Endor Labs کار می‌کند، به مخازن GitHub متصل می‌شود، و به عنوان یک پلاگین پیش‌نمایش در ChatGPT برای فضاهای کاری که قبلاً دسترسی Daybreak دارند در دسترس است.

مدل های زیر و سوال قیمت

هر دو محصول بر روی مدل‌های سایبری تخصصی OpenAI، از جمله GPT-6 Cyber که در 5 نوامبر منتشر شد و اولین مدل OpenAI با رتبه‌بندی بحرانی برای خطر امنیت سایبری تحت چارچوب آمادگی این شرکت، در کنار مدل‌های دفاعی Daybreak Blue و Daybreak Red تهاجمی اجرا می‌شوند. OpenAI قیمت هیچ یک از این محصولات را اعلام نکرده است: Red Team از طریق یک اپلیکیشن دسترسی اولیه و Defence Factory از طریق گفتگوی فروش در دسترس است. پلتفرم Daybreak خود در 22 ژوئن راه اندازی شد.

اتوماسیون در هر دو طرف حمله

راه‌اندازی به این معنی است که یک شرکت اکنون عوامل هوش مصنوعی را هم به مهاجمان و هم به مدافعان می‌فروشد: Red Team نقص‌ها را به‌طور خودکار پیدا می‌کند، Defence Factory آنها را به‌طور خودکار اصلاح می‌کند. OpenAI تاکید می‌کند که بازبینی انسانی قبل از ادغام هر وصله، دروازه باقی می‌ماند - اما از آنجایی که نمایندگان به پایگاه‌های کد کامل دسترسی پیدا می‌کنند و برای مدت طولانی بدون نظارت اجرا می‌شوند، نحوه دسترسی شرکت‌ها به مجوزها و بازرسی اقداماتشان، سوال کلیدی برای پذیرندگان خواهد بود.

(منابع: OpenAI؛ The Register؛ SecurityWeek؛ GBHackers.)