تطلق OpenAI أدوات أمان Daybreak التي تقوم باختبار التطبيقات وصياغة تصحيحاتها

كشفت شركة OpenAI في 12 نوفمبر عن منتجين ضمن منصتها للأمن السيبراني Daybreak في كلمتها الرئيسية "Cyber ​​at the Frontier": فريق Daybreak Red Team وDaybreak Defense Factory، مما يجعل عملاء الذكاء الاصطناعي يعملون على جانبي الأمن - العثور على العيوب وإصلاحها - مع إبقاء المراجعة البشرية في الحلقة.

الفريق الأحمر: اختبار القلم الآلي الذي يثبت الخلل

أصبح Red Team الآن في مرحلة الوصول المبكر ومفتوح للتطبيقات. تقوم فرق من وكلاء الذكاء الاصطناعي باختبار تطبيق ويب واحد معًا: حيث يقومون بقراءة الكود المصدري وسياق التطبيق، ويرسمون مسارات الهجوم المحتملة، ثم يتحققون مما إذا كان من الممكن بالفعل استغلال نقطة الضعف، ويختبرون ما إذا كان الإصلاح يعمل أم لا. ووصفت نانسي وانج، التي تقود الذكاء الاصطناعي التطبيقي عبر الإنترنت في OpenAI، الأمر في الكلمة الرئيسية بأنه "اختبار قلم خارق على نطاق المسح الآلي المستمر".

مصنع الدفاع: تتبع السبب الجذري وصياغة التصحيح

يتولى مصنع الدفاع النصف الآخر من المهمة. يأخذ وكلاؤها النتائج - من الفريق الأحمر أو من الأدوات التي يستخدمها الفريق بالفعل - ويتتبعونها إلى السبب الجذري لها في قاعدة التعليمات البرمجية، ويعدون إصلاحًا مقترحًا مع اختبارات للمهندسين لمراجعتها قبل دمج أي شيء؛ النظام الأساسي لا ينشر الإصلاحات بنفسه. وهو يعمل مع النتائج التي توصلت إليها Wiz وSnyk وEndor Labs، ويتصل بمستودعات GitHub، وهو متاح كمكوِّن إضافي للمعاينة داخل ChatGPT لمساحات العمل التي تتمتع بالفعل بإمكانية الوصول إلى Daybreak.

النماذج أدناه، وسؤال السعر

يعمل كلا المنتجين على نماذج OpenAI السيبرانية المتخصصة، بما في ذلك GPT-6 Cyber، الذي تم إصداره في 5 نوفمبر وأول نموذج OpenAI تم تصنيفه على أنه بالغ الأهمية لمخاطر الأمن السيبراني بموجب إطار عمل الاستعداد الخاص بالشركة، إلى جانب نماذج Daybreak Blue الدفاعية ونماذج Daybreak Red الهجومية. لم تعلن OpenAI عن أسعار أي من المنتجين: يتوفر Red Team من خلال تطبيق الوصول المبكر، وDefense Factory من خلال محادثة المبيعات. تم إطلاق منصة Daybreak نفسها في 22 يونيو.

الأتمتة على جانبي الهجوم

يعني الإطلاق أن إحدى الشركات تبيع الآن عملاء الذكاء الاصطناعي لكل من المهاجمين والمدافعين: يجد فريق Red Team العيوب تلقائيًا، ويقوم Defense Factory بتصحيحها تلقائيًا. تؤكد OpenAI على أن المراجعة البشرية تظل البوابة قبل دمج أي تصحيح - ولكن مع حصول الوكلاء على إمكانية الوصول إلى قواعد التعليمات البرمجية الكاملة وتشغيلهم لفترات طويلة دون إشراف، فإن كيفية قيام الشركات بنطاق أذوناتها ومراجعة إجراءاتها سيكون السؤال الرئيسي للمتبنيين.

(المصادر: OpenAI؛ The Register؛ SecurityWeek؛ GBHackers.)