OpenAI запускает инструменты безопасности Daybreak, которые проверяют приложения на проникновение и готовят к ним исправления

12 ноября компания OpenAI представила два продукта в рамках своей платформы кибербезопасности Daybreak на своем основном докладе «Кибер на границе»: Daybreak Red Team и Daybreak Defense Factory, позволяющие агентам искусственного интеллекта работать по обе стороны безопасности — находить недостатки и исправлять их — сохраняя при этом человеческий контроль.

Красная команда: автоматическое тестирование на проникновение, доказывающее ошибку

Red Team сейчас находится в раннем доступе и открыта для заявок. Команды агентов ИИ вместе тестируют одно веб-приложение: они считывают исходный код и контекст приложения, намечают возможные пути атаки, затем проверяют, можно ли на самом деле использовать уязвимость, и проверяют, работает ли исправление. Нэнси Ванг, которая возглавляет киберприкладной искусственный интеллект в OpenAI, описала это в своем выступлении как «сверхчеловеческую проверку на проникновение в масштабе автоматизированного непрерывного сканирования».

Defense Factory: отслеживание основной причины и написание патча

Оборонный завод берет на себя вторую половину работы. Его агенты получают результаты — от Red Team или от инструментов, которые команда уже использует — отслеживают их первопричину в базе кода и готовят предлагаемое исправление с помощью тестов, чтобы инженеры могли их просмотреть, прежде чем что-либо будет объединено; платформа не развертывает исправления самостоятельно. Он работает с результатами Wiz, Snyk и Endor Labs, подключается к репозиториям GitHub и доступен в виде плагина предварительного просмотра внутри ChatGPT для рабочих пространств, у которых уже есть доступ к Daybreak.

Модели внизу и вопрос цены

Оба продукта работают на специализированных кибермоделях OpenAI, включая GPT-6 Cyber, выпущенную 5 ноября, и первую модель OpenAI, получившую критический уровень риска кибербезопасности в соответствии с системой готовности компании, наряду с защитной моделью Daybreak Blue и наступательной моделью Daybreak Red. OpenAI не объявила цены ни на один из продуктов: Red Team доступна через приложение раннего доступа, а Defense Factory — через программу продаж. Сама платформа Daybreak была запущена 22 июня.

Автоматизация с обеих сторон атаки

Запуск означает, что одна компания теперь продает агентов ИИ как атакующим, так и защитникам: Red Team автоматически находит недостатки, Defense Factory автоматически их исправляет. OpenAI подчеркивает, что человеческая проверка остается воротами перед объединением какого-либо патча, но поскольку агенты получают доступ ко всем базам кода и работают в течение длительного времени без присмотра, ключевым вопросом для усыновителей станет то, как компании ограничивают свои разрешения и проверяют свои действия.

(Источники: OpenAI; The Register; SecurityWeek; GBHackers.)