OpenAI lança ferramentas de segurança Daybreak que testam aplicativos e elaboram seus patches

A OpenAI revelou em 12 de novembro dois produtos de sua plataforma de segurança cibernética Daybreak em sua palestra “Cyber ​​at the Frontier”: Daybreak Red Team e Daybreak Defense Factory, colocando agentes de IA para trabalhar em ambos os lados da segurança – encontrando falhas e corrigindo-as – enquanto mantém a revisão humana informada.

Red Team: pen-testing automatizado que comprova a falha

Red Team agora está em acesso antecipado e aberto para inscrições. Equipes de agentes de IA testam juntas um único aplicativo Web: eles leem o código-fonte e o contexto do aplicativo, mapeiam possíveis caminhos de ataque, verificam se uma fraqueza pode realmente ser explorada e testam se uma correção funciona. Nancy Wang, que lidera a IA cibernética aplicada na OpenAI, descreveu-a na palestra como “teste de penetração sobre-humano na escala da varredura contínua automatizada”.

Defense Factory: rastreando a causa raiz e elaborando o patch

A Defense Factory cuida da outra metade do trabalho. Seus agentes pegam uma descoberta – do Red Team ou de ferramentas que uma equipe já usa – rastreiam-na até sua causa raiz na base de código e preparam uma proposta de correção com testes para os engenheiros revisarem antes que qualquer coisa seja mesclada; a plataforma não implementa correções por si só. Ele funciona com descobertas do Wiz, Snyk e Endor Labs, conecta-se aos repositórios GitHub e está disponível como um plugin de visualização dentro do ChatGPT para espaços de trabalho que já têm acesso ao Daybreak.

Os modelos abaixo e a questão do preço

Ambos os produtos são executados em modelos cibernéticos especializados da OpenAI, incluindo GPT-6 Cyber, lançado em 5 de novembro e o primeiro modelo OpenAI classificado como Crítico para risco de segurança cibernética no âmbito da Estrutura de Preparação da empresa, juntamente com os modelos defensivos Daybreak Blue e ofensivos Daybreak Red. A OpenAI não anunciou o preço de nenhum dos produtos: o Red Team está disponível por meio de um aplicativo de acesso antecipado e o Defense Factory por meio de uma conversa de vendas. A própria plataforma Daybreak foi lançada em 22 de junho.

Automação em ambos os lados do ataque

O lançamento significa que uma empresa agora está vendendo agentes de IA para atacantes e defensores: o Red Team encontra as falhas automaticamente, a Defense Factory as corrige automaticamente. A OpenAI enfatiza que a revisão humana continua sendo a porta de entrada antes de qualquer patch ser mesclado – mas à medida que os agentes ganham acesso a bases de código completas e funcionam por longos períodos sem supervisão, como as empresas definem o escopo de suas permissões e auditam suas ações será a questão principal para os adotantes.

(Fontes: OpenAI; The Register; SecurityWeek; GBHackers.)