N環球 
Claude escreve 180 milhões de linhas de prova matemática na primeira verificação formal de IA em grande escala de software de código aberto
Pesquisa oficial da Anthropic: com o Theorem, Claude verificou formalmente as propriedades de segurança no nível de montagem RISC-V em 123 bibliotecas de código aberto e 239 pontos de entrada – e desenterrou centenas de bugs que escaparam de trilhões de testes automatizados.
Por que isso importa
A verificação formal costumava ser um luxo que apenas os especialistas podiam pagar ao longo dos anos - o microkernel seL4 levava 2 pessoas-ano para ser escrito e 20 pessoas-ano para ser verificado. A Anthropic agora mostrou que um modelo de fronteira pode fazer isso para mais de cem bibliotecas reais de código aberto em semanas, enquanto desenterra bugs que sobreviveram a “trilhões” de execuções de testes automatizados.
Relatório completo
A Anthropic anunciou em sua página oficial de pesquisa em 22 de outubro: em colaboração com a empresa de verificação de software Theorem, Claude verificou formalmente as propriedades de segurança no nível de montagem RISC-V em 123 bibliotecas de código aberto do mundo real extraídas do OSS-Fuzz do Google, cobrindo 239 pontos de entrada do programa. A empresa chama isso de “o primeiro esforço em grande escala para usar IA para aplicar verificação formal ao software de produção no nível do código de montagem”.
A escala é impressionante: cerca de 180 milhões de linhas de provas Rocq, com uma prova típica chegando a cerca de 600 mil linhas, cobrindo binários com um comprimento médio de 18 mil instruções RISC-V – todas concluídas em questão de semanas. O kernel Rocq verifica cada prova de forma independente, portanto, nenhuma revisão manual linha por linha é necessária.
O método converte testes fuzz existentes em especificações matemáticas: para qualquer entrada abaixo de 64 MB, um binário RISC-V vinculado estaticamente de thread único no Linux deve sempre sair normalmente, sem violações de segurança de memória. Quando Claude suspeitou de um bug no meio da prova, ele corrigiu o código diretamente e provou novamente a nova especificação.
Centenas de bugs surgiram ao longo do caminho, incluindo um contador underflow em uma cópia do descompressor levando a uma gravação fora dos limites (acionável apenas por entradas de aproximadamente 20 MB com um layout raro), uma leitura fora dos limites em um decodificador de imagem e uma redescoberta de CVE-2026-56132 no libexpat – algumas vulnerabilidades estavam à espreita há anos.
A Anthropic reconhece os limites em si: uma verificação formal aprovada não significa livre de bugs — as provas cobrem apenas binários RISC-V estáticos de thread único, enquanto a maior parte do código realmente roda em x86/ARM. Ela publicou um subconjunto de provas no GitHub para verificação independente, e o Teorema diz que executará o mesmo pipeline para outros projetos de código aberto.
Os resultados colaterais também são notáveis: foi comprovado que a implementação zlib do kernel Linux está em conformidade com RFC 1950 no nível binário x86, e um grande subconjunto de um interpretador Python escrito em Rust correspondeu ao comportamento do CPython em 99,95% dos mais de 1,7 milhão de programas aleatórios.
💬 Comments
No comments yet. Be the first!