N環球 
Клод пише 180 мільйонів рядків математичних доказів у першій широкомасштабній офіційній перевірці ШІ програмного забезпечення з відкритим кодом
Офіційне дослідження Anthropic: за допомогою Theorem Клод офіційно перевірив властивості безпеки на рівні складання RISC-V у 123 бібліотеках з відкритим кодом і 239 точках входу — і виявив сотні помилок, які уникли трильйонів автоматизованих тестів.
Чому це важливо
Раніше офіційна перевірка була розкішшю, яку могли собі дозволити лише експерти протягом багатьох років — мікроядро seL4 займало 2 людино-роки для написання та 20 людино-років для перевірки. Зараз Anthropic показав, що гранична модель може зробити це для понад сотні справжніх бібліотек з відкритим кодом за кілька тижнів, одночасно виявляючи помилки, які пережили «трильйони» автоматизованих тестів.
Повний звіт
Anthropic оголосив на своїй офіційній сторінці дослідження 22 жовтня: у співпраці з компанією з перевірки програмного забезпечення Theorem Клод формально перевірив властивості безпеки на рівні складання RISC-V у 123 реальних бібліотеках з відкритим кодом, взятих із Google OSS-Fuzz, охоплюючи 239 точок входу в програму. Компанія називає це «першою великомасштабною спробою використання ШІ для застосування формальної перевірки до виробничого програмного забезпечення на рівні коду складання».
Масштаб вражає: близько 180 мільйонів рядків доказів Rocq, із типовим доказом, що становить приблизно 600 000 рядків, охоплюючи двійкові файли із середньою довжиною 18 000 інструкцій RISC-V — усе це завершується за лічені тижні. Ядро Rocq незалежно перевіряє кожну перевірку, тому не потрібно переглядати рядки вручну.
Цей метод перетворює наявні фазз-тести на математичні специфікації: для будь-яких вхідних даних розміром менше 64 МБ однопотоковий статично зв’язаний бінарний файл RISC-V у Linux повинен завжди завершуватися нормально, без порушень безпеки пам’яті. Коли Клод запідозрив помилку в середній перевірці, він безпосередньо виправив код і повторно підтвердив нову специфікацію.
Попутно з’являлися сотні помилок, у тому числі лічильник недостатнього потоку в копії декомпресора, що призводив до запису поза межами (може бути активовано лише введеннями ~20 МБ з одним рідкісним макетом), читання поза межами в декодері зображень і повторне відкриття CVE-2026-56132 у libexpat — деякі вразливості приховувалися роками.
Anthropic сама визнає обмеження: пройдена формальна перевірка не означає відсутність помилок — докази охоплюють лише однопотокові статичні двійкові файли RISC-V, тоді як більшість коду насправді працює на x86/ARM. Він опублікував підмножину доказів на GitHub для незалежної перевірки, і Theorem каже, що запустить той самий конвеєр для інших проектів з відкритим кодом.
Побічні результати також помітні: було доведено, що реалізація zlib ядра Linux відповідає RFC 1950 на двійковому рівні x86, а велика підмножина інтерпретатора Python, написаного на Rust, відповідає поведінці CPython у 99,95% із понад 1,7 мільйона рандомізованих програм.
💬 Comments
No comments yet. Be the first!