Нейросеть Claude нашла сотни уязвимостей в открытом ПО за пару недель

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

В рамках повышения безопасности открытого программного обеспечения нейросеть Claude написала 180 миллионов строк математических доказательств и обнаружила сотни скрытых уязвимостей. Проект компании Anthropic охватил 123 публичные библиотеки кода. ИИ-модель проводила формальную проверку, которая на языке высшей математики гарантирует отсутствие дефектов при заданных параметрах. Обычное тестирование проверяет программу точечно, тогда как математическое доказательство полностью исключает саму возможность сбоя.

Анализ машинного кода проводился совместно с компанией Theorem, обеспечившей техническую базу проекта. Искусственный интеллект переформатировал отчеты об ошибках в сложные математические задачи, а написанные им решения проверялись независимой платформой Rocq. Нейросеть самостоятельно корректировала найденные баги. Большинство уязвимостей активировались только при обработке массивных файлов или нестандартных запросах. За одну неделю анализа программы для открытия PDF-документов алгоритм нашел столько же слабых мест, сколько техническая поддержка фиксирует за год. В другом приложении была исправлена логическая ошибка, существовавшая более десяти лет.

Автор: magnific Источник: www.magnific.com

Ранее формальная проверка кода была слишком дорогостоящей и применялась в узких сегментах, например, при разработке программ для самолетов Airbus, где процесс занимал до 20 лет работы программистов. Сейчас алгоритм справляется с задачей за несколько недель, но действует в строгих границах. Вычисления актуальны для одного потока, конкретного процессора и данных до 64 мегабайт. Финансовые затраты на проект в рублях не публикуются, однако разработчики отмечают рост энергоэффективности искусственного интеллекта. Версия Claude Opus 5.5 решает подобные задачи на 40% экономнее предшественника. В ближайшее время математические доказательства от нейросети Claude будут применены для аудита таких систем, как OpenSSL и cURL.

Источник: mltimes.ai

нет
Автор не входит в состав редакции iXBT.com (подробнее »)

Сейчас на главной

Новости

Публикации

Магнитофоны как искусство: 10 самых красивых кассетных дек за всю историю аудио

Во время расцвета компакт-кассеты деки были не просто источниками звука. Они становились центральным элементом аудиостойки, с подсветкой индикаторов, видимым движением ленты, тактильными клавишами...

Чтобы выжить в Австралии, местным змеям пришлось изменить свой размер: в противном случае они погибали от ядовитых жаб

В 1935 году в Австралию была завезена жаба-ага. Животное должно было бороться с жуками-вредителями, поедавшими сахарный тростник. Однако на деле получилось иначе. Жабы сами стали поедать местные...

Истрия АКПП в советских автомобилях

Автоматическая коробка передач в СССР была не просто технической новинкой, а символом другого автомобильного мира. В стране, где большинство водителей учились на «механике» и считали переключение...

Обзор наушников CKLVX Hydra: акустическая диковинка для агрессивной музыки

Ещё одна нестандартная в акустическом плане модель — это многообещающие CKLVX Hydra, созданные в коллаборации с русскоязычным блогером. Внутри у неё один 10 мм динамик, целых 6 балансных...

Погодная ловушка над полюсом: почему озоновая дыра в 2026 году выросла до максимума

Разбираем отчёт NASA и NOAA об антарктической озоновой дыре 2026 года. Как слабые воздушные волны и ледяные стратосферные облака заперли холод над Южным полюсом этой весной.

✦ ИИ  Огонь-невидимка: почему пламя водородной плиты меняет цвет в зависимости от погоды

Разбираем физику горения водорода в бытовых приборах. Почему чистый газ излучает в невидимом ультрафиолете, при чём здесь морской бриз и зачем будущим плитам датчики пламени.