ИИ-агенты OpenAI обнаружили 948 уязвимостей в ядре Linux — и сразу же их устранили

ИИ-агенты могут быть полезны при поиске уязвимостей, однако для OpenAI этого недостаточно. Материнская компания ChatGPT намерена создать систему, в которой ИИ-агенты после выявления уязвимости будут также разрабатывать соответствующие исправления (патчи).

Один из таких прототипов выявил в ядре Linux 948 уязвимостей и сразу же устранил их. OpenAI представила эти результаты в своем блоге.

Наш прототип идентифицировал и проанализировал 2308 потенциальных проблем в ядре Linux, динамически воспроизвел 1724 уязвимости и создал 948 эксплойтов для локального повышения привилегий (LPE).

OpenAI

Эти 948 уязвимостей позволяют злоумышленникам повысить свои привилегии в уязвимых системах и получить root-доступ.

OpenAI не уточнила, какой именно дистрибутив Linux подвергался тестированию. По сообщениям ряда СМИ, речь идет о широко распространенной настольной системе в стандартной конфигурации. Зато в OpenAI раскрыли стоимость поиска этих уязвимостей: она превысила 1,3 миллиона долларов (чуть менее 1300 долларов за каждую уязвимость).

В последнее время количество выявленных уязвимостей растет благодаря помощи искусственного интеллекта. Это порождает новую проблему: разработчики программного обеспечения зачастую не успевают оперативно выпускать необходимые патчи. Создание таких исправлений — трудоемкий процесс, а из-за огромного числа обнаруженных уязвимостей разработчики просто не справляются с потоком задач. Это играет на руку злоумышленникам: у них появляется больше времени на использование уязвимостей до того, как будут выпущены защитные патчи.

Именно поэтому OpenAI стремится максимально автоматизировать разработку таких патчей с помощью искусственного интеллекта. «Учитывая скорость, с которой передовые модели (frontier models) обнаруживают уязвимости, мы считаем автоматизированное создание патчей совершенно необходимым», — подчеркнула американская компания в своем блоге.

По мнению OpenAI, «только так можно обеспечить защиту ПО с требуемой скоростью и сократить временное окно, доступное для проведения атак». Разработчики полагают, что патчи, созданные с помощью ИИ под контролем специалистов, могут быть функционально корректными, соответствовать принятым стилям программирования и быть устойчивыми к различным вариантам атак. Поэтому OpenAI планирует продолжить исследования в данной области.

Источник: OpenAI