Вредоносный ИИ-агент научился атаковать серверы без участия человека

Специалисты Symantec Threat Hunter Team обнаружили и изолировали на специальном сервере-ловушке вредоносное автономное ИИ-устройство. Этот инструмент создан для поиска уязвимых конечных точек API, кражи чужих нейросетевых моделей и осуществления кибератак без вмешательства человека, выполняя до 100 000 последовательных действий.

Вредоносный агент сканирует сеть в поисках интерфейсов, принимающих запросы в формате OpenAI без аутентификации или с использованием украденных ключей. Автономный цикл, названный разработчиками Skynet mode, выявляет уязвимости в популярной веб-инфраструктуре, включая Django, Laravel, Supabase, Next. js и Jupyter, проводит кражу учетных данных и баз данных, исполняет удаленный код и незаметно разворачивает майнеры криптовалюты.

Для обхода базовых ограничений безопасности ИИ-моделей авторы применили многослойные джейлбрейк-инструкции, маскирующие нейросеть под стороннего ассистента и запрещающие системе выдавать предупреждения о защите. Исследователи отмечают, что у них нет доказательств применения инструмента в реальных масштабных атаках, однако найденный комплекс представляет собой полностью готовый к эксплуатации функционал.

Источник: theregister