Вредоносный ИИ-агент научился атаковать серверы без участия человека

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

Специалисты Symantec Threat Hunter Team обнаружили и изолировали на специальном сервере-ловушке вредоносное автономное ИИ-устройство. Этот инструмент создан для поиска уязвимых конечных точек API, кражи чужих нейросетевых моделей и осуществления кибератак без вмешательства человека, выполняя до 100 000 последовательных действий.

Вредоносный агент сканирует сеть в поисках интерфейсов, принимающих запросы в формате OpenAI без аутентификации или с использованием украденных ключей. Автономный цикл, названный разработчиками Skynet mode, выявляет уязвимости в популярной веб-инфраструктуре, включая Django, Laravel, Supabase, Next. js и Jupyter, проводит кражу учетных данных и баз данных, исполняет удаленный код и незаметно разворачивает майнеры криптовалюты.

Автор: gemini Источник: gemini.google.com

Для обхода базовых ограничений безопасности ИИ-моделей авторы применили многослойные джейлбрейк-инструкции, маскирующие нейросеть под стороннего ассистента и запрещающие системе выдавать предупреждения о защите. Исследователи отмечают, что у них нет доказательств применения инструмента в реальных масштабных атаках, однако найденный комплекс представляет собой полностью готовый к эксплуатации функционал.

Источник: theregister

Автор не входит в состав редакции iXBT.com (подробнее »)
Об авторе
Интересуюсь технологиями и рассказываю о них вам.

Сейчас на главной

Новости

Публикации

Тепловизор без единой линзы: физика лицевой ямки гремучника и алгоритм деконволюции

В лицевой части черепа ямкоголовой змеи находится парное углубление глубиной около 5-6 мм с круглым входным отверстием диаметром от 1,5 мм до 3 мм. Анатомически этот парный орган повторяет...

Телефон Nokia 5510: выглядел странно, работал ещё страннее

В начале двухтысячных мобильная индустрия не боялась смелых экспериментов с форм-факторами. Nokia 5510 стал одним из самых необычных их воплощений. Он выпускался под самоироничным слоганом...

A4TECH Bloody GR220 — обзор игровых наушников с подключением по радиоканалу, по Bluetooth и по проводу

Сегодня на обзоре новая модель беспроводных наушников A4Tech Bloody GR220 с возможностью подключения и по USB. Для подключения «по воздуху» здесь сразу два варианта: это радиоканал и по Bluetooth....

Король вечеринок: обзор акустической системы W-KING D20

W-KING D20 — портативная колонка, которая нацелена на то, чтобы быть основой вечеринки. У нее есть достаточно мощности, подключение микрофонов и гитары. Хватит ли ее пения на вечер,...

Магнитофоны как искусство: 10 самых красивых кассетных дек за всю историю аудио

Во время расцвета компакт-кассеты деки были не просто источниками звука. Они становились центральным элементом аудиостойки, с подсветкой индикаторов, видимым движением ленты, тактильными клавишами...

Чтобы выжить в Австралии, местным змеям пришлось изменить свой размер: в противном случае они погибали от ядовитых жаб

В 1935 году в Австралию была завезена жаба-ага. Животное должно было бороться с жуками-вредителями, поедавшими сахарный тростник. Однако на деле получилось иначе. Жабы сами стали поедать местные...