Google обнаружила вирусы, использующие ИИ для атак

Исследовательское подразделение Google Threat Intelligence Group (GTIG) зафиксировало активность нескольких вредоносов, которые впервые напрямую взаимодействуют с системами искусственного интеллекта. Эти программы способны менять собственный код в процессе работы, обращаясь к языковым моделям для обхода антивирусных фильтров.

По данным отчёта GTIG, речь идёт о трёх отдельных разработках — Quietvault, Promptflux и Promptsteal. Каждый из них демонстрирует разный подход к использованию ИИ.

Quietvault предназначен для кражи учётных данных на устройствах под управлением Windows. Он применяет встроенные системные инструменты и способен запрашивать у ИИ подсказки, которые помогают находить скрытые файлы с паролями и токенами.

Другой образец, Promptflux, исследователи называют экспериментальным. Вредонос взаимодействует с моделью Google Gemini через API, чтобы переписывать собственный код и избегать детектирования антивирусом. При этом, как уточнили в GTIG, на практике заражений не зафиксировано — вирус пока находится в стадии разработки. Компания изменила настройки модели, чтобы исключить возможность генерации подобных скриптов.

Третья программа, Promptsteal, действует как троян. Она маскируется под генератор изображений и подключается к модели Qwen компании Alibaba. В процессе работы вирус формирует запросы к ИИ для создания однострочных команд Windows, с помощью которых собирает системные данные и документы пользователя.

Эксперты отмечают, что это первые зафиксированные случаи использования генеративных моделей не для подготовки атак, а как активного инструмента в ходе их исполнения. В Google считают, что подобные схемы демонстрируют новую тенденцию — превращение искусственного интеллекта в динамический компонент вредоносных программ.

Компания заявила, что связанные с этой активностью учётные записи и API-ключи были заблокированы, а архитектура моделей дополнительно усилена для отказа от выполнения подобных запросов. Аналитики предупреждают, что с ростом числа открытых ИИ-платформ подобные попытки могут стать массовыми.

Источник: https://cloud.google.com