Искусственный интеллект теперь не только помогает в работе. Создан сетевой червь распространяющийся через сервисы искусственного интеллекта, он самостоятельно размножается и крадёт данные

Исследователи в сфере кибербезопасности смогли разработать сетевого червя, который самостоятельно размножается и распространяется между сервисами искусственного интеллекта через спам, где, в свою очередь, может похищать персональную информацию пользователя. Каждый сервис искусственного интеллекта создан для помощи в решении различных задач пользователя. Но это может стать огромной проблемой для всех, так как сервисы ИИ несут угрозу кибербезопасности, открывают новые горизонты и виды атак ранее не существовавших.

Новый вид сетевого червя получил имя Morris II, в честь своего собрата, созданного ещё в 1988 году и заразивший более 6.000 компьютеров. Причём это было на то время около 10% всех устройств, имеющих доступ к интернету. Новый вредонос значительно опаснее своего оппонента. Он способен распространяться через электронные письма и атаковать виртуальные сервисы, работающие на искусственном интеллекте. Обходя защиту персональных компьютеров и сервисов искусственного интеллекта Morris II, крадёт персональные данные электронных писем пользователя.

Так как сетевой червь был разработан исследователями, то все испытания проводились в закрытых системах. Опыты показали, что Morris II может спокойно работать с любыми генеративными ИИ, текстом или изображениями, размещаемыми на компьютере или почтовых серверах.

В данный момент средствам компьютерной безопасности неизвестны случаи создания сетевых червей, распространяющихся в среде искусственного интеллекта. Но, судя по всему, эту угрозу уже следует рассматривать. И возможно она появится в ближайшем будущем, но с более опасными последствиями.

Все сервисы искусственного интеллекта работают по системе получение команд или запросов и в конечном итоге выдают текст, картинку, видео или другой результат. Поэтому воспользовавшись командой правильным образом можно пойти против системы обходя систему безопасности и запускать. К примеру, задать интернет адрес с вредоносным содержимым и командами на выполнение. На этом и построена работа сетевого червя, распространяющегося в генеративном искусственном интеллекте. Результатом выполнения запрошенной команды может стать ещё одна команда на выполнение следующего действия, что также может привести к переполнению буфера.

Во время исследования были созданы почтовые сервисы, работающие на искусственном интеллекте, таких как ChatGPT, Gemini или LlaVA. Исследователи использовали два вида атаки состоящих из самовоспроизводящегося текстового файла и аналогичного текста, встроенного в графический файл. Запущенная атака пересылала запрос в сервис искусственного интеллекта на выполнение запроса, где и происходил взлом с последующим распространением вредоносного кода. В этом случае искусственный интеллект самостоятельно пересылал персональные данные пользователя взломщикам и по адресной книге производил распространение своего кода на следующие почтовые ящики.

В случае атаки с графическим файлом происходила аналогичная ситуация, с массовой рассылкой писем по адресной книге и кража персональных данных. Причём в этом случае искусственный интеллект даже проще обрабатывал запросы и распространял их. Таким образом, исследователи смогли получить персональные данные пользователя, банковские реквизиты, которые вводились при работе и другая информация.

Историей создания сетевого червя послужили ошибки при проектировании экосистемы искусственного интеллекта. В данный момент компания Google уже проверяет возможные уязвимости в своей архитектуре. Возможно, после создания такого червя разработчики задумаются об увеличении защиты и уменьшении привилегий, раздаваемых искусственному интеллекту. К примеру, это может быть отправка писем от имени пользователя в автоматическом режиме без подтверждения. Кроме того, следует рассмотреть защиту системы при обнаружении многократных однотипных выполняемых команд искусственным интеллектом. И скорее всего, такие вредоносы начнут активные атаки уже в ближайшие 2-3 года.

Источник: https://www.wired.com