Мошенники используют ИИ-бота Grok для обхода защиты социальной сети X

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

Исследователь кибербезопасности из Guardio Labs Нати Таль обнаружил новую схему мошенничества в социальной сети X, получившую название «Grokking». Злоумышленники научились использовать чат-бот Grok для публикации запрещенных ссылок, обходя системы безопасности платформы.

Механизм атаки основан на манипуляции с метаданными видеорекламы. Мошенники размещают привлекательные видеообъявления, часто с контентом для взрослых, и скрывают вредоносные URL в поле метаданных «From:», которое, по всей видимости, не проверяется системами модерации X. Затем они публикуют комментарий к собственной рекламе, запрашивая у Grok информацию об источнике видео. Чат-бот анализирует скрытое поле и выдает полностью кликабельную ссылку в своем ответе.

Автор: BitExpert Источник: bitexpert.io

Пользователи, доверяя искусственному интеллекту Grok, переходят по этим ссылкам, что приводит к финансовым потерям. По имеющимся данным, Web3-проекты уже потеряли около $1,25 миллиарда из-за подобных хакерских атак.

Таль незамедлительно уведомил администрацию X о выявленной уязвимости. Технические специалисты платформы начали работу над устранением проблемы, однако пока не сообщается о конкретных мерах противодействия.

Эксперты по кибербезопасности рекомендуют пользователям X проявлять осторожность при взаимодействии с любыми ссылками, даже если они получены через официальные инструменты платформы, включая Grok. Особую бдительность следует проявлять при просмотре рекламных материалов с провокационным содержанием.

Данный инцидент демонстрирует, как злоумышленники быстро адаптируются к новым технологиям и находят способы использовать искусственный интеллект в мошеннических схемах.

Источник: BitExpert

Автор не входит в состав редакции iXBT.com (подробнее »)

1 комментарий

w
Странные мошенники. Нужно использовать ИИ конкурента. Это же логично.

Добавить комментарий

Сейчас на главной

Новости

Публикации

Обзор блока питания ID-COOLING FP-1000 — первая платина

Компания ID-COOLING известна, в первую очередь, своими системами охлаждения, в начале года они расшились и на сегмент компьютерных корпусов, а летом дело дошло и до блоков питания. Причем...

Обзор ILIFE H90 Pro: вертикальный пылесос для тех, кто не любит вытряхивать пыль

Когда я выбирал вертикальный пылесос, главным критерием было не наличие максимального количества функций, а удобство ежедневного использования. ILIFE H90 Pro привлёк внимание именно станцией...

Возвращаем YouTube на ПК и немного решаем проблемы с замедлением

Сервис YouTube на территории России, официально, давно перестал работать, но множество пользователей нашли обходные пути и продолжают им пользоваться. Однако в последние несколько дней сервис начал...

Хуанг пролюбил свой пост в Nvidia, а также возврат IPO Антропика: главное за неделю

Самые интересные новости финансов и технологий в России и мире за неделю: массовый сбой у Microsoft и американских аэропортов, SpaceX впервые поймал ракету роборукой, оценка Anthropic перед IPO...

Ученые создали «живые» искусственные мышцы для гуманоидных роботов: они играют на пианино и двигают глазами

Мышечная система человека решает две разные механические задачи. Крупные мышцы спины и ног рассчитаны на создание большой тяги и подъем тяжестей. В свою очередь, мелкие скелетные мышцы —...

Скорость света была втрое выше, а гравитация — в 27 раз сильнее: как новая модель Вселенной прошла проверку Большим взрывом

Согласно стандартной космологической модели, которую в физике называют Лямбда-CDM, привычное нам вещество — звезды, планеты, межзвездный газ и мы сами — составляет лишь около...