Мошенники используют ИИ-бота Grok для обхода защиты социальной сети X

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

Исследователь кибербезопасности из Guardio Labs Нати Таль обнаружил новую схему мошенничества в социальной сети X, получившую название «Grokking». Злоумышленники научились использовать чат-бот Grok для публикации запрещенных ссылок, обходя системы безопасности платформы.

Механизм атаки основан на манипуляции с метаданными видеорекламы. Мошенники размещают привлекательные видеообъявления, часто с контентом для взрослых, и скрывают вредоносные URL в поле метаданных «From:», которое, по всей видимости, не проверяется системами модерации X. Затем они публикуют комментарий к собственной рекламе, запрашивая у Grok информацию об источнике видео. Чат-бот анализирует скрытое поле и выдает полностью кликабельную ссылку в своем ответе.

Автор: BitExpert Источник: bitexpert.io

Пользователи, доверяя искусственному интеллекту Grok, переходят по этим ссылкам, что приводит к финансовым потерям. По имеющимся данным, Web3-проекты уже потеряли около $1,25 миллиарда из-за подобных хакерских атак.

Таль незамедлительно уведомил администрацию X о выявленной уязвимости. Технические специалисты платформы начали работу над устранением проблемы, однако пока не сообщается о конкретных мерах противодействия.

Эксперты по кибербезопасности рекомендуют пользователям X проявлять осторожность при взаимодействии с любыми ссылками, даже если они получены через официальные инструменты платформы, включая Grok. Особую бдительность следует проявлять при просмотре рекламных материалов с провокационным содержанием.

Данный инцидент демонстрирует, как злоумышленники быстро адаптируются к новым технологиям и находят способы использовать искусственный интеллект в мошеннических схемах.

Источник: BitExpert

Автор не входит в состав редакции iXBT.com (подробнее »)

1 комментарий

w
Странные мошенники. Нужно использовать ИИ конкурента. Это же логично.

Добавить комментарий

Сейчас на главной

Новости

Публикации

В США два года пасли овец рядом с солнечной электростанцией, и животные смогли увеличить число пчёл на участках

Группа учёных из Корнеллского университета в США провела исследование и изучила, как выпас скота на территории солнечных электростанций влияет на насекомых. Учёные смогли получить обнадёживающие...

Как AirTag находит потерянный чемодан, если в нём нет GPS, Wi-Fi и интернета?

Представьте ситуацию: вы прилетели в другой город, а ваш чемодан по ошибке отправился совсем в другую сторону. Открываете приложение «Локатор» на iPhone, смотрите на карту и видите, что багаж с...

Что случится со Вселенной, если в космосе возникнет хотя бы одна точка настоящей пустоты

В повседневной жизни пустотой принято считать пространство, в котором нет никаких предметов и веществ, включая воздух. Однако с точки зрения современной науки создать абсолютную пустоту невозможно....

На Южной Георгии уничтожили крыс на территории более 100 тысяч гектаров — птицы начали возвращаться туда, где не размножались поколениями

Когда первые охотники на тюленей добрались до Южной Георгии в конце XVIII века, вместе с людьми на берег сошёл пассажир, которому здесь раньше не было места. Бурые крысы попадали на остров с...

Как ведут себя тигры в дикой природе: охота, территория, общение и семейная жизнь полосатых хищников

Тигр — один из самых крупных и скрытных хищников планеты. Его образ часто связывают с одиночеством, бесшумной охотой и огромной силой. Но за привычным представлением о полосатом хищнике...

Зачем Нидерланды насыпали в море полуостров из 21,5 млн кубометров песка и дали ему размываться

В 2011 году на голландском берегу Северного моря появился огромный песчаный крюк. Его край выдавался в море примерно на километр. Уже через полгода вода отвоевала у выступа около ста метров....