Мошенники используют ИИ-бота Grok для обхода защиты социальной сети X

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

Исследователь кибербезопасности из Guardio Labs Нати Таль обнаружил новую схему мошенничества в социальной сети X, получившую название «Grokking». Злоумышленники научились использовать чат-бот Grok для публикации запрещенных ссылок, обходя системы безопасности платформы.

Механизм атаки основан на манипуляции с метаданными видеорекламы. Мошенники размещают привлекательные видеообъявления, часто с контентом для взрослых, и скрывают вредоносные URL в поле метаданных «From:», которое, по всей видимости, не проверяется системами модерации X. Затем они публикуют комментарий к собственной рекламе, запрашивая у Grok информацию об источнике видео. Чат-бот анализирует скрытое поле и выдает полностью кликабельную ссылку в своем ответе.

Автор: BitExpert Источник: bitexpert.io

Пользователи, доверяя искусственному интеллекту Grok, переходят по этим ссылкам, что приводит к финансовым потерям. По имеющимся данным, Web3-проекты уже потеряли около $1,25 миллиарда из-за подобных хакерских атак.

Таль незамедлительно уведомил администрацию X о выявленной уязвимости. Технические специалисты платформы начали работу над устранением проблемы, однако пока не сообщается о конкретных мерах противодействия.

Эксперты по кибербезопасности рекомендуют пользователям X проявлять осторожность при взаимодействии с любыми ссылками, даже если они получены через официальные инструменты платформы, включая Grok. Особую бдительность следует проявлять при просмотре рекламных материалов с провокационным содержанием.

Данный инцидент демонстрирует, как злоумышленники быстро адаптируются к новым технологиям и находят способы использовать искусственный интеллект в мошеннических схемах.

Источник: BitExpert

Автор не входит в состав редакции iXBT.com (подробнее »)

1 комментарий

w
Странные мошенники. Нужно использовать ИИ конкурента. Это же логично.

Добавить комментарий

Сейчас на главной

Новости

Публикации

У Sharp тоже была своя консоль: вот что умела Twin Famicom AN-500B

1 июля 1986 года на японском рынке начались розничные продажи комбинированной игровой консоли Sharp Twin Famicom в модификации AN-500B. Заводской ценник устройства составлял 32 000 иен. При...

Почему гранёные стаканы не лопаются от кипятка, а современные трескаются?

Наверняка многие помнят старые гранёные стаканы, в которые наливали кипяток прямо из чайника. Они годами стояли на кухнях, переживали десятки чаепитий и редко доставляли хлопоты. А вот современная...

Сдвиньте Луну на 69 секунд — и Ньютон превратится в Эйнштейна: главная проблема в поисках гравитационных аномалий

Дважды в сутки притяжение Луны и Солнца деформирует твердую оболочку Земли. Мы привыкли замечать приливы по уровню моря у береговой линии, однако каменная порода континентов также поднимается и...

Как работал первый беспроводной пульт для телевизора: Zenith Space Command 1956 года

Представьте себе гостиную 1956 года в США. По телевизору идёт реклама, и вам лень вставать, чтобы переключить канал. В руках у вас не привычный пластиковый коробок с батарейками, а тяжёлый...

7 подарков, которые не стоит дарить маме на День матери, даже если они кажутся хорошей идеей

Выбирать подарок маме всегда непросто. Хочется найти что-то полезное, красивое и запоминающееся, чтобы человек действительно обрадовался, а не просто вежливо улыбнулся. Но некоторые привычные...

Что было особого в усилителе «Радиотехника У-101» и почему он был так популярен

В 1980-х, если зайти в советскую квартиру с приличным «стерео», с высокой вероятностью, под виниловой вертушкой стоял усилитель с надписью RRR (серебристая или черная передняя панель) и...