Мошенники используют ИИ-бота Grok для обхода защиты социальной сети X

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

Исследователь кибербезопасности из Guardio Labs Нати Таль обнаружил новую схему мошенничества в социальной сети X, получившую название «Grokking». Злоумышленники научились использовать чат-бот Grok для публикации запрещенных ссылок, обходя системы безопасности платформы.

Механизм атаки основан на манипуляции с метаданными видеорекламы. Мошенники размещают привлекательные видеообъявления, часто с контентом для взрослых, и скрывают вредоносные URL в поле метаданных «From:», которое, по всей видимости, не проверяется системами модерации X. Затем они публикуют комментарий к собственной рекламе, запрашивая у Grok информацию об источнике видео. Чат-бот анализирует скрытое поле и выдает полностью кликабельную ссылку в своем ответе.

Автор: BitExpert Источник: bitexpert.io

Пользователи, доверяя искусственному интеллекту Grok, переходят по этим ссылкам, что приводит к финансовым потерям. По имеющимся данным, Web3-проекты уже потеряли около $1,25 миллиарда из-за подобных хакерских атак.

Таль незамедлительно уведомил администрацию X о выявленной уязвимости. Технические специалисты платформы начали работу над устранением проблемы, однако пока не сообщается о конкретных мерах противодействия.

Эксперты по кибербезопасности рекомендуют пользователям X проявлять осторожность при взаимодействии с любыми ссылками, даже если они получены через официальные инструменты платформы, включая Grok. Особую бдительность следует проявлять при просмотре рекламных материалов с провокационным содержанием.

Данный инцидент демонстрирует, как злоумышленники быстро адаптируются к новым технологиям и находят способы использовать искусственный интеллект в мошеннических схемах.

Источник: BitExpert

Автор не входит в состав редакции iXBT.com (подробнее »)

1 комментарий

w
Странные мошенники. Нужно использовать ИИ конкурента. Это же логично.

Добавить комментарий

Сейчас на главной

Новости

Публикации

Какие приборы в квартире на самом деле накручивают счётчик и на чём экономить абсолютно бесполезно

В большинстве квартир борьба за снижение счетов за электричество выглядит одинаково: домочадцы методично выдёргивают из розеток зарядные устройства для смартфонов, выключают телевизор кнопкой на...

Как датский астроном случайно открыл скорость света по спутнику Юпитера Ио — и почему об этом спорили полвека

До конца 17 века большинство учёных считали, что свет распространяется мгновенно. Считалось, что его скорость бесконечна: если зажечь огонь, свет в ту же долю секунды окажется в любой точке...

В 1980-х компьютерные программы передавали по радио. Как их записывали на кассету?

В эфире стихал голос ведущего, и из приёмника шёл резкий писк. Дома его записывали на обычный магнитофон. При повторном прослушивании запись звучала примерно так же. На экране одного домашнего...

Как менялся рост людей за 7000 лет: почему прогресс делал жителей Евразии ниже

В XI веке в Китае распространились новые скороспелые сорта риса. Они позволяли собирать более обильные урожаи с тех же полей. Параллельно в стране развивались оросительные системы,...

Зачем у старой «Волги» слева от педалей была ещё одна кнопка?

На полу ГАЗ‑21 рядом со сцеплением легко пропустить круглую кнопку. Стоит нажать её носком, и на панели может зажечься контрольная лампочка. Но одно и то же нажатие давало разные результаты в...

Фотоаппарат Sony записывал до 40 снимков на дискету. Зачем в камеру встроили дисковод?

У цифровой Sony Mavica конца девяностых был отсек, куда целиком уходила обычная компьютерная дискета. После кадра внутри раздавалось знакомое жужжание, а рядом с прорезью загоралась лампочка. С...