Негативные последствия ChatGPT: что такое сети ИИ-ботов и какую угрозу они несут

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

С появлением ChatGPT открылись многие возможности для упрощения работы в разных сферах. Программисты могут быстрее писать код, журналисты создавать контент, дизайнеры создавать рисунки. Однако наряду с этими появились и негативные последствия. В частности, засорение социальных медиа спам-ботами и контентом, созданным искусственным интеллектом, что приводит к сильному ухудшению качества информации в интернете.

Источник: www.businessinsider.com

Новое исследование, опубликованное в прошлом месяце исследователями Обсерватории социальных медиа Индианского университета, подробно описывает, как злоумышленники используют возможности чатбота ChatGPT от OpenAI. Исследование, проведенное Кай-Чэн Янгом, исследователем по вычислительным социальным наукам, и Филиппо Менцером, профессором компьютерных наук, обнаружило, что способность ChatGPT генерировать авторитетно выглядящий текст используется для запуска «ИИ-ботов» на X, бывшем Twitter.

Что такое сеть ИИ-ботов

Сети ИИ-ботов — это сети из сотен вредоносных ботов и спам-кампаний в социальных медиа, которые могут оставаться незамеченными текущими антиспам-фильтрами. Они используются для многих целей, например, для продвижения мошеннических схем с криптовалютами и NFT. Бот-аккаунты пытаются убедить людей инвестировать в поддельные криптовалюты и даже могут воровать из их существующих криптокошельков.

Сеть, которую обнаружили Янг и Менцер на X, насчитывала более 1000 активных ботов. Боты следовали друг за другом и отвечали на посты друг друга выводами ChatGPT, часто публикуя украденные из человеческих профилей селфи для создания фейковых персон.

Возникновение социальных медиа предоставило злоумышленникам дешевый способ достичь большой аудитории и монетизировать ложный или вводящий в заблуждение контент, сказал Менцер. Новые инструменты искусственного интеллекта «еще больше снижают затраты на генерацию ложного, но достоверно выглядящего контента в масштабе, подрывая защиту модерации платформ социальных медиа», — сказал он.

В последние несколько лет социальные медиа боты — аккаунты, которыми полностью или частично управляет программное обеспечение — регулярно использовались для усиления дезинформации о событиях, начиная от выборов и заканчивая общественными кризисами, такими как COVID. Такие боты можно было легко выявить из-за их роботизированного поведения и непересекающихся фейковых персон. Однако инструменты генеративного искусственного интеллекта, такие как ChatGPT, создают человекоподобный текст и медиа за считанные секунды.

Такие ИИ-боты в сети, обнаруженной исследователями, в основном публиковали посты о мошеннических криптовалютных и NFT-кампаниях и продвигали подозрительные веб-сайты по подобным темам, вероятно, также написанные с использованием ChatGPT, гласит исследование.

Целые веб-сайты могут состоять из искусственно сгенерированной дезинформации

Помимо социальных медиа, инструменты, аналогичные ChatGPT, породили множество спамных общих новостных веб-сайтов, многие из которых публикуют откровенные фейки. NewsGuard, частная компания, которая оценивает надежность новостных и информационных веб-сайтов, уже обнаружила более 400 подобных порталов, созданных с помощью искусственного интеллекта.

Эти веб-сайты генерируют рекламные доходы от автоматизированной технологии размещения рекламы, которая покупает место для рекламы на веб-сайтах независимо от их качества или характера.

Источник: https://www.businessinsider.com/

Автор не входит в состав редакции iXBT.com (подробнее »)
Об авторе
Нейрофилософ. Пишу статьи на темы будущего, искусственного интеллекта и науки. Рассуждаю о том, как существовать в новом мире.
Полный перечень статей можно найти на моем сайте Блог Илона Мерлина
Присоединяйтесь в ТГ канал. Там представлен сборник мыслей, инструкций и советов по адаптации к миру будущего. Кодекс Мерлина

2 комментария

1
Ну раньше этим же люди занимались, теперь вот роботы и чего теперь? Отказываться от такой толковой технологии, которая действительно помогает в некоторых сферах?
Ножом можно разделывать полезные фрукты, а можно и убить. Даже тем самым ножом, у которого скругленное лезвие. И что ж теперь — от всех ножей избавится.
Тут проблема не в машинах, это тупо инструменты. Проблема в людях. Просто надо избавиться от всех плохих. :) Шутка.
j
Статья про ИИ сгенерирована ИИ?

Добавить комментарий

Сейчас на главной

Новости

Публикации

NASA запустило «Вояджер-1» вторым, но к отметке в световые сутки он пришел на 10 лет раньше: что затормозило «Вояджер-2» на краю Солнечной системы?

18 ноября космический аппарат «Вояджер-1» достиг удаления от Земли, при котором радиосигналу требуется ровно двадцать четыре часа, чтобы преодолеть это расстояние в одну сторону. В этот день...

Марс влажнее, чем думали: Curiosity нашел признаки современной жидкой воды у поверхности

Атмосфера современного Марса более чем на 95 процентов состоит из углекислого газа и постоянно меняется в объеме в зависимости от времени года. Каждую зиму на том полюсе планеты, который отвернут...

A4TECH Bloody MS98 Plus — обзор механической клавиатуры с горячей заменой магнитных свитчей

Сегодня на обзоре новая модель MS98 Plus от A4Tech Bloody со съемными магнитным свитчами. 98 в названии говорит нам о формате клавиатуры, но клавиш здесь 99, т.к. сюда добавили еще фирменную...

Как радиация разрушает электронику и почему всего одна частица может вывести спутник из строя

В открытом космосе, внутри ядерных реакторов и в медицинских центрах лучевой терапии электронные приборы работают под постоянным воздействием радиации. Самая опасная ситуация для такой...

Сколько рук у осьминога: почему учёные считают их не щупальцами, а чем-то гораздо более необычным?

Осьминог — одно из самых удивительных беспозвоночных на планете. Его восемь длинных гибких конечностей способны одновременно удерживать добычу, исследовать морское дно, открывать...

Как кассета без ленты передавала музыку с телефона в старую автомагнитолу

Вставляешь в старую автомагнитолу кассету, протягиваешь провод к телефону и нажимаешь «Play». В динамиках играет музыка, хотя внутри кассеты нет магнитной ленты. Магнитола при этом работает в...