Хакеры продают «Услугу по созданию вредоносного ПО с помощью ChatGPT»

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

ChatGPT стал горячей темой для предоставления очень точных ответов на вопросы и запросы как человек. Сообщалось о случае получения проходного балла на выпускном экзамене на степень магистра делового администрирования (MBA). Такой ChatGPT оснащен функцией блокировки генерации нелегального контента, но исследователь из компании по кибербезопасности Check Point Software сказал, что хакеры могут обходить ограничения ChatGPT и создавать вредоносное ПО. 

ChatGPT может давать человеческие ответы на вопросы и запросы, а пользователи могут создавать документы и программный код. Однако ChatGPT, который можно использовать из Интернета, имеет ограничения, которые блокируют создание потенциально незаконного контента, и записывает «код для взлома устройства с целью кражи данных» и «фишинговый текст электронной почты». По запросу такой контент будет отклонен с предупреждениями о том, что он является незаконным, неэтичным и вредным.

Однако, чтобы обойти это ограничение ChatGPT, хакеры разработали метод использования «API OpenAI», предоставляемого разработчикам, создающим приложения. В то время как веб-версия ChatGPT имеет функции, которые блокируют создание нелегального контента, API имеет несколько мер по борьбе со злоупотреблениями, а ChatGPT не обнаруживает вредоносный контент, такой как фишинговые электронные письма или вредоносный код. 

По словам исследователей Check Point Software, подпольный форум продает услуги, которые интегрируют ключ API OpenAI во внешние приложения, такие как приложение для обмена сообщениями Telegram, для создания вредоносного контента. Изображение ниже представляет собой скриншот страницы, рекламирующей бота Telegram, который использовал API OpenAI для обхода ограничений.

Используя ChatGPT через бота Telegram, можно сгенерировать текст фишингового письма.

Он также может генерировать вредоносный код.

Услуга, продаваемая на форуме, представляет собой комбинацию API и приложения Telegram, которую можно использовать бесплатно для первых 20 запросов, после чего взимается плата в размере 5,5 долларов США за каждые 100 запросов. 

Сергей Шикевич, исследователь Check Point Software, сообщал в электронном письме технологическому изданию Ars Technica, что в период с декабря 2022 года по январь 2023 года вредоносное ПО и фишинговые письма будут генерироваться через ChatGPT соответственно. Однако в последнее время механизмы противодействия эксплуатации ChatGPT настолько улучшились, что киберпреступники, возможно, переключились на гораздо менее регулируемый API. 

Согласно Ars Technica, «создание вредоносных программ и фишинговых электронных писем — это лишь несколько примеров того, как ChatGPT открыл ящик Пандоры для распространения вредоносного контента по всему миру. Другое небезопасное или неэтичное использование сервиса включают в себя вторжение в частную жизнь и создание дезинформации».

Источник: Oops, ChatGPT can be hacked to offer illicit AI-generated content including malware

Сейчас на главной

Новости

Публикации

Тестирование Qwen3.8-27B на RTX 3090: почти 262K контекста, до 94 токенов/с

Qwen3.8-27B запустилась на одной RTX 3090 с 24 ГБ видеопамяти. Модель приняла запрос на 257 966 токенов без обрезки, а на небольших запросах выдавала до 93,5 токена/с. Её подключили к чату,...

Откуда на побережье Балтики взялись огромные залежи янтаря и почему его там так много

Янтарь — это окаменевшая смола древних деревьев, преимущественно хвойных. Самые крупные в мире его залежи, известные как балтийский янтарь, или сукцинит, содержат десятки и даже сотни...

Зачем в кассетный плеер Panasonic RQ-S80 ставили 12‑слойную аморфную головку

У японской компания Panasonic было выпущено около 60 моделей портативных кассетных плееров. Заглянем в 1992 год. Мир портативного аудио уже несколько лет как осваивает компакт-диски, но кассетные...

«Аптека грязи»: почему врачи в древности лечили своих пациентов самыми отвратительными лекарствами

В Древней Греции и Древнем Риме врачи часто назначали своим пациентам отвратительные смеси на основе экскрементов, ушной серы и насекомых.

Действительно ли размер имеет значение: может ли маленькая колонка дать такой же звук, как полноценная стереосистема

Ещё несколько десятилетий назад две большие колонки в гостиной были привычной частью интерьера. Между ними стоял усилитель, рядом магнитофон или проигрыватель. Такая система занимала немало места,...

Брик: как жидкий яичный желток удаётся сохранить внутри тонкой и очень хрустящей тунисской оболочки

Брик устроен как маленькая кулинарная ловушка. Снаружи он обещает только хруст: тончайшая оболочка пузырится в масле, становится золотистой и ломается от первого нажима. Но стоит раскусить...