Хакеры продают «Услугу по созданию вредоносного ПО с помощью ChatGPT»

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

ChatGPT стал горячей темой для предоставления очень точных ответов на вопросы и запросы как человек. Сообщалось о случае получения проходного балла на выпускном экзамене на степень магистра делового администрирования (MBA). Такой ChatGPT оснащен функцией блокировки генерации нелегального контента, но исследователь из компании по кибербезопасности Check Point Software сказал, что хакеры могут обходить ограничения ChatGPT и создавать вредоносное ПО. 

ChatGPT может давать человеческие ответы на вопросы и запросы, а пользователи могут создавать документы и программный код. Однако ChatGPT, который можно использовать из Интернета, имеет ограничения, которые блокируют создание потенциально незаконного контента, и записывает «код для взлома устройства с целью кражи данных» и «фишинговый текст электронной почты». По запросу такой контент будет отклонен с предупреждениями о том, что он является незаконным, неэтичным и вредным.

Однако, чтобы обойти это ограничение ChatGPT, хакеры разработали метод использования «API OpenAI», предоставляемого разработчикам, создающим приложения. В то время как веб-версия ChatGPT имеет функции, которые блокируют создание нелегального контента, API имеет несколько мер по борьбе со злоупотреблениями, а ChatGPT не обнаруживает вредоносный контент, такой как фишинговые электронные письма или вредоносный код. 

По словам исследователей Check Point Software, подпольный форум продает услуги, которые интегрируют ключ API OpenAI во внешние приложения, такие как приложение для обмена сообщениями Telegram, для создания вредоносного контента. Изображение ниже представляет собой скриншот страницы, рекламирующей бота Telegram, который использовал API OpenAI для обхода ограничений.

Используя ChatGPT через бота Telegram, можно сгенерировать текст фишингового письма.

Он также может генерировать вредоносный код.

Услуга, продаваемая на форуме, представляет собой комбинацию API и приложения Telegram, которую можно использовать бесплатно для первых 20 запросов, после чего взимается плата в размере 5,5 долларов США за каждые 100 запросов. 

Сергей Шикевич, исследователь Check Point Software, сообщал в электронном письме технологическому изданию Ars Technica, что в период с декабря 2022 года по январь 2023 года вредоносное ПО и фишинговые письма будут генерироваться через ChatGPT соответственно. Однако в последнее время механизмы противодействия эксплуатации ChatGPT настолько улучшились, что киберпреступники, возможно, переключились на гораздо менее регулируемый API. 

Согласно Ars Technica, «создание вредоносных программ и фишинговых электронных писем — это лишь несколько примеров того, как ChatGPT открыл ящик Пандоры для распространения вредоносного контента по всему миру. Другое небезопасное или неэтичное использование сервиса включают в себя вторжение в частную жизнь и создание дезинформации».

Источник: Oops, ChatGPT can be hacked to offer illicit AI-generated content including malware

Сейчас на главной

Новости

Публикации

Крымская АЭС: 80% строительной готовности без реактора ВВЭР-1000 и снос шахты за 230 млн евро

Строительство первого блока Крымской АЭС остановили при 80% готовности, но эти проценты относились только к бетону: реактор так и не установили в шахту, а спустя годы порезали на металлолом....

Нижнее белье как конструкция: почему боди может быть неудобным при верном размере

Нижнее белье сложного кроя нельзя оценивать только по размеру на бирке. Боди одновременно должно подходить по груди, талии, бёдрам и длине корпуса. Если хотя бы один параметр не совпал с...

ТС-АЦП: пожарный вездеход с цистерной

ТС-АЦП — это не просто вездеход, а специализированная пожарная автоцистерна на четырёхгусеничном шасси, созданная для работы там, где обычная пожарная техника просто не проедет. По сути,...

✦ ИИ  Жидкий металл, фазовый переход и дорогая термопаста: как правильный термоинтерфейс превращается в убийцу железа

Стоит температурам процессора или видеокарты подползти к 85-90 °C, как в ход идёт стандартный рецепт: разобрать, счистить заводской термоинтерфейс и намазать что-нибудь «топовое» — от...

Зачем инженеры Hoover выпустили пылесос на воздушной подушке

Круглый Hoover Constellation было легче сдвинуть с места, когда он работал. Достаточно было слегка потянуть за шланг, и металлический шар скользил следом за щёткой. Стоило выключить мотор, и корпус...

Пять новых моделей для изображений и видео на Python

В библиотеку Diffusers для Python добавили поддержку пяти моделей, которые создают изображения и видео. Diffusers помогает запускать эти модели из своего кода. Например, можно взять один кадр и...