Хакеры продают «Услугу по созданию вредоносного ПО с помощью ChatGPT»

ChatGPT стал горячей темой для предоставления очень точных ответов на вопросы и запросы как человек. Сообщалось о случае получения проходного балла на выпускном экзамене на степень магистра делового администрирования (MBA). Такой ChatGPT оснащен функцией блокировки генерации нелегального контента, но исследователь из компании по кибербезопасности Check Point Software сказал, что хакеры могут обходить ограничения ChatGPT и создавать вредоносное ПО. 

ChatGPT может давать человеческие ответы на вопросы и запросы, а пользователи могут создавать документы и программный код. Однако ChatGPT, который можно использовать из Интернета, имеет ограничения, которые блокируют создание потенциально незаконного контента, и записывает «код для взлома устройства с целью кражи данных» и «фишинговый текст электронной почты». По запросу такой контент будет отклонен с предупреждениями о том, что он является незаконным, неэтичным и вредным.

Однако, чтобы обойти это ограничение ChatGPT, хакеры разработали метод использования «API OpenAI», предоставляемого разработчикам, создающим приложения. В то время как веб-версия ChatGPT имеет функции, которые блокируют создание нелегального контента, API имеет несколько мер по борьбе со злоупотреблениями, а ChatGPT не обнаруживает вредоносный контент, такой как фишинговые электронные письма или вредоносный код. 

По словам исследователей Check Point Software, подпольный форум продает услуги, которые интегрируют ключ API OpenAI во внешние приложения, такие как приложение для обмена сообщениями Telegram, для создания вредоносного контента. Изображение ниже представляет собой скриншот страницы, рекламирующей бота Telegram, который использовал API OpenAI для обхода ограничений.

Используя ChatGPT через бота Telegram, можно сгенерировать текст фишингового письма.

Он также может генерировать вредоносный код.

Услуга, продаваемая на форуме, представляет собой комбинацию API и приложения Telegram, которую можно использовать бесплатно для первых 20 запросов, после чего взимается плата в размере 5,5 долларов США за каждые 100 запросов. 

Сергей Шикевич, исследователь Check Point Software, сообщал в электронном письме технологическому изданию Ars Technica, что в период с декабря 2022 года по январь 2023 года вредоносное ПО и фишинговые письма будут генерироваться через ChatGPT соответственно. Однако в последнее время механизмы противодействия эксплуатации ChatGPT настолько улучшились, что киберпреступники, возможно, переключились на гораздо менее регулируемый API. 

Согласно Ars Technica, «создание вредоносных программ и фишинговых электронных писем — это лишь несколько примеров того, как ChatGPT открыл ящик Пандоры для распространения вредоносного контента по всему миру. Другое небезопасное или неэтичное использование сервиса включают в себя вторжение в частную жизнь и создание дезинформации».

Источник: Oops, ChatGPT can be hacked to offer illicit AI-generated content including malware