Хакеры продают «Услугу по созданию вредоносного ПО с помощью ChatGPT»

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

ChatGPT стал горячей темой для предоставления очень точных ответов на вопросы и запросы как человек. Сообщалось о случае получения проходного балла на выпускном экзамене на степень магистра делового администрирования (MBA). Такой ChatGPT оснащен функцией блокировки генерации нелегального контента, но исследователь из компании по кибербезопасности Check Point Software сказал, что хакеры могут обходить ограничения ChatGPT и создавать вредоносное ПО. 

ChatGPT может давать человеческие ответы на вопросы и запросы, а пользователи могут создавать документы и программный код. Однако ChatGPT, который можно использовать из Интернета, имеет ограничения, которые блокируют создание потенциально незаконного контента, и записывает «код для взлома устройства с целью кражи данных» и «фишинговый текст электронной почты». По запросу такой контент будет отклонен с предупреждениями о том, что он является незаконным, неэтичным и вредным.

Однако, чтобы обойти это ограничение ChatGPT, хакеры разработали метод использования «API OpenAI», предоставляемого разработчикам, создающим приложения. В то время как веб-версия ChatGPT имеет функции, которые блокируют создание нелегального контента, API имеет несколько мер по борьбе со злоупотреблениями, а ChatGPT не обнаруживает вредоносный контент, такой как фишинговые электронные письма или вредоносный код. 

По словам исследователей Check Point Software, подпольный форум продает услуги, которые интегрируют ключ API OpenAI во внешние приложения, такие как приложение для обмена сообщениями Telegram, для создания вредоносного контента. Изображение ниже представляет собой скриншот страницы, рекламирующей бота Telegram, который использовал API OpenAI для обхода ограничений.

Используя ChatGPT через бота Telegram, можно сгенерировать текст фишингового письма.

Он также может генерировать вредоносный код.

Услуга, продаваемая на форуме, представляет собой комбинацию API и приложения Telegram, которую можно использовать бесплатно для первых 20 запросов, после чего взимается плата в размере 5,5 долларов США за каждые 100 запросов. 

Сергей Шикевич, исследователь Check Point Software, сообщал в электронном письме технологическому изданию Ars Technica, что в период с декабря 2022 года по январь 2023 года вредоносное ПО и фишинговые письма будут генерироваться через ChatGPT соответственно. Однако в последнее время механизмы противодействия эксплуатации ChatGPT настолько улучшились, что киберпреступники, возможно, переключились на гораздо менее регулируемый API. 

Согласно Ars Technica, «создание вредоносных программ и фишинговых электронных писем — это лишь несколько примеров того, как ChatGPT открыл ящик Пандоры для распространения вредоносного контента по всему миру. Другое небезопасное или неэтичное использование сервиса включают в себя вторжение в частную жизнь и создание дезинформации».

Источник: Oops, ChatGPT can be hacked to offer illicit AI-generated content including malware

Сейчас на главной

Новости

Публикации

В США два года пасли овец рядом с солнечной электростанцией, и животные смогли увеличить число пчёл на участках

Группа учёных из Корнеллского университета в США провела исследование и изучила, как выпас скота на территории солнечных электростанций влияет на насекомых. Учёные смогли получить обнадёживающие...

Как AirTag находит потерянный чемодан, если в нём нет GPS, Wi-Fi и интернета?

Представьте ситуацию: вы прилетели в другой город, а ваш чемодан по ошибке отправился совсем в другую сторону. Открываете приложение «Локатор» на iPhone, смотрите на карту и видите, что багаж с...

Что случится со Вселенной, если в космосе возникнет хотя бы одна точка настоящей пустоты

В повседневной жизни пустотой принято считать пространство, в котором нет никаких предметов и веществ, включая воздух. Однако с точки зрения современной науки создать абсолютную пустоту невозможно....

На Южной Георгии уничтожили крыс на территории более 100 тысяч гектаров — птицы начали возвращаться туда, где не размножались поколениями

Когда первые охотники на тюленей добрались до Южной Георгии в конце XVIII века, вместе с людьми на берег сошёл пассажир, которому здесь раньше не было места. Бурые крысы попадали на остров с...

Как ведут себя тигры в дикой природе: охота, территория, общение и семейная жизнь полосатых хищников

Тигр — один из самых крупных и скрытных хищников планеты. Его образ часто связывают с одиночеством, бесшумной охотой и огромной силой. Но за привычным представлением о полосатом хищнике...