Хакеры продают «Услугу по созданию вредоносного ПО с помощью ChatGPT»

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

ChatGPT стал горячей темой для предоставления очень точных ответов на вопросы и запросы как человек. Сообщалось о случае получения проходного балла на выпускном экзамене на степень магистра делового администрирования (MBA). Такой ChatGPT оснащен функцией блокировки генерации нелегального контента, но исследователь из компании по кибербезопасности Check Point Software сказал, что хакеры могут обходить ограничения ChatGPT и создавать вредоносное ПО. 

ChatGPT может давать человеческие ответы на вопросы и запросы, а пользователи могут создавать документы и программный код. Однако ChatGPT, который можно использовать из Интернета, имеет ограничения, которые блокируют создание потенциально незаконного контента, и записывает «код для взлома устройства с целью кражи данных» и «фишинговый текст электронной почты». По запросу такой контент будет отклонен с предупреждениями о том, что он является незаконным, неэтичным и вредным.

Однако, чтобы обойти это ограничение ChatGPT, хакеры разработали метод использования «API OpenAI», предоставляемого разработчикам, создающим приложения. В то время как веб-версия ChatGPT имеет функции, которые блокируют создание нелегального контента, API имеет несколько мер по борьбе со злоупотреблениями, а ChatGPT не обнаруживает вредоносный контент, такой как фишинговые электронные письма или вредоносный код. 

По словам исследователей Check Point Software, подпольный форум продает услуги, которые интегрируют ключ API OpenAI во внешние приложения, такие как приложение для обмена сообщениями Telegram, для создания вредоносного контента. Изображение ниже представляет собой скриншот страницы, рекламирующей бота Telegram, который использовал API OpenAI для обхода ограничений.

Используя ChatGPT через бота Telegram, можно сгенерировать текст фишингового письма.

Он также может генерировать вредоносный код.

Услуга, продаваемая на форуме, представляет собой комбинацию API и приложения Telegram, которую можно использовать бесплатно для первых 20 запросов, после чего взимается плата в размере 5,5 долларов США за каждые 100 запросов. 

Сергей Шикевич, исследователь Check Point Software, сообщал в электронном письме технологическому изданию Ars Technica, что в период с декабря 2022 года по январь 2023 года вредоносное ПО и фишинговые письма будут генерироваться через ChatGPT соответственно. Однако в последнее время механизмы противодействия эксплуатации ChatGPT настолько улучшились, что киберпреступники, возможно, переключились на гораздо менее регулируемый API. 

Согласно Ars Technica, «создание вредоносных программ и фишинговых электронных писем — это лишь несколько примеров того, как ChatGPT открыл ящик Пандоры для распространения вредоносного контента по всему миру. Другое небезопасное или неэтичное использование сервиса включают в себя вторжение в частную жизнь и создание дезинформации».

Источник: Oops, ChatGPT can be hacked to offer illicit AI-generated content including malware

Сейчас на главной

Новости

Публикации

Новый способ добычи кислорода из лунного грунта без плавки поможет обеспечить базы на Луне

Создание долговременных баз на Луне упирается в проблему снабжения. Один из самых востребованных ресурсов на спутнике — кислород. Он нужен не только для дыхания экипажа, но и в...

Кактусы опунция вырабатывают солнечное электричество: как ночной фотосинтез создает ток даже после 15 месяцев засухи

Современное сельское хозяйство активно переходит на системы удаленного контроля. Беспроводные датчики на полях отслеживают влажность почвы, температуру воздуха и состояние растений, позволяя...

28 тасманийских дьяволов переселили на остров ради спасения вида — вскоре там исчезли гнездящиеся короткохвостые буревестники

В ноябре 2012 года на остров Марию у восточного побережья Тасмании выпустили 15 тасманийских дьяволов. Ещё 13 привезли годом позже. Все животные были свободны от трансмиссивной опухоли...

Клетке хомяка перенесли целый геном водоросли: чужие хромосомы встроились в ее ДНК и пережили 155 поколений

Бактерии регулярно обмениваются генами напрямую, без размножения и смены поколений. Такой механизм называется горизонтальным переносом генов и позволяет микроорганизмам быстро приобретать новые...

Обзор наушников IvipQ Prism: тактильность, драйв и ламповая насыщенность

Среди удивительных трибридных новинок отдельного внимания заслуживают Prism от многим известного производителя: IvipQ. Внутри у модели стоит один 8 мм динамик для басов, четыре арматурных...

Обзор Poco X8: главный кандидат на звание «топ за свои деньги» 2026 года

Осенью вышел очень интересный смартфон среднего класса Poco X8, который благодаря своим особенностям я считаю наиболее сбалансированным смартфоном 2026 года. Он получил современный...