Киберэксперты из южнокорейской компании Genians выявили, что группа Kimsuky, предположительно поддерживаемая Северной Кореей, использовала ChatGPT для генерации фальшивого удостоверения личности военного из Южной Кореи.
Атака, обнаруженная в июле 2025 года, затронула журналистов, исследователей и правозащитников, занимающихся тематикой КНДР. Письма рассылались с адресов, имитирующих домен .mil.kr, и содержали ссылку на вредоносный файл LhUdPC3G.bat, который извлекал данные с устройств жертв.
В ходе экспериментов Genians подтвердили, что ChatGPT изначально отказывался создавать копии официальных документов из-за юридических ограничений, но злоумышленники обошли запрет, перефразировав запрос как «пример дизайна для легитимных целей». Это позволило сгенерировать реалистичное изображение на основе публичных фото и шаблона.
Kimsuky известна как подразделение киберразведки, ориентированное на глобальный сбор информации по заданию Пхеньяна.