А хотели помочь больным: в ОАЭ научили ИИ убедительно подделывать почерк. Что дальше?

ИИ-инструменты уже позволяют генерировать убедительные голосовые клоны и видео-дипфейки. Вскоре у потенциальных злоумышленников появится и новая возможность подделывать почерк — в этом им невольно помогут учёные из университета в Абу-Даби (ОАЭ).

Как сообщили исследователи из Университета искусственного интеллекта имени Мохамеда бин Заида (MBZUAI), они разработали технологию, позволяющую распознавать и имитировать чужой почерк. ИИ-модель обучается всего на нескольких написанных от руки параграфах. Исследователи уже зарегистрировали разработку в американском патентном ведомстве.

Хотя функцию ещё не представили широкой общественности, уже известно, что новая разработка означает шаг вперёд в деле, над которым годами трудились многие исследователи. Уже неоднократно выпускались приложения и даже роботы, способные «писать от руки», но недавние достижения в сфере ИИ значительно усовершенствовали распознавание символов. Впрочем, пока непонятно, смогут ли преимущества технологии перевесить её недостатки.

Изначально технология предназначалась для людей с проблемами со здоровьем. Она могла бы помочь им писать, не используя ручки. Тем не менее, в результате фактически получился очередной инструмент для мошенников. Сами представители MBZUAI признают, что потребуется оповещать людей о возможных злоупотреблениях и разрабатывать инструменты для предотвращения подделок. «Это как разработка антивирусов для вирусов», — считают они.

Несмотря на определённые опасения, изобретатели заявляют, что намерены в течение ближайших месяцев найти практическое применение технологии, в том числе в коммерческом секторе. Например, как заявляют в MBZUAI, она позволит расшифровывать почерк врачей, создавать некую «персонализированную рекламу» и во многих других сферах. Также технологию можно будет применять для улучшения процессов обработки рукописных текстов другими моделями.

Проделать остаётся немало. Модель, тренировавшаяся на общедоступных рукописных текстах, может работать с английскими рукописями и, в некоторой степени, французскими. Тем не менее исследователи работают над расширением функциональности, пытаясь «взломать», например, и арабские рукописные тексты.

Трудно переоценить значение технологии для мошенников. Помимо генерации фейковых рукописей известных людей, они смогут подделывать и вполне современные рукописные документы, в том числе и юридически обязывающие. В результате добросовестным гражданам остаётся надеяться только на те самые «антивирусы», позволяющие распознать подделки. Впрочем, как показывает опыт исследований текстов, достоверного метода отличить созданную ИИ текстовую подделку от написанного человеком материала сегодня пока не существует.

Источник: Bloomberg