Hitachi разрабатывает инструмент для создания водяных знаков, который поможет распознавать тексты, созданные искусственным интеллектом, в глобальном масштабе

Японский конгломерат Hitachi Ltd. компания разработала первый в мире инструмент для создания водяных знаков с искусственным интеллектом, который может помочь отличить тексты, созданные генеративным ИИ, от произведений, написанных людьми, для защиты от злоупотреблений, таких как распространение ложной информации.

Генеративный искусственный интеллект привел к таким проблемам, как невозможность школ определить, были ли отчеты написаны самими учащимися, даже если последние передали их написание на аутсорсинг новой технологии. Когда люди пишут предложения, на выбор слов влияют различные факторы. Компания Hitachi добавила некоторые слова, которые, как ожидается, будут следовать за каждым словом, в списки слов с цифровыми водяными знаками. Когда искусственный интеллект пишет предложение, он предназначен для автоматического выбора определенных слов из таких списков. Безопасность и другие факторы были повышены благодаря многослойности этих списков.

Сгенерированные искусственным интеллектом предложения, содержащие характерные водяные знаки, с большей вероятностью содержат слова, соответствующие тем, что указаны в списках, что позволяет их различать. Технологии создания цифровых водяных знаков, которые позволяют определить источник генерируемой информации, развиваются в таких средах, как изображения и видео. Если использование этой технологии в письменных текстах получит широкое распространение, то, как сообщается, можно будет определить, был ли задействован искусственный интеллект, даже в тех случаях, когда тексты копировались неоднократно.

Источник: https://mainichi.jp/english/articles/20240731/p2a/00m/0sc/026000c