Что спасёт интернет? Китай намерен ввести обязательную маркировку созданного ИИ контента

Китайский регулятор Администрация киберпространства Китая (CAC) предложила новые руководящие принципы, на основании которых цифровые платформы будут обязаны недвусмысленно маркировать контент, сгенерированный ИИ. Проект анонсирован в минувшую субботу и до октября открыт для общественного обсуждения. Стоит ли маркировать подобные произведения?

В частности, согласно китайскому проекту, все созданные ИИ материалы необходимо будет идентифицировать логотипом или встроенными в файлы метаданными. Для разных типов контента предлагаются разные варианты маркировки.

Например, в текстах соответствующие заметные маркеры необходимо будет размещать в нескольких местах, также они должны демонстрироваться и на графическом контенте. При этом в звуковых файлах обязана будет появляться «голосовая подсказка» в начале и конце материала, если необходимо — и в середине. В случае с созданными ИИ песнями, например, звучит не слишком заманчиво. Уведомления предполагается в обязательном порядке демонстрировать и в видео — правда, пока неизвестно, как это будет работать, например, с фрагментами, интегрированными в художественные фильмы.

Предполагается, что пользователи, публикующие созданные ИИ материалы самостоятельно, будут обязаны маркировать его определённым образом. Если они будут применять генераторы материалов, предоставленные на цифровых платформах, придётся идентифицировать себя при создании, информация об активности будет храниться в течение полугода.

Если метаданные в файле отсутствуют, провайдеры цифровых площадок должны будут анализировать материалы и всё равно маркировать их, как созданные ИИ. Как можно будет доказать, что текст, изображение или видео действительно созданы тобой — пока не вполне понятно. Законопроект — не просто рекомендация. Наказание в случае нарушения правил смогут понести и операторы цифровых платформ, и физические лица, нарушающие требования закона. Более того, предусмотрен и обмен операторами наработками в области поиска сгенерированного ИИ контента.

Это вполне укладывается в общую стратегию Китая по модерированию онлайн-материалов в поисках дезинформации и чужой пропаганды и идентификации авторов создаваемого контента.

Проблема идентификации ИИ-контента действительно назрела. Многие эксперты бьют тревогу — искусственному интеллекту угрожает деградация из-за самого ИИ. Системы искусственного интеллекта создают контент, обучаясь на выложенных в Сеть материалах, после чего новый контент выкладывается в интернет и тоже включается в число материалов для обучения.

Существуют опасения, что таким образом будут копиться ошибки, которые впоследствии сделают медиапродукцию полностью непригодной к восприятию или совершенно недостоверной. В этом плане китайский сценарий может оказаться наиболее рациональным.

Источник: NewsBytes