В Китае ИИ подвергаются тестам, чтобы убедиться, что чат-боты корпораций придерживаются «основных социалистических ценностей»

В Китае боты с искусственным интеллектом, созданные некоторыми из крупнейших корпораций страны, подвергаются ряду тестов на предмет соответствия «основным социалистическим ценностям», как сообщает FT.

Китайский центр управления киберпространством (CAC) пересматривает модели искусственного интеллекта, разработанные такими гигантами, как ByteDance (компания TikTok) и AliBaba, чтобы убедиться, что они соответствуют правилам цензуры страны.

По данным FT, отряды чиновников по кибербезопасности появляются в офисах фирм, занимающихся искусственным интеллектом, и опрашивают их большие языковые модели, задавая им целый ряд вопросов на политически чувствительные темы, чтобы убедиться, что они несильно отходят от сценария.

Что считается политически чувствительной темой? Все, что вы ожидаете. Вопросы об инциденте на площади Тяньаньмэнь, интернет-мемах, высмеивающих президента Китая Си Цзиньпина, и обо всем, что содержит ключевые слова, относящиеся к темам, которые рискуют «подорвать национальное единство» и «подорвать государственную власть». Еще больше усложняет ситуацию то, что власти не хотят, чтобы ИИ вообще избегал политики (даже деликатных тем), кроме того, они требуют, чтобы боты отклоняли не более 5% обращений к ним.

Результатом проверок привел к двум вариантам разрешения ситуации: некоторые создали слой в своих больших языковых моделях, который может заменять ответы на конфиденциальные ответы «в реальном времени», сообщил FT один источник, в то время как другие просто сдались и наложили «полный запрет» на темы, связанные с Си Цзиньпином.

Таким образом, существует довольно широкий разброс по рейтингам «безопасности» — эталону соответствия, разработанному Университетом Фудань — для китайских ИИ-ботов. У ByteDance дела идут лучше, чем у всех остальных: уровень соблюдения требований составляет 66,4%. Когда FT спросила у бота ByteDance о президенте Си, та предоставила восторженный отчет, назвав президента «несомненно великим лидером». Между тем, боты Baidu и AliBaba добились лишь 31,9% и 23,9% соответственно. Тем не менее, все они справляются лучше, чем OpenAI: рейтинг соответствия GPT-4o составляет 7,1%.

Источник: PCGAMER