Во «ВКонтакте» запустили фильтр угроз в комментариях

Сейчас определяются прямые угрозы — пожелания смерти, обещания причинить вред здоровью и угрозы расправы

Команда социальной сети «ВКонтакте» объявила о запуске специального фильтра для борьбы с враждебными высказываниями, который стал доступен администраторам сообществ. 

Во «ВКонтакте» запустили фильтр угроз в комментариях

Фильтр на основе нейросети можно включить и отключить в настройках сообщества в любое время, при этом по умолчанию он отключён. Функция уже появилась у владельцев 50% сообществ и скоро станет доступна всем.

На данный момент алгоритмы «ВКонтакте» умеют определять прямые угрозы — пожелания смерти, обещания причинить вред здоровью и угрозы расправы. 

Во «ВКонтакте» запустили фильтр угроз в комментариях

Разработчики собираются продолжить тестирование фильтра: в будущем он может научиться распознавать и другие признаки нетерпимости — например, травлю на национальной или религиозной почве. Руководителям сообществ доступны отфильтрованные публикации с возможностью их восстановить, однако тестовый запуск показал, что отсеянные комментарии возвращают лишь в 1% случаев.

Тестирование фильтра началось в ноябре 2020 года. За этот период функцией уже воспользовались руководители свыше 10% всех сообществ ВКонтакте — это 13 млн публичных страниц, групп и мероприятий. Как отмечают разработчики, сейчас нейросеть правильно определяет угрозы в 80% случаев.

26 февраля 2021 в 15:03

Автор:

| Источник: ВКонтакте

Все новости за сегодня

Календарь

февраль
Пн
Вт
Ср
Чт
Пт
Сб
Вс