Исследование: никакие настройки не исправят токсичность социальных сетей

Новое исследование, опубликованное в виде препринта на сайте arXiv, показало, что негативные эффекты социальных сетей, такие как эхо-камеры, концентрация влияния и усиление радикальных настроений, являются следствием фундаментальной структуры этих платформ, а не просто результатом работы алгоритмов или поведения пользователей.

Ученые из Амстердамского университета Петтер Тернберг и Майк Ларуи разработали гибридную модель, объединяющую агентное моделирование с большими языковыми моделями для имитации поведения пользователей в социальных сетях. Исследователи обнаружили, что даже без внедрения специальных алгоритмов или манипуляций с моделью проблемные последствия естественным образом возникали в базовой структуре.

Команда протестировала шесть различных стратегий вмешательства: хронологическую ленту, изменение алгоритмов оптимизации, увеличение разнообразия точек зрения, использование «алгоритмов-мостов», скрытие социальной статистики и удаление биографий. Ни одна из этих мер не смогла полностью устранить проблемы, а некоторые даже усугубили ситуацию.

Исследование показало, что существует обратная связь между эмоциональными действиями пользователей (репостами, лайками) и формирующейся сетевой структурой. Эта динамика приводит к степенному распределению влияния, при котором 1 % пользователей доминирует в обсуждениях.

Тёрнберг отмечает, что с появлением генеративного ИИ ситуация может только ухудшиться, поскольку искусственный интеллект способен массово создавать контент, оптимизированный для привлечения внимания в социальных сетях. Это может привести к ещё большему распространению дезинформации и поляризации.

Источник: Ars Technica