Почему люди верят в совершенно разное? Создана первая карта человеческих убеждений

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com
| Мнение | Наука и космос

Задумывались ли вы когда-нибудь, листая ленту новостей или участвуя в жарком онлайн-споре, как другой человек может придерживаться настолько противоположных взглядов? Почему аргументы, кажущиеся вам железными, для него звучат как пустой звук? Этот феномен, отравляющий семейные ужины и раскалывающий общества, веками был предметом изучения философов, социологов и психологов. Но сегодня в эту область вторгается неожиданный исследователь — искусственный интеллект.

Учёные из Университета Индианы предложили радикально новый подход: использовать большие языковые модели (LLM), подобные той, что приводит в движение ChatGPT, не для написания стихов или кода, а для создания настоящей карты человеческих убеждений. Их работа, опубликованная в престижном журнале Nature Human Behaviour, — это не просто очередной эксперимент. Это попытка заглянуть в самый механизм нашего мышления и понять, почему мы так отчаянно держимся за свои идеи.

Иллюстрация
Автор: ИИ Copilot Designer//DALL·E 3 Источник: www.bing.com
Карта души: от слов к пространству идей

Представьте себе гигантскую трёхмерную карту, где каждая точка — это отдельное убеждение. «Правильное питание — залог здоровья» находится здесь. Совсем рядом, в том же «регионе», располагается точка «Регулярные упражнения улучшают самочувствие». А вот убеждение «Есть фастфуд каждый день — нормально» будет находиться на совершенно другом «континенте», за тысячи условных километров.

Именно такую «карту идей», или, говоря научным языком, «пространство вложений убеждений», создала команда под руководством Джисун Ан. Они взяли за основу нейросеть S-BERT, специально обученную улавливать смысловую близость между фразами, и «скормили» ей массив данных из онлайн-дебатов. В результате ИИ научился не просто классифицировать убеждения, а располагать их в многомерном пространстве, где расстояние между точками напрямую отражает их смысловую связь.

Этот подход гениален в своей простоте. Он переводит абстрактные и часто эмоциональные споры в плоскость измеримых данных. Теперь поляризацию общества можно не просто ощущать, но и увидеть как два отдаляющихся друг от друга кластера точек на карте.

Дообучение S-BERT с помощью belief triplets. (a) Иллюстрация позиций, выраженных пользователем в нескольких дебатах. По каждой теме дебатов пользователи могут голосовать за сторону PRO или CON. (b) Истории голосований пользователей, представленные в виде матрицы. (c) Словарь совместной встречаемости голосов фиксирует, как пользователи голосовали по другим убеждениям, исходя из их голоса PRO/CON по определенному убеждению. (d) Из словаря совместной встречаемости голосов производится выборка belief triplets. Каждый belief triplet состоит из якорного убеждения (anchor belief), а также позитивного и негативного убеждений по отношению к нему. (e) Предварительно обученная модель S-BERT дообучается с помощью belief triplets в форме triplet network. (f) Иллюстрация процесса обучения, происходящего внутри S-BERT. Чтобы минимизировать triplet loss, якорное убеждение (anchor belief) сближается с убеждениями, имеющими позитивные связи. arXiv:2408.07237 [cs.CL]
Автор: Byunghwee Lee et al Источник: arxiv.org
Дело не в правде, а в дистанции: загадка «относительного диссонанса»

Самое интересное открытие исследователей ждало впереди. Проанализировав, как пользователи принимают или отвергают новые идеи, они наткнулись на любопытный механизм, который назвали «относительным диссонансом».

Всем известен классический когнитивный диссонанс — психологический дискомфорт, который мы испытываем, сталкиваясь с информацией, противоречащей нашим взглядам. Чтобы избавиться от этого неприятного чувства, мы либо меняем убеждение, либо, что чаще, отвергаем новую информацию.

Но исследование показало нечто более тонкое. Оказывается, наш выбор определяется не абсолютной «правильностью» или «неправильностью» новой идеи, а её относительным положением на карте убеждений.

Позвольте объяснить на простом примере. Представьте человека, убеждённого в пользе традиционной медицины. Ему предлагают две новые идеи:

  1. «Некоторые методы альтернативной медицины, вроде фитотерапии, могут дополнять основное лечение».
  2. «Все болезни можно вылечить силой мысли, отказавшись от врачей».

Очевидно, что первая идея находится на «карте убеждений» этого человека гораздо ближе к его исходной точке, чем вторая. Исследование доказывает: он с гораздо большей вероятностью примет первую идею, даже если относится к ней со скепсисом. И дело не в том, что она «логичнее», а в том, что «прыжок» до неё требует меньших ментальных усилий. Разрыв, или диссонанс, с этой идеей меньше, чем с радикальной второй.

Мы инстинктивно выбираем путь наименьшего когнитивного сопротивления. Мы не просто избегаем несогласия, мы активно минимизируем «дистанцию» до новой информации. Если два противоположных аргумента находятся на одинаковом расстоянии от наших взглядов, мы можем с равной вероятностью склониться к любому из них. Но как только один из них оказывается чуть ближе — выбор предрешён.

Структура пространства убеждений с помощью PCA. Фоновая тепловая карта отражает плотность убеждений, а наложенные белые точки обозначают отдельные убеждения. Показаны дополнительные распределения убеждений, соответствующие пяти темам, которые обнаруживают уникальные структуры в главных компонентах более высокого порядка. arXiv:2408.07237 [cs.CL]
Автор: Byunghwee Lee et al Источник: arxiv.org
От лаборатории к жизни: где пригодится навигатор по убеждениям?

Это открытие имеет колоссальные практические последствия.

  1. Эффективная коммуникация. Как убедить людей прививаться, сортировать мусор или перейти на более здоровое питание? Вместо того чтобы бросать им в лицо факты, которые находятся на другом «полюсе» их карты убеждений, можно найти «промежуточные» идеи. Например, вместо лозунга «Откажитесь от автомобиля!» можно предложить «Попробуйте пользоваться общественным транспортом раз в неделю». Это сообщение находится ближе и с меньшей вероятностью будет отвергнуто.
  2. Понимание социальных процессов. Карта убеждений позволяет буквально измерить пропасть между социальными группами. Это даёт возможность прогнозировать очаги напряжённости и понимать, почему одни и те же новости вызывают в разных сообществах диаметрально противоположную реакцию.
  3. Борьба с дезинформацией. Понимая, какие убеждения служат «точками входа» для фейковых новостей, можно выстраивать более эффективные стратегии противодействия, предлагая людям информацию, которая находится «ближе» к их картине мира, чем конспирологическая теория.
Предсказание убеждений пользователей относительно новых дебатов. (a) Для двух конкурирующих позиций в дебатах, PRO и CON, в ранее не встречавшихся дебатах, мы определяем их векторы убеждений как b_PRO и b_CON соответственно. Имея предшествующее убеждение пользователя u, мы вычисляем расстояния d(u, b_PRO) и d(u, b_CON). Модель предсказывает выбор пользователя как вектор убеждения, который минимизирует расстояние, что задается формулой: b̂ = arg min_{b∈{b_PRO, b_CON}} d(u, b). Минимальное и максимальное расстояния обозначаются как d_min и d_max соответственно, а их среднее — как d_avg. (b) Взаимосвязь между F1-оценкой S(L < L_v) и длиной истории пользователя L_v, где S(L < L_v) представляет F1-оценку для пользователей с историей голосований короче, чем L_v. Данные представлены как среднее значение +- стандартное отклонение (SD) по результатам 5-кратной перекрестной проверки. (c) Распределение истории пользователя L_v (количество голосов) в 5-кратном наборе данных. (d) Изменение точности предсказания убеждений, измеренное с помощью F1-оценки, по различным категориям дебатов. График изображает 20 самых частых категорий, каждая из которых встречается более 100 раз в задаче предсказания. Данные представлены как среднее значение +- SD. (e) Тренд точности как функция эффективного радиуса пользователей. Линии представляют группы пользователей, разделенные на пять квинтилей на основе количества предшествующих убеждений, причем каждая группа содержит схожее число пользователей. Заштрихованные области указывают 95%-й доверительный интервал вокруг подобранной средней линии регрессии. (f) и (g) Средние тренды точности в зависимости от d_min и d_max в задаче предсказания убеждений. Планки погрешностей представляют среднее значение +- SD. (h) Тепловая карта иллюстрирует среднюю точность предсказания для различных диапазонов d_min и d_max. arXiv:2408.07237 [cs.CL]
Автор: Byunghwee Lee et al Источник: arxiv.org
Цифровой слепок сознания: новые горизонты и старые вопросы

Конечно, работа команды из Университета Индианы — это только начало. Сейчас они планируют расширить свою карту, используя огромные массивы данных из разных социальных сетей, чтобы сделать её ещё более детальной и точной. Их цель — понять не только статичную картину убеждений, но и динамику: как люди присоединяются к онлайн-сообществам, как меняют свои взгляды под влиянием информации и общения.

Создание такого инструмента ставит перед нами и новые этические вопросы. С одной стороны, это мощный инструмент для достижения взаимопонимания и построения диалога. С другой — идеальное пособие для манипуляторов, которые смогут создавать идеально выверенные сообщения, эксплуатирующие наши когнитивные слабости.

Как бы то ни было, искусственный интеллект предоставил нам уникальный микроскоп для изучения человеческой души. И, возможно, заглянув в код наших убеждений, мы наконец сможем лучше понять не только других, но и самих себя.

0 комментариев

Добавить комментарий

Сейчас на главной

Новости

Публикации

Десять лет назад вышел смартфон, который мог спасти HTC от краха — HTC 10: почему у него ничего не получилось

Один из пионеров рынка Android, компания HTC, очень быстро растеряла свои позиции. Сначала люди недооценили аппарат One M8, который мало отличался от предыдущего M7, а затем стали ругать...

Победа «лопаты»: как Galaxy Note заставил Apple переделать iPhone, а Samsung научила мир любить большие телефоны

Если бы вы оказались в начале 2010-х и спросили любого техногика, каким должен быть идеальный смартфон, ответ был бы почти единогласным. Правила игры казались высеченными в граните, а...

Обзор моющего пылесоса для мебели Felfri FWVC-002 с 5 насадками и 3 баками для жидкости

Моющий пылесос для мебели Felfri FWVC-002. Мощность 600Вт, а сила всасывания 18кПа. Есть 5 насадок в комплекте. Есть 3 резервуара для жидкости. Есть возможность сухой и влажной уборки

И для металла, и для поп-музыки. Гибридные наушники, которые смогли. Обзор TRN Shell

Похоже что мои поиски наушников с хорошим звуком завершились. 4 драйвера для высоких, средних и низких частот и отзывы, что звук как у гораздо более дорогих модели. Путь к этим гибридным TRN Shell...

Анатомия фастфуда: почему куриные стрипсы стоят вдвое дороже наггетсов

Представьте эту до боли знакомую сцену. Вы стоите у светящегося меню в ресторане быстрого питания или задумчиво разглядываете морозильный ларь в супермаркете. Перед вами два, казалось бы,...