Вас обмануть проще, чем кажется. Наука назвала главный триггер наших иррациональных решений

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com
| Мнение | Наука и космос

Каждый день мы принимаем десятки, если не сотни, решений. Что съесть на завтрак? Какой дорогой поехать на работу? Стоит ли соглашаться на новый проект? Большинство из них мы совершаем на автопилоте. Но когда ставки растут, а правила игры усложняются, что-то меняется. Мы начинаем сомневаться, просчитывать ходы, и… нередко ошибаемся. Почему так происходит? Почему наша блестящая логика порой даёт сбой именно тогда, когда она нужнее всего?

Долгое время экономика и социальные науки опирались на образ «человека рационального» (Homo economicus) — идеализированного существа, которое всегда действует с холодной расчётливостью и выбирает единственно верный путь к максимальной выгоде. Но, как мы все знаем по собственному опыту, реальность далека от этой модели. Новое исследование, проведённое учёными из Принстона и Бостона, не просто подтверждает этот факт, а делает нечто большее: оно показывает, что наша рациональность — это не константа, а переменная величина, напрямую зависящая от сложности задачи.

Иллюстрация
Автор: ИИ Copilot Designer//DALL·E 3 Источник: www.bing.com
Прощай, равновесие Нэша?

Чтобы понять всю прелесть нового открытия, нужно сделать небольшой шаг назад. В теории игр десятилетиями царила концепция «равновесия Нэша». Если говорить просто, это такая ситуация в игре, когда ни один из участников не может улучшить своё положение, изменив свою стратегию в одностороннем порядке. Предполагается, что все игроки — гениальные аналитики, способные мгновенно просчитать все варианты и прийти к этому самому равновесию.

Проблема в том, что в реальных экспериментах люди ведут себя иначе. Они отклоняются от «идеального» курса, совершают нелогичные, на первый взгляд, поступки. Поведенческая теория игр пыталась объяснить эти «аномалии», создавая десятки моделей, которые учитывали бы психологию, эмоции и когнитивные искажения. Но ни одна из них не давала универсального ответа. До сих пор не было ясно, какая модель лучше и, главное, почему в одних ситуациях мы почти идеальные стратеги, а в других — действуем непредсказуемо.

Нейросеть-психолог: новый взгляд на старую проблему

И вот здесь на сцену выходит искусственный интеллект. Исследователи поставили перед собой амбициозную задачу: не просто найти ещё одну модель, а провести своего рода «очную ставку» между всеми существующими теориями. Для этого они использовали глубокие нейронные сети — мощный инструмент, способный находить скрытые закономерности в огромных массивах данных.

Матричные игры. (a) Пример игрового интерфейса, представленного участникам, которые выступали в роли игрока строки в каждой игре 2 x 2. Синие числа представляют выигрыши игрока строки, который выбирает между стратегиями A и B, в то время как красные числа представляют выигрыши игрока столбца, который выбирает между стратегиями C и D. (b) Визуализация игрового пространства. Каждая игра однозначно представлена вектором из 8 целых чисел, соответствующим выигрышам обоих игроков при различных сочетаниях выборов. Мы использовали метод t-распределённого стохастического вложения соседей (Van der Maaten & Hinton, 2008) для визуализации пространственных взаимосвязей между играми на двумерном графике, используя евклидово расстояние между вложениями нашей наиболее эффективной модели нейронной сети. Точки представляют отдельные игры. Цвета обозначают топологию игры, характерную для игрока строки, в соответствии с классификацией Робинсона и Гофорта (2005). arXiv:2408.07865 [econ.GN]
Автор: Jian-Qiao Zhu et al Источник: arxiv.org

Но они пошли хитрым путём. Вместо того чтобы просто «скормить» нейросети данные и получить «чёрный ящик», который предсказывает поведение, но не объясняет его, они создали гибридную модель. Представьте себе аудиомикшер. В его основе лежит классическая поведенческая модель (модель квантильного отклика), которая уже допускает, что в наши решения вкрадывается некий «шум» или случайность. А роль звукорежиссёра, который крутит ручку этого «шума», выполняет нейросеть.

Именно нейросеть анализирует условия игры — её правила, возможные выигрыши и проигрыши — и предсказывает, насколько «шумным», то есть иррациональным, будет поведение человека в данном конкретном контексте. Это и стало прорывом.

Сравнение моделей. (a) Инвариантная к контексту модель квантильного отклика k-го уровня включает в себя три параметра, которые не варьируются между играми: уровень стратегического мышления (т. е. k), собственный уровень шума игрока (т. е. η_self) и неприятие риска. (b) Модель многослойного перцептрона (MLP) напрямую использует игровую матрицу в качестве входных данных для оценки вероятностей выбора, не налагая какой-либо конкретной теоретико-игровой структуры принятия решений. (c) Нейронная модель квантильного отклика k-го уровня является зависимой от контекста моделью, позволяющей параметру η_self варьироваться между играми. Она использует модель MLP, которая принимает игровую матрицу в качестве входных данных для оценки специфичного для каждой игры параметра η_self. (d) Нейронная модель квантильного отклика k-го уровня и нейронного шума убеждений расширяет модель из пункта (c) путём дополнительного обучения специфичных для каждой игры параметров η_other и k с помощью двух моделей MLP, каждая из которых принимает игровую матрицу в качестве входных данных. (e) Зависимые от контекста модели, включающие как минимум один компонент нейронной сети, который позволяет некоторым или всем параметрам варьироваться между играми, превосходят инвариантные к контексту модели по показателю полноты. Более высокая полнота указывает на большую прогностическую точность для поведения человека, при этом 100%-я полнота соответствует прогностической точности модели MLP. Все представленные результаты основаны на 10-кратной перекрёстной проверке (подробности см. в Дополнительной информации). Наше внимание было сосредоточено на гетерогенности между играми, а не на гетерогенности между участниками. arXiv:2408.07865 [econ.GN]
Автор: Jian-Qiao Zhu et al Источник: arxiv.org
Главный вывод: чем сложнее игра, тем громче «шум»

Результаты оказались поразительно изящными. Гибридная модель показала, что уровень «поведенческого шума» напрямую связан со сложностью игры, как её воспринимает человек.

  • В простых играх, где правила ясны, а выгоду легко просчитать, люди ведут себя очень близко к рациональному идеалу. «Шум» минимален, а их действия предсказуемы.
  • В сложных играх, требующих глубоких многоходовых рассуждений или сложных арифметических подсчётов, наша когнитивная система, кажется, перегружается. Рациональное ядро поведения никуда не девается, но его заглушает тот самый «шум». Мы начинаем полагаться на интуицию, эмоции, упрощённые эвристики, и наши решения становятся менее предсказуемыми и оптимальными.

Исследователи даже выделили факторы, делающие игру «сложной» для нашего мозга: необходимость анализировать эффективность ходов, трудность математических расчётов и глубина логической цепочки, которую нужно выстроить для победы. Проще говоря, чем больше нужно думать, тем выше вероятность, что мы ошибёмся или пойдём более простым, но неверным путём.

Разработка интерпретируемого индекса сложности для стратегических игр. (a) Для построения индекса сложности игры мы используем LASSO-регрессии, чтобы выявить игровые характеристики, которые коррелируют со специфичным для каждой игры параметром η_self, оцениваемым с помощью MLP в модели нейронного квантильного отклика 2-го уровня и нейронного шума убеждений (Level-2 Neural QR and Neural Belief Noise model). (b) Психометрические функции иллюстрируют взаимосвязь между разницей в ожидаемой полезности двух стратегий и долей выборов в пользу стратегии A. Ожидаемая полезность рассчитывалась в предположении, что игрок относится к 1-му уровню. Красные (синие) точки представляют игры высокой (низкой) сложности, определённые на основе медианного разделения по индексу сложности. Планки погрешностей представляют +-SE. (c) Та же психометрическая функция и тот же эффект сложности были обнаружены в последующем эксперименте. (d) Индекс сложности показывает статистически значимую корреляцию со временем отклика (RTs) в играх основного эксперимента. (e) Индекс сложности обобщился и на последующий эксперимент, продемонстрировав статистически значимые корреляции как со временем отклика (RTs), так и с оценками когнитивной неопределённости. arXiv:2408.07865 [econ.GN]
Автор: Jian-Qiao Zhu et al Источник: arxiv.org
За стенами лаборатории: почему это важно для каждого из нас?

Это исследование — не просто очередное упражнение для учёных. Оно проливает свет на то, почему мы так уязвимы в современном мире. Сложные финансовые продукты, запутанные условия договоров, многоуровневая политическая пропаганда — всё это примеры «сложных игр», в которые нас вовлекают. Создатели таких систем, сознательно или нет, эксплуатируют эту особенность нашего мышления. Повышая сложность, они увеличивают наш «поведенческий шум», делая нас более сговорчивыми и склонными к невыгодным для себя решениям.

Понимание этого механизма открывает дорогу к созданию защиты. Если мы знаем, что сложность перегружает нашу рациональность, мы можем научиться распознавать такие ситуации и требовать упрощения информации. Компании могут создавать более понятные интерфейсы, а государства — более прозрачные законы.

В конечном счёте, эта работа показывает, что нет никакого «человека рационального» и «человека иррационального». Есть просто человек реальный, чья способность к логическому анализу — это мощный, но ограниченный ресурс. И чем лучше мы поймём пределы этого ресурса, тем более осмысленные и безопасные решения сможем принимать как для себя, так и для всего общества.

6 комментариев

Добавить комментарий

Pchelkin
Народ (имею ввиду авторов). Ну может, ну как нибудь, ну, потратить полдня (хотя кому-то и пары часов хватит) и научиться работать с ИИ не как генератором шаблонных текстов, а как с ассистентом, и создавать уже человеческий материал? Или я не прав? Ну можно же с душой, чтоб интересно? Можно, и это совсем не сложно.
s
Да нельзя, если ты умеешь писать текст тебе ии не нужен, а если не умеешь то все делает ии, ну это как картинки генерят и даже не исправляют косяки, либо не умеют или не хотят даже проверять.
N
Статья про очередное «исследование» пытающееся обьяснить, что люди принимают решения и думают как компьютеры, биологические машины. Про то, что есть интуиция, намерение и чувствование — ни слова. Про то, что в эмоционально заряженных ситуациях можно логикой доказать себе все что угодно и что эмоциями мы привязываемся к смыслам, убеждениям, шаблонам поведения — тоже ни слова. Это они называют «шумом».
Что очевидно верное в статье так это то, что при сложных задачах нужно поддерживать фокус внимания и иметь ментальный ресурс на ментальные действия — но это вообще очевидно любому человеку, который просто захочет разобраться.
Это исследование — часть социального программирования людей. А статья — распространение этого программирования. При прочтении нужно иметь это в виду.
Ну и чтобы что-то изучить нужно хотя бы стоять на одном уровне с изучаемым. Человек человека ещё может, частично, понять со стороны. А когда нейросеть строит модели поведения человека — это как рыбу попросить описать гору, которую эта рыба видит из под воды.
a
Интереснее другое. Как, казалось бы, грамотные люди вдруг начинают верить во всякие небылицы вроде «заряжания воды по телевизору», «самсунг оплатил штраф 2 миллиарда долларов десятицентовыми монетами и пригнал три грузовика», «американцев на Луне не было»… Я уж не говорю о том, что в толпе те же здравомыслящие вроде люди превращаются в неуправляемое стадо.
Компьютерные нейросети могут такое смоделировать?
N
Про это я и говорил — когда подключаются эмоции, логикой ты можешь доказать себе все что угодно. Но, насчёт американцев на луне тут есть вопросы даже со стороны общепринятой логики. Например, если они слетали на Луну тогда — то почему не могут повторить сейчас? Сейчас даже и не каждый беспилотный корабль садится на Луну успешно.
a
С точки зрения «общепринятой логики» квантовой механики не может быть вообще. Как и теории относительности. Однако, они есть и отлично используются на практике.
У вас нет логической связи между беспилотными и пилотируемыми посадками — это разные вещи. Плюс нет логики в «почему не повторяют» — потому что сейчас те технологии повторять невозможно, а новые еще не доведены.

Добавить комментарий

Сейчас на главной

Новости

Публикации

Победа «лопаты»: как Galaxy Note заставил Apple переделать iPhone, а Samsung научила мир любить большие телефоны

Если бы вы оказались в начале 2010-х и спросили любого техногика, каким должен быть идеальный смартфон, ответ был бы почти единогласным. Правила игры казались высеченными в граните, а...

Обзор моющего пылесоса для мебели Felfri FWVC-002 с 5 насадками и 3 баками для жидкости

Моющий пылесос для мебели Felfri FWVC-002. Мощность 600Вт, а сила всасывания 18кПа. Есть 5 насадок в комплекте. Есть 3 резервуара для жидкости. Есть возможность сухой и влажной уборки

И для металла, и для поп-музыки. Гибридные наушники, которые смогли. Обзор TRN Shell

Похоже что мои поиски наушников с хорошим звуком завершились. 4 драйвера для высоких, средних и низких частот и отзывы, что звук как у гораздо более дорогих модели. Путь к этим гибридным TRN Shell...

Анатомия фастфуда: почему куриные стрипсы стоят вдвое дороже наггетсов

Представьте эту до боли знакомую сцену. Вы стоите у светящегося меню в ресторане быстрого питания или задумчиво разглядываете морозильный ларь в супермаркете. Перед вами два, казалось бы,...

Эта рыба умеет ходить по суше: 5 видов, которые выглядят как баг в реальности

Принято считать, что жизнь рыб строго ограничена водной средой. Однако эволюция сформировала виды, способные не только выживать на открытом воздухе, но и целенаправленно передвигаться по суше. Они...