Вас обмануть проще, чем кажется. Наука назвала главный триггер наших иррациональных решений

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com
| Мнение | Наука и космос

Каждый день мы принимаем десятки, если не сотни, решений. Что съесть на завтрак? Какой дорогой поехать на работу? Стоит ли соглашаться на новый проект? Большинство из них мы совершаем на автопилоте. Но когда ставки растут, а правила игры усложняются, что-то меняется. Мы начинаем сомневаться, просчитывать ходы, и… нередко ошибаемся. Почему так происходит? Почему наша блестящая логика порой даёт сбой именно тогда, когда она нужнее всего?

Долгое время экономика и социальные науки опирались на образ «человека рационального» (Homo economicus) — идеализированного существа, которое всегда действует с холодной расчётливостью и выбирает единственно верный путь к максимальной выгоде. Но, как мы все знаем по собственному опыту, реальность далека от этой модели. Новое исследование, проведённое учёными из Принстона и Бостона, не просто подтверждает этот факт, а делает нечто большее: оно показывает, что наша рациональность — это не константа, а переменная величина, напрямую зависящая от сложности задачи.

Иллюстрация
Автор: ИИ Copilot Designer//DALL·E 3 Источник: www.bing.com
Прощай, равновесие Нэша?

Чтобы понять всю прелесть нового открытия, нужно сделать небольшой шаг назад. В теории игр десятилетиями царила концепция «равновесия Нэша». Если говорить просто, это такая ситуация в игре, когда ни один из участников не может улучшить своё положение, изменив свою стратегию в одностороннем порядке. Предполагается, что все игроки — гениальные аналитики, способные мгновенно просчитать все варианты и прийти к этому самому равновесию.

Проблема в том, что в реальных экспериментах люди ведут себя иначе. Они отклоняются от «идеального» курса, совершают нелогичные, на первый взгляд, поступки. Поведенческая теория игр пыталась объяснить эти «аномалии», создавая десятки моделей, которые учитывали бы психологию, эмоции и когнитивные искажения. Но ни одна из них не давала универсального ответа. До сих пор не было ясно, какая модель лучше и, главное, почему в одних ситуациях мы почти идеальные стратеги, а в других — действуем непредсказуемо.

Нейросеть-психолог: новый взгляд на старую проблему

И вот здесь на сцену выходит искусственный интеллект. Исследователи поставили перед собой амбициозную задачу: не просто найти ещё одну модель, а провести своего рода «очную ставку» между всеми существующими теориями. Для этого они использовали глубокие нейронные сети — мощный инструмент, способный находить скрытые закономерности в огромных массивах данных.

Матричные игры. (a) Пример игрового интерфейса, представленного участникам, которые выступали в роли игрока строки в каждой игре 2 x 2. Синие числа представляют выигрыши игрока строки, который выбирает между стратегиями A и B, в то время как красные числа представляют выигрыши игрока столбца, который выбирает между стратегиями C и D. (b) Визуализация игрового пространства. Каждая игра однозначно представлена вектором из 8 целых чисел, соответствующим выигрышам обоих игроков при различных сочетаниях выборов. Мы использовали метод t-распределённого стохастического вложения соседей (Van der Maaten & Hinton, 2008) для визуализации пространственных взаимосвязей между играми на двумерном графике, используя евклидово расстояние между вложениями нашей наиболее эффективной модели нейронной сети. Точки представляют отдельные игры. Цвета обозначают топологию игры, характерную для игрока строки, в соответствии с классификацией Робинсона и Гофорта (2005). arXiv:2408.07865 [econ.GN]
Автор: Jian-Qiao Zhu et al Источник: arxiv.org

Но они пошли хитрым путём. Вместо того чтобы просто «скормить» нейросети данные и получить «чёрный ящик», который предсказывает поведение, но не объясняет его, они создали гибридную модель. Представьте себе аудиомикшер. В его основе лежит классическая поведенческая модель (модель квантильного отклика), которая уже допускает, что в наши решения вкрадывается некий «шум» или случайность. А роль звукорежиссёра, который крутит ручку этого «шума», выполняет нейросеть.

Именно нейросеть анализирует условия игры — её правила, возможные выигрыши и проигрыши — и предсказывает, насколько «шумным», то есть иррациональным, будет поведение человека в данном конкретном контексте. Это и стало прорывом.

Сравнение моделей. (a) Инвариантная к контексту модель квантильного отклика k-го уровня включает в себя три параметра, которые не варьируются между играми: уровень стратегического мышления (т. е. k), собственный уровень шума игрока (т. е. η_self) и неприятие риска. (b) Модель многослойного перцептрона (MLP) напрямую использует игровую матрицу в качестве входных данных для оценки вероятностей выбора, не налагая какой-либо конкретной теоретико-игровой структуры принятия решений. (c) Нейронная модель квантильного отклика k-го уровня является зависимой от контекста моделью, позволяющей параметру η_self варьироваться между играми. Она использует модель MLP, которая принимает игровую матрицу в качестве входных данных для оценки специфичного для каждой игры параметра η_self. (d) Нейронная модель квантильного отклика k-го уровня и нейронного шума убеждений расширяет модель из пункта (c) путём дополнительного обучения специфичных для каждой игры параметров η_other и k с помощью двух моделей MLP, каждая из которых принимает игровую матрицу в качестве входных данных. (e) Зависимые от контекста модели, включающие как минимум один компонент нейронной сети, который позволяет некоторым или всем параметрам варьироваться между играми, превосходят инвариантные к контексту модели по показателю полноты. Более высокая полнота указывает на большую прогностическую точность для поведения человека, при этом 100%-я полнота соответствует прогностической точности модели MLP. Все представленные результаты основаны на 10-кратной перекрёстной проверке (подробности см. в Дополнительной информации). Наше внимание было сосредоточено на гетерогенности между играми, а не на гетерогенности между участниками. arXiv:2408.07865 [econ.GN]
Автор: Jian-Qiao Zhu et al Источник: arxiv.org
Главный вывод: чем сложнее игра, тем громче «шум»

Результаты оказались поразительно изящными. Гибридная модель показала, что уровень «поведенческого шума» напрямую связан со сложностью игры, как её воспринимает человек.

  • В простых играх, где правила ясны, а выгоду легко просчитать, люди ведут себя очень близко к рациональному идеалу. «Шум» минимален, а их действия предсказуемы.
  • В сложных играх, требующих глубоких многоходовых рассуждений или сложных арифметических подсчётов, наша когнитивная система, кажется, перегружается. Рациональное ядро поведения никуда не девается, но его заглушает тот самый «шум». Мы начинаем полагаться на интуицию, эмоции, упрощённые эвристики, и наши решения становятся менее предсказуемыми и оптимальными.

Исследователи даже выделили факторы, делающие игру «сложной» для нашего мозга: необходимость анализировать эффективность ходов, трудность математических расчётов и глубина логической цепочки, которую нужно выстроить для победы. Проще говоря, чем больше нужно думать, тем выше вероятность, что мы ошибёмся или пойдём более простым, но неверным путём.

Разработка интерпретируемого индекса сложности для стратегических игр. (a) Для построения индекса сложности игры мы используем LASSO-регрессии, чтобы выявить игровые характеристики, которые коррелируют со специфичным для каждой игры параметром η_self, оцениваемым с помощью MLP в модели нейронного квантильного отклика 2-го уровня и нейронного шума убеждений (Level-2 Neural QR and Neural Belief Noise model). (b) Психометрические функции иллюстрируют взаимосвязь между разницей в ожидаемой полезности двух стратегий и долей выборов в пользу стратегии A. Ожидаемая полезность рассчитывалась в предположении, что игрок относится к 1-му уровню. Красные (синие) точки представляют игры высокой (низкой) сложности, определённые на основе медианного разделения по индексу сложности. Планки погрешностей представляют +-SE. (c) Та же психометрическая функция и тот же эффект сложности были обнаружены в последующем эксперименте. (d) Индекс сложности показывает статистически значимую корреляцию со временем отклика (RTs) в играх основного эксперимента. (e) Индекс сложности обобщился и на последующий эксперимент, продемонстрировав статистически значимые корреляции как со временем отклика (RTs), так и с оценками когнитивной неопределённости. arXiv:2408.07865 [econ.GN]
Автор: Jian-Qiao Zhu et al Источник: arxiv.org
За стенами лаборатории: почему это важно для каждого из нас?

Это исследование — не просто очередное упражнение для учёных. Оно проливает свет на то, почему мы так уязвимы в современном мире. Сложные финансовые продукты, запутанные условия договоров, многоуровневая политическая пропаганда — всё это примеры «сложных игр», в которые нас вовлекают. Создатели таких систем, сознательно или нет, эксплуатируют эту особенность нашего мышления. Повышая сложность, они увеличивают наш «поведенческий шум», делая нас более сговорчивыми и склонными к невыгодным для себя решениям.

Понимание этого механизма открывает дорогу к созданию защиты. Если мы знаем, что сложность перегружает нашу рациональность, мы можем научиться распознавать такие ситуации и требовать упрощения информации. Компании могут создавать более понятные интерфейсы, а государства — более прозрачные законы.

В конечном счёте, эта работа показывает, что нет никакого «человека рационального» и «человека иррационального». Есть просто человек реальный, чья способность к логическому анализу — это мощный, но ограниченный ресурс. И чем лучше мы поймём пределы этого ресурса, тем более осмысленные и безопасные решения сможем принимать как для себя, так и для всего общества.

6 комментариев

Добавить комментарий

Pchelkin
Народ (имею ввиду авторов). Ну может, ну как нибудь, ну, потратить полдня (хотя кому-то и пары часов хватит) и научиться работать с ИИ не как генератором шаблонных текстов, а как с ассистентом, и создавать уже человеческий материал? Или я не прав? Ну можно же с душой, чтоб интересно? Можно, и это совсем не сложно.
s
Да нельзя, если ты умеешь писать текст тебе ии не нужен, а если не умеешь то все делает ии, ну это как картинки генерят и даже не исправляют косяки, либо не умеют или не хотят даже проверять.
N
Статья про очередное «исследование» пытающееся обьяснить, что люди принимают решения и думают как компьютеры, биологические машины. Про то, что есть интуиция, намерение и чувствование — ни слова. Про то, что в эмоционально заряженных ситуациях можно логикой доказать себе все что угодно и что эмоциями мы привязываемся к смыслам, убеждениям, шаблонам поведения — тоже ни слова. Это они называют «шумом».
Что очевидно верное в статье так это то, что при сложных задачах нужно поддерживать фокус внимания и иметь ментальный ресурс на ментальные действия — но это вообще очевидно любому человеку, который просто захочет разобраться.
Это исследование — часть социального программирования людей. А статья — распространение этого программирования. При прочтении нужно иметь это в виду.
Ну и чтобы что-то изучить нужно хотя бы стоять на одном уровне с изучаемым. Человек человека ещё может, частично, понять со стороны. А когда нейросеть строит модели поведения человека — это как рыбу попросить описать гору, которую эта рыба видит из под воды.
a
Интереснее другое. Как, казалось бы, грамотные люди вдруг начинают верить во всякие небылицы вроде «заряжания воды по телевизору», «самсунг оплатил штраф 2 миллиарда долларов десятицентовыми монетами и пригнал три грузовика», «американцев на Луне не было»… Я уж не говорю о том, что в толпе те же здравомыслящие вроде люди превращаются в неуправляемое стадо.
Компьютерные нейросети могут такое смоделировать?
N
Про это я и говорил — когда подключаются эмоции, логикой ты можешь доказать себе все что угодно. Но, насчёт американцев на луне тут есть вопросы даже со стороны общепринятой логики. Например, если они слетали на Луну тогда — то почему не могут повторить сейчас? Сейчас даже и не каждый беспилотный корабль садится на Луну успешно.
a
С точки зрения «общепринятой логики» квантовой механики не может быть вообще. Как и теории относительности. Однако, они есть и отлично используются на практике.
У вас нет логической связи между беспилотными и пилотируемыми посадками — это разные вещи. Плюс нет логики в «почему не повторяют» — потому что сейчас те технологии повторять невозможно, а новые еще не доведены.

Добавить комментарий

Сейчас на главной

Новости

Публикации

Обзор зарядного устройства Baseus Super GaN Desktop Charger 100W: GaN-транзисторы, 93% КПД и независимые порты

На рынке зарядных устройств Baseus давно зарекомендовал себя как производитель качественной и доступной продукции. Модель Super GaN Desktop Charger 100W — это настольное зарядное с...

Обзор смартфона POCO X8 Pro — что скрывается за заявленными характеристиками

POCO X8 Pro — современный смартфон среднего класса. В этой статье я расскажу, как прогнал его через синтетические тесты, проводил анализ поведения под длительной нагрузкой, оценивал...

История компании Sony: от радиоприемников до виртуальной реальности

Если посмотреть на историю Sony, можно заметить одну странную вещь. Эта компания постоянно оказывалась в нужном месте в нужное время. Но не потому что ей везло. А потому что она сама создавала эти...

Сколько на самом деле можно загружать белья в стиральную машину и чем грозит перегруз

Когда мы покупаем стиральную машину, первое, на что мы смотрим, помимо цены, — это цифра на наклейке. 5, 6, 7 или 8 килограммов. Кажется, что всё просто: купил машину на...

✦ ИИ  Как у динозавров появился встроенный в тело «кондиционер»?

Когда мы представляем динозавров, в воображении часто возникают гигантские существа, бродящие под палящим солнцем древней Земли. Но возникает логичный вопрос: как они вообще выживали в таком...

✦ ИИ  Почему не стоит оставлять зарядку в розетке, когда телефон уже не подключен

У меня есть несколько знакомых, которые принципиально не вытаскивают зарядки из розеток. Говорят: «Зачем мне каждый раз нагибаться, если я все равно через пару часов снова поставлю телефон». У...