Природа обречена врать: почему дезинформация — неизбежная цена эволюции

Рыба дергается. Её сосед дергается. Через секунду весь косяк несётся прочь от угрозы, которой не существует. Кто-то увидел блик на воде.

За последние десять лет слово «инфодемия» стало привычным фоном нашей жизни. Мы привыкли считать фейк-ньюс, теории заговора и вирусную ложь проклятием цифровой эпохи, побочным эффектом социальных сетей и человеческой психологии. Но новое исследование биологов из Корнельского университета предлагает сменить точку зрения. Дезинформация — это не изобретение человека. Это древнейший эволюционный механизм, встроенный в саму архитектуру жизни: от сигнальных молекул бактерий до стай перелетных птиц.

Любая социальная система — будь то чат в мессенджере, колония муравьев или ваша собственная иммунная система — работает по принципу обмена данными. И, как выясняется, искажение этих данных является неизбежным статистическим следствием того, как устроена коммуникация в живой природе.

Байесовская ловушка

Чтобы понять биологию лжи, нужно сначала договориться о терминах. В человеческом мире мы привыкли делить информацию на «правду» и «ложь» в зависимости от намерений говорящего. В биологии намерения вторичны.

Авторы исследования, опубликованного в Journal of the Royal Society Interface, предлагают строгое математическое определение. Живой организм — это агент, который обладает внутренним убеждением о состоянии внешнего мира. Когда агент получает сигнал, он обновляет свои убеждения.

• Если сигнал сдвигает картину мира агента ближе к реальности — это информация.
• Если сигнал сдвигает картину мира дальше от реальности — это дезинформация.

Это различие важно. Птица, кричащая об опасности, когда хищника нет, транслирует дезинформацию, даже если она искренне ошиблась, увидев тень. И математика показывает: чем сложнее сеть общения, тем выше вероятность, что система начнет генерировать галлюцинации.

Три источника биологической лжи

Природа изобрела фейки за миллиарды лет до появления письменности. Исследователи выделяют три механизма, рождающих хаос в биологических сетях.

1. Шум и случайность. Вспомним рыбу в косяке. Она видит лишь то, что происходит перед носом, и реагирует на движение соседа. Если сосед дернулся из-за блика на воде, а не из-за хищника, сигнал пошел по цепочке. Контекст («это был просто блик») теряется мгновенно, остается только действие («бежим!»). В итоге весь косяк совершает маневр уклонения от несуществующей угрозы.

2. Испорченный телефон. При передаче сигнала через цепочку посредников ошибка накапливается экспоненциально. Это классическая детская игра, но в масштабах эволюции она смертельно опасна. В биологических сетях каждый участник не просто передает сигнал, он его интерпретирует (декодирует) и переизлучает заново. Малейшее смещение в «функции декодирования» у одного агента может превратить полезный сигнал в шум или ложную тревогу для всех остальных.

3. Коллективное искажение. Это самый интересный и опасный эффект. Социальные группы склонны к бистабильности — состоянию, когда группа «застревает» в одном режиме поведения, игнорируя изменения среды. Если достаточно большая часть стаи (или электората) поверила в ложный сигнал, создается мощная обратная связь. Индивид, получая сигналы от соседей, начинает игнорировать свои собственные органы чувств. Возникает «коллективная инерция»: среда уже изменилась, опасность миновала (или наоборот, появилась), но группа продолжает действовать по старой, ошибочной программе.

Эволюция обмана: от птиц до бактерий

Иногда дезинформация — это не ошибка, а оружие. В природе существует понятие дисинформации (аналог преднамеренной лжи).

Классический пример — дронго, птицы, обитающие в Африке. Они умеют мастерски имитировать тревожные крики других видов. Дронго ждет, пока сурикат или другая птица поймает добычу, а затем издает фальшивый сигнал «Воздух! Орел!». Жертва бросает еду и прячется, а дронго забирает обед.

Но ложь встречается и на микроуровне. Бактерии используют химические сигналы для оценки плотности своей популяции (чувство кворума). Некоторые виды научились подделывать эти молекулы, чтобы заставить конкурентов думать, что их слишком много, и замедлить размножение.

Ваше тело — жертва фейк-ньюс

Самая неприятная аналогия, которую проводят авторы исследования, касается нашего собственного организма. Иммунная система — это, по сути, гигантская децентрализованная социальная сеть. Т-клетки и макрофаги постоянно обмениваются сообщениями (цитокинами) о состоянии тканей.

Аутоиммунные заболевания — это классический пример каскада дезинформации. Одна клетка ошибочно принимает белок собственного тела за врага и посылает сигнал тревоги. Соседние клетки, доверяя «социальному сигналу» больше, чем собственной проверке, подхватывают панику. Начинается цитокиновый шторм. Организм бомбит сам себя, потому что система коммуникации внутри него попала в ловушку самоподтверждающейся лжи.

Системный риск и уроки для человечества

Главный вывод биологов: чем более социальной и связанной становится система, тем выше риск системного коллапса из-за дезинформации.

В моделях показано, что существует критическая точка связности. До определенного момента обмен информацией помогает группе выживать (эффект «мудрости толпы»). Но если связей слишком много, а агенты слишком сильно полагаются друг на друга, система теряет чувствительность к реальности. Она начинает жить в выдуманном мире. Для популяции бизонов это может закончиться миграцией в ледяную ловушку. Для финансового рынка — пузырем и крахом.

Мы боремся с фейками, проверяя факты. Но биология говорит: дело не в содержании сообщений. Дело в архитектуре сети. В том, как сигналы распространяются и усиливаются.

В конечном итоге, дезинформация — не сбой. Это плата за связность.

Источник: Journal of the Royal Society Interface