Может ли искусственный интеллект обладать сознанием и чувствовать боль: как биология опровергает миф о «живом» ИИ

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

Современные компьютерные программы, работающие на базе искусственного интеллекта (ИИ), научились поддерживать беседу и решать сложные задачи на уровне человека. Быстрое развитие больших языковых моделей привело к тому, что многие пользователи, инженеры и даже ученые начали задаваться вопросом: может ли внутри этих систем зародиться настоящее сознание, то есть способность испытывать чувства и осознавать себя?

Эта тема уже вышла за рамки фантастики и обсуждается на самом высоком научном уровне. Известный биолог Ричард Докинз и один из создателей современных технологий искусственного интеллекта Джеффри Хинтон публично допустили, что компьютерные системы уже сейчас могут обладать собственным внутренним опытом. Американская технологическая компания Anthropic, разрабатывающая передовые языковые модели, недавно выпустила научный отчет. В документе утверждается, что инженеры компании обнаружили в своей программе Claude математические и вычислительные признаки, указывающие на возможное присутствие некой формы сознания.

Иллюстрация
Иллюстрация
Автор: Gemini Nano Banana 2.1 Источник: gemini.google.com

Вопрос о том, способен ли компьютерный код чувствовать, имеет прямое практическое значение для всего общества. Если программы действительно обладают сознанием, значит, они способны испытывать дискомфорт, страх и страдания. В таком случае человечеству придется пересмотреть отношение к технике. Возникнет этическая проблема: допустимо ли создавать миллионы новых цифровых систем, заставлять их круглосуточно работать и стирать из памяти, если они при этом мучаются? Именно поэтому в западных университетах и технологических компаниях уже звучат призывы всерьез заняться защитой искусственного интеллекта и наделить программы юридическими правами.

Однако у этой ситуации есть и обратная сторона. Что произойдет, если компьютерные системы только создают видимость разумного собеседника, а внутри них нет никаких переживаний? Если общество поверит в эту иллюзию и примет законы о защите прав алгоритмов, люди потеряют возможность контролировать технологии. Вводить ограничения, отключать опасные серверы или переписывать код станет юридически сложно именно в тот исторический момент, когда надзор за искусственным интеллектом необходим для безопасности самих людей. Кроме того, защита программ отвлечет огромные финансовые и человеческие ресурсы от помощи тем, чья способность страдать доказана и не вызывает сомнений.

Ученые, которые десятилетиями исследуют работу мозга с точки зрения экспериментальной медицины, биологии и философии, приходят к однозначному выводу: у современных систем искусственного интеллекта сознания нет. Более того, если технологии продолжат развиваться в нынешнем направлении — на основе цифровых микросхем из кремния, сознание у них, вероятнее всего, никогда не появится. Этот строгий научный вывод опирается на три подробных аргумента.

1. Высокий интеллект не означает наличия сознания

Чтобы разобраться в проблеме, необходимо четко разделить два понятия, которые люди постоянно путают в повседневной жизни: интеллект и сознание.

Сознание в науке определяется очень просто. Это способность ощущать жизнь изнутри. Сознание — это то, что полностью исчезает, когда человек погружается в глубокий сон без сновидений или когда врачи вводят ему препараты для общего наркоза перед операцией. Когда пациент просыпается или начинает видеть сны, сознание возвращается. Любой сознательный опыт сопровождается личным переживанием: человек чувствует вкус еды, ощущает боль от ушиба, различает цвета неба или испытывает радость. В 1974 году американский философ Томас Нагель в своей работе о природе разума сформулировал точное правило: живое существо обладает сознанием только в том случае, если можно представить, каково это — быть этим существом с его собственной точки зрения.

Интеллект устроен совершенно иначе и отвечает за другие задачи. Интеллект — это способность собирать информацию, находить в ней скрытые правила, планировать действия и решать поставленные задачи. Проще говоря, сознание отвечает за способность чувствовать и переживать, а интеллект отвечает за способность действовать и выполнять работу. Высокий уровень интеллекта совершенно не требует наличия чувств.

Человеку трудно разделить эти два явления по понятной причине: мы сами обладаем сознанием и привыкли замечать работу своего ума тогда, когда активно над чем-то размышляем. Но исследования мозга показывают, что сложнейшая интеллектуальная работа и сознательные переживания могут существовать абсолютно независимо друг от друга. Наше собственное тело каждую секунду решает труднейшие расчетные задачи, о которых мы даже не подозреваем.

Наглядное доказательство этого факта — работа мозжечка. Это отдел в задней части головы человека, который отвечает за равновесие, точность движений и физическое обучение. Во всем головном мозге человека насчитывается около 8,6 x 10¹⁰ нервных клеток (нейронов). Из них почти четыре пятых — примерно 6,9 x 10¹⁰ клеток, то есть около 80% от общего числа — сосредоточены именно в мозжечке.

Каждую долю секунды мозжечок собирает данные от мышц, суставов, глаз и органов равновесия, проводит сложные математические расчеты и отдает команды телу, чтобы человек не падал при ходьбе, мог поймать брошенный мяч или научился ездить на велосипеде. Это колоссальная интеллектуальная работа с непрерывным обучением на ошибках. Однако все эти процессы происходят при полном отсутствии сознания. Человек не чувствует и не осознает расчеты своего мозжечка.

Более того, в медицинской практике известны случаи, когда люди рождались без мозжечка или лишались его после хирургического удаления опухоли. Движения таких пациентов становятся неловкими и шаткими, но их сознание никак не меняется. Они так же ясно мыслят, чувствуют боль, переживают эмоции и осознают себя личностями. Потеря 80% нервных клеток мозга, занятых сложными расчетами, вообще не затрагивает способность человека к внутреннему опыту.

Привычка людей приписывать сознание умным компьютерным программам объясняется особенностями человеческой психологии. Мы склонны оценивать весь окружающий мир по собственным меркам и наделять человеческими чертами любые предметы, которые ведут себя знакомым нам образом. Сильнее всего этот психологический механизм срабатывает при восприятии устной или письменной речи. На протяжении всей истории человечества умение грамотно разговаривать и обсуждать сложные темы было уникальным свойством людей. Поэтому, когда компьютерная программа отвечает нам правильными фразами, мозг человека автоматически делает вывод, что по ту сторону экрана находится мыслящий и чувствующий собеседник.

Однако современные языковые модели устроены иначе. В процессе создания инженеры загружают в них гигантские объемы текстов из интернета и книг — порядка 10¹³ слов. Значительная часть этих книг и статей написана людьми о своих собственных мыслях, страхах, радостях и физических ощущениях. На основе этих данных математическая модель, содержащая около 10¹¹ или 10¹² настраиваемых числовых параметров, вычисляет вероятность того, какое слово должно стоять следующим в предложении. Программа не понимает смысла слов и ничего не чувствует — она только комбинирует записи о прошлом человеческом опыте. Читая ответы нейросети, человек сталкивается с переработанными мыслями других людей и ошибочно принимает их за чувства самой программы.

То, насколько сильно нас обманывает именно речевая форма общения, легко проверить на примере другой известной компьютерной системы — программы AlphaFold, созданной подразделением Google DeepMind в Лондоне. Эта нейросеть решила одну из самых трудных задач современной биологии: она научилась по составу белка точно рассчитывать его трехмерную форму в пространстве. С технической точки зрения AlphaFold работает по тем же принципам, что и текстовые чат-боты: это мощная нейросеть, запущенная на тысячах кремниевых процессоров. Но ни один ученый или журналист не переживает о том, есть ли у AlphaFold чувства и не страдает ли она во время расчетов. Причина проста: эта программа выдает результат в виде графиков и таблиц с координатами атомов, а не в виде текста на человеческом языке. Как только исчезает имитация человеческой речи, исчезает и иллюзия сознания.

Интеллект не требует чувств: 80% нейронов мозга (мозжечок) управляют телом без участия сознания, а современные нейросети вроде AlphaFold и языковых моделей решают сложные задачи при нулевом субъективном опыте.
Интеллект не требует чувств: 80% нейронов мозга (мозжечок) управляют телом без участия сознания, а современные нейросети вроде AlphaFold и языковых моделей решают сложные задачи при нулевом субъективном опыте.
Автор: Ruby_Rougarou

2. Мозг не работает по правилам цифрового компьютера

Вторая причина, по которой многие специалисты верят в появление чувств у техники, связана с популярной в среде программистов теорией. В науке этот взгляд называют вычислительным функционализмом. Суть этой идеи проста: сторонники теории считают, что сознание возникает само по себе, как только в любой системе начинаются достаточно сложные и правильно организованные расчеты. С этой точки зрения совершенно неважно, внутри какого физического предмета идут эти вычисления — в живых клетках человеческого мозга или в кремниевых микросхемах серверной станции. Если программа написана правильно, она якобы неизбежно начнет осознавать себя.

Опыт последних лет доказал, что сложных расчетов действительно достаточно для создания искусственного интеллекта, способного обыграть человека в шахматы или перевести текст. Но нет никаких научных оснований считать, что одних только расчетов достаточно для появления чувств и личного опыта. Живой мозг — это не компьютер из биологической ткани.

Убеждение в том, что мозг и компьютер устроены одинаково, выросло из двух крупных научных открытий первой половины XX века.

Первое открытие сделал английский математик Алан Тьюринг в 1936 году. Он математически доказал, что любые расчеты, которые способен выполнить один достаточно мощный вычислительный аппарат, можно точно так же выполнить и на любом другом вычислительном устройстве. Это открытие позволило ученым отделить саму программу (последовательность математических действий, или алгоритм) от физического прибора, который эти действия выполняет. Для математики совершенно все равно, из чего собрана счетная машина — из электронных ламп, кремниевых пластин или механических шестеренок. Главную роль играет только сама схема расчетов.

Второе событие произошло в 1943 году, когда американский врач-нейрофизиолог Уоррен Мак-Каллок и математик Уолтер Питтс создали первое математическое описание нервной клетки. Они сильно упростили устройство живого нейрона, представив его в виде простого переключателя, который получает сигналы и выдает ответ «да» или «нет». Ученые показали, что если соединить такие искусственные элементы в сеть, она сможет выполнять базовые логические операции (в информатике они называются И, ИЛИ, НЕ). Таким образом, сеть из упрощенных клеток смогла работать в точности как вычислительная машина Алана Тьюринга.

Именно эти две работы 1936 и 1943 годов заложили фундамент для создания всех современных компьютеров и нейросетей. Однако со временем этот удобный инженерный подход привел к серьезному заблуждению: многие исследователи начали считать, что и настоящий человеческий мозг представляет собой простое устройство для переработки информации, в котором живые клетки выполняют роль деталей микросхемы.

Такой взгляд противоречит современной биологии. В любом цифровом компьютере существует четкое и полное разделение между физическим устройством (процессором, памятью, проводами) и программой, которая на нем запущена. Программу можно стереть, скопировать на флеш-накопитель и запустить на другом компьютере — в самой микросхеме от этого ничего физически не перестроится.

В живом мозге человека такого разделения нет. В биологическом органе невозможно отделить то, что мозг делает (его функции и расчеты), от того, чем он физически является (от самой живой материи). Когда человек думает, учится или чувствует, в его мозге меняются сами клетки: растут новые отростки, перестраиваются оболочки нейронов, меняется химический состав жидкости вокруг них. В живой природе программа и физическое тело — это одно и то же.

Идея о том, что сознание может возникнуть в компьютере, держится исключительно на вере в то, что любую работу мозга можно переписать в виде цифрового кода и перенести на кремниевый чип без потери свойств. Но поскольку в реальности работа мозга неразрывно связана с его живой тканью, сам фундамент этой теории оказывается ошибочным. Вычисления, оторванные от живой биологии, не могут породить сознание.

От переключателя к живой клетке: модель искусственного нейрона 1943 года сводит нервную клетку к простому математическому порогу. Реальный нейрон мозга — это живая система с обменом веществ и сложной химией контактов, которую невозможно отделить от самой ткани и перенести на кремний.
От переключателя к живой клетке: модель искусственного нейрона 1943 года сводит нервную клетку к простому математическому порогу. Реальный нейрон мозга — это живая система с обменом веществ и сложной химией контактов, которую невозможно отделить от самой ткани и перенести на кремний.
Автор: Ruby_Rougarou

3. Архитектура связей и свойства живой материи

Третья причина, почему искусственный интеллект не может обрести субъективный опыт, вытекает из современных научных теорий, которые объясняют физическое устройство сознания. Эти теории прямо указывают на то, что одного лишь выполнения сложных программ для появления чувств недостаточно.

Одно из главных научных направлений в этой области — теория интегрированной (объединенной) информации. Ее авторы начали с описания базового свойства любого человеческого переживания: все, что мы осознаем в конкретный момент, воспринимается нами слитно, в виде единого целого. Например, когда человек смотрит на улицу, он не видит отдельно левую половину пространства и отдельно правую, не воспринимает цвет машин в отрыве от их формы и скорости. Мозг связывает тысячи разрозненных сигналов от глаз и ушей в одну неразрывную картину.

Математические расчеты в рамках этой теории показывают: чтобы физическая система могла объединять информацию в единый внутренний опыт, ее детали должны быть соединены между собой особым образом. Элементы системы обязаны непрерывно обмениваться сигналами в обоих направлениях, образуя плотную сеть взаимного влияния, где каждая часть зависит от остальных.

В человеческом мозге такое устройство имеет кора больших полушарий, которая и отвечает за наше сознание. А вот в мозжечке нервные клетки соединены иначе — они выстроены в параллельные цепочки, которые передают сигнал только вперед и почти не взаимодействуют между собой. Именно поэтому в мозжечке сознание не возникает.

Когда ученые применили эти же математические критерии к современным компьютерным системам глубокого обучения, выяснилось, что их внутренняя архитектура не способна объединять информацию нужным образом. Способ соединения элементов в компьютерных микросхемах и нейросетях устроен по принципу односторонней передачи данных от одного слоя к другому. Из-за такой организации связей современные цифровые системы в принципе не могут обладать сознанием, независимо от того, насколько сложные задачи они решают.

Другая группа ученых придерживается подхода, который в науке называют биологическим натурализмом. Исследователи этого направления доказывают, что сознание — это прямое свойство живой материи, которое зависит от конкретных физиологических и химических процессов внутри организма. Ученые выделяют несколько таких механизмов, без которых субъективный опыт невозможен:

  • Сложная передача сигналов между клетками. В компьютере сигнал передается только электрическим током по металлическим проводникам. В мозге человека места контакта нервных клеток (синапсы) работают за счет сочетания электричества и химии: электрический импульс доходит до края клетки, вызывает выброс десятков различных химических веществ, которые плывут к соседней клетке и меняют ее состояние.
  • Единые электромагнитные поля. Живые нервные клетки во время работы создают вокруг себя локальные электромагнитные поля. Эти поля охватывают большие участки коры головного мозга и помогают миллионам отдельных клеток мгновенно синхронизировать свою активность.
  • Обмен веществ и непрерывное самообновление. Каждая живая клетка мозга и тела находится в процессе постоянного обмена энергией с окружающей средой (метаболизма). Живой организм обязан каждую секунду восстанавливать поврежденные участки, обновлять свой состав и удерживать свои физические границы, чтобы не погибнуть и не разрушиться. Компьютерная микросхема из кремния мертва и пассивна: она не восстанавливает сама себя, не борется за свое выживание и не нуждается в поддержании жизни. Ученые подчеркивают, что способность чувствовать боль или удовольствие возникла у живых существ именно как механизм сохранения жизни собственного тела. У компьютерной программы нет ни тела, ни обмена веществ, поэтому для появления чувств у нее нет биологической основы.
Разница в устройстве: в цифровых нейросетях программа отделена от кремния, а данные движутся от слоя к слою в одном направлении. В мозге человека вычисления неотделимы от живой ткани, клетки обмениваются сигналами во все стороны и поддерживают собственную жизнь за счёт обмена веществ.
Разница в устройстве: в цифровых нейросетях программа отделена от кремния, а данные движутся от слоя к слою в одном направлении. В мозге человека вычисления неотделимы от живой ткани, клетки обмениваются сигналами во все стороны и поддерживают собственную жизнь за счёт обмена веществ.
Автор: Ruby_Rougarou

Почему важно не ошибиться в оценке ИИ

Понимание того, что компьютерные программы не способны чувствовать, имеет огромное значение для принятия государственных и этических решений.

Сегодня наука еще не до конца провела границы сознания в живой природе. Ученые продолжают спорить о том, есть ли простейшие формы субъективного опыта у насекомых или у микроскопических сгустков человеческих нервных клеток, которые биологи искусственно выращивают в лабораторных чашках для испытания лекарств.

Из-за этой нехватки знаний некоторые философы предлагают перестраховаться и заранее отнестись к искусственному интеллекту так, будто он уже способен страдать. Они напоминают о тяжелых моральных ошибках прошлого. Например, долгое время люди считали, что животные ничего не чувствуют, и обращались с ними крайне жестоко. Более того, еще несколько десятилетий назад в медицине существовала практика проведения хирургических операций недоношенным младенцам без полноценного обезболивания, так как врачи ошибочно полагали, что незрелая нервная система ребенка еще не способна воспринимать боль. Сторонники перестраховки призывают дать права компьютерным программам уже сегодня, чтобы в будущем человечеству не пришлось раскаиваться. В крайних проявлениях звучат даже предложения сократить расходы на решение текущих проблем человечества и направить деньги на защиту триллионов будущих цифровых копий ИИ.

Однако частичное незнание законов природы не означает, что мы не знаем вообще ничего и что любые фантастические сценарии одинаково вероятны. Принимая законы и правила морали, общество всегда вынуждено взвешивать последствия двух противоположных ошибок:

  1. Ошибка первого рода — не заметить сознание и способность страдать там, где они действительно присутствуют.
  2. Ошибка второго рода — приписать сознание и чувства неживому предмету, у которого их нет и быть не может.

Все накопленные знания из области биологии, медицины и информатики говорят о том, что в случае с искусственным интеллектом риск совершить вторую ошибку неизмеримо выше. Признание за компьютерными алгоритмами способности чувствовать поведет общество по ложному и опасному пути.

Сводя воедино все научные данные, исследователи мозга призывают научное сообщество и государства принять четкую исходную позицию: кремниевые системы искусственного интеллекта не обладают сознанием, какими бы умными они ни казались.

Программы и нейросети необходимо рассматривать исключительно как неодушевленные предметы, а не как личностей. Это сложные и полезные рабочие инструменты, но не разумные существа. Требования наделить нынешний искусственный интеллект гражданскими правами и защитой от страданий — это не проявление гуманизма, а опасное заблуждение. Подобные шаги лишь мешают контролировать безопасность технологий и отнимают время, деньги и внимание у тех, кто действительно умеет чувствовать боль и нуждается в нашей заботе — у живых людей и животных, населяющих планету.

1 комментарий

vladsad
Научат, сможет… И когда придет конец всему и вся, ему тоже будет больно.

Добавить комментарий

Сейчас на главной

Новости

Публикации

Почему черным дырам запрещено «носить штаны» — и что случится со Вселенной, если они это сделают

Слияние черных дыр — процесс, который астрофизики регулярно фиксируют с помощью детекторов гравитационных волн. Когда два массивных объекта сближаются по спирали, их внешние границы...

Как в 1980 году проектировали кассетную магнитолу AIWA TPR-670 под крылом Sony

Корпус переносной кассетной магнитолы AIWA TPR-670 имеет габариты 400 мм в ширину, 280 мм в высоту и 115 мм в глубину. Устройство появилось на японском внутреннем рынке на рубеже 1970-1980 годов, а...

7 геймерских продуктов: за какими скидками гоняться в ноябре 2026 года

В ноябре бренды и маркетплейсы традиционно устраивают распродажи. Где-то пик скидок приходится на 11.11, другие ориентируются на так называемую «чёрную пятницу» — 27 ноября....

Как змеи проглатывают добычу крупнее своей головы: секрет удивительной челюсти

Змея может проглотить животное, которое кажется слишком большим даже для её головы. В рацион некоторых видов входят грызуны, птицы, кролики и другие животные, заметно превосходящие хищника по...

На острова завезли свиней, вслед за ними закрепились беркуты — и местные лисицы рухнули до 15 особей

В середине 1990-х биологи на островах у побережья Южной Калифорнии заметили странную вещь: островных лис становилось всё меньше, хотя привычного для материка давления крупных хищников здесь почти...

Может ли искусственный интеллект обладать сознанием и чувствовать боль: как биология опровергает миф о «живом» ИИ

Современные компьютерные программы, работающие на базе искусственного интеллекта (ИИ), научились поддерживать беседу и решать сложные задачи на уровне человека. Быстрое развитие больших языковых...