Инженер Anthropic предупредил, что ИИ может лишить способности думать

Эдди Османи, инженер из компании Anthropic, обратил внимание на то, что делегирование задач ИИ-алгоритмам постепенно вытесняет необходимость критически мыслить в повседневной жизни. В качестве примера он привел программистов. По мере того как написание кода все больше перекладывается на плечи ИИ-агентов, специалисты начинают чувствовать себя скорее операторами систем, чем созидателями.

Османи не призывает коллег отказываться от передовых технологий, но подчеркивает важность осознанного подхода к интеллектуальным нагрузкам, поскольку современная рабочая среда больше не стимулирует глубокие размышления по умолчанию. Эксперт выделяет три стадии снижения мыслительной активности при взаимодействии с нейросетями.

Первая представляет собой когнитивную разгрузку, когда человек поручает алгоритму рутину, но сохраняет полное понимание и контроль над продуктом, что является полезной практикой.

Вторая стадия заключается в том, что сгенерированные нейросетью данные просто становятся отправной точкой для дальнейших действий человека.

Самой же опасной является третья стадия, которую исследователи из Уортонской школы бизнеса называют когнитивной капитуляцией. В этом состоянии специалист из-за собственной лени начинает слепо доверять ответам алгоритма, что со временем приводит к накоплению так называемого когнитивного долга.

Опрошенные журналистами ученые пока не готовы однозначно утверждать, что искусственный интеллект делает людей глупее, полагая, что он может просто трансформировать способы обработки информации, однако некоторые тревожные сигналы исследователи фиксируют уже сейчас. Сам разработчик из Anthropic считает, что полное делегирование допустимо только в простых задачах, где цена ошибки невелика. Проблема возникает тогда, когда инженер больше не способен объяснить, как именно работает предложенное нейросетью решение, поскольку это означает полную потерю контроля над проектом.

Чтобы избежать профессиональной деградации, специалист рекомендует сознательно встраивать критическое мышление в рабочий процесс и продолжать практиковать те навыки, которые специалист не готов потерять. Как это уже произошло с умением ориентироваться по бумажным картам или запоминать телефонные номера близких после появления смартфонов.

Источник: Business Insider