Шведский философ Ник Бостром (Nick Bostrom), один из самых известных теоретиков рисков искусственного интеллекта, заявил, что даже небольшая вероятность уничтожения человечества из-за ИИ может оказаться приемлемой ценой за шанс продлить человеческую жизнь и создать общество, где технологии устранят бедность, тяжёлый труд и биологические ограничения человека.
Бостром стал широко известен после выхода книги "Superintelligence" в 2014 году. В ней он описывал сценарии, при которых сверхразумный ИИ может выйти из-под контроля и уничтожить человечество. Одним из самых известных примеров стал мысленный эксперимент о машине для производства канцелярских скрепок, которая превращает всю планету в ресурс для выполнения своей задачи.
Теперь философ заметно смягчил риторику. В новой книге "Deep Utopia" и недавней публикации Бостром рассуждает уже не столько об угрозах, сколько о потенциальной выгоде от появления продвинутого ИИ. По его словам, человечество и так обречено на вымирание в долгосрочной перспективе, тогда как успешное развитие искусственного интеллекта может впервые дать шанс радикально увеличить продолжительность жизни — возможно, практически без ограничений.
Бостром отдельно подчеркнул, что его статья рассматривает только один аспект проблемы: интересы уже живущих людей. По его мнению, даже высокорисковый ИИ потенциально способен увеличить ожидаемую продолжительность жизни нынешнего поколения.
При этом философ не отрицает вероятность катастрофических сценариев. Он называет себя «тревожным оптимистом» и признаёт, что развитие ИИ может пойти крайне плохо. Однако Бостром критикует позицию сторонников идеи, что создание сильного ИИ почти неизбежно приведёт к гибели человечества.
В "Deep Utopia" Бостром описывает гипотетический мир, где искусственный интеллект обеспечивает почти неограниченное изобилие ресурсов и автоматизирует большую часть человеческого труда. В таком обществе главной проблемой становится уже не выживание, а поиск смысла жизни и новой формы человеческой деятельности.
По словам философа, современное общество привыкло считать нормой ситуацию, при которой люди вынуждены тратить значительную часть жизни на нелюбимую работу ради базового существования. Он сравнил это состояние с «частичной формой рабства» и предположил, что ИИ может впервые освободить человечество от подобной зависимости.
Бостром допускает, что с появлением сверхразумных систем люди утратят возможность играть ключевую роль в развитии цивилизации. Даже философские тексты, по его мнению, ИИ сможет писать лучше человека. Однако человеческая деятельность всё равно сохранит ценность — хотя бы потому, что люди остаются значимыми друг для друга.
Эту ситуацию философ сравнил с «большим выходом человечества на пенсию». В его представлении люди в таком будущем смогут сосредоточиться на творчестве, играх, эстетических практиках, духовной жизни и личных отношениях вместо постоянной борьбы за выживание.
Отдельное внимание Бостром уделил идее «цифровых разумов» — будущих ИИ-систем, которые могут получить моральный статус. По его мнению, если искусственный интеллект приобретёт самосознание, то долговременные цели и способность к отношениям, человечество будет обязано учитывать его интересы так же, как сегодня учитывает благополучие животных.
Философ считает, что отношения между людьми и ИИ в будущем могут стать важнейшими для цивилизации. Именно поэтому, по его словам, разработчики должны не только решать проблему согласования целей ИИ с человеческими ценностями, но и изначально строить взаимодействие с искусственным интеллектом на принципах уважения и сотрудничества.
Заявления Бострома показывают, насколько быстро меняется дискуссия вокруг ИИ: один из главных символов тревоги перед суперинтеллектом теперь всё чаще говорит не о конце человечества, а о возможности его радикального преобразования.
