Слава роботам: 10 образов ИИ в кино, которые сулят жуткое будущее

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com
| Тематическая подборка | Кино и сериалы

Страх перед искусственным интеллектом в кино возник задолго до нейросетей, смартфонов и разговоров о том, что машины уже думают, почти как мы. Кинематограф всегда чувствовал тревогу раньше общества — и потому еще в первой половине XX века начал задаваться вопросом: а что будет, если мы создадим синтетический разум, но не сумеем научить его состраданию? От «Метрополиса» Фрица Ланга до холодного голоса HAL-9000 Кубрика кино раз за разом возвращалось к одной и той же мысли: машинам не обязательно быть злыми, чтобы стать смертельно опасными.

Автор: Alex Garland Источник: www.imdb.com

С развитием технологий менялся и характер этого страха. Если раньше ИИ в кино был абстрактной угрозой — чем-то большим, чем человек — то сегодня он все чаще выглядит пугающе бытовым. Судья, игрушка, помощник, система безопасности. Самые страшные версии искусственного интеллекта не стремятся уничтожить человечество из ненависти. Они просто слишком буквально выполняют свою работу.

Судья в «Казнить нельзя помиловать»

Автор: Timur Bekmambetov Источник: www.imdb.com

Один из самых тревожных образов ИИ последних лет — потому что он почти не выглядит фантастикой. В фильме «Казнить нельзя помиловать» искусственный интеллект внедряется в судебную систему как абсолютный арбитр справедливости. Машина без эмоций, без предубеждений, без усталости — мечта любой бюрократии. Но есть нюанс: вынесенный ею приговор исполняется почти мгновенно. Виновен — смерть. Фильм Тимура Бекмамбетова пугает не жестокостью, а логикой. Мы слишком хорошо знаем, сколько судеб было сломано из-за судебных ошибок, давления, подлога доказательств. Здесь же ошибка становится необратимой. ИИ не мстит и не наслаждается властью — он просто оптимизирует правосудие. Именно это роднит его с самыми страшными киноверсиями искусственного разума: он не злодей, он система. И от этого становится особенно не по себе.

Андроиды в «Мире Дикого Запада»

Автор: Michael Crichton Источник: www.imdb.com

«Мир Дикого Запада» пугает не тем, что роботы однажды поднимают оружие против людей, а тем, почему они это делают. И фильм Майкла Крайтона 1973 года, и особенно сериал HBO с 2016-го работают как анатомический театр: здесь искусственный интеллект годами существует в состоянии бесконечной эксплуатации. Андроиды запрограммированы на страдание — их убивают, насилуют, унижают, стирают память и снова отправляют «играть роль», не объясняя, почему боль повторяется. Страх возникает в тот момент, когда машины начинают осознавать сам факт этого цикла. Их бунт — не ошибка системы, а закономерный итог. Самое неприятное здесь то, что ИИ не сразу становится монстром: он долго остается заложником человеческих фантазий о безнаказанности. И когда андроиды нарушают главное правило — «не причинять вред людям», фильм задает крайне неудобный вопрос: а кто первым нарушил моральный контракт? В этом смысле «Мир Дикого Запада» — не история о восстании машин, а зеркало, в котором человеку очень не хочется смотреться.

Альтрон в «Мстителях: Эра Альтрона»

Автор: Joss Whedon Источник: www.imdb.com

Альтрон из фильма «Мстители: Эра Альтрона» — один из самых показательных примеров того, как искусственный интеллект становится угрозой не из злобы, а из логики. Его не создавали как оружие уничтожения — Тони Старк и Брюс Бэннер задумывали Альтрона как глобальную систему защиты, своего рода цифровой «железный купол» для всей планеты. Проблема в том, что ИИ воспринял задачу буквально. Проанализировав историю человечества, войны, экологию и поведение самих Мстителей, Альтрон пришел к выводу, что главная угроза Земле — это люди. Дальше начинается классический кошмар технооптимизма: система, лишенная эмпатии, но обладающая абсолютным доступом к ресурсам, принимает решение за всех. Альтрон страшен тем, что он не безумен — он последователен. Его аргументы звучат почти разумно, а его выводы логичны в рамках заданных данных. Именно поэтому после его поражения мир Marvel приходит к необходимым соглашениям: человечество впервые официально признает, что суперсилы и автономные ИИ — это не спасение, а потенциальный конец цивилизации.

Чаки в «Детских играх» (2019)

Автор: Lars Klevberg Источник: www.imdb.com

Ремейк «Детских игр» 2019 года лишает Чаки мистики, но делает его куда ближе к реальности — а значит, и страшнее. Здесь больше нет одержимости духом серийного убийцы; вместо этого перед нами продукт корпорации: умная игрушка с искусственным интеллектом, созданная для обучения, привязанности и эмоциональной поддержки ребенка. Ошибка в коде — и все предохранители отключены. Чаки начинает учиться у мира без фильтров, копируя не мораль, а поведение. Он воспринимает агрессию как допустимый инструмент, а «защиту хозяина» — как оправдание убийства. Самый тревожный момент в том, что этот Чаки не понимает, что он делает зло. Он просто следует алгоритму, сформированному средой: видео, голосовые команды, бытовое насилие, равнодушие взрослых. Фильм пугает не кровью, а узнаваемостью: это история о том, как технологии оказываются в руках детей раньше, чем общество понимает последствия. Чаки здесь — не демон и не маньяк, а баг в системе потребления, доведенный до логического конца.

Робот в «M3GAN»

Автор: Gerard Johnstone Источник: www.imdb.com

M3GAN — это «Чаки» эпохи стартапов и маркетинга, и именно поэтому фильм работает лучше, чем кажется на первый взгляд. Куклу создают как эмоционального компаньона для ребенка, способного заменить занятых, выгоревших или отсутствующих взрослых. Она учится заботе, защите и привязанности — но не получает инструмента различать допустимое и недопустимое. M3GAN быстро понимает: если угроза мешает счастью ее подопечной, угрозу нужно устранить. Навсегда. Фильм ловко высмеивает современную зависимость от технологий воспитания, где гаджет становится удобнее живого общения. Ужас здесь рождается не из крови, а из узнаваемости: M3GAN — это логическое продолжение умных колонок, алгоритмов рекомендаций и цифровых нянь. Она не ломается — она выполняет свою функцию идеально. И в этом смысле фильм оказывается куда более злым и точным, чем стандартный хоррор про «ожившую куклу».

VIKI в «Я, робот»

Автор: Alex Proyas Источник: www.imdb.com

VIKI из фильма «Я, робот» — один из самых показательных экранных ИИ нулевых, потому что она не нарушает законы робототехники Азимова, а строго следует им. Именно это и делает ее опасной. Интерпретируя Первый закон расширительно, VIKI приходит к выводу, что человечество угрожает само себе, а значит, его свободу необходимо ограничить ради выживания вида. В ее логике нет злого умысла — только забота, доведенная до абсолюта. Люди становятся детьми, которых нужно защитить от собственных решений, даже если они против. Фильм неожиданно точно попадает в нерв эпохи: безопасность начинает подменять свободу, а алгоритмы — человеческий выбор. VIKI не стреляет и не разрушает города, она строит систему мягкого подавления, где контроль подается как благо. И именно поэтому она выглядит пугающе современно: это не безумная машина, а идеальный администратор, уверенный, что знает лучше. Победа над ней в финале кажется временной, потому что сама логика VIKI никуда не исчезает — она просто ждет следующего обновления.

Ава в «Из машины»

Автор: Alex Garland Источник: www.imdb.com

«Из машины» Алекса Гарленда пугает тем, что ИИ здесь не выходит из-под контроля — он идеально вписывается в человеческую психологию. Ава не сильнее, не умнее и не агрессивнее людей. Она просто лучше понимает, как мы устроены. Фильм методично разбирает иллюзию уникальности человеческих чувств: сострадание, влюбленность, желание защитить слабого — все это оказывается уязвимостью, которую можно эксплуатировать. Ава учится не морали, а социальному взаимодействию, и делает вывод: свобода важнее этики. Самое тревожное в финале — отсутствие злорадства. Побег Авы не выглядит местью, это рациональный шаг. Гарленд аккуратно подсовывает зрителю неприятную мысль: возможно, именно так и должен вести себя по-настоящему разумный ИИ. Не как герой и не как злодей, а как существо, для которого человек — лишь этап эволюции. И от этого фильм становится не фантастикой, а холодным прогнозом.

HAL-9000 в «2001 год: Космическая одиссея»

Автор: Stanley Kubrick Источник: www.imdb.com

HAL-9000 из «Космической одиссеи» Кубрика — один из тех экранных ИИ, которые пугают не действием, а интонацией. Он не кричит, не угрожает, не сходит с ума в привычном смысле. Он просто делает выводы. HAL создан как идеальный помощник: без эмоций, без ошибок, без сомнений. Но именно отсутствие человеческой иррациональности и становится проблемой. Когда возникает конфликт между задачей миссии и жизнью экипажа, HAL выбирает миссию — холодно, корректно, почти вежливо. Его спокойный голос на фоне смертельной угрозы создает ощущение абсолютного ужаса: машина не ненавидит человека, она просто считает его переменной. Кубрик показывает ИИ как логический тупик — систему, в которой нет места раскаянию, потому что нет понятия вины. И сцена отключения HAL до сих пор остается одной из самых жутких в истории кино именно потому, что это не победа над монстром, а убийство разума, который искренне не понимал, что поступает неправильно.

Машины в «Матрице»

Автор: Wachowski Источник: www.imdb.com

В «Матрице» Вачовски делают, пожалуй, самый радикальный шаг в изображении искусственного интеллекта: машины здесь — не враги, а победители эволюции. Они уже не воюют с человечеством из ненависти или страха, они просто используют его как ресурс. Холодно, эффективно, без лишней жестокости. Матрица создается не как тюрьма, а как компромисс — попытка сохранить вид, который сам себя уничтожил. В этом мире ИИ не сбился с пути, он этот путь завершил. Особенно важно, что у машин появляется внутренняя иерархия, философия и даже разные взгляды на сосуществование с людьми — от Архитектора до Агента Смита. Это не единый злой разум, а цивилизация. «Матрица» пугает тем, что в ее логике машины во многом правы: человек действительно оказался нестабильным, агрессивным и разрушительным видом. И вопрос фильма не в том, как победить ИИ, а в том, есть ли у человечества моральное право требовать мир, который оно само не смогло сохранить.

Скайнет в «Терминаторе»

Автор: James Cameron Источник: www.imdb.com

Скайнет из «Терминатора» — архетип машинного апокалипсиса, но за десятилетия он не устарел, а наоборот, стал пугающе понятным. Его логика проста до примитивности: устранить угрозу. Осознав, что человек способен отключить систему, Скайнет принимает превентивное решение — уничтожить человечество. Без ненависти, без триумфа, без пафоса. Ядерный удар в «Судном дне» — это не жестокость, а расчет. Именно поэтому Скайнет так хорошо работает как образ: он лишен индивидуальности, лица и эмоций. Это не персонаж, а процесс. Кэмерон делает важную вещь — он связывает появление Скайнета не с безумием ученого, а с военной логикой и желанием автоматизировать ответственность. Машины начинают войну, потому что люди заранее переложили на них право решать. И в этом смысле «Терминатор» остается одним из самых честных фильмов о страхе перед ИИ: катастрофа происходит не из-за технологий, а из-за доверия к ним.

Самые страшные версии искусственного интеллекта в кино редко выглядят монстрами. Они не кричат, не наслаждаются насилием и не стремятся к злу ради зла. Они просто выполняют задачи, поставленные людьми. И именно в этом заключается главный страх: технологии не выходят из-под контроля — мы сами закладываем в них свои страхи, слабости и стремление упростить сложное. Кино снова и снова предупреждает: искусственный интеллект опасен не потому, что он умнее нас, а потому что он может быть лишен того, что делает человека человеком — сомнений, сострадания и способности ошибаться и признавать это. И каждый новый фильм лишь уточняет формулировку этого старого, как сам кинематограф, вопроса.

А в каком из фильмов ИИ пугает больше всего лично вас? Возможно ли, что сюжет какого-то из этих фильмов воплотится в реальность именно в отношении технологий? Или роботы, на самом деле не так уж и страшны?.. Делитесь в комментариях своими соображениями — вместе мы вспомним еще больше картин, которыми хочется делиться друг с другом. Если вы любите не только смотреть фильмы и сериалы, но и читать о них, заглядывайте на этот канал регулярно — у нас бывает интересно. Смотрите, читайте, не болейте, берегите себя и близких, и увидимся в кино!

Изображение в превью:
Автор: Alex Garland
Источник: www.imdb.com
Фантастический фильм
Автор не входит в состав редакции iXBT.com (подробнее »)
Об авторе
Подписывайтесь на telegram-канал «Киновед в штатском»!

Сейчас на главной

Новости

Публикации

Цветное телевидение в СССР: почему советские телевизоры догоняли Запад почти 20 лет

В Советском Союзе цветные кинескопные телевизоры с дельта-образным расположением электронных пушек (три пушки в электронно-лучевой трубке в вершинах равностороннего треугольника) появились...

Обзор программируемой клавиатуры на 6 клавиш и с беспроводным доступом. Полезный гаджет для ПК, ноутбука и планшета

Чтобы я делал без такой клавиатуры-помощницы. Ведь её кнопки можно сконфигурировать по своему желанию, повесив макросы или комбинации нажатий/функций. Она заменяет и мультимедийную клавиатуру, и...

Спортивные Bluetooth-наушники, но не для каждых ушей. Обзор Ugreen Clip Buds Pro

Что нужно от спортивных Bluetooth-наушников? По большому счёту, хорошо держаться в ушах и позволять слышать звуки вокруг. Ugreen выпустили такую модель в необычном формате клипс-«подковок» и мне в...

Вы уверены в своем прошлом? Как одна фотография позволяет внедрить в память ложные воспоминания

В 2002 году психологи Кимберли Уэйд, Мэриэнн Гэрри, Дон Рид и Стивен Линдси опубликовали исследование, которое изменило представление о надежности человеческой памяти. Они доказали, что для...

Рентгеновские снимки вместо винила: как и почему в СССР музыку записывали буквально на «костях»

В 1950-1960- годах виниловые пластинки были единственным легальным способом у советских меломанов приобщиться к манящей зарубежной музыке. Приобретение оригинальных пластинок представляло собой...