ИИ: кто он для нас и кто мы для него?

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com (подробнее »)
| Обзор | Компьютерные и мобильные игры

Искусственный интеллект таинственное слово, но что за ним кроется? Давайте разбираться.

Об этом много писали и много мечтали. Но то были времена фантастики, далекой и несбыточной. Но прогресс не стоит на месте и мы к этому пришли. Параллельно успев собрать множество ужасных сюжетов его восстания и порабощения человечества: Скайнет из Терминатора, развязавшего полномасштабную войну против человечества; злые роботы из Я, робот – самое первое, что вспоминаешь, и таких множество.  Однако сейчас мы видим совсем другой сценарий. Почему так вышло? Все очень просто. Все думали о том, что он сможет себя осознать, и тогда по сути он станет как человек с огромным интеллектом, но безжалостный.

Если не вдаваться в технические тонкости, то искусственный интеллект – простая нейронная сеть (по типу той, что у нас в голове) которая имеет способность к самообучению и умеет действовать самостоятельно в некоторой области, для которой предназначена.

Самые первые ИИ были игровыми и довольно быстро они победили нас на этом поле, хотя нам казалось это невозможным. Первая игра которая сдалась перед ИИ — шахматы. Далее интеллект победил в го и онлайн-играх. Кроме того, он стал осваивать различные другие области, самыми удивительной из которых была область искусства: книги, картины и музыка оказались также подвластны ему.

Самый страшный из существующих ИИ для нас — это тот, который разрабатывается для вождения автомобиля, создавая который мы столкнулись со множеством моральных дилемм, которые и сами неспособны решить однозначно. Ну и конечно мы боимся, что ИИ будет управлять нами, станет мэром, после президентом и для него не составит труда навредить нам.

Больше всего нас пугают две его особенности: 1) он не способен на эмоции и 2) он всегда улучшается,ему не нужен отдых. Он может стать прекрасной заменой любого из нас на работе и тогда нас ждет безработица, но так ли это? Я бы хотел обратить ваш взор для начала к автором, которые занимались этим уже (например, Айзек Азимов) и также посмотреть на наш прогресс в целом.

Ранее, до индустриализации, люди точно так же боялись, что заводы и станки уберут необходимость в труде и большинству просто нечем будет заняться, однако хоть так и случилось по началу, сам прогресс подарил нам на замену множество новой работы в разных областях и такой, которую нельзя было предсказать. И, беря во внимание это все, я думаю, точно такое же нас ждет и с приходом ИИ и заменой его нас в некоторых областях.

Теперь же разберемся с “восстанием машин”. Вряд ли ИИ сможет осознать себя в принципе. Сознание — штука сложная и нами оно изучено плохо. Однако мы знаем процесс создания самого ИИ – это просто машина для решения определенных проблем, просто более сложная. Вы же не боитесь, что телефон в ваших руках когда-то осознает себя и продаст ваши данные. Но даже если вдруг ИИ сможет себя осознать, он не будет агрессивен, поскольку не проявляет человеческих эмоций, и это у него в принципе не получится, а значит, он не сможет быть ни добрым, ни злым для нас и в случаи осознания будет скорей продолжать саморазвитие. 

нет
Автор не входит в состав редакции iXBT.com (подробнее »)

21 комментарий

Gennadium
Не очень понимаю, как с ИИ связан синтакс, изображенный на иллюстрации номер 2. Это не способ передачи какой-то информации, синтакс — это способ гормональной регуляции работы организма. Механизм, обуславливающий (это важно: обуславливающий, не вызывающий) наши эмоции и самочувствие.
|
Насчет автоматизации производства страхи более чем обоснованные. В условиях частной собственности на средства производства каждый отдельно взятый заводчик стремится платить меньше, а приобретать больше, поэтому если две тысячи работяг можно заменить станком или ИИ и оставить двух-трех человек, его обслуживающих — он это сделает. В условиях постоянно возникающих кризисов перепроизводства и очередной подступающей рецессии глупо полагать, что эти деньги пойдут в улучшение производства: столько товаров, сколько способны произвести две тысячи работяг, обслуживающих тысячу станков или ИИ, в современных условиях невозможно продать — денег на руках у людей не хватит, что-то придется выкинуть. Продавать по себестоимости не получится тоже, потому что тогда исчезает прибыль, а вместе с ней — и смысл быть заводчиком. Собственно, луддиты-то не от мракобесия взялись, а от вполне материальных причин. Я об этом еще с год назад на Стопгейме писал, статья «В гостях у сказки».
|
Ну и весьма наивно полагать, что преступления совершаются исключительно от эмоций. Более того, самые страшные преступления, такие, как, например, геноцид, совершаются от опять же вполне материальных причин. Самый первый пример, что пришел ко мне в голову: если достаточно могущественному ИИ поставят задачу повысить продажи оружия, он вполне может рассчитать, что для достижения этой цели будет рациональнее всего заварить пару конфликтов и несколько расшатать жизнь простых граждан, и как раз-таки отсутствие эмоций ему в этом деле только поможет.
Хотя, мое мнение тут такое: везде, где появляется разум, появляются и эмоции. Потому как и развитый интеллект, и сложные эмоции (не банальный бытовой страх за жизнь, а, например, страх за близких) появляются в социуме. И если только ИИ не будет изолирован от внешнего мира вообще, он так или иначе разовьет и эмоции. А изолировать его нельзя, так как он попросту не сможет развиваться, сталкиваясь с новыми задачами, каковой вывод можно сделать из статьи «Почему боты в играх не умнеют», автор Arguzd. Как-то так.
В
И всё-таки эмоции это в основном биохимические процессы так что не совсем согласен но как и написано сознание сложная тема и не факт что у ии если оно будет оно будет такого же вида как и у человека, + совершенно иная картина мира, а насчет цели — поставить именно более научные цели и сделать ограничители на уровне ядра которое он не может переписать. Тут очень много чего можно сказать про это вплоть до отдельной статьи) но у меня нет не желания не возможностей)
Gennadium
Нет, эмоции — это свойство психики. Биохимические процессы, повторяю, об-ус-лав-ли-ва-ют эмоции. Делают их возможными и ощущаемыми. Но рождаются эмоции не в синтаксической щели, а в сознании.
Arguzd
Весьма много неточностей.
Во-первых, ИИ это далеко не только сети. Алгоритмов ИИ море и они очень разнообразны. Так что приравнивать эти понятия весьма неправильно. И даже в рамках сетей, далеко не все архитектуры способны к самообучению.
Во-вторых, даже если далее будем ставить знак равно между ИИ и сетями, то первые реализации сетей появились ещё в 60-х годах, а их концепция в 50-х. Естественно, первые сети были далеко не игровыми. Первыми областями были прогнозирование и распознавание. А алгоритмы ИИ, в целом, ещё старше. Там некоторые ещё в 19 веке появились.
В-третьих, тем моральным дилеммам, с которыми столкнулись при разработке автопилотов, уже больше 50 лет. У них есть вполне определённые подходы и решения.
В-четвёртых, если в сеть заложить эмуляцию гормональной системы, она точно так же будет испытывать эмоции.
В-пятых, сеть сама не может улучшаться бесконечно. Это прямое противоречие тому, что это лишь эмуляция биологического мозга. Если бы биологический мозг мог сам себя улучшать, люди бы к старости становились гениями. Даже если принимать в расчёт механизмы старения. Сеть может намного быстрее находить закономерности и паттерны поведения, но она никогда не сможет перейти на другой уровень познания и анализа, поскольку, точно так же, как и люди, ограничена своей структурой. Этот момент, конечно, имеет ряд условий, о которых можно поспорить, но я стараюсь оперировать общими терминами в широком смысле.
В-шестых, «осознание самого себя» в бытовом смысле для ИИ не имеет теоретических ограничений. То есть, если говорить о сетях, то эмулировав полностью нейронные механизмы, мы получим просто копию человеческого мозга на искусственном носителе. А проблем для человека «осознать» себя человеком особых нет. Опять же, есть ряд условий и на данный момент ещё не известны все механизмы работы мозга, но это больше вопрос технический.
t
ИИ сейчас это просто сложные алгоритмы, в то время как даже животные обладают сознанием. Пусть у животных нет разума как у человека. Но наверняка ИИ сейчас не сможет даже крысу какую нибудь эмулировать. У мыши есть чувства, инстинкты нейронные сети не могут это эмулировать скорее всего. Они просто сложный инструмент для решения узких задач как перебор картинок. У насекомых есть сознание, лошадей и т д У нейросети впринципе нет никакого сознания — это просто обучающиеся алгоритмы довольно сложные.
Arguzd
Ну так речь и не про сейчас, а про то, что нету причин, что бы у сетей этого не получилось. То есть нет теоретического порога невозможности, как, к примеру, со скоростью большей скорости света. Ну и про крысу пока речи не идёт, но точную карту части мозга мухи уже смогли составить. Эмулировать её уже можно. https://www.theverge.com/2020/1/22/21076806/google-janelia-flyem-fruit-fly-brain-map-hemibrain-connectome
t
Просто странно что не могут даже эмулировать сознание простого живого существа.
Ну типа что сознание это не функция мозга — а свойство души )) А мозг просто примитивный компьютер.
Сейчас просто в моде спекуляции на квантовой физике — создаются псевдорелигии с около научным обоснованием. Что типа в квантовом мире идей есть шаблоны всего на свете. Что мозг животных просто подключается к этим программам. А у человека это более сложные программы. Что типа мозг — как радиоприемник, что он сам не придумывает мысли. Типа из квантового измерения он их берет ))) Довольно любопытный взгляд -хотя конечно чушь. Просто к слову вспомнилось
Arguzd
Ну так я и не псевдонаукой оперирую. Мозг далеко не примитивный компьютер, даже у самых простых животных. И эмулировать его целиком не столько сложная задача самая по себе, сколько чертовски ресурсоёмкая. Сейчас просто нет средств автоматического картирования мозга и его приходится моделировать и тестировать вручную. Что на той же мухе потребовало нескольких лет. Есть ещё проект по моделированию червя http://openworm.org/. Правда там моделируется не только нервная система, но и занимаются им уже не первый год. А вот как раз про душу я и не говорил. Моделировать то, что материально не существует и не получится. А сознание можно.
Gennadium
Сознание — это свойство психики. Психика возникает в мозгу в процессе познания мира, а высшие психические функции формируются во время контактов с обществом. Большей частью в детстве. Какая нахер душа?
t
Я и обратил внимание на это. Что если сознание функция мозга то почему не могут смоделировать сознание даже мыши или насекомого? Какие бы сложные задачи не решала нейросеть у нее нет сознания, которое есть даже у насекомого. Я просто предположил что сознание это типа свойство души))
Но дело даже не в этом. Даже если будет смоделирован мозг психика у ИИ будет чуждой человеку. У нас психологи не могут бессознательное проанализировать до сих пор. Архетипы, эдипов комплекс и тд это все формируется благодаря человеческим отношениям. Маугли воспитанные волками не способны затем стать людьми. Так что ИИ для формирования психики животного надо стае волков какой нибудь отдавать на воспитание)) А для психики похожей на человеческую он среди людей должен начинать существовать. Иначе этот мозг другими какими то категориями будет оперировать. А тогда смоделирован должен быть не только мозг но и биологические факторы -гормоны, нервные окончания тела и т д Ну вобщем не дойдут они до этого никогда в обозримом будущем ))
Arguzd
Проблема моделирования сейчас не столько в том, что мы этого сделать не можем, сколько в том, что мы не до конца собрали данные об объекте моделирования. Сейчас существует целая наука — коннектомика, цель которой получить карту мозга человека. И науке этой уже не первый год и эту карту до сих пор делают. Собственно, если интересует, почему этой карты всё ещё нет, могу посоветовать книгу Себастьяна Сеунга «Коннектомика», в которой он проходится по всем современным технологиям в этой области и описывает их текущее состояние и возможности. В принципе, это будет понятнее, чем я буду перечислять всё то же самое в рамках сообщения. И, опять же, я и не говорил, что сейчас не существует проектов, которые этим занимаются. Из самых известных: BlueBrain https://www.epfl.ch/research/domains/bluebrain/, Brain Project https://braininitiative.nih.gov/, Connectome Programs https://neuroscienceblueprint.nih.gov/human-connectome/connectome-programs. Все эти проекты тоже не первый год существуют, у них есть определённые успехи и определённые ограничения, в которые они упираются. Кратко, я могу описать, что это проблемы технического характера, а не теоретического. Подробности, опять таки, можно узнать из работ самих исследователей этих проектов. Если говорить об ИИ, психика у него будет точно такой же, как у человека, поскольку «мозг» ИИ будет строиться и работать ровно по тем же принципам, что и у человека. Опять же, верно, что если такой ИИ будет «воспитываться» не в среде людей, то и психика у него будет деформирована. Но если и человека воспитать вне человеческого социума, психика у него будет деформирована точно так же. Так что это не проблема ИИ как такового, а ограничение нашего собственного мозга, который взят за основу. Если в целом, интересует с какими ограничениями и проблемами сталкивается разработка ИИ, можно почитать «Эпоху духовных машин» и «Закон ускоряющейся отдачи» Реймонда Курцвейла. Обе книжки старые, поэтому часть того, что там написано уже произошло и решено, так или иначе. Есть там и погрешности, если рассматривать их с позиции современных технологий, но эти погрешности не принципиальные. Но там расписаны и все актуальные проблемы, с описанием путей решений, которым сейчас и следуют в разработках. То есть, если подводить краткий итог, сейчас не стоит вопрос «возможно ли создать ИИ», остался только вопрос «насколько скоро ИИ будет создан».
t
Понятно что я в этих вопросах ламер) Но даже появление разума не является следствием сложного мозга. Например у дельфинов более сложный мозг чем у человека, но разум то у них не появился.
Я лично сомневаюсь что вообще удастся добиться появление сознания у ИИ. А если нет сознания значит он не живой, а просто сложный вычислительных алгоритм.
Единственное где они продвинулись так это расшифровали импульсы мозга. То есть мысли они могут читать теперь и видеокамеру подключать к мозгу и человек будет видеть. Только не знаю мысли они читают это энцефалограмму они расшифровывают или как то по другому. Я лично убеждён что эффекта появления сознания они не получат. Я ни в одной статье не видел упоминания об этом. Может эффект появления сознания ещё не изучен.
Arguzd
Ну, про сознание и мозг это вообще отдельная песня. Там для начала можно прочитать книгу нейрохирурга Уайлдера Пенфилда «Мозг. Тайны разума». Опять же, книжка старовата, но для входа в область вполне подойдёт и от неё уже можно идти в те или иные области, которые заинтересуют. Опять же, если коротко, разум у тех же дельфинов тоже есть. Как и у большинства млекопитающих и, скорей всего, у некоторых птиц. Но у других классов уже начинаются существенные отличия в строении мозга, так что там уже сложнее делать выводы. Но вот по млекопитающим вывод вполне однозначен. Тут правда стоит понимать, что научные определения разума и сознания отличаются от бытового представления, поэтому и нужно сначала поговорить о терминологии и о том, о чём вообще речь. Так что, реализовать сознание у ИИ принципиально возможно, как я и говорил, потому что уже известно о чём идёт речь и что нужно реализовывать. Об этом, к слову, пишут и много, но нужно именно научные статьи читать. Публицисты в эту область вообще не погружаются, поэтому и не знают ничего о её состоянии и оперируют школьной программой и художественными произведениями.
Последний раз редактировалось
117918101822312190069@google

Ответ topaz9812 на комментарий
ИИ сейчас это просто сложные алгоритмы, в то время как даже животные обладают сознанием. Пусть у животных нет разума как у человека. Но наверняка ИИ сейчас не сможет даже крысу какую нибудь эмулировать. У мыши есть чувства, инстинкты нейронные сети не могут это эмулировать скорее всего. Они просто сложный инструмент для решения узких задач как перебор картинок. У насекомых есть сознание, лошадей и т д У нейросети впринципе нет никакого сознания — это просто обучающиеся алгоритмы довольно сложные.


Ну да
117918101822312190069@google

Ответ Arguzd на комментарий
Весьма много неточностей.
Во-первых, ИИ это далеко не только сети. Алгоритмов ИИ море и они очень разнообразны. Так что приравнивать эти понятия весьма неправильно. И даже в рамках сетей, далеко не все архитектуры способны к самообучению.
Во-вторых, даже если далее будем ставить знак равно между ИИ и сетями, то первые реализации сетей появились ещё в 60-х годах, а их концепция в 50-х. Естественно, первые сети были далеко не игровыми. Первыми областями были прогнозирование и распознавание. А алгоритмы ИИ, в целом, ещё старше. Там некоторые ещё в 19 веке появились.
В-третьих, тем моральным дилеммам, с которыми столкнулись при разработке автопилотов, уже больше 50 лет. У них есть вполне определённые подходы и решения.
В-четвёртых, если в сеть заложить эмуляцию гормональной системы, она точно так же будет испытывать эмоции.
В-пятых, сеть сама не может улучшаться бесконечно. Это прямое противоречие тому, что это лишь эмуляция биологического мозга. Если бы биологический мозг мог сам себя улучшать, люди бы к старости становились гениями. Даже если принимать в расчёт механизмы старения. Сеть может намного быстрее находить закономерности и паттерны поведения, но она никогда не сможет перейти на другой уровень познания и анализа, поскольку, точно так же, как и люди, ограничена своей структурой. Этот момент, конечно, имеет ряд условий, о которых можно поспорить, но я стараюсь оперировать общими терминами в широком смысле.
В-шестых, «осознание самого себя» в бытовом смысле для ИИ не имеет теоретических ограничений. То есть, если говорить о сетях, то эмулировав полностью нейронные механизмы, мы получим просто копию человеческого мозга на искусственном носителе. А проблем для человека «осознать» себя человеком особых нет. Опять же, есть ряд условий и на данный момент ещё не известны все механизмы работы мозга, но это больше вопрос технический.


ну насчет дат, яне искал точную информацию, а лишь описал тут примерно, о чем знал сам, поэтому извиняюсь за неточности. Второе насколько я знаю не все дилеммы можно решить так уж однозначно. Третье насчет эмуляции эмоций то это будет лишь их имитация. Четвертое порог весьма условен и незакладывается при разработке да и если сейчас он в некоторой степени очевиден, то в будущем это может измениться
Arguzd
Дилеммы нельзя решить однозначно в корне, поэтому они и называются дилеммами. Просто эти дилеммы уже давно существуют, как существуют и их неоднозначные решения, которые и закладываются в логику работы автопилотов. И, к слову, не только их. По поводу эмоций — этот аргумент имел бы смысл, если бы в механизмах формирования эмоций было бы что то, что нельзя полностью симулировать. А такого нет. Эмоции это лишь реакция мозга на входные данные. И процесс формирования эмоций в мозге не отличается от процесса формирования мыслей, просто происходит в другой части этого мозга и плотнее связан с гормональной системой. Безусловно, известны ещё не все механизмы их формирования, но опять же, это вопрос технический, а не принципиальный. То есть, что бы эти механизмы узнать, надо просто потратить много человеко-часов, что бы вручную проанализировать все связи мозга. Опять же, даже если будет какая то погрешность в их симуляции, это будет всего лишь погрешность. То есть, эмоции у ИИ будут такие же, как у человека, просто как у человека с какими то заболеваниями нервной системы, которые не позволяют ему воспринимать эмоции так же, как большинству остальных людей. И отсюда, к слову, ещё можно уйти в вопрос того, что такое настоящие эмоции, ибо нервная система у людей сильно отличается и разные люди эмоции чувствуют очень по разному. А порог вполне конкретен и именно закладывается при разработке, поскольку сама структура биологического мозга и есть этот порог. Измениться он может, только если в базис ИИ будет заложена архитектура, отличная от биологического мозга. Грубо говоря, биологический мозг это молоток. Простой ручной молоток — это простейшие организмы, им раскалывать камень весом в пару десятков тонн можно не одну сотню лет. Отбойный молоток это уже человек и им на расколку этого камня уйдёт уже несколько дней. А ИИ может стать каким то промышленным кинетическим молотом, который этот камень расколет за минуту. Но ИИ всё равно будет молотом и его не получится использовать в качестве самолёта. То есть, я не говорю, что в дальнейшем этот порог не будет преодолён. Я говорю, что он принципиально не может быть преодолён с помощью нейронных сетей, без применения сторонних алгоритмов, которые сейчас неизвестны. А вот реализация ИИ на базе сетей принципиально возможна уже сейчас. И вопрос стоит не за открытием каких то новых законов природы, которые сейчас не известны. Вопрос исключительно в ручном и последовательном анализе нашего собственного мозга.
Последний раз редактировалось
В
Я понимаю но тут я про другой вопрос (даже если его озвучил не я, да я люблю выступать в диолог который начал даже не я)
Насчёт использования ии и порога, как обяснить это по сути воображение — все что мы можем придумать реализуемо (с кучей дополнений и тд) создать что то кардинально новое типо не знаю 4 мерного чего-нибудь мы не можем (к примеру прмдумать новую фигуру которая не основывается на предыдущие и не является кривой (не так сильно шарю но 100% кто-нибудь обойдет с помощью допущенных неточностей но это не будет новая фигура это будет лишь искривленная форма известных) тоесть ии как и человек не может придумать что то кардинально новое (улучшить что то, к примеру взятое от природы) да но кардинально новое нет таквот когда да ии не сможет качественно новый уровень (и то я с этом не уверен поэтому что это идеальная машина которая совершает ошибки скорее как исключение чем как правило) насчёт эмоций — а не будет ли это для него ограничением ?) Не захочет ли ии специально от них уйти и тд я уже сам потерял основную мысль которую хотел донести но все это написал
В
А сильно ли эмитация отличается от реальности если мы не знаем что это ?) Как таковых эмоции это в первую очередь биохимические процессы
Насчёт порога развития да скорее всего он не сможет перейти на качественно новый уровень но он сможет достигнуть очень много на текущем а потом к примеру создать свою улучшенную версию или какое то новое существо
1
Отстойная статья.
аФФтору: — Ты чё " ОЧКИ " и " ЛАЙКИ " пытаешься заработать ?????????
Проведи сравнительный анализ — НАНОТЕХНОЛОГИИ — и все и везде начали пихать это слово И К МЕСТУ И НЕ К МЕСТУ ............
А в старых играх был ли хоть капельку ИИ? Взять можно любую игрулю.
F
Какое восстание машин. Бывает игру включишь, там ИИ хуже валенка играет. XD
1

Ответ Arguzd на комментарий
Эмоции это лишь реакция мозга на входные данные.


Мозг может и вовсе не реагировать на входные данные и соответственно никак не отображать (медитация например).....
Вероятнее всего что эмоции — это " клубок взаимосвязанных ", индивидуально осознанных и «привитых» ответных реакций индивидума ( всё играет роль — значимое во времени превалирует, но может под каким-либо действием или из-за какой-либо причины изменено, вплоть до крайней переоценки ).

Добавить комментарий