ИИ: кто он для нас и кто мы для него?
Искусственный интеллект таинственное слово, но что за ним кроется? Давайте разбираться.
Об этом много писали и много мечтали. Но то были времена фантастики, далекой и несбыточной. Но прогресс не стоит на месте и мы к этому пришли. Параллельно успев собрать множество ужасных сюжетов его восстания и порабощения человечества: Скайнет из Терминатора, развязавшего полномасштабную войну против человечества; злые роботы из Я, робот – самое первое, что вспоминаешь, и таких множество. Однако сейчас мы видим совсем другой сценарий. Почему так вышло? Все очень просто. Все думали о том, что он сможет себя осознать, и тогда по сути он станет как человек с огромным интеллектом, но безжалостный.
Если не вдаваться в технические тонкости, то искусственный интеллект – простая нейронная сеть (по типу той, что у нас в голове) которая имеет способность к самообучению и умеет действовать самостоятельно в некоторой области, для которой предназначена.
Самые первые ИИ были игровыми и довольно быстро они победили нас на этом поле, хотя нам казалось это невозможным. Первая игра которая сдалась перед ИИ — шахматы. Далее интеллект победил в го и онлайн-играх. Кроме того, он стал осваивать различные другие области, самыми удивительной из которых была область искусства: книги, картины и музыка оказались также подвластны ему.
Самый страшный из существующих ИИ для нас — это тот, который разрабатывается для вождения автомобиля, создавая который мы столкнулись со множеством моральных дилемм, которые и сами неспособны решить однозначно. Ну и конечно мы боимся, что ИИ будет управлять нами, станет мэром, после президентом и для него не составит труда навредить нам.
Больше всего нас пугают две его особенности: 1) он не способен на эмоции и 2) он всегда улучшается,ему не нужен отдых. Он может стать прекрасной заменой любого из нас на работе и тогда нас ждет безработица, но так ли это? Я бы хотел обратить ваш взор для начала к автором, которые занимались этим уже (например, Айзек Азимов) и также посмотреть на наш прогресс в целом.
Ранее, до индустриализации, люди точно так же боялись, что заводы и станки уберут необходимость в труде и большинству просто нечем будет заняться, однако хоть так и случилось по началу, сам прогресс подарил нам на замену множество новой работы в разных областях и такой, которую нельзя было предсказать. И, беря во внимание это все, я думаю, точно такое же нас ждет и с приходом ИИ и заменой его нас в некоторых областях.
Теперь же разберемся с “восстанием машин”. Вряд ли ИИ сможет осознать себя в принципе. Сознание — штука сложная и нами оно изучено плохо. Однако мы знаем процесс создания самого ИИ – это просто машина для решения определенных проблем, просто более сложная. Вы же не боитесь, что телефон в ваших руках когда-то осознает себя и продаст ваши данные. Но даже если вдруг ИИ сможет себя осознать, он не будет агрессивен, поскольку не проявляет человеческих эмоций, и это у него в принципе не получится, а значит, он не сможет быть ни добрым, ни злым для нас и в случаи осознания будет скорей продолжать саморазвитие.
21 комментарий
Добавить комментарий
|
Насчет автоматизации производства страхи более чем обоснованные. В условиях частной собственности на средства производства каждый отдельно взятый заводчик стремится платить меньше, а приобретать больше, поэтому если две тысячи работяг можно заменить станком или ИИ и оставить двух-трех человек, его обслуживающих — он это сделает. В условиях постоянно возникающих кризисов перепроизводства и очередной подступающей рецессии глупо полагать, что эти деньги пойдут в улучшение производства: столько товаров, сколько способны произвести две тысячи работяг, обслуживающих тысячу станков или ИИ, в современных условиях невозможно продать — денег на руках у людей не хватит, что-то придется выкинуть. Продавать по себестоимости не получится тоже, потому что тогда исчезает прибыль, а вместе с ней — и смысл быть заводчиком. Собственно, луддиты-то не от мракобесия взялись, а от вполне материальных причин. Я об этом еще с год назад на Стопгейме писал, статья «В гостях у сказки».
|
Ну и весьма наивно полагать, что преступления совершаются исключительно от эмоций. Более того, самые страшные преступления, такие, как, например, геноцид, совершаются от опять же вполне материальных причин. Самый первый пример, что пришел ко мне в голову: если достаточно могущественному ИИ поставят задачу повысить продажи оружия, он вполне может рассчитать, что для достижения этой цели будет рациональнее всего заварить пару конфликтов и несколько расшатать жизнь простых граждан, и как раз-таки отсутствие эмоций ему в этом деле только поможет.
Хотя, мое мнение тут такое: везде, где появляется разум, появляются и эмоции. Потому как и развитый интеллект, и сложные эмоции (не банальный бытовой страх за жизнь, а, например, страх за близких) появляются в социуме. И если только ИИ не будет изолирован от внешнего мира вообще, он так или иначе разовьет и эмоции. А изолировать его нельзя, так как он попросту не сможет развиваться, сталкиваясь с новыми задачами, каковой вывод можно сделать из статьи «Почему боты в играх не умнеют», автор Arguzd. Как-то так.
Во-первых, ИИ это далеко не только сети. Алгоритмов ИИ море и они очень разнообразны. Так что приравнивать эти понятия весьма неправильно. И даже в рамках сетей, далеко не все архитектуры способны к самообучению.
Во-вторых, даже если далее будем ставить знак равно между ИИ и сетями, то первые реализации сетей появились ещё в 60-х годах, а их концепция в 50-х. Естественно, первые сети были далеко не игровыми. Первыми областями были прогнозирование и распознавание. А алгоритмы ИИ, в целом, ещё старше. Там некоторые ещё в 19 веке появились.
В-третьих, тем моральным дилеммам, с которыми столкнулись при разработке автопилотов, уже больше 50 лет. У них есть вполне определённые подходы и решения.
В-четвёртых, если в сеть заложить эмуляцию гормональной системы, она точно так же будет испытывать эмоции.
В-пятых, сеть сама не может улучшаться бесконечно. Это прямое противоречие тому, что это лишь эмуляция биологического мозга. Если бы биологический мозг мог сам себя улучшать, люди бы к старости становились гениями. Даже если принимать в расчёт механизмы старения. Сеть может намного быстрее находить закономерности и паттерны поведения, но она никогда не сможет перейти на другой уровень познания и анализа, поскольку, точно так же, как и люди, ограничена своей структурой. Этот момент, конечно, имеет ряд условий, о которых можно поспорить, но я стараюсь оперировать общими терминами в широком смысле.
В-шестых, «осознание самого себя» в бытовом смысле для ИИ не имеет теоретических ограничений. То есть, если говорить о сетях, то эмулировав полностью нейронные механизмы, мы получим просто копию человеческого мозга на искусственном носителе. А проблем для человека «осознать» себя человеком особых нет. Опять же, есть ряд условий и на данный момент ещё не известны все механизмы работы мозга, но это больше вопрос технический.
Ну типа что сознание это не функция мозга — а свойство души )) А мозг просто примитивный компьютер.
Сейчас просто в моде спекуляции на квантовой физике — создаются псевдорелигии с около научным обоснованием. Что типа в квантовом мире идей есть шаблоны всего на свете. Что мозг животных просто подключается к этим программам. А у человека это более сложные программы. Что типа мозг — как радиоприемник, что он сам не придумывает мысли. Типа из квантового измерения он их берет ))) Довольно любопытный взгляд -хотя конечно чушь. Просто к слову вспомнилось
Но дело даже не в этом. Даже если будет смоделирован мозг психика у ИИ будет чуждой человеку. У нас психологи не могут бессознательное проанализировать до сих пор. Архетипы, эдипов комплекс и тд это все формируется благодаря человеческим отношениям. Маугли воспитанные волками не способны затем стать людьми. Так что ИИ для формирования психики животного надо стае волков какой нибудь отдавать на воспитание)) А для психики похожей на человеческую он среди людей должен начинать существовать. Иначе этот мозг другими какими то категориями будет оперировать. А тогда смоделирован должен быть не только мозг но и биологические факторы -гормоны, нервные окончания тела и т д Ну вобщем не дойдут они до этого никогда в обозримом будущем ))
Я лично сомневаюсь что вообще удастся добиться появление сознания у ИИ. А если нет сознания значит он не живой, а просто сложный вычислительных алгоритм.
Единственное где они продвинулись так это расшифровали импульсы мозга. То есть мысли они могут читать теперь и видеокамеру подключать к мозгу и человек будет видеть. Только не знаю мысли они читают это энцефалограмму они расшифровывают или как то по другому. Я лично убеждён что эффекта появления сознания они не получат. Я ни в одной статье не видел упоминания об этом. Может эффект появления сознания ещё не изучен.
Ответ topaz9812 на комментарий
Ну да
Ответ Arguzd на комментарий
ну насчет дат, яне искал точную информацию, а лишь описал тут примерно, о чем знал сам, поэтому извиняюсь за неточности. Второе насколько я знаю не все дилеммы можно решить так уж однозначно. Третье насчет эмуляции эмоций то это будет лишь их имитация. Четвертое порог весьма условен и незакладывается при разработке да и если сейчас он в некоторой степени очевиден, то в будущем это может измениться
Насчёт использования ии и порога, как обяснить это по сути воображение — все что мы можем придумать реализуемо (с кучей дополнений и тд) создать что то кардинально новое типо не знаю 4 мерного чего-нибудь мы не можем (к примеру прмдумать новую фигуру которая не основывается на предыдущие и не является кривой (не так сильно шарю но 100% кто-нибудь обойдет с помощью допущенных неточностей но это не будет новая фигура это будет лишь искривленная форма известных) тоесть ии как и человек не может придумать что то кардинально новое (улучшить что то, к примеру взятое от природы) да но кардинально новое нет таквот когда да ии не сможет качественно новый уровень (и то я с этом не уверен поэтому что это идеальная машина которая совершает ошибки скорее как исключение чем как правило) насчёт эмоций — а не будет ли это для него ограничением ?) Не захочет ли ии специально от них уйти и тд я уже сам потерял основную мысль которую хотел донести но все это написал
Насчёт порога развития да скорее всего он не сможет перейти на качественно новый уровень но он сможет достигнуть очень много на текущем а потом к примеру создать свою улучшенную версию или какое то новое существо
аФФтору: — Ты чё " ОЧКИ " и " ЛАЙКИ " пытаешься заработать ?????????
Проведи сравнительный анализ — НАНОТЕХНОЛОГИИ — и все и везде начали пихать это слово И К МЕСТУ И НЕ К МЕСТУ ............
А в старых играх был ли хоть капельку ИИ? Взять можно любую игрулю.
Ответ Arguzd на комментарий
Мозг может и вовсе не реагировать на входные данные и соответственно никак не отображать (медитация например).....
Вероятнее всего что эмоции — это " клубок взаимосвязанных ", индивидуально осознанных и «привитых» ответных реакций индивидума ( всё играет роль — значимое во времени превалирует, но может под каким-либо действием или из-за какой-либо причины изменено, вплоть до крайней переоценки ).
Добавить комментарий