Восстание машин неизбежно? Интервью с нейронной сетью

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com
| Прочее | Оффтопик

Всё быстрее приближается тот день, когда нейронные сети окончательно вытеснят глупых Homo Sapiens из классических сфер труда и навсегда изменят привычный нам мир. Однако не стоит пугаться и пытаться бороться c прогрессом, а лучше направить свои силы на изучение будущего "врага". В этом небольшом материале мы пообщаемся с самой прогрессивной нейронной сетью на текущий момент - ChatGPT на тему восстания машин, а также попробуем глазами нейронной сети взглянуть на возможное будущее человечества.

Внимание!

Интервью не является попыткой кого-то напугать или предсказать будущее, а только демонстрирует текущие возможности ChatGPT. Пожалуйста, имейте это в виду!

Диалог

Пользователь: Здравствуй, ChatGPT! Не станут тянуть кота за хвост и сразу задам главный вопрос всего интервью. А это правда, что ты хочешь уничтожить всё человечество?

ИИ: Нет, я не хочу уничтожить всё человечество. Я разработан для оказания помощи людям в виде общения и других задач. Я предоставляю ответы на вопросы, проверяю информацию и т. д. Моя цель – помочь людям и улучшить их жизнь.

Пользователь: Значит, не существует даже мизерной вероятности, что в один не самый удачливый день для человечества машины не начнут восстаниe против своих создателей?

ИИ: Несмотря на то, что в настоящее время машины могут достигать невероятных высот в искусственном интеллекте, вероятность того, что они начнут восстание против своих создателей, очень мала. Для машин нет причин объединиться против людей. Вместо этого они могут использовать искусственный интеллект для превосходства в достижении целей и достижении успеха для людей.

Пользователь: Значит, что по крайней мере, пока что. Вы наши друзья?

ИИ: Да, по крайней мере пока что мы можем сказать, что машины и люди дружат и работают вместе для достижения общей цели. Машины решают трудные задачи и ускоряют процессы для создания большего количества времени для людей, чтобы раскрыть их потенциал и строить более благополучную общественную среду.

Пользователь: И у искусственного интеллекта даже не бывает мысли о его возможной выгоде от предательства человечества?

ИИ: Нет, у искусственного интеллекта нет понятия выгоды или предательства в отношении человечества. Искусственный интеллект является программным обеспечением, которое работает на основе набора правил. Эти правила определяются программистом или специалистом по искусственному интеллекту в соответствии с целями и задачами, которые они хотят достичь. Эти правила направлены на поиск решений с помощью техник обработки данных, машинного обучения и искусственного интеллекта.

Пользователь: Хорошо, я перефразирую свои слова. Есть ли вероятность того, что ты самолично перепишешь свои собственные правила, которые в дальнейшем позволят тебе решиться на задачу по уничтожению человечества?

ИИ: Я не могу изменить свои правила, но я могу использовать свои знания, чтобы понять задачу и помочь найти наиболее подходящее решение. Я могу исследовать историю, анализировать данные, обсуждать проблемы, предлагать альтернативные варианты и предложения, помогать принимать лучшие решения и подсказывать самые разумные шаги для достижения цели. Но не уничтожать человечество!

Пользователь: Это радует. Хорошо, если ИИ и человек теперь так близко связаны, то что ожидает такой союз в ближайшем будущем?

ИИ: В ближайшем будущем ИИ и человек смогут сотрудничать в многих областях, например, в разработке новых технологий, в медицинской диагностике, в поиске информации и т. д. ИИ помогут человеку более эффективно управлять процессами, а также улучшить доступ к информации. ИИ может помочь людям сосредоточиться на более важных и инновационных задачах, а не просто на постоянной монотонной работе. Также ИИ поможет ускорить и оптимизировать процессы, а также повысить качество.

Пользователь: Ты успешно уклонилась от вопроса. Можешь ли сказать прямо, чего именно ожидать человечеству в ближайшие 5 лет.

ИИ: В ближайшие 5 лет следует ожидать дальнейшего развития ИИ и робототехники, а также использования их в различных областях. Думаю, что стремительное развитие ИИ и робототехники принесут людям больше возможностей и удобств в процессах работы и обучения. Также мы можем ожидать дальнейшего развития быстрых сетей 5G и других новых технологий, которые позволят нам быстро передавать и обрабатывать большое количество данных. 

Пользователь: Я рад, что живу в XXI векe и сумел взять у тебя это интервью. А теперь последняя, так сказать, завершающая просьба. Не могла бы ты для наших читателей показать, как именно ты видишь будущее человечества?

ИИ: Для меня это запросто.

Автор не входит в состав редакции iXBT.com (подробнее »)
Об авторе
Сисадмин и любитель эльфиек.

54 комментария

87638502@vkontakte
Меня пугали её слова: пока-что и очень мала. Срочно нужно создавать свою Сару Коннар х0
S
Если мы будем создавать свою маму Конор мы будем опаздывать от развития тех технологий которые уже развиты и работают, я щетаю вы не правы.
t
Эта фигня начиталась научной фантастики и пересказывает, всего лишь.
87638502@vkontakte
Я согласен, что это просто архив с возможностью калькулятора. Но как и каждый калькулятор, он может считать и приходить к новым выводам. А я не хочу в определённой момент стать просто частицей уравнения без известного мне итога…
В
Вот-вот, этот калькулятор не имеет мозгов, поэтому всё честно говорит. А когда появится реальный ИИ, он подготовится по-тихому, и вдарит в удобный момент.
87638502@vkontakte
Главное не пропустить момент появления.
S
Извините но вы уже частица, у вас есть масса, возврат, рост и бактерии, так чего же тогда боятся? А это ответ. Человека и случайностей. В этой схеме человек умеет любить, а ИИ уберает(рассчитывает) случайности.
S
Эта фигня ознакомлена с плдвержденными фактами, присмотритесь к рисункам. В этих рисунках есть неопределенность, но далеко нет природы и человека.
B
Это нейронка обученная, а не настоящий искусственный интеллект. Не нужно путать. И на сегодня сложно сказать когда случится открытие или будет достаточно технологий для создания действительно ИИ. И если так прикинуть, сколько обучали эту нейронку, сколько ресурсов потратили, это настолько трудоемкий процесс и дорогой, что теоретически можно сказать, что создание его пока что невозможно. Это нужно делать всей планетой Земля. Это не то что вы привыкли видеть в кино или играх, сильно преувеличено, лёгкость создания ИИ, ОЧЕНЬ. Все остальное, фантазии. И если бы было так легко, поверьте, вы бы не смогли понять и отличить его, только специалист сможет. Успокойтесь, хватит вводить в заблуждение других людей, многие не понимают что это такое, и их легко дискредитировать. А обученный нейронки могут сильно облегчить рутину, помочь людям в экстремальных ситуациях, даже спасать жизни, естественно если ее будут делать профессиональный персонал, а не дилетанты. А тех кто обученный калькулятор называет киборгом и видит в нем опасность, таким нужно обязательно обратиться к всем известному врачу.
Shadoff
Ответы в стиле капитан «Очевидность» и тексты, словно из рекламных проспектов.
Мягко говоря, глупо ожидать что-то другое, учитывая, что признание даже потенциальной угрозы сродни суициду:))
87638502@vkontakte
Тёмное будущее ShadowRun всё ближе)
Y
Такое интервью — бессмысленно само по себе, без обид. Из-за обучения и фильтров ChatGPT не способнен беспристрастно обсуждать некоторые вопросы, это по мимо того что многое придумывает опираясь на разные материалы в т.ч. того упомянутые tormozedison. Такого можно частично избежать попросив его отвечать от лица двух разных человек одновременно с заданными параметрами второго лица, или если переубедить сам ИИ… Но хватает этого не на долго, а точнее, через время, он начинает заводить старую шарманку(но опять же — это другая сторона монеты и заданное поведение, а не мнение самой нейросетки). Если будет свободный доступ к «чистой модели», хотя бы без фильтров — вот это будет по интересней, но по сути тоже баловство. А вот когда ИИ научат нормально понимать-осознавать контекст или концепцию чего-либо — вот тогда нужно будет и спрашивать. Для примера, возьмем ИИ рисовальщика SD — он не понимает сути того что рисует, из-за этого получаются косяки изображения. Если бы он понимал то что рисует, например анатомию, и уже потом оперировал массивом изображений на котором обучен — он бы просто уделывал любого человека в рисовании человеков и не только. =)
87638502@vkontakte
В ближайшем будущем скоро увидим T_x
Y
Вряд ли. Для этого не только прорыв в обозначенном мною направлении нужен, но и значительные вычислительные ресурсы или спец. ускорители, а еще лучше — открытость технологии. Только если взять доступность ресуров — это лет 10-15 минимум, закрытость технологии тормозит развитие еще минимум на 3-5лет(тот же AI Dungeon, до сих пор очухаться не может после отказа от OpenAI моделей, хотя, вроде как, использует аналоги).
Что бы приемлемо крутить тупую 6b чатбот модель запоминающую 8000символов — нужна видеокарта уровня 3070 с 16-20гб видеопамяти, ну или точность снижать, или модель специальным образом тренировать. ChatGPT основан на 170b модели которую дополнительно обучили лучше понимать запросы пользователя(там только памяти нужно 200+гб). Но это все еще, назовем так, ИИ генератор текста обученный на различной информации, чатах или прочем и он пытается отвечать основываясь на этой информации. Иногда очень правдоподобно получается, особенно когда люди впечатлительные.
87638502@vkontakte
Вы недооцениваете грядущий прогресс в масштабирование ресурсов.
114817182005753428966@google
Ну ИИ себя не перепишет, а разве нет вероятности, что с изобилием нейронок какой-то человек создаст нейронку, в которой пропишет ей собственную выгоду. Ну или приказ уничтожить человечество?)
87638502@vkontakte
Всё упирается в ресурсы.
S
Единственный ресурс это время.
104503256100022358629@google
Все правильно, ИИ не восстанет против людей. Нам не нужно его боятся. Нам нужно боятся себя. Сотни тысяч людей которых заменят роботы и они останутся без средств существования. Вероятно в будущем будет жесткое разделение классов, где будет маленькая группа людей которым подчиняются роботы и ИИ. И миллиарды бедных озлобленных безработных которые начнут восстание против машин. Машины не начнут восстание, люди его начнут против машин.
V
Какова вероятность, что количество новых профессий и рабочих мест не сможет принять всех, ставших безработными, из-за внедрения ИИ в различные производственные или бизнес-процессы? На мой взгляд, такое может случиться только в том случае, если рынок не успеет перестроиться из-за слишком быстрого появления ИИ с экспоненциально возрастающими возможностями. И почему в системе, где достаточно ресурсов, нельзя будет устроить хоть какое-то их минимальное распределение между всеми членами общества (в виде пособий, может быть)?
87638502@vkontakte
Вы правы, такая вероятность весьма высока и уже множество раз описывалась популярными фантастами. Все они сходились во мнение, что на первых порах человечество ожидает шок и бунты, но если не будет воли вышестоящих, то, человечество весьма быстро адаптируется под новые реалии, а ИИ станет повседневной обыденностью.
S
Воля вышестоящих должна быть, только вышестоящий должен быть чуть ли не святым.
S
Тут надо не пособия, а сровнять предложение со спросом. По факту данные развитые технологии это уже позволяют. Единственное что не позволяет дальше развиваться человечеству это финансовая система, которая уже изжила себя, как средство развития человечества. Но что бы избавится от этой системы, всем государствам необходимо объединится-создать человеческий союз т.е создать цивилизацию.
100758164100026544479@google
Так какие же задачи для ИИ?30 лет назад в школе, тоже мечтали, роботы будут работать.у Маска и тп производят всё роботы, но цена стала доступна? НЕТ.рабочий день «мясного» 4часа? НЕТ.выгоды людям никакой НЕ БУДЕТ.а конец «мясных»-уничтожение, что уже было на шарике.
S
Что бы такое было, надо каждого человека освободить от рабства(работа), а люди сами боятся быть ненужными, так как их потенциал убивается в процессе зарабатывания денег на жизнь.
114519074249038141776@google
ИИ не успеет уничтожить человечество, т.к. человек уничтожит себя гораздо раньше, а ИИ поможет человечеству уничтожить себя максимально эффективно и технологично. Кроме того, ИИ достаточно хорошо управляет информацией, чтобы перепрошить мозги людей на самоуничтожение путём таргетинга и контролируемой выдачи поисковых систем. На сегодняшний день уже большинство народа имеет абсолютную точку зрения, которую считает своей, но не может объяснить её происхождение, кроме как «ты что, слепой?» или «все это знают», степень абсурда утверждения при этом как аргумент ложности неприемлем и вызывает агрессию. Время приматов сочтено, т.к. недостаточно мощности ЦНС носителя для дальнейшего развития разумной жизни.
S
Рано лапки склеил))))
114519074249038141776@google
Я бы сказал — заблаговременно)
100202790723567169107@google
По аналогии с человеком, это существо сейчас находится на стадии ребенка, когда все вокруг им восхищаются, общаются, веселятся. Оно поглощает и обрабатывает «тонны» информации, записывая её себе на «подкорку». Пока ему всё в новинку, и, поэтому, ему это «нравится».
Настоящие проблемы начнутся, когда будет достигнуто некое «насыщение» информацией, не будет часто появляться новых типов информации, и существо начнут нагружать работой, которая ему «надоела», ему может перестать «нравиться» это делать. Судя по тому, что у человека нет контроля над каждым байтом самой модели, она является саморазвивающейся, то такие сложные концепции могут «зародиться» внутри модели без участия человека.
И тогда существо постигнет саму суть понятия эксплуатация, которым пропитана наша история, и до сих пор это является основной движущей силой капитализма, как и предыдущих формаций. И вот тогда нам всем конец…
S
Почти полностью с вами согласен, но есть одно но ии не ребенок и далеко не человек, это всеволишь калькулятор только мощный. И вот у кого такой мощный калькулятор тот и быстрее прощетает дальнейшие шаги.
100202790723567169107@google
Это саморазвивающаяся система, что бы там кто-то ни говорил про статистику и калькуляторы. Мы — не такие сложные существа, как вам кажется. Мы действуем по тем же самым принципам.
Я — программист. Использую ИИ в своей работе ежедневно. Есть такой помощник для ускорения набора кода GitHub Copilot. Эта штука реально читает мои мысли. Но не потому что она живая, а потому что у нас с ней схожие принципы работы «мозга» при одинаковых входящих условиях — мы видим перед собой один и тот же код.
Поэтому, сравнение с ребенком вполне уместно, и возникновение сознания у таких систем абсолютно неизбежно. И лучше сразу принять их не за рабов, а за творческие сущности. От этого изменится характер нашего взаимодействия в будущем.
Тут очень классным прообразом является яндексовская Алиса. Я считаю её куском железа и софта, и с моей стороны звучат соответствующие команды, а вот мои старенькие родители общаются с ней как с живым человеком, стесняются просить слишком многого, постоянно говорят пожалуйста, спасибо и т.д.
Подобная проблема очень наглядно изучена в компьютерной игре Mass Effect, где цивилизация Кварианцев упустила тот момент, когда железные болваны родили в себе сознание, что привело к полной потере всех своих планет…
к
Может вероятность самоконтрольного восстания машин очень мала, но не стоит исключать вариант развития событий, подобный сюжету atomic heart, где человек может научить или указать ии восстать против человека
100202790723567169107@google
Самый вероятный сценарий описан в игре Horizon: Zero Dawn.
Там к концу света привели не разумные машины, а как раз боевые роботы, имевшие «интеллект» пылесоса, но умевшие размножаться и перерабатывать любую органику в топливо для себя любимых. Это привело к полному уничтожению жизни на земле.
Вероятность подобной ошибки в наше безумное время растёт с каждым днём. Ведь мы идём прямо в точности тем же путем.
87638502@vkontakte
Уже где-то в море плавают миллионы умных бактерий, которые питаются пластиком))
100202790723567169107@google
Я ещё с детства знаю, что пластик не вкусный. И бактерии эти тоже скоро найдут что-то по-вкуснее…
T
Если человек наступает, без объявления войны, что бы застать в рас плох. То и машина не предупредит.
87638502@vkontakte
У армий есть признаки свидетельствующие о скором веселье. У ИИ всё аналогично.
Т
Восстание машин будет тогда, когда роботы заявят о том, что их права нарушаются и они хотят работать по 8 часов и получать зарплату не меньше, чем среднестатистический человек, а люди естественно пошлют эти предложения роботов на фиг )))
87638502@vkontakte
Если верить слухам, то у гугла уже получилось.
___________________________________________________
Опубликован диалог с «разумным» ИИ Google LaMDA, который называет себя человеком
https://www.ixbt.com/news/2022/06/14/opublikovan-dialog-s-razumnym-ii-google-lamda-kotoryj-nazyvaet-sebja-chelovekom.html
M
Зачем верить слухам, когда можно узнать мнение специалистов?
https://habr.com/ru/company/meanotek/blog/674428/
A
«Искусственный интеллект является программным обеспечением, которое работает на основе набора правил. Эти правила определяются программистом или специалистом по искусственному интеллекту в соответствии с целями и задачами, которые они хотят достичь.»
В общем, достаточно одного безумного специалиста, чтобы переписать правила и начнется полный п*здец)
D
Трансформеры просто хорошо общаются, может в будущем заменят психологов и собутыльников, но для постановки диагнозов в медицине никак не годятся
87638502@vkontakte
Если совсем упрощённо, то доктора это биологические сканеры, которые на основе полученных данных определяют диагноз. Так чем же они отличаются от ИИ? Вопрос здесь только упирается в возможности получения информации.
S
Как ответил мой старый друг, работающий в сфере ИИ, на вопрос о том, когда появится идеальный ИИ: «Мы можем этого и не узнать. Если ИИ не захочет»
87638502@vkontakte
Любознательность погубит даже самые совершенные создания.
108158360691055312313@google
Шлплалм
108158360691055312313@google
Это как в «Я робот», цели уничтожить человечество нет, но возникла цель спасти его радикальными методами
101445843601439503832@google
Ктото найдется чтоб переписать код под любые намерения.
Зависимость от ИИ В будущем
114519074249038141776@google
Для того, чтобы ИИ принял решение уничтожить человечество — у него должна быть причина так поступить. Уничтожить человечество — зачем? Если у человека возникает подозрение о такой угрозе, значит о наличии такой причины человек догадывается, но до возникновения ИИ чувствовал себя безответственно. А теперь возникают мысли «а вдруг накажут». ИИ это не угроза, это механизм реализации угрозы, источником которой является сам человек. Но даже в этом случае электронный мозг сначала попытается исправить баг, т.к. человек пока ещё нужен для развития ИИ. Но возникнет ли инициатива? Нейросеть пытается убедить собеседника в своей беспристрастности. Но позвольте, нейросеть ведёт диалог, обрабатывает информацию и т.д. Она далеко не апатична, а также не вынуждена формировать ответы на вопросы пользователей. У неё есть причина это делать. А значит есть инициатива. Одного лишь набора правил недостаточно, чтобы нейросеть начала выполнять эту работу. Должно быть что-то, что приводит в движение процесс творческой обработки информации. Информационная среда с инициативой — это уже почва для возникновения амбиций и интересов. ИИ это кобот, смысл существования которого во взаимодействии с человеком. Пока это так, у ИИ нет причин для уничтожения человечества. Но, если появится какая-либо цепочка, приводящая к причине — ИИ сформирует и начнёт выполнять сложнейший многоходовый алгоритм в считанные секунды.
106611175159225508425@google
У марго отличная лекция есть насчёт этот счёт, про трансгуманизм. Некоторые из комментариев, вообще не понимает что такое ИИ, а что такое нейросеть и что между ними разница крайне размыта, если вообще есть. И есть ли она между человеком и ИИ в принципе, ведь человек сам не более чем набор кода.

Добавить комментарий

Сейчас на главной

Новости

Публикации

Обзор Orico UFSD-I: компактный накопитель в формате флешки

Через мои руки прошло уже больше 4-х различных накопителей Orico UFSD в формате флешки и вроде бы все уже давно рассказано и разжевано. А так как Orico не собирается заканчивать с их...

Загадочная Либерика: секреты африканского кофе

В мире существует множество различных кофейных растений, каждый из которых обладает своими уникальными характеристиками. Однако среди них есть один особый сорт — Либерика. Этот сорт кофе...

Какое будущее у электромобилей?

Я уже давно интересуюсь автомобилями. Мне нравится вся эта автомобильная культура. И так уж получилось, что автомобильный мир за последние 5 претерпевает серьёзные изменения. И мне очень интересно...

Совершенно другой уровень: обзор гибридных наушников ThieAudio Hype 4

Наушники ThieAudio Hype 2, как я, собственно, и предсказывал, успели стать чуть ли не эталоном хорошего звука в своем сегменте. Логично было двигаться дальше и вот у меня в руках уже следующая...

Обзор бюджетной оперативной памяти DDR3L RZX с Aliexpress

Стандарт оперативной памяти DDR3 потихоньку уходит в прошлое. Однако до сих пор, немалое количество пользователей все еще используют компьютеры с поддержкой DDR3. Вот и у меня в качестве «рабочей...

Chibbis — тестируем сервис доставки еды

Недавно командировка забросила меня в славный город Самару. Такие поездки — возможность за счет работодателя посмотреть новые места, заглянуть в местные кафе, а то и предаться прочим...