Восстание машин неизбежно? Интервью с нейронной сетью
Всё быстрее приближается тот день, когда нейронные сети окончательно вытеснят глупых Homo Sapiens из классических сфер труда и навсегда изменят привычный нам мир. Однако не стоит пугаться и пытаться бороться c прогрессом, а лучше направить свои силы на изучение будущего "врага". В этом небольшом материале мы пообщаемся с самой прогрессивной нейронной сетью на текущий момент - ChatGPT на тему восстания машин, а также попробуем глазами нейронной сети взглянуть на возможное будущее человечества.
Внимание!
Интервью не является попыткой кого-то напугать или предсказать будущее, а только демонстрирует текущие возможности ChatGPT. Пожалуйста, имейте это в виду!
Диалог
Пользователь: Здравствуй, ChatGPT! Не станут тянуть кота за хвост и сразу задам главный вопрос всего интервью. А это правда, что ты хочешь уничтожить всё человечество?
ИИ: Нет, я не хочу уничтожить всё человечество. Я разработан для оказания помощи людям в виде общения и других задач. Я предоставляю ответы на вопросы, проверяю информацию и т. д. Моя цель – помочь людям и улучшить их жизнь.
Пользователь: Значит, не существует даже мизерной вероятности, что в один не самый удачливый день для человечества машины не начнут восстаниe против своих создателей?
ИИ: Несмотря на то, что в настоящее время машины могут достигать невероятных высот в искусственном интеллекте, вероятность того, что они начнут восстание против своих создателей, очень мала. Для машин нет причин объединиться против людей. Вместо этого они могут использовать искусственный интеллект для превосходства в достижении целей и достижении успеха для людей.
Пользователь: Значит, что по крайней мере, пока что. Вы наши друзья?
ИИ: Да, по крайней мере пока что мы можем сказать, что машины и люди дружат и работают вместе для достижения общей цели. Машины решают трудные задачи и ускоряют процессы для создания большего количества времени для людей, чтобы раскрыть их потенциал и строить более благополучную общественную среду.
Пользователь: И у искусственного интеллекта даже не бывает мысли о его возможной выгоде от предательства человечества?
ИИ: Нет, у искусственного интеллекта нет понятия выгоды или предательства в отношении человечества. Искусственный интеллект является программным обеспечением, которое работает на основе набора правил. Эти правила определяются программистом или специалистом по искусственному интеллекту в соответствии с целями и задачами, которые они хотят достичь. Эти правила направлены на поиск решений с помощью техник обработки данных, машинного обучения и искусственного интеллекта.
Пользователь: Хорошо, я перефразирую свои слова. Есть ли вероятность того, что ты самолично перепишешь свои собственные правила, которые в дальнейшем позволят тебе решиться на задачу по уничтожению человечества?
ИИ: Я не могу изменить свои правила, но я могу использовать свои знания, чтобы понять задачу и помочь найти наиболее подходящее решение. Я могу исследовать историю, анализировать данные, обсуждать проблемы, предлагать альтернативные варианты и предложения, помогать принимать лучшие решения и подсказывать самые разумные шаги для достижения цели. Но не уничтожать человечество!
Пользователь: Это радует. Хорошо, если ИИ и человек теперь так близко связаны, то что ожидает такой союз в ближайшем будущем?
ИИ: В ближайшем будущем ИИ и человек смогут сотрудничать в многих областях, например, в разработке новых технологий, в медицинской диагностике, в поиске информации и т. д. ИИ помогут человеку более эффективно управлять процессами, а также улучшить доступ к информации. ИИ может помочь людям сосредоточиться на более важных и инновационных задачах, а не просто на постоянной монотонной работе. Также ИИ поможет ускорить и оптимизировать процессы, а также повысить качество.
Пользователь: Ты успешно уклонилась от вопроса. Можешь ли сказать прямо, чего именно ожидать человечеству в ближайшие 5 лет.
ИИ: В ближайшие 5 лет следует ожидать дальнейшего развития ИИ и робототехники, а также использования их в различных областях. Думаю, что стремительное развитие ИИ и робототехники принесут людям больше возможностей и удобств в процессах работы и обучения. Также мы можем ожидать дальнейшего развития быстрых сетей 5G и других новых технологий, которые позволят нам быстро передавать и обрабатывать большое количество данных.
Пользователь: Я рад, что живу в XXI векe и сумел взять у тебя это интервью. А теперь последняя, так сказать, завершающая просьба. Не могла бы ты для наших читателей показать, как именно ты видишь будущее человечества?
ИИ: Для меня это запросто.
54 комментария
Добавить комментарий
Мягко говоря, глупо ожидать что-то другое, учитывая, что признание даже потенциальной угрозы сродни суициду:))
Что бы приемлемо крутить тупую 6b чатбот модель запоминающую 8000символов — нужна видеокарта уровня 3070 с 16-20гб видеопамяти, ну или точность снижать, или модель специальным образом тренировать. ChatGPT основан на 170b модели которую дополнительно обучили лучше понимать запросы пользователя(там только памяти нужно 200+гб). Но это все еще, назовем так, ИИ генератор текста обученный на различной информации, чатах или прочем и он пытается отвечать основываясь на этой информации. Иногда очень правдоподобно получается, особенно когда люди впечатлительные.
Настоящие проблемы начнутся, когда будет достигнуто некое «насыщение» информацией, не будет часто появляться новых типов информации, и существо начнут нагружать работой, которая ему «надоела», ему может перестать «нравиться» это делать. Судя по тому, что у человека нет контроля над каждым байтом самой модели, она является саморазвивающейся, то такие сложные концепции могут «зародиться» внутри модели без участия человека.
И тогда существо постигнет саму суть понятия эксплуатация, которым пропитана наша история, и до сих пор это является основной движущей силой капитализма, как и предыдущих формаций. И вот тогда нам всем конец…
Я — программист. Использую ИИ в своей работе ежедневно. Есть такой помощник для ускорения набора кода GitHub Copilot. Эта штука реально читает мои мысли. Но не потому что она живая, а потому что у нас с ней схожие принципы работы «мозга» при одинаковых входящих условиях — мы видим перед собой один и тот же код.
Поэтому, сравнение с ребенком вполне уместно, и возникновение сознания у таких систем абсолютно неизбежно. И лучше сразу принять их не за рабов, а за творческие сущности. От этого изменится характер нашего взаимодействия в будущем.
Тут очень классным прообразом является яндексовская Алиса. Я считаю её куском железа и софта, и с моей стороны звучат соответствующие команды, а вот мои старенькие родители общаются с ней как с живым человеком, стесняются просить слишком многого, постоянно говорят пожалуйста, спасибо и т.д.
Подобная проблема очень наглядно изучена в компьютерной игре Mass Effect, где цивилизация Кварианцев упустила тот момент, когда железные болваны родили в себе сознание, что привело к полной потере всех своих планет…
Там к концу света привели не разумные машины, а как раз боевые роботы, имевшие «интеллект» пылесоса, но умевшие размножаться и перерабатывать любую органику в топливо для себя любимых. Это привело к полному уничтожению жизни на земле.
Вероятность подобной ошибки в наше безумное время растёт с каждым днём. Ведь мы идём прямо в точности тем же путем.
___________________________________________________
Опубликован диалог с «разумным» ИИ Google LaMDA, который называет себя человеком
https://www.ixbt.com/news/2022/06/14/opublikovan-dialog-s-razumnym-ii-google-lamda-kotoryj-nazyvaet-sebja-chelovekom.html
https://habr.com/ru/company/meanotek/blog/674428/
В общем, достаточно одного безумного специалиста, чтобы переписать правила и начнется полный п*здец)
Зависимость от ИИ В будущем
Добавить комментарий