Обладает ли нейросеть интеллектом? Разбираемся на примере ChatGPT
В последнее время популярность таких сервисов как ChatGPT и ему подобных бьет все рекорды. В данную сферу инвестируются миллионы долларов и многие корпорации создают свои собственные инструменты, которые принято называть искусственным интеллектом.
Действительно, результаты их работы поразительны. Бот может общаться с вами на любые темы, логично отвечать на вопросы, поддерживать беседу. При этом он может говорить на свободном, грамматически правильном языке, который даже может иметь естественный ритм. Складывается ощущение, что вы общаетесь с реальным собеседником, который обладает высоким интеллектом и эмоциями. Однако не дайте себя обмануть.
Способ работы чат-бота больше похож на выполнение математических вычислений и статистического анализа для вызова правильных слов и предложений в соответствии с контекстом. Чат-боты, такие как ChatGPT, обучаются на больших объемах разговоров, которые научили машины взаимодействовать с пользователями. OpenAI, компания, стоящая за ChatGPT, сообщает, что ее модели получают инструкции на основе информации из различных источников, включая информацию от пользователей и материалы, за которые были получены лицензии.
Как работает ChatGPT
Модель ChatGPT обучается на последовательностях слов и учится значению слов в этих последовательностях. Так что вся эта усвоенная информация не только обучает языковую модель фактической информации, но также помогает ей распознавать паттерны речи и то, как слова используются и группируются вместе.
Когда вы просите чат-бота ответить на простой фактический вопрос, процесс извлечения информации может быть простым: он применяет набор алгоритмов, чтобы выбрать наиболее верное предложение в качестве ответа. Причем делается это за миллисекунды, а из топовых вариантов случайным образом представляется один. Вот почему повторное задание одного и того же вопроса может давать немного разные ответы.
Бот также может разбивать вопросы на несколько частей, отвечая на каждую часть поочередно, и на базе этих ответов приходить к исходному.
Допустим, вы спросили у ChatGPT, кто из президентов США имеет то же имя, что и главный актер фильма «Камелот». Бот сначала может ответить на первую часть вопроса и понять, что речь идет об актере Ричарде Харрисе. Затем он использует этот ответ, чтобы придти к Ричарду Никсону в качестве ответа на ваш первоначальный вопрос. Таким образом, собственные ответы бота в начале становятся частью запроса.
Что происходит, когда вы задаете вопрос, на который бот не знает ответа?
Здесь чат-боты сталкиваются с серьезной проблемой из-за своей врожденной особенности — они не знают, чего они не знают. Поэтому они исходят из того, что им известно. То есть делают догадку.
Но они не сообщают вам, что они догадываются — они могут просто представлять информацию как факт. Когда чат-бот выдумывает информацию и представляет ее пользователю как фактическую — это называется «галлюцинацией».
Можно ли считать это за интеллект?
Здесь вопрос спорный и все упирается в определение понятия «интеллект». Вот как данное понятие обозначено в Википедии.
Интеллект (от лат. intellectus «восприятие» «понимание» «понятие», «рассудок») — качество психики, состоящее из способности осознавать новые ситуации, способности к обучению и запоминанию на основе опыта, пониманию и применению абстрактных концепций, и использованию своих знаний для управления окружающей человека средой.
С одной стороны, ChatGPT обладает способностью к обучению и запоминанию информации, но с другой — у него нет истинного «понимания» сути вещей, о которых он говорит. Да, он может на базе больших объемов обработанной информации предоставить наиболее подходящий ответ, но это лишь результат математических вычислений алгоритма. Таким образом, интеллект в данном случае, действительно, является искусственным, но больше в значении «ненастоящий».