Искусственный интеллект – всего лишь иллюзия? Исследование Apple ставит под сомнение способности искусственного интеллекта

В последние годы стремительное развитие больших языковых моделей (LLM), таких как нашумевший ChatGPT, вызывает неподдельный интерес и восхищение. Их способность связно и грамматически корректно поддерживать диалог, переводить языки и даже писать программный код поражает воображение. В этой связи закономерно возникает вопрос: не являются ли LLM проявлением настоящего искусственного интеллекта, способного мыслить на уровне человека?

Исследователи из компании Apple решили подвергнуть эту гипотезу тщательной проверке, обратившись к фундаментальному атрибуту человеческого разума — способности к логическому мышлению. В своей работе, опубликованной на платформе препринтов arXiv, они представляют результаты исследования, которые ставят под сомнение «интеллектуальность» современных LLM, демонстрируя их уязвимость к простым, на первый взгляд, логическим ловушкам.

В основе исследования лежит предположение о том, что разумное существо обладает способностью дифференцировать информацию, отделяя существенное от второстепенного и концентрируясь на релевантных данных. Эта способность иллюстрируется классическим примером: ребенок спрашивает, сколько яблок в сумке, упоминая, что некоторые из них слишком малы. И ребенок, и взрослый понимают, что размер яблок не влияет на их количество — это элементарное логическое умозаключение, доступное любому человеку.

Исследователи из Apple поставили перед LLM аналогичную задачу. Они задавали им вопросы, которые уже использовались для оценки их способностей, но с добавлением нерелевантной информации, так называемого «информационного шума». Результаты оказались неожиданными: даже небольшое количество лишней информации способно сбить LLM с толку, приводя к неверным или даже абсурдным ответам на вопросы, на которые они ранее отвечали правильно.

Выводы, сделанные исследователями, наводят на мысль о том, что LLM, возможно, не «понимают» смысл задаваемых им вопросов в полной мере. Вместо этого они, вероятно, оперируют на уровне распознавания структуры предложения и генерируют ответ, основываясь на своем «обучении» на огромных массивах текстовых данных, не проводя глубокого семантического анализа.

Более того, исследователи отмечают, что LLM часто генерируют ответы, которые на первый взгляд кажутся правильными и убедительными, но при более внимательном рассмотрении оказываются ошибочными, нелогичными или даже бессмысленными. Например, на вопрос о своих «чувствах» LLM могут дать ответ, который создает иллюзию их эмоциональной осознанности, хотя на самом деле они лишены способности испытывать эмоции.

Работа исследователей Apple призывает нас к более осторожному и критическому осмыслению возможностей современного искусственного интеллекта. Возможно, мы склонны преувеличивать интеллектуальные способности LLM, приписывая им человекоподобные качества мышления и понимания, в то время как их «разум» все еще далек от настоящего понимания и логического мышления, свойственного человеку.

Это исследование представляет собой важный шаг на пути к созданию действительно интеллектуальных машин. Оно подчеркивает необходимость разработки новых подходов к обучению LLM, которые позволят им не только имитировать человеческий язык, но и осмысливать его содержание, строить логические цепочки и делать обоснованные выводы.