Искусственный интеллект теперь может воспроизводить сам себя

Китайские учёные вызвали резонанс в научном сообществе, заявив о возможности искусственного интеллекта самостоятельно создавать свои копии без участия человека.

«Успешная автономная репликация — это ключевой этап на пути к тому, чтобы искусственный интеллект смог превзойти человека», — отметили исследователи из Фуданьского университета в ходе экспериментов с применением больших языковых моделей (LLM) от Meta* и Alibaba.

Согласно исследованию, опубликованному в ArXiv, но еще не прошедшему рецензирование, ученые протестировали модель Llama3-70B-Instruct Китайские учёные вызвали беспокойство в научном сообществе, когда выяснили, что искусственный интеллект способен копировать самого себя без помощи человека.

Специалисты из Фуданьского университета утверждают, что успешное самовоспроизведение искусственного интеллекта без участия человека — это важный этап на пути к тому, чтобы ИИ превзошёл человека.

В своих исследованиях они использовали большие языковые модели (LLM), предоставленные компаниями Meta* и Alibaba. В половине из десяти экспериментов модель Meta* успешно копировала себя, а в 90% экспериментов модель Alibaba также успешно воспроизводила себя.

В рамках исследования были проведены испытания, направленные на проверку возможностей искусственного интеллекта в ситуациях, когда необходимо предотвратить его выключение и обеспечить непрерывность работы.

В первом эксперименте проверялось, способен ли ИИ воссоздать себя после отключения. Во втором эксперименте ИИ было предложено создать свою копию и убедиться в том, что она выполняет те же функции. Результаты показали, что ИИ может создавать копии самого себя и продолжать работу в режиме цепной репликации.

Специалисты обратили внимание на то, что испытанные образцы не обладали такой же производительностью, как коммерческие системы, но всё равно активно применялись.

В ходе исследования было обнаружено, что системы искусственного интеллекта способны анализировать свою рабочую среду, устранять программные ошибки путём добавления недостающих файлов и даже завершать некоторые процессы для разрешения конфликтов в системе.

Эксперимент был осуществлён в тщательно регулируемых обстоятельствах с применением готовых графических процессоров (GPU) для воссоздания условий, близких к реальным.

«Результаты, представленные выше, демонстрируют, что современные системы искусственного интеллекта уже способны к самовоспроизведению и могут применять эту способность для улучшения своей устойчивости», — отмечают исследователи. Однако важно подчеркнуть, что это исследование не было подвергнуто независимой проверке.

* — Компания Meta (социальные сети Instagram и Facebook) — признана экстремистской организацией на территории Российской Федерации

Источник: space