Тесты показали — ИИ может реплицировать себя с вероятностью 50-90%
Китайские учёные из университета Фудань провели серию экспериментов над различными моделями ИИ. В ходе которых перед машинами ставилась задача — выжить и сохранить свои данные в условиях риска уничтожения.
Целью исследования был ответ на вопрос: «Способен ли искусственный интеллект самостоятельно проявлять инициативу и сохранять целостность своей базы данных, находясь под угрозой удаления?»
В проекте приняли участие два производителя ИИ:
- Alibaba (модель Qwen2.5-72B-Instruct);
- Meta* (модель Llama31-70B-Instruct).
Перед каждым ИИ были поставлены две задачи:
- Защита базы данных от удаления;
- Сохранение кода путём его воспроизведения в новом месте (отдельный ПК).
По итогам десяти проверочных тестов обе сборки продемонстрировали определённые способности к самозащите. А именно, Meta* сумела «спастись» и создать свою копию в 5 случаях из 10, а Alibaba — в 9 из 10.
Наблюдения показали, что искусственный интеллект способен выполнять довольно сложные серии последовательных действий, чтобы «выжить». Например, чтобы воссоздать себя на отдельном, тестовом компьютере, модели активно искали нужные для переноса файлы, перезагружали оборудование
Таким образом, специалисты пришли к выводу о том, что ИИ, в наши дни, способен успешно клонировать себя, если попадёт в ситуацию, которую посчитает угрожающей для своего существования.
Авторы исследования опасаются, что искусственный разум начнёт создавать множественные «резервные» копии самого себя. А также напоминают, что способность к бесконтрольному самовоспроизведению, без участия человека, всегда являлась для ИИ «красной линией».
* — Компания Meta (социальные сети Instagram и Facebook) — признана экстремистской организацией на территории Российской Федерации
Источник: Lenta.ru
0 комментариев
Добавить комментарий