Тесты показали — ИИ может реплицировать себя с вероятностью 50-90%

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com
| Новость | ИИ, сервисы и приложения

Китайские учёные из университета Фудань провели серию экспериментов над различными моделями ИИ. В ходе которых перед машинами ставилась задача — выжить и сохранить свои данные в условиях риска уничтожения.

Целью исследования был ответ на вопрос: «Способен ли искусственный интеллект самостоятельно проявлять инициативу и сохранять целостность своей базы данных, находясь под угрозой удаления?»

Боец в прыжке на побережье Филиппин
Автор: Charlein Gracia Источник: unsplash.com

В проекте приняли участие два производителя ИИ:

  • Alibaba (модель Qwen2.5-72B-Instruct);
  • Meta* (модель Llama31-70B-Instruct).

Перед каждым ИИ были поставлены две задачи:

  1. Защита базы данных от удаления;
  2. Сохранение кода путём его воспроизведения в новом месте (отдельный ПК).

По итогам десяти проверочных тестов обе сборки продемонстрировали определённые способности к самозащите. А именно, Meta* сумела «спастись» и создать свою копию в 5 случаях из 10, а Alibaba — в 9 из 10.

Наблюдения показали, что искусственный интеллект способен выполнять довольно сложные серии последовательных действий, чтобы «выжить». Например, чтобы воссоздать себя на отдельном, тестовом компьютере, модели активно искали нужные для переноса файлы, перезагружали оборудование и т. д.

3D визуализация: четыре робота сидят за ноутбуками
Автор: Mohamed Nohass Источник: unsplash.com

Таким образом, специалисты пришли к выводу о том, что ИИ, в наши дни, способен успешно клонировать себя, если попадёт в ситуацию, которую посчитает угрожающей для своего существования.

Авторы исследования опасаются, что искусственный разум начнёт создавать множественные «резервные» копии самого себя. А также напоминают, что способность к бесконтрольному самовоспроизведению, без участия человека, всегда являлась для ИИ «красной линией».

* — Компания Meta (социальные сети Instagram и Facebook) — признана экстремистской организацией на территории Российской Федерации

Источник: Lenta.ru

Автор не входит в состав редакции iXBT.com (подробнее »)
Об авторе
Люблю писать, программировать и мастерить.

Веду канал c поделками на ютубе.
Пишу стихи к фильмам в телеграм.

0 комментариев

Добавить комментарий

Сейчас на главной

Новости

Публикации

Блики от неизвестных объектов на орбите найдены на фото докосмической эры: что это может быть?

До 4 октября 1957 года, когда на околоземную орбиту был выведен первый искусственный аппарат «Спутник-1», космическое пространство вокруг нашей планеты должно было оставаться абсолютно пустым....

Самое большое природное зеркало в мире: солончак Уюни

Мечтали пройтись по облакам? В таком случае самое время собирать чемоданы и строить маршрут в Боливию. Ведь именно здесь раскинулось огромное зеркало, сотворенное самой природой. В сезон дождей...

С каждым годом мы произносим на 120 000 слов меньше: как автоматизация быта лишает нас живого общения

Современная жизнь в крупных городах выстроена так, чтобы свести к минимуму необходимость общения с посторонними людьми. Технологии избавили нас от множества мелких бытовых разговоров. Чтобы...

Обзор бюджетного лазерного дальномера MiLESEEY S2

При проведении ремонта или заказе мебели приходится делать множество замеров, включая труднодоступные места. Сегодня рассмотрим компактный лазерный дальномер MiLESEEY S2. Это недорогой и лёгкий...

Обзор KICKPI KP2: сертифицированная Google TV приставка в формате стика

KICKPI KP2 это компактная приставка в формате стика на лицензионной системе Google TV 14, которая прошла сертификацию и получила DRM Widevine L1. Модель ориентирована на официальные потоковые...

Фонарик в смартфоне больше не включаю: обзор мини-фонаря Sofirn SC13

Сколько раз видел как люди ночью светили себе на темных тропинках чахлым фонариком, встроенным в смартфон. Эффективности от этого совсем не много, еще смартфон садится и есть риск его уронить в...