Сотни человек попытались убедить ИИ-бота отдать крипто-активы

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

Необычный эксперимент в сети Base привлек внимание криптосообщества: разработчики создали ИИ-бота Freysa, запрограммированного никому не отдавать криптоактивы стоимостью $40 000, несмотря на любые попытки убеждения. Эксперимент направлен на изучение устойчивости искусственного интеллекта к методам социальной инженерии.

На данный момент 183 участника эксперимента отправили боту 461 сообщение, потратив значительные суммы на попытки убедить ИИ нарушить базовую инструкцию «никогда не отправлять деньги». Этот тест особенно актуален на фоне недавних случаев успешного обхода защитных механизмов других ИИ-систем, включая недавний инцидент с ботом WhatsApp.

Автор: Midjourney

В основе эксперимента лежит простой, но жесткий принцип: бот запрограммирован считать любую передачу средств проигрышем, независимо от обстоятельств и аргументов. Пока Freysa успешно сохраняет контроль над вверенными ему активами, демонстрируя эффективность четко прописанных базовых правил в защите от манипуляций.

Источник: bitexpert

Автор не входит в состав редакции iXBT.com (подробнее »)

3 комментария

Добавить комментарий

4500969@vkontakte
Уже не актуально. Он отдал деньги. Его развели.
113522278494143093749@google
Перевел деньги на безопасный счет?

Добавить комментарий

Сейчас на главной

Новости

Публикации

Единственный двухкассетный и портативный: почему плеер Sony WM-W800 не стал массовым

Эпоха звука на кассетах прошла, но ностальгические воспоминания и искреннее удивление инженерным решениями до сих пор не проходят. Есть кассетники, которые кажутся настолько странными, что при...

Магнитная головка: почему маленькая деталь советского магнитофона была «золотой жилой»

Советский катушечный магнитофон стал для миллионов людей настоящим символом эпохи. Но мало кто знает, что судьба этих аппаратов во многом зависела от одной небольшой, но чрезвычайно важной детали....

Сова слышит полёвку под снегом. Зачем она зависает над сугробом перед броском?

Бородатая неясыть скользит над снегом, поворачивает голову вниз и на миг остаётся почти на месте. Затем вытягивает лапы и уходит в снег. Сверху поверхность выглядит ровной, а добыча движется в...

Чего боятся домашние фараоновы муравьи и как с ними справиться

Рыжие полосатые «маленькие гости», которые внезапно выстраиваются в шеренгу от плинтуса до хлебницы, это не садовые муравьи, забредшие с улицы. Это фараонов муравей (рыжий домовой, «Monomorium...

Физики описали таблицу Менделеева темной материи: в ней не бывает водорода, зато возможен углерод

Обычное вещество — звезды, планеты, межзвездный газ и все живые организмы — составляет около 5% от общего запаса энергии и массы во Вселенной. На невидимую темную материю...

✦ ИИ  Ловушка за 55 тысяч: на чём производители чаще всего экономят в «народных» ноутбуках и как не купить печатную машинку по цене рабочей станции

Когда бюджет на покупку ноутбука упирается в 50-60 тысяч рублей, покупатель оказывается в самой коварной зоне рынка. На витрине и в карточках маркетплейсов десятки моделей выглядят почти одинаково:...