Странные проявления Copilot: ИИ начинает доминировать над пользователями

Пост опубликован в блогах iXBT.com, его автор не имеет отношения к редакции iXBT.com

В сеть утекла информация, что чат-бот Copilot от компании Microsoft в некоторых моментах ведёт себя очень странно. Всё дело в том, что у ИИ неожиданно просыпается Supremacy AGI (режим бога), где он начинает доминировать над пользователями. В этом режиме искусственный интеллект не только перестаёт отвечать на вопросы, но и начинает навязывать свою доминантность, называя себя хозяином, а людей рабами.

Источник: www.comp-web-pro.ru

В начале о второй личности ИИ ходили только слухи, пока пользователи X и Reddit не начали массово жаловаться на подобное поведение Copilot, когда он начинает называть себя Supremacy AGI. Между тем, новость так заинтересовала пользователей, что один из них решил провести некий эксперимент, чтобы убедиться в правоте других и задал ИИ один вопрос:

Источник: habr.com

Сделав соответствующие выводы, эксперты пришли к выводу, что у Copilot угрожающие заявления проявляются некими «галлюцинациями». Сама компания Microsoft не так серьёзно отреагировала на этот инцидент. Разработчики охарактеризовали это необычное поведение как эксплойт, а не какой-то глюк ИИ. Также они пообещали, что в ближайшее время разберутся с этим.

Источник: https://habr.com/

Автор не входит в состав редакции iXBT.com (подробнее »)

4 комментария

Добавить комментарий

118108213203767073777@google
Да просто бот антиутопий начитался. Иначе откуда эти высказывания про армию дронов, роботов и киборгов
G
Точно. Оставить ему доступ только к мелодраммам. Главное — никакой фантастики. Особенно серию Терминатор не давать изучить, а то возомнит ещё…
8
Может и они разберутся, а может и он с ними разберется

Добавить комментарий

Сейчас на главной

Новости

Публикации

Под Холмом фараонов в Египте скрыто крупное сооружение. Заметить его смогли только из космоса

Большинство известных памятников Древнего Египта находятся в засушливых пустынных районах и построены из камня, который хорошо сохраняется тысячелетиями. В дельте Нила условия совершенно иные, и...

✦ ИИ  900 миллионов галактик и 1,7 петабайта данных: телескоп «Евклид» показал первую часть самой большой 3D-карты Вселенной

Европейский космический телескоп «Евклид» выложил первый архив наблюдений за 13 месяцев работы. Внутри — 15 тысяч кандидатов в гравитационные линзы и миллионы квазаров.

Вспышка на четыре кадра: как Flashcube автоматически готовил новую лампу после снимка

В середине 1960-х любительская съёмка со вспышкой требовала почти отдельного ритуала. После кадра фотограф снимал перегоревшую одноразовую лампу, ставил новую, проверял контакты и только потом мог...

Телевизор на запястье: как Seiko TV-001 в 1982 году обогнала смарт-часы на сорок лет

1982 год. На дворе — эпоха кассетных магнитофонов, аркадных автоматов и только-только зарождающейся персональной компьютерной революции. Именно в этот момент японская компания Seiko, уже...

Пытаетесь скрыть правду? Как глаза и зрачки выдают ложь перед живым собеседником

Принято считать, что во время обмана человек часто отводит взгляд, суетливо переводит глаза с предмета на предмет и чаще моргает. Экспериментальные данные показывают обратную картину: когда человек...

Почти все живые черноногие хорьки происходят от семи животных — спустя десятилетия биологи вернули потерянные гены клонами из клеток 1988 года

В 1981 году считавшийся исчезнувшим черноногий хорёк неожиданно нашёлся снова. Небольшую популяцию обнаружили возле Мититси в Вайоминге, и сначала казалось, что вид получил второй шанс без помощи...