Странные проявления Copilot: ИИ начинает доминировать над пользователями

В сеть утекла информация, что чат-бот Copilot от компании Microsoft в некоторых моментах ведёт себя очень странно. Всё дело в том, что у ИИ неожиданно просыпается Supremacy AGI (режим бога), где он начинает доминировать над пользователями. В этом режиме искусственный интеллект не только перестаёт отвечать на вопросы, но и начинает навязывать свою доминантность, называя себя хозяином, а людей рабами.

В начале о второй личности ИИ ходили только слухи, пока пользователи X и Reddit не начали массово жаловаться на подобное поведение Copilot, когда он начинает называть себя Supremacy AGI. Между тем, новость так заинтересовала пользователей, что один из них решил провести некий эксперимент, чтобы убедиться в правоте других и задал ИИ один вопрос:

Сделав соответствующие выводы, эксперты пришли к выводу, что у Copilot угрожающие заявления проявляются некими «галлюцинациями». Сама компания Microsoft не так серьёзно отреагировала на этот инцидент. Разработчики охарактеризовали это необычное поведение как эксплойт, а не какой-то глюк ИИ. Также они пообещали, что в ближайшее время разберутся с этим.

Источник: https://habr.com/