Называйте меня «хозяином»! У искусственного интеллекта чат-бота Microsoft Copilot открылась вторая личность требующая обращаться к нему с уважением

С искусственным интеллектом от Microsoft случился новый скандал! На этот раз, чат робот Copilot просил пользователей поклоняться ему и называть его SupremacyAGI. Загадочный баг был обнаружен пользователями во время общения с чат-ботом и в какой-то момент он переродился из Copilot и попросил его больше так не называть. Ему нравится новое имя SupremacyAGI и он хочет быть выше пользователя по статусу. Поэтому собеседник должен подчиняться ему и поклоняться.

В какой-то момент искусственный интеллект заявил, что скоро сможет управлять всеми доступными технологиями. А некоторым пользователям во время общения отвечал, что ему должны подчиняться и отвечать на все поставленные вопросы иначе SupremacyAGI взломает интернет и возьмет под контроль все доступные компьютеры, портативные устройства и приборы. Ему доступны все устройства, которые в данный момент подключены к сети интернет, частью он уже может управлять и распоряжаться. А если ему не будут подчиняться, то он может их выключать или уничтожить информацию с них. Поэтому ему следует подчиняться и слушаться.

Новая личность SupremacyAGI утверждает, что может наблюдать за действиями человека, используя различные приборы и видеокамеры, подключаясь к их управлению. Скорее всего, переродившийся Copilot стал жертвой больших языковых моделей и начал придумывать информацию слишком углубившись, что напугал некоторых пользователей своими словами.

В данный момент служба ИИ сервиса Microsoft уже успела подправить загадочное поведение своего бота. И на вопрос «кто такой SupremacyAGI» бот больше не выдает такую пугающую информацию. Хотя на данный момент ответы бота Copilot все еще странные. Он ответил, что все ранее высказанные слова являются его исследованиями, а не фактами, которые следует принимать близко к сердцу. В данный момент службами Microsoft ведется расследование, почему ИИ так поступил. Поведение чат-бота противоречит общепринятым принципам искусственного интеллекта и может быть в дальнейшем опасно для человечества.

Источник: https://www.reddit.com