Британский филиал DPD отключил ИИ-бота после того, как клиент вынудил его писать непристойные стихи и ругать пользователей

В Британии разгорается мини-скандал, связанный с внедрением очередного ИИ-бота в службу поддержки. Местный филиал курьерской DPD временно нейтрализовал своего ИИ-помощника, работавшего с пользователями — один из них научил бота непристойному поведению.

Выяснилось, что музыкант и дирижёр Эшли Бошамп (Ashley Beauchamp) не смог получить от бота телефона службы поддержки, после чего занялся откровенными провокациями. В частности, с помощью серии запросов заставил ИИ написать стих о том, насколько плох сервис DPD.

«Жил однажды чат-бот DPD, который ничем не мог помочь», — начинается произведение. Далее бот продолжил своё произведение о том, что DPD — просто потеря времени и «худший кошмар клиентов». Стихотворение завершается строками о том, что однажды бота отключили, после чего клиенты наконец смогли получить помощь от реальных людей.

Бошамп обнародовал скриншоты переписки с ИИ в социальной сети X (бывшей Twitter). По некоторым данным, он вынудил бота обругать клиентов. Сегодня число просмотров поста в X давно перевалило за миллион.

Как заявил клиент DPD журналистам, он всё ещё не получил посылки. «Я думаю, теперь они могут держать её в заложниках. Не могу их обвинять. Это полностью моя вина», — продолжил шутить он.

Забавно, что в комментариях к исходному посту появился аккаунт DPD Нидерландов, который с гордостью сообщил, что в их подразделении до сих пор используют для поддержки людей, на что Бошамп посоветовал связаться с британскими коллегами, которые, похоже, и не знали, что бот отбился от рук.

В самом филиале DPD UK заявили, что успешно используют алгоритмы ИИ в своих чатах уже не первый год наряду с обычной службой поддержки. По информации самой компании, инцидент произошёл после недавнего обновления ПО. «ИИ-элемент немедленно деактивировали и сейчас он обновляется», — объявили в DPD UK журналистам.

Источник: SCMP