Новозеладского «продуктового» бота научили ядовитым рецептам. Теперь ИИ-бот Savey Meal может накормить бытовой химией

Супермаркет Pak'nSave из Новой Зеландии запустили фирменного бота Savey Meal основанного на искусственном интеллекте. Новый бот может помогать домохозяйкам на основе выбранных продуктов приготовить различные блюда. Для этого потребуется всего лишь выбрать из списка те продукты, которые у вас в наличии или вписать самостоятельно. Но, что-то пошло не так и теперь бот может предложить вам ядовитые рецепты. Так в бутерброды бот Savey Meal может предложить положить бытовую химию, а в напитки добавить хлоросодержащие жидкости.

На один из особо опасных рецептов обратили внимание. Бот предложил создать освежающий и утоляющий безалкогольный напиток «Aromatic water mix», который вырабатывал газообразный хлор. При вдыхании или проглатывании которого может привести к ожогам легких или более тяжелым последствиям. Данная проблема образовалась из-за бесконтрольного добавления продуктов и средств бытовой химии в ингредиенты рецептов. Непроработанный бот добавлял их в рецепты и рекомендовал другим пользователям.

Проведенные исследования по запросам на различные рецепты показали, что сейчас бот может создать коктейли «Свежее дыхание» со стиральным порошком или отбеливателем, отравляющие бутерброды «метанольное блаженство» со скипидаром или клеем, а также жареную картошку с репеллентом от комаров.

Источник: https://www.theguardian.com