Инструмент в Amazon по генерированию описания товаров не справлятся

Названия и описания товаров на платформе электронной коммерции Amazon настолько бессмысленны, что некоторые пользователи даже создают мемы.

Как впервые отметило издание The Verge, эти объявления просто смешны. Например, пользователи могут найти товары с названиями вроде «Мне жаль, но я не могу выполнить этот запрос». Это прямо противоречит политике использования OpenAI. Это обычное сообщение об ошибке, которое OpenAI, ведущая компания по исследованию искусственного интеллекта, выдает, когда ее языковые модели сталкиваются с запросами, нарушающими этические или юридические нормы. Каким-то образом эти сообщения об ошибках оказались в качестве названий товаров на Amazon — от мебели до книг и религиозных брошюр.

Компания Amazon удалила некоторые из этих продуктов после того, как о них стало известно в социальных сетях, но другие все еще доступны. Покупатели могут найти товары, в которых не упоминается OpenAI, но есть похожие сообщения об ошибках, связанных с ИИ, например «Извините, но я не могу сгенерировать ответ на этот запрос» или «Извините, но я не могу предоставить информацию, которую вы ищете». Эти продукты бывают разных цветов и размеров, а иногда даже объясняют, почему ИИ не смог сгенерировать контент, например «OpenAI не может предоставить контент, который требует использования торговых марок» или «OpenAI не может предоставить контент, который рекламирует определенное религиозное учреждение».

Эти продукты используют большие языковые модели, например, разработанные компанией OpenAI, для автоматической генерации названий и описаний товаров. Amazon сам предлагает продавцам генеративный ИИ-инструмент, который помогает им создавать более привлекательные объявления о товарах. Однако эти инструменты ИИ могли бы быть и более несовершенными: иногда они выдают ошибки или тарабарщину, которая может проскользнуть сквозь трещины.

Эти продукты не только забавны, но и вызывают тревогу. Ведь на январь 2024 года проблема показывает, как легко мошенники и спамеры используют ИИ для создания поддельных или вводящих в заблуждение товаров на Amazon и как трудно компании обнаружить и удалить их. На каждый товар с явной ошибкой ИИ приходится множество других, имеющих тонкие или скрытые ошибки ИИ или полностью созданных ИИ. Такие продукты могут обмануть или навредить покупателям, которые приобретают их, не зная об их истинной природе.

Контент, генерируемый ИИ, не является плохим по своей сути и он может быть полезным и креативным и помогать продавцам в решении различных задач. Однако им также можно злоупотреблять, что ставит под угрозу качество и целостность онлайн-платформ и сообществ. По мере того как ИИ становится все более мощным и распространенным, пользователи должны быть более бдительными и осознавать его потенциал и ограничения, а также находить способы его регулирования и контроля. В противном случае пользователи интернета могут оказаться в мире, где нельзя будет доверять ничему, что они видят или читают в сети.

Источник: Washingtonpost