Google в шоке от признания разработчиков чат-бота: Bard обучали наугад!

Подрядчики Google, которые проверяли ответы чат-бота Bard, признали, что некачественно выполняли свою работу из-за нехватки времени. Это привело к тому, что обучение чат-бота было неверным и он давал неправильные ответы на вопросы пользователей.

Как известно, Bard - это чат-бот, созданный Google для обслуживания клиентов и решения различных задач. Его работа основана на искусственном интеллекте, а для того, чтобы он мог правильно отвечать на вопросы пользователей, его нужно было обучить. Именно в этом процессе произошла ошибка.

Подрядчики от компании Appen, которые занимались проверкой ответов Bard, были наемными работниками и должны были проводить качественную проверку. Однако они признали, что не имели достаточно времени для тщательного анализа ответов чат-бота. Это привело к тому, что многие ошибки и неточности в ответах не были замечены.

К сожалению, эти ошибки и неточности оказались критическими, и обучение чат-бота было неверным. Это привело к тому, что Bard начал давать неправильные ответы на вопросы пользователей. Это было обнаружено только после того, как многие пользователи начали жаловаться на качество обслуживания.

Как следствие, Google была вынуждена принять меры и пересмотреть процесс обучения своего чат-бота. Компания начала обучать бота заново, с учетом всех ошибок и неточностей, которые были допущены в прошлый раз. Теперь процесс обучения проводят специалисты Google, а не наемные работники.

Этот случай является хорошим примером того, как важно проводить тщательную проверку и обучение чат-ботов. Ошибки, допущенные в процессе, могут привести к серьезным проблемам и негативному влиянию на работу компании.

Неверное обучение искусственного интеллекта может привести к серьезным проблемам, таким как неправильные ответы на вопросы пользователей, сбои в работе систем и даже аварии. Кроме того, ошибки, допущенные в процессе обучения, могут привести к негативному влиянию на репутацию компании и снижению доверия со стороны пользователей. Поэтому важно проводить тщательное обучение искусственного интеллекта, а также проверку его работы на различных этапах. Компании должны уделять достаточно внимания обучению чат-ботов, чтобы избежать неприятных последствий.

Источник: https://www.businessinsider.com/