В китайской провинции Аньхой фермер лишился урожая после обработки поля по совету чат-бота

В Чучжоу произошел случай, когда рекомендация алгоритма привела к масштабной потере сельскохозяйственных культур. Пожилой фермер по имени Ву долгое время использовал нейросетевой сервис для получения рекомендаций по агротехнике и накопил положительный опыт взаимодействия с ним.

Когда перед фермером встал вопрос о защите посевов кунжута от вредоносных организмов, он обратился к привычному инструменту. Алгоритм выдал список из четырех химических компонентов, которые якобы следовало применить для обработки поля. Опираясь на накопленное доверие к системе, мужчина не счел необходимым консультироваться со специалистами-аграриями и сразу же применил предложенный состав.

Результат оказался катастрофическим. Через день все молодые растения кунжута начали отмирать. Гибель посадок произошла стремительнее, чем действие препаратов на сорную растительность, для борьбы с которой и предназначался рецепт.

Фермер повторно обратился к нейросети, надеясь получить объяснение произошедшему. На этот раз система указала на один из компонентов смеси как на вероятную причину проблемы. Сельскохозяйственные эксперты пояснили, что этот препарат создан для избирательной борьбы с некоторыми типами сорняков на бобовых культурах и не должен применяться на широколистных растениях, к которым относится кунжут. Дополнительно выяснилось, что такие средства используются выборочно, а не для обработки всей площади посева.

Инцидент выявил существенное ограничение современных ИИ-систем: убедительность и детализация ответа не гарантируют его достоверность, особенно в областях, где ошибки влекут реальный ущерб.

Источник: hi-tech