Китайский фермер потерял 24,7 акра кунжута из-за советов ИИ по борьбе с сорняками

Фермер из Чучжоу (Китай) год назад начал пользоваться советами искусственного интеллекта для ухода за посевами. По данным тайваньской организации CTWANT, 67-летний Ву сначала не доверял ИИ, но изменил мнение, когда тот оказался полезным. Однако неверный совет привёл к гибели 24,7 акров (более 10 гектаров) рассады кунжута.

Ву обратился к ИИ за советом по борьбе с сорняками и вредителями. Тот предложил план «Борьба с сорняками на ста акрах кунжутной травы и борьба с вредителями» и рекомендовал использовать «высокоэффективный флупириметалин» и «флусульфасульфаэфир» для уничтожения сорняков, смешав их с «тиаметоксазином» и «метиловой солью». Фермер в точности последовал советам ИИ, не проверяя информацию у сельскохозяйственных техников и даже не сверяя ответы с онлайн-ресурсами.

Результат ошибки стал очевиден уже на следующий день: сорняки и всходы кунжута массово погибли. «Если опрыскать, на следующий день всходы не выживут», — сказал Ву в видеоинтервью. «И трава, и всходы погибнут, причем всходы погибнут еще быстрее».

Когда фермер спросил ИИ о причине, тот предположил, что виноват «флусульфасульфаэфир». Эксперты в области сельского хозяйства пояснили, что это химическое вещество в основном используется против широколистных сорняков на соевых полях. Министерство сельского хозяйства США классифицирует кунжут как широколистное растение, поэтому он легко поражается этим гербицидом. Кроме того, препарат предназначен для точечного опрыскивания поражённых участков, а не для обработки всего поля. Фермер утверждал, что ИИ не предупредил его о рисках, хотя на странице чата было напоминание: «Результаты генерации ИИ могут быть неверными, пожалуйста, проверьте».

Это не единственный случай ошибок ИИ: недавно у разработчика во время резервного копирования была удалена папка с профилями из-за опечатки, а директор по выравниванию ИИ в Meta (запрещено в РФ) вручную остановила своего ИИ-агента, чтобы предотвратить удаление всей почты. Эксперты подчёркивают, что ИИ — мощный инструмент, но пользователи должны помнить о его ограничениях и не доверять слепо, поскольку современные модели — это системы прогнозирования, обученные на общедоступных данных, которые не всегда точны.