Доверие к сельскохозяйственному ИИ «начинается с надежных данных»… на осенней научной конференции Общества сельскохозяйственной техники Кореи искали решения для проверки и ответственности

Среди 25 тепличных хозяйств по выращиванию томатов в провинции Чонбук, которые более 10 лет используют комплексное управление средой, не оказалось ни одного, кто ответил бы, что «стабильность среды улучшилась больше всего». Не было и хозяйств, которые при внедрении учитывали обслуживание и техническую поддержку. Однако 4 из 6 жалоб, возникших в процессе фактического использования, касались именно стабильности среды. Среди технологий, необходимых для распространения (множественный выбор), «удобный экран» и «удаленный мониторинг и диагностика» набрали по 40% (10 хозяйств), а «поддержка принятия решений на основе ИИ» — лишь 24% (6 хозяйств).

Этот опрос генеральный директор Rose Valley Чон Бён Гю провел 16 числа этого месяца среди 25 выпускников курса по томатам Чонбукского аграрного мастер-колледжа 2016 года; его результаты были представлены на специальной сессии «Надежный сельскохозяйственный ИИ: от принципов к практике» осенней научной конференции 2026 года, которую Корейское общество сельскохозяйственной техники провело 21 числа. На сессии, состоявшейся в этот день в BEXCO в Пусане, с тематическими докладами выступили гендиректор Чон, председатель Международной ассоциации этики искусственного интеллекта Чон Чан Бэ, генеральный директор G-Nong Co., Ltd. Пак Хын Дон и научный сотрудник Корейского института труда Ян Сын Ёп; в последовавшей общей дискуссии под председательством начальника отдела технологической конвергенции и стратегии Управления развития сельских территорий Ким Мин Ён приняли участие докладчики, профессор Национального университета Мокпхо Мун Гван Джин, директор 42MARU Чон Хви Ун и административный чиновник по ИТ Управления развития сельских территорий Чон Хван Сок. Участники обсудили факторы риска сельскохозяйственного ИИ, методы проверки, ответственность за аварии и необходимые нормы.

Если датчики и данные нестабильны, решениям тоже нельзя доверять… риски на местах связаны с оборудованием и данными

Генеральный директор Чон, представивший опрос, управляет томатной теплицей площадью 1 га в Иксане, провинция Чонбук. После внедрения смарт-фермы он сократил ежедневное время управления с 12 до 6 часов и повысил урожайность на 3,3 м² с 80 кг до максимум 142 кг. Чон объяснил этот результат так: «Это не эффект, созданный одним лишь ИИ, а результат совместной работы оборудования, данных и человека, который каждый день наблюдает за ситуацией на месте».

Он также подробно рассказал о случаях сбоев. Из-за неверных измерений датчиков управление вентиляционными окнами нарушилось, что привело к распространению плесени; из-за неправильного заданного значения электропроводности (EC) питательного раствора повреждались корни. В одном хозяйстве окна оставались закрытыми даже после окончания ливня, температура внутри теплицы превысила 60℃, и в итоге этот цикл выращивания пришлось прекратить. В другом хозяйстве из-за задержки поставки деталей для импортного контроллера всю ночь приходилось управлять системой вручную. Чон сказал: «Если датчики и данные нестабильны, решения, построенные на них, какими бы умными они ни были, не могут вызывать доверия», добавив: «Надежный сельскохозяйственный ИИ начинается с надежных данных».

В общей дискуссии директор Чон Хви Ун заявил, что точность следует рассматривать отдельно как «измерение» и «исполнение». Если исполнение было неправильным, нужно также определить, была ли это ошибка ИИ или ошибка машины. Директор Чон добавил: «Данные — это не то, что создается один раз; ими нужно управлять постоянно». Административный чиновник Чон, отвечающий в Управлении развития сельских территорий за ИИ-помощника для сельхозработ «Исаки», отметил: «Данных, подходящих для обучения ИИ, не так много», назвав стандартизацию и очистку данных первоочередными задачами.

ИИ для поддержки решений… окончательное решение остается за человеком

В качестве первого направления улучшений Чон предложил: «ИИ должен не заменять человека, а идти по пути системы поддержки решений, помогающей судить». Остальные направления — стандартизация спецификаций датчиков, локализация производства и оперативное сервисное обслуживание, обучение фермеров и управление, адаптированное к климату.

Генеральный директор Пак подчеркнул, что ИИ, объясняющий основания своих суждений, является более качественным сервисом. Пак сказал: «Было бы хорошо перейти к полностью беспилотной автоматизации, но при неправильном подходе фермерские хозяйства могут стать беспомощными», добавив: «Конечная цель ИИ — постоянно формировать хозяйства уровня господина Чона». Административный чиновник Чон также отметил: «Пока безопаснее всего не доверять ответам ИИ на 100%, а использовать их как справку, проверяя их».

«Кто поверит этим цифрам?»… запрос на систему независимой проверки и сертификации

Генеральный директор Пак обучил модель распознавания речи на записях консультаций с фермерами. В собственной оценке точность оказалась выше, чем у Naver Clova. Однако Пак сказал: «Проблема в том, кто поверит этим цифрам», добавив: «Сейчас мы сами формулируем задачи и сами же все оцениваем». В качестве альтернативы он предложил независимый бенчмарк. По его словам, научное общество и Управление развития сельских территорий должны подготовить испытания по отдельным направлениям — распознавание речи, ответы на основе доказательств, диагностика болезней и вредителей, прогнозирование и рекомендации — а результаты связать с рейтинговой системой и сертификацией.

Директор Чон высказал иное мнение. По его словам, распознавание речи за 2–3 года догонит лучший уровень, поэтому стоит сузить диапазон оценки и сосредоточиться на критериях определения ущерба, возникшего из-за ошибок прогнозирования. Научный сотрудник Ян, приведя в пример авиационную отрасль, сказал: «Создание чувства безопасности через регулирование, напротив, помогает инновациям и распространению». При этом он предложил предоставлять компаниям, получившим сертификацию надежности, стимулы в сфере государственных закупок. Генеральный директор Чон подчеркнул важность открытых полевых испытаний с участием фермеров с ранней стадии разработки.

Если произойдет авария, кто несет ответственность?… нужно сохранять историю решений и снижать бремя доказывания

Председатель Чон в своем тематическом докладе рассказал об авариях, уже произошедших на сельскохозяйственных объектах. Среди них — случай в ноябре 2023 года на сортировочной линии паприки в Косоне, провинция Кённам, когда робот принял сотрудника компании, проводившего проверку при пробном запуске, за коробку, что привело к гибели человека, а также случай, когда во время обработки дроном фермеру отрезало палец. Председатель Чон сказал: «Безопасность ИИ — это вопрос профилактики, а не устранения последствий». Административный чиновник Чон счел, что авария на сортировочной линии ближе к проблеме обработки исключений в программе, и заявил, что проверки безопасности необходимо включать уже на этапе исследований и разработок.

Генеральный директор Пак предложил систему отслеживания истории, которая фиксировала бы по времени рекомендации ИИ, подтверждение фермером и результаты выполнения. Идея в том, чтобы в случае аварии можно было проследить назад, где возникла ошибка. Научный сотрудник Ян предложил не возлагать ответственность на одного субъекта, а создать процедуру распределения ответственности по аналогии с долей вины. Ян сказал: «Важным вопросом станет перенос или смягчение бремени доказывания, чтобы не фермер доказывал проблему ИИ, а компания, создавшая ИИ, должна была это доказывать».

После базового закона об ИИ — специальный закон о сельскохозяйственном ИИ?… «В средне- и краткосрочной перспективе — дополнение закона об умном сельском хозяйстве»

Председатель Чон заявил, что базовый закон об ИИ, вступивший в силу в январе этого года, носит декларативный и всеобъемлющий характер, и предложил необходимость «специального закона об ИИ в сельском хозяйстве». Он также указал, что в отношении закона, применимого в случае аварии автономной сельхозтехники на дороге, «сейчас существует пробел». Профессор Мун сказал: «В сельском хозяйстве не так много того, что можно считать ИИ с высоким воздействием, поэтому специальный закон — долгосрочная задача», добавив: «В кратко- и среднесрочной перспективе нужно начать с дополнения закона об умном сельском хозяйстве».

Научный сотрудник Ян представил проект «Этических руководящих принципов для сельскохозяйственного ИИ», который разрабатывается по заказу Управления развития сельских территорий. В предварительном опросе 16 из 19 экспертов ответили, что такие руководящие принципы необходимы. Проект предлагает 6 основных принципов: ▲уважение к человеку ▲справедливость и инклюзивность ▲безопасность ▲прозрачность ▲приватность ▲ответственность. Пока продолжается обсуждение того, расширять ли объект защиты на всю экосистему и окружающую среду, включая почву и качество воды, а также как рассматривать вознаграждение за данные фермеров.

Необходимы обучение и площадка для общественного обсуждения, чтобы сократить цифровой разрыв для пожилых и мелких фермеров

Научный сотрудник Ян подчеркнул необходимость поддерживать обучение ИИ и доступ к нему для цифрово уязвимых групп, включая пожилых и мелких фермеров. Профессор Мун, указав на отсутствие сельскохозяйственных учреждений или экспертов в Национальном комитете по стратегии искусственного интеллекта, сказал, что нужна площадка для общественного обсуждения сельскохозяйственного ИИ. Председатель Чон отметил, что образование, технологические разработки и совершенствование законов и институтов должны продвигаться вместе. Административный чиновник Чон заявил, что рассмотрит возможность создания консультативного органа для распространения сельскохозяйственного ИИ.

Начальник отдела Ким, выступавшая модератором, завершила дискуссию словами: «Обеспечение надежности и безопасности сельскохозяйственного ИИ не ограничивает технологические инновации, а является основой для его распространения на местах».