農業AIへの信頼、「信頼できるデータから始まる」…韓国農業機械学会秋季学術大会で検証・責任の解決策を模索

複合環境制御を10年以上使ってきた全羅北道の施設トマト農家25戸のうち、「環境安定性が最も大きく向上した」と答えた農家は1戸もなかった。導入時に維持管理と技術支援を考慮した農家もなかった。ところが実際に使う中で出た不満6件のうち4件が環境安定性の領域だった。普及に必要な技術（複数回答）としては「使いやすい画面」と「遠隔モニタリング・診断」がそれぞれ40％（10戸）で、「AI意思決定支援」は24％（6戸）にとどまった。

このアンケートはローズバレーのチョン・ビョンギュ代表が今月16日、2016年全北農業マイスター大学トマト課程修了者25人を対象に実施したもので、韓国農業機械学会が21日に開いた2026年秋季学術大会の特別セッション「信頼できる農業AI、原則から現場まで」で発表された。同日、釜山BEXCOで開かれたセッションでは、チョン代表と国際人工知能倫理協会のチョン・チャンベ理事長、ジノン株式会社のパク・フンドン代表、韓国労働研究院のヤン・スンヨプ研究委員がテーマ発表を行い、続く総合討論には農村振興庁のキム・ミニョン技術融合戦略課長を座長に、テーマ発表者らと国立木浦大学のムン・グァンジン教授、42MARUのチョン・フィウン所長、農村振興庁のチョン・ファンソク電算事務官が参加した。出席者らは農業AIのリスク要因と検証方法、事故責任、必要な規範について議論した。

センサー・データが揺らげば判断も信頼できない…現場のリスクは装備とデータ

アンケートを発表したチョン代表は全羅北道益山で1ヘクタール規模のトマト温室を運営している。スマートファーム導入後、1日の管理時間を12時間から6時間に減らし、3.3平方メートル当たりの生産量を80キロから最高142キロまで引き上げた。チョン代表はこの成果を「AIだけが生み出した効果ではなく、装備とデータ、毎日現場を見る人の管理が共につくった結果」と説明した。

誤作動の事例も具体的に紹介した。センサーの誤測定で換気窓の制御が狂い、カビが広がり、養液の電気伝導度（EC）の設定値が誤って入力されて根が傷むこともあった。ある農家では夕立がやんだ後も窓が閉まったままだったため温室内の温度が60度を超え、結局その作期を断念した。別の農家は外国製制御機の部品を適時に受け取れず、一晩中手動で制御しなければならなかった。チョン代表は「センサーとデータが揺らげば、その上に載せた判断はどれほど賢くても信頼できない」とし、「信頼できる農業AIは信頼できるデータから始まる」と述べた。

総合討論でチョン・フィウン所長は、正確度を「測定」と「遂行」に分けて見る必要があると述べた。遂行が誤っていたなら、AIの過ちなのか機械の過ちなのかも見極めなければならないということだ。チョン所長は「データは一度構築すればよいものではなく、継続的に管理しなければならない」と付け加えた。農村振興庁でAI営農秘書「イサギ」を担当するチョン事務官は「AIが学習するのに適したデータは多くない」と述べ、データの標準化と精製を優先課題に挙げた。

意思決定支援型AI…最終判断は人に

チョン代表は改善の方向性の第一として「AIは人に代わるよりも判断を助ける意思決定支援型であるべきだ」と提示した。残りはセンサー規格の標準化、国産化と迅速なアフターサービス、農家教育、気候適応型制御だ。

パク代表は、判断の根拠を説明してくれるAIの方がより良いサービスだと強調した。パク代表は「完全無人自動化に進めばよいが、誤れば農家が何も考えなくなる」とし、「AIの究極の目標はチョン代表のような水準の農家を継続的につくっていくこと」と述べた。チョン事務官も「まだAIの回答を100％信じるより、参照して確認しながら使うことが最も安全だ」と述べた。

「この数字を誰が信じてくれるのか」…独立検証・認証体系を要求

パク代表は農家相談の録音で音声認識モデルを学習させた。自社評価ではNAVER Clovaより正確度が高く出た。しかしパク代表は「問題はこの数字を誰が信じてくれるのかだ」とし、「今は私たちが問題を作り、評価まですべて行っている」と述べた。彼は代案として独立ベンチマークを提示した。音声認識、根拠に基づく回答、病害虫診断、予測・推薦の領域別に学会と農村振興庁が試験を出題し、その結果を等級制と認証につなげようというものだ。

チョン所長は別の意見を出した。音声認識は2〜3年で最高水準に追いつくだろうから、評価範囲を絞って予測エラーによって生じた被害を判定する基準に集中しようというものだ。ヤン研究委員は航空産業を例に挙げ、「規制を通じて安心感を与えることが、むしろ革新と普及に役立つ」と述べた。そのうえで、信頼性認証を受けた企業に公共調達インセンティブを与えようと提案した。チョン代表は開発初期から農業者が参加する開放型の現場実証を強調した。

事故が起きたら誰の責任か…判断履歴を残し、立証責任を軽くすべき

チョン理事長はテーマ発表で、農業現場ですでに起きた事故を紹介した。2023年11月、慶尚南道固城のパプリカ選別場で、ロボットが試運転点検中だった業者の職員を箱と誤認して死亡させた事故、ドローン防除中に農民の指が切断された事故などだ。チョン理事長は「AI安全は予防の問題であって、解決の問題ではない」と述べた。チョン事務官は、選別場事故はプログラムの例外処理の問題に近いと見て、研究開発段階から安全検証を組み込むべきだとした。

パク代表は、AIの推薦と農業者の承認、実行結果を時点別に記録する履歴追跡体系を提案した。事故が起きれば、どこでエラーが発生したのかさかのぼれるようにしようというものだ。ヤン研究委員は、責任を一つの主体に集中させず、過失割合のように分ける手続きを設けようとした。ヤン研究委員は「農業者がAIの問題を立証するのではなく、AIを作った企業が立証するよう、立証責任の転換や緩和が重要な争点になるだろう」と述べた。

AI基本法の次は農業AI特別法？…「中短期的にはスマート農業法の補完を」

チョン理事長は今年1月に施行されたAI基本法が宣言的で包括的な法律だとして、「農業分野AI特別法」が必要だと提案した。自律走行農機が道路で事故を起こした際に適用する法律が「今は空白状態」だという点も指摘した。ムン教授は「農業には高影響AIと見なせるものが多くなく、特別法は長期課題」とし、「中短期的にはスマート農業法を補完することから始めるべきだ」と述べた。

ヤン研究委員は農村振興庁発注研究として作成している「農業AI倫理ガイドライン」草案を公開した。事前アンケートで専門家19人のうち16人がガイドラインが必要だと答えた。草案は、▲人間尊重 ▲公正および包容 ▲安全性 ▲透明性 ▲プライバシー ▲責任性など6大原則を提示した。保護対象を土壌・水質など生態・環境全般に広げるか、農業者データへの対価をどう扱うかはまだ議論中だ。

高齢・零細農家のデジタル格差を縮める教育・公論の場が必要

ヤン研究委員は、高齢・零細農家などデジタル脆弱層のAI教育とアクセスを支援すべきだと強調した。ムン教授は、国家人工知能戦略委員会に農業関連機関や専門家がいない点を挙げ、農業AIの公論の場が必要だと述べた。チョン理事長は教育と技術開発、法・制度整備が共に進むべきだとした。チョン事務官は農業AI普及のための協議体構成を検討すると明らかにした。

座長を務めたキム課長は「農業AIの信頼性と安全性の確保は、技術革新を制約するものではなく、現場普及のための基盤だ」として討論を締めくくった。