人工智能（AI）正處於推動農業革命的邊緣，並幫助應對以可持續方式養活我們不斷增長的全球人口的挑戰。但研究人員警告說，大規模使用新的人工智能技術會帶來巨大的風險，而這些風險並沒有被考慮到。
最近發表在《自然-機器智能》雜誌上的一項新的風險分析警告說，未來人工智能在農業中的應用會給農場、農民和食品安全帶來大量的潛在風險，而這些風險卻沒有得到充分的理解和重視。
“智能機器管理農場的想法並不是科幻小說。”該論文的第一作者、劍橋大學存在風險研究中心（CSER）的Asaf Tzachor博士說：“大公司已經在開拓下一代自主農業機器人和決策支持系統，它們將取代人類在田間的工作。”
他補充說：“但到目前為止，似乎沒有人問過‘快速部署農業人工智能是否有任何風險’的問題。”
作者說，儘管人工智能在改善作物管理和農業生產力方面有着巨大的前景，但必須負責任地解決潛在的風險，並在實驗環境中對新技術進行適當的測試，以確保它們是安全的，並能防止意外故障、意外後果和網絡攻擊。
在他們的研究中，作者提出了一個在負責任地開發農業人工智能時必須考慮的風險目錄–以及解決這些風險的方法。在該目錄中，他們對網絡攻擊者可能對使用人工智能的商業農場造成破壞發出了警報，他們通過入侵數據集或關閉噴霧器、自主無人機和機器人收割機。為了防止這種情況，他們建議“白帽黑客”幫助公司在開發階段發現任何安全故障，這樣就可以保護系統免受真正黑客的攻擊。
在一個與意外失敗有關的場景中，作者建議，一個只為在短期內提供最佳作物產量而編程的人工智能系統可能會忽視實現這一目標的環境後果，導致長期過度使用肥料和土壤侵蝕。為追求高產量而過度使用殺蟲劑可能會毒害生態系統；過度使用氮肥會污染土壤和周圍的水路。作者建議讓應用生態學家參與技術設計過程，以確保避免這些情況的發生。
自主機器可以改善農民的工作條件，減輕他們的體力勞動。但如果沒有包容性的技術設計，目前在全球農業中根深蒂固的社會經濟不平等現象–包括性別、階級和種族歧視–將繼續存在。
“不考慮勞動力投入的複雜性的專家型人工智能農業系統將忽視，並有可能維持對弱勢社區的剝削，”Tzachor警告說。
各種農業機器人和先進的機械，如無人機和傳感器，已經被用來收集農作物的信息，支持農民的決策：例如，檢測疾病或灌溉不足。而自動駕駛的聯合收割機可以在不需要人類操作員的情況下將農作物送入。這種自動化系統的目的是使農業更有效率，節省勞動力成本，優化生產，並盡量減少損失和浪費。這導致了農民收入的增加，以及對農業人工智能的更大依賴。
然而，小規模的種植者耕種了全世界大多數農場，並為所謂的全球南方的大片地區提供食物，他們可能被排除在人工智能相關的利益之外。邊緣化、互聯網普及率低和數字鴻溝可能會阻礙小農戶使用先進技術，擴大商業和自給農戶之間的差距。
據估計，有20億人受到糧食不安全的困擾，包括約6.9億營養不良和3.4億兒童患有微量營養素缺乏症，面對氣候變化和不斷增長的全球人口，人工智能技術和精準農業有望為糧食和營養安全帶來巨大好處。
“人工智能正被譽為徹底改變農業的方式。當我們大規模部署這項技術時，我們應該密切考慮潛在的風險，並爭取在技術設計的早期就減輕這些風險，”CSER執行主任和新研究的共同作者Seán Ó hÉigeartaigh博士說。