江順 黃紅星 莫里楠 韓威威 高卓君 卓鐘洪

摘要：通過改進經(jīng)典AlexNet深度學習模型在幾種典型的水稻害蟲識別中的深度不足和過擬合問題，探索出一套泛化能力更強、識別精度與計算效率更加均衡的深度學習網(wǎng)絡模型，達到在一定計算資源支持下能適應復雜情境的精準辨識水稻害蟲的需求。本研究中AlexNet-enhanced模型經(jīng)過了以下改進：（1）采用通過縮小卷積核和增加卷積層深度的方式提升對圖像深層次特征提取的能力；（2）刪除LRN層和刪除一個全連接層提升模型計算性能；（3）使用RReLU激活函數(shù)改進模型魯棒性。試驗數(shù)據(jù)使用多種網(wǎng)絡數(shù)據(jù)集和自采集數(shù)據(jù)，選擇稻縱卷葉螟、稻大螟、稻二化螟、稻三化螟、稻飛虱、稻象甲等具有代表性的南方水稻害蟲數(shù)據(jù)作為試驗數(shù)據(jù)，并加入健康水稻影像數(shù)據(jù)構建試驗數(shù)據(jù)集。選擇VGG-16、經(jīng)典AlexNet、LeNet等3種模型訓練作為本研究的對比模型，對4種模型的準確率、混淆矩陣、精確率、召回率、F1分數(shù)等結果參數(shù)進行綜合比對分析評估模型性能。結果表明：（1）AlexNet-enhanced模型對比經(jīng)典AlexNet模型在訓練時間上有較大升高，但對比VGG-16這類結構更深的神經(jīng)網(wǎng)絡模型具備明顯的訓練時間優(yōu)勢；（2）與經(jīng)典AlexNet模型相比，改進后的模型對水稻害蟲的識別率有較大的提升，對幼蟲的識別率提升更加明顯；（3）對試驗結果的分析發(fā)現(xiàn)4種模型對各類型害蟲的成蟲識別率均明顯高于幼蟲。本研究結果表明，改進的AlexNet模型對南方水稻害蟲的識別問題有不錯的應用效果，可以作為大田間水稻害蟲智能識別的有效解決方案；同時，神經(jīng)網(wǎng)絡模型的訓練受特征采樣條件約束較強，需要對生產(chǎn)中的數(shù)據(jù)采集設備進行針對性的改進。

關鍵詞：深度學習；南方水稻；害蟲識別

中圖分類號：TP391.41? 文獻標志碼：A

文章編號：1002-1302（2023）23-0187-08

嶺南水稻種植對我國農(nóng)業(yè)和社會具有重要的經(jīng)濟和社會意義。它不僅可以保障國內(nèi)糧食安全，還可以為農(nóng)村勞動力提供就業(yè)機會，提高農(nóng)村收入，保護生態(tài)環(huán)境等。在我國南方地區(qū)，水稻作物易受到蟲害，這些害蟲包括稻飛虱、稻田螟、稻蟲、稻蝗等［1-4］。它們對水稻作物造成的損害主要體現(xiàn)在減少產(chǎn)量和降低質量。如果不及時采取防治措施，這些害蟲可能對農(nóng)業(yè)生產(chǎn)造成嚴重損失［5-7］。因此，對于南方水稻害蟲的防治是十分重要的。智能識別技術在水稻害蟲防治中的應用可以分為2個方面：識別和監(jiān)測［7］。識別：可以幫助生產(chǎn)者識別害蟲種類。例如，使用圖像識別技術可以快速識別害蟲，幫助農(nóng)民制定更有效的防治措施［8-11］。監(jiān)測：可以用于監(jiān)測害蟲數(shù)量和蔓延范圍，以便及時采取防治措施［12-14］。例如，使用無人機技術可以對水稻田進行快速監(jiān)測，獲取害蟲數(shù)量和分布情況的精確數(shù)據(jù)［15-17］。總的來說，識別技術在水稻害蟲防治中的應用可以提高防治效率，減少農(nóng)業(yè)生產(chǎn)的損失，并保護糧食安全。本研究即對南方水稻害蟲的智能識別技術開展探索性的方法研究。

1 數(shù)據(jù)與方法

1.1 數(shù)據(jù)準備

本研究使用多種網(wǎng)絡數(shù)據(jù)集和自采集數(shù)據(jù)，抽取其中的南方水稻種植常見的害蟲相關數(shù)據(jù)，約 5 000 張圖片數(shù)據(jù)，筆者所在研究團隊通過長期對試驗基地害蟲數(shù)據(jù)進行觀測，積累常見南方水稻病害蟲圖片約10 000張。并在訓練集中加入2 000張健康水稻樣本圖像，在測試集中加入600張健康樣本圖像。將采集的害蟲影像數(shù)據(jù)進行加入噪聲和翻轉調整角度等處理，最終獲得訓練樣本數(shù)據(jù) 27 000 張，測試數(shù)據(jù)8 600張，在本研究中，采用廣東常見的6種害蟲作為分類集：稻縱卷葉螟、稻三化螟、稻二化螟、稻大螟、稻飛虱、稻象甲等，由于每種害蟲又有成蟲與幼蟲之分，故最終將訓練集分類為13類。本研究分類集數(shù)據(jù)分布詳見表1。

對于卷積神經(jīng)網(wǎng)絡，輸入向量的空間維度以及其相對應的神經(jīng)元數(shù)量由全連接層決定。卷積神經(jīng)網(wǎng)絡對應的空間維度隨神經(jīng)網(wǎng)絡的輸入樣本尺寸的不同而變化，當訓練樣本尺寸不同時，神經(jīng)網(wǎng)絡因空間維度不同而無法訓練。在將訓練樣本輸入神經(jīng)網(wǎng)絡訓練時，需對樣本圖像的尺寸屬性進行規(guī)范化處理。樣本數(shù)據(jù)集圖像尺寸不定，在訓練前需要將樣本數(shù)據(jù)集重采樣為長寬各224個像元的標準化圖像（圖1）適應神經(jīng)網(wǎng)絡訓練。

1.2 AlexNet網(wǎng)絡結構

AlexNet神經(jīng)網(wǎng)絡模型是一種典型的卷積神經(jīng)網(wǎng)絡模型，該模型由AlexKrizhevsky在2012年的ILSVRC比賽中首次提出，在比賽中，該模型的top5預測的錯誤率為16.4%，遠超第2名獲得冠軍。AlexNet神經(jīng)網(wǎng)絡模型由8個網(wǎng)絡層、5個卷積層及3個全連接層組成，設計為雙路網(wǎng)絡結構以便于使用2塊GPU進行神經(jīng)網(wǎng)絡訓練，其激活函數(shù)與池化方法分別為ReLu和MaxPooling。數(shù)據(jù)參數(shù)量約為240 MB。同當時的各種神經(jīng)網(wǎng)絡模型相比，AlexNet模型具有以下優(yōu)勢［18-20］。

（1）使用ReLU函數(shù)作為神經(jīng)模型的激活函數(shù)。對比被替代的Sigmoid函數(shù)，ReLU函數(shù)在進行更深層神經(jīng)網(wǎng)絡的分類效率具有較大的提升，同時在增加網(wǎng)絡深度時一定程度上改進了梯度彌散的問題。

（2）通過隨機忽略神經(jīng)元的方式避免訓練中的過擬合問題。在全連接層中增加Dropout忽略（失活）部分神經(jīng)源，強制網(wǎng)絡學習多個獨立且各不相同的子網(wǎng)絡，在模型訓練中，設置Dropout參數(shù)值為1，則全部神經(jīng)元都參與訓練。

（3）采用重疊的最大池化方法。在卷積神經(jīng)網(wǎng)絡的池化層，以重疊的最大池化（overlapping max-pooling）方法代替此前各類卷積神經(jīng)網(wǎng)絡模型普遍采用的一般平均池化（general mean-pooling）方法，以得到兩點改進：提升特征豐富性、避免池化模糊問題。

（4）采用局部響應歸一化方法。在卷積神經(jīng)網(wǎng)絡中，應用局部響應歸一化方法（local response normalization，LRN），在神經(jīng)網(wǎng)絡訓練中對局部的神經(jīng)元活動設置響應的競爭機制，在LRN中，響應較大的值相對更大，抑制響應較小的神經(jīng)元，提升模型泛化效果。

（5）多GPU訓練，并使用CUDA環(huán)境加速神經(jīng)網(wǎng)絡的訓練，可使用雙GPU訓練神經(jīng)網(wǎng)絡。

（6）通過數(shù)據(jù)增量減少過擬合?？梢酝ㄟ^對圖像進行旋轉、翻轉、裁剪等變換，增加訓練數(shù)據(jù)的多樣性，提高模型的泛化能力。

AlexNet網(wǎng)絡的結構如圖2所示。輸入信息格式為3波段的224×224大小的灰度圖像數(shù)據(jù)，由5個卷積層和3個全連接層組成，卷積層卷積核尺寸分別為11×11、5×5、3×3、3×3、3×3。在第1、第2、第5卷積層后設置最大池化層，窗口尺寸為3×3，步長為2。

1.3 AlexNet算法改進

1.3.1 卷積層（Conv）的改進

使用更小尺寸的卷積核，目的是提升提取深層次圖像特征的效率，增加圖像識別的非線性特征，提升分類的可判別性，并使模型具備隱式的正則化特點。本研究構建模型將經(jīng)典AlexNet模型原有的11×11大卷積核的卷積層調整為2層，分別具有5×5和3×3尺寸的卷積核，將原模型5×5尺寸卷積核的卷積層調整為2個3×3尺寸卷積核的卷積層，調整后全模型僅有5×5和3×3 2種規(guī)格的卷積層，且較原模型有更深的卷積層深度［21-23］。

1.3.2 LRN和全連接層的改進

刪除LRN，并刪除一個全連接層，目的是減少神經(jīng)網(wǎng)絡的參數(shù)，提升神經(jīng)網(wǎng)絡訓練速度，平衡識別的準確性和效率。LRN的計算量較大，來源于設置LRN層參數(shù)交叉驗證，刪除LRN計算過程能夠使模型易于并行化，大大減少計算資源的消耗［24-27］。AlexNet全連接層參數(shù)占整個神經(jīng)網(wǎng)絡參數(shù)的96.2%，通過減少全連接層層數(shù)是現(xiàn)下提升模型訓練速度的主流做法。調整后的AlexNet神經(jīng)網(wǎng)絡模型如圖3所示。

1.3.3 激活函數(shù)

RReLU（randomized ReLU） 是一種近年來提出的用于神經(jīng)網(wǎng)絡模型的激活函數(shù)，是對ReLU的一種改進形式。與ReLU不同的是，RReLU在負數(shù)區(qū)域不是直接設置為0， 而是隨機選擇一個較小的斜率來緩解神經(jīng)元的死亡問題［28-33］。

具體來說，RReLU定義為

其中，ai是一個從均勻分布U（l，u）中隨機采樣得到的常數(shù)，l和u是2個預先設定的超參數(shù)，通常分別設置為較小的值，如0.1和0.3。RReLU的主要作用是避免神經(jīng)元的死亡問題，并提高模型的魯棒性。由于每個神經(jīng)元在訓練時使用不同的斜率，因此可以增加模型的多樣性，從而降低過擬合的風險。同時，RReLU的非線性程度比LeakyReLU更強，因此可以提高模型的表達能力。需要注意的是，由于RReLU中的隨機性質，其在測試時需要使用相同的隨機數(shù)生成方式來保持一致。通?？梢栽谟柧殨r將隨機數(shù)保存下來，然后在測試時使用相同的隨機數(shù)。此外，由于RReLU引入了額外的超參數(shù)，因此需要對其進行調參，以獲得最佳的性能。

2 研究內(nèi)容

2.1 數(shù)據(jù)預處理

AlexNet是一種經(jīng)典的深度學習卷積神經(jīng)網(wǎng)絡模型，用于圖像分類。對于模型的訓練數(shù)據(jù)預處理，需要進行以下幾個步驟。

（1）圖像的縮放和裁剪：AlexNet模型使用的輸入圖像大小為224×224，因此需要將訓練數(shù)據(jù)中的所有圖像都縮放到這個大小。同時，也可以對圖像進行裁剪，以去除不必要的部分。

（2）數(shù)據(jù)增擴：為使模型具有更強的泛化能力，通常需要對訓練數(shù)據(jù)進行數(shù)據(jù)增強操作擴大數(shù)據(jù)集的數(shù)量，如隨機旋轉、隨機裁剪、隨機翻轉等。

（3）像素值歸一化：將圖像的像素值歸一化到［0，1］之間，可以加速訓練收斂并提高模型的準確率。

（4）數(shù)據(jù)集劃分：通常需要將數(shù)據(jù)集劃分為訓練集、驗證集和測試集，用于模型的訓練、調參和測試。

2.2 試驗設計

2.2.1 試驗環(huán)境

于2021年12月至2022年3月進行分批訓練，試驗地點位于廣東省農(nóng)業(yè)科學院農(nóng)業(yè)經(jīng)濟與農(nóng)村發(fā)展研究所試驗室中。計算機硬件配置為i9-10900K CPU，GPU為NVIDIA GeForce RTX 3090，專用GPU內(nèi)存為24 GB。操作系統(tǒng)為Windows 10（64位），使用Python編程語言，采用Anaconda 3環(huán)境管理終端及PyCharm集成開發(fā)環(huán)境，深度學習框架tensorflow-gpu版本為2.4.0。

2.2.2 模型參數(shù)

考慮計算機自身的性能和訓練效果，將迭代次數(shù)（epoch）設置為150次，批次（batch）大小設置為25以及Dropout大小設置為0.5等。具體的參數(shù)設置如表2所示。

2.2.3 模型構建

按上面所描述的改進方案，試驗中的改進AlexNet（AlexNet-enhanced）模型由7個卷積層和2個全連接層組成，最后的全連接層的輸出數(shù)量為13（分類目標數(shù)量）。采用SoftMax計算損失數(shù)并采用categorical_crossentropy損失函數(shù)，激活函數(shù)R ReLU。在全連接層前設置正則化的Dropout層，設置Dropout參數(shù)為0.5，即每個epoch隨機失活50%的神經(jīng)元，在一定程度上預防模型過擬合的發(fā)生。本研究構建的神經(jīng)網(wǎng)絡流程見圖4。

2.2.4 神經(jīng)網(wǎng)絡訓練

模型訓練的具體流程如下：

（1）害蟲數(shù)據(jù)集讀取；

（2）害蟲數(shù)據(jù)集隨機打亂；

（3）神經(jīng)網(wǎng)絡模型實例化，向模型輸入圖片屬性信息及害蟲種類數(shù)量等信息；

（4）設置模型參數(shù)，如優(yōu)化方法、學習率等；

（5）設置神經(jīng)網(wǎng)絡模型的損失函數(shù)，設置損失函數(shù)為categorical_crossentropy，標注網(wǎng)絡評價指標為accuracy；

（6）設置神經(jīng)網(wǎng)絡模型的回調函數(shù)（callbacks）；

（7）保存模型和權重參數(shù)。

2.3 試驗結果

本研究同時采用AlexNet、VGG-16、LeNet的原型網(wǎng)絡作為對比試驗模型進行訓練，與改進AlexNet（AlexNet-enhanced）模型的分類效果進行比較，分析4種模型的性能差異。3種模型的結構特征見表3所示。

2.3.1 訓練結果

使用LeNet、VGG-16、經(jīng)典AlexNet模型和改進AlexNet模型等4種模型在水稻害蟲數(shù)據(jù)集上訓練150個epoch，對比訓練效果差異。除了LeNet模型收斂較慢，其他3種模型的在收斂速度及最高最低值上相差不大。改進后的AlexNet模型因為擴展了網(wǎng)絡層數(shù)，導致相比于原始AlexNet神經(jīng)網(wǎng)絡訓練時間明顯增長，但相比傳統(tǒng)AlexNet網(wǎng)絡的訓練準確率與驗證準確率都又明顯的提升（表4）。

2.3.2 混淆矩陣

圖5為相同驗證集上4種網(wǎng)絡模型驗證得到的混淆矩陣。a～d分別為改進AlexNet模型（AlexNet-enhanced）、經(jīng)典AlexNet、VGG-16、LeNet等模型的混淆矩陣。由圖5可知，AlexNet-enhanced模型的準確性相對其他模型由顯著提升，幾種模型對稻飛虱的幼蟲及害蟲的識別相對其他幾種害蟲效果較差。

2.3.3 準確性

對照組試驗的識別結果如表5所示，在150次迭代的神經(jīng)網(wǎng)絡模型測試中，4種模型均具備優(yōu)秀的識別率，對各類樣本的識別率均超過了90%，AlexNet-enhanced和VGG-16等2種模型的準確率表現(xiàn)更加優(yōu)秀，驗證準確率均超過96%，但經(jīng)過優(yōu)化的AlexNet-enhanced模型通過刪除LRN層和一個全連接層，優(yōu)化了網(wǎng)絡層數(shù)和訓練時間復雜度，VGG-16則因更復雜的網(wǎng)絡導致訓練難度和時間復雜度提升。

3 結果與分析

3.1 通過較高迭代次數(shù)的神經(jīng)網(wǎng)絡模型訓練可以有效提升模型精度

本研究通過150次模型迭代，4種模型都具備優(yōu)秀的模型精度，除LeNet模型收斂速度較慢外，其他3種模型均可以在30次epoch左右的訓練后快速收斂，訓練準確率分別為99.90%（AlexNet-enhanced）、99.23%（經(jīng)典AlexNet）、99.94%（VGG-16）、98.70%（LeNet），達到預期的模型訓練效果，驗證準確率分別為96.17%（AlexNet-enhanced）、94.92%（經(jīng)典AlexNet）、96.72%（VGG-16）、93.97%（LeNet）。各種類蟲害的驗證精確率、召回率、F1分數(shù)見表6。

3.2 識別準確率受蟲害采樣體積影響較大

對比各個模型的識別結果，可發(fā)現(xiàn)對各類型害蟲的成蟲識別率均明顯高于幼蟲，在害蟲的采樣過程中，同焦距相機拍攝過程中幼蟲的成像面積往往明顯小于成蟲，影響模型的特征提取，呈現(xiàn)出各模型幼蟲低于成蟲識別率的情況。稻飛虱是各種害蟲中識別率最低的害蟲，4種模型對稻飛虱幼蟲的識別率均低于總識別率2.7%以上，差值分別為2.75%（AlexNet-enhanced）、2.79%（經(jīng)典AlexNet）、2.78%（VGG-16）、3.39%（LeNet），幼蟲與成蟲識別率差值對比具體情況如表7所示，可見在具體業(yè)務應用過程中，采樣攝像頭的即時調整是害蟲模型識別的重要研究命題。

3.3 改進AlexNet模型（AlexNet-enhanced）具備較好的綜合識別效果

通過對比試驗結果可知，改進后的AlexNet模型（AlexNet-enhanced）對多種害蟲的識別能力較經(jīng)典AlexNet模型提升明顯，高迭代次數(shù)下總識別準確率高1.25百分點，對各種類的害蟲識別準確率也有明顯的提升，除稻飛虱幼蟲外，模型的驗證準確率也都可以保持在95%以上， 好于經(jīng)典AlexNet模型。在3種對比試驗模型中，效果最好的模型是VGG-16模型，其神經(jīng)網(wǎng)絡的總層數(shù)比AlexNet-enhanced模型多60%，卷積層數(shù)多62.5，模型的總訓練時長長40%，在算力資源需求顯著低于VGG-16模型的前提下AlexNet-enhanced獲得了相當?shù)挠柧毿Ч?/p>

4 結論與討論

4.1 結論

本研究通過對經(jīng)典的深度學習模型AlexNet進行提升模型深度和優(yōu)化模型結構的改進，構建一套用于嶺南水稻害蟲識別的AlexNet-enhanced模型，通過對6種害蟲的成蟲及幼蟲和健康水稻的數(shù)據(jù)進行訓練和測試，并分析識別結果。通過對識別結果的分析，可得出以下結論：（1）改進的AlexNet模型（AlexNet-enhanced）對比傳統(tǒng)的AlexNet模型在害蟲識別這一領域上效果提升顯著，其總體識別準確度為96.17%，同時對比具有更深網(wǎng)絡深度的神經(jīng)網(wǎng)絡模型（VGG-16），在不損失過多識別精度的情況下對計算機資源的使用更少、訓練更快。（2）神經(jīng)網(wǎng)絡模型的訓練受特征采樣條件約束較強，表現(xiàn)在對特征較少的幼蟲分類結果會差于成蟲，體積小的害蟲分類結果差于體積大的害蟲，這對大田害蟲圖像數(shù)據(jù)采集設備的研發(fā)具有參考意義。（3）本研究除對比試驗中使用LeNet模型在訓練中在50個 epoch的訓練下表現(xiàn)出模型無法收斂的問題，其他3種模型均能在訓練中表現(xiàn)出良好的收斂性能，現(xiàn)階段通過神經(jīng)網(wǎng)絡學習方法解決害蟲識別問題，提升模型訓練的迭代次數(shù)和增加訓練樣本數(shù)量仍然是提升模型準確性的主要手段。本研究的結果表明，改進的AlexNet模型對南方水稻害蟲的識別有不錯的應用效果，可以作為大田間水稻害蟲智能識別的有效解決方案。

4.2 討論

本研究的創(chuàng)新性集中于通過對傳統(tǒng)模型的改造適應南方水稻害蟲識別這一具有重要實踐意義的問題的研究，對傳統(tǒng)模型的改進具有較強的針對性，表現(xiàn)在通過改進傳統(tǒng)模型（經(jīng)典AlexNet模型）深度不足的問題，同時在不消耗過多計算機算力資源的情況下逼近更新的神經(jīng)網(wǎng)絡模型（VGG-16）的識別效率，在理論和思路上具備在實際生產(chǎn)應用上的條件。但在研究中仍然暴露了一些問題：（1）模型的訓練受樣本特征約束較強，泛化能力不足，在幼蟲和稻飛虱等害蟲的識別率上有待提升，VGG-16 模型在此領域顯著優(yōu)于改進后的AlexNet模型（AlexNet-enhanced）；（2）樣本獲取方式單一，缺乏復雜情境下的水稻害蟲數(shù)據(jù)參與訓練，在投入實際應用前需經(jīng)過更廣泛的數(shù)據(jù)采集應用于模型訓練，同時也需要對生產(chǎn)中的數(shù)據(jù)采集設備進行針對性的改進，如提高設備像素、提升設備的自動追焦和變焦能力。

參考文獻：

［1］方福平，程式華. 水稻科技與產(chǎn)業(yè)發(fā)展［J］. 農(nóng)學學報，2018，8（1）：92-98.

［2］趙正洪，戴 力，黃見良，等. 長江中游稻區(qū)水稻產(chǎn)業(yè)發(fā)展現(xiàn)狀、問題與建議［J］. 中國水稻科學，2019，33（6）：553-564.

［3］徐春春，紀 龍，陳中督，等. 2020年我國水稻產(chǎn)業(yè)形勢分析及2021年展望［J］. 中國稻米，2021，27（2）：1-4.

［4］王 豐，柳武革，劉迪林，等. 廣東優(yōu)質稻發(fā)展及稻米品牌建設與展望［J］. 中國稻米，2021，27（4）：107-116.

［5］楊普云，任彬元. 促進農(nóng)作物病蟲害綠色防控技術推廣應用：2011至2017年全國農(nóng)作物重大病蟲害防控技術方案要點評述［J］. 植物保護，2018，44（1）：6-8.

［6］全國農(nóng)業(yè)技術推廣服務中心. 植物保護統(tǒng)計技術與方法［M］. 北京：中國農(nóng)業(yè)科學技術出版社，2013.

［7］梁萬杰，曹宏鑫. 基于卷積神經(jīng)網(wǎng)絡的水稻蟲害識別［J］. 江蘇農(nóng)業(yè)科學，2017，45（20）：241-243，253.

［8］Huo M Y，Tan J. Overview：research progress on pest and disease identification［C］//Lu Y，Vincent N，Yuen P C，et al. International Conference on Pattern Recognition and Artificial Intelligence.Cham：Springer，2020：404-415.

［9］Ayan E，Erbay H，Varn F. Crop pest classification with a genetic algorithm-based weighted ensemble of deep convolutional neural networks［J］. Computers and Electronics in Agriculture，2020，179：105809.

［10］Thenmozhi K，Srinivasulu Reddy U. Crop pest classification based on deep convolutional neural network and transfer learning［J］. Computers and Electronics in Agriculture，2019，164：104906.

［11］傅隆生，宋珍珍，Zhang X，等. 深度學習方法在農(nóng)業(yè)信息中的研究進展與應用現(xiàn)狀［J］. 中國農(nóng)業(yè)大學學報，2020，25（2）：105-120.

［12］翁 楊，曾 睿，吳陳銘，等. 基于深度學習的農(nóng)業(yè)植物表型研究綜述［J］. 中國科學（生命科學），2019，49（6）：698-716.

［13］張善文，邵 彧，齊國紅，等. 基于多尺度注意力卷積網(wǎng)絡的作物害蟲檢測［J］. 江蘇農(nóng)業(yè)學報，2021，37（3）：579-588.

［14］龍滿生，歐陽春娟，劉 歡，等. 基于卷積神經(jīng)網(wǎng)絡與遷移學習的油茶病害圖像識別［J］. 農(nóng)業(yè)工程學報，2018，34（18）：194-201. [HJ2mm]

［15］薛 勇，王立揚，張 瑜，等. 基于GoogLeNet深度遷移學習的蘋果缺陷檢測方法［J］. 農(nóng)業(yè)機械學報，2020，51（7）：30-35.

［16］張建華，孔繁濤，吳建寨，等. 基于改進VGG卷積神經(jīng)網(wǎng)絡的棉花病害識別模型［J］. 中國農(nóng)業(yè)大學學報，2018，23（11）：161-171.

［17］孫 紅，李 松，李民贊，等. 農(nóng)業(yè)信息成像感知與深度學習應用研究進展［J］. 農(nóng)業(yè)機械學報，2020，51（5）：1-17.

［18］段仲靜，李少波，胡建軍，等. 深度學習目標檢測方法及其主流框架綜述［J］. 激光與光電子學進展，2020，57（12）：59-74.

［19］李炳臻，劉 克，顧佼佼，等. 卷積神經(jīng)網(wǎng)絡研究綜述［J］. 計算機時代，2021（4）：8-12，17.

［20］嚴春滿，王 鋮. 卷積神經(jīng)網(wǎng)絡模型發(fā)展及應用［J］. 計算機科學與探索，2021，15（1）：27-46.

［21］王旭東，邵惠鶴. RBF神經(jīng)網(wǎng)絡理論及其在控制中的應用［J］. 信息與控制，1997，26（4）：272-284.

［22］李國和，喬英漢，吳衛(wèi)江，等. 深度學習及其在計算機視覺領域中的應用［J］. 計算機應用研究，2019，36（12）：3521-3529，3564.

［23］朱虎明，李 佩，焦李成，等. 深度神經(jīng)網(wǎng)絡并行化研究綜述［J］. 計算機學報，2018，41（8）：1861-1881.

［24］楊觀賜，楊 靜，李少波，等. 基于Dopout與ADAM優(yōu)化器的改進CNN算法［J］. 華中科技大學學報（自然科學版），2018，46（7）：122-127.

［25］冉 鵬，王 靈，李 昕，等. 改進Softmax分類器的深度卷積神經(jīng)網(wǎng)絡及其在人臉識別中的應用［J］. 上海大學學報（自然科學版），2018，24（3）：352-366.

［26］王功鵬，段 萌，牛常勇. 基于卷積神經(jīng)網(wǎng)絡的隨機梯度下降算法［J］. 計算機工程與設計，2018，39（2）：441-445，462.

［27］黃 毅，段修生，孫世宇，等. 基于改進sigmoid激活函數(shù)的深度神經(jīng)網(wǎng)絡訓練算法研究［J］. 計算機測量與控制，2017，25（2）：126-129.

［28］劉小文，郭大波，李 聰. 卷積神經(jīng)網(wǎng)絡中激活函數(shù)的一種改進［J］. 測試技術學報，2019，33（2）：121-125.

［29］王紅霞，周家奇，辜承昊，等. 用于圖像分類的卷積神經(jīng)網(wǎng)絡中激活函數(shù)的設計［J］. 浙江大學學報（工學版），2019，53（7）：1363-1373.

［30］田 娟，李英祥，李彤巖. 激活函數(shù)在卷積神經(jīng)網(wǎng)絡中的對比研究［J］. 計算機系統(tǒng)應用，2018，27（7）：43-49.

［31］蔣昂波，王維維. ReLU激活函數(shù)優(yōu)化研究［J］. 傳感器與微系統(tǒng)，2018，37（2）：50-52.

［32］王雙印，滕國文. 卷積神經(jīng)網(wǎng)絡中ReLU激活函數(shù)優(yōu)化設計［J］. 信息通信，2018，31（1）：42-43.

［33］曲之琳，胡曉飛. 基于改進激活函數(shù)的卷積神經(jīng)網(wǎng)絡研究［J］. 計算機技術與發(fā)展，2017，27（12）：77-80.