蔣力順 董志學(xué) 胡瀟 劉志強

關(guān)鍵詞：卷積神經(jīng)網(wǎng)絡(luò);黃瓜病害;遷移學(xué)習(xí);病害識別

黃瓜也稱胡瓜、青瓜，是人們生活中經(jīng)常食用的蔬菜之一。近年來隨著黃瓜的需求量不斷增加，其種植面積也在增加，但黃瓜葉面病害一直是制約產(chǎn)量增加的關(guān)鍵因素，以天津地區(qū)黃瓜種植為例，2016年黃瓜褐斑病的發(fā)病率為90%，病毒病的暴發(fā)率達(dá)到100%。以前種植戶在識別黃瓜病害時主要是根據(jù)自己以往的經(jīng)驗進(jìn)行判斷，很難快速并準(zhǔn)確地識別出黃瓜病害種類，往往會出現(xiàn)病害判斷失誤而造成黃瓜產(chǎn)量的降低。隨著社會的發(fā)展，深度學(xué)習(xí)技術(shù)也取得不少的研究成果，并在圖像分類識別任務(wù)上廣泛運用，不僅可以省時省力，而且可以做到實時的判斷，從而避免由判斷失誤而導(dǎo)致黃瓜減產(chǎn)。

國內(nèi)外有關(guān)深度學(xué)習(xí)技術(shù)在農(nóng)業(yè)上的應(yīng)用發(fā)展較早，已經(jīng)取得了許多研究成果。陳佳娟等人使用邊緣檢測的方法對棉花蟲害葉片進(jìn)行研究，取得了很好的識別效果。周正利用BP神經(jīng)網(wǎng)絡(luò)對番茄病害進(jìn)行識別，優(yōu)化模型的參數(shù)，具有不錯的識別效果。Mohanty等人以26種農(nóng)作物病害為研究對象，在AlexNet和GoogLeNet兩種不同卷積神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上，設(shè)置不同的參數(shù)進(jìn)行模型訓(xùn)練，結(jié)果表明此研究具有較高的識別準(zhǔn)確率。李艷以馬鈴薯病害作為研究對象，改進(jìn)卷積神經(jīng)網(wǎng)絡(luò)的模型結(jié)構(gòu)，利用Fisher算法進(jìn)行網(wǎng)絡(luò)識別，此方法能夠快速地找到分類的最佳值，并且在小規(guī)模馬鈴薯數(shù)據(jù)集有著較好的識別效果。王平利用遷移學(xué)習(xí)的方法使目標(biāo)領(lǐng)域與大數(shù)據(jù)集上的參數(shù)權(quán)重進(jìn)行參數(shù)共享，對煙草的11種病害都具有很好的識別效果。

以黃瓜葉面病害作為研究對象，在卷積神經(jīng)網(wǎng)絡(luò)的基礎(chǔ)上，借助深度學(xué)習(xí)自動學(xué)習(xí)樣本特征的優(yōu)勢，研究一種高效的、實時的、準(zhǔn)確的病害識別方法。

1黃瓜葉面病害識別系統(tǒng)的組成和算法

1.1系統(tǒng)的組成

黃瓜葉面病害識別系統(tǒng)包括圖像獲取部分、圖像處理部分、模型訓(xùn)練及測試部分。系統(tǒng)的組成結(jié)構(gòu)如圖1所示。

圖像獲取部分：通過移動終端手機的攝像頭進(jìn)行病害圖像的直接獲取。

圖像處理部分：使用Python軟件對獲取到的病害樣本進(jìn)行圖像處理操作，對病害圖像進(jìn)行圖像增強處理，包括圖像的旋轉(zhuǎn)、平移等增強變換，擴充病害圖片的數(shù)量。

模型訓(xùn)練及測試部分：首先利用AlexNet，VGG一16和ResNetS0三種不同深度的卷積神經(jīng)網(wǎng)絡(luò)模型對病害數(shù)據(jù)集進(jìn)行模型訓(xùn)練，然后在遷移學(xué)習(xí)條件下利用不同的訓(xùn)練方案進(jìn)行遷移訓(xùn)練，最后測試出網(wǎng)絡(luò)模型的識別效果。

1.2卷積神經(jīng)網(wǎng)絡(luò)

卷積神經(jīng)網(wǎng)絡(luò)是一種特殊的深層的神經(jīng)網(wǎng)絡(luò)模型，最早由Rumelhart D E等人提出。卷積神經(jīng)網(wǎng)絡(luò)主要由3部分組成，包括卷積層、池化層和全連接層。

卷積層通過卷積核和非線性變換提取局部感覺域的特征，并利用激活函數(shù)選擇從網(wǎng)絡(luò)中提取的特征，從而避免了線性運算表達(dá)能力不足的問題。ReLU是一個分段函數(shù)，收斂速度快，能較好地處理梯度消失問題，如式（1）所示：

池化層主要用于降低卷積層傳輸?shù)臄?shù)據(jù)維數(shù)，減少參數(shù)數(shù)量和計算量，有效防止過擬合。通常使用最大池化的方法進(jìn)行數(shù)據(jù)降維。

全連接層是指上層的每個神經(jīng)元都連接下層的所有神經(jīng)元。針對圖像分類問題，通常使用Softmax輸出解決。其函數(shù)表達(dá)式如下：

黃瓜葉面病害識別系統(tǒng)選取AlexNet、VGG-16和ResNetS0三種模型作為訓(xùn)練模型，具體的結(jié)構(gòu)特征如表1所示。

1.3遷移學(xué)習(xí)

遷移學(xué)習(xí)是指在一個新的任務(wù)中使用預(yù)訓(xùn)練好的模型，具體是在任務(wù)A中訓(xùn)練出一個基礎(chǔ)網(wǎng)絡(luò)，將學(xué)習(xí)的知識遷移到任務(wù)B中繼續(xù)訓(xùn)練網(wǎng)絡(luò)。參數(shù)遷移從模型的角度出發(fā)，共享源域模型與目標(biāo)域模型之間的某些參數(shù)達(dá)到遷移學(xué)習(xí)的效果。

2黃瓜葉面病害識別系統(tǒng)的實現(xiàn)

2.1數(shù)據(jù)采集及預(yù)處理

實驗數(shù)據(jù)的采集地點位于上海市浦東新區(qū)六灶灣村大棚蔬菜種植基地，利用Android手機對黃瓜葉面病害進(jìn)行拍照和保存圖像，其分辨率為2244×1080?？紤]到光照的因素，在晴天、雨天和陰天的天氣下分別采集黃瓜葉面病害照片。采集到的病害圖像總共有1200張，包括霜霉病、細(xì)菌性角斑病、灰霉病和炭疽病，并采用JPG格式存儲，黃瓜病害樣本如圖2所示。

將采集到的黃瓜葉面病害圖片進(jìn)行水平翻轉(zhuǎn)、垂直翻轉(zhuǎn)、隨機縮放等圖像增強處理，得到了不同角度、方向的變換圖片，利用圖像增強方法可以使一張病害圖片擴充為許多張，在不改變圖像質(zhì)量的情況下，極大地增加了病害樣本數(shù)量。將采集到的原始圖片進(jìn)行圖像增強處理后，人工篩選去除變化較大、失去部分病害特征的圖片，得到30000張擴充樣本，并按病害種類分為4類，對樣本設(shè)置好標(biāo)簽，隨機選取24000張圖片作為訓(xùn)練集，剩余的6000張圖片作為測試集，最后把數(shù)據(jù)集統(tǒng)一縮放為224×224格式。

2.2模型訓(xùn)練流程

模型訓(xùn)練過程中，以模型的迭代次數(shù)來判斷模型的訓(xùn)練是否結(jié)束，結(jié)束后保存模型，在保存模型的基礎(chǔ)上用測試集去測試效果，以測試準(zhǔn)確率作為判定標(biāo)準(zhǔn)。如圖3所示，模型的訓(xùn)練步驟如下：

（1）輸入病害圖片，確保圖片的尺寸與構(gòu)建模型時的輸入尺寸相同。

（2）調(diào)用網(wǎng)絡(luò)模型并對模型的參數(shù)進(jìn)行初始化。

（3）圖片分批次進(jìn)行模型訓(xùn)練，通過模型的卷積層、池化層和全連接層獲得病害圖片輸出層的權(quán)值以及預(yù)測結(jié)果。

（4）利用預(yù)測值和真實值的標(biāo)簽計算出誤差大小，并對模型進(jìn)行誤差的反向傳播，更新訓(xùn)練好的權(quán)值。

（5）判斷模型是否滿足訓(xùn)練時設(shè)置的迭代輪次，如果不滿足結(jié)束條件，利用新的權(quán)值重新初始化網(wǎng)絡(luò)，繼續(xù)進(jìn)行模型訓(xùn)練;如果滿足結(jié)束條件，對比訓(xùn)練輪次內(nèi)模型的訓(xùn)練結(jié)果，保存病害圖片識別最優(yōu)的訓(xùn)練模型。

（6）系統(tǒng)模型訓(xùn)練結(jié)束。

2.3三種模型的遷移訓(xùn)練

黃瓜葉面病害數(shù)據(jù)集進(jìn)行遷移學(xué)習(xí)訓(xùn)練時，以AlexNet、VGG-16和ResNet50三種深度卷積神經(jīng)網(wǎng)絡(luò)模型為基礎(chǔ)，利用ImageNet數(shù)據(jù)集上的預(yù)訓(xùn)練模型參數(shù)，對黃瓜葉面病害數(shù)據(jù)集進(jìn)行遷移訓(xùn)練，如圖4所示。

首先將ImageNet數(shù)據(jù)集上3種模型的預(yù)訓(xùn)練權(quán)重、偏置進(jìn)行轉(zhuǎn)化，使其適用于黃瓜葉面病害數(shù)據(jù)集的模型訓(xùn)練;然后凍結(jié)不同深度的網(wǎng)絡(luò)結(jié)構(gòu)，保持網(wǎng)絡(luò)各層的權(quán)重信息不變，只訓(xùn)練全連接分類層;最后保持三種模型的訓(xùn)練參數(shù)不變，重新訓(xùn)練三種預(yù)訓(xùn)練模型的所有參數(shù)和權(quán)重。參數(shù)的全訓(xùn)練會導(dǎo)致模型訓(xùn)練時間的增加，但是大量的模型參數(shù)意味著病害特征更為全面，探究此條件下模型的識別效果。

3實驗結(jié)果與分析

3.1實驗環(huán)境

模型訓(xùn)練與測試的實驗環(huán)境是在Linux操作系統(tǒng)下，搭載Tensorflow-gpu 2.1、CUDA Toolkit10.1和CUDNN 7.6.4深度學(xué)習(xí)框架。硬件環(huán)境為Intel Core i7-7500U CPU，8 GB內(nèi)存。

3.2模型參數(shù)設(shè)計

考慮電腦自身的性能和訓(xùn)練效果，將迭代次數(shù)（Epochs）設(shè)置為200次，批次（Batch）大小設(shè)置為25以及Dropout大小設(shè)置為0.5等。具體的參數(shù)設(shè)置如表2所示。

3.3三種模型結(jié)果分析

為了研究AlexNet、VGG一16和ResNetS0三種網(wǎng)絡(luò)模型是否影響黃瓜病害的識別效果，利用黃瓜葉面病害數(shù)據(jù)集進(jìn)行三種模型的訓(xùn)練識別。模型訓(xùn)練時，按照模型的訓(xùn)練流程，以擴充后的數(shù)據(jù)集作為模型的輸入，訓(xùn)練并保存三種網(wǎng)絡(luò)模型的實驗結(jié)果，如表3所示。

從表3可以看出，AlexNet模型訓(xùn)練時長為8.8 h，VGG-16模型用時19 h，ResNetS0模型用時14 h;對比三種模型的實驗結(jié)果，網(wǎng)絡(luò)層數(shù)較多的ResNet50模型識別率比其余兩種層數(shù)較低的模型識別率更高，其驗證準(zhǔn)確率達(dá)到97.88%，說明在黃瓜葉面病害數(shù)據(jù)集上，高層數(shù)的ResNet50模型具有最優(yōu)的識別效果。

3.4遷移學(xué)習(xí)方法下結(jié)果分析

遷移條件下只訓(xùn)練網(wǎng)絡(luò)模型的全連接分類層，按照遷移學(xué)習(xí)的訓(xùn)練方法分別進(jìn)行三種模型的遷移訓(xùn)練，其訓(xùn)練結(jié)果如表4所示。

從表4可以看出，三種模型的訓(xùn)練時長分別為4.7 h、10 h和7 h，三種模型的訓(xùn)練時長明顯減少，并且模型的驗證準(zhǔn)確率達(dá)到96%以上，其中Res-Net50模型的驗證準(zhǔn)確率最優(yōu)，達(dá)到96.74%，說明遷移訓(xùn)練可以降低模型的訓(xùn)練時長。另外，模型在訓(xùn)練準(zhǔn)確率上有明顯的下降，說明利用遷移學(xué)習(xí)方法只訓(xùn)練模型的全連接層不能充分識別多樣的數(shù)據(jù)，因此訓(xùn)練準(zhǔn)確率才會下降。

在擴充數(shù)據(jù)集的基礎(chǔ)上，保持模型參數(shù)不變，重新訓(xùn)練三種預(yù)訓(xùn)練模型的所有參數(shù)和權(quán)重，其訓(xùn)練結(jié)果如表5所示。

對比表4和表5三種模型的訓(xùn)練結(jié)果可以看出，在擴充數(shù)據(jù)集下訓(xùn)練模型的所有預(yù)訓(xùn)練參數(shù)時，由于模型訓(xùn)練參數(shù)量的增加，其訓(xùn)練時長明顯上升，但訓(xùn)練參數(shù)的增加意味著模型訓(xùn)練時能夠提取更全面的圖片信息，得到更好的識別效果。如表5所示，三種網(wǎng)絡(luò)模型的訓(xùn)練準(zhǔn)確率接近100%，AlexNet模型的驗證準(zhǔn)確率為98.12%，VGG-16模型的驗證準(zhǔn)確率為98.35%，ResNet50模型的驗證準(zhǔn)確率最優(yōu)，達(dá)到99.06%。

選取識別率為99.06%的ResNet50網(wǎng)絡(luò)模型，來檢測黃瓜每種葉面病害的識別效果。從黃瓜葉面病害數(shù)據(jù)集中隨機選取425張病害圖片，采用混淆矩陣進(jìn)行病害的分類，四種病害的識別結(jié)果如圖5所示。

圖中以hui、jiao、shuang、tan分別表示黃瓜葉面灰霉病、角斑病、霜霉病和炭疽病四種病害類型，True Labels表示每種病害的真實標(biāo)簽，PredictedLabels表示每種病害的預(yù)測標(biāo)簽，圖片右側(cè)顏色的深度表示每種病害正確檢測數(shù)量的大小。可以看出黃瓜的四種葉面病害圖片都具有較高的識別效果，能夠滿足預(yù)期病害識別的檢測要求。

在現(xiàn)實場景下驗證病害識別系統(tǒng)的檢測結(jié)果，利用手機隨機拍攝的黃瓜葉面病害圖片進(jìn)行系統(tǒng)的檢測識別，其檢測結(jié)果如圖6所示。

從圖6可以看出系統(tǒng)的輸入為炭疽病圖片，檢測結(jié)果為tan，識別率為99.7841%，并給出了炭疽病的治療方案。

4結(jié)論

介紹了黃瓜葉面病害圖片的采集和預(yù)處理過程，制作了黃瓜葉面病害數(shù)據(jù)集，采用了AlexNet、VGG-16和ResNet50三種不同深度網(wǎng)絡(luò)模型進(jìn)行模型訓(xùn)練并對結(jié)果進(jìn)行分析，得到黃瓜病害檢測的最佳系統(tǒng)模型。實驗結(jié)果表明：遷移條件下Res-Net50模型具有最高的病害識別效果，能夠滿足黃瓜葉面病害的識別要求。