馮 廣，孔立斌，石鳴鳴，賀敏慧，何雅萱

（廣東工業(yè)大學(xué) 自動(dòng)化學(xué)院，廣東 廣州 510006）

農(nóng)業(yè)病蟲害問題是我國主要的農(nóng)業(yè)自然災(zāi)害之一，具有種類繁多、影響大且時(shí)常爆發(fā)成災(zāi)的特點(diǎn)。目前的農(nóng)作物病蟲害識(shí)別手段主要是人工識(shí)別或計(jì)算機(jī)輔助識(shí)別，但由于病蟲害的種類繁多、識(shí)別起來速度慢、錯(cuò)誤率高，而且對(duì)專業(yè)知識(shí)要求高，現(xiàn)有的病蟲害識(shí)別手段越來越離不開計(jì)算機(jī)的輔助。為了解決該問題，趙國華等[1]利用進(jìn)階精簡指令集機(jī)(Advanced RISC Machine，ARM)對(duì)農(nóng)作物病蟲害的識(shí)別系統(tǒng)構(gòu)建進(jìn)行研究，該方法通過圖像掃描提取圖像的數(shù)字化特征，然后遍歷數(shù)據(jù)庫，通過Kmeans聚類計(jì)算特征相似度來輸出相似度最高的病蟲害種類。這種方法存在識(shí)別精度低和識(shí)別速度慢的問題。柴帥等[2]利用深度卷積神經(jīng)網(wǎng)絡(luò)(Deep convolutional neural network，DCNN)實(shí)現(xiàn)番茄葉片的病蟲害識(shí)別，通過構(gòu)建VGG-19網(wǎng)絡(luò)緩和了識(shí)別番茄葉片病蟲害時(shí)出現(xiàn)的過擬合現(xiàn)象，提取特征后利用支持向量機(jī)進(jìn)行分類，進(jìn)一步提高了識(shí)別準(zhǔn)確率。但該方法存在對(duì)一些特定類別的識(shí)別率低的問題。孫軍[3]用目標(biāo)識(shí)別的方式來對(duì)茶樹病蟲害進(jìn)行識(shí)別，通過基于目標(biāo)分割算法實(shí)現(xiàn)目標(biāo)位置鎖定，確定閾值調(diào)整目標(biāo)位置的圖像比例尺寸，再對(duì)目標(biāo)屬類進(jìn)行劃分，效果優(yōu)于普通的卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network，CNN)模型。但均勻的密集采樣的一個(gè)重要缺點(diǎn)是訓(xùn)練比較困難，因?yàn)檎龢颖九c負(fù)樣本(背景)極其不均衡，導(dǎo)致模型準(zhǔn)確度稍低。因此，設(shè)計(jì)出訓(xùn)練速度快、識(shí)別準(zhǔn)確率高和分類效果好的農(nóng)作物病蟲害識(shí)別算法是急需解決的問題，對(duì)于改善種植環(huán)境、提高糧食產(chǎn)量以及推動(dòng)我國精準(zhǔn)農(nóng)業(yè)的發(fā)展都具有重要意義。

當(dāng)前的計(jì)算機(jī)視覺任務(wù)主要采用深度學(xué)習(xí)的方法，在圖像識(shí)別和分類任務(wù)上都取得了較好的效果。2012年ImageNet競賽冠軍獲得者Hinton和他的學(xué)生Alex Krizhevsky[4]設(shè)計(jì)的AlexNet是深度學(xué)習(xí)用于圖像分類的一個(gè)劃時(shí)代算法。與傳統(tǒng)的人工特征方法的圖像分類相比，AlexNet使得分類的準(zhǔn)確率大幅度提升。Szegedy等[5]另辟蹊徑，用回歸的方法解決目標(biāo)識(shí)別問題，將深度卷積網(wǎng)絡(luò)作為特征提取器，然后回歸出目標(biāo)的種類。Dumitru Erhan等[6]將感興趣的區(qū)域信息包裝成邊界框，然后給出每個(gè)邊界框的信息進(jìn)行回歸訓(xùn)練，利用深度卷積網(wǎng)絡(luò)進(jìn)行回歸預(yù)測。為了解決輸入圖像尺寸限制問題，He等[7]提出一種空間金字塔池化(Spatial Pyramid Pooling，SPP)方法，可以把不同尺寸的輸入圖像映射到一個(gè)固定尺寸的特征向量上，提高了識(shí)別速率。以上方法均需要提取候選區(qū)域，這一步是與識(shí)別無關(guān)的耗時(shí)步驟，為了避免候選區(qū)域的提取耗時(shí)過多，一種端到端的識(shí)別方法陸續(xù)提出。Cirshick等[8]提出一種端到端的快速區(qū)域卷積神經(jīng)網(wǎng)絡(luò)，將整個(gè)圖像歸一化后直接送入CNN網(wǎng)絡(luò)，卷積層不進(jìn)行候選區(qū)的特征提取，而是在最后一個(gè)池化層加入候選區(qū)域坐標(biāo)信息，進(jìn)行特征提取的計(jì)算，加快了識(shí)別速率。Liu等[9]提出一種單點(diǎn)多盒探測器的方法，把不同卷積核用于不同的寬高比進(jìn)行識(shí)別，然后將特征圖用于網(wǎng)絡(luò)高層的多個(gè)特征映射當(dāng)中，采用多尺度特征映射用于識(shí)別。而面對(duì)農(nóng)作物病蟲害的識(shí)別任務(wù)中，當(dāng)新增種類時(shí)便需要模型遷移訓(xùn)練，這就要求模型的訓(xùn)練速度要快。同時(shí)對(duì)于類別較多的問題，需要一種更有效的特征提取網(wǎng)絡(luò)以及更有效的多分類器。

針對(duì)上述問題，本文提出一種基于深度學(xué)習(xí)的InceptionNet網(wǎng)絡(luò)的Inception結(jié)構(gòu)和ResNet網(wǎng)絡(luò)的Residual結(jié)構(gòu)組合的Inception-resnetl-v2網(wǎng)絡(luò)以及softmax分類器的農(nóng)作物病蟲識(shí)別方法，改善了傳統(tǒng)深度學(xué)習(xí)中的普通卷積結(jié)構(gòu)訓(xùn)練慢、容易過擬合以及分類效果差的問題，實(shí)現(xiàn)更精準(zhǔn)高效的農(nóng)作物病蟲害識(shí)別。最后通過實(shí)驗(yàn)對(duì)比傳統(tǒng)深度學(xué)習(xí)算法，驗(yàn)證了本文方法的有效性。

1 病蟲害圖像識(shí)別原理

隨著精準(zhǔn)農(nóng)業(yè)的興起，運(yùn)用信息技術(shù)輔助農(nóng)業(yè)生產(chǎn)為農(nóng)作物病蟲害的識(shí)別提供了新思路，圖像處理技術(shù)就是其中之一[10]。一種高效的農(nóng)作物病蟲害識(shí)別算法不僅能有效提取病蟲害的特征，還能均衡區(qū)分不同類別。傳統(tǒng)的圖像分類算法大多采用普通CNN或DCNN提取圖像特征，然后使用支持向量機(jī)(Support Vector Machine，SVM)進(jìn)行多個(gè)二分類。與人工特征方法相比，取得了一定的效果。但是存在過擬合導(dǎo)致特征提取效果差和模型訓(xùn)練成本高的問題，有較大的改進(jìn)空間。本文以Inception結(jié)構(gòu)和Residual結(jié)構(gòu)組合的Inception-resnetl-v2網(wǎng)絡(luò)和Softmax分類器構(gòu)建了一種用于多分類的農(nóng)作物病蟲害識(shí)別算法，達(dá)到準(zhǔn)確識(shí)別和分類的均衡化。所提出的農(nóng)作物病蟲害識(shí)別算法中，利用特征提取網(wǎng)絡(luò)(Inception-resnet-v2)以及Softmax分類器是實(shí)現(xiàn)農(nóng)作物病蟲害識(shí)別算法的關(guān)鍵環(huán)節(jié)，識(shí)別流程如圖1所示。

圖 1 農(nóng)作物病蟲害識(shí)別流程Fig.1 Crop pest and disease identification process

2 病蟲害圖像特征提取網(wǎng)絡(luò)

提取農(nóng)作物病蟲害圖像的特征以及學(xué)習(xí)相應(yīng)的圖像模式是農(nóng)作物病蟲害算法實(shí)現(xiàn)敏感識(shí)別和精準(zhǔn)分類的關(guān)鍵。為了可以提取更高級(jí)的病蟲害深度特征表達(dá)，產(chǎn)生更多不同的特征組合學(xué)習(xí)得到病蟲害特征映射，本文構(gòu)建了病蟲害深度特征提取網(wǎng)絡(luò)，網(wǎng)絡(luò)結(jié)構(gòu)采用了Szegedy等[11]提出的Inception結(jié)構(gòu)，在性能不降低的前提下降低參數(shù)數(shù)量，加快訓(xùn)練速度。同時(shí)采用了殘差網(wǎng)絡(luò)的連接思想，引入了He等[12]提出的Residual結(jié)構(gòu)，在保證網(wǎng)絡(luò)結(jié)構(gòu)很深的情況下仍能收斂。農(nóng)作物病蟲害特征提取網(wǎng)絡(luò)如圖2所示。

網(wǎng)絡(luò)包含3種Inception-resnet塊，3種網(wǎng)絡(luò)塊區(qū)別在于Inception結(jié)構(gòu)卷積核的大小和數(shù)量不同。對(duì)于Inception-resnet-A塊，首先輸入上一個(gè)深度網(wǎng)絡(luò)層輸出的病蟲害特征映射，Inception結(jié)構(gòu)有3路卷積通道，分別提取出尺寸相同通道數(shù)不同的特征映射進(jìn)行堆疊，然后對(duì)堆疊后的特征映射進(jìn)行卷積得到Inception結(jié)構(gòu)的輸出特征，通過殘差連接與輸入特征映射相加，最后通過激活函數(shù)得到這個(gè)塊提取的病蟲害更高級(jí)的特征映射。以水稻稻瘟病為例，通過Inceptionresnet-A塊把紋枯病的低級(jí)特征映射高度抽象得到高級(jí)特征映射如圖3所示。網(wǎng)絡(luò)的特征提取核心結(jié)構(gòu)由Inception-resnet-A/B/C塊組成，該結(jié)構(gòu)由一系列卷積和殘差連接實(shí)現(xiàn)，公式為

其中， xb表 示第b 個(gè)Incepption-resnet塊輸出的特征映射； hk(x)表示Inception-resnet-K塊提取的特征映射。是第l層 卷積網(wǎng)絡(luò)的第n 個(gè) 輸出特征映射；函數(shù) f為激活函數(shù)；為第l -1層 卷積網(wǎng)絡(luò)的第i個(gè)輸出特征映射；為第l層 卷積網(wǎng)絡(luò)的第n 個(gè)卷積核權(quán)重；參數(shù)是 第l 層卷積網(wǎng)絡(luò)的第n 個(gè)特征映射的偏置。

通過Inception-resnet結(jié)構(gòu)提取的病蟲害高級(jí)特征，存在鄰域大小受限造成的估計(jì)值方差增大，為了縮小該誤差，使用平均值池化卷積層輸出的病蟲害特征映射。池化特征映射表達(dá)式為

圖 2 病蟲害特征提取網(wǎng)絡(luò)Fig.2 Pest and disease feature extraction network

3 病蟲害識(shí)別過程

對(duì)原始圖像進(jìn)行亮度歸一化[13]預(yù)處理后，輸入到Inception-resnet-v2網(wǎng)絡(luò)對(duì)農(nóng)作物病蟲害圖像采用端到端的方式直接提取從低級(jí)到高級(jí)的特征，得到特征映射后再通過平均池化層進(jìn)行池化，池化輸出后將特征映射進(jìn)行一維展開得到相應(yīng)的特征向量，最后將特征向量通過分類器進(jìn)行農(nóng)作物病蟲害分類。

由于農(nóng)作物病蟲害種類多，而且類別之間相似度較高，容易造成誤分類。本文選用多類別分類的Softmax分類器，它是由邏輯回歸分類器的基礎(chǔ)發(fā)展而來，能夠一次完成對(duì)多個(gè)類別的分類任務(wù)。

圖 3 水稻稻瘟病低級(jí)特征到高級(jí)特征Fig.3 Low-grade to advanced features of rice blast

經(jīng)過特征提取網(wǎng)絡(luò)提取后輸出的第 i個(gè)樣本特征向量 x(i)，向量表示為1 536×1。本文將病蟲害特征向量 x(i)與病蟲害圖片標(biāo)簽值作為Softmax分類器的輸入，分別表示為{ x(1),x(2),···,x(m)} 與y(i)∈{1,2,···,c}，其中 m為樣本數(shù)，c 為類別數(shù)，本文取值為c =6。因此，針對(duì)給定的輸入樣本 x(i)，歸一化為每一個(gè)類別的概率值 P可表示為

其中，1 (·)∈{0,1}為 示性函數(shù)；m 表 示樣本數(shù)；c 表示類別數(shù)；i 表示第i個(gè) 樣本， j 表示第 j個(gè)類別。

4 實(shí)驗(yàn)與分析

4.1 農(nóng)作物病蟲害數(shù)據(jù)集

本文實(shí)驗(yàn)采用的數(shù)據(jù)集來源于農(nóng)業(yè)病蟲害研究圖像數(shù)據(jù)庫(Image Database for Agricultural Diseases and Pests Research，IDADP)[14]，IDADP包含大量的水稻、小麥、玉米等作物病害圖像資源，每種病害有幾百乃至上千幅圖片，其原始圖片分辨率達(dá)到2 000萬像素，建立了一個(gè)可為機(jī)器學(xué)習(xí)建模提供訓(xùn)練和測試樣本的農(nóng)作物病蟲害識(shí)別研究圖像數(shù)據(jù)集。本文選取水稻和小麥作為研究對(duì)象，每個(gè)研究對(duì)象各選取3種常見的病蟲害類別，共6個(gè)類別，分別水稻白葉枯病、水稻胡麻斑病、水稻稻瘟病、小麥白粉病、小麥赤霉病、小麥葉銹病，其中水稻每個(gè)類別600張圖片，小麥每個(gè)類別400張圖片，共計(jì)3 000張圖片用于訓(xùn)練加驗(yàn)證，另外有單獨(dú)300張用于測試。每一張樣本圖片分辨率為3 000×2 000×3。部分樣本示例如圖4所示。

圖 4 水稻與小麥的圖像樣例Fig.4 Samples of images of rice and wheat

本實(shí)驗(yàn)的實(shí)驗(yàn)平臺(tái)為Ubuntu16.04操作系統(tǒng)，32 GB RAM，CPU處理器主頻為3.7 GHz，GPU為GTX1060，深度學(xué)習(xí)框架為Pytorch1.1.0。

4.2 參數(shù)選擇

訓(xùn)練過程中，為了更明顯地進(jìn)行對(duì)比，本文選用CNN和DCNN兩種傳統(tǒng)網(wǎng)絡(luò)與本文方法進(jìn)行對(duì)比，均使用Adam優(yōu)化器進(jìn)行參數(shù)更新，損失函數(shù)為交叉熵(Cross Entropy, CE)函數(shù)。其中Adam學(xué)習(xí)率初始化為1 0-3， 權(quán)重衰減為1 0-4。每一次迭代完成都使用一次驗(yàn)證集進(jìn)行驗(yàn)證，當(dāng)連續(xù)3次迭代完成的損失都沒有下降時(shí)則將學(xué)習(xí)率縮小10%。測試集用來對(duì)模型進(jìn)行最后的評(píng)估。

4.3 效果對(duì)比

為了驗(yàn)證本文方法的有效性，本文采用傳統(tǒng)神經(jīng)網(wǎng)絡(luò)和深度卷積神經(jīng)網(wǎng)絡(luò)方法對(duì)農(nóng)作物病蟲害識(shí)別做實(shí)驗(yàn)對(duì)比，評(píng)價(jià)指標(biāo)包括準(zhǔn)確率、精度、召回率和 F1分?jǐn)?shù)。結(jié)果如表1～3所示。根據(jù)圖5顯示的訓(xùn)練過程迭代次數(shù)的平均準(zhǔn)確率發(fā)現(xiàn)，本文方法在迭代約200次后，隨著迭代次數(shù)的增加，準(zhǔn)確率基本保持不變并趨于穩(wěn)定，而DCNN和CNN還未收斂。表明本文方法在訓(xùn)練過程中具有較快的訓(xùn)練速度。

表 1 平均準(zhǔn)確率對(duì)比Table 1 Mean accuracy comparison %

表 2 特定類別的識(shí)別準(zhǔn)確率對(duì)比Table 2 Comparison of recognition accuracy for specific categories %

表 3 精度、召回率和F1分?jǐn)?shù)Table 3 Precision, Recall and F1 score %

圖 5 模型迭代曲線Fig.5 Model iteration curve

通過表1可知，在包含水稻和小麥的共6種類型農(nóng)作物的病蟲害識(shí)別任務(wù)中，傳統(tǒng)的CNN算法表現(xiàn)最差，測試平均準(zhǔn)確率僅為79.56%。DCNN通過更深的網(wǎng)絡(luò)能達(dá)到94.56%的平均準(zhǔn)確率。而本文方法引入了殘差連接，在深度一定的情況下有效的緩和過擬合，準(zhǔn)確率達(dá)到了96.67%，比沒有殘差結(jié)構(gòu)的DCNN多2.11%的準(zhǔn)確率。

由表2可知，不同模型對(duì)不同類別的識(shí)別效果有明顯差異，CNN對(duì)稻瘟病的識(shí)別準(zhǔn)確率與赤霉病識(shí)別準(zhǔn)確率相差達(dá)到23.66%，對(duì)稻瘟病的識(shí)別表現(xiàn)最差，存在明顯的識(shí)別不均衡現(xiàn)象。本文方法的各個(gè)類別的識(shí)別準(zhǔn)確率均勻，而且每個(gè)類別的識(shí)別準(zhǔn)確率比DCNN高。

由表3可知，本文方法的模型精度(precision，預(yù)測為正的樣本當(dāng)中真實(shí)為正的比例)達(dá)到90.77%，在預(yù)測的正樣本中準(zhǔn)確率最高。同時(shí)，本文方法的召回率(recall，真實(shí)為正的樣本中被預(yù)測正確的比例)為89.72%，在樣本中找到各個(gè)病蟲害類別的能力最強(qiáng)。本文方法的 F1分?jǐn)?shù)(score，對(duì)精度和召回率的調(diào)和平均：F1=2(precision×recall)/(precision+recall))體現(xiàn)了召回率和精度的調(diào)和平均，統(tǒng)計(jì)結(jié)果為90.24%，模型綜合表現(xiàn)最好。病蟲害的識(shí)別模型指標(biāo)統(tǒng)計(jì)結(jié)果表明，CNN模型并不能很好地提取不同病蟲害類型的特征，DCNN由于其結(jié)構(gòu)限制，存在收斂慢、過擬合等現(xiàn)象導(dǎo)致綜合指標(biāo)不高，而基于本文方法的病蟲害識(shí)別模型可以較好地提取不同類型的病蟲害特征，能夠獲得很好的病蟲害識(shí)別效果。

5 結(jié)語

本文提出的基于Inception和Residual結(jié)構(gòu)組合的Inception-resnet-v2網(wǎng)絡(luò)的農(nóng)作物病蟲害識(shí)別分類方法在面向多類別的任務(wù)中，不僅有效提升了識(shí)別準(zhǔn)確率，還平衡了不同類別帶來的差異特征。與傳統(tǒng)算法的對(duì)比表明，本文模型的訓(xùn)練能夠更快收斂，能減少訓(xùn)練成本，同時(shí)又有很好的準(zhǔn)確性和魯棒性。本研究是基于組合結(jié)構(gòu)網(wǎng)絡(luò)在農(nóng)作物病蟲害上的識(shí)別研究，并未對(duì)其他更多的農(nóng)作物種類和病蟲害種類進(jìn)行更大規(guī)模的識(shí)別研究。后續(xù)工作將采用規(guī)模更大的數(shù)據(jù)集和其他組合網(wǎng)絡(luò)進(jìn)行更深入的研究。