国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

基于注意力機(jī)制和殘差網(wǎng)絡(luò)的蘋果葉片病害分類

2023-10-19 05:51:22吳剛正蔡成崗朱瑞瑜
江蘇農(nóng)業(yè)科學(xué) 2023年18期
關(guān)鍵詞:注意力準(zhǔn)確率卷積

吳剛正, 蔡成崗, 朱瑞瑜

(浙江科技學(xué)院生物與化學(xué)工程學(xué)院/浙江省農(nóng)產(chǎn)品化學(xué)與生物加工技術(shù)重點(diǎn)實(shí)驗(yàn)室,浙江杭州 310023)

蘋果作為國(guó)內(nèi)消費(fèi)最廣泛的水果之一,在經(jīng)濟(jì)發(fā)展和滿足人們的日常需求方面起著至關(guān)重要的作用。然而,面對(duì)復(fù)雜多變的自然環(huán)境,蘋果的生長(zhǎng)過程會(huì)受到不同疾病的影響,這對(duì)蘋果的產(chǎn)量和質(zhì)量造成極大影響。因此,高效識(shí)別蘋果病害是保證蘋果產(chǎn)量和質(zhì)量的關(guān)鍵。快速準(zhǔn)確地檢測(cè)蘋果病害,進(jìn)而有效地控制病害,有助于合理利用如殺蟲劑、肥料等農(nóng)業(yè)資源,達(dá)到促進(jìn)蘋果生長(zhǎng)的目的。目前,傳統(tǒng)的農(nóng)作物病害識(shí)別方法主要依靠視覺識(shí)別,對(duì)于識(shí)別者的經(jīng)驗(yàn)有很高的要求。此外,人為識(shí)別時(shí)主觀因素也會(huì)影響識(shí)別的準(zhǔn)確率,并且該方法也無(wú)法應(yīng)用于量化疾病識(shí)別。由于蘋果病害癥狀復(fù)雜,評(píng)估錯(cuò)誤會(huì)導(dǎo)致農(nóng)藥的過度使用,不僅無(wú)法預(yù)防和控制疾病,還會(huì)引起環(huán)境問題。隨著計(jì)算機(jī)技術(shù)的快速發(fā)展,智能識(shí)別技術(shù)被廣泛應(yīng)用于解決植物病害問題,而在過去幾年卷積神經(jīng)網(wǎng)絡(luò)(CNN)相較于其他圖像識(shí)別技術(shù)具有更高的識(shí)別準(zhǔn)確率[1-5]。

Bin等基于Kiwi-Inception和dense連接策略,提出了Kiwi ConvNet,該模型能夠提取3種葡萄葉片疾病的特征,準(zhǔn)確率達(dá)到98.54%[6]。Zeng等提出了一種自關(guān)注卷積神經(jīng)網(wǎng)絡(luò),該網(wǎng)絡(luò)能更加有效地提取作物病害特征,識(shí)別準(zhǔn)確率較現(xiàn)有方法提高了2.9%[7]。李淼等將批歸一化算法應(yīng)用于卷積神經(jīng)網(wǎng)絡(luò)CNN中的Alexnet和VGG(visual geometry group network)模型,改善網(wǎng)絡(luò)過擬合這一問題;再通過遷移學(xué)習(xí)的方法提高農(nóng)作物病害的識(shí)別效率[8]。孫俊等將一種批歸一化與全局池化相結(jié)合的卷積神經(jīng)網(wǎng)絡(luò)應(yīng)用于 PlantVillage 中 26 種病害的識(shí)別檢測(cè)[9]。

而后,在卷積神經(jīng)網(wǎng)絡(luò)中引入深度可分離卷積以及引入注意力模塊,均被證明可以提高模型的識(shí)別準(zhǔn)確率[10-11]。Tang等以ShuffleNet為基礎(chǔ)網(wǎng)絡(luò),添加注意力機(jī)制,對(duì)常見葡萄病害識(shí)別的準(zhǔn)確率達(dá)到99.14%[12]。Zhu等通過引入CBAM(convolutional block attention module)提高了LAD模型對(duì)蘋果葉片病害識(shí)別的準(zhǔn)確率,并將此模型應(yīng)用于安卓系統(tǒng)[13]。Zhao等通過融合ResNet、FPN和CBAM,提出了一種新的Faster_R_CNN架構(gòu),識(shí)別草莓葉、花、果實(shí)不同部位病害的平均精度(mAP)為92.18%[14]。

蘋果葉片病害會(huì)直接影響和關(guān)聯(lián)蘋果果實(shí)病害的發(fā)生。本研究以蘋果葉片病害為研究對(duì)象,識(shí)別其染病程度有利于提前預(yù)警蘋果病害的發(fā)生和進(jìn)展??紤]到蘋果葉片病害在不同發(fā)病時(shí)期、不同病理和表面特征的較大差異,同時(shí)拍攝角度和光線的不同也會(huì)增加對(duì)葉片病害識(shí)別的難度,為解決這一問題,本研究選擇網(wǎng)絡(luò)深度較深的ResNet101作為骨干網(wǎng)絡(luò)模型,采用拆解大卷積層操作以減小模型參數(shù),利用推遲下采樣進(jìn)行特征信息的獲取以及添加注意力機(jī)制高效通道注意力(efficient channel attention module,ECA)模塊對(duì)特征通道進(jìn)行權(quán)重的重新分配,以達(dá)到增強(qiáng)有效特征權(quán)重、削弱無(wú)效特征干擾,進(jìn)而提高模型的抗干擾能力,以實(shí)現(xiàn)更加精準(zhǔn)識(shí)別蘋果葉片病害的能力和效果。

1 試驗(yàn)數(shù)據(jù)

1.1 數(shù)據(jù)集構(gòu)建

本研究數(shù)據(jù)集來(lái)源分為3種:(1)來(lái)自于公開的PlantVilage數(shù)據(jù)集;(2)來(lái)自于CVRP2021植物病理學(xué)挑戰(zhàn)賽上的Plant-Pathology-2021-fgvc8數(shù)據(jù)集;(3)來(lái)自于線下拍攝采集,拍攝時(shí)間為2022年5月,拍攝地點(diǎn)為山東省煙臺(tái)市,在蘋果果園中采用1 920×1 080像素的高清數(shù)碼相機(jī)拍攝葉片,對(duì)存在病斑的葉片進(jìn)行多角度的拍攝,從而收集蘋果葉片病害照片。將上述3個(gè)部分獲得的蘋果葉片病害圖像整合成蘋果葉片病害數(shù)據(jù)集,本研究構(gòu)建的蘋果葉片病害數(shù)據(jù)集共含有健康蘋果葉片以及蘋果葉片4種病害圖像8 500幅。圖1為健康蘋果葉片以及4種蘋果病害葉片,每種病害圖像選取100幅用作測(cè)試集,剩余8 000幅圖像以8 ∶ 2的比例將上述數(shù)據(jù)集圖劃分為訓(xùn)練集和驗(yàn)證集。

1.2 數(shù)據(jù)增強(qiáng)

為增強(qiáng)卷積神經(jīng)網(wǎng)絡(luò)模型的泛化性,避免過擬合,需要使用大量數(shù)據(jù)對(duì)模型進(jìn)行訓(xùn)練。因此對(duì)訓(xùn)練集圖像采取隨機(jī)旋轉(zhuǎn)、翻轉(zhuǎn)、隨機(jī)色彩以及隨機(jī)亮度調(diào)整操作,對(duì)訓(xùn)練集樣本進(jìn)行擴(kuò)充。經(jīng)過擴(kuò)充處理后的數(shù)據(jù)集各個(gè)類別的圖像數(shù)量見表1,數(shù)據(jù)增強(qiáng)示意見圖2。

表1 蘋果葉片病害圖像數(shù)量

2 蘋果葉片病害識(shí)別方法

2.1 構(gòu)建蘋果葉片病害識(shí)別模型

2.1.1 選取基礎(chǔ)網(wǎng)絡(luò)模型 自2012年AlexNet奪得ImageNet競(jìng)賽項(xiàng)目冠軍,奠定了卷積神經(jīng)網(wǎng)絡(luò)在計(jì)算機(jī)視覺的地位后,卷積神經(jīng)網(wǎng)絡(luò)受到了廣泛的關(guān)注,但其發(fā)展陷入了唯有通過加深網(wǎng)絡(luò)層數(shù)才能達(dá)到更好的識(shí)別效果的誤區(qū)。隨著研究的深入,只是普通的卷積層與池化層的堆疊,并未有預(yù)想的識(shí)別提升效果,一方面,梯度會(huì)隨著網(wǎng)絡(luò)深度的加深而減弱直至消失,進(jìn)而引起梯度爆炸以及梯度彌散;另一方面,網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜度會(huì)隨著網(wǎng)絡(luò)深度的增加而增加,獲得的最優(yōu)解通常為局部最優(yōu)解而非全局最優(yōu)解。而2015年獲得ImageNet競(jìng)賽中分類任務(wù)第1名的ResNet網(wǎng)絡(luò)通過殘差塊結(jié)構(gòu)(residual block)很好地解決了這一問題[14-15],ResNet的殘差結(jié)構(gòu)塊見圖3。

該殘差結(jié)構(gòu)塊以圖像特征矩陣的形式輸入,而后特征矩陣分為2個(gè)分支,其中1個(gè)分支經(jīng)過多個(gè)卷積層運(yùn)算產(chǎn)生特征矩陣作為輸出,與另1個(gè)稱為捷徑連接(shortcut connection)的分支傳輸?shù)奶卣骶仃囅嗉又?得到新的輸出特征矩陣進(jìn)行激活,進(jìn)而得到H(x)這一輸出值[H(x)=F(x)+x],此時(shí)殘差F(x)=H(x)-x,公式為

F(x)=ω2σ(ω1x)。

(1)

式中:F(x)為殘差函數(shù);σ為ReLU非線性激活函數(shù);ω1ω2為權(quán)重。

殘差塊結(jié)構(gòu)通過捷徑連接的方法將前層網(wǎng)絡(luò)輸出的特征矩陣作為輸入矩陣,直接與本層輸出的特征矩陣相加后傳入到后層,確保了梯度在反向傳播過程中不會(huì)因?yàn)槎鄬泳W(wǎng)絡(luò)結(jié)構(gòu)而削弱,解決了網(wǎng)絡(luò)深度增加會(huì)導(dǎo)致梯度消失這一問題,因此可以通過加深網(wǎng)絡(luò)深度以達(dá)到更好的分類效果。而本研究數(shù)據(jù)集較為復(fù)雜,ResNet101較ResNet18與ResNet50具有更多的殘差模塊,網(wǎng)絡(luò)結(jié)構(gòu)更深,具有更好的特征識(shí)別能力,因此選擇ResNet101作為蘋果葉片病害識(shí)別的基礎(chǔ)網(wǎng)絡(luò)模型。

2.1.2 利用推遲下采樣提升特征信息提取 ResNet中的下采樣模塊如圖4-a所示,Path A通過一個(gè)步長(zhǎng)為2的1×1卷積層實(shí)現(xiàn)通道的收縮以及下采樣,再經(jīng)過一個(gè)步長(zhǎng)為1的3×3卷積層,進(jìn)行特征的提取,最后通過一個(gè)步長(zhǎng)為1的1×1卷積層,完成通道數(shù)的擴(kuò)張。其中第1個(gè)卷積用于下采樣,卷積核大小1×1,步長(zhǎng)2的卷積會(huì)造成3/4的信息丟失,以圖4-b中6×6的特征圖為例,只有紅色部分的信息能夠傳遞到下一層,非紅色部分均不參與卷積運(yùn)算。

由此可見,1×1的卷積層進(jìn)行下采樣存在缺陷,提出圖5-a下采樣模塊結(jié)構(gòu),將下采樣的過程移至3×3的卷積層,在3×3卷積層進(jìn)行下采樣操作,所得采樣特征見圖5-b,由于卷積核寬度大于步長(zhǎng),卷積核在移動(dòng)過程中能夠遍歷輸入特征圖上的所有信息,還會(huì)有一部分重疊(紅色部分),有利于提高模型識(shí)別準(zhǔn)確率。

2.1.3 通過拆解大卷積層降低模型復(fù)雜度 大卷積層可以由多個(gè)小卷積替代實(shí)現(xiàn),這不僅能減少網(wǎng)絡(luò)參數(shù),加快網(wǎng)絡(luò)運(yùn)算速度,還能加深網(wǎng)絡(luò)深度,以便更好地提取特征信息。Szegedy等對(duì)GoogLeNet中的Inception1模塊做出改進(jìn),分別用3個(gè)和2個(gè) 3×3 卷積的級(jí)聯(lián)去替代 7×7 和 5×5 的卷積[16]。ResNet網(wǎng)絡(luò)的前2層結(jié)構(gòu)與GoogLeNet相似,在輸入通道數(shù)為64、步幅為2的7×7卷積層后,接一個(gè)步幅為2的3×3的最大池化層,如圖6-a所示。改進(jìn)后的模型由圖6-b所示,采用1個(gè)步幅為2的3×3的卷積層與2個(gè)步幅為1的3×3的卷積層替代原模型中7×7的卷積層,從而達(dá)到減少網(wǎng)絡(luò)參數(shù),提升運(yùn)算速度的目的。

2.1.4 添加ECA提升模型精度 近年來(lái)研究表明,卷積神經(jīng)網(wǎng)絡(luò)可以通過添加注意力機(jī)制模塊達(dá)到提升網(wǎng)絡(luò)性能的目的。例如,SENet(squeeze-and-excitation networks)、BAM、GCNet、CBAM等注意力機(jī)制均可以對(duì)卷積神經(jīng)網(wǎng)絡(luò)的性能有顯著的提升[17]。但是,大多數(shù)注意力機(jī)制通過增加注意力模塊的復(fù)雜度來(lái)提升模塊的性能,但這必然會(huì)增加模型的復(fù)雜性。而ECA在SENet模塊的基礎(chǔ)上提出一種不降維的局部跨信道交互策略,以及自適應(yīng)選擇卷積核大小的方法,進(jìn)而達(dá)到性能提升的目的。在蘋果葉片病害識(shí)別任務(wù)中,病害類別的判定對(duì)卷積特征的局部信息依賴性較強(qiáng),因此可在殘差結(jié)構(gòu)引入ECA通道注意力機(jī)制以提高識(shí)別準(zhǔn)確率,通道注意力機(jī)制ECA示意見圖7。

ECA利用公式(2)矩陣Wk來(lái)進(jìn)行通道注意力的學(xué)習(xí):

(2)

Wk有k×C個(gè)參數(shù),Wk避免了不同通道之間完全獨(dú)立,同時(shí)也兼顧了不同通道之間的相互作用。計(jì)算公式如下:

(3)

此外ECA模塊的方法還可以通過卷積核為k的一維卷積來(lái)實(shí)現(xiàn)通道之間的信息交互,如下所示:

ω=σ[C1Dk(y)]。

(4)

式中:C1D代表一維卷積;k代表涉及k個(gè)參數(shù)信息,當(dāng)k=3時(shí),ECA可以實(shí)現(xiàn)與SE-Var3同樣的效果但是網(wǎng)絡(luò)結(jié)果更加簡(jiǎn)便。因此,這種跨通道捕捉信息的交互方法保證了模型的性能與效率。

2.1.5 模型整體架構(gòu) 本研究所設(shè)計(jì)的網(wǎng)絡(luò)模型以ResNet101為基礎(chǔ),結(jié)合推遲下采樣、拆分大卷積層以及ECA注意力機(jī)制構(gòu)成。改進(jìn)得到的注意力殘差網(wǎng)絡(luò)(P-D-ECA-ResNet101)將Conv1_x中的7×7大卷積層替換為3個(gè)3×3的卷積層,Conv2_x~ Conv5_x 的下采樣過程由1×1的卷積層推遲至3×3的卷積層,同時(shí)將ECA注意力機(jī)制模塊嵌入到Conv2_x~Conv5_x 的每個(gè)殘差模塊中,原網(wǎng)絡(luò)最后的Average pooling層與Softmax層保留。P-D-ECA-ResNet101模型的相關(guān)結(jié)構(gòu)與參數(shù)見表2。

表2 P-D-ECA-ResNet101網(wǎng)絡(luò)模型參數(shù)

2.2 模型性能評(píng)估指標(biāo)

模型使用精準(zhǔn)度(precision,P)、召回率(recall,R)、F1分?jǐn)?shù)(F1-score)以及測(cè)試集準(zhǔn)確率(accuracy,Acc)作為評(píng)估指標(biāo)對(duì)模型的性能進(jìn)行檢驗(yàn)。模型對(duì)樣本的分類能力通過精準(zhǔn)率體現(xiàn),模型尋找正樣本的能力由召回率體現(xiàn)。計(jì)算公式如下:

(5)

(6)

(7)

(8)

式中:TP表示被判定為正樣本,事實(shí)上也是正樣本;FP表示被判定為正樣本,但事實(shí)上是負(fù)樣本;TN表示被判定為負(fù)樣本,事實(shí)上也是負(fù)樣本;FN表示被判定為負(fù)樣本,但事實(shí)上是正樣本。

2.3 試驗(yàn)環(huán)境與參數(shù)設(shè)置

本研究基于PyTorch這一深度學(xué)習(xí)框架,在Window10系統(tǒng)下進(jìn)行模型的訓(xùn)練與測(cè)試。CPU為Intel? Xeon?,2.20 GHz,內(nèi)存為64 G,GPU為Tesla P100-PCLE,顯存為16 G。通過使用GPU提高網(wǎng)絡(luò)的訓(xùn)練速度,CUDA版本為11.2。

試驗(yàn)選擇隨機(jī)梯度下降法(stochastic gradient descent,SGD)作為優(yōu)化器對(duì)卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行優(yōu)化,加快訓(xùn)練過程。初始學(xué)習(xí)率設(shè)定為0.000 5,SGD動(dòng)量參數(shù)設(shè)置為0.9,權(quán)值衰減參數(shù)設(shè)置為0.000 1.訓(xùn)練時(shí)輸入的圖像統(tǒng)一調(diào)整為256×256像素,訓(xùn)練總共進(jìn)行50輪,batch_size設(shè)為32。

3 結(jié)果與分析

3.1 基礎(chǔ)模型的選擇

為了探索不同的卷積神經(jīng)網(wǎng)絡(luò)對(duì)于識(shí)別蘋果葉片病害圖像的性能,以上述提到的數(shù)據(jù)集為基礎(chǔ),選取AlexNet[18]、VGG[19]、GoogLeNet[20]、ResNet101[15]4種模型進(jìn)行訓(xùn)練,在迭代次數(shù)、學(xué)習(xí)率、優(yōu)化算法、損失函數(shù)相同的情況下,4種訓(xùn)練模型的測(cè)試集準(zhǔn)確率、網(wǎng)絡(luò)參數(shù)量、每秒浮點(diǎn)運(yùn)算次數(shù)(flops)見表3。各模型在測(cè)試集上的準(zhǔn)確率均高于75%,表明各模型均可以實(shí)現(xiàn)蘋果葉片病害分類。Alexnet較其他3種網(wǎng)絡(luò)具有網(wǎng)絡(luò)參數(shù)量小的優(yōu)勢(shì),ResNet101準(zhǔn)確率較AlexNet與GoogLeNet分別高了8.8、 11.0百分點(diǎn),網(wǎng)絡(luò)參數(shù)量?jī)H為VGG16的60.70%。

表3 4種網(wǎng)絡(luò)模型實(shí)驗(yàn)結(jié)果

對(duì)測(cè)試集各類病害的識(shí)別準(zhǔn)確率見表4,ResNet101對(duì)于4種常見的蘋果葉片病害分類準(zhǔn)確率均高于92%,其中對(duì)蛙眼病的分類準(zhǔn)確率達(dá)到97%,對(duì)4種疾病的分類準(zhǔn)確率較其他3種模型更高。

表4 不同網(wǎng)絡(luò)模型對(duì)測(cè)試集各類病害識(shí)別的準(zhǔn)確率對(duì)比

綜上所述,4種模型均能有效地識(shí)別蘋果葉片病害類型。其中,VGG16和ResNet101較其他2種模型具有更高的準(zhǔn)確性,分別為91.20%、94.00%。而ResNet101較VGG16具有更小的網(wǎng)絡(luò)參數(shù)量,各病害種類均有更高的識(shí)別率。因此,選擇ResNet101網(wǎng)絡(luò)作為骨干網(wǎng)絡(luò)模型,在此網(wǎng)絡(luò)模型上進(jìn)行改進(jìn)。

3.2 本研究模型消融試驗(yàn)結(jié)果

此部分對(duì)不同優(yōu)化策略改進(jìn)的ResNet101算法模型進(jìn)行對(duì)比評(píng)估,以此檢驗(yàn)優(yōu)化策略的有效性。不同優(yōu)化策略下的ResNet101網(wǎng)絡(luò)在驗(yàn)證集上的準(zhǔn)確率、損失值變化曲線見圖8。ResNet101網(wǎng)絡(luò)模型大概在20個(gè)迭代次數(shù)后收斂,最終在驗(yàn)證集上的準(zhǔn)確率達(dá)到93.9%。而本研究改進(jìn)后的最終模型P-D-ECA-ResNet101模型損失值下降最快,大約在迭代10個(gè)周期后就達(dá)到了較低的損失值(0.08),在驗(yàn)證集上的最終準(zhǔn)確率較ResNet101模型也提升了近5%。

表5對(duì)比了ResNet101與本研究提出的P-D-ECA-ResNet101模型。P-D-ECA-ResNet101模型在提高分類準(zhǔn)確率的同時(shí)避免了flops和模型占用內(nèi)存容量的增加。原因有以下2點(diǎn):(1)將7×7的大卷積層拆解為3個(gè)3×3的卷積層,避免了網(wǎng)絡(luò)參數(shù)增加的同時(shí)加深網(wǎng)絡(luò)深度。(2)采取避免降維以及適當(dāng)跨通道交互的ECA注意力機(jī)制,可以在顯著降低復(fù)雜性的同時(shí)增加網(wǎng)絡(luò)性能。

表5 模型準(zhǔn)確率、參數(shù)量和模型占用內(nèi)存對(duì)比

本研究構(gòu)建的P-D-ECA-ResNet101具有更高的識(shí)別準(zhǔn)確率,能夠更快地進(jìn)行收斂,同時(shí)避免了網(wǎng)絡(luò)參數(shù)量的增加。主要原因有:(1)將ResNet101中的下采樣過程由1×1的卷積層移至 3×3 的卷積層,原本于1×1的卷積層進(jìn)行下采樣會(huì)導(dǎo)致特征圖上的信息缺失,而在3×3的卷積層進(jìn)行采樣,卷積核移動(dòng)過程中可以遍歷特征圖,從而獲得更豐富的特征信息,提高模型的分類準(zhǔn)確率。(2)將7×7的卷積層拆解為3個(gè)3×3的卷積層,顯著減少了網(wǎng)絡(luò)參數(shù)量。(3)ECA注意力模塊通過削弱無(wú)關(guān)信息權(quán)重,增強(qiáng)有效特征信息的權(quán)重,進(jìn)而提升網(wǎng)絡(luò)模型的表達(dá)能力和分類能力。

3.3 改進(jìn)模型的混淆矩陣

使用已經(jīng)訓(xùn)練好的P-D-ECA-ResNet101模型對(duì)測(cè)試集的圖片進(jìn)行識(shí)別,得到的混淆矩陣見圖9。

由圖9可知,蘋果白化病識(shí)別成蘋果蛙眼病與健康蘋果葉片的情況發(fā)生較多,同時(shí)蘋果黑星病也發(fā)生了被識(shí)別成蘋果蛙眼病與蘋果白化病的情況,原因主要是不同的蘋果葉片病害在不同的時(shí)期會(huì)具有一定的相似性,同時(shí)不同的拍攝角度也會(huì)導(dǎo)致模型出現(xiàn)識(shí)別錯(cuò)誤。由表6可知,改進(jìn)后P-D-E-ResNet101模型識(shí)別準(zhǔn)確率達(dá)到96.20%,對(duì)測(cè)試集中4種蘋果葉片病害的識(shí)別準(zhǔn)確率均達(dá)到90%以上,同時(shí)召回率也均高于90%,表明該改進(jìn)模型可以有效地識(shí)別常見的4類蘋果葉片病害。

表6 模型性能評(píng)價(jià)結(jié)果

3.4 特征圖可視化分析

特征圖可視化分析可以更直觀地展示網(wǎng)絡(luò)模型的識(shí)別機(jī)制,對(duì)本研究網(wǎng)絡(luò)模型Conv2_x層的輸出特征進(jìn)行可視化分析,分析結(jié)果見圖10,在特征圖中病斑區(qū)域呈現(xiàn)為深色,病斑區(qū)域較正常葉片區(qū)域呈現(xiàn)高亮信息,表明本研究構(gòu)建的P-D-ECA-ResNet101模型可以有效地忽略圖像中的無(wú)效背景信息,使得模型能夠聚焦于輪廓內(nèi)的特征,進(jìn)而達(dá)到高效提取病斑區(qū)域特征的目的,并以此作為識(shí)別特征,使模型獲得更高的識(shí)別準(zhǔn)確率。而健康蘋果葉片因無(wú)病斑區(qū)域,特征圖上無(wú)病斑特征信息,則以其葉片輪廓信息作為分類依據(jù)。試驗(yàn)結(jié)果表明,本研究構(gòu)建的P-D-ECA-ResNet101模型可以有效識(shí)別蘋果葉片輪廓,聚焦蘋果葉片病斑,提取病斑區(qū)域特征,從而更準(zhǔn)確地識(shí)別蘋果葉片病害。

4 討論與結(jié)論

蘋果葉片病害發(fā)生和預(yù)防的研究具有重要的意義,卷積神經(jīng)網(wǎng)絡(luò)技術(shù)具有識(shí)別常見蘋果葉片病害的應(yīng)用潛力,但由于蘋果葉片病害在田間環(huán)境下會(huì)因?yàn)槌叽绾凸饩€等差異造成干擾,基于不同卷積神經(jīng)網(wǎng)絡(luò)建模的識(shí)別技術(shù)和方法具有提升識(shí)別能力和預(yù)防蘋果病害的效果。本研究基于以上問題開展研究并得出如下結(jié)論:(1)采用AlexNet、VGG16、GoogleNet、ResNet101對(duì)本研究構(gòu)建的蘋果葉片病害數(shù)據(jù)集進(jìn)行病害識(shí)別試驗(yàn),結(jié)果表明,ResNet101與VGG16在本研究數(shù)據(jù)集上表現(xiàn)出色,2個(gè)模型的平均識(shí)別準(zhǔn)確率均高于90%,其中ResNet101的識(shí)別準(zhǔn)確率達(dá)到94.00%,因此本研究以ResNet101為骨干網(wǎng)絡(luò)模型進(jìn)行后續(xù)研究。(2)以ResNet101為骨干網(wǎng)絡(luò)模型,采取推遲下采樣增加模型的特征提取能力,通過拆解大卷積層加快網(wǎng)絡(luò)的運(yùn)算速度,并在每個(gè)殘差模塊中添加了ECA注意力模塊,構(gòu)建了P-D-E-ResNet101改進(jìn)模型。結(jié)果表明,改進(jìn)模型對(duì)4種蘋果葉片病害的識(shí)別準(zhǔn)確率達(dá)到96.20%,相對(duì)于原ResNet101網(wǎng)絡(luò)模型準(zhǔn)確率提升了2.20百分點(diǎn),并且模型占用內(nèi)存容量與ResNet101僅相差0.1 MB。而后通過特征圖可視化分析,表明該模型可以有效地識(shí)別蘋果葉片病害區(qū)域特征。因此,本研究提出的P-D-ECA-ResNet101在蘋果葉片病害識(shí)別任務(wù)中表現(xiàn)優(yōu)異,在控制模型占用內(nèi)存容量的前提下,有效提升了模型的識(shí)別準(zhǔn)確率,顯示了該模型在解決蘋果葉片病害識(shí)別問題上具有一定的優(yōu)越性。

猜你喜歡
注意力準(zhǔn)確率卷積
讓注意力“飛”回來(lái)
基于3D-Winograd的快速卷積算法設(shè)計(jì)及FPGA實(shí)現(xiàn)
乳腺超聲檢查診斷乳腺腫瘤的特異度及準(zhǔn)確率分析
健康之家(2021年19期)2021-05-23 11:17:39
不同序列磁共振成像診斷脊柱損傷的臨床準(zhǔn)確率比較探討
2015—2017 年寧夏各天氣預(yù)報(bào)參考產(chǎn)品質(zhì)量檢驗(yàn)分析
從濾波器理解卷積
電子制作(2019年11期)2019-07-04 00:34:38
高速公路車牌識(shí)別標(biāo)識(shí)站準(zhǔn)確率驗(yàn)證法
基于傅里葉域卷積表示的目標(biāo)跟蹤算法
“揚(yáng)眼”APP:讓注意力“變現(xiàn)”
A Beautiful Way Of Looking At Things
梁山县| 梅州市| 泾源县| 辽中县| 本溪市| 东莞市| 凤阳县| 天祝| 舞钢市| 石家庄市| 华坪县| 东至县| 周至县| 平潭县| 敦煌市| 琼结县| 昌吉市| 上犹县| 岳阳市| 钦州市| 和田市| 葫芦岛市| 宜阳县| 通化市| 济南市| 清流县| 富锦市| 石家庄市| 富平县| 自贡市| 阳山县| 河北区| 合川市| 黄浦区| 徐闻县| 土默特左旗| 隆尧县| 蒙阴县| 台江县| 玛多县| 麻阳|