凌嘉欣 謝永華
(東北林業(yè)大學(xué),哈爾濱,150040)
近年來,木材深加工技術(shù)實(shí)現(xiàn)了快速發(fā)展,木材表面缺陷檢測水平不斷提高,計(jì)算機(jī)視覺技術(shù)和模式識(shí)別技術(shù)為木材表面缺陷檢測提供了新的路徑與方法,在實(shí)踐應(yīng)用中發(fā)揮出良好效用。但木材表面由于具有復(fù)雜的紋理,而且缺陷的種類繁多,根據(jù)國家標(biāo)準(zhǔn)木材缺陷分為木材構(gòu)造缺陷、樹干形狀缺陷、傷疤(損傷)、變色、裂紋、腐朽、蟲眼、木材加工缺陷、節(jié)子、變形10大類,通過機(jī)器視覺系統(tǒng)采集木材的圖像,利用傳統(tǒng)的圖像處理算法檢測木材的缺陷,會(huì)面對巨大的挑戰(zhàn)[1-2]。針對板材缺陷識(shí)別問題,有些傳統(tǒng)算法[3-7]能有效地進(jìn)行木材表面缺陷自動(dòng)識(shí)別,但在處理大樣本數(shù)據(jù)時(shí),識(shí)別精度并不高。隨著卷積神經(jīng)網(wǎng)絡(luò)理論的完善,并在語音、圖像等方面的模式識(shí)別算法取得了一些成功[8-10],這些比較新穎的算法,雖然準(zhǔn)確率達(dá)到80%以上,仍不能滿足工業(yè)產(chǎn)業(yè)化在線識(shí)別精度需求。因此,提高識(shí)別精度仍是業(yè)內(nèi)研究的重點(diǎn)。為此,本研究將超分辨率測試序列(VGG)網(wǎng)絡(luò)模型、谷歌網(wǎng)絡(luò)模型(GoogLeNet)、殘差神經(jīng)網(wǎng)絡(luò)模型(ResNet)應(yīng)用于木質(zhì)板材表面缺陷分類檢測中,重點(diǎn)研究木材的活節(jié)、死節(jié)、蟲眼3類表面缺陷,并依據(jù)分類精度,遴選識(shí)別效果更好的板材缺陷分類方法,旨在為拓展診斷木材板材缺陷途徑和方法提供參考。
理論上,在進(jìn)行樣本庫的制作時(shí)應(yīng)含有多種樹種,每種樹種的缺陷圖像越多越好,實(shí)際上,尋求樣本的困難較大,也很難獲得每種缺陷的大量樣本。在現(xiàn)有的條件范圍內(nèi),本研究選取了包括國內(nèi)具有代表性的樹種24科36屬共50種,其中針葉材16種、闊葉材34種;采集到木材缺陷樣本2 630張,裁剪成512×512像素、256級(jí)灰度,用數(shù)據(jù)增強(qiáng)的辦法,對2 630張圖片進(jìn)行旋轉(zhuǎn)、平移、尺度變換、灰度變換等方式處理,使樣本庫擴(kuò)容到10 687張圖片,選擇其中的7 480張圖片作為訓(xùn)練集、2 137張圖片作為驗(yàn)證集、1 070張圖片作為測試集。板材缺陷部分樣本見圖1。
圖1 木材板材缺陷樣本
超分辨率測試序列(VGG)網(wǎng)絡(luò)模型是在亞歷克斯網(wǎng)絡(luò)模型(Alexnet)基礎(chǔ)上,去掉局部響應(yīng)歸一化,去掉7×7的卷積核,使用卷積核和池化核的大小均為3×3,減少了參數(shù)量,得到了超分辨率測試序列網(wǎng)絡(luò)模型。其中,超分辨率測試序列網(wǎng)絡(luò)模型的16層結(jié)構(gòu)常用于分類,16層結(jié)構(gòu)由13層卷積層和3層全連接層組成,是分類性能較為優(yōu)秀的網(wǎng)絡(luò)模型[11]。應(yīng)用超分辨率測試序列-16網(wǎng)絡(luò)模型對像素為224×224×3的木質(zhì)板材缺陷圖片分類(見圖2)。
圖2 超分辨率測試序列-16網(wǎng)絡(luò)模型的木質(zhì)板材缺陷分類過程
谷歌網(wǎng)絡(luò)模型(GoogLeNet),網(wǎng)絡(luò)共有22層,且包含了非常高效的模塊,它的目的是設(shè)計(jì)一種具有優(yōu)良局部拓?fù)浣Y(jié)構(gòu)的網(wǎng)絡(luò),即對輸入圖像并行地執(zhí)行多個(gè)卷積運(yùn)算或池化操作,并將所有輸出結(jié)果拼接為一個(gè)多層網(wǎng)絡(luò)結(jié)構(gòu)的特征圖。谷歌網(wǎng)絡(luò)模型對木質(zhì)板材缺陷分類流程見圖3。
圖3 谷歌網(wǎng)絡(luò)模型的木質(zhì)板材缺陷分類過程
殘差神經(jīng)網(wǎng)絡(luò)(ResNet)是2015年He et al.[12]提出的,在普通的卷積模型中,加入串聯(lián)機(jī)制形成殘差卷積神經(jīng)網(wǎng)絡(luò)模型,模型既有效地降低了網(wǎng)絡(luò)參數(shù)的訓(xùn)練難度,也不會(huì)造成精度下降。模型的2層基本塊見圖4;3層基本塊結(jié)構(gòu)是在2層結(jié)構(gòu)基礎(chǔ)上,在主支路上再加1層卷積層結(jié)構(gòu)。這些基本塊單元串聯(lián)形成殘差模塊,多個(gè)殘差模塊構(gòu)成殘差神經(jīng)網(wǎng)絡(luò)模型的最小單元[13]。
圖4 2層單元基本塊
殘差神經(jīng)網(wǎng)絡(luò)模型,因網(wǎng)絡(luò)層數(shù)不同,單元結(jié)構(gòu)也略有不同,有18層、34層、50層、101層4種模型結(jié)構(gòu),具體的網(wǎng)絡(luò)結(jié)構(gòu)配置見表1。
表1 殘差神經(jīng)網(wǎng)絡(luò)模型的4種模型的網(wǎng)絡(luò)結(jié)構(gòu)配置
本研究調(diào)整了殘差網(wǎng)絡(luò)單元結(jié)構(gòu),形成了新的殘差單元。即:將激活函數(shù)(ReLU)看做是權(quán)重層的“預(yù)激活”,而不是傳統(tǒng)的“激活”,使其產(chǎn)生了1個(gè)新的殘差單元。殘差神經(jīng)網(wǎng)絡(luò)改進(jìn)前后的結(jié)構(gòu)流程對比見圖5。
圖5 改進(jìn)前后的殘差網(wǎng)絡(luò)結(jié)構(gòu)
本研究將采集到的圖片進(jìn)行處理,批量轉(zhuǎn)換為JPG格式,對圖片尺寸進(jìn)行剪裁,通過尺度變換等一系列變換進(jìn)行數(shù)據(jù)增強(qiáng),將數(shù)據(jù)集從原始的2 630張圖片擴(kuò)大到現(xiàn)在的10 687張,構(gòu)成圖像數(shù)據(jù)集。數(shù)據(jù)集通過數(shù)據(jù)增強(qiáng)后,能夠達(dá)到試驗(yàn)的網(wǎng)絡(luò)模型需要的數(shù)據(jù)量,盡量防止網(wǎng)絡(luò)的過擬合現(xiàn)象的發(fā)生。本研究將超分辨率測試序列-16網(wǎng)絡(luò)模型、谷歌網(wǎng)絡(luò)模型、殘差神經(jīng)網(wǎng)絡(luò)模型3種網(wǎng)絡(luò)模型應(yīng)用于木質(zhì)板材缺陷分類中,網(wǎng)絡(luò)模型初始參數(shù):網(wǎng)絡(luò)模型單次處理數(shù)據(jù)組的數(shù)量為16組數(shù)據(jù)、初始學(xué)習(xí)率為0.001、權(quán)值衰減因子為0.000 5、動(dòng)量因子為0.9。
(1)超分辨率測試序列-16網(wǎng)絡(luò)模型損失函數(shù)值和識(shí)別缺陷的準(zhǔn)確率見圖6,網(wǎng)絡(luò)模型在14次迭代時(shí),測試集分類準(zhǔn)確率達(dá)到最高值83.30%。
圖6 超分辨率測試序列-16網(wǎng)絡(luò)模型損失函數(shù)值和準(zhǔn)確率曲線
(2)谷歌網(wǎng)絡(luò)模型損失函數(shù)值和識(shí)別缺陷的準(zhǔn)確率見圖7,網(wǎng)絡(luò)模型在16次迭代時(shí),測試集分類準(zhǔn)確率達(dá)到最高值89.64%。
圖7 谷歌網(wǎng)絡(luò)模型模型損失函數(shù)值和準(zhǔn)確率曲線
(3)殘差神經(jīng)網(wǎng)絡(luò)模型在18、34、50、101層時(shí),測試集分類準(zhǔn)確率見圖8。18層網(wǎng)絡(luò)結(jié)構(gòu)模型,在第70次迭代時(shí),達(dá)到分類準(zhǔn)確率最大值82.11%;34層網(wǎng)絡(luò)結(jié)構(gòu)模型,在第60次迭代時(shí),達(dá)到分類準(zhǔn)確率最大值87.75%;50層網(wǎng)絡(luò)結(jié)構(gòu)模型,在第70次迭代時(shí),達(dá)到分類準(zhǔn)確率最大值96.68%;101層網(wǎng)絡(luò)結(jié)構(gòu)模型,在第80次迭代時(shí),達(dá)到分類準(zhǔn)確率最大值96.81%。
圖8 殘差神經(jīng)網(wǎng)絡(luò)測試集準(zhǔn)確率對比
(4)改進(jìn)的殘差神經(jīng)網(wǎng)絡(luò)模型,在18、34、50、101層的測試集分類準(zhǔn)確率見圖9。18層網(wǎng)絡(luò)結(jié)構(gòu),在80次迭代時(shí),達(dá)到分類準(zhǔn)確率最大值84.56%;34層網(wǎng)絡(luò)結(jié)構(gòu),在第80次迭代時(shí),達(dá)到分類準(zhǔn)確率最大值93.38%;50層網(wǎng)絡(luò)結(jié)構(gòu)模型,在第80次迭代時(shí),達(dá)到分類準(zhǔn)確率最大值98.63%;101層網(wǎng)絡(luò)結(jié)構(gòu)模型,在第60次迭代時(shí),達(dá)到分類準(zhǔn)確率最大值91.42%。
圖9 改進(jìn)的殘差神經(jīng)網(wǎng)絡(luò)測試集準(zhǔn)確率對比
改進(jìn)的殘差神經(jīng)網(wǎng)絡(luò)模型,針對蟲眼、死節(jié)、活節(jié)3類木質(zhì)板材表面缺陷的分類準(zhǔn)確率見表2,對比數(shù)據(jù)在50層結(jié)構(gòu)時(shí)分類精度達(dá)到最高。
表2 改進(jìn)的殘差神經(jīng)網(wǎng)絡(luò)模型對木質(zhì)板材表面缺陷分類準(zhǔn)確率
殘差神經(jīng)網(wǎng)絡(luò)模型改進(jìn)前后測試集的分類準(zhǔn)確率對比見表3。對比數(shù)據(jù),改進(jìn)后的網(wǎng)絡(luò)模型分類準(zhǔn)確率優(yōu)于原模型。
表3 殘差神經(jīng)網(wǎng)絡(luò)模型改進(jìn)前后對木質(zhì)板材表面缺陷分類準(zhǔn)確率
(5)將本研究選擇的4種網(wǎng)絡(luò)模型對木質(zhì)板材缺陷測試集中分類準(zhǔn)確率進(jìn)行對比,超分辨率測試序列-16網(wǎng)絡(luò)模型的準(zhǔn)確率為83.30%、谷歌網(wǎng)絡(luò)模型的準(zhǔn)確率為89.64%、50層的殘差神經(jīng)網(wǎng)絡(luò)模型的準(zhǔn)確率為96.68%、50層的改進(jìn)殘差神經(jīng)網(wǎng)絡(luò)模型準(zhǔn)確率最高為98.63%。
木質(zhì)板材質(zhì)量受木材自身的缺陷影響很大,為了得到高質(zhì)量的單板板材,需要對板材表面缺陷進(jìn)行檢測。本研究應(yīng)用超分辨率測試序列-16網(wǎng)絡(luò)模型、谷歌網(wǎng)絡(luò)模型、殘差神經(jīng)網(wǎng)絡(luò)模型、改進(jìn)的殘差神經(jīng)網(wǎng)絡(luò)模型對木質(zhì)板材樣本缺陷圖片進(jìn)行分類檢測。結(jié)果表明:改進(jìn)后的殘差神經(jīng)網(wǎng)絡(luò)模型,與超分辨率測試序列-16網(wǎng)絡(luò)模型、谷歌網(wǎng)絡(luò)模型模型相比,在網(wǎng)絡(luò)結(jié)構(gòu)層次增加時(shí),由于自身增加了直連結(jié)構(gòu),會(huì)在網(wǎng)絡(luò)反傳時(shí)降低網(wǎng)絡(luò)彌散的概率,并且每一層都能更多地保留原始信息,可有效降低欠擬合現(xiàn)象的發(fā)生,測試集分類準(zhǔn)確率高達(dá)98.63%,也更優(yōu)于未改進(jìn)前自身模型分類準(zhǔn)確率,具有較好的魯棒性和實(shí)用推廣性。