張麗艷，趙藝璇，牟鈺鵬，李林

(大連交通大學(xué) 電氣信息工程學(xué)院，遼寧 大連 116028) *

黨的十八大以來(lái)，黨和國(guó)家對(duì)生態(tài)文明日益重視，將生態(tài)文明列入“五位一體”的總體布局，而垃圾分類則是生態(tài)文明建設(shè)的重要環(huán)節(jié)和關(guān)鍵領(lǐng)域.目前垃圾分類設(shè)施過(guò)于簡(jiǎn)單，為了提高分類效率，避免發(fā)生錯(cuò)分、誤分的現(xiàn)象，智能垃圾分類產(chǎn)品成為當(dāng)今研究重點(diǎn)[1].美國(guó)CleanRobotics公司研制了一款名為T(mén)ranshbot的全自動(dòng)分類垃圾桶.Trashbot操縱攝像頭、傳感器、金屬探測(cè)器和馬達(dá)，把垃圾放在精確的位置.法國(guó)Uzer公司研發(fā)了一款名為Eugene的智能垃圾箱，只需把丟棄的垃圾上的條形碼對(duì)準(zhǔn)掃描儀就可識(shí)別出垃圾是何種類.吳凡[2]等研究人員發(fā)明的智能垃圾桶只需掃描垃圾袋上的二維碼，所屬類別垃圾桶的蓋子會(huì)自動(dòng)打開(kāi)，指引投放.但以上研究對(duì)于列車上常見(jiàn)垃圾的分類并不適用，為此本文基于ResNet50神經(jīng)網(wǎng)絡(luò)模型提出一種列車?yán)诸惼鳎瑢?shí)現(xiàn)垃圾智能分類.

1 垃圾自動(dòng)分類算法模型設(shè)計(jì)

深度學(xué)習(xí)是機(jī)器學(xué)習(xí)領(lǐng)域中最重要的研究方向之一，是機(jī)器模擬人腦對(duì)文字、圖像、聲音等數(shù)據(jù)進(jìn)行一系列分析，從而解決模式識(shí)別中的困難問(wèn)題[3].通常情況下，具有良好分類能力的模型需要經(jīng)過(guò)大量數(shù)據(jù)集訓(xùn)練，消耗巨大的時(shí)間資源和計(jì)算資源，因此研究者提出遷移學(xué)習(xí)方法來(lái)解決此類問(wèn)題[4-5].本文使用在ImageNet上進(jìn)行過(guò)預(yù)訓(xùn)練的ResNet50模型對(duì)列車常見(jiàn)12種垃圾進(jìn)行分類識(shí)別.

1.1 遷移學(xué)習(xí)

遷移學(xué)習(xí)(Transfer Learning)是一種機(jī)器學(xué)習(xí)方法，是將源領(lǐng)域的標(biāo)注數(shù)據(jù)或者知識(shí)結(jié)構(gòu)遷移到結(jié)構(gòu)相似的目標(biāo)領(lǐng)域中，使得目標(biāo)領(lǐng)域能夠取得更好的學(xué)習(xí)效果.在目標(biāo)域數(shù)據(jù)很難獲取或者數(shù)據(jù)量較少且分類識(shí)別模型較復(fù)雜的情況下可以通過(guò)遷移學(xué)習(xí)來(lái)防止結(jié)果過(guò)擬合或者欠擬合，提高分類識(shí)別效果；其次，建立完整模型較復(fù)雜且對(duì)硬件要求高，通過(guò)遷移學(xué)習(xí)可大大減少耗時(shí)，提高學(xué)學(xué)習(xí)效率.

遷移學(xué)習(xí)一般過(guò)程為將模型在數(shù)據(jù)量充足的源域中進(jìn)行預(yù)訓(xùn)練，隨后在數(shù)據(jù)量稀少的目標(biāo)域中進(jìn)行參數(shù)微調(diào)，達(dá)到減少訓(xùn)練數(shù)據(jù)、增強(qiáng)模型的泛化能力、便于進(jìn)行深度學(xué)習(xí)的目的[6-7].在進(jìn)行遷移學(xué)習(xí)時(shí)要考慮到兩個(gè)關(guān)鍵因素，分別是新數(shù)據(jù)集的大小和與原數(shù)據(jù)集的相似性.當(dāng)新數(shù)據(jù)集較小且與原數(shù)據(jù)集相似時(shí)，為了防止過(guò)擬合不建議進(jìn)行微調(diào)，只訓(xùn)練線性分類器是較好的選擇；當(dāng)新數(shù)據(jù)集較大且相似時(shí)，有足夠的數(shù)據(jù)的條件下可以對(duì)整個(gè)網(wǎng)絡(luò)進(jìn)行微調(diào).本實(shí)驗(yàn)選用包含2萬(wàn)多個(gè)圖像類別且已手動(dòng)注釋完成的ImageNet數(shù)據(jù)集作為遷移學(xué)習(xí)的源域，自行采集的列車常見(jiàn)12種垃圾圖片作為目標(biāo)域，采用遷移學(xué)習(xí)方法，將其他層參數(shù)結(jié)構(gòu)凍結(jié)，只改變?nèi)B接層的結(jié)構(gòu)參數(shù)對(duì)模型進(jìn)行訓(xùn)練.

1.2 ResNet50

ResNet又名殘差神經(jīng)網(wǎng)絡(luò)[8]，即在傳統(tǒng)卷積神經(jīng)網(wǎng)絡(luò)中加入殘差學(xué)習(xí)(Residual Learning)的思想，避免了隨著網(wǎng)絡(luò)模型層數(shù)的加深出現(xiàn)學(xué)習(xí)退化現(xiàn)象.在本質(zhì)上可以將殘差學(xué)習(xí)的思想理解為一個(gè)塊(Block)，可用公式(1)定義.其中y表示輸出，F(xiàn)(x,{Wi})表示殘差部分，x表示樣本.

y=F(x,{Wi})+x

(1)

表1所示為本實(shí)驗(yàn)所用的ResNet50模型的網(wǎng)絡(luò)結(jié)構(gòu)，由49個(gè)卷積層和1個(gè)全連接層組成[9].將49個(gè)卷積層分為五組，卷積核的大小有三種，分別為7×7、1×1、3×3，用于對(duì)輸入圖像進(jìn)行特征的提取，卷積層的激活函數(shù)為非線性Relu激活函數(shù).使用一個(gè)7×7的平均池化和一個(gè)3×3的最大池化，步長(zhǎng)均設(shè)定為2，每一次的池化操作都會(huì)使其維度降為原來(lái)的1/2.全連接層的維度設(shè)置為類別數(shù)12.

表1 ResNet50網(wǎng)絡(luò)結(jié)構(gòu)

1.3 Softmax分類器

在建立本文分類模型時(shí)使用Softmax分類器.Softmax函數(shù)可用公式(2)表示.

(2)

計(jì)算機(jī)應(yīng)用的二進(jìn)制計(jì)算方法在計(jì)算時(shí)容易出現(xiàn)溢出現(xiàn)象，應(yīng)用公式(3)可有效避免溢出現(xiàn)象，其中M表示輸入xi的最大值.本文在對(duì)分類模型訓(xùn)練時(shí)使用防止溢出的Softmax分類器.

(3)

2 算法模型訓(xùn)練及結(jié)果

2.1 數(shù)據(jù)集建立

本文采集列車常見(jiàn)12種垃圾圖像，并按其類別制作數(shù)據(jù)集.為提高模型的魯棒性，每類垃圾圖像數(shù)據(jù)集均含有正面、背面及不同形狀.將采集的數(shù)據(jù)集分為兩組，其中第一組為11 187張列車常見(jiàn)12種垃圾圖像，每種垃圾圖像的70%作為訓(xùn)練集，30%作為驗(yàn)證集；第二組為模型測(cè)試集，在不同光線、不同角度、不同背景、不同距離對(duì)12種相

同列車常見(jiàn)垃圾進(jìn)行拍攝，每種100張.

第一組數(shù)據(jù)集的垃圾所屬類別、垃圾中文名稱以及每類垃圾數(shù)據(jù)集的圖片數(shù)量如表2所示.為了提高數(shù)據(jù)集的魯棒性和識(shí)別準(zhǔn)確性，對(duì)一些可識(shí)別特征較少的垃圾合理增加了圖像數(shù)量.

表2 列車常見(jiàn)12種垃圾 張

2.2 實(shí)驗(yàn)環(huán)境設(shè)置

網(wǎng)絡(luò)模型訓(xùn)練在Windows10操作系統(tǒng)下進(jìn)行，使用Pycharm集成開(kāi)發(fā)環(huán)境對(duì)代碼進(jìn)行編寫(xiě)與調(diào)試.實(shí)驗(yàn)主要依賴Tensorflow深度學(xué)習(xí)框架進(jìn)行，并使用GPU加速提高網(wǎng)絡(luò)模型訓(xùn)練效率.實(shí)驗(yàn)環(huán)境及超參數(shù)選擇采用表3策略.

表3 實(shí)驗(yàn)環(huán)境配置

2.3 訓(xùn)練模型構(gòu)建及結(jié)果

本文對(duì)基于ImageNet的ResNet50模型進(jìn)行遷移學(xué)習(xí)訓(xùn)練. 預(yù)訓(xùn)練模型的源域是ImageNet中的1000類物體，目標(biāo)域是列車常見(jiàn)12種垃圾，實(shí)驗(yàn)使用本文建立的數(shù)據(jù)集進(jìn)行訓(xùn)練，將其他層參數(shù)結(jié)構(gòu)凍結(jié)，只改變?nèi)B接層的結(jié)構(gòu)參數(shù)，將全連接層維度設(shè)置為12維并通過(guò)Softmax分類器實(shí)現(xiàn)分類，選擇交叉熵(Cross Entropy)損失函數(shù)和Adam梯度優(yōu)化方法訓(xùn)練模型.在實(shí)驗(yàn)過(guò)程中，通過(guò)觀察損失函數(shù)圖像將學(xué)習(xí)率設(shè)置為0.003，批次設(shè)置為100，迭代次數(shù)設(shè)置為500，最終使模型達(dá)到收斂.訓(xùn)練模型準(zhǔn)確率和損失函數(shù)圖像如圖1所示，圖1(a)中橫坐標(biāo)表示迭代次數(shù)，縱坐標(biāo)表示準(zhǔn)確率，其中實(shí)線與點(diǎn)劃線分別表示訓(xùn)練模型與驗(yàn)證模型的準(zhǔn)確率隨迭代次數(shù)的增加而增加，最終模型準(zhǔn)確率接近100%.圖1(b)中橫坐標(biāo)表示迭代次數(shù)，縱坐標(biāo)表示損失函數(shù)，實(shí)線與點(diǎn)劃線分別表示訓(xùn)練模型與驗(yàn)證模型的損失函數(shù)隨迭代次數(shù)的增加而逐漸減小并逐漸收斂至趨于穩(wěn)定，表示本文訓(xùn)練的模型對(duì)列車常見(jiàn)12種垃圾可以達(dá)到一個(gè)較理想的分類識(shí)別效果.

(a) ResNet50準(zhǔn)確率 (b) ResNet50損失函數(shù)

3 測(cè)試算法及結(jié)果

將測(cè)試集圖像尺度處理為224×224×3，輸入至訓(xùn)練完成后的網(wǎng)絡(luò)模型中進(jìn)行12種列車常見(jiàn)垃圾類別的預(yù)測(cè)，根據(jù)得到的預(yù)測(cè)結(jié)果判別預(yù)測(cè)概率最高的即為所識(shí)別的垃圾種類.在每類100張的測(cè)試集圖像中，采用公式(4)、公式(5)和公式(6)分別計(jì)算每類垃圾的分類精確率(Precision)、召回率(Recall) 和F-度量值(F-Measure, F1)，測(cè)試結(jié)果如表4所示.

(4)

(5)

(6)

使用ResNet50與Inception-V3兩種分類算法對(duì)測(cè)試集中12種列車常見(jiàn)垃圾進(jìn)行分類識(shí)別，對(duì)比兩種算法的精確率、召回率以及F-度量值，如表4所示.

表4 兩種算法對(duì)12種列車常見(jiàn)垃圾測(cè)試的精確率、召回率、F-度量值 %

表4 兩種算法對(duì)12種列車常見(jiàn)垃圾測(cè)試的精確率、召回率、F-度量值(續(xù)) %

通過(guò)測(cè)試，得到ResNet50模型的平均精確率為97.4%，Inception-V3模型的平均精確率為96.5%；ResNet50模型的平均召回率為97.4%，Inception-V3模型的平均召回率為96.6%； ResNet50模型的平均F-度量值為97.5%，Inception-V3模型的平均F-度量值為96.5%.綜合可見(jiàn)ResNet50模型的分類識(shí)別效果較Inception-V3優(yōu)秀.

通過(guò)PyQt5編寫(xiě)GUI仿真系統(tǒng)，實(shí)現(xiàn)了基本的拍照與分類識(shí)別功能，圖2展示了“紙巾”的識(shí)別界面.

圖2 “紙巾”識(shí)別界面

4 結(jié)論

在對(duì)模型的測(cè)試過(guò)程中，相比Inception-V3分類模型，ResNet50模型對(duì)12種列車常見(jiàn)垃圾具有較好的分類識(shí)別效果，在精確率和召回率上均有提升，具有更好應(yīng)用價(jià)值. ResNet50分類模型對(duì)于可回收垃圾中的塑料瓶、干垃圾中的塑料袋、有害垃圾中的藥品等的分類精確率表現(xiàn)較好，對(duì)干垃圾中打火機(jī)的分類識(shí)別精確率達(dá)到100%；對(duì)于可回收垃圾中的廢報(bào)紙、干垃圾中的堅(jiān)果殼、濕垃圾中的食物殘?jiān)鹊姆诸惸Ｐ驼倩芈时憩F(xiàn)較佳，對(duì)有害垃圾中指甲油的分類識(shí)別召回率達(dá)到100%.但本文數(shù)據(jù)集中圖片種類及數(shù)量有限，在實(shí)際應(yīng)用中可以按需要增加數(shù)據(jù)集種類及數(shù)量并繼續(xù)訓(xùn)練模型，提高分類識(shí)別精度.