任 爽,田振川,林光輝,楊 凱,商繼財

(東北石油大學(xué) 電氣信息工程學(xué)院,黑龍江 大慶 163318)

0 引 言

隨著科學(xué)技術(shù)迅速發(fā)展,一些精密設(shè)備也變得更加復(fù)雜,因此在大力發(fā)展這些精密復(fù)雜設(shè)備的同時,也要對其進行定期或?qū)崟r的健康監(jiān)測[1],而為避免故障進一步擴大,對電機滾動軸承初期微小故障的及時診斷識別尤為重要,目前有許多研究人員對其進行了大量研究[2-3]。

隨著計算機技術(shù)和硬件設(shè)備的不斷完善和發(fā)展,反映設(shè)備運行狀態(tài)的數(shù)據(jù)之間相互關(guān)聯(lián)耦合,整個系統(tǒng)具有強烈的不確定性和非線性特征,也呈現(xiàn)出海量化、冗余化等大數(shù)據(jù)特點。時域特征[4]、頻域特征[5]和時頻特征[6]等傳統(tǒng)故障診斷方法,都需要用大量的人力提取海量特征數(shù)據(jù),無法適應(yīng)大數(shù)據(jù)時代下故障診斷的需求。

Hopfield神經(jīng)網(wǎng)絡(luò)[7]是一種結(jié)合存儲系統(tǒng)和二元系統(tǒng)的循環(huán)神經(jīng)網(wǎng)絡(luò),但具有容易陷入局部最小值的缺陷。一種適用于多層感知器的反向傳播算法----BP(Back Propagation)算法解決了非線性分類問題,從而使人工神經(jīng)網(wǎng)絡(luò)引起人們的注意。但由于當(dāng)時計算機硬件水平有限,運算能力不足,不能解決當(dāng)神經(jīng)網(wǎng)絡(luò)規(guī)模增大時出現(xiàn)的“梯度消失”問題。并且由于當(dāng)時提出的一些淺層機器學(xué)習(xí)算法(如SVM(Support Vector Machine)等)在分類和回歸等問題上表現(xiàn)很好,導(dǎo)致了人工神經(jīng)網(wǎng)絡(luò)再次陷入瓶頸期。

深度學(xué)習(xí)能更加完整地描述原始數(shù)據(jù)的特征,其使用無監(jiān)督學(xué)習(xí)的逐層訓(xùn)練算法,再使用有監(jiān)督的反向傳播算法進行調(diào)優(yōu)以解決“梯度消失”問題,引起了學(xué)術(shù)界巨大反響。許多學(xué)者開始進行理論研究和應(yīng)用,證明了深度學(xué)習(xí)在復(fù)雜多變的識別診斷領(lǐng)域中具有巨大的潛力[8],深度學(xué)習(xí)也形成了幾種經(jīng)典的模型,包括深度置信網(wǎng)絡(luò)(DBN:Deep Belief Network)[9]、自編碼網(wǎng)絡(luò)(AE:Auto-Encoder)[10]、卷積神經(jīng)網(wǎng)絡(luò)(CNN:Convolutional Neural Networks)[11]、循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN:Recurrent Neural Network)[12]、長短時記憶網(wǎng)絡(luò)(LSTM:Long Short-Term Memory)[13]等。

CNN作為一種高效的深度學(xué)習(xí)模型得到了許多學(xué)者的廣泛研究,并提出了一系列的CNN結(jié)構(gòu)模型,如通過不斷加深網(wǎng)絡(luò)結(jié)構(gòu)提升性能的VGGNet、從“橫向”加深表達的GoogLeNet、引入殘差提升性能的ResNet、更加充分利用各層數(shù)據(jù)的DenseNet等。這些模型應(yīng)用于圖像識別,獲得了非常好的效果[14-15]。近年來,有許多學(xué)者開始運用CNN網(wǎng)絡(luò)進行故障診斷分類,其效果也越來越好。汪穎等[16]將卷積神經(jīng)網(wǎng)絡(luò)應(yīng)用于電纜故障分類領(lǐng)域中,通過仿真證明所提方法能對電流信號進行有效分類,準(zhǔn)確識別電纜早期故障,具有較高的工程應(yīng)用價值；Lee等[17]將卷積神經(jīng)網(wǎng)絡(luò)應(yīng)用于車輛儀表結(jié)構(gòu)缺陷位置分類領(lǐng)域中,也有很高的分類準(zhǔn)確率。筆者利用傳統(tǒng)的GoogLeNet模型單元與稠密連接思想結(jié)合,提出一種改良的GoogLeNet卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),并將其應(yīng)用于電機滾動軸承的故障診斷。其診斷過程不需人工特征提取,避免了人工提取故障特征時的困難和帶來的誤差,大大簡化了故障識別過程。

1 卷積神經(jīng)網(wǎng)絡(luò)

CNN是一種有監(jiān)督的深度學(xué)習(xí)模型,其訓(xùn)練方法類似于人工神經(jīng)網(wǎng)絡(luò),通常采用反向傳播算法逐層對誤差進行反向傳遞,并且使用梯度下降法調(diào)整神經(jīng)網(wǎng)絡(luò)中各層的參數(shù)[10]。作為一種經(jīng)典的深度學(xué)習(xí)模型,其可提取局部特征,減少參數(shù)數(shù)量,降低訓(xùn)練難度,在空間或時間上做降維采樣,用低層次局部特征組合成高層次特征,具有局部感知、權(quán)值共享、多層次結(jié)構(gòu)的特點[18]?；镜木矸e神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)由卷積層、激活層、池化層、全連接層和Softmax分類器組成(見圖1)。原始數(shù)據(jù)經(jīng)處理后進入卷積層,第1層卷積層可能只提取一些低級的特征如邊緣、線條等,而其余層的卷積能從低級特征中迭代提取更復(fù)雜的特征。通常在卷積層之后會得到維度很大的數(shù)據(jù)特征,池化層將數(shù)據(jù)特征切成幾個區(qū)域,取其最大值或平均值,得到新的、維度較小的特征。然后通過全連接層將數(shù)據(jù)特征展開,連接分類器計算,最后得到故障分類。

圖1 卷積神經(jīng)網(wǎng)絡(luò)的基本模型Fig.1 Basic model of convolutional neural network

2 改良GoogLeNet卷積神經(jīng)網(wǎng)絡(luò)

2.1 GoogLeNet卷積神經(jīng)網(wǎng)絡(luò)

在2014年的ImageNet比賽中,GoogLeNet模型首次出現(xiàn)并且獲得圖像分類分區(qū)冠軍。本次的GoogLeNet模型版本通常稱其為Inception V1[19],其性能和同時期VGGNet的性能相近,但參數(shù)量遠小于后者。Inception V1的基本組成模塊結(jié)構(gòu)有4個,即1×1卷積、3×3卷積、5×5卷積和3×3最大池化,最后將4通道上的運算結(jié)果在通道上進行組合。但Inception V1中也存在如下問題：當(dāng)要再加深網(wǎng)絡(luò)層數(shù)時,因為5×5卷積的計算開銷和存儲占用已經(jīng)很大,計算時間將會呈指數(shù)增長,占用內(nèi)存也會急劇上升,引起計算爆炸。

隨后出現(xiàn)的Inception V2版本,解決了上述問題,加快了計算速度。Inception V2使用兩個3×3的卷積代替了5×5的卷積,并且在每次卷積前先進行一次1×1的卷積。另外,為提高網(wǎng)絡(luò)收斂速度,加快計算速度,還加入了批量歸一化(BN:Batch Normalization)層[20]。Inception V2的基本單元模塊如圖2所示。

圖2 Inception V2的基本單元模塊Fig.2 Basic unit module of Inception V2

2.2 改良GoogLeNet卷積神經(jīng)網(wǎng)絡(luò)

DenseNet卷積神經(jīng)網(wǎng)絡(luò)是在普通多層的CNN網(wǎng)絡(luò)結(jié)構(gòu)基礎(chǔ)上,將前面每次卷積池化層與后面全部的卷積層相連接。因此,每次卷積都使用了前面幾次卷積后的數(shù)據(jù)特征,加強了特征的傳遞并更加有效地利用特征。DenseNet的簡單結(jié)構(gòu)如圖3所示。

圖3 DenseNet一般結(jié)構(gòu)Fig.3 The general structure of DenseNet

筆者提出的改良GoogLeNet模型就是將DenseNet模型中的稠密連接和GoogLeNet模型的增加“寬度”的思想相結(jié)合。在原先的GoogLeNet神經(jīng)網(wǎng)絡(luò)中,將后一層的網(wǎng)絡(luò)與前面所有的卷積層相連接,這既能保留GoogLeNet網(wǎng)絡(luò)“橫向”提取特征表達較強的能力,又能使DenseNet網(wǎng)絡(luò)在“縱向”上深度利用原有數(shù)據(jù)特征的優(yōu)勢。考慮到試驗數(shù)據(jù)集的大小、數(shù)據(jù)特征的多少和計算速度,選取對兩層GoogLeNet網(wǎng)絡(luò)的改良比較合適。在兩層GoogLeNet網(wǎng)絡(luò)的輸入層與堆疊層2之間和堆疊層1與堆疊層2之間分別加入一條支路,從而構(gòu)成了改良GoogLeNet網(wǎng)絡(luò)模型。數(shù)據(jù)特征的復(fù)雜程度是層數(shù)選擇的關(guān)鍵。經(jīng)試驗對比,3層結(jié)構(gòu)比兩層結(jié)構(gòu)在準(zhǔn)確度上并沒有提高,并且訓(xùn)練時間長,同時還出現(xiàn)了明顯的過擬合問題,所以選擇兩層結(jié)構(gòu)為試驗?zāi)Ｐ?。圖4為改良GoogLeNet兩層網(wǎng)絡(luò)模型圖。

圖4 改良GoogLeNet兩層網(wǎng)絡(luò)模型圖Fig.4 Diagram of improved GoogLeNet two-layer network model

3 實驗驗證

3.1 基于改良GoogLeNet模型的電機軸承故障診斷方法

實驗采用美國凱斯西儲大學(xué)(CWRU:Case Western Reserve University)的電機滾動軸承數(shù)據(jù)驗證筆者方法的有效性。流程如圖5所示。

圖5 改良GoogLeNet模型的驗證流程圖Fig.5 Validation flowchart of improved GoogLeNet model

具體步驟如下。

1) 獲取電機滾動軸承數(shù)據(jù)信號,用于網(wǎng)絡(luò)模型訓(xùn)練。

2) 將原始數(shù)據(jù)進行分類,分為訓(xùn)練集、驗證集和測試集,并且將不同故障下的數(shù)據(jù)貼上標(biāo)簽。

3) 設(shè)計改良GoogLeNet網(wǎng)絡(luò)模型的結(jié)構(gòu),并且初始化參數(shù)。

4)用訓(xùn)練集對改良GoogLeNet模型進行訓(xùn)練,重復(fù)進行反向傳播和前向傳播迭代的計算調(diào)整各層權(quán)重等各種超參數(shù)。每進行一次迭代,用驗證集對其迭代一次后的模型進行驗證,判斷其準(zhǔn)確率是否符合要求。i為當(dāng)前迭代次數(shù),初始值為0,當(dāng)i到達設(shè)置的最大迭代次數(shù)N時,保存最后一次迭代的模型。

5) 最后將測試集的數(shù)據(jù)輸入到已經(jīng)訓(xùn)練好的改良GoogLeNet模型中,得到最終的電機滾動軸承故障診斷結(jié)果,輸出的結(jié)果為測試集的正確率。

3.1.1 數(shù)據(jù)集構(gòu)建

CWRU電機軸承故障數(shù)據(jù)集是世界公認(rèn)的標(biāo)準(zhǔn)電機滾動軸承故障數(shù)據(jù)集。筆者選取試驗平臺驅(qū)動端軸承在空載(負(fù)載為0)時的數(shù)據(jù)作為數(shù)據(jù)集,采樣頻率為12 kHz,即每秒采集12 000個樣本點。軸承的故障損傷類型分別為滾動體、內(nèi)圈、外圈,損傷直徑分別包含0.177 8 mm、0.355 6 mm、0.533 4 mm,其中外圈損傷分別包含3點鐘、6點鐘、12點鐘3個不同位置,這里只取6點鐘位置。包含正常無損傷的情況,共10種故障類型。在不同故障位置下,每種損傷尺寸中取120 000個樣本點,每400個樣本點構(gòu)成20×20的2維數(shù)組,作為一個樣本數(shù)據(jù),則每種故障類型有300個樣本,將其貼上故障類型標(biāo)簽。再將每種類型的300個樣本隨機分為200個訓(xùn)練樣本和100個測試樣本,因此訓(xùn)練集有2 000個樣本,測試集有1 000個樣本。每輪訓(xùn)練后都隨機選取訓(xùn)練集中200個樣本作為驗證集進行驗證。試驗樣本故障類型和詳細(xì)信息如表1所示。

表1 試驗樣本故障種類和詳細(xì)信息Tab.1 Types of failures and detailed information of the test samples

3.1.2 改良GoogLeNet模型的具體搭建

應(yīng)用Ancaconda中的Jupyter Notebook編輯python程序,利用TensorFlow 2.0 CPU版中的keras包可以方便地進行模型搭建。模型如圖4所示,輸入層為20×20的數(shù)據(jù)輸入,1×1卷積均為16個1×1的卷積核,進行2維卷積操作。3×3卷積均為32個3×3的卷積核,進行2維卷積操作。池化層均為2×2最大池化,為保持卷積后的特征大小一致,在第2個GoogLeNet單位模塊中的兩次3×3卷積中,第1次卷積后的池化中設(shè)置padding=SAME,其余池化中均不設(shè)置padding。在全連接層之前將數(shù)據(jù)展開,并且為防止過擬合,再經(jīng)過一個0.5概率的Dropout連接Softmax分類器,進行10種故障的分類。為加快學(xué)習(xí)速度,采用mini-batch訓(xùn)練,若bach size取值過大,則收斂性會降低；取值過小,則計算時間將增加,這里將bach size設(shè)置為8。為使訓(xùn)練集中有10%(200個)驗證樣本,將validation split設(shè)置為0.1。激活函數(shù)的選擇對模型訓(xùn)練影響很大,各種激活函數(shù)的選擇沒有固定方法,通常根據(jù)經(jīng)驗設(shè)置,這里選擇預(yù)期效果更好的Relu函數(shù)。模型采用Adam自適應(yīng)優(yōu)化器和交叉熵?fù)p失函數(shù),總共進行50輪迭代,最后輸入測試集對模型進行測試,得出準(zhǔn)確率。為進行控制變量對比實驗,對比的GoogLeNet模型與圖4大致相同,僅去除輸入層到堆疊層2和堆疊層1到堆疊層2的支路結(jié)構(gòu),其他設(shè)置與實驗?zāi)Ｐ拖嗤?。實驗?zāi)Ｐ团c對比模型均運行10次,分別記錄每次的測試集故障分類準(zhǔn)確率。

3.2 實驗結(jié)果分析

每次實驗的準(zhǔn)確率如表2所示。對比模型的平均準(zhǔn)確率在90.63%,而改良模型的準(zhǔn)確率在93.46%,可以看出改良模型的方差更小,準(zhǔn)確率比較穩(wěn)定,穩(wěn)定性更好,證明了改良模型在電機滾動軸承故障診斷中的可行性。

表2 對比試驗準(zhǔn)確率Tab.2 Comparison test accuracy (%)

選取各模型比較接近平均準(zhǔn)確率的一次運行參數(shù),在此次訓(xùn)練過程中,每步迭代會進行反向誤差傳播計算,運用TensorFlow中的TensorBoard程序自動記錄其迭代過程中每步的準(zhǔn)確率和交叉熵?fù)p失,最后得出訓(xùn)練過程中的準(zhǔn)確率曲線和交叉熵?fù)p失曲線。圖6為改良模型和對比模型的準(zhǔn)確率曲線圖。從圖6可以看出,在迭代次數(shù)相同的情況下,改良模型的準(zhǔn)確率更高,表現(xiàn)更為優(yōu)異。圖7為改良模型和對比模型的交叉熵?fù)p失曲線圖。從圖7可以看出,在迭代次數(shù)相同的情況下,改良模型和對比模型的交叉熵?fù)p失降低得更快,數(shù)值更小,收斂性更好。

圖6 準(zhǔn)確率曲線圖 圖7 交叉熵?fù)p失曲線圖Fig.6 The accuracy curve Fig.7 The cross entropy loss curve

為客觀評價改良模型的優(yōu)越性,將其與其他文獻中的模型進行了對比,所有文獻均使用美國西儲大學(xué)軸承故障數(shù)據(jù)集。表3給出了不同算法模型的故障診斷分類準(zhǔn)確率。實驗結(jié)果表明,在經(jīng)典的FFT-SVM(Fast Fourier Transform-Support Vector Machine)算法模型中的分類效果較差,準(zhǔn)確率只有84.20%。在Wavelet-ANN(Wavelet-Artificial Neural Networks)算法模型中的診斷效果有所改善,但準(zhǔn)確率僅有88.54%。文獻[21]中CNN模型的主要參數(shù)是通過粒子群優(yōu)化算法確定的,這種方法的分類準(zhǔn)確率提升到了92.84%。而改良GoogLeNet模型將準(zhǔn)確率提升到了93.46%,再對比原GoogLeNet模型,證明了改良模型在診斷精度上具有優(yōu)勢。

表3 不同模型分類準(zhǔn)確率Tab.3 Classification accuracy of different models

4 結(jié) 論

筆者基于GoogLeNet模型,結(jié)合稠密連接思想,構(gòu)建了一種改良GoogLeNet卷積神經(jīng)網(wǎng)絡(luò)電機滾動軸承故障診斷模型。通過將改良模型和原模型及其他經(jīng)典模型對比,驗證了改良GoogLeNet模型在診斷精度和收斂速度上的優(yōu)勢,結(jié)論如下。

1) 所提出的改良GoogLeNet卷積神經(jīng)網(wǎng)絡(luò)電機滾動軸承故障診斷模型具有較強的特征提取能力,直接將原振動數(shù)據(jù)輸入到網(wǎng)絡(luò)中,輸出端就能快速得到較精準(zhǔn)的故障診斷結(jié)果。整個過程不需要進行人工特征提取,避免了人工提取特征帶來的計算難度和誤差,大大簡化了軸承故障診斷過程。

2) 對比其他典型模型,所提出的模型具有診斷精度高,收斂速度快,表現(xiàn)穩(wěn)定的特點。

綜上所述,筆者提出的改良GoogLeNet卷積神經(jīng)網(wǎng)絡(luò)電機軸承故障診斷模型具有很強的特征提取能力,較高的識別精度和較快的收斂速度,同時也證明了其應(yīng)用的可行性。但對每層卷積核的個數(shù)如何選擇,需要進一步的研究。