趙一瑾

(云南交通職業(yè)技術(shù)學(xué)院 交通信息工程學(xué)院，昆明 655000)

0 引言

滾動(dòng)軸承是旋轉(zhuǎn)機(jī)械中最重要的組件之一，在飛機(jī)，風(fēng)力渦輪機(jī)，鐵路軸和發(fā)電機(jī)等多個(gè)行業(yè)中具有廣泛的應(yīng)用[1-2]。由于高速，重載，極端工作溫度和污染等嚴(yán)酷操作，軸承很容易發(fā)生故障。意外的軸承故障會(huì)破壞整個(gè)機(jī)械系統(tǒng)，停機(jī)時(shí)間和維護(hù)成本會(huì)大大增加運(yùn)營(yíng)成本。因此，檢測(cè)軸承故障至關(guān)重要，特別是在早期階段，可以提高系統(tǒng)的可靠性，也可以避免意外事故[3-4]。

當(dāng)滾動(dòng)軸承中存在局部缺陷時(shí)，會(huì)產(chǎn)生周期性或準(zhǔn)周期性的脈沖，這意味著軸承故障能夠通過從非線性、非平穩(wěn)的振動(dòng)信號(hào)中提取可識(shí)別脈沖頻率來進(jìn)行檢測(cè)[5]。早期的滾動(dòng)軸承故障檢測(cè)方法主要使用小波變換[6]、經(jīng)驗(yàn)?zāi)B(tài)分解[7]、希爾伯特-黃變換[8]等數(shù)學(xué)工具提取故障特征，采用人工干預(yù)的方式判別軸承是否發(fā)生故障。這類方法雖然具有較優(yōu)的檢測(cè)性能，但是由于過度依賴故障診斷專家的知識(shí)經(jīng)驗(yàn)，已經(jīng)不能滿足當(dāng)前大規(guī)模工業(yè)生產(chǎn)的需求[9]。近年來，機(jī)器學(xué)習(xí)被廣泛應(yīng)用于故障檢測(cè)領(lǐng)域中，特別是具備自動(dòng)特征提取和復(fù)雜任務(wù)處理優(yōu)勢(shì)的深度學(xué)習(xí)的引入，極大提高了故障診斷的效率和正確率。Liu等[10]利用遞歸神經(jīng)網(wǎng)絡(luò)在捕捉時(shí)間序列數(shù)據(jù)特征方面的突出能力，提出了基于門控循環(huán)單元的降噪自動(dòng)編碼器方法用于檢測(cè)滾動(dòng)軸承的異常情況并對(duì)故障類型進(jìn)行分類。Wang等[11]提出了一種基于卷積神經(jīng)網(wǎng)絡(luò)的隱馬爾可夫模型對(duì)機(jī)械系統(tǒng)的多故障進(jìn)行分類。Wang等[12]提出了一種多尺度CNN網(wǎng)絡(luò)的故障檢測(cè)方法，利用振動(dòng)數(shù)據(jù)在1維卷積和2維卷積通道中的不同特征組合來對(duì)故障進(jìn)行高效分類。但是，上述方法對(duì)低噪聲環(huán)境中采集到的數(shù)據(jù)具有良好的診斷效果，但是當(dāng)信號(hào)中存在嚴(yán)重干擾時(shí)，檢測(cè)效果欠佳。Zhang等[13]提出了一種基于端對(duì)端的深度學(xué)習(xí)模型用于克服噪聲。為了提高檢測(cè)精度，楊平等[14]提出了一種基于卷積膠囊網(wǎng)絡(luò)的故障診斷方法，通過使用2個(gè)卷積層來提取原始時(shí)域信號(hào)的特征，然后利用膠囊網(wǎng)絡(luò)來進(jìn)行故障分類，經(jīng)過大量數(shù)據(jù)的訓(xùn)練后，該方法能夠在信號(hào)受到嚴(yán)重噪聲污染時(shí)，依然擁有良好的診斷性能。然而，在大多數(shù)應(yīng)用中，滾動(dòng)軸承的異常數(shù)據(jù)是很難獲得的?？紤]由于異常數(shù)據(jù)的缺少而引起故障識(shí)別率降低的問題，Plakias等[15]提出了基于生成性對(duì)抗網(wǎng)絡(luò)的故障檢測(cè)方案，該方案中的生成器只學(xué)習(xí)正常樣本中的特征，故障發(fā)生的檢測(cè)結(jié)果由判別器基于表觀損失和潛在損失函數(shù)計(jì)算的異常分?jǐn)?shù)給出。

針對(duì)上述存在的問題，本文提出了一種基于加權(quán)密集連接網(wǎng)絡(luò)和注意力機(jī)制的滾動(dòng)軸承故障診斷的方法，用于解決復(fù)雜情況時(shí)檢測(cè)精度低和因訓(xùn)練數(shù)據(jù)較少引起的性能下降的問題。該方法首先使用加權(quán)密集連接網(wǎng)絡(luò)將屬于不同空間表示級(jí)別的特征組成在一起，從而增強(qiáng)了提取信息的多樣性。然后，引入注意力機(jī)制，將突出每個(gè)注意向量中具有重要信息的區(qū)域，同時(shí)通過估計(jì)每個(gè)特征映射的加權(quán)平均值來處理特征序列中的時(shí)間相關(guān)性。最后，將獲得的特征信息輸入到故障分類模型，輸出每種故障類型的診斷結(jié)果。通過實(shí)驗(yàn)證明，所提模型包含較少的學(xué)習(xí)參數(shù)，因此識(shí)別故障發(fā)生所需的訓(xùn)練數(shù)據(jù)較少。同時(shí)，模型考慮了數(shù)據(jù)樣本的時(shí)間相關(guān)性，在存在加性噪聲的情況下提高了故障診斷性能并具有良好的魯棒性。

1 基于加權(quán)密集網(wǎng)絡(luò)和注意力機(jī)制的故障診斷方法

所提模型分為特征提取模塊和故障分類模塊兩個(gè)部分，如圖1所示。為了能夠從原始信號(hào)中提取更多有用信息，特征提取模塊使用加權(quán)密集連接網(wǎng)絡(luò)對(duì)每個(gè)時(shí)間步長(zhǎng)的原始信號(hào)進(jìn)行處理，用于捕獲空間相關(guān)性方面的故障特征；為了能夠準(zhǔn)確表征滾動(dòng)軸承故障的特征，特征提取模塊引入注意力機(jī)制，通過對(duì)故障特征進(jìn)行適當(dāng)?shù)募訖?quán)平均，獲得特征序列之間的時(shí)間相關(guān)性。故障分類模塊由批處理層、密集全連接層和Softmax函數(shù)組成，為了防止過度擬合現(xiàn)象的發(fā)生，該模塊還引入了dropout技術(shù)。

圖1 所提模型的整體框架

1.1 加權(quán)密集連接網(wǎng)絡(luò)

對(duì)于每個(gè)時(shí)間步ti，密集連接網(wǎng)絡(luò)將原始振動(dòng)傳感器信號(hào)作為輸入，提取特征狀態(tài)映射gi。圖2給出了加權(quán)密集連接網(wǎng)絡(luò)的架構(gòu)。

圖2 加權(quán)密集連接網(wǎng)絡(luò)架構(gòu)圖

密集連接網(wǎng)絡(luò)的核心是卷積層[16]，它通過在輸入端使用卷積運(yùn)算來模擬視覺皮層。為了實(shí)現(xiàn)該目標(biāo)，使用核濾波器來估計(jì)多維輸出的特征映射。每個(gè)核濾波器對(duì)應(yīng)于卷積層輸出中的一個(gè)特征狀態(tài)映射，用于實(shí)現(xiàn)權(quán)重共享。其數(shù)學(xué)定義為：

(1)

式中：gi和gi+1分別表示輸入和輸出，Kj表示卷積層中第j個(gè)核濾波器，bj表示偏置。如圖2所示，本文選擇3個(gè)密集塊組成，其中每一個(gè)密集塊中的卷積因針對(duì)不同的特征而設(shè)置了不一樣尺度，即卷積1、2和3的濾波器數(shù)分別為32、32和64，核尺寸為32、3和3。

為了能夠保證特征信息的多次利用，密集連接網(wǎng)絡(luò)在跨層連接時(shí)采用級(jí)聯(lián)方式，所有層均進(jìn)行兩兩連接，從而使得網(wǎng)絡(luò)中的每一層的輸入包含前面所有層的輸出。使用密集連接網(wǎng)絡(luò)目的是利用卷積塊輸出之間的短路徑連接方式來保存網(wǎng)絡(luò)模型上的中間信息，提高網(wǎng)絡(luò)層之間的信息流動(dòng)。同時(shí)，卷積塊輸出之間的級(jí)聯(lián)連接有助于誤差向早期層的傳播，并增強(qiáng)訓(xùn)練過程中的梯度流。雖然密集連接網(wǎng)絡(luò)的跨層連接夠?qū)⒌蛯颖硎九c高層表示有效地結(jié)合，實(shí)現(xiàn)不同特征的提取，但是，也不可避免的造成了信息的冗余。而且每一個(gè)密集塊中的卷積操作的作用不同，提取的特征也各不相同，因此也需要區(qū)分特征的貢獻(xiàn)度。為了解決這一問題，本文對(duì)密集連接的跨層賦予不同的權(quán)重系數(shù)。由于高層特征信息對(duì)分類的影響明顯高于低層特征，因此，將高層特征賦予較大權(quán)重：

(2)

此外，密集連接網(wǎng)絡(luò)不同層之間直接連接的另一個(gè)優(yōu)點(diǎn)是減少了學(xué)習(xí)參數(shù)的總數(shù)。因此，密集卷積模型對(duì)過擬合具有很強(qiáng)的魯棒性，非常適合于訓(xùn)練樣本數(shù)較少的應(yīng)用。

1.2 注意力機(jī)制模型

由于加權(quán)密集連接網(wǎng)絡(luò)從傳感器輸入信號(hào)xi提取的特征映射gi對(duì)時(shí)間存在依賴性，因此，本文通過引入注意力機(jī)制來近似所產(chǎn)生的特征向量的時(shí)空相關(guān)性。最近幾年，注意力模型[17]被廣泛使用在自然語言處理、圖像識(shí)別等不同類型的深度學(xué)習(xí)任務(wù)中。對(duì)于軸承故障的檢測(cè)，采用注意力機(jī)制有助于網(wǎng)絡(luò)模型以人類智能的方式集中于特征向量圖的不同方面，從而導(dǎo)出最相關(guān)的信息。圖3給出了基于前饋神經(jīng)網(wǎng)絡(luò)的注意力機(jī)制模型。前饋神經(jīng)網(wǎng)絡(luò)參與每個(gè)特征映射，并輸出表示特征映射故障檢測(cè)能力的獎(jiǎng)勵(lì)值vi。而后，將Softmax函數(shù)應(yīng)用于映射由值vi組成的向量，并將其歸一化為概率分布ai。假設(shè)用g表示第i個(gè)時(shí)間步注意機(jī)制的輸入向量(g=gi)，用v表示第i個(gè)時(shí)間步前饋神經(jīng)網(wǎng)絡(luò)的輸出(v=vi)，hj表示前饋神經(jīng)網(wǎng)絡(luò)隱藏層第j個(gè)神經(jīng)元的輸出，用p和q表示前饋神經(jīng)網(wǎng)絡(luò)輸入和隱藏層的神經(jīng)元數(shù)，用Wh和bh表示隱藏層的權(quán)值矩陣和偏差向量，WO和bO表示輸出層的權(quán)重向量和偏差，則等式(3)和(4)分別描述了前饋神經(jīng)網(wǎng)絡(luò)的前饋機(jī)制和Softmax層對(duì)獎(jiǎng)勵(lì)值vi的操作：

圖3 基于前饋神經(jīng)網(wǎng)絡(luò)的注意力機(jī)制

(3)

(4)

注意機(jī)制的輸出ai與相應(yīng)特征向量gi在檢測(cè)任務(wù)中重要性的概率分布相對(duì)應(yīng)，并指示了從注意機(jī)制估計(jì)的相應(yīng)特征映射gi的重要性：

(5)

此外，考慮到每個(gè)特征映射gi的重要性，本文估計(jì)了注意力機(jī)制的特征向量ci：

ci=aigi

(6)

最后，通過注意力向量ci的加權(quán)和值獲得表征向量c：

(7)

式中,T表示時(shí)間步長(zhǎng)總數(shù)，w1+w2+…+wT=1。由于每個(gè)權(quán)重wi對(duì)應(yīng)于特定的時(shí)間步長(zhǎng)ti，因此實(shí)現(xiàn)了時(shí)間積分。權(quán)重wi是網(wǎng)絡(luò)的學(xué)習(xí)參數(shù)，通過訓(xùn)練網(wǎng)絡(luò)模型估算獲得。

2 實(shí)驗(yàn)與結(jié)果分析

為了驗(yàn)證所提算法的有效性，本文采用凱斯西儲(chǔ)大學(xué)(CWRU)實(shí)驗(yàn)性軸承故障檢測(cè)基準(zhǔn)數(shù)據(jù)集[18]和智能維護(hù)系統(tǒng)(IMS)軸承數(shù)據(jù)集[19]進(jìn)行測(cè)試，并將測(cè)試結(jié)果與基于門控遞歸單元的降噪自動(dòng)編碼器(GRU-DAE)[10]、深度卷積神經(jīng)網(wǎng)絡(luò)的變模分解(VMD-DCNN)[20]等方法進(jìn)行了對(duì)比。所有實(shí)驗(yàn)的運(yùn)行時(shí)環(huán)境的Windows 10系統(tǒng)，CPU是Intel Xeon E5-2650 v2 @2.6 GHz，RAM為128 G。

所提模型的模擬代碼是用python3.5編寫，使用Keras人工神經(jīng)網(wǎng)絡(luò)庫并將Theano作為后端。本文選擇分類交叉熵作為損失函數(shù)，隨機(jī)梯度下降作為優(yōu)化器。采用Nesterov動(dòng)量法對(duì)梯度下降問題進(jìn)行求解，將折扣因子和動(dòng)量參數(shù)設(shè)置為0.9和0.01，學(xué)習(xí)速率設(shè)置為0.01。批量大小為200，每個(gè)模型都經(jīng)過100個(gè)周期的訓(xùn)練。為了避免神經(jīng)權(quán)值隨機(jī)初始化的影響，還將每個(gè)實(shí)驗(yàn)運(yùn)行20次。所提模型中加權(quán)密集連接網(wǎng)絡(luò)3個(gè)卷積層的核和濾波器尺寸分別為32、32、64和32、3、3。注意機(jī)制的前饋神經(jīng)網(wǎng)絡(luò)隱藏層在CWRU 和IMS 數(shù)據(jù)集時(shí)分別采用32個(gè)神經(jīng)元和8個(gè)神經(jīng)元。

2.1 數(shù)據(jù)集

凱斯韋斯特儲(chǔ)備大學(xué)(CWRU)軸承數(shù)據(jù)集提供了正常和故障情況下從試驗(yàn)臺(tái)積累的振動(dòng)信號(hào)。其主要部件是2馬力的電動(dòng)機(jī)、測(cè)功機(jī)和扭矩傳感器。振動(dòng)信號(hào)來自安裝在驅(qū)動(dòng)端、風(fēng)扇端和電機(jī)支撐底板外殼上的加速度計(jì)。在本研究中，使用驅(qū)動(dòng)端軸承信號(hào)，以12 kHz的頻率采樣。此外，電動(dòng)機(jī)的模式是在4個(gè)負(fù)載水平下，0～3馬力范圍內(nèi)運(yùn)行，導(dǎo)致電動(dòng)機(jī)轉(zhuǎn)速在每分鐘1 792～1 730轉(zhuǎn)之間變化。在驅(qū)動(dòng)端軸承上，會(huì)發(fā)生5種類型的故障：滾珠，內(nèi)圈和3種外圈故障。具體而言，外圈故障相對(duì)于軸承負(fù)載區(qū)域的安裝會(huì)顯著影響振動(dòng)信號(hào)的形式。在軸承數(shù)據(jù)集中，有外圈故障直接位于負(fù)載區(qū)域(@ 6：00)，或者位于負(fù)載區(qū)域正交(@ 12：00)和相反(@ 3：00)位置。此外，每種故障類型都包含不同直徑的故障(0.007、0.014、0.021和0.028英寸)。在本文中，嘗試通過考慮故障的不同類型和不同直徑大小來訓(xùn)練模型，提高模型的識(shí)別率，進(jìn)而確定故障的類型及其嚴(yán)重程度。因此，最終得到16種類別，如表1所示。此外，每個(gè)輸入樣本的維數(shù)等于100，大約相當(dāng)于采樣周期的四分之一。在創(chuàng)建訓(xùn)練和測(cè)試數(shù)據(jù)集的過程中，原始傳感器數(shù)據(jù)被分為100點(diǎn)的段，兩個(gè)連續(xù)樣本之間的重疊為50點(diǎn)。

表1 CWRU數(shù)據(jù)集中類細(xì)節(jié)描述

IMS數(shù)據(jù)集由辛辛那提大學(xué)智能維護(hù)系統(tǒng)中心提供。在測(cè)試臺(tái)中，有4個(gè)Rexnord ZA2115型雙列軸承位于同一軸上。交流電動(dòng)機(jī)通過摩擦帶固定在軸上，可將轉(zhuǎn)速保持恒定在2 000 rpm。采集數(shù)據(jù)的采樣頻率為20.48 kHz，彈簧機(jī)構(gòu)應(yīng)用于軸和軸承，提供6 000磅的負(fù)載。總共有8個(gè)加速度計(jì)，成對(duì)放置在每個(gè)軸承上。最后，為了獲取數(shù)據(jù)，將熱電偶傳感器放置在每個(gè)加速度計(jì)上。試驗(yàn)臺(tái)的軸承會(huì)出現(xiàn)內(nèi)圈缺陷故障、外圈缺陷故障和滾子缺陷故障。發(fā)生的3種故障類型和正常狀態(tài)是故障識(shí)別問題的4類，具體細(xì)節(jié)如表2所示。

表2 IMS數(shù)據(jù)集中類細(xì)節(jié)描述

為了探索所提出的模型的可行性，對(duì)CWRU和IMS數(shù)據(jù)集均使用3個(gè)不同的訓(xùn)練數(shù)據(jù)集(數(shù)據(jù)量各不相同)進(jìn)行測(cè)試，如表3所示，研究模型的性能并與其他診斷方法進(jìn)行了比較。從表中可以清楚的看到，訓(xùn)練數(shù)據(jù)集A中的樣本數(shù)最多，數(shù)據(jù)集C樣本數(shù)最少。本文使用3個(gè)數(shù)據(jù)集來測(cè)試不同樣本數(shù)量訓(xùn)練的模型對(duì)應(yīng)的精度變化趨勢(shì)。

表3 CWRU和IMS數(shù)據(jù)集中的數(shù)據(jù)子集

2.2 結(jié)果分析

首先，進(jìn)行第一個(gè)實(shí)驗(yàn)，通過應(yīng)用不同的時(shí)間步數(shù)來檢驗(yàn)?zāi)Ｐ蛯W(xué)習(xí)原始信號(hào)數(shù)據(jù)時(shí)間相干性的可行性，即使用了3、4和5個(gè)連續(xù)片段來考慮時(shí)間相關(guān)性。此外，還對(duì)比了使用不同數(shù)量訓(xùn)練樣本訓(xùn)練模型時(shí)的測(cè)試結(jié)果。圖4(a)和圖4(b)分別顯示了CWRU和IMS數(shù)據(jù)集的實(shí)驗(yàn)結(jié)果，從圖中可以明顯看出，模型的診斷精度與訓(xùn)練樣本的數(shù)量和時(shí)間步長(zhǎng)是有很多關(guān)系的，隨著訓(xùn)練集中樣本數(shù)量的增多以及采用更多的時(shí)間步數(shù)，模型的性能會(huì)有所提高。當(dāng)采用數(shù)據(jù)集A和時(shí)間步數(shù)為5訓(xùn)練模型時(shí)，其診斷的檢測(cè)率為99.61%，相比于使用樣本數(shù)量極少的訓(xùn)練數(shù)據(jù)集C和時(shí)間步數(shù)為3的情況，性能改善了2.51%。同時(shí)，還應(yīng)該注意到，即是在數(shù)據(jù)樣本很少時(shí)，時(shí)間步數(shù)為3的情況下，診斷檢測(cè)率也達(dá)到了97.1%。上述結(jié)果說明了模型在樣本診斷中的有效性，雖然診斷的檢測(cè)率受到訓(xùn)練樣本數(shù)量和時(shí)間步長(zhǎng)的影響，但是，在最壞的情況下數(shù)據(jù)正確率依然取得較好的結(jié)果。

圖4 不同樣本數(shù)量和時(shí)間步長(zhǎng)時(shí)的測(cè)試結(jié)果

此外，為了說明所提取的特征c的表征能力，進(jìn)行第二個(gè)實(shí)驗(yàn)。該實(shí)驗(yàn)通過t-分布隨機(jī)鄰居嵌入(t-Distributed stochastic neighbor embedding,t-SNE)對(duì)注意機(jī)制的輸出進(jìn)行可視化。t-SNE機(jī)器學(xué)習(xí)方法采用仿射變換將高維數(shù)據(jù)變?yōu)榈途S數(shù)據(jù)，實(shí)現(xiàn)非線性降維的目的，非常適合于高維數(shù)據(jù)的低維空間的可視化。利用訓(xùn)練數(shù)據(jù)集C和時(shí)間步數(shù)為5對(duì)模型進(jìn)行訓(xùn)練，得到所提取的注意特征。圖5給出了CWRU和IMS數(shù)據(jù)集的t-SNE結(jié)果，用于直觀地分析模型分類結(jié)果的優(yōu)劣。從特征提取可視化圖中清楚的看到，模型中基于注意力機(jī)制提取得到的特征在CWRU和IMS數(shù)據(jù)集中的不同類之間具有可分割性，從而有效地說明所提模型的分類機(jī)制更容易檢測(cè)和識(shí)別異常樣本。

圖5 t-SNE可視化提取的注意力特征

為了驗(yàn)證所提模型在噪聲環(huán)境中的故障診斷性能，進(jìn)行第三個(gè)實(shí)驗(yàn)。具體而言，本文使用原始數(shù)據(jù)訓(xùn)練模型，然后在數(shù)據(jù)信號(hào)中添加不同級(jí)別的白高斯噪聲，通過合成具有不同信噪比(signal to noise ratio,SNR)的噪聲信號(hào)來檢查其性能，并將結(jié)果與其他算法進(jìn)行比較。圖6給出了不同算法在不同噪聲環(huán)境下的診斷結(jié)果。從圖中可以看出，提出的方法在可變背景噪聲水平下具有最佳性能。盡管其他方法在低噪聲水平下表現(xiàn)良好，但是由于所提模型采用加權(quán)密集網(wǎng)絡(luò)和注意力機(jī)制從原始信號(hào)中提取更多的細(xì)節(jié)信息，使得本文方法能夠在噪聲污染比較嚴(yán)重的信號(hào)中保持良好的診斷準(zhǔn)確度，因而保證了模型對(duì)存在附加噪聲的振動(dòng)信號(hào)具有魯棒性。

圖6 不同信噪比時(shí)的識(shí)別準(zhǔn)確率對(duì)比

3 結(jié)束語

本文提出了一種基于加權(quán)密集連接網(wǎng)絡(luò)和注意力機(jī)制的滾動(dòng)軸承故障診斷的方法，用于解決噪聲污染嚴(yán)重時(shí)檢測(cè)精度低和因特征表征困難引起的性能下降的問題。首先，模型中的加權(quán)密集連接網(wǎng)絡(luò)利用連續(xù)層之間的短路徑從振動(dòng)信號(hào)中提取不同空間級(jí)別的特征并組合在一起，以增強(qiáng)信息的多樣性；然后，基于前饋神經(jīng)網(wǎng)絡(luò)的注意力機(jī)制突出每個(gè)注意向量中具有重要信息的區(qū)域，并通過估計(jì)每個(gè)特征映射的權(quán)重來處理特征序列中的時(shí)間相關(guān)性；最后，將獲得的特征信息輸入到故障分類模型，輸出每種故障類型的診斷結(jié)果。實(shí)驗(yàn)結(jié)果表明，所提模型優(yōu)于其他對(duì)比方法，在加性噪聲干擾的情況下具有較高的故障診斷準(zhǔn)確率。