吳冬梅，王福齊，李賢功，唐潤，張新建

（1. 永城職業(yè)學院 電子信息工程系，河南 永城 476600；2. 中國礦業(yè)大學 礦業(yè)工程學院，江蘇 徐州 221116；3. 南京財經(jīng)大學 管理科學與工程學院，江蘇 南京 210023；4. 河南能源化工集團永煤公司 陳四樓煤礦，河南 永城 476600）

0 引言

目前大多采用信號處理與機器學習相結合的方法對軸承故障進行智能診斷，首先利用信號處理技術對輸入信號進行特征提取，然后對提取的特征進行篩選，最后利用分類器進行故障分類[3-4]。文獻[5]使用小波包變換提取煤礦主要通風機軸承能量特征，采用深度隨機森林進行故障分類。文獻[6]分別對原始信號進行經(jīng)驗模態(tài)分解和時域分析，得到奇異值和時域特征參數(shù)，然后利用主成分分析（Principal Component Analysis，PCA）對奇異值和時域特征參數(shù)進行降維處理，獲得去除冗余的特征，最后將特征輸入到多分類支持向量機（Support Vector Machine，SVM）中進行分類。上述方法在一定條件下能夠取得較好的分類效果，但是其特征提取主要依賴專家知識。

深度學習依據(jù)標簽確定的損失函數(shù)能夠在訓練過程中自適應學習與任務相關的深度特征，不需要依賴領域的先驗知識[7]。文獻[8]提出了一種基于短時傅里葉變換（Short-time Fourier Transform，STFT）和卷積神經(jīng)網(wǎng)絡（Convolutional Neural Networks，CNN）的軸承故障診斷方法，利用STFT將故障振動信號轉換為時頻圖，將時頻圖輸入CNN得到故障分類結果，實現(xiàn)了軸承故障的智能診斷。文獻[9]建立了一維CNN聯(lián)合分類器模型，在沒有任何預先確定轉換的情況下直接將原始一維振動信號作為網(wǎng)絡輸入得到分類結果，并在凱斯西儲大學軸承數(shù)據(jù)集上進行了驗證。文獻[10]構建了CNN結合殘差模塊的深度殘差網(wǎng)絡，并利用采煤機搖臂實驗臺獲得5種狀態(tài)下的振動信號對模型進行驗證，發(fā)現(xiàn)模型擁有較好的特征提取能力和故障診斷精度。文獻[11]利用格拉姆角場對原始一維振動信號進行轉換，得到了保存時間信息的二維圖像，并利用密集連接卷積網(wǎng)絡進行特征提取和故障診斷。

上述方法均只使用了CNN網(wǎng)絡結構，但CNN提取的只是感受野中的空間特征（如振幅的變化），而軸承振動信號作為一種時間序列數(shù)據(jù)，其時間維度特征在分類中起著關鍵作用。單獨使用CNN進行故障診斷會造成時間維度信息的丟失，導致診斷精度下降。門控循環(huán)單元（Gated Recurrent Unit，GRU）具有建模時間維度依賴關系的能力，在許多涉及時間序列數(shù)據(jù)的任務建模中取得了很好的效果，且在軸承數(shù)據(jù)集上得到應用[12-13]，雙向門控循環(huán)單元（Bidirectional Gated Recurrent Unit，Bi GRU）作為GRU的變體可以更好地捕捉過去和未來的信息，能夠更加全面地從軸承數(shù)據(jù)中提取時間特征[14]。

為了從軸承振動信號中提取空間和時間特征，本文提出了一種結合一維CNN、Bi GRU和注意力機制[15]的深度故障診斷模型。首先將一維振動信號作為輸入，利用一維CNN和Bi GRU從原始信號中提取故障相關特征。然后由注意力模塊動態(tài)給予不同時刻特征權重。最后利用Softmax分類器得到診斷結果，實現(xiàn)軸承故障診斷。

1 深度學習理論

1.1 CNN

CNN一般由卷積層、池化層和全連接層組成。卷積層利用卷積核對輸入進行卷積運算，從而實現(xiàn)故障特征的提取。池化層緊隨卷積層之后，對卷積層提取的特征進行進一步降維。全連接層起到分類作用。卷積過程表示如下：

式中：為 第l層輸出的第j個通道；g （）為激活函數(shù)；m為通道總數(shù)；為第l-1層輸出的第d個通道；為第l層輸出的第j個通道對應的卷積核；為第l層輸出的第j個通道對應的偏置。

1.2 GRU

GRU作為循環(huán)神經(jīng)網(wǎng)絡（Recurrent Neural Net，RNN）的一種特殊變體，具有較強時間記憶能力，能夠獲取隱藏的依賴關系。與長短期記憶網(wǎng)絡[16]相比，GRU結構更加簡單，模型訓練時間更短。GRU單元主要由重置門和更新門共同控制細胞的狀態(tài)，如圖1所示，其中，σ為sigmoid激活函數(shù)，Tanh為tanh函數(shù)。GRU的各個單元共享權重，能減少參數(shù)數(shù)量。從GRU單元首先將t-1 時刻的隱藏狀態(tài)ht-1和t時刻特征xt結合并分別輸入到重置門和更新門，從而得到重置門的輸出rt和 更新門的輸出zt。其中更新門和重置門都擁有sigmoid激活函數(shù)，這使得zt和rt的 值限制在0到1之間。接著將rt，xt和ht-1結合輸入到以tanh為激活函數(shù)的全連接層中，得到t時刻的候選隱藏狀態(tài)， 最后重置門的輸出zt分別與ht-1和相乘進行狀態(tài)信息更新和丟棄，從而得到t時刻的隱藏狀態(tài)ht。

多年來，兩大流派的研究呈現(xiàn)此消彼長的態(tài)勢。從2001年理論創(chuàng)始到2012年之間，工作重塑理論處于建構和摸索階段。創(chuàng)始人的理論文章及其追隨者的研究都基于“工作意義”視角，以敘事訪談和案例研究為主。自2012年出現(xiàn)了Tims等和Petrou開發(fā)的工作重塑量表后，定量研究得以推廣，實證研究逐漸轉向“人崗匹配”視角，關注對組織管理者的作用和意義。雖然這種趨勢讓該理論逐漸成為組織行為學研究領域的新熱點，但針對員工工作重塑動機、認知重塑行為、工作重塑與工作意義的相關研究卻很有限，理論自創(chuàng)立以來的創(chuàng)造性進展和系統(tǒng)性完善始終緩慢。

圖1 GRU單元Fig. 1 GRU unit

Bi GRU由前向GRU和后向GRU構成，能夠同時考慮過去和未來的時間狀態(tài)，通過獲得2個時間序列相反的隱藏狀態(tài)，將隱藏狀態(tài)連接得到同1個輸出。因此，Bi GRU在處理時間序列數(shù)據(jù)時能夠更好地掌握完整信息，Bi GRU結構如圖2所示。

圖2 Bi GRU結構Fig. 2 Bi GRU structure

1.3 注意力機制

注意力機制類似于人類視覺注意力工作機制，它會有意識地從各種復雜多樣的故障信息中獲得與分類任務相關的重要信息。注意力結構構造如下：

式中：st為t時刻特征經(jīng)過全連接層的輸出；W和b分別為全連接層的權重和偏置；αt為t時刻隱藏狀態(tài)的權重；n為時間步長；o為加權融合后的特征。

注意力機制結構如圖3所示?？煽闯雒總€時刻的隱藏狀態(tài)經(jīng)過全連接層和Softmax激活函數(shù)后輸出對應時刻權重，它代表對每個時刻隱藏狀態(tài)的關注度，通過給予每個時刻特征不同的關注度能夠進一步增強故障特征。

圖3 注意力機制結構Fig. 3 Attention mechanism structure

2 故障診斷模型

結合CNN、Bi GRU和注意力機制的深度故障診斷模型結構如圖4所示。將一維原始信號輸入至2個交替連接的卷積層和池化層，其中第1個卷積層使用較大卷積核，以獲得較大感受野，第2個卷積層使用較小卷積核，盡可能全面捕捉局部特征，選用2個最大池化層對特征進行降維。將提取的特征作為Bi GRU的輸入，利用多個GRU單元來引入時間維度信息，從而捕獲特征中時間依賴性。利用注意力機制對Bi GRU輸出的多個時刻特征進行加權融合，利用全連接層和Softmax函數(shù)完成最后的分類。

圖4 故障診斷模型結構Fig. 4 Fault diagnosis model structure

故障診斷模型的具體參數(shù)見表1，其中卷積層的填充都基于same的方式實現(xiàn)。

表1 故障診斷模型結構參數(shù)Table 1 Parameters of the fault diagnosis model structure

結合CNN、Bi GRU和注意力機制的深度故障診斷模型診斷流程如圖5所示。首先，對多種狀態(tài)下的數(shù)據(jù)信號進行歸一化處理，并將歸一化后的數(shù)據(jù)切割成固定長度的段，得到預處理后的數(shù)據(jù)樣本，將整個樣本劃分成為訓練集和測試集。其次，將訓練集數(shù)據(jù)經(jīng)過CNN特征提取、Bi GRU融合特征和注意力特征加權得到最終的特征，通過Softmax故障分類得到分類結果。然后，經(jīng)由梯度反向傳播訓練模型，得到最終訓練后的模型。最后，將測試集輸入訓練完成的模型中，得到故障診斷結果，并由診斷結果得到評價指標，如準確率。

圖5 故障診斷流程Fig. 5 Fault diagnosis process

3 實例分析

3.1 實驗數(shù)據(jù)采集

本文使用凱斯西儲大學提供的軸承公開數(shù)據(jù)集進行實驗驗證。軸承為驅動端軸承，采樣頻率為12 kHz，在0，0.75，1.5，2.25 kW 4種不同電動機負載下采集實驗軸承數(shù)據(jù)，對應轉速分別為1 797，1 772，1 750，1 730 r/min。選取0 負載、轉速為1 797 r/min的軸承數(shù)據(jù)訓練模型，其余工況數(shù)據(jù)被用來驗證模型在變工況診斷的泛化能力。該軸承數(shù)據(jù)包括正常狀態(tài)、內(nèi)圈故障、滾動體故障和外圈故障4種狀態(tài)的軸承振動信號，其中每種故障下又包含3種不同損傷程度，共計10種運行狀態(tài)。將各運行狀態(tài)下采集到的軸承數(shù)據(jù)進行歸一化處理，并采用重疊采樣方式對歸一化后的數(shù)據(jù)進行分段處理，每段樣本振動信號包含2 048個數(shù)據(jù)點，軸承每種運行狀態(tài)包含500個樣本，數(shù)據(jù)集總計5 000個樣本，使用獨熱碼編碼技術對樣本數(shù)據(jù)進行標簽化處理，同一標簽下隨機選擇樣本并劃分訓練集和測試集，構成最終數(shù)據(jù)集，具體描述見表2。

表2 實驗樣本劃分Table 2 Experimental sample division

3.2 實驗結果及分析

實驗環(huán)境為i7-7500U CPU（雙核 3.50 GHZ）、英偉達GEFORCE 940MX、python3.8、Pytorch1.2。采用Adam優(yōu)化器對模型進行訓練，設學習率為0.001，批尺寸為64，迭代次數(shù)為100。測試集每次迭代的準確率和損失曲線如圖6所示?？煽闯鲈诘?0次后達到最優(yōu)結果，擁有較小損失和較高的診斷精度。

圖6 準確率和損失曲線Fig. 6 Accuracy and loss curves

測試集得到的混淆矩陣如圖7所示?？煽闯龈鞣N運行狀態(tài)基本都分類正確，只有L0，L2，L4，L5沒有被完全分類正確，但是召回率（在實際為正的樣本中被預測為正樣本的概率）也都達到了95%以上，只有幾個樣本被分錯?？偟墓收献R別準確率為99.3%，這表明模型能夠很好地識別出每種狀態(tài)下的軸承。

圖7 混淆矩陣Fig. 7 Confusion matrix

為驗證模型的特征提取能力，將測試集輸入到訓練好的模型中，使用t-SNE技術[17]對注意力層的輸出進行降維處理，并將其分別映射為三維空間和二維空間進行可視化，如圖8所示?？煽闯?0種運行狀態(tài)的數(shù)據(jù)分別在二維和三維空間的各自區(qū)域內(nèi)聚集，只有L0，L2，L4，L5等有非常少的混雜。這說明本文模型可有效地對軸承不同運行狀態(tài)的特征進行提取，具有較強的特征提取能力。

圖8 t-SNE降維可視化圖Fig. 8 t-SNE dimension reduction visualization

為進一步驗證模型的診斷優(yōu)勢，選取0負載下的數(shù)據(jù)集，將本文模型與SVM（利用經(jīng)過PCA處理后的時域特征和基于包絡譜和倒頻譜的頻域特征訓練的）、一維CNN、Bi GRU和具有注意力機制的CNN進行比較。為降低其他因素干擾，隨機進行5次訓練集和測試集的劃分，在每次劃分情況下進行多個模型的對比實驗。將5次實驗的故障診斷結果作為分析指標。5種模型的測試集準確率見表3。

表3 5種故障診斷模型的準確率對比Table 3 Accuracy comparison of five kinds of fault diagnosis models

從表3可看出，利用人工提取特征進行訓練的SVM模型平均準確率最低，只有90.3%，這是因為人為地挖掘特征難以保證得到具有豐富故障信息的特征。一維CNN和Bi GRU模型的平均準確率相差不大。注意力機制CNN模型的平均準確率能夠達到99.0%，這是因為具有注意機制的CNN能夠動態(tài)給予特征不同的權重，更加有效地關注與故障模式相關的重點特征，忽略無關特征，因此擁有較高的準確率。本文模型準確率較一維CNN、Bi GRU和注意力CNN模型平均準確率分別提高了0.8%，0.6%和0.3%，能夠更加準確地實現(xiàn)軸承的故障診斷。這是因為本文模型既具有一維CNN局部特征提取能力，又具有Bi GRU時間依賴信息的建模能力，能夠在獲取軸承信號局部復雜特征后進一步融入特征之間時間維度信息，這些信息是分類特征的關鍵。同時其具備的注意力機制能進一步關注與故障更相關的特征，因此具有最高的精度。

實際情況下的軸承經(jīng)常運行在變負載環(huán)境中，為了驗證模型的泛化能力，選取0負載下軸承數(shù)據(jù)訓練的模型，利用0.75，1.5，2.25 kW的軸承數(shù)據(jù)來驗證測試。與0負載下的測試樣本一致，其余負載各選取1 000個樣本作為測試集，診斷結果如圖9所示。

從圖9可看出，以上模型隨著負載的增加，診斷準確率不斷下降。SVM模型準確率最低，當負載為2.25 kW時，準確率僅為65%。因此該模型并不適應于變工況下的故障診斷。本文模型具有更好的穩(wěn)定性，當負載為2.25 kW時，準確率達85%以上。

圖9 變負載準確率Fig. 9 Accuracy under variable load

4 結論

（1） 利用一維卷積神經(jīng)網(wǎng)絡和Bi GRU聯(lián)合提取特征，在獲得CNN提取的局部故障特征后，利用Bi GRU和注意力機制在特征中融入時間依賴性信息并動態(tài)給予特征不同權重。模型訓練過程穩(wěn)定，在迭代40次后達到最優(yōu)結果，擁有較小損失和較高的診斷精度。

（2） 在測試集混淆矩陣上，總的故障識別準確率為99.3%，表明模型能夠很好地識別出每種運行狀態(tài)下的軸承狀態(tài)。

（3） 利用t-SNE技術對降維處理后的數(shù)據(jù)進行可視化，軸承各運行狀態(tài)的數(shù)據(jù)能很好地聚集在各自的空間內(nèi)，只有少量數(shù)據(jù)被混雜到其他區(qū)域，說明基于一維CNN、Bi GRU和注意力機制的軸承故障診斷模型可有效地對軸承不同狀態(tài)的特征進行提取，具有較強的特征提取能力。

（4） 在恒定負載情況下，基于一維CNN、Bi GRU和注意力機制的軸承故障診斷模型的故障分類平均準確率達99%以上，在變負載情況下，故障分類準確率達85%以上，較傳統(tǒng)的深度學習模型擁有良好的診斷精度。

（5） 由于實際的礦用軸承數(shù)據(jù)大多缺少標簽，難以利用，因此文中選擇實驗模擬軸承數(shù)據(jù)進行模型驗證。未來將在此基礎上結合半監(jiān)督方式開發(fā)一種適用于擁有大量無標簽軸承數(shù)據(jù)的故障診斷方法，以更好貼近實際。