裴 沛，李彩偉

（1.北京中油瑞飛信息技術(shù)有限責任公司，北京 100007；2.國家工業(yè)信息安全發(fā)展研究中心，北京 100040）

0 引言

大型機械設(shè)備具有體積大型化、結(jié)構(gòu)復(fù)雜化、零件多樣化等特點，一旦發(fā)生故障將會給個人、企業(yè)和國家?guī)砭薮蟮慕?jīng)濟損失。滾動軸承作為大型旋轉(zhuǎn)機械設(shè)備中的關(guān)鍵零件，具有負載重、轉(zhuǎn)速快等特點，使其成為最易發(fā)生故障的工業(yè)零件之一。據(jù)統(tǒng)計，在旋轉(zhuǎn)機械的所有故障中，因軸承失效造成的故障約占30%[1，2]。因此，實現(xiàn)滾動軸承的故障診斷與狀態(tài)監(jiān)測，對保證設(shè)備安全運行、減少運營維護成本十分重要。

早期的狀態(tài)監(jiān)測主要依據(jù)滾動軸承的振動機理，利用信號分析和數(shù)理統(tǒng)計知識提取振動信號特征，如頻譜分析、包絡(luò)分析、時頻分析、經(jīng)驗?zāi)Ｊ椒纸鈁3，4]等，然后根據(jù)專家的經(jīng)驗知識對信號特征進行分析，實現(xiàn)滾動軸承的狀態(tài)監(jiān)測。此類方法過于依賴專家診斷經(jīng)驗且診斷效率和準確率較低。隨后，國內(nèi)外研究者提出采用支持向量機（SVM）[5]、決策樹[6]、淺層BP 神經(jīng)網(wǎng)絡(luò)[7]等機器學習方法對人工提取的特征進行學習，實現(xiàn)軸承的狀態(tài)監(jiān)測，并在小樣本數(shù)據(jù)上獲得較好的診斷結(jié)果。然而，隨著機械設(shè)備的廣泛應(yīng)用，監(jiān)測系統(tǒng)采集的數(shù)據(jù)量越來越大，上述方法已不再適用。深度學習作為一種特殊的機器學習，由于其非線性，多層性，自適應(yīng)性等特點，被廣泛應(yīng)用于圖像識別、自然語言處理和狀態(tài)監(jiān)測等領(lǐng)域，并取得不錯的結(jié)果。因此，越來越多的學者將深度學習應(yīng)用于滾動軸承的故障診斷。研究表明：深度神經(jīng)網(wǎng)絡(luò)具有強大的特征提取能力，在處理大數(shù)據(jù)上具有顯著優(yōu)勢。文獻[8]利用小波包變換對振動信號進行特征提取，通過長短時記憶網(wǎng)絡(luò)診斷風電機組滾動軸承的常見故障。文獻[9]提出一種基于希爾伯特黃變換和稀疏自編碼器的軸承故障狀態(tài)識別方法，進一步提高了驅(qū)動端和風扇端的軸承故障診斷準確率。文獻[10]提出一種基于雙樹復(fù)小波包的自適應(yīng)深度置信網(wǎng)絡(luò)的方法，結(jié)果表明該方法可以有效識別滾動軸承故障。文獻[11]采用卷積神經(jīng)網(wǎng)絡(luò)（CNN），解決了基于傳統(tǒng)方法很難診斷的旋轉(zhuǎn)機械中外圈滾道故障問題和潤滑性能退化問題。

綜上可知，傳統(tǒng)的狀態(tài)檢測方法將信號預(yù)處理、特征提取和狀態(tài)識別分為3 個獨立階段，破壞了各階段的耦合關(guān)系，也降低了診斷效率。尤其是特征提取過程過于依賴人工提取特征，無法滿足實際應(yīng)用中端對端的需求。因此，將數(shù)據(jù)預(yù)處理、特征提取和故障診斷組合到一個模型，進而實現(xiàn)端對端的自動狀態(tài)監(jiān)測模式是目前亟待解決的問題。

為解決上述問題，提出一種LSTM-BP 組合神經(jīng)網(wǎng)絡(luò)模型，該模型能自動提取振動信號的特征并完成狀態(tài)分類，實現(xiàn)端到端的滾動軸承故障的自動診斷，在不同損傷程度的數(shù)據(jù)集上進行驗證。實驗結(jié)果表明，該模型的泛化性能高，魯棒性好，有望在工程實際中得到應(yīng)用，對機械設(shè)備診斷技術(shù)的發(fā)展具有十分重要的理論意義和實際應(yīng)用價值。

1 人工神經(jīng)網(wǎng)絡(luò)

人工神經(jīng)網(wǎng)絡(luò)最早來源于人類神經(jīng)網(wǎng)絡(luò)的研究,是一種以網(wǎng)絡(luò)拓撲結(jié)構(gòu)為基礎(chǔ)，模擬人腦神經(jīng)網(wǎng)絡(luò)對復(fù)雜信息處理機制的一種數(shù)學模型，也是一種基于數(shù)據(jù)驅(qū)動的方法[12]。人工神經(jīng)網(wǎng)絡(luò)具有非線性映射功能，可以將原始空間的特征表示變換到一個新的特征空間，實現(xiàn)信號的空間變換與降維。本文主要研究BP 神經(jīng)網(wǎng)絡(luò)和LSTM 神經(jīng)網(wǎng)絡(luò)。LSTM 作為經(jīng)典的深度神經(jīng)網(wǎng)絡(luò)之一，其本身具有特征提取和特征空間映射的功能[13，14]。

1.1 BP 神經(jīng)網(wǎng)絡(luò)

BP 神經(jīng)網(wǎng)絡(luò)是一種按照誤差反向傳播算法進行訓練的多層前饋神經(jīng)網(wǎng)絡(luò)，由輸入層、隱藏層和輸出層組成，該網(wǎng)絡(luò)各層間的神經(jīng)元互不相連，相鄰層的神經(jīng)元則相互連接，網(wǎng)絡(luò)結(jié)構(gòu)如圖1 所示。BP 神經(jīng)網(wǎng)絡(luò)的訓練過程就是輸入信息從輸入層經(jīng)隱藏層到輸出層的過程，包括前向傳播過程和后向傳播過程。前向傳播過程如下：

式中，xp={x1，x2，x3，...xn}，n 為樣本的維度，H1是隱藏層節(jié)點的輸出，Z={Z1，Z2，...Zm} 是輸出層節(jié)點的輸出，w1，b1分別為輸入層與隱藏層之間的權(quán)重矩陣和偏置向量，w2，b2分別為隱藏層與輸出層之間的權(quán)重矩陣和偏置向量，隱藏層的傳遞函數(shù)是f1(*)，輸出層的傳遞函數(shù)是f2(*)，一般是sigmoid 或tanh 函數(shù)。BP 的前向傳播過程完成了n 維空間向k 維空間的映射。BP 神經(jīng)網(wǎng)絡(luò)反向傳播過程如下：

假設(shè)有m 樣本集{（x1，y1），（x2，y2），...（xm，ym）}，其中xp=。通常將平方誤差函數(shù)作為目標函數(shù)，公式如下：

其中，J（W，b；xi，yi）是單個樣本的誤差，J（W，b）是m 個樣本的全局誤差。BP 神經(jīng)網(wǎng)絡(luò)的反響傳播過程就是利用隨機梯度下降法調(diào)整參數(shù)W，b，最小化全局誤差。實際上，網(wǎng)絡(luò)的訓練過程就是診斷知識獲取的過程，網(wǎng)絡(luò)訓練結(jié)束后神經(jīng)元之間的連接權(quán)值就是輸入數(shù)據(jù)的特有知識。

1.2 LSTM 神經(jīng)網(wǎng)絡(luò)

滾動軸承的狀態(tài)監(jiān)測不僅要分析當前時刻振動信號的信息，還要結(jié)合前后時刻的振動信號信息。傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)只關(guān)注當前時刻輸入的信息，忽略了樣本之間的信息傳遞，不具備處理時序序列的功能。循環(huán)神經(jīng)網(wǎng)絡(luò)（Recurrent Neural Networks，RNN）可以將當前單元學習的信息輸入下一個神經(jīng)元，具有記憶功能，適合處理時間序列數(shù)據(jù)。RNN 展開相當于多層神經(jīng)網(wǎng)絡(luò)，隨著層數(shù)的增加會產(chǎn)生梯度消失、梯度爆炸和歷史信息損失等問題，LSTM 網(wǎng)絡(luò)通過對RNN 加入記憶單元結(jié)構(gòu)，有效解決了上述問題。其記憶單元結(jié)構(gòu)如圖2 所示。其中xt表示t 時刻的輸入，ht-1，ht分別表示t-1 時刻和t 的輸出；Ct-1，Ct分別表示t-1 和t 時刻記憶單元的狀態(tài)值，表示t 時刻記憶單元的候選值；it，ft，和ot分別表示輸入門、遺忘門和輸出門；Wf，Wt，Wc，Wo表示遺忘門，輸入門，輸出門和輸入狀態(tài)單元的權(quán)重矩陣；σ 為sigmoid 激活函數(shù)，tanh 為tanh 激活函數(shù)。

LSTM 網(wǎng)絡(luò)與BP 網(wǎng)絡(luò)相同包括前向傳播和誤差反向傳播兩部分，對于單個記憶單元結(jié)構(gòu)，前向傳播過程如下：

圖1 BP 神經(jīng)網(wǎng)絡(luò)

圖2 LSTM 記憶單元結(jié)構(gòu)

（1）通過讀取ht-1，xt信息。計算遺忘門、輸入門和輸出門，公式如下：

遺忘門用于控制前一時刻記憶單元狀態(tài)值對當前記憶單元狀態(tài)值的影響；輸入門用來保存當前時刻輸入的有用信息，控制對當前記憶單元狀態(tài)值的影響；輸出門根據(jù)當前記憶狀態(tài)單元值決定當前時刻輸出。

（2）計算當前記憶單元候選值，并根據(jù)輸入門和遺忘門計算當前時刻記憶單元值。

（3）根據(jù)輸出門和當前記憶單元值計算當前時刻的輸出。

式（4）～（9）中,bf，bt，bo，bc分別表示遺忘門，輸入門，輸出門和t 時刻輸入狀態(tài)單元的偏置項，?表示按元素相乘。

LSTM 反向傳播與BP 神經(jīng)網(wǎng)絡(luò)類似，都是利用隨機梯度下降算法反向傳播誤差更新網(wǎng)絡(luò)參數(shù)，進而優(yōu)化網(wǎng)絡(luò)模型。與BP神經(jīng)網(wǎng)絡(luò)不同的是，LSTM 反向傳播算法包括時間和網(wǎng)絡(luò)層級兩部分。

2 LSTM-BP 組合神經(jīng)網(wǎng)絡(luò)

2.1 LSTM-BP 組合神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

利用LSTM 和BP 網(wǎng)絡(luò)特性，采用級聯(lián)的形式構(gòu)建LSTMBP 網(wǎng)絡(luò)模型。其中BP 神經(jīng)網(wǎng)絡(luò)包括3 層，2 個隱藏層1 個輸出層，輸出層的神經(jīng)元個數(shù)等于軸承狀態(tài)類別數(shù)。該模型可以自動提取軸承信號特征并完成軸承狀態(tài)識別，簡化數(shù)據(jù)處理過程的同時保留原始數(shù)據(jù)豐富的細節(jié)，其模型結(jié)構(gòu)如圖3 所示。圖中，xi為輸入數(shù)據(jù)，其維度為n×1，T 為樣本的時間長度，H1是{H11，H12，...H1s}LSTM 隱藏層的輸出。

基于LSTM-BP 組合網(wǎng)絡(luò)的滾動軸承狀態(tài)監(jiān)測原理：①將振動信號輸入LSTM 神經(jīng)網(wǎng)絡(luò)，利用LSTM 的記憶結(jié)構(gòu)，提取信號時間維度特征；②將LSTM 神經(jīng)網(wǎng)絡(luò)隱藏層的輸出作為BP 神經(jīng)網(wǎng)絡(luò)的輸入，實現(xiàn)信息傳遞；③通過BP 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)完成信號的進一步學習，并實現(xiàn)軸承狀態(tài)的分類識別。

LSTM-BP 組合神經(jīng)網(wǎng)絡(luò)，每一層隱藏層都是數(shù)據(jù)的不同階表達，層數(shù)越高提取的特征越抽象，其訓練過程就是模型不斷優(yōu)化的過程。

基于LSTM-BP 組合網(wǎng)絡(luò)的滾動軸承狀態(tài)監(jiān)測過程分為以下3 步：

（1）樣本采集與預(yù)處理。將采集到的信號歸一化使其幅值范圍為[0,1]。按照6：1 的比例將數(shù)據(jù)分為訓練數(shù)據(jù)和測試數(shù)據(jù)。

（2）模型訓練。初始化LSTM-BP 神經(jīng)網(wǎng)絡(luò)（包括各層網(wǎng)絡(luò)的神經(jīng)元數(shù)，BP 網(wǎng)絡(luò)的隱藏層數(shù)，迭代次數(shù)，最小誤差等參數(shù)），將帶標簽的訓練數(shù)據(jù)輸入LSTM 網(wǎng)絡(luò)，得到隱藏層輸出H1，然后輸入BP 神經(jīng)網(wǎng)絡(luò)和Softmax 層，得到實際輸出值。將實際輸出值與理論值的交叉熵損失函數(shù)作為誤差計算公式，利用隨機梯度下降法調(diào)整LSTM 和BP 神經(jīng)網(wǎng)絡(luò)的權(quán)重和偏置，最小化誤差，進而優(yōu)化網(wǎng)絡(luò)模型。

圖3 LSTM-BP 組合網(wǎng)絡(luò)

（3）模型驗證。將測試數(shù)據(jù)直接輸入上述訓練好的網(wǎng)絡(luò)模型中，網(wǎng)絡(luò)輸出對應(yīng)軸承狀態(tài)的概率，取最高概率作為狀態(tài)識別結(jié)果。

2.2 Softmax 回歸層

Softmax 回歸層本質(zhì)是一個全連接層，其功能是將BP 神經(jīng)網(wǎng)絡(luò)的多個神經(jīng)元輸出映射到（0，1）區(qū)間，計算每種分類的概率情況。其交叉熵損失函數(shù)如下：

式中，θ 為模型參數(shù)，N 為樣本數(shù)，zi是預(yù)測值，yi為實際值，k 為類別數(shù)。

2.3 Batch Normalization 方法

BP 神經(jīng)網(wǎng)絡(luò)存在收斂速度慢和陷入局部最優(yōu)的風險。為了加快訓練速度、提高診斷精度、降低網(wǎng)絡(luò)陷入局部最優(yōu)的風險，本文采用Batch Normalization 方法對每個隱藏層的激活值做處理，公式如下：

式中，μ，σ 分別是每批次數(shù)據(jù)的滑動平均值和方差，γ 和β分別是縮放和偏移系數(shù)。此外，Batch Normalization 加入了網(wǎng)絡(luò)噪聲，在一定程度上起到正則化的作用，有效防止網(wǎng)絡(luò)產(chǎn)生過擬合的現(xiàn)象。

3 實驗驗證

3.1 模型性能分析

實驗數(shù)據(jù)來自美國凱斯西儲大學驅(qū)動端軸承的振動信號。振動信號的詳細信息見表1。軸承數(shù)據(jù)做預(yù)處理后分為訓練樣本和測試樣本，其中訓練樣本6000 組，測試數(shù)據(jù)為1000 組，每組包含512 個采樣數(shù)據(jù)。

表1 西儲大學軸承振動信號

在LSTM-BP 組合神經(jīng)網(wǎng)絡(luò)中，將預(yù)處理后的數(shù)據(jù)以（batch_size，64，8）形式輸入LSTM 網(wǎng)絡(luò)，獲取LSTM 的隱藏層輸出，將其作為BP 神經(jīng)網(wǎng)絡(luò)的輸入。BP 神經(jīng)網(wǎng)絡(luò)包括2 個隱藏層和1 個輸出層。隱藏層神經(jīng)元數(shù)量對模型性能有重要影響，神經(jīng)元個數(shù)太少，學習能力差，導致狀態(tài)識別準確率低；神經(jīng)元個數(shù)太多，訓練時間長，容易導致模型過擬合。經(jīng)過前期實驗，設(shè)置BP 隱藏層神經(jīng)個數(shù)分別為16 和8。其中，batch_size 為200，迭代次數(shù)為100，記錄每次迭代后訓練樣本和測試樣本的損失值和準確率，并繪制訓練數(shù)據(jù)和測試數(shù)據(jù)的損失值變化曲線和準確率變化曲線，見圖4、圖5。準確率指每組數(shù)據(jù)中分類正確的樣本數(shù)與整組樣本數(shù)的比值。

由圖4、圖5 可知，模型經(jīng)過100 次迭代后，測試數(shù)據(jù)和訓練數(shù)據(jù)的損失值趨于穩(wěn)定。訓練數(shù)據(jù)準確率幾乎達到100%，測試數(shù)據(jù)的準確率約為99.20%，訓練數(shù)據(jù)和測試數(shù)據(jù)的損失值和準確率的曲線變化趨勢同步，未產(chǎn)生過擬合現(xiàn)象。實驗結(jié)果表明，本文提出的方法可以從原始數(shù)據(jù)有效提取軸承信號的特征并實現(xiàn)軸承正常狀態(tài)、內(nèi)圈故障、外圈故障和滾珠故障的準確分類。

圖4 損失值變化曲線

圖5 準確率變化曲線

3.2 軸承狀態(tài)識別方法對比

為了驗證基于LSTM-BP 網(wǎng)絡(luò)的故障診斷方法在故障診斷精度方面的優(yōu)越性，在相同數(shù)據(jù)集、同等條件下，訓練SVM、淺層BP 網(wǎng)絡(luò)和LSTM 網(wǎng)絡(luò)，實驗結(jié)果如表2 所示。結(jié)果表明，SVM、淺層BP 網(wǎng)絡(luò)以及LSTM 網(wǎng)絡(luò)雖然訓練速度快，但診斷精度低。

表2 不同方法的診斷結(jié)果

3.3 模型泛化性能驗證

模型的泛化能力是驗證模型優(yōu)劣的重要指標，而單個數(shù)據(jù)集很難檢驗?zāi)Ｐ偷姆夯芰?。因此，引入西儲大學驅(qū)動端軸承不同損傷程度的數(shù)據(jù)以及其隨機混合數(shù)據(jù)對其進一步驗證。振動信號的詳細信息見表3。不同損傷程度的數(shù)據(jù)及其混合數(shù)據(jù)狀態(tài)識別準確率趨勢如圖6～8 所示。

表3 西儲大學軸承振動信號

圖6 數(shù)據(jù)集A 的狀態(tài)識別準確率

圖7 數(shù)據(jù)集B 的狀態(tài)識別準確率

圖8 混合數(shù)據(jù)集的狀態(tài)識別準確率

由圖6～8 可知，模型經(jīng)過100 次迭代后收斂至穩(wěn)定，3 種不同數(shù)據(jù)集的測試集和訓練集的準確率曲線走勢相同，未產(chǎn)生過擬合現(xiàn)象。實驗結(jié)果表明本文提出的方法可以實現(xiàn)對不同來源軸承信號的4 種狀況自動診斷，且診斷準確率達到99.50%。驗證了基于LSTM-BP 網(wǎng)絡(luò)的滾動軸承自動診斷方法，在損傷程度、采樣頻率不同的軸承信號上，仍可以實現(xiàn)滾動軸承故障的自動識別，且診斷精度高、泛化性能高、具備同時診斷復(fù)雜混合數(shù)據(jù)的故障類型的能力。

4 結(jié)語

提出一種基于LSTM-BP 組合網(wǎng)絡(luò)的狀態(tài)識別方法，結(jié)合LSTM 網(wǎng)絡(luò)特征提取和特征空間映射的功能，實現(xiàn)滾動軸承狀態(tài)的自動識別，滿足實際應(yīng)用中端對端需求。實驗結(jié)果表明：①該方法的狀態(tài)識別準確率高達99.20%，遠高于SVM、淺層BP網(wǎng)絡(luò)和LSTM 神經(jīng)網(wǎng)絡(luò)；②該方法可以同時對不同損傷程度、不同位置和不同來源的軸承信號進行準確識別；③該方法具有更高的泛化能力。