宋 濤，湯寶平，鄧 蕾

（重慶大學(xué)機(jī)械傳動(dòng)國家重點(diǎn)實(shí)驗(yàn)室，重慶 400044）

動(dòng)態(tài)增殖流形學(xué)習(xí)算法在機(jī)械故障診斷中的應(yīng)用

宋 濤，湯寶平，鄧 蕾

（重慶大學(xué)機(jī)械傳動(dòng)國家重點(diǎn)實(shí)驗(yàn)室，重慶 400044）

針對(duì)現(xiàn)有的批量式流形學(xué)習(xí)算法無法利用已學(xué)習(xí)的流形結(jié)構(gòu)實(shí)現(xiàn)新增樣本的快速約簡的缺點(diǎn)，提出增殖正交鄰域保持嵌入（Incremental Orthogonal Neighborhood Preserving Embedding，IONPE）流形學(xué)習(xí)算法。該算法在正交鄰域保持嵌入算法基礎(chǔ)上利用分塊處理思想實(shí)現(xiàn)新增樣本子集的動(dòng)態(tài)約簡。從原始樣本中選取部分重疊點(diǎn)合并至新增樣本，對(duì)重疊點(diǎn)和新增樣本子集不依賴原始樣本使用正交鄰域保持嵌入（ONPE）進(jìn)行獨(dú)立約簡獲取低維嵌入坐標(biāo)子集，并基于重疊點(diǎn)坐標(biāo)差值最小化原則，將新增樣本低維嵌入坐標(biāo)通過旋轉(zhuǎn)平移縮放整合到原樣本子集中。齒輪箱故障診斷案例證實(shí)了IONPE算法具有良好的增量學(xué)習(xí)能力，在繼承ONPE優(yōu)良聚類特性的同時(shí)有效提高了新增樣本約簡效率。

增殖流形學(xué)習(xí)；正交鄰域保持嵌入；動(dòng)態(tài)約簡；分塊處理；故障診斷

流形學(xué)習(xí)以其良好的非線性維數(shù)約簡能力成功應(yīng)用于機(jī)械故障診斷領(lǐng)域［1－2］。但是機(jī)械設(shè)備故障診斷更多時(shí)候需要長期在線監(jiān)測，樣本數(shù)據(jù)會(huì)不斷的動(dòng)態(tài)增加。而現(xiàn)有流形學(xué)習(xí)算法大多采用批處理模式，即一次性獲取全部樣本進(jìn)行約簡。每新增一個(gè)樣本時(shí)，需要將新增樣本合并到原有的樣本中，全部樣本重新進(jìn)行流形學(xué)習(xí)以實(shí)現(xiàn)維數(shù)約簡，而無法利用原有樣本的訓(xùn)練結(jié)果。隨著樣本數(shù)量的增大，運(yùn)算復(fù)雜度將迅速提高，耗時(shí)過長，不具備動(dòng)態(tài)數(shù)據(jù)處理能力。由于這一缺陷，增量流形學(xué)習(xí)成為了流形學(xué)習(xí)一個(gè)重要研究方向［3－5］。增量流形學(xué)習(xí)算法利用已經(jīng)學(xué)習(xí)過的樣本的低維流形結(jié)構(gòu)處理新增樣本，避免已訓(xùn)練樣本的重復(fù)學(xué)習(xí)，從而提高新增樣本處理效率。然而，增量流形學(xué)習(xí)算法每次只能處理一個(gè)新增樣本［6－7］，多個(gè)樣本逐點(diǎn)更新計(jì)算代價(jià)依然很高，難以滿足大量新增數(shù)據(jù)動(dòng)態(tài)處理需求。

增殖學(xué)習(xí)是利用分塊處理方法將大的數(shù)據(jù)集分為各個(gè)小的數(shù)據(jù)子集，分別約簡后再進(jìn)行整合，該思想無需逐點(diǎn)處理新增樣本，能提高大量樣本動(dòng)態(tài)添加處理效率。如曾憲華等提出一種動(dòng)態(tài)增殖LLE算法［8］，但該算法要求數(shù)據(jù)子集必須是相鄰或重疊的，否則，低維流形會(huì)出現(xiàn)較大扭曲或是無法整合，限制了該算法的實(shí)際應(yīng)用。本文構(gòu)建一種增殖正交鄰域保持嵌入算法（Incremental Orthogonal Neighborhood Preserving Embedding，IONPE）。對(duì)于新增樣本子集，從原有樣本集中提取各類數(shù)據(jù)中心點(diǎn)合并至新增樣本子集，使得兩個(gè)樣本集存在重疊點(diǎn)，再對(duì)重疊點(diǎn)和新增樣本子集采用ONPE進(jìn)行約簡，基于重疊點(diǎn)在兩個(gè)樣本集中的低維嵌入坐標(biāo)差值最小化原則對(duì)新增樣本低維嵌入流形進(jìn)行旋轉(zhuǎn)平移縮放變換，將新增樣本整合到原有樣本子集中。重疊點(diǎn)的存在能避免增殖LLE所述問題，從而實(shí)現(xiàn)新增樣本集的快速有效降維。

1 增殖正交鄰域保持嵌入算法

正交鄰域保持嵌入是基于近鄰關(guān)系保持嵌入改進(jìn)的一種正交化降維方法［9］，通過迭代計(jì)算正交基函數(shù)得到數(shù)據(jù)的低維嵌入坐標(biāo)，在降維過程中保持?jǐn)?shù)據(jù)點(diǎn)的局部幾何信息。

1.1 正交鄰域保持嵌入

設(shè)原始高維樣本集為X＝｛x1，x2，…，xn｝∈RD，其中樣本數(shù)為n，特征維數(shù)為D，，降維后的特征集為Y＝｛y1，y2，…，yn｝∈Rd，即降維后的維數(shù)為d，其中d＜D，則Y＝ATX，其中A∈RD×d，為變換矩陣。ONPE算法求解過程分為如下三步：

（1）非奇異處理。在不損失任何信息的條件下將數(shù)據(jù)點(diǎn)xi投影到PCA子空間，并丟棄對(duì)應(yīng)于特征值0的成分，使得矩陣XXT為非奇異，方便后續(xù)處理，設(shè)PCA投影矩陣為APCA。

（2）構(gòu)建鄰接圖。對(duì)X中任一節(jié)點(diǎn)xi，找出距離最近的k個(gè)鄰域節(jié)點(diǎn)xj，從xi到xj連一條有向的邊，設(shè)權(quán)值為Wij，每個(gè)節(jié)點(diǎn)xi可通過它的k個(gè)最近鄰線性重構(gòu)，Wij反映了其近鄰點(diǎn)對(duì)xi的重構(gòu)貢獻(xiàn)。

（3）計(jì)算ONPE正交投影向量?；谏鲜銮蠼獾臋?quán)值矩陣W，構(gòu)建低維嵌入坐標(biāo)的重構(gòu)誤差函數(shù)，通過迭代求取求解正交投影向量為AONPE，則ONPE變換矩陣為A＝APCAAONPE。

1.2 增殖正交鄰域保持嵌入

ONPE算法具有良好的聚類特性，適用于模式識(shí)別的前端處理。但每新增一個(gè)樣本時(shí)，需要對(duì)所有樣本重新進(jìn)行非奇異處理、構(gòu)建鄰接圖并計(jì)算正交投影向量，存在大量的重復(fù)運(yùn)算，算法復(fù)雜度高，不適用于動(dòng)態(tài)樣本集添加。增殖正交鄰域保持嵌入對(duì)于新增樣本子集，可不依賴原始樣本，采用ONPE進(jìn)行獨(dú)立降維，再將降維后的低維數(shù)據(jù)集進(jìn)行適當(dāng)?shù)钠揭菩D(zhuǎn)縮放變換，整合到原始樣本集中，算法具體過程如下：

1．2．1 重疊點(diǎn)選取

為了使新增子集降維后的流形與原樣本集有效的整合，本文從原樣本集中選取部分樣本點(diǎn)合并至新增樣本集，使兩個(gè)樣本子集存在重疊點(diǎn)，基于重疊點(diǎn)在兩個(gè)樣本集中的低維嵌入坐標(biāo)差值最小化原則對(duì)新增樣本低維嵌入流形進(jìn)行整合變換。重疊點(diǎn)的選取遵循兩個(gè)原則：

（1）重疊點(diǎn)個(gè)數(shù)g大于低維流形維數(shù)d，保證后續(xù)平移旋轉(zhuǎn)縮放變換有全局最優(yōu)解；

（2）重疊點(diǎn)覆蓋原有樣本集低維嵌入流形各個(gè)區(qū)域，避免出現(xiàn)扭曲。

假設(shè)原樣本集包含s種數(shù)據(jù)類別，本文從這s種數(shù)據(jù)中分別選取p個(gè)中心點(diǎn)作為重疊點(diǎn)，

式中（d＋1）／s取整，每類數(shù)據(jù)的中心點(diǎn)的計(jì)算方法：

1.3 復(fù)雜度分析

ONPE的計(jì)算復(fù)雜度主要是由構(gòu)建鄰域圖和計(jì)算正交變換矩陣決定。設(shè)原始樣本個(gè)數(shù)為m，新增樣本個(gè)數(shù)為n。對(duì)于批量處理方式，需處理樣本個(gè)數(shù)為n1＝n＋m，構(gòu)建鄰域圖的時(shí)間復(fù)雜度為O（n1logn1）［10］，計(jì)算ONPE正交變換矩陣需要求解n1×n1矩陣的特征值和特征向量，時(shí)間復(fù)雜度為O），總體時(shí)間復(fù)雜度為T1＝O（n1logn1＋）。本文的增殖ONPE算法的計(jì)算主要包含n2＝m＋g個(gè)樣本的ONPE降維和增殖變換。增殖變換涉及到（d＋1）×g維矩陣廣義逆求解，時(shí)間復(fù)雜度約為O［（d＋1）3＋g3］，增殖變換總體時(shí)間復(fù)雜度為T2＝O［n2logn2＋＋（d＋1）3＋g3］，由于n2，g，d ?n1，所以一般情況下T2?T1，即增殖算法的運(yùn)算效率遠(yuǎn)遠(yuǎn)高于批量算法。

2 基于增殖ONPE的機(jī)械設(shè)備故障診斷流程

在機(jī)械設(shè)備狀態(tài)監(jiān)測過程中，增殖ONPE能快速地對(duì)新增樣本集進(jìn)行降維處理，進(jìn)而進(jìn)行模式識(shí)別，判斷機(jī)械設(shè)備運(yùn)行狀態(tài)。其流程如圖1所示。該診斷流程包括如下幾個(gè)步驟：

（1）收集機(jī)械設(shè)備不同狀態(tài)的多組振動(dòng)信號(hào)數(shù)據(jù)，作為原始訓(xùn)練樣本，使用時(shí)頻域分析提取其高維特征，并使用ONPE流形降維方法進(jìn)行降維獲取原始樣本低維嵌入坐標(biāo)，并保存高維特征子集。

（2）設(shè)備狀態(tài)監(jiān)測過程中提取多組測試信號(hào)數(shù)據(jù)，通過分析取獲取測試樣本的高維特征子集，并依據(jù)上述重疊點(diǎn)選取方法從原始樣本高維特征子集中選取部分樣本并入新增樣本子集。

（3）對(duì)新增樣本子集和重疊點(diǎn)使用ONPE進(jìn)行維數(shù)約簡，獲取新增樣本低維嵌入坐標(biāo)子集。使用增殖ONPE變換將新增樣本低維嵌入坐標(biāo)子集整合到原始樣本中，得到所有樣本低維嵌入坐標(biāo)全集。

（4）使用K近鄰分類器對(duì)新增樣本進(jìn)行模式識(shí)別，判斷機(jī)械設(shè)備當(dāng)前狀態(tài)。

圖1 基于增殖ONPE的機(jī)械設(shè)備故障診斷流程圖Fig．1 The fault diagnostic process of machinery equipment based on IONPE

3 齒輪箱故障診斷案例

3.1 應(yīng)用對(duì)象

應(yīng)用美國預(yù)測與健康管理協(xié)會(huì)提供的齒輪箱故障振動(dòng)數(shù)據(jù)并使用本文增殖ONPE算法進(jìn)行故障診斷測試。該測試中所用齒輪箱結(jié)構(gòu)如圖2所示。

圖2 齒輪箱結(jié)構(gòu)圖Fig．2 The structure of gearbox

齒輪箱由輸入端至輸出端經(jīng)過兩級(jí)減速，在齒輪箱輸入軸和輸出軸分別安裝一個(gè)振動(dòng)加速度傳感器同步采集振動(dòng)加速度信號(hào)，型號(hào)為Endevco（10mv／g），同時(shí)安裝一個(gè)轉(zhuǎn)速計(jì)采集轉(zhuǎn)速信號(hào)，10脈沖／轉(zhuǎn)。三個(gè)傳感器的采樣頻率均為66，666．67 Hz（200 kHz／3）。實(shí)驗(yàn)在不同轉(zhuǎn)速和不同負(fù)載工況下進(jìn)行，輸入軸轉(zhuǎn)速包括1 800 r／min、2 100 r／min、2 400 r／min、2 700 r／min、3 000 r／min五種工況，每種轉(zhuǎn)速下又分為高負(fù)載和低負(fù)載有種工況，每種工況下分別有8種不同的故障或正常狀態(tài)。

3.2 齒輪箱故障診斷

本文選用轉(zhuǎn)速3 000 r／min、低負(fù)載下齒輪箱輸出軸端的振動(dòng)信號(hào)進(jìn)行故障診斷測試，取6種不同的齒輪箱故障狀態(tài)振動(dòng)信號(hào)數(shù)據(jù)，每種故障狀態(tài)可能是單一故障或者復(fù)合故障，齒輪箱不同的故障對(duì)應(yīng)的各個(gè)零部件狀態(tài)如表1所示。其中32 T、96 T、48 T、80 T分別對(duì)應(yīng)輸入軸齒輪、中間軸齒輪1、中間軸齒輪2、輸出軸齒輪，IS、ID、OS分別指輸入軸、中間軸、輸出軸。

表1 齒輪箱故障狀態(tài)Tab.1 The fault status of gearbox

上述6種齒輪箱故障狀態(tài)對(duì)應(yīng)的振動(dòng)信號(hào)時(shí)域波形如圖3所示。每種狀態(tài)分別取30組數(shù)據(jù)作為原始訓(xùn)練樣本，樣本長度為4 096點(diǎn)，每組數(shù)據(jù)分別提取時(shí)域標(biāo)準(zhǔn)差、有效值、峰值、偏度值、峭度值，頻域幅值均值、幅值方差、幅值偏度、幅值峭度、幅值一階中心距、幅值二階中心距作為高維特征向量。另外每種狀態(tài)分別取30組數(shù)據(jù)作測試樣本，提取上述時(shí)頻域特征值作為高維特征向量，并使用本文的增殖ONPE算法對(duì)測試樣本進(jìn)行降維，最后使用KNNC進(jìn)行模式上識(shí)別。為驗(yàn)證本文方法的有效性，本文同時(shí)采用批量ONPE算法和增殖LLE算法作約簡進(jìn)行對(duì)比測試。ONPE約簡方法中構(gòu)建鄰域圖的近鄰參數(shù)均設(shè)置為K＝12，為使降維結(jié)果可視化，低維嵌入維數(shù)均設(shè)置為d＝3。IONPE算法中由于數(shù)據(jù)類別為6種，故每類只需選取1個(gè)中心點(diǎn)，即重疊點(diǎn)個(gè)數(shù)g＝6。三種方法的低維嵌入坐標(biāo)如圖4所示。降維后進(jìn)行模式識(shí)別的準(zhǔn)確率以及降維過程耗時(shí)如表2所示。

圖3 齒輪箱不同故障振動(dòng)信號(hào)Fig．3 The vibration signals of different gearbox faults

圖4 不同降維方法低維嵌入坐標(biāo)Fig．4 The low-dimensional embedding coordinates with different dimension reduction methods

表2 不同約簡方法的故障識(shí)別率及耗時(shí)Tab.2 The fault diagnosis accuracy and time-consuming of different reduction methods

由圖4（a）和圖4（b）可以看出，增殖ONPE算法和批量ONPE算法都能將齒輪箱各種狀態(tài)數(shù)據(jù)能明顯分離開來，充分發(fā)揮了ONPE算法優(yōu)良的聚類特性，使相同類別的樣本在空間分布上聚集在一起。而增殖LLE算法雖然訓(xùn)練樣本和測試樣本對(duì)應(yīng)的各種狀態(tài)數(shù)據(jù)分別能夠分離開來，但是測試樣本約簡后的結(jié)果不能很好的融合到訓(xùn)練樣本中，在空間分布上出現(xiàn)脫離現(xiàn)象，原始樣本和測試樣本相同狀態(tài)的數(shù)據(jù)不能聚集在一起。而本文增殖ONPE算法選取各類數(shù)據(jù)的中心點(diǎn)作為重疊點(diǎn)并入測試樣本中，基于重疊點(diǎn)在訓(xùn)練樣本和測試樣本的差值最小化原則將測試樣本低維嵌入整合到訓(xùn)練樣本低維空間中，能有效處理新增樣本。使相同類別的樣本在空間中分布在相同的位置，其約簡效果與批量ONPE算法類似。

表2所示不同約簡方法的狀態(tài)識(shí)別率也證實(shí)了本文增殖ONPE方法降維效果與批量ONPE降維效果相當(dāng)，模式識(shí)別的總體識(shí)別率均達(dá)到95%以上。從新增樣本的維數(shù)約簡時(shí)間來看，增殖LLE算法的耗時(shí)最短，但其識(shí)別率只有67．22%，遠(yuǎn)低于另外兩種方法，難以滿足故障模式識(shí)別需求。本文方法對(duì)180個(gè)新增樣本約簡耗時(shí)僅為為0．172 6 s，是批量處理方式的38．4%（約簡耗時(shí)是在windows7操作系統(tǒng)、core i3（2．10 GHz）、4G內(nèi)存環(huán)境下測試所得），大大提高新增樣本的處理速度，更加適用于機(jī)械設(shè)備狀態(tài)監(jiān)測過程中的動(dòng)態(tài)模式識(shí)別。

3.3 算法聚類度分析

聚類特性是流形學(xué)習(xí)一個(gè)重要性能，在維數(shù)約簡過程中保持近鄰關(guān)系，使同類樣本聚集，不同類樣本分開，有利于模式識(shí)別。由于增殖ONPE算法采用分塊、整合策略進(jìn)行維數(shù)約簡，有可能對(duì)樣本聚類度產(chǎn)生影響，這里將進(jìn)一步分析增殖ONPE算法的聚類特性隨新增樣本子集個(gè)數(shù)的變化關(guān)系。定義聚類度表達(dá)式為：

同樣以上述數(shù)據(jù)進(jìn)行聚類度分析測試，齒輪箱6種狀態(tài)分別取30組數(shù)據(jù)作為訓(xùn)練樣本，其余180組數(shù)據(jù)作為測試樣本，每次添加10組測試樣本進(jìn)行增量學(xué)習(xí)，并計(jì)算其聚類度。同時(shí)采用批量ONPE進(jìn)行對(duì)比，聚類度隨新增樣本點(diǎn)數(shù)變化關(guān)系如圖5所示。

圖5 新增樣本點(diǎn)數(shù)與聚類度關(guān)系Fig．5 The relation between the number of additional samples and the clustering degree

由圖5可以看出增殖ONPE算法聚類度隨著新增樣本數(shù)量的增加呈現(xiàn)一定的波動(dòng)，但總體上沒有明顯增長趨勢，且增量ONPE算法的聚類度與批量式算法結(jié)果基本一致，維持了ONPE算法良好的聚類效果。

4 結(jié) 論

增殖ONPE流形學(xué)習(xí)算法將批量處理模式轉(zhuǎn)化為分塊處理模式對(duì)新增樣本進(jìn)行約簡，通過選取重疊點(diǎn)，并基于重疊點(diǎn)在原始樣本和新增樣本子集中的低維坐標(biāo)差值最小原則，將新增樣本進(jìn)行旋轉(zhuǎn)平移縮放變換整合到原始樣本子集中。增殖ONPE算法很大程度上降低了維數(shù)約簡的運(yùn)算復(fù)雜度，提高新增樣本的處理效率，并且維持了ONPE算法良好的聚類特性。齒輪箱振動(dòng)故障數(shù)據(jù)的故障識(shí)別結(jié)果表明增殖ONPE算法具有良好動(dòng)態(tài)增殖學(xué)習(xí)能力，適用于機(jī)械設(shè)備在線狀態(tài)監(jiān)測。

［1］Li F，Tang B P，Yang R S．Rotating machine fault diagnosis using dimension reduction with linear local tangent space alignment［J］．Measurement，2013，46：2525－2539．

［2］Jiang Q S，Jia M P，Hu J Z，et al．Machinery fault diagnosis using supervised manifold learning［J］．Mechanical Systems and Signal Processing，2009，23：2301－2311．

［3］Kouropteva O，Okun O，Pietikanen M．Incremental locally linear embedding［J］．Pattern Recognition，2005，38：1764－1767．［4］Liu X M，Yin J W，F(xiàn)eng Z L et al．Incremental manifold learning via tangent space alignment［C］／／Proceedings of the Second International Conference on Artificial Neural Networks in Pattern Recognition．Ulm，Germany，2006：107－121．

［5］Law M H C，Jain A K．Incremental nonlinear dimensionality reduction by manifold learning［J］．IEEE Transactions on Pattern Analysis and Machine Intelligence，2006，28（3）：337－391．

［6］楊慶，陳桂明，童興民，等．增量式局部切空間排列算法在滾動(dòng)軸承故障診斷中的應(yīng)用［J］．機(jī)械工程學(xué)報(bào)，2012，48 （5）：81－86．

YANG Qing，CHEN Gui-ming，TONG Xing-min，et al．Application of incremental local tangent space alignment algorithm to rolling bearings fault diagnosis［J］．Journal of Mechanical Engineering，2012，48（5）：81－86．

［7］張熠卓，徐光華，梁霖，等．利用增量式非線性流形學(xué)習(xí)的狀態(tài)監(jiān)測方法［J］．西安交通大學(xué)學(xué)報(bào)，2011，45（1）：64 －69．

ZHANG Yi-zhuo，XU Guang-hua，LIANG Lin，et al．Condition monitoring method for mechanical equipments based on incremental nonlinear manifold learning［J］．Journal of Xi'an Jiaotong University，2011，45（1）：64－69．

［8］曾憲華，羅四維．動(dòng)態(tài)增殖流形學(xué)習(xí)算法［J］．計(jì)算機(jī)研究與發(fā)展，44（9），2007：1462－1468．

ZENG Xian-hua，LUO Si-wei．A dynamically incremental manifold learningalgorithm［J］．JournalofComputer Research and Development，2007，44（9）：1462－1468．

［9］劉小明．?dāng)?shù)據(jù)降維及分類中的流形學(xué)習(xí)研究［D］．杭州：浙江大學(xué)，2007．

［10］Saul L，Roweis S．Think globally1 Fit locally：Unsupervised learning of low dimensional manifolds［J］．Journal of Machine Learning Research，2002，4：119－155．

A dynamic incremental manifold learning algorithm and its application in fault diagnosis of machineries

SONG Tao，TANG Bao-ping，DENG Lei
（The State Key Laboratory of Mechanical Transmission，Chongqing University，Chongqing 400044，China）

The current batch manifold learning algorithms can't achieve rapid dimension reduction of additional samples with learned manifold structures．Here，the incremental orthogonal neighborhood preserving embedding（IONPE）manifold learning algorithm was proposed．With it，dynamic incremental learning for additional samples was realized with a block processing idea based on orthogonal neighborhood preserving embedding．Firstly，some overlapping points were selected from the original samples and added to the additional samples．Secondly，the subset of low-dimensional embedding coordinates of additional samples was obtained with ONPE independing on the original samples．Finally，based on the principle of minimizing the differences of the overlapping point coordinates，the low-dimensional embedding coordinates of the additional samples were integrated into the original samples with rotating，shifting and scaling transformations．The fault diagnosis case of a gearbox confirmed that the IONPE algorithm has a good incremental learning ability，it improves the processing efficiency of the additional samples while inheriting the superior clustering performance of ONPE．

incremental manifold learning；ONPE；dynamic reduction；block processing；fault diagnosis

TH165．3

A

10．13465／j．cnki．jvs．2014．23．003

國家自然科學(xué)基金（51275546）；高校博士點(diǎn)專項(xiàng)科研基金（20130191130001）

2013－08－01 修改稿收到日期：2013－12－12

宋濤男，博士生，1987年7月生

湯寶平男，博士，教授，1971年9月生

郵箱：bptang＠cqu．edu．cn