朱鳳波，吳文全，楊 華

(海軍工程大學(xué)，武漢 430033)

0 引言

模擬電路的故障診斷始于20世紀(jì)60年代，理論研究是從網(wǎng)絡(luò)元件參數(shù)可解性開(kāi)始的，常用的有故障字典法和參數(shù)辨識(shí)法，但電路故障的多樣性、元件的容差及結(jié)構(gòu)的復(fù)雜性，使得模擬電路故障診斷發(fā)展比較緩慢。20世紀(jì)90年代后，模糊理論、神經(jīng)網(wǎng)絡(luò)以及支持向量機(jī)等智能機(jī)器學(xué)習(xí)語(yǔ)言開(kāi)始應(yīng)用于該領(lǐng)域，取得不錯(cuò)的效果。但上述方法都是在硬故障(即元件斷路或短路)時(shí)效果明顯，軟故障需在元件變化較大時(shí)才能有效識(shí)別［8］。

隱馬爾科夫模型是一種廣泛應(yīng)用于信號(hào)處理和模式識(shí)別的雙重隨機(jī)過(guò)程，具有很強(qiáng)的時(shí)序信號(hào)識(shí)別和分類(lèi)能力，已成功應(yīng)用于語(yǔ)音識(shí)別和人臉識(shí)別領(lǐng)域。按照觀測(cè)信號(hào)的性質(zhì)可分為兩類(lèi):連續(xù)隱馬爾科夫模型(CHMM)和離散隱馬爾科夫模型(DHMM)［2］。文獻(xiàn)［3］提出將HMM應(yīng)用于電路系統(tǒng)的狀態(tài)檢測(cè)及故障診斷;文獻(xiàn)［4］基于HMM具有很強(qiáng)的時(shí)序信號(hào)識(shí)別能力，對(duì)HMM在機(jī)電系統(tǒng)BIT抗虛警技術(shù)方面進(jìn)行了研究，通過(guò)訓(xùn)練DHMM來(lái)區(qū)分虛警與故障;文獻(xiàn)［5］將HMM應(yīng)用于故障預(yù)測(cè)與設(shè)備退化研究。本文在以上研究成果的基礎(chǔ)上，嘗試將高斯混合隱馬爾科夫模型(MHMM)引入模擬電路的早期故障診斷，通過(guò)LDA(線性判別分析)方法對(duì)原始電路信號(hào)進(jìn)行處理，完成降維，去除信號(hào)的冗余信息，然后通過(guò)MHMM模型對(duì)故障的類(lèi)別進(jìn)行判定。

1 MHMM模型

1.1 高斯混合模型模型介紹

高斯混合模型［6］(Gaussian Mixture Model，GMM)是一種常用的描述混合密度分布的模型，即多個(gè)高斯分布的混合分布。GMM本質(zhì)上是一種多維概率密度函數(shù)，一個(gè)具有M個(gè)混合成分的D維GMM，可以用M個(gè)高斯成員的加權(quán)和來(lái)表示，即

其中:μi為均值;Σi為協(xié)方差矩陣。這里共有M個(gè)高斯分布，每個(gè)函數(shù)用 λi表示，i=1，2，…，M，其參數(shù)為μi和Σi。每個(gè)函數(shù)受P(λi)加權(quán)后，取和得到xn的概率分布。

整個(gè)高斯混合模型便可以由各均值矢量、協(xié)方差矩陣及混合分量的權(quán)值來(lái)描述，因此得到一個(gè)GMM模型參數(shù)θ，表示為

1.2 MHMM模型的基本原理

隱馬爾科夫模型［3］(Hidden Markov Model，HMM)是一種基于馬爾科夫鏈發(fā)展而來(lái)的不完全數(shù)據(jù)的統(tǒng)計(jì)模型，它有3個(gè)基本問(wèn)題需要解決:評(píng)估問(wèn)題，即給定模型和觀測(cè)序列求最大似然值;解碼問(wèn)題，給定模型和觀測(cè)序列求具有產(chǎn)生該序列最大概率的狀態(tài)序列;學(xué)習(xí)問(wèn)題，給定觀測(cè)序列的訓(xùn)練集估計(jì)產(chǎn)生該訓(xùn)練集最大概率的模型。

MHMM模型［5］是常規(guī)離散HMM在觀測(cè)序列為連續(xù)密度分布信號(hào)時(shí)的一種延伸。連續(xù)密度分布的HMM模型假定被觀測(cè)的特征向量按某種概率密度分布，這種模型性能的好壞取決于假定的概率分布是否符合實(shí)際情況。一般來(lái)說(shuō)，一些常用的概率分布函數(shù)很難單一地描述一組數(shù)據(jù)的分布情況，于是提出高斯混合HMM模型(Gaussian of Mixture HMM，MHMM)，即用幾個(gè)中心不同，離散度不同的高斯分布組合逼近實(shí)際的特征向量分布。

為了應(yīng)用連續(xù)觀測(cè)密度，必須在模型的概率密度函數(shù)的形式上加上一些限制，來(lái)保證概率密度函數(shù)的參數(shù)以連續(xù)的方式重估。最普通的表達(dá)式為

其中:cjm為狀態(tài)j的第m個(gè)混合分量的系數(shù)，也就是混合增益因子;τ為高斯混合密度概率;μjm和Ujm分別為狀態(tài)j在第m個(gè)混合分量的均值向量和協(xié)方差矩陣。

由于高斯混合理論比較成熟，一定條件下能夠擬合任何形式的分布，因此MHMM歸結(jié)為首先用GMM方法對(duì)原始特征向量進(jìn)行逼近，確定出高斯混合密度函數(shù)，然后將混合分量假定為觀測(cè)序列進(jìn)行處理的一種HMM模型。

2 特征向量的提取

從電路采集的數(shù)據(jù)具有很強(qiáng)的冗余性和復(fù)雜性，如果直接用于HMM的訓(xùn)練，不僅效果會(huì)降低，而且增大訓(xùn)練的復(fù)雜程度。通過(guò)LDA技術(shù)對(duì)原始數(shù)據(jù)進(jìn)行降維處理，可以提高運(yùn)算速度和精度。

線性判別分析(Linear Discriminant Analysis，LDA)是一種用于分類(lèi)問(wèn)題的維度歸約的監(jiān)督的方法，目前已被廣泛應(yīng)用于人臉識(shí)別技術(shù)。它是基于Fisher準(zhǔn)則，尋找一組將高維樣本投影到低維空間的最佳判別投影向量，使所有的投影樣本類(lèi)內(nèi)離散度最小且類(lèi)間離散度最大，也就是在降維的同時(shí)將同一個(gè)類(lèi)別的樣本盡量聚集，不同類(lèi)別盡量分開(kāi)［7］，即:尋找一個(gè)矩陣W，線性變換原始樣本x，使得z=WTx，且

最大。式中:SB為類(lèi)間散度矩陣;SW為類(lèi)內(nèi)散度矩陣。定義

3 基于MHMM的故障診斷流程

1)特征提取。原始數(shù)據(jù)信號(hào)經(jīng)LDA降維，得到低維的特征向量并且分為訓(xùn)練數(shù)據(jù)和測(cè)試數(shù)據(jù)兩部分，并分別組成觀測(cè)序列。

2)模型訓(xùn)練。對(duì)模型參數(shù)初始化，將不同故障狀態(tài)的特征向量訓(xùn)練數(shù)據(jù)送入MHMM模型，得到不同狀態(tài)的故障模型。

3)故障辨識(shí)。將待測(cè)數(shù)據(jù)分別通過(guò)每種故障狀態(tài)模型，求出其最大似然估計(jì)值，比較該值與各訓(xùn)練模型最大似然值的差值，最小者為該數(shù)據(jù)所處的故障狀態(tài)。

MHMM故障診斷流程如圖1所示。

圖1 MHMM故障診斷流程圖Fig.1 Flow chart of fault diagnosis based on MHMM

4 試驗(yàn)例證與結(jié)果分析

本文實(shí)驗(yàn)數(shù)據(jù)通過(guò)Multisim獲得，如圖2所示。

圖2 低通有源濾波器Fig.2 Circuit of active low-pass filter

圖2為有源低通濾波器，其中電阻容差為5%，電容容差為10%，通過(guò)蒙特卡羅分析，如圖3所示。

圖3 測(cè)試點(diǎn)蒙特卡羅分析Fig.3 Analysis of testing points based on Monte Carlo method

由圖3可見(jiàn)，電阻電容的早期較小變化對(duì)于10～100 kHz頻率之間影響最為明顯，因此選取100 Hz、1 kHz、10 kHz、12.5 kHz、20 kHz、25 kHz、30 kHz、40 kHz、50 kHz、80 kHz、100 kHz、125 kHz、500 kHz 對(duì)應(yīng)的數(shù)值組成13維原始數(shù)據(jù)向量。設(shè)定電路有正常、R1升高10%、R1降低10%、R2升高10%、R2降低10%、C1升高10%、C1降低10%、C2升高10%、C2降低10%共9種狀態(tài)，每種狀態(tài)分別進(jìn)行100次蒙特卡羅分析，得到100組原始數(shù)據(jù)向量。通過(guò)LDA算法對(duì)原始數(shù)據(jù)向量進(jìn)行處理，降為5維的特征向量。如圖4所示，經(jīng)LDA降維以后，取特征值最大的兩列數(shù)據(jù)作圖，可以明顯地發(fā)現(xiàn)，數(shù)據(jù)不僅實(shí)現(xiàn)了降維，而且在一定程度上對(duì)類(lèi)別進(jìn)行了初步的劃分。R2阻值增大與R1阻值增大基本重疊在一起，R2阻值降低與R1阻值降低也很難區(qū)分，比較符合電路的實(shí)際情況。

圖4 原始數(shù)據(jù)經(jīng)LDA降為2維時(shí)樣本Fig.4 The sample dimension decreased by LDA

將每種狀態(tài)下的100組特征向量取50組作為訓(xùn)練數(shù)據(jù)，每5組組成一個(gè)觀測(cè)序列，共10組訓(xùn)練觀測(cè)序列。同樣，另外50組特征向量作為測(cè)試數(shù)據(jù)，每5組組成一個(gè)觀測(cè)序列，共10組測(cè)試觀測(cè)序列。9種電路狀態(tài)共需訓(xùn)練9個(gè)MHMM模型，特征向量由3個(gè)高斯模型混合組成，HMM狀態(tài)數(shù)設(shè)為5，由電路特性確定HMM結(jié)構(gòu)采用左右型［1］，初始狀態(tài)為正常，則初始矩陣為［1，0，0，0，0］，狀態(tài)轉(zhuǎn)移矩陣為［0.5，0.5，0，0，0;0，0.5，0.5，0，0;0，0，0.5，0.5，0;0，0，0，0.5，0.5;0，0，0，0，1］。GMM 高斯混合模型采用K均值法對(duì)觀測(cè)序列進(jìn)行逼近［2］，確定其參數(shù)。MHMM訓(xùn)練的E-M算法迭代次數(shù)［3］設(shè)為50，波動(dòng)容差為1e－4，如圖5所示。

圖5 最大似然值迭代過(guò)程Fig.5 Iteration process of maximum likelihood value

圖5為其中R1升高10%時(shí)訓(xùn)練的最大似然值的迭代值。

由于觀測(cè)序列的高斯逼近具有一定的隨機(jī)性，MHMM參數(shù)在一定范圍內(nèi)存在波動(dòng)，判定結(jié)果存在微小變動(dòng)，因此采用10次結(jié)果取其平均值的做法降低這種擾動(dòng)。實(shí)驗(yàn)結(jié)果如表1所示。

表1 MHMM故障檢測(cè)率Table 1 Diagnosis results based MHMM

由表1結(jié)果可知，MHMM模型對(duì)于故障具有較準(zhǔn)確的判斷能力，對(duì)于混雜在一起的數(shù)據(jù)樣本(由圖4可以看出)，MHMM判斷能力有所下降，但仍然有超過(guò)50%的判斷能力(如R1、R2阻值的較小變化)，一方面是因?yàn)闃颖局丿B較為嚴(yán)重，另一方面從電路分析可知，該兩個(gè)電阻較小變化具有一定互補(bǔ)性，使特征變化不太明顯。

將相同的特征向量樣本用于BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練，設(shè)置輸入神經(jīng)元個(gè)數(shù)為5，隱含層神經(jīng)元個(gè)數(shù)為6，輸出神經(jīng)元個(gè)數(shù)為9，網(wǎng)絡(luò)層數(shù)為3。通過(guò)判定，得到如表2所示結(jié)果。

由表1、表2可知，MHMM模型的判定性能明顯優(yōu)于BP神經(jīng)網(wǎng)絡(luò)，主要是因?yàn)镸HMM模型使用特征向量序列進(jìn)行判定，比BP神經(jīng)網(wǎng)絡(luò)使用單個(gè)特征向量判定具有更明顯的識(shí)別能力。

表2 BP神經(jīng)網(wǎng)絡(luò)故障檢測(cè)率Table 2 Diagnosis results based on BP neural network

5 結(jié)論

本文提出將MHMM模型應(yīng)用于模擬電子線路早期故障診斷的方法，通過(guò)實(shí)例研究了影響其性能的各種參數(shù)設(shè)置，并與BP神經(jīng)網(wǎng)絡(luò)進(jìn)行了對(duì)比，結(jié)果表明MHMM模型在模擬電路早期故障診斷中具有更好的效果，為模擬電路早期故障診斷及狀態(tài)檢測(cè)提供了一種新思路。

［1］肖元姣，蘇廣川，韓雷.基于神經(jīng)網(wǎng)絡(luò)的電子設(shè)備故障診斷專(zhuān)家系統(tǒng)［J］.電光與控制，2005，12(3):47-49，54.

［2］ALPAYDIN E.Introduction to machine learning［M］.Beijing:China Machine Press，2009.

［3］許麗佳，王厚軍.電子系統(tǒng)的故障預(yù)測(cè)與健康管理技術(shù)研究［D］.成都:電子科技大學(xué)，2009.

［4］邱靜，劉冠軍，呂克洪，等.機(jī)電系統(tǒng)機(jī)內(nèi)測(cè)試降虛警技術(shù)［M］.北京:科學(xué)出版社，2009.

［5］曾慶虎，邱靜，劉冠軍，等.基于KPCA-HSMM設(shè)備退化狀態(tài)識(shí)別與故障預(yù)測(cè)方法研究［J］.儀器儀表學(xué)報(bào)，2009，30(7):1342-1346.

［6］李春玲，鄒北驥.雙模態(tài)情緒強(qiáng)度估計(jì)方法研究［D］.長(zhǎng)沙:中南大學(xué)，2008.

［7］張阿妞，莊哲民.基于優(yōu)化的LDA與神經(jīng)網(wǎng)絡(luò)人臉識(shí)別方法研究［D］.汕頭:汕頭大學(xué)，2007.