劉曉宇 武魯 許少華
摘 要:針對(duì)時(shí)變信號(hào)小樣本集建模分類問(wèn)題,提出一種深層多尺度徑向基過(guò)程神經(jīng)網(wǎng)絡(luò)(DLMS-RBFPNN)。該模型由時(shí)變信號(hào)輸入層、多尺度徑向基核變換層、全連接層和感知機(jī)分類器構(gòu)成。兼顧時(shí)變信號(hào)的頻譜特征和分布形態(tài)的多樣性,基于徑向基過(guò)程神經(jīng)網(wǎng)絡(luò),通過(guò)將不同寬度參數(shù)的Gauss核函數(shù)進(jìn)行線性疊加,構(gòu)成多尺度核,完成不同尺度上對(duì)過(guò)程信號(hào)形態(tài)特征的提取、辨識(shí)和相似性度量。通過(guò)在徑向基核函數(shù)層之上疊加全連接層和分類器,實(shí)現(xiàn)時(shí)變信號(hào)不同尺度特征的融合和分類。DLMS-RBFPNN具有較少的模型參數(shù),適用于小樣本集建模,在機(jī)制上可提高對(duì)時(shí)變信號(hào)過(guò)程細(xì)節(jié)特征和趨勢(shì)特征的辨識(shí)及記憶能力。在分析DLMS-RBFPNN性質(zhì)的基礎(chǔ)上,建立一種基于動(dòng)態(tài)聚類算法的核中心函數(shù)確定方法以及基于PSO的模型參數(shù)優(yōu)化求解算法。以旋轉(zhuǎn)機(jī)械基于示功圖信號(hào)的故障診斷為例進(jìn)行實(shí)驗(yàn),結(jié)果驗(yàn)證了模型和算法的有效性。
關(guān)鍵詞:動(dòng)態(tài)模式識(shí)別; 多尺度核函數(shù); 徑向基過(guò)程神經(jīng)網(wǎng)絡(luò); 深層結(jié)構(gòu); 優(yōu)化算法
DOI:10. 11907/rjdk. 192486
中圖分類號(hào):TP301 ? 文獻(xiàn)標(biāo)識(shí)碼:A??????????????? 文章編號(hào):1672-7800(2020)003-0060-05
A Deep Layer Process Neural Network and Its Application in Signal Classification
LIU Xiao-yu1, WU Lu1,2, XU Shao-hua1
(1.School of Computer Science and Engineering, Shandong University of Science and Technology, Qingdao 266590, China;
2.Shandong Computing Center, Jinan 250014, China)
Abstract: Aiming at the modeling classification problem of small sample set of time-varying signals, this paper proposes a model based on deep layer multi-scale radial basis function process neural network (DLMS-RBFPNN). The model consists of a time-varying signal input layer, a multi-scale radial basis function kernel transform layer, a fully connected layer and a perceptron classifier. Taking into account the diversity of the spectral characteristics and distribution patterns of time-varying signals, the radial basis process neural network and the Gauss kernel function with different width parameters are linearly superposed to form a multi-scale kernel and complete the identification and similarity measure of process signal morphological features at different scales. The model realizes the fusion and classification of different scale features of time-varying signals, by superposing fully connected layers and classifiers on the radial basis kernel function layer. DLMS-RBFPNN has fewer model parameters and is suitable for small sample set modeling. It can improve the recognition and memory ability of time-varying signal process features. This paper analyzes the nature of the DLMS-RBFPNN model, proposes the center determination method of kernel function based on dynamic clustering, and constructs the model parameter optimization algorithm based on PSO. The fault diagnosis of rotating machinery based on dynamometer diagram is taken as an example. The actual data processing results show the effectiveness of the model and algorithm.
Key Words: dynamic pattern recognition; multi-scale kernel function; radial basis function process neural network; deep structure; optimization algorithm
0 引言
非線性時(shí)變信號(hào)是一種頻率和幅值隨時(shí)間變化的多成分信號(hào),具有非線性、非平穩(wěn)等特性,往往呈現(xiàn)多峰、伸縮、漂移、含噪聲等特征,對(duì)時(shí)間變化依賴程度高,特別是多變量系統(tǒng)多個(gè)信號(hào)的組合過(guò)程特征呈現(xiàn)出高度的復(fù)雜性[1],其分類處理一直是信號(hào)分析與人工智能研究領(lǐng)域的一個(gè)重要課題[2]。
人工神經(jīng)網(wǎng)絡(luò)是目前信號(hào)處理和分析中一種常用而有效的方法[3]。隨著深度學(xué)習(xí)理論的發(fā)展,一些新的可用于時(shí)變信號(hào)分析的神經(jīng)網(wǎng)絡(luò)模型不斷被提出,例如,深度卷積神經(jīng)網(wǎng)絡(luò)[4-6]、深度遞歸網(wǎng)絡(luò)[7]、深度循環(huán)網(wǎng)絡(luò)[8-9]、Markov鏈[10]等,在機(jī)制上可有效實(shí)現(xiàn)對(duì)時(shí)間序列信號(hào)的分類分析,并取得了良好的應(yīng)用效果。
在實(shí)際中,由于一些動(dòng)態(tài)系統(tǒng)的過(guò)程事件不可重復(fù)、一些案例事件發(fā)生較少、樣本采樣代價(jià)高昂等因素,難以獲得大規(guī)模完備的數(shù)據(jù)集,這給信號(hào)系統(tǒng)的建模分析帶來(lái)許多困難[11]。針對(duì)小樣本集建模問(wèn)題,許多學(xué)者展開(kāi)了相關(guān)研究,目前主要方法有基于泊松分布模型的樸素貝葉斯分類方法[12]、魯棒單隱層前饋神經(jīng)網(wǎng)絡(luò)(SLFN)與極限學(xué)習(xí)理論相結(jié)合的分類方法[13]、數(shù)據(jù)增強(qiáng)與遷移訓(xùn)練結(jié)合的小樣本數(shù)據(jù)處理方法[14]、支持向量機(jī)分類方法[15]、全局特征及弱尺度融合策略[16]等。但以上方法都面向特定問(wèn)題,普適性較差。
基于核函數(shù)方法的信號(hào)分析和數(shù)據(jù)特征的多尺度表示是目前信號(hào)處理的一種有效方法[17-18]。由于模型參數(shù)少,因此在機(jī)制上適用于小樣本集的建模分析。2006年,Roland Opfer19]提出了多尺度核函數(shù)的概念,并采用小波和移位變量技術(shù)構(gòu)造新的核函數(shù)類;2014年,Zhang等[20]提出應(yīng)用于短時(shí)說(shuō)話識(shí)別的多尺度核函數(shù),構(gòu)造一系列不同尺度的內(nèi)核,通過(guò)多核學(xué)習(xí)(MKL)優(yōu)化方法組合,增強(qiáng)了模型的魯棒性和可擴(kuò)展性;2016年,胡站偉等[21]提出基于多尺度的類指數(shù)分布核函數(shù)(ELK),對(duì)局部特征有很好的捕捉優(yōu)勢(shì);2017年,RABIN N等[22]提出一種用于數(shù)據(jù)嵌入和擴(kuò)展的高階核,這些核構(gòu)成尺度高斯函數(shù)的線性組合,對(duì)特征捕獲更加精確。
徑向基過(guò)程神經(jīng)網(wǎng)絡(luò)(Radial Basis Function Process Neural Network,RBFPNN)[23]是近幾年提出的一種新型動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)模型,與傳統(tǒng)徑向基神經(jīng)網(wǎng)絡(luò)的不同之處在于其輸入可以是連續(xù)時(shí)間函數(shù),通過(guò)自適應(yīng)提取時(shí)間輸入函數(shù)的過(guò)程形態(tài)特征,并將多個(gè)特征加以組合,形成類別輸出。將RBFPNN模型用于時(shí)變信號(hào)分類問(wèn)題,可以直接輸入連續(xù)信號(hào)而無(wú)需預(yù)先提取信號(hào)的形態(tài)和幅值特征,并且能夠通過(guò)典型樣本的學(xué)習(xí)直接獲得信號(hào)與模式類別之間的對(duì)應(yīng)關(guān)系,同時(shí),RBFPNN模型參數(shù)少,因此,在機(jī)制上對(duì)于小樣本集建模分類問(wèn)題具有良好的適應(yīng)性。
在實(shí)際工程中,非線性系統(tǒng)動(dòng)態(tài)樣本的模式特征變化相比數(shù)值向量樣本要復(fù)雜得多,時(shí)變采樣信號(hào)常常受隨機(jī)因素、噪聲信號(hào)以及一些不確知因素的影響[24],模態(tài)特征多變且不規(guī)則,包含的特征信息容量大。徑向基神經(jīng)網(wǎng)絡(luò)的核函數(shù)形式及其核參數(shù)選取對(duì)于動(dòng)態(tài)信號(hào)分類或預(yù)測(cè)結(jié)果有著十分重要的影響,在目前研究中,RBFPNN的核函數(shù)一般取為Gauss函數(shù),其性質(zhì)參數(shù)為核寬度。雖然在理論上可由大數(shù)定律證明Gauss函數(shù)對(duì)于各類數(shù)據(jù)的分析問(wèn)題具有普適性[25],但對(duì)于一些復(fù)雜的信號(hào)處理問(wèn)題,在一個(gè)尺度上難以區(qū)分時(shí)間輸入信號(hào)細(xì)節(jié)特征與核中心函數(shù)的差異,致使分類結(jié)果出現(xiàn)偏差,特別是在不同類時(shí)間采樣信號(hào)之間具有較強(qiáng)的相似性和多峰情況[26]。因此,需要改進(jìn)RBFPNN模型對(duì)細(xì)節(jié)特征的辨識(shí)能力,以及對(duì)不同尺度特征的融合分析能力。在模型中引入不同尺度參數(shù)并增加網(wǎng)絡(luò)深度,為問(wèn)題的解決提供了一種有效方法。
筆者提出了一種深層多尺度徑向基過(guò)程神經(jīng)網(wǎng)絡(luò)(Deep Layer Multi Scale RBFPNN,DLMS-RBFPNN)模型。通過(guò)將不同寬度參數(shù)的Gauss核進(jìn)行線性疊加,以構(gòu)成具有多尺度性質(zhì)的核函數(shù),提高對(duì)輸入時(shí)變信號(hào)過(guò)程特征的表征和度量能力,使對(duì)時(shí)間信號(hào)細(xì)節(jié)特征的刻畫(huà)在尺度選擇上具有更好的完整性和靈活性,從而獲取分類模型對(duì)過(guò)程信號(hào)特征的多分辨能力。通過(guò)在核函數(shù)層之上增加一個(gè)全連接層,則可實(shí)現(xiàn)對(duì)時(shí)變信號(hào)不同尺度特征的融合。DLMS-RBFPNN模型對(duì)于解決過(guò)程信號(hào)具有較強(qiáng)異構(gòu)性、同類樣本呈多模態(tài)變化的復(fù)雜時(shí)間信號(hào)分類問(wèn)題,在信息處理機(jī)制上具有很好的適應(yīng)性。文中分析了DLMS-RBFPNN的信息處理機(jī)制,給出了基于帶動(dòng)態(tài)慣性因子粒子群算法的模型參數(shù)優(yōu)化學(xué)習(xí)方法。將其應(yīng)用于基于振動(dòng)檢測(cè)信號(hào)的旋轉(zhuǎn)機(jī)械故障診斷問(wèn)題,取得了良好的應(yīng)用效果。
1 徑向基過(guò)程神經(jīng)網(wǎng)絡(luò)模型
徑向基過(guò)程神經(jīng)網(wǎng)絡(luò)[23]為三層結(jié)構(gòu)模型,輸入層有[n]個(gè)節(jié)點(diǎn)單元,完成時(shí)間過(guò)程信號(hào)向網(wǎng)絡(luò)輸入;中間徑向基核函數(shù)層有[m]個(gè)節(jié)點(diǎn)單元;網(wǎng)絡(luò)輸出為隱層節(jié)點(diǎn)輸出信號(hào)的線性加權(quán)和,其拓?fù)浣Y(jié)構(gòu)如圖1所示。
圖1中,[vj(j=1,2,?,m)]為輸出層權(quán)系數(shù),“∫”為時(shí)間聚合算子,[K(?,?)]為徑向基核函數(shù)。
設(shè)時(shí)間信號(hào)輸入?yún)^(qū)間為[[0,T]],[X(t)=(x1(t),][x2(t),?,][xn(t))]([t∈[0,T]])為網(wǎng)絡(luò)輸入函數(shù), [Zj(t)]為第[j]個(gè)徑向基過(guò)程神經(jīng)元的核中心函數(shù)。若“∫”取為[[0,T]]上的積分,則RBFPNN輸入輸出之間的關(guān)系為:
式(1)中,[||?·||]為[(C[0,T])n]空間中的某一距離范數(shù)。
若徑向基核取為Gauss函數(shù):
[K(v)=exp(-v22σ2)],則式(1)可寫(xiě)為:
其中,[σ]為核寬度參數(shù),描述樣本的統(tǒng)計(jì)分布性質(zhì)。徑向基核具有數(shù)據(jù)結(jié)構(gòu)的保持特性,即在特征映射空間中可保持原有數(shù)據(jù)體的結(jié)構(gòu)和信息關(guān)聯(lián)關(guān)系。
2 多尺度徑向基過(guò)程神經(jīng)網(wǎng)絡(luò)
2.1 多尺度徑向基核函數(shù)
Gauss核函數(shù)是目前廣泛使用的一種核函數(shù),其性質(zhì)和映射關(guān)系由核中心函數(shù)及核寬度參數(shù)確定。對(duì)應(yīng)第[j]個(gè)隱層單元,考慮[Lj]個(gè)寬度參數(shù)及核中心函數(shù)不同的Gauss函數(shù)。
其中,核寬度參數(shù)滿足[σj1>?>σjL],[zjLj(t)]為第[j]個(gè)徑向基核中對(duì)應(yīng)[σjLj]細(xì)分類的核中心函數(shù)。
將上述核函數(shù)進(jìn)行線性疊加,第[j]個(gè)隱層單元的多尺度核函數(shù)定義為:
式(3)中,[βl]([l=1,2,?,L])為加權(quán)系數(shù),由訓(xùn)練集樣本學(xué)習(xí)確定;[zj(t)=(zj1(t),zj2(t),?,zjLj(t))]。
核的本質(zhì)是按照某種方式去度量數(shù)據(jù)體與數(shù)據(jù)體之間的特征相似性,時(shí)間信號(hào)樣本[X(t)]與核中心函數(shù)[zj(t)]之間的過(guò)程特征相似度越高,即[x(t)-zj(t)]越小,則核函數(shù)輸出值越大,對(duì)分類決策的作用就越顯著。式(3)定義的關(guān)于核寬度參數(shù)的多尺度形式仍保留了徑向基核函數(shù)的性質(zhì),使對(duì)時(shí)間信號(hào)細(xì)節(jié)特征的刻畫(huà)在尺度選擇上具有更好的完整性和靈活性,在機(jī)制上可改善RBFPNN對(duì)時(shí)變信號(hào)的辨識(shí)性質(zhì)。
2.2 深層多尺度徑向基過(guò)程神經(jīng)網(wǎng)絡(luò)
深層多尺度徑向基過(guò)程神經(jīng)網(wǎng)絡(luò)(DLMS-RBFPNN)由時(shí)變信號(hào)輸入層、多尺度徑向基核函數(shù)層、全連接層和輸出層構(gòu)成。其結(jié)構(gòu)如圖2所示。圖2中,[wij]為核函數(shù)層各節(jié)點(diǎn)與全連接層節(jié)點(diǎn)的連接權(quán),[vj]為全連接層與輸出層節(jié)點(diǎn)的連接權(quán)。以式(3)為第[j]個(gè)隱層單元的核函數(shù),由圖2可知,DLMS-RBFPNN輸入輸出之間的映射關(guān)系為:
式(4)中, [m]為徑向基核函數(shù)隱層節(jié)點(diǎn)數(shù),[K]為全連接層節(jié)點(diǎn)數(shù)。
對(duì)尺度不同的核函數(shù)進(jìn)行線性加權(quán)組合,本質(zhì)上是將過(guò)程信號(hào)特征細(xì)化,在多個(gè)不同寬度參數(shù)條件下,綜合度量時(shí)變過(guò)程信號(hào)之間模態(tài)細(xì)節(jié)特征的相似性,降低機(jī)器模型的結(jié)構(gòu)風(fēng)險(xiǎn)。同時(shí),全連接層在同類樣本細(xì)分特征組合的基礎(chǔ)上,又進(jìn)行了更高層次組合的特征組合,可提高對(duì)信號(hào)樣本的抗噪聲能力,實(shí)現(xiàn)對(duì)輸入信號(hào)與核中心函數(shù)在細(xì)節(jié)特征上更為完整的相似性度量。
3 DLMS-RBFPNN優(yōu)化求解
DLMS-RBFPNN的學(xué)習(xí)采用有監(jiān)督的參數(shù)調(diào)整算法,可將訓(xùn)練集的樣本標(biāo)簽數(shù)作為徑向基隱層節(jié)點(diǎn)數(shù),再利用動(dòng)態(tài)聚類算法進(jìn)行相同標(biāo)簽樣本子集的細(xì)分類,以分類數(shù)和細(xì)分類中心函數(shù)作為多尺度核的[Lj]及細(xì)分核中心函數(shù)[zjl(t)],寬度參數(shù)[σjl]可由細(xì)分類樣本廣義方差或通過(guò)DLMS-RBFPNN整體參數(shù)調(diào)整確定。在式(4)表示的網(wǎng)絡(luò)模型中,連接權(quán)系數(shù)[wij]、[vj] ([i=1,2,?,m;j=1,2,?,][K])和[βil]([l=1,2,?,L])通過(guò)PSO算法進(jìn)行優(yōu)化求解。
3.1 核中心函數(shù)及隱層節(jié)點(diǎn)數(shù)確定
采用廣義歐式距離進(jìn)行時(shí)間信號(hào)樣本之間過(guò)程特征相似性度量,利用動(dòng)態(tài)聚類算法確定DLMS-RBFPNN各隱層節(jié)點(diǎn)中細(xì)分類數(shù)[Lj]及細(xì)分核中心函數(shù)[zjl(t)]。
設(shè)函數(shù)[X(t)],[Y(t)][∈(C[0,T])n],定義[X(t)]、[Y(t)]在[[0,T]]上的相似系數(shù):
其中,[
設(shè)第[j]類標(biāo)簽子集包含[Kj]個(gè)時(shí)間函數(shù)樣本:{[X1j(t),X2j(t),?,XKjj(t)];[Xkj(t)∈][(C[0,T])n]}。設(shè)置3個(gè)聚類參數(shù):初始分類數(shù)[H0]、樣本相似系數(shù)閾值[θ]和類間距離閾值[R]。用式(5)定義的相似系數(shù)的倒數(shù)度量?jī)蓚€(gè)輸入函數(shù)樣本間的距離,以兩類中兩兩輸入函數(shù)樣本間距離的最小值為類間距離,動(dòng)態(tài)聚類算法步驟如下:
Step1:在樣本集中,選取[H0]([H0][][K])個(gè)樣本作為[H0]個(gè)模式類的代表,構(gòu)成初始[H0]個(gè)類。
Step2:將樣本集中其余函數(shù)樣本依次計(jì)算與每個(gè)已有模式類代表之間的相似系數(shù)。若其中最大相似系數(shù)小于[θ],則以該樣本為成員形成一個(gè)新類,并以其為該新類的代表,[H0]+1→[H0];若其中最大相似系數(shù)大于[θ],則將該函數(shù)歸于相似系數(shù)最大的一類,并以該樣本與原類代表樣本的均值作為合并后新類的代表。
Step3:計(jì)算[H0]個(gè)類兩兩之間的類距離。若兩個(gè)類的類間距離小于[R],則將這兩個(gè)類合并,以兩類類代表函數(shù)樣本的均值作為新類的代表;若類間距離大于[R],則兩個(gè)函數(shù)樣本類不作改變。
Step4:執(zhí)行上述步驟后,分類數(shù)可能改變,以新的分類個(gè)數(shù)替代[H0]。如果分類結(jié)果(包括分類個(gè)數(shù)和函數(shù)樣本的具體分類)改變,則返回Step2繼續(xù)執(zhí)行;如果分類結(jié)果不再變化,則分類完成。
此時(shí),得到的分類個(gè)數(shù)[H0]即可作為RBFPNN第[j]個(gè)隱層單元的細(xì)分節(jié)點(diǎn)數(shù)[Lj],子類聚類中心函數(shù)作為細(xì)分核中心函數(shù)[zjl(t)]。
3.2 基于PSO算法網(wǎng)絡(luò)參數(shù)確定
考慮對(duì)DLMS-RBFPNN參數(shù)搜索范圍的約束和全局優(yōu)化性質(zhì),采用帶動(dòng)態(tài)慣性因子的 PSO 算法[27],實(shí)現(xiàn)核函數(shù)寬度參數(shù)[σ2jl]和權(quán)系數(shù)[wij] 、[vj]、[βjl][(j=1,2,?,L,][i=1,2,?,m;l=1,2,?,L)]的整體優(yōu)化求解。
設(shè)在[n]維空間中,由[m]個(gè)粒子組成一個(gè)種群,其中第[i]個(gè)粒子的位置[Xi]、速度[Vi]、自身最優(yōu)位置[Pi]及全局最優(yōu)位置[Pg]分別為:[Xi=(xi1,xi2,?,xin)],[Vi=(vi1,vi2,?,vin)],[Pi=(pi1,pi2,?,pin)]和[Pg=(pg1,][pg2,?,][pgn)]。粒子狀態(tài)更新策略為:
其中,[w(s)]是動(dòng)態(tài)慣性因子,采用線性遞減權(quán)重策略進(jìn)行設(shè)置:[w(s)=wmax-(wmax-wmin)Tmax?s],[s]為迭代次數(shù),[Tmax]為最大迭代次數(shù),[wmax]和[wmin]分別為最大慣性權(quán)重及最小慣性權(quán)重;[c1]、[c2]是常數(shù);[r1]、[r2]為[[0,1]]之間的隨機(jī)數(shù)。對(duì)種群中每個(gè)粒子用式(6)、式(7)進(jìn)行循環(huán)迭代,實(shí)現(xiàn)整個(gè)種群向全局最優(yōu)解的逐步逼近。PSO算法具體實(shí)施步驟如下:
Step1:確定種群規(guī)模[N],隨機(jī)生成初始種群[G],采用十進(jìn)制數(shù)對(duì)染色體進(jìn)行編碼,每條染色體上基因數(shù)為待優(yōu)化的變量個(gè)數(shù);設(shè)置最大迭代代數(shù),誤差精度[ε]。
Step2:構(gòu)造適應(yīng)度函數(shù)。由于訓(xùn)練為目標(biāo)函數(shù)極小值優(yōu)化問(wèn)題,適應(yīng)度函數(shù)取為[fit=e-E]。
Step3:PSO初始化, [w(s)]計(jì)算式中的[wmin]取0.4, [wmax]取0.9。
Step4:按照式(6)和式(7)進(jìn)行循環(huán)迭代,若滿足終止條件,則保存最優(yōu)解停機(jī)。
4 實(shí)驗(yàn)分析
旋轉(zhuǎn)機(jī)械是以轉(zhuǎn)子及其它回轉(zhuǎn)部件作為工作主體的機(jī)械設(shè)備,運(yùn)行中的常見(jiàn)故障主要包括:由轉(zhuǎn)子質(zhì)量偏心和轉(zhuǎn)子部件缺損引起的轉(zhuǎn)子不平衡,轉(zhuǎn)子之間的軸線由于安裝誤差、承載后變形等造成的轉(zhuǎn)子不對(duì)中,以及轉(zhuǎn)子與靜止部件之間的摩擦而引發(fā)的轉(zhuǎn)子碰磨等。利用機(jī)械振動(dòng)檢測(cè)信號(hào)進(jìn)行旋轉(zhuǎn)設(shè)備故障診斷,由于不同故障類型對(duì)應(yīng)不同的時(shí)域波形信號(hào),因此可通過(guò)對(duì)采樣區(qū)間內(nèi)連續(xù)信號(hào)波形的識(shí)別實(shí)現(xiàn)故障診斷。旋轉(zhuǎn)機(jī)械運(yùn)動(dòng)呈周期性,故可將機(jī)械的一個(gè)旋轉(zhuǎn)周期作為采樣區(qū)間,將一個(gè)周期內(nèi)的信號(hào)連續(xù)變化過(guò)程作為一個(gè)樣本。旋轉(zhuǎn)機(jī)械工作狀態(tài)主要分為正常運(yùn)轉(zhuǎn)、轉(zhuǎn)子不平衡、轉(zhuǎn)子不對(duì)中和轉(zhuǎn)子碰磨共4種模式,典型信號(hào)曲線如圖3所示。
從某機(jī)械裝備質(zhì)量檢測(cè)中心獲取旋轉(zhuǎn)機(jī)械檢測(cè)樣本350個(gè),其中3類故障樣本各100,運(yùn)行正常樣本50個(gè)。按比例分別選取70條轉(zhuǎn)子不平衡、75條轉(zhuǎn)子不對(duì)中、70條轉(zhuǎn)子碰磨和35條正常共250條信號(hào)曲線組成訓(xùn)練樣本集,測(cè)試集由其余100個(gè)樣本組成。由于設(shè)備檢測(cè)信號(hào)為離散采樣數(shù)據(jù),采用Legendre多項(xiàng)式函數(shù)系進(jìn)行函數(shù)擬合,基函數(shù)個(gè)數(shù)[L]為5時(shí)滿足精度0.05的擬合要求。以式(4)定義的深層多尺度RBFPNN作為故障自動(dòng)診斷器,以一個(gè)周期內(nèi)的連續(xù)變化信號(hào)作為網(wǎng)絡(luò)輸入,輸出為機(jī)械工作狀態(tài)。DLMS-BRFPNN網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)選擇如下:1個(gè)時(shí)間信號(hào)輸入節(jié)點(diǎn),20個(gè)徑向基核隱層節(jié)點(diǎn),40個(gè)全連接層節(jié)點(diǎn),1個(gè)故障模式輸出節(jié)點(diǎn)。轉(zhuǎn)子不平衡情況輸出對(duì)應(yīng)0.25,轉(zhuǎn)子不對(duì)中情況對(duì)應(yīng)0.50,轉(zhuǎn)子碰磨情況對(duì)應(yīng)0.75,正常工作狀態(tài)對(duì)應(yīng)1.0??紤]同類故障信號(hào)樣本模態(tài)特征的差異性,采用動(dòng)態(tài)聚類算法分別對(duì)3種故障樣本集進(jìn)行類內(nèi)聚類,相似性閾值[θ]取0.75。聚類結(jié)果為轉(zhuǎn)子不平衡細(xì)分類數(shù)[L1]=6,轉(zhuǎn)子不對(duì)中細(xì)分類數(shù)[L2=]6,轉(zhuǎn)子碰磨[L3=5],正常情況為[L4=]3。以各細(xì)分類中心函數(shù)為[zjl(t)]([l=Lj;j=1,2,3,4]),細(xì)分類寬度參數(shù)采用廣義方差計(jì)算。
其中,[Kjl]為細(xì)分類中的樣本數(shù),[xjlk(t)]為細(xì)分類中第[k]個(gè)信號(hào)樣本。
采用PSO算法對(duì)模型參數(shù)[wij,vj,βjt]([l=Lj;j=1,2,][3,4])進(jìn)行整體優(yōu)化求解。設(shè)置種群規(guī)模[G]=20,最大迭代次數(shù)[M]=1 000,學(xué)習(xí)精度[ε]=0.05。PSO算法參數(shù)取[c1=0.3],[c2=0.8];[r1=0.45],[r2=0.83]。作為對(duì)比,分別采用可直接輸入時(shí)間信號(hào)進(jìn)行判別的基于函數(shù)正交基展開(kāi)的雙隱層過(guò)程神經(jīng)網(wǎng)絡(luò)模型[28],網(wǎng)絡(luò)結(jié)構(gòu)為1-10-20-1,正交基取為5項(xiàng)Legendre多項(xiàng)式函數(shù)基;RBFPNN模型[23],網(wǎng)絡(luò)結(jié)構(gòu)為1-20-1。3種模型采用相同的訓(xùn)練集、測(cè)試集進(jìn)行訓(xùn)練和測(cè)試,以準(zhǔn)確率、召回率、精確率和F1等4項(xiàng)指標(biāo)對(duì)模型性質(zhì)進(jìn)行評(píng)價(jià),結(jié)果見(jiàn)表1。本文方法具體分類正確率如表2所示(混淆矩陣)。
實(shí)驗(yàn)結(jié)果表明,本文建立的深層多尺度徑向基過(guò)程神經(jīng)網(wǎng)絡(luò)診斷模型相比于PNN和RBFPNN診斷模型,在旋轉(zhuǎn)機(jī)械故障辨識(shí)性能指標(biāo)上有較大提高。這是由于在核函數(shù)構(gòu)造中,多尺度核及全連接層的特征融合改善了診斷模型對(duì)復(fù)雜時(shí)間信號(hào)過(guò)程特征的辨識(shí)和記憶性質(zhì);在類特征組合的基礎(chǔ)上,又進(jìn)行了更高層次組合的特征組合,可實(shí)現(xiàn)對(duì)輸入信號(hào)與核中心函數(shù)在細(xì)節(jié)特征上的相似性度量,達(dá)到了比較理想的診斷結(jié)果。
5 結(jié)語(yǔ)
本文提出了適用于小樣本集建模分類的一種深層多尺度徑向基過(guò)程神經(jīng)網(wǎng)絡(luò)模型和算法。模型從結(jié)構(gòu)上改善了對(duì)時(shí)變信號(hào)形態(tài)特征之間的相似性度量和記憶性質(zhì),可提高RBFPNN對(duì)動(dòng)態(tài)樣本復(fù)雜模態(tài)特征多樣性和復(fù)雜性的辨識(shí)能力,以及分類模型對(duì)時(shí)變信號(hào)過(guò)程細(xì)節(jié)特征的捕獲能力。但由于多尺度組合的核函數(shù)較大增加了尺度等相關(guān)參數(shù),全連接層增加了連接權(quán)參數(shù),使得網(wǎng)絡(luò)計(jì)算復(fù)雜度提高。因此,研究效率更高、更優(yōu)化的學(xué)習(xí)算法,是需要進(jìn)一步研究的重要課題。
參考文獻(xiàn):
[1]奧本海姆,謝弗,巴克,等. 離散時(shí)間信號(hào)處理[M]. 第2版. 西安:西安交通大學(xué)出版社, 2001.
[2]祁才君. 數(shù)字信號(hào)處理技術(shù)的算法分析與應(yīng)用[M]. 第1版. 北京:機(jī)械工業(yè)出版社,2005.
[3]徐百家,王亞清. 人工神經(jīng)網(wǎng)絡(luò)用于時(shí)域信號(hào)識(shí)別[J]. 信息與控制,1996,25(3):187-192.
[4]唐志川,張克俊. 基于深度卷積神經(jīng)網(wǎng)絡(luò)的運(yùn)動(dòng)想象分類及其在腦控外骨骼中的應(yīng)用[J]. 計(jì)算機(jī)學(xué)報(bào),2017,40(6):1367-1378.
[5]袁文浩,孫文珠. 利用深度卷積神經(jīng)網(wǎng)絡(luò)提高未知噪聲下的語(yǔ)音增強(qiáng)性能[J]. 自動(dòng)化學(xué)報(bào),2018,44(4):751-759.
[6]ACHARYA U,RAJENDRA F. Application of deep convolutional neural network for automated detection of myocardial infarction using ECG signals[J]. Information Sciences,2017,415-416:190-198.
[7]TAI Y,YANG J,LIU X M,et al. Image Super-Resolution via deep recursive residual network[C]. Honolulu:IEEE Conference on Computer Vision and Pattern Recognition,2017:1-24.
[8]SHI J,WEN H,ZHANG Y Z,et al. Deep recurrent neural network reveals a hierarchy of process memory during dynamic natural vision[J]. Human Brain Mapping,2018,39(5):2269-2282.
[9]VIDYARATNE L,GLANDON A,ALAM M,et al. Deep recurrent neural network for seizure detection[C]. Vancouver:2016 International Joint Conference on Neural Networks (IJCNN),2016.
[10]朱勇剛,李永貴. 噪聲功率時(shí)變的瑞利慢衰落信道有限狀態(tài)Markov模型[J]. 信號(hào)處理,2013,29(1):135-141.
[11]楊智勇,許愛(ài)強(qiáng). 基于多信號(hào)模型的系統(tǒng)測(cè)試性建模與分析[J]. 工程設(shè)計(jì)學(xué)報(bào),2007,14(5):364-368.
[12]邸若海,高曉光. 小數(shù)據(jù)集BN建模方法及其在威脅評(píng)估中的應(yīng)用[J]. 電子學(xué)報(bào),2016,6(44):1504-1511.
[13]張榮,鄧趙紅. 針對(duì)小樣本數(shù)據(jù)集的魯棒單隱層前饋網(wǎng)絡(luò)建模方法[J]. 控制與決策,2012,27(9):1308-1319.
[14]段萌,王功鵬. 基于卷積神經(jīng)網(wǎng)絡(luò)的小樣本圖像識(shí)別方法[J]. 計(jì)算機(jī)工程與設(shè)計(jì),2018,39(1):224-229.
[15]劉占生,竇唯. 基于主元-雙譜支持向量機(jī)的旋轉(zhuǎn)機(jī)械故障診斷方法[J]振動(dòng)與沖擊,2007,26(12):23-27.
[16]黃永明,章國(guó)寶. 全局特征及弱尺度融合策略的小樣本語(yǔ)音情感識(shí)別[J]. 聲學(xué)學(xué)報(bào),2012,37(3):330-338.
[17]滿瑞君,梁雪春. 基于多尺度小波支持向量機(jī)的交通流預(yù)測(cè)[J]. 計(jì)算機(jī)仿真,2013,30(11):156-159.
[18]李秀梅,楊國(guó)青. 幾種時(shí)頻分析方法的性能比較[J]. 計(jì)算機(jī)仿真,2015,32(3):220-224.
[19]ROLAND O. Multiscale kernels[J]. Advances in Computational Mathematics, 2006.
[20]ZHANG W,ZHAO J,ZHANG W L,et al. Multi-scale kernels for short utterance speaker recognition[C].9th International Symposium,Singapore,Chinese Spoken Language Processing,2014:414-417.
[21]胡站偉,焦立國(guó). 基于多尺度重采樣思想的類指數(shù)核函數(shù)構(gòu)造[J]. 電子與信息學(xué)報(bào),2016,38(7):1689-1695.
[22]RABIN N,F(xiàn)ISHELOV D.Multi-scale kernels for Nystr?m based extension schemes[J]. Applied Mathematics and Computation,2018,319:165-177.
[23]許少華,何新貴. 徑向基過(guò)程神經(jīng)元網(wǎng)絡(luò)及其應(yīng)用研究[J]. 北京航空航天大學(xué)學(xué)報(bào),2004,30(1):14-17.
[24]WANG J,XU G,ZHANG Q,et al. Application of improved morphological filter to the extraction of impulsive attenuation signals[J]. Mechanical Systems and Signal Processing, 2009, 23(2): 236-245.
[25]GU D B,HU H S. Spatial Gaussian process regression with mobile sensor networks[J]. IEEE Transactions on Neural Networks and Learning Systems,2012(23):1279-1290.
[26]汪洪橋,孫富春. 多核學(xué)習(xí)方法[J]. 自動(dòng)化學(xué)報(bào),2010,36(8):1037-1050.
[27]EBERHART R C,SHI Y.Comparing inertia weights and constriction factors in particle swarm optimization[C]. 2000 Congress on Evolutionary Computation,2000:84-88.
[28]許少華,何新貴. 基于基函數(shù)展開(kāi)的雙隱層過(guò)程神經(jīng)元網(wǎng)絡(luò)及其應(yīng)用[J]. 控制與決策,2004,19(1):36-39.
(責(zé)任編輯:孫 娟)
收稿日期:2019-11-14
作者簡(jiǎn)介:劉曉宇(1994-),女,山東科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院碩士研究生,研究方向?yàn)榇髷?shù)據(jù)分析、人工智能;武魯(1982-),男,山東科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院博士研究生,山東省計(jì)算中心研究員,研究方向?yàn)榇髷?shù)據(jù)分析、人工智能;許少華(1962-),男,博士,山東科技大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院教授、博士生導(dǎo)師,研究方向?yàn)榇髷?shù)據(jù)分析、智能信息處理。本文通訊作者:許少華。