李斌 韓曉紅
摘要:ELM是一個(gè)單隱層神經(jīng)網(wǎng)絡(luò),具有良好的泛化和快速學(xué)習(xí)能力,該算法只需用戶調(diào)整隱含層節(jié)點(diǎn)個(gè)數(shù),但該參數(shù)的選擇直接影響了ELM的性能。文章提出一種新的優(yōu)化方案,該方案使用GSA優(yōu)化輸入特征子集和隱含層節(jié)點(diǎn)數(shù)以提高ELM的性能,實(shí)驗(yàn)結(jié)果表明:該方法在識(shí)別電能質(zhì)量擾動(dòng)方面更快、更準(zhǔn)確。
關(guān)鍵詞:GSA;ELM;小波變換;特征選擇;萬有引力搜索算法;極限學(xué)習(xí)機(jī) 文獻(xiàn)標(biāo)識(shí)碼:A
中圖分類號(hào):TM614 文章編號(hào):1009-2374(2015)29-0015-03 DOI:10.13535/j.cnki.11-4406/n.2015.29.008
1 概述
工業(yè)中由于電能質(zhì)量(Power-Quality,PQ)問題已經(jīng)造成大量資源的流失,導(dǎo)致PQ問題的主要原因是過多地使用固態(tài)開關(guān)設(shè)備、非線性負(fù)載、各種數(shù)據(jù)處理設(shè)備等。這些設(shè)備的使用使得PQ信號(hào)的相位、頻率和振幅發(fā)生了畸變,從而進(jìn)一步導(dǎo)致過熱、電機(jī)故障、諧波失真等問題。傳統(tǒng)上,PQ問題可以通過目測(cè)干擾波形,但該方法需要工程師具備一定的專業(yè)知識(shí),且需要分析大量數(shù)據(jù),因此,有必要開發(fā)自動(dòng)的PQ干擾識(shí)別方法。
自動(dòng)識(shí)別方法主要包括兩步:特征提取和模式識(shí)別。小波變換(Wavelet Transform,WT)可以用于電力信號(hào)擾動(dòng)檢測(cè)和定位。有學(xué)者提出基于WT和人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Network,ANN)的PQ擾動(dòng)檢測(cè)方法。參考文獻(xiàn)[4]使用支持向量機(jī)(Support Vector Machine,SVM)實(shí)現(xiàn)信號(hào)的識(shí)別。然而,SVM需要對(duì)復(fù)雜的二次規(guī)劃問題進(jìn)行求解,涉及高的計(jì)算復(fù)雜度和時(shí)間成本,當(dāng)數(shù)據(jù)集較大時(shí),這一缺陷更為明顯。參考文獻(xiàn)[5]使用ANN實(shí)現(xiàn)多分類,ANN通過網(wǎng)絡(luò)直接把輸入數(shù)據(jù)映射到不同的類,ANN易于實(shí)現(xiàn),更像人類的思維認(rèn)知,然而,對(duì)于大規(guī)模問題,ANN缺乏有效的快速學(xué)習(xí)算法,且存在隱含層神經(jīng)元個(gè)數(shù)的選擇問題。
極限學(xué)習(xí)機(jī)(Extreme Learning Machine,ELM)是一種新的學(xué)習(xí)算法,它是一種單隱層前饋神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法。相比傳統(tǒng)的基于梯度的學(xué)習(xí)算法,ELM學(xué)習(xí)速度快,且泛化性能好,同時(shí)避免了傳統(tǒng)學(xué)習(xí)方法面臨的問題。本文使用ELM進(jìn)行PQ擾動(dòng)信號(hào)識(shí)別,相比其他方法,ELM的優(yōu)點(diǎn)是用戶只需調(diào)整隱含層節(jié)點(diǎn)數(shù)目,但最佳隱含層節(jié)點(diǎn)數(shù)目的選擇可以提高其性能。萬有引力搜索算法(Gravitational Search Algorithm,GSA)是一種新的群體優(yōu)化算法,相比其他優(yōu)化算法,它具有跳出局部最優(yōu)解的能力,且易于實(shí)現(xiàn),本文通過GSA優(yōu)化ELM參數(shù)以獲得較高的分類精度,同時(shí)使用GSA對(duì)小波變換后PQ擾動(dòng)信號(hào)進(jìn)行特征提取,以完成對(duì)電能質(zhì)量擾動(dòng)信號(hào)的識(shí)別。
2 方法
基于GSA的ELM電能質(zhì)量擾動(dòng)分類系統(tǒng)首先通過GSA檢測(cè)最佳特征子集,接著使用GSA估計(jì)最佳隱含層節(jié)點(diǎn)數(shù),以達(dá)到自動(dòng)優(yōu)化ELM分類器的準(zhǔn)確性。圖1為基于GSA的ELM優(yōu)化分類框架。
圖1 GSA-ELM分類框架
給定訓(xùn)練集{Xi,Yi},隱含層節(jié)點(diǎn)輸出函數(shù)為G(W,B,X),Lmax為最大隱含層節(jié)點(diǎn)數(shù)。
步驟1:通過GSA算法選擇最佳輸入特征數(shù)量(N)和隱含層節(jié)點(diǎn)數(shù)(L)。
步驟2:隨機(jī)分配隱含節(jié)點(diǎn)的參數(shù)(Wi,Bi),i=1,2,……,L。
步驟3:計(jì)算隱含層的輸出矩陣YH。
步驟4:計(jì)算輸出權(quán)值,是隱含層輸出矩陣的廣義Moore–Penrose逆矩陣。
2.1 編碼
為了有效地利用GSA優(yōu)化ELM,使用二進(jìn)制編碼表示粒子。表1顯示了使用的二進(jìn)制粒子表示,每個(gè)粒子由兩部分組成:第一部分包含特征子集f,f選自d個(gè)輸入特征;第二部分包含隱含層神經(jīng)元個(gè)數(shù)。由于位置向量的第一部分用于實(shí)現(xiàn)特征選擇任務(wù),每個(gè)元素為“0”(特征丟棄)或“1”(特征選擇)。代表特征值,表示隱含層神經(jīng)元個(gè)數(shù),nc為隱含層神經(jīng)元的位數(shù)。實(shí)驗(yàn)使用7位編碼方案表示隱含層神經(jīng)元,13位表示特征值。
表1 籽子表示
2.2 適應(yīng)度函數(shù)
GSA基于適應(yīng)度函數(shù)值評(píng)估每一個(gè)候選解pi的優(yōu)劣。適應(yīng)度函數(shù)使用分類精度和特征數(shù)作為評(píng)估標(biāo)準(zhǔn)。具有較高的分類精度和少的特征數(shù)目的粒子具有高的適應(yīng)度值。式(1)為定義的適應(yīng)度函數(shù),適應(yīng)度函數(shù)有兩個(gè)預(yù)定義的權(quán)重wA和wF,wA代表ELM分類精度acci的權(quán)值;wF代表所選擇的特征的權(quán)值。
(1)
fj為“1”表示第j個(gè)特征被選擇,“0”表示沒被選中,nF是總的特征數(shù)。分類的準(zhǔn)確性(acc)表示正確分類的百分比,acc通過公式(2)計(jì)算,其中cc表示正確分類的數(shù)目,uc表示錯(cuò)誤分類的數(shù)目。
(2)
2.3 GSA-ELM系統(tǒng)
基于GSA的特征選擇和ELM參數(shù)優(yōu)化系統(tǒng)描述如下(如圖2所示):
步驟1:隨機(jī)初始化S個(gè)粒子的位置及速度矢量vi(i=1,2,…,S)。
步驟2:使用每個(gè)粒子pi∈Rd+1(i=1,2,…,S)中的特征子集和隱含層神經(jīng)元數(shù)、訓(xùn)練ELM分類器,并計(jì)算相應(yīng)的適應(yīng)度函數(shù)值fitnessi。
步驟3:更新G(t)、worst(t)、best(t)、,i=1,2,…,S。
步驟4:計(jì)算不同方向的合力,計(jì)算加速度和速度。
步驟5:使用。
步驟6:使用每個(gè)候選粒子pi(i=1,2,…,S),訓(xùn)練ELM分類器,計(jì)算相應(yīng)的適應(yīng)度函數(shù)fitnessi。
步驟7:如果最大迭代次數(shù)尚未達(dá)到,返回到步驟2,否則轉(zhuǎn)到步驟8。
步驟8:選擇群中最佳位置,通過映射的特征子集培訓(xùn)ELM分類器,使用映射的隱層神經(jīng)元數(shù)目建模。
步驟9:使用訓(xùn)練好的ELM分類器對(duì)電能質(zhì)量擾動(dòng)信號(hào)進(jìn)行分類。
圖2 基于GSA的特征選擇和ELM參數(shù)優(yōu)化流程圖
3 實(shí)驗(yàn)
本節(jié)實(shí)驗(yàn)評(píng)估提出的GSA-ELM分類系統(tǒng)的性能。使用MATLAB 2013a作為開發(fā)平臺(tái),實(shí)驗(yàn)硬件環(huán)境是Intel(R)Core(TM)i5-4440CPU@3.10GHz,3.09GHz 8.00GB內(nèi)存,操作系統(tǒng)是Microsoft Windows 8。
3.1 數(shù)據(jù)描述
實(shí)驗(yàn)使用9類(C1-C9)不同的PQ干擾事件,數(shù)據(jù)描述如下:C1表示電壓暫降,C2表示電壓暫升,C3表示電壓中斷,C4表示諧波,C5表示頻率波動(dòng),C6表示振蕩暫態(tài),C7表示間諧波,C8表示脈沖暫態(tài),C9表示電壓缺口。在MATLAB使用不同參數(shù)值的參數(shù)化模型產(chǎn)生這9類電能質(zhì)量信號(hào)。
實(shí)際中,每個(gè)擾動(dòng)事件的特性會(huì)有很大的差異。為了模擬實(shí)際,生成100種不同的事件。50個(gè)事件用于培訓(xùn),通過隨機(jī)變化各種參數(shù)生成另外50個(gè)事件,用于測(cè)試事件的所屬類別,使用深度、角度、開始時(shí)間和持續(xù)時(shí)間用于改變事件的不同種類。深度指一個(gè)信號(hào)的幅度變化,角度代表信號(hào)的相移,開始時(shí)間是事件開始的時(shí)間,持續(xù)時(shí)間指事件的擾動(dòng)時(shí)間。
根據(jù)IEEE,實(shí)驗(yàn)中的上述參數(shù)在不同的情況下有所變化,對(duì)這些樣本進(jìn)行小波變換,分解信號(hào)到第十三級(jí)。
3.2 基于特征選擇和參數(shù)優(yōu)化的擾動(dòng)分類
GSA算法的種群大小設(shè)置為20,隱含層神經(jīng)元的搜索范圍是0~127。準(zhǔn)確率權(quán)值wA調(diào)整到95%,特征集的權(quán)值wF設(shè)置為5%。表2給出了在特定的迭代下給定神經(jīng)元個(gè)數(shù),獲得的最優(yōu)特征數(shù)目和ELM隱含層神經(jīng)元的數(shù)目。
為了評(píng)估該方法的有效性和可行性,比較ELM和GSA-ELM的分類準(zhǔn)確率,比較結(jié)果列于表3。從表3可見,使用基于特征選擇和參數(shù)優(yōu)化方法的GSA-ELM分類性能超過ELM的分類性能。
表4給出每個(gè)類的精度比較結(jié)果,從表4可以看出,使用基于GSA-ELM分類方法,有4種擾動(dòng)(C1,C5,C6,C7)獲得了百分之百的分類精度,使用ELM方法,有2種擾動(dòng)(C2,C4)獲得了百分之百的分類精度。
4 結(jié)語
本文提出基于GSA的ELM電能質(zhì)量擾動(dòng)識(shí)別方法,通過GSA檢測(cè)可用的最佳特征子集和優(yōu)化的ELM參數(shù),提高ELM分類器的分類性能。該方法對(duì)于提高具有分類能力的PQ監(jiān)測(cè)設(shè)備的性能具有巨大的潛力。從所獲得的實(shí)驗(yàn)結(jié)果可以看出,提出的方法可以應(yīng)用于電能質(zhì)量擾動(dòng)信號(hào)分類,且該方法的分類能力優(yōu)于傳統(tǒng)的分類方法。
參考文獻(xiàn)
[1] W.-M.Lin,C.-H.Wu,C.-H.Lin,F(xiàn).-S.Cheng.Detection and classification of mul-tiple power-quality disturbances with wavelet multiclass SVM[J].IEEE Trans.Power Deliv,2008,23(4).
[2] H.Eris ti,Y.Demir.Automatic classification of power quality events and dis-turbances using wavelet transform and support vector machines[J].IET Gener.Transm.Distrib,2012,6(10).
[3] A.M.Gaouda,M.M.A.Salama,M.K.Sultan,A.Y.Chikhani.Power quality detec-tion and classification using wavelet-multiresolution signal decomposition[J].IEEE Trans.Power Deliv,1999,14(4).
[4] C.Cortes,V.Vapnik.Support vector networks[J].Mach.Learn,1995,(20).
[5] R.Zhang,G.-B.Huang,N.Sundararajan,P.Saratchandran.Multicategory classi-fication using an extreme learning machine for microarray gene expressioncancer diagnosis[J].IEEE/ACM Trans.Comput.Biol.Bioinform,2007,4(3).
[6] W.Li,C.Chen,H.Su,Q.Du.Local binary patterns and extreme learning machinefor hyperspectral imagery classification[J].IEEE Trans.Geosci.Remote Sens,2015,53(7).
[7] G.-B.Huang,C.-K.Siew.Extreme learning machine:RBF network case,in:Proceedings of the Eighth International Conference on Control,Automation,Robotics and Vision(ICARCV 2004)[J].Kunming,China,2004,(2).
[8] Y.Bazi,N.Alajlan,F(xiàn).Melgani,H.AlHichri,S.Malek,R.R.Yager.Differential evo-lution extreme learning machine for the classification of hyperspectral images[J].IEEE Trans.Geosci.Remote Sens.Lett,2014,11(6).
[9] E.Rashedi,H.Nezamabadi-pour,S.Saryazdi.GSA:a gravitational search algorithm[J].Inform.Sci,2009,179.
[10] E.Rashedi,H.Nezamabadi-Pour,S.Saryazdi.BGSA:binary gravitational search algorithm[J].Nat.Comput,2010,9.
[11] A.M.Gargoom,N.Ertugrul,W.L.Soong.Investigation of effective automaticrecognition systems of power-quality events[J].IEEE Trans.Power Deliv,2007,22(4).
基金項(xiàng)目:山西省自然科學(xué)基金資助項(xiàng)目(2014011021-1)。
作者簡(jiǎn)介:李斌(1985-),男,供職于國(guó)網(wǎng)寧夏電力公司信息通信公司。
(責(zé)任編輯:周 瓊)