, ,,,
(1.河海大學 a.水利水電學院;b.水文水資源與水利工程科學國家重點實驗室,南京 210098; 2.中國電建集團 貴陽勘測設計研究院有限公司,貴陽 550081)
變形是大壩安全監(jiān)測的必設項目,具有直觀、可靠性好等特點。建立準確的變形安全監(jiān)控模型對大壩安全穩(wěn)定運行具有重要的意義[1]?,F(xiàn)階段,應用較為廣泛的監(jiān)控模型分為統(tǒng)計模型和以人工神經(jīng)網(wǎng)絡為代表的人工智能算法[2-3]等。由于影響大壩安全的因素眾多而且復雜、監(jiān)測數(shù)據(jù)的非線性化、建模參數(shù)選擇的主觀性強,容易導致數(shù)據(jù)擬合時“過擬合化”,泛化能力差。
為了克服這些不足,傳統(tǒng)的神經(jīng)網(wǎng)絡(BP,SVM等)大多在結構設計和參數(shù)訓練上進行改進,但結構越復雜,需要的參數(shù)越多,對修正算法的要求也就越高。徑向基(Radial Basis Function,RBF)神經(jīng)網(wǎng)絡是一種前向神經(jīng)網(wǎng)絡,因其網(wǎng)絡結構簡單、學習收斂速度很快且能夠逼近任意非線性函數(shù)[4],被廣泛應用于時間序列分析、函數(shù)逼近、回歸問題以及預測等領域[5]。根據(jù)已有試驗結果,用標準PSO算法優(yōu)化RBF網(wǎng)絡3個參數(shù)時,隨著慣性權重的減小,標準PSO算法收斂速度會降低,進而影響其全局收斂性??紤]到大壩變形影響因素的復雜性,用單一函數(shù)模擬具有局限性。而AdaBoost算法作為一種集成算法,它的核心思想是訓練不同的弱分類器(Weaker Classifier),然后再把這些弱分類器按照不同的權重疊加(Boost)起來,構成一個更強的最終分類器(Stage Classifier),使預測分類更加準確[6]。為此,本文首先采用由Shi等[7]提出的線性遞減權重(Linear Decreasing Inertia Weight,LDIW)的方法實現(xiàn)對權值的調(diào)整,建立基于WPSO-RBF的大壩變形監(jiān)控模型,并將其作為大壩變形規(guī)律的弱分類器。然后采用AdaBoost算法,建立基于WPSO-RBF-AdaBoost的大壩變形監(jiān)控模型,最后結合實際工程,利用實測數(shù)據(jù)進行驗證。
2.1.1 徑向基(RBF)神經(jīng)網(wǎng)絡
RBF神經(jīng)網(wǎng)絡是一種3層的前向神經(jīng)網(wǎng)絡,在參數(shù)選取適當?shù)那疤嵯?,能夠以給定的精度逼近任意的連續(xù)函數(shù)。RBF神經(jīng)網(wǎng)絡拓撲結構[8]簡單:由信號源節(jié)點組成的輸入層;由徑向基函數(shù)激活的隱含層;對輸入模型響應的輸出層。其神經(jīng)網(wǎng)絡結構如圖1所示。
圖1 RBF神經(jīng)網(wǎng)絡拓撲結構Fig.1 Topological structure of Radial Basis Function
RBF徑向基神經(jīng)網(wǎng)絡常用的徑向基函數(shù)是高斯函數(shù),表示為
(1)
i=1,2,3,…,h,j=1,2,…,N。
(2)
式中:ci為隱含層節(jié)點的中心;wij為隱含層到輸出層的連接權值;yj為與輸入樣本對應的網(wǎng)絡的第j個輸出節(jié)點的實際輸出;h為隱含層節(jié)點數(shù);N為輸出樣本數(shù)。
2.1.2 粒子群算法優(yōu)化RBF神經(jīng)網(wǎng)絡
由式(1)和式(2)可知,RBF神經(jīng)網(wǎng)絡學習算法需要求解的參數(shù)[9]有3個:隱含層基函數(shù)的中心c、寬度d及隱含層到輸出層的權值w。經(jīng)比較,粒子群算法操作簡單,需要運行參數(shù)較少,收斂較快,在函數(shù)優(yōu)化、神經(jīng)網(wǎng)絡訓練等領域得到廣泛應用[10]。
粒子群算法[11](Particle Swarm Optimization,PSO)首先在可解空間中優(yōu)化一群粒子,每個粒子都代表優(yōu)化問題的一個潛在最優(yōu)解,用位置、速度和適應度表示粒子特征。粒子在解空間運動,通過跟蹤個體極值Pbest和群體極值Gbest更新個體位置。假設N維空間中,有m個粒子組成的種群X=(X1,X2,…,Xm),則第i個粒子的位置(即問題的一個潛在解)Xi、速度Vi、個體極值Pi分別為:
Xi=(xi1,xi2,…,xiN)T;
(3)
Vi=(Vi1,Vi2,…,ViN)T;
(4)
Pi=(Pi1,Pi2,…,PiN)T。
(5)
種群的全局極值Pg=(Pg1,Pg2,…,PgN)T,在每次迭代中,粒子通過個體極值和全局極值更新自身的速度和位置,更新公式為:
(6)
(7)
式中:ω為慣性權重;D=1,2,…,N;i=1,2,…,m;k為當前迭代次數(shù);ViD為粒子的速度,c1,c2為非負的常數(shù),稱為加速度因子;r1,r2為分布于[0,1]之間的隨機數(shù)。評價各粒子適應度,按歸一化均方根誤差定義適應度函數(shù),即
(8)
式中:M為輸入變量組數(shù),本文選取影響大壩變形的160組數(shù)據(jù)進行擬合;yj(k)為大壩變形擬合值;y(k)為大壩變形實際值。
2.1.3 動態(tài)權重粒子群算法優(yōu)化RBF神經(jīng)網(wǎng)絡
慣性權重體現(xiàn)的是粒子當前速度多大程度上繼承先前的速度,Shi等[12]最先將慣性權重引入到PSO算法中,并分析指出一個較大的慣性權重值有利于全局搜索,而一個較小的慣性權重值則更利于局部搜索。為了更好地平衡算法的全局搜索和局部搜索能力,其提出了線性遞減慣性權重(Linear Decreasing Inertia Weight,LDIW),即
ωt=ωmax-(ωmax-ωmin)t/T。
(9)
式中:t為當前迭代次數(shù);T為最大迭代次數(shù);ωmax,ωmin分別為初始最大、最小慣性權重。經(jīng)過大量的試驗,Shi提出當ωmax=0.95,ωmin=0.4時,算法的性能最優(yōu)[13]。
基于WPSO-RBF的大壩變形監(jiān)控模型[14]是用改進的粒子群算法優(yōu)化隱含層基函數(shù)的中心c、寬度d及隱含層到輸出層的權值w,用式(9)更新慣性權重。步驟流程見圖2。
圖2 WPSO-RBF模型的步驟流程Fig.2 Flowchart of WPSO-RBF model
AdaBoost算法的思想[15]是合并多個“弱”分類器的輸出以產(chǎn)生有效的分類。其基本思路是:對于樣本空間中M組訓練數(shù)據(jù),權重都是1/M,然后用弱學習算法(WPSO-RBF算法)迭代運算T次,每次運算后按照分類結果更新訓練數(shù)據(jù)權重,對于分類失敗的訓練個體賦予較大的權重,下一次迭代后運算時更加關注這些訓練個體。T次迭代之后得到由多個由WPSO-RBF弱分類器組成的強分類器。WPSO-RBF-AdaBoost預測模型流程見圖3,具體步驟如下。
圖3 WPSO-RBF-AdaBoost模型的算法流程Fig.3 Flowchart of WPSO-RBF-AdaBoost model
步驟1:選取數(shù)據(jù)和網(wǎng)絡初始化。從樣本空間中隨機選取M組訓練數(shù)據(jù)并歸一化,初始化測試數(shù)據(jù)的權值Dt(i)=1/M,其中M=160,利用圖2建立WPSO-RBF弱分類器。
步驟2:弱分類器預測。訓練第t個弱分類器時,用M組訓練數(shù)據(jù)訓練WPSO-RBF神經(jīng)網(wǎng)絡并且預測訓練數(shù)據(jù)輸出,得到預測序列g(t)的預測誤差和et,誤差和et的計算公式為
(10)
式中:g(t)為預測分類結果;y(t)為實際分類結果。
步驟3:計算預測序列權重。根據(jù)預測序列g(t)的預測誤差et計算序列的權重at,權重計算公式為
(11)
步驟4:測試數(shù)據(jù)權重調(diào)整。調(diào)整公式為
i=1,2,…,M。
(12)
式中Bt為歸一化因子,使得分布權值為1。
步驟5:重復步驟2至步驟4,得到T個弱分類器ht(x)。參考文獻[14]和試驗擬合取T=10。
步驟6:由T組弱分類器組合得到強分類器(強預測器),即
(13)
步驟1:初始化訓練數(shù)據(jù)和測試數(shù)據(jù),確定影響大壩變形的輸入層節(jié)點數(shù)m、隱含層節(jié)點數(shù)h、輸出層節(jié)點數(shù)k。
步驟2:粒子向量Lm=(cji,dj,wj),i=1,2,…,m,j=1,2,…,h,維度D=mh+h+hk。種群規(guī)模M,最大迭代次數(shù)T,速度更新系數(shù)c1=1.494 45,c2=1.494 45,粒子速度的邊界Vmax=1。經(jīng)過T次迭代得到最優(yōu)個體適應度和對應粒子的位置,將粒子位置映射到RBF神經(jīng)網(wǎng)絡,建立基于WPSO-RBF大壩變形監(jiān)控模型。
步驟3:循環(huán)步驟2,建立T個WPSO-RBF弱分類器,利用AdaBoost集成算法集成WPSO-RBF-AdaBoost強分類器。
步驟4:用已建的WPSO-RBF-AdaBoost與常用神經(jīng)網(wǎng)絡和傳統(tǒng)統(tǒng)計模型對測試數(shù)據(jù)進行擬合,并分別與實測值進行比較,分析比較各模型的擬合效果和預測精度。
向家壩水電站位于四川省宜賓縣和云南省水富縣交界處,大壩為混凝土重力壩。該壩于2012年10月10日下閘蓄水開始監(jiān)測,2013年9月12日蓄水至正常水位,并維持水位在380 m左右運行,已在左非7、左非1、航1、泄1、泄4、泄6等壩段布置了完整的正倒垂線。
現(xiàn)選取左非溢流7號壩段的垂線監(jiān)測資料對所建模型的擬合效果和預測精度進行測試。選取2013年1月8日—2015年5月2日共160組變形位移數(shù)據(jù)用于擬合,2015年5月11日—2015年12月21日共24組數(shù)據(jù)用于預測。大壩變形考慮水壓、溫度、時效的影響,影響因子取9個[16]。其中水壓因子取(H-H0),(H-H0)2,(H-H0)3三項(H,H0分別為監(jiān)測日、始測日對應的上游水頭);時效采用線性項和對數(shù)項模擬,即取θ-θ0,lnθ-lnθ0兩項(θ為監(jiān)測日到始測日的累計天數(shù)t除以100,θ0為建模系列第1個測值日到始測日的累計天數(shù)t0除以100);由于沒有實測的溫度資料數(shù)據(jù),溫度影響采用周期項模擬,即溫度因子取
四項(i為監(jiān)測日到建模資料系列第1個監(jiān)測日的累計天數(shù))。
輸入層節(jié)點數(shù)m=9,隱含層節(jié)點數(shù)采用K-means[17]算法,通過實驗仿真不斷嘗試調(diào)整K值大小,最后確認h=10,輸出層節(jié)點數(shù)即大壩變形k=1,RBF結構為9-10-1結構。
對9種變形監(jiān)測數(shù)據(jù)進行預處理(降噪處理等),降低觀測誤差對樣本的影響。改進的PSO算法中每個粒子的位置向量Lm=(cji,dj,wj),i=1,2,…,9,j=1,2,…,10。維度為D=9×10+10+10×1=110。粒子群算法種群規(guī)模為M=20;最大迭代次數(shù)T=100;速度更新系數(shù)為c1=1.494 45,c2=1.494 45;粒子速度的邊界Vmax=1。當適應度函數(shù)值達到最小時,WPSO算法優(yōu)化得到一組RBF網(wǎng)絡最優(yōu)參數(shù),如表1所示。
表1 WPSO算法優(yōu)化得到的RBF神經(jīng)網(wǎng)絡最優(yōu)參數(shù)值Table 1 Optimal parameter values of RBF neural network optimized by WPSO
表2 WPSO-RBF弱分類器參數(shù)Table 2 Parameters of WPSO-RBF weaker classifier
得到最后的強預測器為
H(x)=0.1421h(1)+0.1200h(2)+
0.0917h(3)+0.0748h(4)+0.1421h(5)+
0.0680h(6)+0.1359h(7)+0.0810h(8)+
0.0743h(9)+0.0701h(10) 。
(14)
為直觀地進行分析,將強預測器WPSO-RBF-AdaBoost模型與常用的神經(jīng)網(wǎng)絡模型(本文選取BP神經(jīng)網(wǎng)絡)和統(tǒng)計模型(采用多元回歸分析法)進行比較,如圖4所示。從圖4可知,WPSO-RBF-AdaBoost的訓練效果最好。
圖4 不同模型訓練擬合值與實測值對比Fig.4 Comparison between fitted values of model training and measured values
圖5 不同模型預測值與實測值對比Fig.5 Comparison between values predicted by different models and measured values
圖5是3種模型的預測值與實測值的對比圖,從圖5中可知:WPSO-RBF-AdaBoost模型預測值與實測值近乎一致,殘差最?。籅P模型預測值與實測值雖有所偏差,但總體趨勢一致,殘差居中;統(tǒng)計模型預測值與實測值偏離較大,殘差最大。
表4 強預測器與弱分類器的誤差比較Table 4 Comparison of error between stage classifier and weaker classifiers %
利用復相關系數(shù)R、均方差FMSE比較WPSO-RBF-AdaBoost模型、BP模型和統(tǒng)計模型的擬合精度(見表3),可以看出,WPSO-RBF-AdaBoost模型的復相關系數(shù)最大,均方差最小,曲線擬合精度最好。表4是選取擬合數(shù)據(jù)中的8個大壩變形位移對弱預測器和強預測器進行比較,可得出經(jīng)過AdaBoost集成算法,可有效地提高模型的預測精度和擬合效果。
表3WPSO-RBF-AdaBoost模型、WPSO-RBF模型和RBF模型的擬合精度對比
Table3ComparisonoffittingaccuracyamongWPSO-RBF-AdaBoostmodel,WPSO-RBFmodel,andRBFmodel
通過對工程實例的建模分析,驗證WPSO-RBF-AdaBoost模型較BP模型和統(tǒng)計模型具有更好的預測精度和泛化能力,但同時也存在一些問題。
(1)WPSO-RBF神經(jīng)網(wǎng)絡預測模型克服了RBF神經(jīng)網(wǎng)絡由于參數(shù)選取不當而影響其收斂性的弊端,WPSO-RBF模型相比原RBF預測精度高。
(2)利用AdaBoost集成算法優(yōu)化改進WPSO-RBF模型,將優(yōu)化后的WPSO-RBF模型按照預測精度賦予不同的權值,并用加權的方式進行集成,建立WPSO-RBF-AdaBoost模型,該模型的精度優(yōu)于傳統(tǒng)BP神經(jīng)網(wǎng)絡和統(tǒng)計模型,值得在工程實踐中推廣。
(3)改進的PSO算法仍然需要初始化參數(shù),在迭代次數(shù)足夠多的情況下,參數(shù)的初始化對PSO算法影響不大,然而計算量增大。在保證改進PSO算法性能的基礎上,如何選取好的初始值并減少算法的工作量是下一步的研究重點。
(4)用弱分類器集成強分類器時,影響因子選取單一,構建的弱分類器模型單一,后續(xù)研究中可構建特征差異明顯的弱分類器,以得到更好的預測模型。
參考文獻:
[1] 吳中如.水工建筑物安全監(jiān)控理論及其應用[M].北京:高等教育出版社,2003.
[2] SU Huai-zhi, HU Jiang, WU Zhong-ru. A Study of Safety and Early-warning Method for Dam Global Behavior [J].Structural Health Monitoring, 2012, 11(3): 269-279.
[3] 王 凌.智能優(yōu)化算法及其應用[M].北京:清華大學出版社,2001.
[4] PARK J, SANDBERG I W. Universal Approximation Using Radial-Basis-Function Networks[J]. Neural Computation,1991,3(2):246-257.
[5] 張 輝,柴 毅.一種改進的RBF神經(jīng)網(wǎng)絡參數(shù)優(yōu)化方法[J].計算機工程與應用,2012,48(20):146-149,157.
[6] 胡德華,鄭東健,付浩雁.AdaBoost-BP模型在大壩變形預測中的應用[J].三峽大學學報(自然科學版),2015,37(5):5-8.
[7] SHI Y H, EBERHART R C. Empirical Study of Particle Swarm Optimization[C]∥Proceedings of the 1999 Congress on Evolutionary Computation-CEC 99. Washington, DC, USA, July 6-9,1999:1945-1950.
[8] 黃劍竹.改進RBF-AdaBoost模型及其在年徑流預測中的應用[J].人民珠江,2015,(1):32-36.
[9] 胡 昊,魏繼紅.基于PSO-RBF的邊坡安全系數(shù)預測[J].河南科學,2016,34(5):747-751.
[10] CHEN S, HONG X, LUK B L,etal. Non-linear System Identification Using Particle Swarm Optimization Tuned Radial Basis Function Models[J]. International Journal of Bio-inspired Computation, 2009,1(4): 246-258.
[11] 周 馳,高海兵,高 亮,等.粒子群優(yōu)化算法[J].計算機應用研究,2003,20(12):7-11.
[12] SHI Y H, EBERHART R C. A Modified Particle Swarm Optimizer[C]∥Proceedings of IEEE International Conference on Evolutionary Computation. Anchorage Alaska, USA, May 4-9, 1998: 69-73.
[13] 劉建華.粒子群算法的基本理論及其改進研究[D].長沙:中南大學,2009:22-46.
[14] 盧金娜.基于優(yōu)化算法的徑向基神經(jīng)網(wǎng)絡模型的改進及應用[D].太原:中北大學,2015.
[15] 王小川,史 峰,郁 磊.MATLAB神經(jīng)網(wǎng)絡43個案例分析[M].北京:北京航空航天大學出版社,2016:42.
[16] 蔣 明,鄭東健,張 凱,等.FA-SVM模型在大壩變形預測中的應用[J].水力發(fā)電,2015,41(4): 79-81,99.
[17] 喬俊飛,韓紅桂.前饋神經(jīng)網(wǎng)絡分析與設計[M].北京:科學出版社,2013.