胡 軍 王凱凱 夏治國
(遼寧科技大學(xué)礦業(yè)工程學(xué)院,遼寧 鞍山 114051)
分層魚群優(yōu)化支持向量機(jī)預(yù)測巷道圍巖松動圈厚度
胡 軍 王凱凱 夏治國
(遼寧科技大學(xué)礦業(yè)工程學(xué)院,遼寧 鞍山 114051)
為了及時掌握巷道圍巖松動圈的厚度,以便采取措施控制圍巖的安全性,采用基于最大間隔算法的支持向量機(jī)進(jìn)行預(yù)測。考慮支持向量機(jī)的性能很大程度依賴于參數(shù)的選擇,提出改進(jìn)的人工魚群算法優(yōu)化支持向量機(jī)的參數(shù),以取得更好的準(zhǔn)確度。首先對基本人工魚群算法增加了種類分層和交叉變異,然后以此優(yōu)化的參數(shù)對考查數(shù)據(jù)進(jìn)行支持向量機(jī)回歸預(yù)測。通過人工魚群行為和參數(shù)的改進(jìn),擴(kuò)大了搜索空間,增加了全局優(yōu)化的穩(wěn)定性,克服了人工魚群后期尋優(yōu)速度慢等問題。對某巷道圍巖松動圈厚度監(jiān)測與預(yù)測結(jié)果表明:該模型的預(yù)測精度較高,縮短了尋找參數(shù)的時間,泛化性能提高,收斂加快,可以有效地指導(dǎo)巷道圍巖安全性的監(jiān)測。
分層人工魚群算法 支持向量機(jī) 巷道圍巖 松動圈厚度
巷道圍巖松動圈,是巷道開挖過程中形成的破裂區(qū)。巷道的松動圈已經(jīng)成為巷道開挖中的普遍現(xiàn)象,穩(wěn)定后的松動圈厚度集中體現(xiàn)了原巖應(yīng)力、圍巖強(qiáng)度等因素的共同作用。近年來,針對此現(xiàn)象,很多學(xué)者做了大量的研究實(shí)驗(yàn),提出了圍巖松動圈支護(hù)理論,并指出松動圈形成因素非常復(fù)雜。目前對松動圈的測量,多采用聲波儀測量,但聲波檢測成本高,不太可行。作為一項(xiàng)重要課題,需要不斷探索新的檢測方法,以取得更好的效果。
由于影響圍巖松動圈厚度的因素復(fù)雜多變,主要有巷道埋深、巷道跨度、圍巖強(qiáng)度及圍巖節(jié)理發(fā)育程度等,近年來人們采用了各種人工智能算法如BP神經(jīng)網(wǎng)絡(luò)等對觀測數(shù)據(jù)進(jìn)行回歸擬合分析,預(yù)測松動圈厚度,作為安全性指導(dǎo),效果仍有改進(jìn)的地方。本研究借助支持向量機(jī)良好的回歸擬合特性,應(yīng)用分層人工魚群算法優(yōu)化支持向量機(jī)的參數(shù),對巷道圍巖松動圈進(jìn)行了訓(xùn)練學(xué)習(xí),并作出了預(yù)測與實(shí)測的對比,取得了較為準(zhǔn)確的擬合效果,可作為現(xiàn)實(shí)操作的依據(jù)。
人工魚群算法作為新型的群智能優(yōu)化算法,其解決的是一般的優(yōu)化問題[1]:
(1)
式中,σ=f(X)為目標(biāo)函數(shù);g(X)為約束函數(shù);s.t.為約束域;X為n維優(yōu)化變量。
1.1 基本的人工魚群算法原理
人工魚群算法作為一種新型仿生體的優(yōu)化模型,它具有較多優(yōu)勢,如對參數(shù)要求不高、魯棒性強(qiáng)、全局收斂性好等。由于魚類是人為設(shè)定的,不像真正的自然魚具有綜合判斷的高級功能,它們只能通過個體或群體的簡單行為達(dá)到尋優(yōu)的目的,因此它們的尋優(yōu)過程,主要通過以下4種行為[2]實(shí)現(xiàn)的。
(1)覓食行為。表現(xiàn)為人工魚向著食物多的方向移去,由人工魚的當(dāng)前狀態(tài)向其感知范圍內(nèi)的另一個狀態(tài)移動,反復(fù)嘗試Try_number次后,若適應(yīng)度值較好,則前進(jìn)一步:
(2)
(2)聚群行為。表現(xiàn)為人工魚盡量向不太擁擠的鄰近伙伴的中心移動。由人工魚在當(dāng)前狀態(tài)下,搜索當(dāng)前鄰域的伙伴數(shù)目及中心位置,符合Yc/nf>δYi時,則前進(jìn)一步:
(3)
式中,nf為人工魚當(dāng)前鄰域的伙伴數(shù)目;Xc為人工魚的中心位置;Yc為中心位置人工魚的適應(yīng)度值;Xi為人工魚的適應(yīng)度值;δ為擁擠度因子。
(3)追尾行為。表現(xiàn)為人工魚向鄰近適應(yīng)度值最好的且不太擁擠的人工魚移動。當(dāng)人工魚搜索到Y(jié)c/nf>δYi時,則朝Xi的方向前進(jìn)一步,基本公式同覓食行為。
(4)隨機(jī)行為。表現(xiàn)為為了擴(kuò)大尋找范圍,人工魚隨機(jī)選擇一個方向移動,它實(shí)則也是覓食行為的一個缺省行為。
其基本尋優(yōu)原理見圖1所示。
1.2 分層人工魚群算法
人工魚群算法具有克服局部極值等優(yōu)點(diǎn),但隨著迭代次數(shù)的增加,它也存在很多地方需要改進(jìn):①當(dāng)需要尋優(yōu)的空間較大時,因存儲空間的增加,收斂減慢,搜索性能降低;②算法初期收斂較快,后期收斂速度變慢[3]。③算法在尋優(yōu)后期,魚群參數(shù)的固化尋優(yōu)效率降低。
圖1 基本尋優(yōu)原理
針對以上問題,通過與文獻(xiàn)[4]的對比研究,并結(jié)合遺傳算法交叉變異[5]的思想,本例改進(jìn)了人工魚群算法,即分層人工魚群算法,具體內(nèi)容為:①每次迭代的人工魚混合后進(jìn)行了分層,平均分成幾個種群,每個種群設(shè)置不同的參數(shù),包括視野、步長、嘗試數(shù)和擁擠度因子等;②對每層的人工魚分別進(jìn)行魚群尋優(yōu),比較每層種群的最優(yōu)解,得到的最優(yōu)解記錄到公示牌;③采用最優(yōu)保留策略,在多層種群中分別選取較好的人工魚保留,作為下一代直接尋優(yōu);④選取各層種群剩余的人工魚個體進(jìn)行交叉變異,得到個體優(yōu)于公示牌的記錄到公示牌,增加尋優(yōu)效率。
其具體步驟為:①初始化人工魚基本參數(shù)[6],如人工魚數(shù)目N,步長Step,視野Visual,嘗試次數(shù)Try_number、擁擠度因子δ,交叉概率Pc,變異概率Pm;②隨機(jī)生成多層(偶數(shù)層)種群數(shù)目相同的人工魚種類,各種群魚類的設(shè)置參數(shù)不同,適應(yīng)度函數(shù)取為支持向量機(jī)訓(xùn)練結(jié)果的均方誤差,并把當(dāng)前最優(yōu)值記錄到公示牌;③分別進(jìn)行人工魚的4種行為判斷執(zhí)行,記錄下最優(yōu)值到公示牌;④在多層人工魚中,各選取同樣多的最優(yōu)的人工魚數(shù)直接保留,進(jìn)行下一代的操作;⑤對剩下的多層人工魚分別選取兩層進(jìn)行交叉變異[7],記錄下最優(yōu)值到公示牌;⑥判斷是否達(dá)到迭代條件,達(dá)到則記錄下公示牌中的最優(yōu)值,否則轉(zhuǎn)至③,仍以不同種群分別尋優(yōu)。
支持向量機(jī)(SVM)主要思想是最大間隔算法,使得正例和反例之間的隔離邊緣被最大化;它以統(tǒng)計(jì)學(xué)習(xí)理論作為理論基礎(chǔ),更精確地說,支持向量機(jī)是結(jié)構(gòu)風(fēng)險最小化的近似實(shí)現(xiàn)[8]。
2.1 回歸模型
回歸支持向量機(jī)采用的是線性ε不敏感損失函數(shù)法[9],其函數(shù)Lε(x,y,f)定義為
Lε(x,y,f)=|y-f(x)|ε=
(4)
式中,f是域X上的實(shí)值函數(shù)。
假設(shè)給定l個樣本數(shù)據(jù)[10]{xi,yi},i=1,2,…,l,其中,Xi∈Rn,為n維樣本輸入,yi∈R,為樣本輸出,在線性函數(shù)集合中,尋找一種估計(jì)回歸函數(shù)f,經(jīng)過訓(xùn)練,得到f(x)即為y,即:
f(x)=(wx)+b,w,x∈Rn,b∈R,
(5)
式中,(x1,yi),…(xi,yi)是獨(dú)立分布的數(shù)據(jù);w為權(quán)值矢量;b為偏執(zhí)量;R,Rn分別表示為一維和n維實(shí)數(shù)集。回歸估計(jì)問題的求解目的是要尋找w和b,使得對于樣本以外的輸入x,滿足|f(x)-(wx)-b|≤ε,求解上式的參數(shù)等價于求解在式(7)的約束下,求式(6)的最小值的優(yōu)化問題[9]。
(6)
(7)
對于非線性函數(shù)回歸問題,可加入核函數(shù)k(x,x′)代替點(diǎn)積,訓(xùn)練數(shù)據(jù)集非線性映射到一個高維特征空間,再回歸估計(jì)。
2.2 參數(shù)選擇
支持向量機(jī)的參數(shù)主要涉及到SVM模型設(shè)置類型s,核函數(shù)類型t,懲罰參數(shù)c和核函數(shù)參數(shù)g等。s和t取值范圍小,可根據(jù)經(jīng)驗(yàn)直接設(shè)定,但c和g取值范圍大,一般是任意給定或通過測試經(jīng)驗(yàn)給定,通常需遍歷盡可能多的參數(shù)點(diǎn),才能達(dá)到較好的回歸效果。
支持向量機(jī)的學(xué)習(xí)與泛化能力很大程度上取決于其參數(shù)的選擇[11],隨機(jī)選擇的參數(shù)往往無法保證理想的準(zhǔn)確率,目前多采用網(wǎng)格劃分、交叉驗(yàn)證和梯度下降法等尋找最佳參數(shù),但大范圍內(nèi)尋找時,需消耗很多時間,效率低下。故本研究改進(jìn)人工魚群算法進(jìn)行尋優(yōu)最佳參數(shù)。
由于參數(shù)選擇的隨機(jī)性較大,并考慮分層人工魚群算法良好的啟發(fā)式尋優(yōu)特性,因此本研究采取分層人工魚群算法對向量機(jī)懲罰函數(shù)c和核函數(shù)參數(shù)g進(jìn)行參數(shù)尋優(yōu)。應(yīng)用LibSVM工具箱建立回歸模型,進(jìn)行SVM回歸訓(xùn)練,具體步驟如下。
(1)建立模型,選定自變量和因變量。
(2)數(shù)據(jù)預(yù)處理,歸一化處理自變量和因變量。
(3)參數(shù)選擇,本研究采用分層人工魚群算法進(jìn)行參數(shù)尋優(yōu)獲得參數(shù)c、g。
(4)訓(xùn)練與回歸預(yù)測。
采用文獻(xiàn)[12]巷道圍巖松動圈厚度的相關(guān)數(shù)據(jù),運(yùn)用分層人工魚群算法優(yōu)化支持向量機(jī)進(jìn)行回歸學(xué)習(xí),其結(jié)果如表1,擬合效果較為理想。
表1 訓(xùn)練樣本集及訓(xùn)練結(jié)果
注:節(jié)理發(fā)育系數(shù)1,2,3,4,5分別對應(yīng)節(jié)理很不發(fā)育、不發(fā)育、中等發(fā)育、較發(fā)育及很發(fā)育。
本實(shí)例自變量取為巷道埋深、巷道跨度、圍巖強(qiáng)度及圍巖節(jié)理發(fā)育程度4個因素,圍巖松動圈厚度作為因變量[12],并以表1的數(shù)據(jù)作為訓(xùn)練樣本,表2的數(shù)據(jù)作為預(yù)測樣本進(jìn)行學(xué)習(xí)訓(xùn)練。
表2 預(yù)測樣本集及結(jié)果
本研究采用Libsvm工具箱建立回歸模型,選取SVM模型類型s=4(nu-Support Vector Regression),核函數(shù)t=2(高斯RBF核函數(shù)),通過分層魚群算法尋優(yōu)獲得懲罰函數(shù)c和核函數(shù)參數(shù)g。本例以支持向量機(jī)訓(xùn)練樣本的均方誤差作為適應(yīng)度函數(shù),通過改進(jìn)的人工魚群算法進(jìn)行尋優(yōu)。設(shè)了2層人工魚種類,各層人工魚種群個數(shù)為10,迭代次數(shù)為100,第一種類步長為0.7,視野為10,嘗試次數(shù)為5,擁擠度因子為0.2;第二種類步長為0.35,視野為5,嘗試次數(shù)為5,擁擠度因子為0.05。交叉概率Pc=0.7,變異概率Pm=0.5,懲罰函數(shù)c的取值范圍為(0,200),核函數(shù)參數(shù)g的取值范圍為(0,200),最終得到最優(yōu)參數(shù)c=71.21,g= 16.353,適應(yīng)度即均方誤差為1.835 3×10-8,最優(yōu)值的尋優(yōu)曲線見圖2。
圖2 人工魚群算法尋優(yōu)曲線
(1)通過改進(jìn)的支持向量機(jī)對數(shù)據(jù)的回歸擬合,訓(xùn)練得到的圍巖松動圈厚度最大的相對誤差只有2.37%,而預(yù)測誤差都保持0.4%之內(nèi),可見擬合度較為理想,表明了支持向量機(jī)在巷道圍巖松動圈預(yù)測系統(tǒng)中具有良好的擬合效果。
(2)由于支持向量機(jī)算法的參數(shù)選擇具有隨機(jī)性,回歸效果隨機(jī)性大,本例采用了分層人工魚群算法進(jìn)行參數(shù)優(yōu)化,為支持向量機(jī)參數(shù)的選擇節(jié)省了時間,提高了效率,擴(kuò)大了搜索空間,達(dá)到了較好的擬合效果,可見分層人工魚群算法作為一種改進(jìn)的群智能尋優(yōu)算法,與支持向量機(jī)合理搭配,發(fā)揮出了各自的優(yōu)勢,對數(shù)據(jù)回歸分析具有良好的指導(dǎo)意義。
(3)本次實(shí)例只是針對巷道圍巖松動圈,對于其他的案例具有一定的借鑒意義。但由于巷道圍巖松動圈影響因素復(fù)雜多變,今后有必要對更多的影響因素進(jìn)行系統(tǒng)的相關(guān)性研究,做出進(jìn)一步的理論指導(dǎo)。
[1] 江銘言,袁東風(fēng).人工魚群算法及其應(yīng)用[M].北京.科學(xué)出版社,2012:20-95. Jiang Mingyan,Yuan Dongfeng.Artificial Fish algorithm and Its Application[M].Beijing:Science Press,2012:20-95.
[2] 田 琳,田力威,劉啟文.基于優(yōu)化人工魚群算法的混合聚類研究[J].計(jì)算機(jī)工程與設(shè)計(jì),2014,35(3):1041-1044. Tian Lin,Tian Liwei,Liu Qiwen.Research of mixed clustering based on optimized artificial fish swarm algorithm[J].Computer Engineering and Design,2014,35(3):1041-1044.
[3] 李如琦,王宗耀,謝林峰,等.種群優(yōu)化人工魚群算法在輸電網(wǎng)擴(kuò)展規(guī)劃的應(yīng)用[J].電力系統(tǒng)保護(hù)與控制,2010,38(23):11-15. Li Ruqi,Wang Zongyao,Xie Linfeng,et al.Population optimization artificial fish school algorithm applied in transmission network expansion planning[J].Power System Protection Control,2010,38(23):11-15.
[4] 郭 童,林 峰.基于混合遺傳魚群算法的貝葉斯網(wǎng)絡(luò)結(jié)構(gòu)學(xué)習(xí)[J].浙江大學(xué)學(xué)報(bào):工學(xué)版,2014,48(1):130-135. Guo Tong,Lin Feng.Bayesion network structure learning based on hybrid genetic and fish swarm algorithm[J].Journal of Zhejiang University:Engineering Science,2014,48(1):130-135.
[5] 陳祥生,梁 棟,王會穎.人工魚群算法與遺傳算法融合求解聚類問題研究[J].安徽農(nóng)業(yè)科學(xué),2010,38(36):21068-21071. Chen Xiangsheng,Liang Dong,Wang Huiying.A combination of artificial fish swarm algorithm and genetic algorithm for solving clustering analysis problem[J].Journal of Anhui Agriculture Science,2010,38(36):21068-21071.
[6] 雷英杰,張善文,李續(xù)武,等.MATLAB遺傳算法工具箱及應(yīng)用[M].西安.西安電子科技大學(xué)出版社,2005:107-124. Lei Yingjie,Zhang Shanwen,Li Xuwu,et al.MATLAB Genetic Algorithm Toolbox and Its Application[M].Xi'an:Xi'an University of Electronic Science and Technology Press,2005:107-124.
[7] 周 明,孫樹棟.遺傳算法原理及應(yīng)用[M].北京.國防工業(yè)出版社,1999:41-60. Zhou Ming,Sun Shudong.Principle and Application of Genetic Algorithm[M].Beijing:National Defence Industry Press,1999:41-60.
[8] 邱志剛.基于蟻群優(yōu)化支持向量機(jī)的公路隧道圍巖變形預(yù)測模型及應(yīng)用[J].隧道建設(shè),2014,34(1):13-18. Qiu Zhigang.Highway tunnel surrounding rock deformation prediction model based on support vector machine optimized by ant colony optimization and its application[J].Tunnel Construction,2014,34(1):13-18.
[9] 王小川,史 峰,郁 磊,等.MATLAB神經(jīng)網(wǎng)絡(luò)43個案例分析[M].北京.北京航空航天大學(xué)出版社,2013:102-176. Wang Xiaochuan,Shi Feng,Yu Lei,et al.MATLAB Neural Network 43 Cases Analysis[M].Beijing:Beijing University of Aeronautics and Astronautics Press,2013:102-176.
[10] 田景文,高美娟.人工神經(jīng)網(wǎng)絡(luò)算法研究及應(yīng)用[M].北京.北京理工大學(xué)出版社,2006:247-248. Tian Jingwen,Gao Meijuan.Artificial Neural Network Algorithms and Applications[M].Beijing:Beijing Institute of Technology Press,2006:247-248.
[11] 李長龍,潘偉強(qiáng),胡盛龍.基于均勻設(shè)計(jì)的支持向量機(jī)參數(shù)優(yōu)化方法[J].計(jì)算機(jī)工程與科學(xué),2014,36(4):702-706. Li Changlong,Pan Weiqiang,Hu Shenglong.Parameter optimization method of SVM based on uniform design[J].Computer Engineering & Science,2014,36(4):702-706.
[12] 高 瑋,鄭穎人.巷道圍巖松動圈預(yù)測的進(jìn)化神經(jīng)網(wǎng)絡(luò)法[J].巖石力學(xué)與工程學(xué)報(bào),2002,21(5):658-661. Gao Wei,Zheng Yingren.Evolutionary neural network model on prediction of loosen zone around roadway[J].Chinese Journal of Rock Mechanics and Engineering,2002,21(5):658-661.
(責(zé)任編輯 徐志宏)
Support Vector Machine (SVM) Prediction of Roadway Surrounding Rock Loose Circle Thickness Optimized by Layered Fish
Hu Jun Wang Kaikai Xia Zhiguo
(Mining College,University of Science and Technology Liaoning,Anshan,114051,China)
To timely obtain the thickness of the roadway surrounding rock loose circle and take measures to ensure the safety of the surrounding rock,support vector machine (SVM) based on maximum interval algorithm is adopted to make the prediction.Considering that the performance of SVM largely depends on the choice of parameters,the improved artificial fish algorithm to optimize the parameters of SVM is put forward,in order to obtain better accuracy.This method firstly added the idea of layering and crossover mutation to the basic artificial fish algorithm,then optimized the parameters and adopted the SVM to regress and predict for the test data.By improvement of artificial fish behavior and the parameters,the search space is expanded and the stability of global optimization is increased.Problems existing in the artificial fish late optimization such as slow speed are solved.The prediction on monitoring data of a roadway surrounding rock loose circle thickness showed that the model of roadway surrounding rock loose circle thickness has a higher prediction accuracy,which can shorten the search time,increase convergence speed and improve its generalization performance.This research can play a guide role in monitoring the safety of surrounding rock of roadway.
Layered artificial fish algorithm,Support vector machine,Surrounding rock,Loose circle thickness
2014-09-04
國家自然科學(xué)基金項(xiàng)目(編號:51274053),遼寧省教育廳科研基金項(xiàng)目(編號:L2011040)。
胡 軍(1977—),男,博士,教授。
TD263.1
A
1001-1250(2014)-11-031-04