陳國定，姚景新，洑佳紅

(浙江工業(yè)大學(xué) 信息工程學(xué)院，浙江 杭州 310023)

基于堆棧式自編碼器的尾礦庫安全評價

陳國定，姚景新，洑佳紅

(浙江工業(yè)大學(xué) 信息工程學(xué)院，浙江 杭州 310023)

摘要：為有效評估尾礦庫的安全狀況，針對尾礦庫數(shù)據(jù)的隨機(jī)波動性、非線性和多數(shù)據(jù)源的特點，采用堆棧式自編碼器算法對尾礦庫進(jìn)行安全評價.基于多層結(jié)構(gòu)、稀疏性限制，該算法采用貪心逐層訓(xùn)練策略對網(wǎng)絡(luò)權(quán)值進(jìn)行優(yōu)化，進(jìn)而對尾礦庫進(jìn)行安全評價.結(jié)合淳安某尾礦庫的數(shù)據(jù)進(jìn)行了安全評價的仿真實驗，結(jié)果表明：堆棧式自編碼器算法能克服多層網(wǎng)絡(luò)結(jié)構(gòu)權(quán)值易陷入局部最小值的缺陷，有效刻畫數(shù)據(jù)的非線性和隨機(jī)波動性，具備良好的評價準(zhǔn)確率.

關(guān)鍵詞：堆棧式自編碼器；尾礦庫；安全評價；稀疏性

Safety evaluation of the tailing pond based on stacked auto-encoder

CHEN Guoding, YAO Jingxin, FU Jiahong

(College of Information Engineering, Zhejiang University of Technology, Hangzhou 310023, China)

Abstract:For the purpose of evaluating the safety status of tailing pond, a prediction model is established by adopting stacked auto-encoder algorithm according to the characteristics of stochastic fluctuation, non-linear and multiple data sources. Based on the multi-level architectures and sparsity limitation, this algorithm uses Greedy Layer-wise Algorithm to train parameters in order to optimize the network weights. The applied safety evaluation on Chunan tailing pond shows that stacked auto-encoder could overcome the defect that the optimized network weights will be easy to fall into local minimum in the multi-level architectures. It can effectively describe characterization of nonlinear and stochastic volatility of the data with a good evaluation accuracy.

Keywords:stacked auto-encoder; tailing pond; safety evaluation; sparsity

尾礦庫是用來堆存金屬、非金屬礦石選別后排出的尾礦的場所，是維持礦山正常運行的必要設(shè)施，但也是重大的危險源[1]，一旦發(fā)生潰壩或有毒物質(zhì)下泄等事故，后果將不堪設(shè)想.近年由于尾礦庫事故造成人員傷亡、環(huán)境污染和經(jīng)濟(jì)財產(chǎn)損失時有發(fā)生，尤其2008年山西襄汾發(fā)生“9·8”特大尾礦庫潰壩事故，造成276人死亡，經(jīng)濟(jì)損失達(dá)9 600多萬元.目前，尾礦庫運行狀態(tài)的安全評價方法主要集中在綜合分析法和BP神經(jīng)網(wǎng)絡(luò)兩類.綜合分析法包括模糊綜合分析法[2]、集對分析法[3]和證據(jù)理論[4]等.實踐表明綜合分析法具有不錯的預(yù)測準(zhǔn)確率，但存在一定局限性：1) 獲得權(quán)重的算法[5-6]的客觀性受到人為因素的制約；2) 模糊綜合分析法的相對隸屬度矩陣的維度依賴于樣本數(shù)，使得算法容易引起維度災(zāi)難；3) 證據(jù)理論法、集對分析法雖不依賴于樣本數(shù)，但評價模型由初始權(quán)值直接推導(dǎo)出，增強(qiáng)了人為因素的影響.所以綜合分析法受人為因素影響大，對于系統(tǒng)隨機(jī)性和非線性不能很好解決，且不利于處理大數(shù)據(jù)量的情況.另一方面BP神經(jīng)網(wǎng)絡(luò)方法對非線性問題具有較好的擬合和識別能力[7-8]，能克服隨機(jī)性和高度非線性問題、避免模型陷入維度災(zāi)難、減小人為因素對模型的影響等，在尾礦庫評價模型構(gòu)建也取得了不錯的結(jié)果[9-10].但BP神經(jīng)網(wǎng)絡(luò)屬于淺層網(wǎng)絡(luò)，數(shù)據(jù)表征能力不足，不能充分反應(yīng)數(shù)據(jù)內(nèi)部信息，若要增強(qiáng)網(wǎng)絡(luò)的表征能力，網(wǎng)絡(luò)的節(jié)點數(shù)將呈指數(shù)級增長[11].

為克服綜合分析法和BP神經(jīng)網(wǎng)絡(luò)法的缺陷，在此提出以堆棧式自編碼器(Stacked auto-encoder, SAE)算法構(gòu)建尾礦庫的安全評價模型.在闡述SAE的原理后，結(jié)合尾礦庫數(shù)據(jù)的特點搭建合適的評價模型，實驗結(jié)果表明：SAE滿足評價模型對于隨機(jī)性和非線性的要求，多層結(jié)構(gòu)增強(qiáng)了模型的數(shù)據(jù)表征能力，且稀疏性限制實現(xiàn)了模型的特征提取，具備較好的評價準(zhǔn)確率.

1堆棧式自編碼器的構(gòu)建

深度神經(jīng)網(wǎng)絡(luò)為具備深度結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)模型，其目的在于實現(xiàn)數(shù)據(jù)的表征學(xué)習(xí)，SAE屬于深度神經(jīng)網(wǎng)絡(luò)的其中一種算法結(jié)構(gòu).在機(jī)器學(xué)習(xí)領(lǐng)域，機(jī)器學(xué)習(xí)算法的目標(biāo)是能夠自主的從數(shù)據(jù)中學(xué)習(xí)、調(diào)整、進(jìn)步，最終產(chǎn)生理解數(shù)據(jù)的能力.實現(xiàn)這個目標(biāo)的前提是能對錯綜復(fù)雜的、混亂無須的原始數(shù)據(jù)進(jìn)行抽象，發(fā)現(xiàn)隱藏在數(shù)據(jù)內(nèi)部的具備區(qū)分度的特征，從而識別出能用來評判或分類的抽象概念.該抽象概念在算法中稱作數(shù)據(jù)的表征形式，為算法結(jié)構(gòu)中某一層的數(shù)據(jù)形式.理論表明：機(jī)器學(xué)習(xí)的算法結(jié)構(gòu)層次每降低1層，若想維持相同的表征能力，算法所需要的計算單元數(shù)會呈指數(shù)級增長.因此，BP神經(jīng)網(wǎng)絡(luò)、主成分分析法(Principal component analysis，PCA)、支持向量機(jī)(Support vector machine，SVM)、混合高斯模型(Mixture of Gaussians，MoGs)等淺層算法，難以實現(xiàn)數(shù)據(jù)表證的充分學(xué)習(xí)，無法自主獲得合適的表征.這時需要借用人為干預(yù)，根據(jù)人工的經(jīng)驗分析數(shù)據(jù)，獲得較為合適的數(shù)據(jù)表征，再將該表征輸入機(jī)器學(xué)習(xí)算法進(jìn)行訓(xùn)練.具備深度結(jié)構(gòu)的算法模型能夠彌補淺層算法在表征學(xué)習(xí)方面的不足，其深度的層次結(jié)構(gòu)提供了理想的表征學(xué)習(xí)和數(shù)據(jù)抽象的能力.而深度神經(jīng)網(wǎng)絡(luò)具備多層次和分布式的結(jié)構(gòu)特點，十分適合作為特征學(xué)習(xí)的算法，避免人為因素的干預(yù)，提高算法的學(xué)習(xí)能力.

深度神經(jīng)網(wǎng)絡(luò)模型主要包括以SAE為代表的數(shù)值模型和以深度信念網(wǎng)絡(luò)(Deep belief networks，DBNs)為代表的概率模型，它們分別以受限玻爾茲曼機(jī)(Restricted Boltzmann machine，RBM)和自編碼器(Auto-encoder，AE)為核心構(gòu)建.數(shù)值模型和概率模型的本質(zhì)區(qū)別在于隱層節(jié)點的功能不同.數(shù)值模型中隱層節(jié)點作為具有實際意義的計算單元存在，而概率模型中隱層節(jié)點作為算法的隱藏隨機(jī)變量，并非實際計算節(jié)點.理論和實踐表明，離散模型在訓(xùn)練二值化的離散數(shù)據(jù)時更具優(yōu)勢，而對于具備連續(xù)性和確定性的數(shù)值數(shù)據(jù)，數(shù)值模型會獲得更好的訓(xùn)練效果[12].尾礦庫安全評價時所需要處理的數(shù)據(jù)都是確定性連續(xù)數(shù)據(jù)，因此采用堆棧式自編碼器作為訓(xùn)練單層神經(jīng)網(wǎng)絡(luò)的算法.

1.1堆棧式自編碼器的網(wǎng)絡(luò)結(jié)構(gòu)

SAE網(wǎng)絡(luò)結(jié)構(gòu)由輸入層，若干隱藏層和輸出層三部分組成，如圖1所示.預(yù)處理后的數(shù)據(jù)經(jīng)輸入層I進(jìn)入網(wǎng)絡(luò)，然后經(jīng)過L個隱層H(1),H(2),…,H(L)逐層實現(xiàn)數(shù)據(jù)的抽象和特征提取.其中每個隱層都是輸入數(shù)據(jù)的一種表征形式，最后得到輸入數(shù)據(jù)合適的特征表示即H(L).SAE的多層結(jié)構(gòu)既能提高評價模型的表征能力，又能避免節(jié)點數(shù)指數(shù)增長.最后由隱層H(L)和輸出層O構(gòu)建Softmax分類器，實現(xiàn)評價模型對尾礦庫狀態(tài)的多級分類.

圖1　堆棧式自編碼器示意圖Fig.1　The image of stacked auto-encoder

作為深度神經(jīng)網(wǎng)絡(luò)，堆棧式自編碼器中最重要的是參數(shù)的優(yōu)化訓(xùn)練問題.一般來說，參數(shù)訓(xùn)練算法對于兩層的網(wǎng)絡(luò)結(jié)構(gòu)是有效的.對于深度神經(jīng)網(wǎng)絡(luò)，若采用基于隨機(jī)初始化的參數(shù)和輸出誤差，利用梯度的訓(xùn)練算法時，最高兩層(靠近輸出端的網(wǎng)絡(luò)層)的參數(shù)仍會獲得不錯的訓(xùn)練效果，但較低層(靠近輸入端的網(wǎng)絡(luò)層)的參數(shù)訓(xùn)練效果卻很差.這是因為梯度會在反向傳播過程中逐層稀釋，對于越靠前的網(wǎng)絡(luò)層的權(quán)值修改的作用越小，使得無法獲得網(wǎng)絡(luò)權(quán)值最優(yōu)解.然而較低層網(wǎng)絡(luò)參數(shù)訓(xùn)練效果差會影響數(shù)據(jù)抽象過程中的表征學(xué)習(xí)，進(jìn)而影響輸出層的預(yù)測和分類.因此權(quán)值訓(xùn)練策略采用貪心逐層訓(xùn)練(Greedy layer-wise training)[13]的方式，該方法共包含三個步驟：網(wǎng)絡(luò)預(yù)訓(xùn)練，網(wǎng)絡(luò)展開，網(wǎng)絡(luò)微調(diào)(Fine-tuning).貪心逐層初始化與參數(shù)隨機(jī)初始化都是為了獲得一個較好的網(wǎng)絡(luò)參數(shù)初始值，減少網(wǎng)絡(luò)參數(shù)陷入局部極值的可能性.對于深度神經(jīng)網(wǎng)絡(luò)，貪心逐層初始化具有更好的效果，它使訓(xùn)練好的網(wǎng)絡(luò)參數(shù)更靠近最優(yōu)值，且讓較低層的網(wǎng)絡(luò)參數(shù)也能得到充分的訓(xùn)練.

1.2網(wǎng)絡(luò)預(yù)訓(xùn)練

圖2　隱層網(wǎng)絡(luò)預(yù)訓(xùn)練過程示意圖Fig.2　The pre-training process of hidden layers

當(dāng)隱層的節(jié)點數(shù)少于輸入層時，AE的作用相當(dāng)于對輸入數(shù)據(jù)進(jìn)行壓縮，然而該思路不利于AE從數(shù)據(jù)中充分發(fā)掘內(nèi)在信息，為了提高網(wǎng)絡(luò)對于輸入數(shù)據(jù)的抽象能力，采用隱層的節(jié)點數(shù)多于輸入層節(jié)點數(shù)的網(wǎng)絡(luò)結(jié)構(gòu).進(jìn)而為了實現(xiàn)數(shù)據(jù)的特征提取，對AE的隱層節(jié)點輸出值添加稀疏性限制從而構(gòu)建稀疏自編碼器模型[14]，該模型輸出誤差代價函數(shù)為：

(1)

(2)

(3)

(4)

網(wǎng)絡(luò)的輸出層為Softmax分類器，實現(xiàn)網(wǎng)絡(luò)的多級分類.其中Softmax分類器的輸入層即SAE的第L個隱層的H(L)，而其輸出層的誤差代價函數(shù)為

(5)

(6)

其中：W為分類器的權(quán)值向量；N為樣本數(shù)；K為輸出層節(jié)點數(shù)；I{·}為真值函數(shù)，當(dāng)表達(dá)式為真時等于1，反之等于0.

基于式(1，5)，采用LM-BP算法對權(quán)值訓(xùn)練算法優(yōu)化，以克服BP算法收斂速度慢和易陷入局部極小值的缺點.該算法權(quán)值更新策略[15]為

(7)

Rk=Tk-Yk

(8)

其中：Wk為第k次迭代的權(quán)值向量；Rk為輸出誤差向量；Tk和Yk分別為標(biāo)準(zhǔn)輸出和實際輸出；Jk為Rk關(guān)于Wk的Jacobian矩陣.

LM-BP算法實現(xiàn)：

Step 1初始化權(quán)值向量W和節(jié)點偏置向量b.設(shè)定誤差項ε，系數(shù)μ，β，λ等參數(shù).

Step 2根據(jù)式(1)或式(5)計算輸出層的代價函數(shù)當(dāng)前值Ek.

Step 3若Ek<ε，將Wk作為網(wǎng)絡(luò)最終權(quán)值，結(jié)束訓(xùn)練；否則進(jìn)行Step4.

Step 4計算Jk.

1.3網(wǎng)絡(luò)展開和微調(diào)

網(wǎng)絡(luò)展開是將預(yù)訓(xùn)練完成的L個自編碼器和Softmax分類器鏈接成圖1所示的堆棧式自編碼器.但此時網(wǎng)絡(luò)參數(shù)僅僅是各層獨立訓(xùn)練時的最優(yōu)值，需要微調(diào)得到網(wǎng)絡(luò)參數(shù)的全局最優(yōu)解.微調(diào)過程中將預(yù)處理后的數(shù)據(jù)再次輸入網(wǎng)絡(luò)，使用展開后的網(wǎng)絡(luò)權(quán)值作為權(quán)值初始值，根據(jù)輸出誤差代價函數(shù)值，使用LM-BP算法訓(xùn)練整體網(wǎng)絡(luò)參數(shù)以獲得網(wǎng)絡(luò)全局最優(yōu)解.

2尾礦庫安全評價實驗

2.1實驗數(shù)據(jù)說明

實驗數(shù)據(jù)來自淳安某尾礦庫的傳感器，共有9個數(shù)據(jù)源，包括地表位移、庫水位相對值、干灘長度、地表位移四類.其中地表位移傳感器分設(shè)在上中下三個位置，每個位置包含偏移量傳感器和傾斜角傳感器.

數(shù)據(jù)源的部分原始數(shù)據(jù)如表1所示.可知不同數(shù)據(jù)源的數(shù)據(jù)具有不同的閾值，且由于采樣時間間隔的不同，數(shù)據(jù)具有非線性變化和隨機(jī)波動情況.

為獲得一致的數(shù)據(jù)表現(xiàn)形式，采用max-min法對原始數(shù)據(jù)進(jìn)行歸一化處理，該方法為

(9)

表1　數(shù)據(jù)源部分采集數(shù)據(jù)

2.2仿真實驗

實驗數(shù)據(jù)共674個樣本，其中400個作為訓(xùn)練樣本，274個作為測試樣本.堆棧式自編碼器的網(wǎng)絡(luò)結(jié)構(gòu)為：輸入層9個節(jié)點，3個隱層各36個節(jié)點，softmax分類器4個輸出節(jié)點.

圖3　隱層的收斂過程Fig.3　The convergence process of hidden layers

圖4　softmax分類器的收斂過程Fig.4　The convergence process of softmax Classifier

圖3，4為訓(xùn)練階段，3個隱層H(1),H(2),H(3)和Softmax層輸出誤差代價函數(shù)值和參數(shù)梯度1范數(shù)的變化曲線.由圖3得出：1) 相比于第1個隱層，訓(xùn)練第2和第3隱層的速度更快，這表明在使用“貪婪逐層訓(xùn)練”策略時，從原始數(shù)據(jù)提取特征最復(fù)雜，且特征抽象在更深網(wǎng)絡(luò)層降低；2) 從圖4看出：Softmax收斂速度快，能實現(xiàn)有效分類；3) 輸入數(shù)據(jù)具有非線性和隨機(jī)波動性，但各層訓(xùn)練時代價函數(shù)能夠?qū)崿F(xiàn)收斂，說明模型能夠刻畫并包容這些特性，并作出準(zhǔn)確的評價結(jié)果.

微調(diào)階段堆棧式自編碼器的輸出誤差代價函數(shù)和參數(shù)梯度1范數(shù)的變化曲線如圖5所示.經(jīng)過逐層優(yōu)化的預(yù)訓(xùn)練，網(wǎng)絡(luò)參數(shù)已接近最優(yōu)值，所以網(wǎng)絡(luò)全局優(yōu)化能夠較快收斂.另一方面，微調(diào)階段的初始時期由于參數(shù)并非網(wǎng)絡(luò)的全局最優(yōu)解，使得網(wǎng)絡(luò)輸出誤差較大.隨著權(quán)值和梯度調(diào)整，網(wǎng)絡(luò)最終參數(shù)能很好的收斂，進(jìn)一步驗證了其對于尾礦庫數(shù)據(jù)非線性和隨機(jī)波動性的刻畫能力.

圖5　微調(diào)階段參數(shù)訓(xùn)練過程Fig.5　The training process of fine-tuning

測試階段將274個測試樣本輸入網(wǎng)絡(luò)，比較輸出值和目標(biāo)值來獲得評價準(zhǔn)確率.同時觀察3個隱層的節(jié)點輸出值，以驗證網(wǎng)絡(luò)對于初始數(shù)據(jù)的抽象和特征提取能力.其中部分樣本在三個隱層部分節(jié)點的輸出值如表2所示.

表2　部分樣本在三個隱層部分節(jié)點的輸出值

隱層節(jié)點輸出值代表其對于前一層數(shù)據(jù)的刻畫作用，輸出值越接近1，表明其刻畫作用時越大，反之越接近0越小.觀察表2可得：1) 同一樣本在不同隱層呈現(xiàn)不同的表征形式，表明模型對輸入數(shù)據(jù)的抽象能力；2) 稀疏性限制使得大多樣本的多數(shù)節(jié)點的輸出值接近0，實現(xiàn)了數(shù)據(jù)的特征提取；3) 不同樣本在相同隱層的表征形式不同，表明網(wǎng)絡(luò)能根據(jù)特征區(qū)分?jǐn)?shù)據(jù)，實現(xiàn)多級分類.

表3給出的是分別使用基于LM-BP的普通三層神經(jīng)網(wǎng)絡(luò)和SAE算法構(gòu)建尾礦庫安全評價模型的仿真實驗結(jié)果.三層神經(jīng)網(wǎng)路的隱層節(jié)點數(shù)根據(jù)經(jīng)驗得到

(10)

其中：k為隱層節(jié)點數(shù)；m為輸入層節(jié)點數(shù)；n為輸出層節(jié)點數(shù)；N的取值范圍為[1,10].

表3　基于LM-BP的神經(jīng)網(wǎng)絡(luò)和SAE的比較

根據(jù)表3可得：1) 因為對于普通BP神經(jīng)網(wǎng)絡(luò)，隱層節(jié)點過少會出現(xiàn)欠擬合，反之過多又會出現(xiàn)過擬合，因此當(dāng)取值為14，處于合適節(jié)點數(shù)附近時，BP神經(jīng)網(wǎng)絡(luò)能表現(xiàn)最好的擬合程度，獲得較好的預(yù)測準(zhǔn)確率；2) 對于SAE來說微調(diào)前的預(yù)測準(zhǔn)確率只有33.58%，體現(xiàn)出微調(diào)對于網(wǎng)絡(luò)參數(shù)調(diào)整的重要性；3) SAE的越準(zhǔn)確率為99.27%，十分理想，體現(xiàn)出其相對于普通BP神經(jīng)網(wǎng)絡(luò)的優(yōu)越性，原因是受限于隱層節(jié)點數(shù)，普通BP神經(jīng)網(wǎng)絡(luò)不具備對數(shù)據(jù)足夠的抽象能力，同時網(wǎng)絡(luò)對于數(shù)據(jù)中的隨機(jī)波動性和非線性的表征能力不足；4) 雖然在時間的量級上SAE的訓(xùn)練時間和預(yù)測時間都高于LM-BP，但預(yù)測所需時間其在平均到一次預(yù)測所需時間時并不會帶來嚴(yán)重問題，這表明SAE具有不錯的應(yīng)用價值.

3結(jié)論

采用堆棧式自編碼器算法構(gòu)建尾礦庫安全評價模型，網(wǎng)絡(luò)的多層結(jié)構(gòu)提高了評價模型對尾礦庫數(shù)據(jù)的表征能力，有效刻畫數(shù)據(jù)的非線性和隨機(jī)波動性.逐層貪心訓(xùn)練策略克服模型易陷入局部最小值的缺陷，且一定程度上提高了模型的擴(kuò)展性.最終該評價模型能夠獲得較好的評價準(zhǔn)確率.因此堆棧式自編碼器算法適用于安全評價模型的構(gòu)建，為尾礦庫安全評價模型的設(shè)計提供了一種新的思路.另外，堆棧式自編碼器只是深度神經(jīng)網(wǎng)絡(luò)的一種，且就算其自身的變種方案也仍在被學(xué)術(shù)界廣泛討論中，對該方法應(yīng)用于尾礦庫安全評價的仍需進(jìn)一步的研究和實驗，以達(dá)到更好的效果和使用價值.

參考文獻(xiàn)：

[1]謝旭陽，王云海，張興凱，等．我國尾礦庫數(shù)據(jù)庫的建立[J]．中國安全生產(chǎn)科學(xué)技術(shù)，2008，4(2)：53-56．

[2]李全明，張興凱，王云海，等．尾礦庫潰壩風(fēng)險指標(biāo)體系及風(fēng)險評價模型研究[J]．水利學(xué)報，2009，40(8)：989-994．

[3]尹君，王玉杰，呂林，等．基于模糊層次和集對分析的尾礦庫安全評價及預(yù)測[J]．金屬礦山，2010(10)：159-188．

[4]董龍洋，周宇，徐文強(qiáng)，等．基于證據(jù)理論的尾礦庫安全評價[J]．安全與環(huán)境工程，2012，12(4)：74-77．

[5]王濤，侯克鵬，郭振世，等．層次分析法(AHP)在尾礦庫安全運行分析中的應(yīng)用[J]．巖土力學(xué)，2008，29(1)：680-686．

[6]俞峰，李榮鈞．基于熵權(quán)的集對分析法在尾礦庫安全評價中的應(yīng)用[J]．黃金，2012，33(5)：51-53．

[7]孟凡麗，鄭棋，李燕，等．基于BP神經(jīng)網(wǎng)絡(luò)的深基坑維護(hù)變形預(yù)測[J]．浙江工業(yè)大學(xué)學(xué)報，2014，42(4)：367-372．

[8]呂剛，郝平．基于神經(jīng)網(wǎng)絡(luò)的數(shù)字驗證碼識別研究[J]．浙江工業(yè)大學(xué)學(xué)報，2010，38(4)：433-436．

[9]王英博，王琳，李仲學(xué)．基于HS-BP算法的尾礦庫安全評價[J]．系統(tǒng)工程理論與實踐，2012，23(11)：2585-2590．

[10]郎學(xué)政．基于遺傳神經(jīng)網(wǎng)絡(luò)的尾礦庫浸潤線預(yù)測方法研究[D]．淄博：山東理工大學(xué)，2013．

[11]BENGIO Y. Learning deep architectures for AI[J]. Foundations and Trends in Machine Learning，2009，2(1)：1-127．

[12]BENGIO Y, COURVILLE A, VINCENT P. Representation learning: A review and new perspectives[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence，2013，35(8)：1798-1826．

[13]HINTON G E, OSINDERO S, TEH Y W. A fast learning algorithm for deep belief nets[J]. Neural Computation，2006，10(7)：1527-1554．

[14]BENGIO Y, LAMBIN P, POPVICI D, et al. Greedy layer-wise training of deep networks[J]. Advances in Neural Information Processing Systems，2007(19)：153-160．

[15]李文娟．改進(jìn)BP神經(jīng)網(wǎng)絡(luò)在水質(zhì)評價中的應(yīng)用研究[D]．重慶：重慶理工大學(xué)，2011．

(責(zé)任編輯：劉巖)

中圖分類號：TP183

文獻(xiàn)標(biāo)志碼：A

文章編號：1006-4303(2015)03-0326-06

作者簡介：陳國定(1962—)，男，浙江寧波人，教授，博士，研究方向為計算機(jī)先進(jìn)控制、網(wǎng)絡(luò)控制、電力電子與電力傳動及其中控制策略等，E-mail：gdchen@zjut.edu.cn.

收稿日期：2014-12-29