繆新穎,葛廷友,高輝,王建彬

(1.大連海洋大學(xué)信息工程學(xué)院,遼寧大連116023;2.大連海洋大學(xué)職業(yè)技術(shù)學(xué)院,遼寧大連116300; 3.大連海洋大學(xué)理學(xué)院,遼寧大連116023)

基于神經(jīng)網(wǎng)絡(luò)和遺傳算法的池塘溶解氧預(yù)測(cè)模型

繆新穎1,葛廷友2,高輝3,王建彬1

(1.大連海洋大學(xué)信息工程學(xué)院,遼寧大連116023;2.大連海洋大學(xué)職業(yè)技術(shù)學(xué)院,遼寧大連116300; 3.大連海洋大學(xué)理學(xué)院,遼寧大連116023)

水產(chǎn)養(yǎng)殖池塘是一個(gè)多變量、非線(xiàn)性和大時(shí)延系統(tǒng),其中溶解氧的預(yù)測(cè)也是一個(gè)復(fù)雜的問(wèn)題。針對(duì)大連某水產(chǎn)養(yǎng)殖池塘,作者建立了一個(gè)基于Levenberg–Marquardt(LM)神經(jīng)網(wǎng)絡(luò)和遺傳算法(GA)的溶解氧預(yù)測(cè)模型GA-LM,并將該模型與傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)進(jìn)行比較分析。結(jié)果表明:使用本研究中建立的GA-LM模型預(yù)測(cè)的溶解氧值和實(shí)際測(cè)定值吻合較好,預(yù)測(cè)更為精準(zhǔn),運(yùn)行時(shí)間明顯減少。

溶解氧;Levenberg–marquardt算法;遺傳算法;預(yù)測(cè)模型

水質(zhì)測(cè)定是一個(gè)包括多種物理、化學(xué)和生物參數(shù)的復(fù)雜過(guò)程[1]。其中,池塘溶解氧作為養(yǎng)殖水域必控的水環(huán)境因子越來(lái)越受到重視。因此,及時(shí)掌握池塘水域溶解氧的動(dòng)態(tài)變化規(guī)律,在缺氧之前進(jìn)行池塘溶解氧的事前預(yù)測(cè)是水產(chǎn)養(yǎng)殖生產(chǎn)中迫切需要解決的問(wèn)題。

池塘溶解氧預(yù)測(cè)是一個(gè)非線(xiàn)性的復(fù)雜過(guò)程,利用統(tǒng)計(jì)的方法很難保證預(yù)測(cè)精度[2]。而神經(jīng)網(wǎng)絡(luò)(Neural network,NN)因?yàn)槠錈o(wú)需輸入變量與輸出變量間復(fù)雜的相關(guān)假設(shè),成為模擬和解決非線(xiàn)性問(wèn)題的理想工具之一,并開(kāi)始應(yīng)用于溶解氧預(yù)測(cè)[3-6]。但是,采用傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)常常導(dǎo)致訓(xùn)練時(shí)間較長(zhǎng)且易陷入局部極小點(diǎn)。Levenberg-Marquardt(LM)算法利用高斯-牛頓法可以在最優(yōu)值附近產(chǎn)生一個(gè)理想的搜索方向,從而保持較快下降速度的特點(diǎn),使網(wǎng)絡(luò)能夠有效收斂,大大提高了網(wǎng)絡(luò)的收斂速度和泛化能力。

遺傳算法(Genetic algorithm,GA)是一種模擬自然進(jìn)化過(guò)程搜索最優(yōu)解的方法。它借鑒了生物界自然選擇和自然遺傳機(jī)制,即基于達(dá)爾文適者生存、優(yōu)勝劣汰的進(jìn)化原則,對(duì)包含可行解的群體反復(fù)使用遺傳學(xué)的基本操作,不斷生成新的群體,使種群不斷進(jìn)化。同時(shí),以全局并行搜索技術(shù)來(lái)搜索優(yōu)化群體的最優(yōu)個(gè)體,以求得滿(mǎn)足要求的最優(yōu)解。GA算法的最大優(yōu)點(diǎn)是,即使對(duì)多態(tài)的或非連續(xù)的函數(shù),它也能獲得全局最優(yōu)解,適合用來(lái)優(yōu)化神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)?；谝陨峡紤],本研究中,作者建立了一個(gè)綜合GA和LM兩種算法優(yōu)點(diǎn)的GA-LM模型,并將其與傳統(tǒng)的BP算法進(jìn)行比較分析。

1 池塘溶解氧預(yù)測(cè)模型(GA-LM模型)

1.1 影響池塘溶解氧的因素分析

影響池塘溶解氧的因素十分復(fù)雜,主要包括水呼吸、養(yǎng)殖生物的呼吸、底泥以及池塘水體溫度、水體含氮量和空氣中氧氣組分的分壓力等[7-9]。

本試驗(yàn)中,取樣池塘設(shè)在大連市瓦房店地區(qū)謝屯,位于渤海東部區(qū)的普蘭店灣沿岸,養(yǎng)殖池塘總面積約6.67 hm2。綜合考慮各變量的可測(cè)性,選取溫度、亞硝酸鹽、氨氮和總氮4個(gè)變量作為輸入變量,輸出變量為池塘溶解氧。溫度、亞硝酸鹽氮、總氨氮和溶解氧使用美國(guó)YSI600XLM多參數(shù)水質(zhì)監(jiān)測(cè)儀現(xiàn)場(chǎng)測(cè)定,總氮值使用美國(guó)HACH公司制造的IL500全自動(dòng)總氮分析儀測(cè)定。

對(duì)于這樣一個(gè)4輸入、1輸出的非線(xiàn)性系統(tǒng),非常適合利用神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測(cè)。從2006—2009三年所搜集的監(jiān)測(cè)數(shù)據(jù)中選取其中的100組數(shù)據(jù)作為建模數(shù)據(jù),其中80組作為訓(xùn)練樣本,20組作為測(cè)試樣本,對(duì)網(wǎng)絡(luò)模型進(jìn)行校驗(yàn)。

1.2 GA-LM預(yù)測(cè)模型的算法

神經(jīng)網(wǎng)絡(luò)的傳統(tǒng)學(xué)習(xí)算法,如BP(Back-Propagation)通常采用梯度下降法,計(jì)算量較大,容易陷入局部極小點(diǎn),且學(xué)習(xí)效率很低。為此,本研究中選用LM算法以彌補(bǔ)BP算法的不足。LM算法是利用高斯-牛頓法可以在最優(yōu)值附近產(chǎn)生一個(gè)理想的搜索方向,從而保持較快下降速度的特點(diǎn),在最速梯度下降法和高斯-牛頓法之間自適應(yīng)調(diào)整網(wǎng)絡(luò)權(quán)值,使每次迭代不再沿著單一的負(fù)梯度方向,而是允許誤差沿著惡化的方向進(jìn)行搜索,使網(wǎng)絡(luò)能夠有效收斂,大大提高了網(wǎng)絡(luò)的收斂速度和泛化能力。由BP算法改進(jìn)得到LM算法的具體過(guò)程如下:

假設(shè)BP神經(jīng)網(wǎng)絡(luò)有Q對(duì)訓(xùn)練樣本(pq,yq), q=1,2,…,Q,其中:pq代表第q對(duì)訓(xùn)練樣本中的輸入信號(hào);yq代表第q對(duì)訓(xùn)練樣本對(duì)應(yīng)的實(shí)際網(wǎng)絡(luò)輸出信號(hào);令tq代表第q對(duì)訓(xùn)練樣本中的教師信號(hào),則對(duì)應(yīng)的誤差eq=tq-yq。BP算法的訓(xùn)練目的是希望訓(xùn)練樣本的教師信號(hào)與網(wǎng)絡(luò)的輸出信號(hào)之間的誤差平方和最小,這個(gè)誤差平方和函數(shù)就是要優(yōu)化的目標(biāo)函數(shù)F:

誤差對(duì)權(quán)值w微分的雅可比矩陣為J(w),則LM算法權(quán)值的調(diào)整算法為

其中:I是單位矩陣;μ是LM算法內(nèi)部使用的一個(gè)大于零的調(diào)整因子,用于控制LM算法的迭代。當(dāng)其接近零時(shí),LM算法接近高斯-牛頓法;當(dāng)其很大時(shí),LM算法近似于傳統(tǒng)BP的最速下降法。通過(guò)自適應(yīng)調(diào)整該值,LM算法可以完成梯度下降法與高斯-牛頓法的較好結(jié)合。在實(shí)際操作中,該值是一個(gè)試探性的參數(shù),算法開(kāi)始時(shí)μ取小值,如果求得的Δw能使誤差指標(biāo)函數(shù)F(x)降低,則該值降低到μ/β(其中β＞1);反之,該值增加至β·μ。本研究中μ初始值設(shè)為0.01,β取為5。

1.3 GA-LM預(yù)測(cè)模型的結(jié)構(gòu)

1989年Robert Hecht-Nielson證明了對(duì)于任何在閉區(qū)間內(nèi)的一個(gè)連續(xù)函數(shù)都可以用一個(gè)隱層的BP網(wǎng)絡(luò)來(lái)逼近[10],因而一個(gè)三層的BP網(wǎng)絡(luò)可以完成任意的m維到n維的映射。故在本研究中,將隱層的數(shù)目確定為1。

隱層節(jié)點(diǎn)數(shù)的選擇是一個(gè)十分復(fù)雜的問(wèn)題,很多文獻(xiàn)均采用了試湊法[11]。很明顯,試湊法簡(jiǎn)單,但缺乏科學(xué)理論依據(jù),并且運(yùn)行費(fèi)時(shí)。本研究中采用GA算法這個(gè)有效的搜索方法來(lái)確定神經(jīng)網(wǎng)絡(luò)的最優(yōu)結(jié)構(gòu),即所采用的3層LM神經(jīng)網(wǎng)絡(luò)的隱層節(jié)點(diǎn)數(shù)和最優(yōu)權(quán)值及閾值均由GA來(lái)完成。整個(gè)過(guò)程主要包括以下3個(gè)階段:

1)編碼。為了清晰表示神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),將一條染色體分為結(jié)構(gòu)基因和權(quán)重基因。結(jié)構(gòu)基因采用二進(jìn)制編碼形式,放在前面,表示隱層節(jié)點(diǎn)是否存在。其中“1”表示隱層節(jié)點(diǎn)存在,“0”表示隱層節(jié)點(diǎn)不存在;權(quán)重基因采用實(shí)數(shù)編碼,放在后面,表示連接權(quán)值和閾值。如圖1所示,假設(shè)神經(jīng)網(wǎng)絡(luò)有m個(gè)輸入節(jié)點(diǎn),n個(gè)輸出節(jié)點(diǎn),最多有L個(gè)隱層節(jié)點(diǎn)(結(jié)構(gòu)基因共L位),則相應(yīng)的連接權(quán)值和閾值為L(zhǎng)×(m+n)個(gè),即權(quán)重基因共L×(m+n)位,與第i個(gè)隱層節(jié)點(diǎn)有關(guān)的權(quán)值和閾值編碼被放在從L +(i-1)×(m+n)+1到L+i×(m+n)的位置上。

圖1 染色體結(jié)構(gòu)示意圖Fig.1 Structure of chromosomes

2)適應(yīng)度評(píng)價(jià)。計(jì)算每一個(gè)個(gè)體的評(píng)價(jià)函數(shù),用于評(píng)估該個(gè)體的適應(yīng)度。本研究中所采用的適應(yīng)度函數(shù)為

其中:V是經(jīng)神經(jīng)網(wǎng)絡(luò)訓(xùn)練得到的溶解氧值;T是實(shí)際測(cè)定的溶解氧值;E是誤差平方和;F是適應(yīng)度函數(shù)。通過(guò)向適應(yīng)度高的進(jìn)化過(guò)程,使得算法向誤差減小以及網(wǎng)絡(luò)結(jié)構(gòu)簡(jiǎn)單的方向進(jìn)行。

3)遺傳算子[12]。本研究中選擇算法采用最常用的輪盤(pán)賭策略。因?yàn)槎M(jìn)制編碼和實(shí)數(shù)編碼同時(shí)存在,所以交叉和變異算子均采用了混合策略。其中單點(diǎn)交叉應(yīng)用于結(jié)構(gòu)基因,算術(shù)交叉用于權(quán)重基因;同樣,在變異時(shí),依然要判斷編碼的類(lèi)型,二進(jìn)制編碼的結(jié)構(gòu)基因采用基本位變異算子,實(shí)數(shù)編碼的權(quán)重基因采用非均勻變異算子。

另外,本研究中有兩個(gè)終止判別條件。當(dāng)?shù)螖?shù)達(dá)到預(yù)設(shè)的最大進(jìn)化代數(shù)時(shí),或當(dāng)訓(xùn)練目標(biāo)均方差(MSE)小于ε=0.001時(shí),算法終止。

1.4 GA-LM預(yù)測(cè)模型的應(yīng)用

本研究中采用Matlab進(jìn)行編程構(gòu)成GA訓(xùn)練

LM神經(jīng)網(wǎng)絡(luò),其算法步驟如下:

1)對(duì)輸入數(shù)據(jù)進(jìn)行歸一化處理。網(wǎng)絡(luò)學(xué)習(xí)之前,為了提高精度,將試驗(yàn)數(shù)據(jù)規(guī)范化,即將實(shí)測(cè)數(shù)據(jù)通過(guò)premnmx函數(shù)轉(zhuǎn)換為[-1,1]的值。

2)對(duì)運(yùn)行參數(shù)進(jìn)行設(shè)置。取種群大小N= 100,初始隱層節(jié)點(diǎn)數(shù)(最大隱層節(jié)點(diǎn)數(shù))L=22,進(jìn)化最大代數(shù)為100,交叉率為0.6,變異率為0.08。訓(xùn)練算法采用trainlm;隱層和輸出層的激活函數(shù)分別采用連續(xù)可微的tansig和線(xiàn)性的purelin。

3)初始化種群。結(jié)構(gòu)基因采用二進(jìn)制編碼;權(quán)重基因采用實(shí)數(shù)編碼。

4)對(duì)每個(gè)染色體解碼并計(jì)算適應(yīng)度。結(jié)構(gòu)基因?yàn)?時(shí),與其對(duì)應(yīng)的權(quán)重基因有效;結(jié)構(gòu)基因?yàn)?時(shí),與其對(duì)應(yīng)的權(quán)重基因無(wú)效。結(jié)構(gòu)基因?yàn)?的個(gè)數(shù)即為隱層節(jié)點(diǎn)數(shù),與其對(duì)應(yīng)的權(quán)重基因即為L(zhǎng)M神經(jīng)網(wǎng)絡(luò)的權(quán)值和閾值,用其構(gòu)造神經(jīng)網(wǎng)絡(luò),計(jì)算每個(gè)染色體的適應(yīng)度。

5)按其適應(yīng)度采用輪盤(pán)賭策略選擇和復(fù)制個(gè)體,并按照“1.3”節(jié)中的方法進(jìn)行遺傳算子相應(yīng)的操作生成新的種群。

6)判斷是否滿(mǎn)足最大進(jìn)化代數(shù)或MSE小于0.001的停止準(zhǔn)則,若滿(mǎn)足則轉(zhuǎn)到步驟7);若不滿(mǎn)足則返回步驟4)。

7)對(duì)每個(gè)染色體解碼,構(gòu)造LM神經(jīng)網(wǎng)絡(luò),評(píng)價(jià)網(wǎng)絡(luò)性能。

8)利用訓(xùn)練好的LM網(wǎng)絡(luò)進(jìn)行預(yù)測(cè)并利用postmnmx函數(shù)對(duì)預(yù)測(cè)結(jié)果進(jìn)行反歸一化。

經(jīng)過(guò)迭代計(jì)算,隱層有12個(gè)節(jié)點(diǎn),即利用GA得到的最優(yōu)網(wǎng)絡(luò)結(jié)構(gòu)為4-12-1三層神經(jīng)網(wǎng)絡(luò),圖2為最優(yōu)網(wǎng)絡(luò)結(jié)構(gòu)示意圖。

圖2 最優(yōu)神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)圖Fig.2 The optimal structure of a neural network

2 預(yù)測(cè)結(jié)果與分析

將利用本研究中所提出的GA-LM模型預(yù)測(cè)的結(jié)果與傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)進(jìn)行比較。傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)的隱層節(jié)點(diǎn)數(shù)采用常見(jiàn)的經(jīng)驗(yàn)法+試湊法確定。

其中:m和n分別為神經(jīng)網(wǎng)絡(luò)的輸入和輸出節(jié)點(diǎn)數(shù);α為一個(gè)0～10的常數(shù)。

將m=4,n=1代入,可得P的值為2～13,在此基礎(chǔ)上以均方差MSE為評(píng)判標(biāo)準(zhǔn),利用試湊法確定BP網(wǎng)絡(luò)的隱層節(jié)點(diǎn)數(shù),結(jié)果見(jiàn)圖3。可以看出,當(dāng)隱層節(jié)點(diǎn)數(shù)為10的時(shí)候,MSE最小,故BP神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)結(jié)構(gòu)為4-10-1。

圖3 用試湊法確定隱層節(jié)點(diǎn)數(shù)Fig.3 Determination of the number of hidden nodes by trial and error approach

利用傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)與本研究中建立的GALM模型對(duì)20組測(cè)試樣本進(jìn)行預(yù)測(cè),溶解氧的實(shí)際測(cè)定值及模型預(yù)測(cè)值如表1所示?？梢钥闯?采用GA-LM預(yù)測(cè)的溶解氧值與測(cè)定值吻合程度遠(yuǎn)遠(yuǎn)高于BP算法。

對(duì)兩個(gè)模型的性能參數(shù)進(jìn)行比較(表2),可以看出:GA-LM模型的兩個(gè)統(tǒng)計(jì)參數(shù)平均誤差和誤差平方和遠(yuǎn)遠(yuǎn)小于BP網(wǎng)絡(luò),說(shuō)明GA-LM模型預(yù)測(cè)精度明顯提高;從預(yù)測(cè)的運(yùn)行時(shí)間上看,采用試湊法的傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)明顯比GA-LM模型預(yù)測(cè)時(shí)間長(zhǎng)很多。這說(shuō)明采用遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),與試湊法相比,大大節(jié)省了運(yùn)行時(shí)間。

3 結(jié)束語(yǔ)

面對(duì)養(yǎng)殖池塘這樣一個(gè)復(fù)雜的非線(xiàn)性系統(tǒng),作者在傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)基礎(chǔ)上,從算法和結(jié)構(gòu)上進(jìn)行了很大的改進(jìn)。結(jié)果表明:本研究中建立的GA -LM溶解氧預(yù)測(cè)模型,既發(fā)揮了LM神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)精度高、泛化能力強(qiáng)的特點(diǎn),同時(shí)又能體現(xiàn)出GA的優(yōu)勢(shì),快速優(yōu)化網(wǎng)絡(luò)結(jié)構(gòu),節(jié)省運(yùn)行時(shí)間,進(jìn)一步提高預(yù)測(cè)性能。

表1 溶解氧的測(cè)定值及模型預(yù)測(cè)值Tab.1 The measured and predicted values of dissolved oxygen(DO)levelsmg/L

表2 兩個(gè)模型性能的比較Tab.2 Performance comparison of two prediction models

[1] Rankovic'a V,Radulovic'a J,Radojevic'b I,et al.Neural network modeling of dissolved oxygen in the Gru?a reservoir,Serbia[J]. Ecological Modelling,2010,221(4):1239-1244.

[2] Boano F,Revell R,Ridolfi L.Stochastic modelling of DO and BOD components in a stream with random inputs[J].Advances in Water Resources,2006,29(9):1341-1350.

[3] Schmid B H,Asce M,Koskiaho J.Artificial neural network modeling of dissolved oxygen in a wetland pond:the case of Hovi,Finland[J].Journal of Hydrologic Engineering,2006,11(4):188-192.

[4] Faruk D ?.A hybrid neural network and ARIMA model for water quality time series prediction[J].Engineering Applications of Artificial Intelligence,2010,23(2):586-594.

[5] Zhang S,Song W T,Mo J Y,et al.A neural network prediction model for dissolved oxygen in nutrient solution with MATLAB[J]. Environmental Informatics Archives,2005(3):207-210.

[6] Chen D J,Lu J,Shen Y N.Artificial neural network modelling of concentrations of nitrogen,phosphorus and dissolved oxygen in a non-point source polluted river in Zhejiang Province,southeast China[J].Hydrological Processes,2009,24(10):290-299.

[7] 高艷萍,于紅,崔新忠.基于優(yōu)化BP網(wǎng)絡(luò)的工廠化水產(chǎn)養(yǎng)殖水質(zhì)預(yù)測(cè)模型的實(shí)現(xiàn)[J].大連水產(chǎn)學(xué)院學(xué)報(bào),2008,23(3):221-224.

[8] Deng C H,Wei X J,Guo L X.Application of Neural Network Based on PSO Algorithm in Prediction Model for Dissolved Oxygen in Fishpond[C]//Proc.6th World Congress on Intelligent Control and Automation(WCICA 2006).New york:IEEE Press,2006: 9401-9405.

[9] 郭連喜,鄧長(zhǎng)輝.基于模糊神經(jīng)網(wǎng)絡(luò)的池塘溶解氧預(yù)測(cè)模型[J].水產(chǎn)學(xué)報(bào),2006,30(2):225-229.

[10] 張立明.人工神經(jīng)網(wǎng)絡(luò)的模型及其應(yīng)用[M].上海:復(fù)旦大學(xué)出版社,1993.

[11] 王紅英,樊增緒,薛松堂.一種新的池塘溶解氧預(yù)測(cè)模型[J].農(nóng)業(yè)工程學(xué)報(bào),1997(4):145-147.

[12] 周明,孫樹(shù)棟.遺傳算法原理及其應(yīng)用[M].北京:國(guó)防工業(yè)出版社,2000.

A prediction model for dissolved oxygen level in a fish pond based on combination of neural network and genetic algorithm

MIAO Xin-ying1,GE Ting-you2,GAO Hui3,WANG Jian-bin1
(1.School of Information Engineering,Dalian Ocean University,Dalian 116023,China;2.Vocational and Technical College,Dalian Ocean University,Dalian 116300,China;3.School of Science,Dalian Ocean University,Dalian 116023,China)

The prediction of dissolved oxygen(DO)level is complicated in aquaculture ponds as a complex system with multi-variables,nonlinearity and long-time lag.In this study,GA-LM,a hybrid neural network model combining Levenberg Marquardt(LM)algorithm and Genetic Algorithm(GA)was developed for DO level predicting in an aquaculture pond at Dalian,China.The The comparison of performance of GA-LM with the conventional Back -Propagation(BP)algorithm revealed that the predicted DO values using GA-LM model are in good agreement with the measured data,indicating that the model is capable of predicting DO accurately and rapidly.

dissolved oxygen;levenberg-marquardt algorithm;genetic algorithm;prediction model

2095-1388(2011)03-0264-04

S931.3

A

2010-08-12

國(guó)家自然科學(xué)基金資助項(xiàng)目(61004063);遼寧省教育廳高等學(xué)?？蒲杏?jì)劃項(xiàng)目(L2010073);遼寧省海洋與漁業(yè)廳項(xiàng)目(201006);遼寧省科學(xué)技術(shù)計(jì)劃項(xiàng)目(2010216008)

繆新穎(1977-),女,講師。E-mail:miaoxinying@dlou.edu.cn