周翔宇 程勇 王軍
摘 要:針對(duì)淺層神經(jīng)網(wǎng)絡(luò)面對(duì)溫室復(fù)雜多變環(huán)境因子表征能力低、學(xué)習(xí)時(shí)間長(zhǎng)的問(wèn)題,提出一種基于改進(jìn)深度信念網(wǎng)絡(luò)并結(jié)合經(jīng)驗(yàn)?zāi)B(tài)分解與門(mén)控循環(huán)單元的溫室預(yù)測(cè)方法。首先,通過(guò)經(jīng)驗(yàn)?zāi)B(tài)分解將溫度環(huán)境因子進(jìn)行信號(hào)分解,之后將分解出來(lái)的固有模態(tài)函數(shù)與殘差信號(hào)進(jìn)行不同程度的預(yù)測(cè);然后,引入神經(jīng)膠質(zhì)改進(jìn)深度信念網(wǎng)絡(luò),并將分解信號(hào)結(jié)合光照和二氧化碳進(jìn)行多屬性的特征提取;最后,將門(mén)控循環(huán)單元預(yù)測(cè)的信號(hào)分量相加獲得最終的預(yù)測(cè)結(jié)果。仿真實(shí)驗(yàn)結(jié)果表明,與經(jīng)驗(yàn)?zāi)B(tài)分解深度信念網(wǎng)絡(luò)(EMD-DBN)和深度信念網(wǎng)絡(luò)神經(jīng)膠質(zhì)鏈(DBN-g)相比,所提方法的預(yù)測(cè)誤差分別降低了6.25%和5.36%,驗(yàn)證了其在強(qiáng)噪聲、強(qiáng)耦合的溫室時(shí)序環(huán)境下預(yù)測(cè)的有效性和可行性。
關(guān)鍵詞:?循環(huán)神經(jīng)網(wǎng)絡(luò);深度信念網(wǎng)絡(luò);門(mén)控循環(huán)單元;時(shí)間序列預(yù)測(cè);神經(jīng)膠質(zhì)鏈
中圖分類號(hào):TP183
文獻(xiàn)標(biāo)志碼:A
文章編號(hào):1001-9081(2019)04-1053-06
Abstract: Concerning low representation ability and long learning time for complex and variable environmental factors in greenhouses, a prediction method based on improved Deep Belief Network (DBN) combined with Empirical Mode Decomposition (EMD) and Gated Recurrent Unit (GRU) was proposed. Firstly, the temperature environment factor was decomposed by EMD, and then the decomposed intrinsic mode function and residual signal were predicted at different degrees. Secondly, glia was introduced to improve DBN, and the decomposition signal was used to multi-attribute feature extraction combined with illumination and carbon dioxide. Finally, the signal components predicted by GRU were added together to obtain the final prediction result. The simulation results show that compared with empirical decomposition belief network (EMD-DBN) and glial DBN-glial chains (DBN-g), the prediction error of the proposed method is reduced by 6.25% and 5.36% respectively, thus verifying its effectiveness and feasibility of predictions in greenhouse time series environment with strong noise and coupling.
Key words: recurrent neural network; Deep Belief Network (DBN); Gated Recurrent Unit (GRU); time series prediction; glial chain
0?引言
溫度作為農(nóng)作物賴以生存的重要因素,影響著農(nóng)作物的生長(zhǎng)、發(fā)育和形態(tài)建成,如何控制和管理溫室溫度成為設(shè)施農(nóng)業(yè)的重要問(wèn)題。溫室大棚智能控制作為設(shè)施農(nóng)業(yè)種植與生產(chǎn)過(guò)程中的關(guān)鍵環(huán)節(jié),是提高生產(chǎn)效率、保障農(nóng)作物品質(zhì)的重要措施[1]。溫室中影響農(nóng)作物生長(zhǎng)發(fā)育的環(huán)境變量都是時(shí)變量,其變化沒(méi)有規(guī)律可循且難以進(jìn)行預(yù)判,另外這些環(huán)境因素相互作用,難有適合的數(shù)學(xué)模型表述[2]。因此為了盡可能解決溫室大滯后問(wèn)題,實(shí)現(xiàn)智能溫室控制,需要對(duì)環(huán)境變量進(jìn)行精確地預(yù)測(cè),建立類似專家邏輯思維、模擬人腦智力的智能控制系統(tǒng)。
溫室溫度預(yù)測(cè)方法包括指數(shù)平滑法、時(shí)序分析法以及回歸分析法等。但在實(shí)際應(yīng)用中,數(shù)據(jù)往往由傳感器進(jìn)行收集,受到各種外來(lái)信號(hào)的干擾以及傳感器自身的影響,時(shí)序數(shù)據(jù)會(huì)產(chǎn)生各種不同類型的噪聲。這使得收集來(lái)的時(shí)序數(shù)據(jù)表現(xiàn)出非線性、非穩(wěn)定性特點(diǎn),對(duì)其進(jìn)行精確預(yù)測(cè)依然存在巨大挑戰(zhàn)[3]。
近年來(lái),許多學(xué)者開(kāi)始將人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Network, ANN)應(yīng)用到時(shí)間序列預(yù)測(cè)中并取得了一定的成果。這種以數(shù)據(jù)為導(dǎo)向的預(yù)測(cè)方法,不僅不依賴任何的數(shù)學(xué)模型,而且能在理論上逼近任意復(fù)雜的非線性模型。目前多數(shù)基于人工神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)方法都利用反向傳播(Back Propagation, BP)神經(jīng)網(wǎng)絡(luò)或者其他淺層神經(jīng)網(wǎng)絡(luò),但這類淺層神經(jīng)網(wǎng)絡(luò)容易陷入局部極值點(diǎn),導(dǎo)致整個(gè)網(wǎng)絡(luò)訓(xùn)練失敗。此時(shí),深度學(xué)習(xí)的出現(xiàn)讓人們看到新的曙光。深度學(xué)習(xí)模型可以包含更多的隱含層,優(yōu)化了誤差反饋算法,使得模型可以在大數(shù)據(jù)集中學(xué)習(xí)更加復(fù)雜的邏輯關(guān)系、識(shí)別數(shù)據(jù)結(jié)構(gòu)和分布。王鑫等[4]提出一種基于長(zhǎng)短期記憶循環(huán)神經(jīng)網(wǎng)絡(luò)(Long Short-Term Memory network, LSTM)的故障時(shí)間序列預(yù)測(cè)方法, 相對(duì)于淺層網(wǎng)絡(luò)擁有很強(qiáng)的適用性和更高的準(zhǔn)確性。倫淑嫻等[5]提出了一種改進(jìn)的小世界網(wǎng)絡(luò)優(yōu)化泄露積分型回聲狀態(tài)網(wǎng)絡(luò)的時(shí)間序列預(yù)測(cè)方法,使深度學(xué)習(xí)在時(shí)序預(yù)測(cè)方面具有較高精度。但將深度學(xué)習(xí)模型應(yīng)用于溫室小氣候時(shí)間序列時(shí)出現(xiàn)了許多挑戰(zhàn):
1)溫室小氣候時(shí)間序列具有很強(qiáng)的噪聲,會(huì)對(duì)以數(shù)據(jù)為驅(qū)動(dòng)的深度學(xué)習(xí)模型產(chǎn)生深遠(yuǎn)影響。不少學(xué)者為了抵御噪聲帶來(lái)的影響提出了自己的方案,Qiu等[6]提出了一種經(jīng)驗(yàn)?zāi)B(tài)分解與深度信念網(wǎng)絡(luò)結(jié)合的預(yù)測(cè)方法經(jīng)驗(yàn)?zāi)B(tài)分解深度信念網(wǎng)絡(luò)(Empirical Mode Decomposition-Deep Belief Network,EMD-DBN),在負(fù)載平衡數(shù)據(jù)集上獲得了良好的預(yù)測(cè)結(jié)果,削弱了噪聲給時(shí)序預(yù)測(cè)帶來(lái)的影響。
2)滿足實(shí)時(shí)性的要求。由于氣候預(yù)測(cè)是服務(wù)于溫室控制的,所以對(duì)預(yù)測(cè)速度有一定要求,但深度學(xué)習(xí)計(jì)算代價(jià)高、訓(xùn)練時(shí)間長(zhǎng),不能滿足實(shí)時(shí)性需求。
深度信念網(wǎng)絡(luò)的出現(xiàn)使得深層網(wǎng)絡(luò)地快速訓(xùn)練成為可能。由于其逐層預(yù)訓(xùn)練的思想,利用先驗(yàn)知識(shí)使得整個(gè)神經(jīng)網(wǎng)絡(luò)在較短時(shí)間內(nèi)處于較優(yōu)的狀態(tài),極大地減少了后續(xù)監(jiān)督學(xué)習(xí)收斂所需時(shí)間。同時(shí)由于溫室氣候是強(qiáng)耦合的時(shí)變對(duì)象,需要對(duì)多種環(huán)境因子進(jìn)行特征提取,因此需要運(yùn)用新型深度信念網(wǎng)絡(luò)來(lái)滿足要求。
本文提出一種基于混合神經(jīng)網(wǎng)絡(luò)和經(jīng)驗(yàn)?zāi)B(tài)分解的方法來(lái)對(duì)溫室溫度進(jìn)行預(yù)測(cè)。運(yùn)用經(jīng)驗(yàn)?zāi)B(tài)分解對(duì)溫室采集的環(huán)境要素進(jìn)行信號(hào)分解,然后將分解后的信號(hào)通過(guò)混合神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測(cè),最終各部分預(yù)測(cè)信號(hào)重構(gòu)出結(jié)果。對(duì)比實(shí)驗(yàn)結(jié)果驗(yàn)證了該模型的有效性。
1?相關(guān)工作
溫室是集應(yīng)用工程裝備技術(shù)和環(huán)境技術(shù)于一體進(jìn)行農(nóng)作物培養(yǎng)的現(xiàn)代農(nóng)業(yè)生產(chǎn)方式[1]。溫室溫度預(yù)測(cè)方法有很多,基本思想都是通過(guò)分析過(guò)去時(shí)間內(nèi)數(shù)據(jù)之間的關(guān)系和規(guī)律來(lái)推斷未來(lái)發(fā)展趨勢(shì)和走向。預(yù)測(cè)方法可分為時(shí)間序列分析模型和人工智能的模型。
基于歷史數(shù)據(jù)的時(shí)間分析模型以傳統(tǒng)統(tǒng)計(jì)學(xué)方法為理論基礎(chǔ),代表方法是自回歸滑動(dòng)平均(Auto Regressive Moving Average, ARMA)系列模型。左志宇等[7]采用ARMA(4,4)模型來(lái)擬合夏季溫室溫度的1步預(yù)測(cè)方案, 實(shí)驗(yàn)結(jié)果表明平均相對(duì)誤差為1.1%。符國(guó)槐等[8]建立了基于逐步回歸方法的溫室內(nèi)空氣溫度預(yù)報(bào)模型,取得了良好的實(shí)驗(yàn)結(jié)果。但這些模型需要借鑒先驗(yàn)知識(shí),構(gòu)造或者假設(shè)模型結(jié)構(gòu)。
基于人工智能的模型因其不依賴物理模型,以數(shù)據(jù)為驅(qū)動(dòng)而備受矚目。朱春俠等[9]利用北方冬季溫室日光環(huán)境因子建立BP神經(jīng)網(wǎng)絡(luò)模型,預(yù)測(cè)效果良好。于海南等[10]建立BP神經(jīng)網(wǎng)絡(luò)模型對(duì)大比熱容性的水產(chǎn)溫室水溫進(jìn)行預(yù)測(cè),表現(xiàn)出更強(qiáng)的魯棒性、穩(wěn)態(tài)精度相對(duì)于時(shí)間分析模型更高。
但是目前的人工智能模型大多采用如BP的淺層神經(jīng)網(wǎng)絡(luò)或者引入遺傳算法與粒子群等優(yōu)化算法的改進(jìn)型進(jìn)行預(yù)測(cè)。Qing等[11]通過(guò)使用長(zhǎng)短期記憶網(wǎng)絡(luò)進(jìn)行太陽(yáng)輻射溫度預(yù)測(cè),均方差誤差比傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)降低了18.34%。Li等[12]提出一種基于改進(jìn)的深度信念網(wǎng)絡(luò)模型,在電力耗能預(yù)測(cè)方面與向后傳播神經(jīng)網(wǎng)絡(luò)、廣義徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)和支持向量機(jī)相比擁有最佳的性能。可以看出深度神經(jīng)網(wǎng)絡(luò)在預(yù)測(cè)回歸方面與淺層相比有優(yōu)勢(shì),因此本文提出運(yùn)用新型深度神經(jīng)網(wǎng)絡(luò)來(lái)對(duì)溫室溫度進(jìn)行預(yù)測(cè)。
2?基于深度信念網(wǎng)絡(luò)的溫室溫度預(yù)測(cè)
2.1?模型概述
溫室智能控制的實(shí)現(xiàn)需要控制程序能夠正確對(duì)各環(huán)境因子進(jìn)行響應(yīng),但前提需要預(yù)測(cè)模型的支持[13]。溫室一般會(huì)采集的環(huán)境因子如表1所示。
溫度因子雖然可以直接從溫度傳感器中讀取,但不宜直接對(duì)其進(jìn)行預(yù)測(cè),原因有以下兩個(gè)方面:1)溫室中遍布各種功能的傳感器,它們之間會(huì)產(chǎn)生不同程度的干擾,從而影響傳感器的數(shù)據(jù)讀取,使得傳輸過(guò)來(lái)的數(shù)據(jù)具有一定的噪聲。2)在現(xiàn)實(shí)世界中,不同環(huán)境因子之間會(huì)相互耦合、相互作用、相互影響。例如光照強(qiáng)度會(huì)影響農(nóng)作物光合作用的強(qiáng)度,使得溫室中二氧化碳濃度上升,由于微弱的溫室效應(yīng)的影響,會(huì)對(duì)溫室內(nèi)溫度造成影響。
本文為了能夠抵御傳感器以及其他環(huán)境因子帶來(lái)的噪聲影響,決定運(yùn)用經(jīng)驗(yàn)?zāi)B(tài)分解以及深度信念網(wǎng)絡(luò)來(lái)應(yīng)對(duì)。本文方法過(guò)程如圖1所示。
2.2?整體流程圖
本文方法先利用經(jīng)驗(yàn)?zāi)B(tài)分解對(duì)預(yù)處理后序列進(jìn)行信號(hào)分解,然后再運(yùn)用改進(jìn)的深度信念網(wǎng)絡(luò)對(duì)分解信號(hào)進(jìn)行多屬性特征分解,最后通過(guò)門(mén)控循環(huán)單元進(jìn)行預(yù)測(cè),如圖2所示。
2.3?基于經(jīng)驗(yàn)?zāi)B(tài)分解的信號(hào)分解
經(jīng)驗(yàn)?zāi)B(tài)分解(Empirical Mode Decomposition, EMD)[6]是一種將信號(hào)分解為若干固有模態(tài)函數(shù)(Intrinsic Mode Function, IMF)以及代表其趨勢(shì)的殘差信號(hào)的方法。EMD是從非平穩(wěn)和非線性數(shù)據(jù)集獲取瞬時(shí)頻率數(shù)據(jù)的經(jīng)驗(yàn)方法。
由于溫室中傳感器受到不同程度地干擾,使得收集的環(huán)境時(shí)序數(shù)據(jù)具有一定的噪聲,并且環(huán)境因子是時(shí)刻變化的,總是受到其他因素的影響,具有非平穩(wěn)、非線性的特性,因此,EMD算法對(duì)于溫室環(huán)境預(yù)測(cè)非常有效,分解過(guò)程如下:
1)通過(guò)對(duì)局部最大值和最小值進(jìn)行三次樣條插值來(lái)計(jì)算環(huán)境時(shí)間序列X(t)的上下包絡(luò)。
2)計(jì)算上下包絡(luò)線的平均值m(t),并從X(t)中減去以獲得第一分量h(t)。
3)將新的h(t)視為新的X(t)重復(fù)步驟1)~2),直到m(t)接近0或者h(yuǎn)(t)的零值點(diǎn)與極值點(diǎn)個(gè)數(shù)相差不超過(guò)1。
4)將h(t)視為IMF并計(jì)算殘差信號(hào):r(t)=X(t)-h(t)。
5)將殘差信號(hào)r(t)作為新的X(t),重復(fù)步驟1)~4),直至獲得所有IMF。
將環(huán)境因子時(shí)間序列分解成若干易于分析的IMF分量和具有噪聲的殘差信號(hào),方便以后對(duì)其進(jìn)行不同程度的特征提取與分析。
2.4?基于深度信念網(wǎng)絡(luò)的特征提取
2.4.1?深度信念網(wǎng)絡(luò)
深度信念網(wǎng)絡(luò)(Deep Belief Network, DBN)[14]是由多個(gè)限制玻爾茲曼機(jī)(Restricted Boltzmann Machine, RBM)組成的概率圖模型。DBN訓(xùn)練采用逐層貪婪的策略,先訓(xùn)練最下層RBM模型,訓(xùn)練完成后將前一層RBM的隱層作為后一層RBM的可見(jiàn)層繼續(xù)訓(xùn)練,直到訓(xùn)練完全部網(wǎng)絡(luò)。訓(xùn)練過(guò)程如圖3所示。
2.4.2?環(huán)境因子的特征提取
傳統(tǒng)的特征提取方法由于過(guò)多地依賴物理模型和專家經(jīng)驗(yàn),不適合多變復(fù)雜的溫室環(huán)境因子。DBN不僅不依賴物理模型,而且可以在理論上逼近任意非線性時(shí)間序列,適合溫室數(shù)據(jù)預(yù)測(cè)需求。
由于不同環(huán)境因子之間會(huì)相互影響,因此本文選取室內(nèi)溫度、光照強(qiáng)度和二氧化碳濃度三種屬性進(jìn)行多屬性特征提?。ü庹諒?qiáng)度和二氧化碳濃度會(huì)因微弱的溫室效應(yīng)影響室內(nèi)溫度)。在DBN中引入神經(jīng)膠質(zhì)[16],如圖4所示,隱層中每一個(gè)神經(jīng)元都會(huì)與一個(gè)神經(jīng)膠質(zhì)進(jìn)行連接。
其中:S表示激活后的非活動(dòng)周期; μ表示衰減因子。
特征提取步驟如下:1)將預(yù)測(cè)步長(zhǎng)為120的預(yù)處理室內(nèi)溫度時(shí)間序列X(t)作為輸入傳入DBN模型。
2)將X(t)通過(guò)式(3)計(jì)算出第一層的隱層h0。
3)將隱層h0通過(guò)式(4)重構(gòu)出輸入向量X1(t)。
4)將預(yù)處理的光照強(qiáng)度時(shí)間序列L(t)和預(yù)處理的二氧化碳濃度時(shí)間序列CO(t)通過(guò)式(7)計(jì)算出振蕩閾值。
5)通過(guò)式(8)更新神經(jīng)膠質(zhì)狀態(tài)。
6)再將向量X1(t)通過(guò)式(6)重構(gòu)出新的隱層h1。
7)將重構(gòu)的誤差通過(guò)式(5)用于權(quán)重更新。
8)重復(fù)上述過(guò)程,直到訓(xùn)練完全部樣本。
9)將第一層訓(xùn)練得到的輸出作為輸入向量傳入第二層。
10)重復(fù)上述過(guò)程,直到訓(xùn)練完整個(gè)DBN模型。
11)將最后一層RBM的輸出看作是輸入向量X多屬性特征提取后的特征值用于之后的預(yù)測(cè)模型。
2.5?基于門(mén)控循環(huán)單元的溫度預(yù)測(cè)
2.5.1?門(mén)控循環(huán)單元概念
門(mén)控循環(huán)單元(Gated Recurrnet Unit, GRU)[17]是遞歸神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network, RNN)激活單元的一個(gè)變種。
RNN由一個(gè)隱層狀態(tài)h和一個(gè)可選輸出r組成。
GRU由更新門(mén)和復(fù)位門(mén)組成。更新門(mén)用來(lái)決定前一時(shí)刻的隱層狀態(tài)中有多少信息將轉(zhuǎn)移到當(dāng)前隱層狀態(tài),更新規(guī)則如式(9)所示;復(fù)位門(mén)能夠有效降低不相關(guān)信息給隱層狀態(tài)帶來(lái)的影響,當(dāng)復(fù)位門(mén)接近于0是,隱層狀態(tài)被迫忽略前一時(shí)刻隱層狀態(tài),復(fù)位規(guī)則如式(10)所示。
2.5.2?溫度環(huán)境因子的預(yù)測(cè)模型
GRU模型引入門(mén)控的概念,不僅信息能夠長(zhǎng)期保存,而且通過(guò)更新和復(fù)位兩種操作,可以選擇需要遺忘的舊記憶或者應(yīng)該更新的新記憶,因此GRU模型相對(duì)于其他淺層神經(jīng)網(wǎng)絡(luò)更加適合于處理時(shí)間序列數(shù)據(jù)。
將訓(xùn)練后的特征值作為輸入,預(yù)測(cè)步長(zhǎng)后一時(shí)刻的溫度觀測(cè)值作為標(biāo)簽建立GRU模型。通過(guò)輸入向量與標(biāo)簽之間的誤差更新復(fù)位門(mén)與更新門(mén)的權(quán)重矩陣,直到誤差收斂或完成預(yù)定的訓(xùn)練次數(shù)。
3?實(shí)驗(yàn)與結(jié)果分析
3.1?實(shí)驗(yàn)數(shù)據(jù)
實(shí)驗(yàn)數(shù)據(jù)的來(lái)源是南京市某溫室小氣候數(shù)據(jù)信息。該數(shù)據(jù)中包含了溫室編號(hào)、室內(nèi)溫度、室外溫度、光照強(qiáng)度、室內(nèi)濕度、室外濕度等氣候信息。數(shù)據(jù)基本涵蓋了溫室小氣候監(jiān)測(cè)的所有信息。仿真實(shí)驗(yàn)中,選取與溫度相關(guān)的3種氣候信息(室內(nèi)溫度、光照強(qiáng)度、二氧化碳濃度)的每小時(shí)監(jiān)測(cè)值來(lái)預(yù)測(cè)溫室溫度。
在溫室溫度預(yù)測(cè)中,將2016年3月到2017年8月的溫室氣候數(shù)據(jù)共62150項(xiàng)數(shù)據(jù)用于訓(xùn)練,其中50%的數(shù)據(jù)作為訓(xùn)練集,其余50%的數(shù)據(jù)作為測(cè)試集檢測(cè)性能。
3.2?實(shí)驗(yàn)評(píng)測(cè)標(biāo)準(zhǔn)
本文采用均方誤差(Mean Squared Error, MSE)來(lái)評(píng)價(jià)所提出的基于混合神經(jīng)網(wǎng)絡(luò)的溫室溫度預(yù)測(cè)方法,計(jì)算公式如下:
本文實(shí)驗(yàn)的硬件環(huán)境:CPU為Intel i7 8700K,GPU為NVIDIA GeForce GTX 1070。在Windows 10系統(tǒng)的Theano框架下進(jìn)行開(kāi)發(fā)。
3.3?架構(gòu)實(shí)現(xiàn)
在特征提取階段,DBN輸入層神經(jīng)元大小為預(yù)設(shè)的預(yù)測(cè)步長(zhǎng),在本文中為120。由于在信號(hào)分解階段將溫度時(shí)間序列分解成若干IMF和帶噪聲的殘差信號(hào),所以將采用兩種不同深度的DBN對(duì)其分別進(jìn)行提取。
在仿真實(shí)驗(yàn)中,將隱含層的數(shù)量限定在1~3,并且將每一層神經(jīng)元數(shù)目限制在10~100,每層訓(xùn)練次數(shù)固定為30。
通過(guò)網(wǎng)格搜索算法,獲得最優(yōu)的網(wǎng)絡(luò)模型深度結(jié)構(gòu)——神經(jīng)元數(shù)目分別是(20, 60)和(40,80,100)。
回歸預(yù)測(cè)階段需要建立門(mén)控循環(huán)單元網(wǎng)絡(luò),也需要確定輸入層大小、隱含層的數(shù)量與每層神經(jīng)元的數(shù)目。將之前DBN最后一層隱含層神經(jīng)元數(shù)目作為網(wǎng)絡(luò)輸入層大小。同樣使用網(wǎng)格搜索確定GRU各門(mén)控隱含層神經(jīng)元數(shù)目為200。最終網(wǎng)絡(luò)結(jié)構(gòu)如圖5所示。
3.4?網(wǎng)絡(luò)性能分析
圖6為本文提出的混合神經(jīng)網(wǎng)絡(luò)對(duì)溫室溫度預(yù)測(cè)的效果,從中可看出預(yù)測(cè)結(jié)果接近實(shí)際值。
其中橫坐標(biāo)表示第i個(gè)時(shí)間間隔(小時(shí))。
GRU模型學(xué)習(xí)的迭代次數(shù)也會(huì)影響著模型對(duì)數(shù)據(jù)的擬合精度,因此需要探究其對(duì)預(yù)測(cè)精度帶來(lái)的影響。實(shí)驗(yàn)結(jié)果如表2所示。
表2中MSE值表示測(cè)試集預(yù)測(cè)結(jié)果與實(shí)際值之間均方誤差的總和,從中可知,GRU對(duì)溫室溫度預(yù)測(cè)誤差隨著迭代次數(shù)的增加先下降后上升,當(dāng)?shù)螖?shù)為40時(shí)獲得最小值,表示此時(shí)預(yù)測(cè)準(zhǔn)確率最高。一般而言,學(xué)習(xí)程度越高預(yù)測(cè)精度越高,但學(xué)習(xí)次數(shù)過(guò)多可能會(huì)導(dǎo)致“過(guò)擬合”,反而使得預(yù)測(cè)精度下降。這是因?yàn)榫W(wǎng)絡(luò)“過(guò)擬合”后學(xué)習(xí)了樣本的特有特征(噪聲等)而失去了泛化能力。
3.5?與其他模型進(jìn)行對(duì)比
為了探究本文方法的有效性,使用其他模型對(duì)相同數(shù)據(jù)集進(jìn)行溫室溫度預(yù)測(cè)的對(duì)比實(shí)驗(yàn),仿真實(shí)驗(yàn)結(jié)果如圖7~8所示。
圖7~8的兩個(gè)子圖分別對(duì)比了各方法的預(yù)測(cè)結(jié)果和預(yù)測(cè)誤差。從圖7可看出基于傳統(tǒng)統(tǒng)計(jì)學(xué)的自回歸(AutoRegression, AR)線性預(yù)測(cè)模型面對(duì)強(qiáng)耦合的時(shí)變對(duì)象時(shí)預(yù)測(cè)精度較低,并且如LSTM等神經(jīng)網(wǎng)絡(luò)也不能在具有噪聲的時(shí)序中學(xué)習(xí)到較好的特征。
圖8中的對(duì)比模型EMD-DBN來(lái)自于文獻(xiàn)[6],通過(guò)引入經(jīng)驗(yàn)?zāi)B(tài)分解削弱數(shù)據(jù)噪聲給時(shí)序預(yù)測(cè)帶來(lái)的影響;深度信念網(wǎng)絡(luò)神經(jīng)膠質(zhì)鏈(DBN-glial chains, DBN-g)出自文獻(xiàn)[16],隱含層神經(jīng)元通過(guò)神經(jīng)膠質(zhì)的輔助可以學(xué)習(xí)其他相關(guān)因子信息,給強(qiáng)耦合時(shí)序的預(yù)測(cè)提供了可能。
從圖8(b)可看出本文方法可以在具有噪聲且強(qiáng)耦合的時(shí)序環(huán)境下更加接近于實(shí)際溫度值且均方誤差要小很多。
4?結(jié)語(yǔ)
本文提出了一種基于改進(jìn)深度信念網(wǎng)絡(luò)并結(jié)合經(jīng)驗(yàn)?zāi)B(tài)分解與門(mén)控循環(huán)單元的溫室溫度預(yù)測(cè)方法。與過(guò)往的溫室溫度預(yù)測(cè)方法相比不僅不依賴物理模型,而且能夠挖掘溫度與其他環(huán)境因子之間潛在的特征關(guān)系。利用模態(tài)分解減弱了傳感器噪聲給預(yù)測(cè)帶來(lái)的影響,并且基于改進(jìn)深度信念網(wǎng)絡(luò)的溫室溫度預(yù)測(cè)方法可以更為快速地得到其他環(huán)境因子與溫度的特征關(guān)系。之后,利用特征建立門(mén)控循環(huán)單元網(wǎng)絡(luò)進(jìn)行有監(jiān)督的預(yù)測(cè)。仿真對(duì)比說(shuō)明了該方法的可行性與有效性。在未來(lái)的研究中,將考慮消除或抑制溫室傳感器帶來(lái)的噪聲對(duì)溫度預(yù)測(cè)的影響,模型也可以推廣到其他數(shù)據(jù)挖掘領(lǐng)域。
參考文獻(xiàn)(References)
[1] 邢希君, 宋建成, 吝伶艷, 等. 設(shè)施農(nóng)業(yè)溫室大棚智能控制技術(shù)的現(xiàn)狀與展望[J]. 江蘇農(nóng)業(yè)科學(xué), 2017, 45(21): 10-15. (XING X J, SONG J C, LIN L Y, et al. Status and prospects of intelligent control technology for facility agriculture greenhouses[J]. Jiangsu Agricultural Sciences, 2017, 45(21): 10-15.)
[2] 邰成. 智能溫室控制算法的研究與應(yīng)用[D]. 南京: 南京郵電大學(xué), 2013: 1-15. (TAI C. The research and applications on the intelligent control algorithm for the greenhouse[D]. Nanjing: Nanjing University of Posts and Telecommunications, 2013: 1-15.)
[3] 張國(guó)輝. 基于深度置信網(wǎng)絡(luò)的時(shí)間序列預(yù)測(cè)方法及其應(yīng)用研究[D]. 黑龍江: 哈爾濱工業(yè)大學(xué), 2017: 1-12. (ZHANG G H. Research on time series prediction and its application based on deep belief network[D]. Heilongjiang: Harbin Institute of Technology, 2017: 1-12.)
[4] 王鑫, 吳際, 劉超, 等. 基于LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)的故障時(shí)間序列預(yù)測(cè)[J]. 北京航空航天大學(xué)學(xué)報(bào), 2018, 44(4): 772-784. (WANG X, WU J, LIU C, et al. Exploring LSTM based recurrent neural network for failure time series prediction[J]. Journal of Beijing University of Aeronautics and Astronsutics, 2018, 44(4): 772-784.)
[5] 倫淑嫻, 林健, 姚顯雙. 基于小世界回聲狀態(tài)網(wǎng)的時(shí)間序列預(yù)測(cè)[J]. 自動(dòng)化學(xué)報(bào), 2015, 41(9): 1669-1679. (LUN S X, LIN J, YAO X S. Time series prediction with an improved echo state network using small world network[J]. Acta Automatica Sinica, 2015, 41(9): 1669-1679.)
[6] QIU X, REN Y, SUGANTHAN P N, et al. Empirical mode decomposition based ensemble deep learning for load demand time series forecasting[J]. Applied Soft Computing, 2017, 54: 246-255.
[7] 左志宇, 毛罕平, 張曉東, 等. 基于時(shí)序分析法的溫室溫度預(yù)測(cè)模型[J]. 農(nóng)業(yè)機(jī)械學(xué)報(bào), 2010, 41(11): 173-177. (ZUO Z Y, MAO H P, ZHANG X D, et al. Forecast model of greenhouse temperature based on time series method[J]. Transactions of the Chinese Society for Agricultural Machinery, 2010, 41(11): 173-177.)
[8] 符國(guó)槐, 張波, 楊再?gòu)?qiáng), 等. 塑料大棚小氣候特征及預(yù)報(bào)模型的研究[J]. 中國(guó)農(nóng)學(xué)通報(bào), 2011, 27(13): 242-248. (FU G H, ZHANG B, YANG Z Q, et al. Research on the microclimate characteristics and inside temperature prediction model for plastic greenhouse[J]. Chinese Agricultural Science Bulletin, 2011, 27(13): 272-248.)
[9] 朱春俠, 童淑敏, 胡景華, 等. BP神經(jīng)網(wǎng)絡(luò)在日光溫室濕度預(yù)測(cè)中的應(yīng)用[J]. 農(nóng)機(jī)化研究, 2012, 34(7): 207-210. (ZHU C X, TONG S M, HU J H, et al. Application of nerve network on forecasting temperature in sunlight greenhouse[J]. Journal of Agricultural Mechanization Research, 2012, 34(7): 207-210.)
[10] 于海南, 鄭榮進(jìn), 步文月, 等. 基于BP神經(jīng)網(wǎng)絡(luò)PID控制器在水產(chǎn)溫室溫度控制中的應(yīng)用[J]. 安徽農(nóng)業(yè)科學(xué), 2016, 44(3): 312-315. (YU H N, ZHENG R J, BU W Y, et al. Application of PID controller based on BP neural network in temperature control of aquaculture greenhouse[J]. Journal of Anhui Agricultural Sciences, 2016, 44(3): 312-315.)
[11] QING X Y, NIU Y G. Hourly day-ahead solar irradiance prediction using weather forecasts by LSTM[J]. Energy, 2018, 148: 461-468.
[12] LI C, DING Z, YI J, et al. Deep belief network based hybrid model for building energy consumption prediction[J]. Energies, 2018, 11(1): 242.
[13] 秘立鵬, 宋建成, 王天水, 等. 設(shè)施農(nóng)業(yè)溫室大棚網(wǎng)絡(luò)型自適應(yīng)控制系統(tǒng)的開(kāi)發(fā)[J]. 農(nóng)機(jī)化研究, 2014, 36(7): 124-128. (MI L P, SONG J C, WANG T S, et al. Development of adaptive control system based on ethernet network in facilities agricultural greenhouse[J]. Journal of Agricultural Mechanization Research, 2014, 36(7): 124-128.)
[14] HINTON G E, SALAKHUTDINOV R R. Reducing the dimensionality of data with neural networks[J]. Science, 2006, 313(5786): 504-507.
[15] BENGIO Y. Learning deep architectures for AI[J]. Foundations and Trends in Machine Learning, 2009, 2(1): 1-127.
[16] GENG Z, LI Z, HAN Y. A new deep belief network based on RBM with glial chains[J]. Information Sciences, 2018, 463/464: 294-306.
[17] CHO K, MERRIENBOER B V, GULCEHRE C, et al. Learning phrase representations using RNN encoder-decoder for statistical machine translation[EB/OL]. [2018-05-10]. https://arxiv.org/pdf/1406.1078.