国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

基于融合注意力機(jī)制LSTM網(wǎng)絡(luò)的地下水位自適應(yīng)魯棒預(yù)測

2024-02-02 09:29佃松宜厲瀟瀅芮勝陽
工程科學(xué)與技術(shù) 2024年1期
關(guān)鍵詞:編碼器注意力水位

佃松宜,厲瀟瀅,楊 丹,芮勝陽,郭 斌*

(1.四川大學(xué)電氣工程學(xué)院,四川成都 610065;2.成都興蓉市政設(shè)施管理有限公司,四川成都 610065)

2019年,住房和城鄉(xiāng)建設(shè)部、生態(tài)環(huán)境部和發(fā)展改革委聯(lián)合發(fā)布了《城鎮(zhèn)污水處理提質(zhì)增效三年行動方案》(2019—2021)[1-2],方案明確要求進(jìn)水生化需氧量(BOD)濃度低于100mg/L的污水處理廠應(yīng)開展系統(tǒng)化整治工作。城市污水管網(wǎng)的降雨入流及地下水入滲問題是污水處理廠進(jìn)水濃度偏低的重要原因[3]。在實(shí)際生活中,旱天外來水入流、入滲水量受管網(wǎng)服務(wù)區(qū)域排水規(guī)律、管道結(jié)構(gòu)條件等復(fù)雜因素影響[4]。因此,快速精準(zhǔn)地預(yù)測地下水水位對預(yù)測污水濃度、準(zhǔn)確計(jì)算旱天污水管網(wǎng)地下水入滲量[5]、輔助管網(wǎng)病害治理與維護(hù)具有重要意義。

城市地下水水位除受到降水入流、旱時(shí)入滲等因素影響,還受到其所在區(qū)域地質(zhì)層及所鋪設(shè)管網(wǎng)分布特征制約,導(dǎo)致其水位動態(tài)變化,呈現(xiàn)出復(fù)雜的非線性、趨勢性、季節(jié)性、滯后性及隨機(jī)性等特征[6],導(dǎo)致其數(shù)據(jù)的不規(guī)律和雜亂性遠(yuǎn)超其他普通的時(shí)間序列數(shù)據(jù),其預(yù)測面臨著獨(dú)特的挑戰(zhàn)和嚴(yán)峻性。在實(shí)際水文測量結(jié)果中,易出現(xiàn)數(shù)據(jù)缺失、異常值、非平穩(wěn)等質(zhì)量問題[7];除此之外,水位數(shù)據(jù)的時(shí)空相關(guān)性和周期性規(guī)律差,難以捕捉,即特征和地下水位間的關(guān)聯(lián)難以被模型挖掘。這系列問題為城市區(qū)域級地下水水位預(yù)測帶來了重大挑戰(zhàn)。

目前常用的地下水水位預(yù)測方法可大致分為以下3種:基于物理模型的方法[8]、基于時(shí)間序列分析的方法[9]和數(shù)據(jù)驅(qū)動的預(yù)測方法[10]?;谖锢砟P偷姆椒ㄊ且罁?jù)地下水流方程和邊界條件等物理規(guī)律,采用數(shù)值方法求解模型預(yù)測地下水位。但該方法原理復(fù)雜、水文參數(shù)定標(biāo)難、模型開發(fā)周期長,還易受假設(shè)局限性和不確定性的影響[11]。基于時(shí)間序列分析的方法是根據(jù)趨勢、季節(jié)性和周期性[12]等特征,通過對歷史數(shù)據(jù)進(jìn)行擬合來預(yù)測未來的數(shù)據(jù)[13],但主要適用于具有周期性和趨勢性的數(shù)據(jù)。以上兩種傳統(tǒng)的預(yù)測方法往往無法充分捕捉地下水位數(shù)據(jù)中的非線性關(guān)系和時(shí)空依賴性。基于數(shù)據(jù)驅(qū)動的方法是對已有數(shù)據(jù)進(jìn)行學(xué)習(xí)和分析,通過構(gòu)建模型完成預(yù)測[14],其原理是基于數(shù)據(jù)的內(nèi)在規(guī)律和模式識別。例如,楊建飛等[15]通過建立灰色殘差模型對寶雞峽灌區(qū)地下水位進(jìn)行預(yù)測,結(jié)果顯示該模型能夠有效克服數(shù)據(jù)序列不穩(wěn)定帶來的誤差并提高預(yù)測精度;Barzegar等[16]結(jié)合小波變換和神經(jīng)網(wǎng)絡(luò)模型對地下水位短期動態(tài)進(jìn)行預(yù)測,取得了較為理想的效果。

由于水文數(shù)據(jù)的特殊性[17],現(xiàn)有的基于數(shù)據(jù)驅(qū)動的方法不能保證對不同規(guī)模數(shù)據(jù)集的自適應(yīng)能力[18]。該方法需要大量數(shù)據(jù)來訓(xùn)練模型,但水文數(shù)據(jù)常見缺失、異常值等問題,數(shù)據(jù)質(zhì)量會影響模型預(yù)測的準(zhǔn)確性和魯棒性[19]。其次,數(shù)據(jù)的時(shí)空相關(guān)性和周期性并不顯著,僅僅使用簡單的線性模型或傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)模型不能夠充分挖掘水文特征與地下水位間的關(guān)聯(lián)[20],無法滿足預(yù)測的準(zhǔn)確性和魯棒性要求,故選擇合適的預(yù)測模型尤為重要。隨著深度學(xué)習(xí)模型的迅速發(fā)展,越來越多性能良好的模型被提出并被應(yīng)用于不同的場景,例如長短時(shí)記憶網(wǎng)絡(luò)(LSTM)[21]、門控單元神經(jīng)網(wǎng)絡(luò)(GRU)[22]等。其中,LSTM神經(jīng)網(wǎng)絡(luò)因方便進(jìn)行時(shí)間序列建模,且具有長期記憶功能,在水位預(yù)測方面得到了廣泛應(yīng)用[23–25]。但LSTM網(wǎng)絡(luò)不能專注于不同時(shí)間序列長度的不同變量,在預(yù)測過程中不能保證預(yù)測效果的魯棒性[26]。

針對城市地下水位預(yù)測中的水位數(shù)據(jù)隨機(jī)性與非線性強(qiáng)、時(shí)空依賴明顯、數(shù)據(jù)波動規(guī)律難捕捉等特點(diǎn),結(jié)合現(xiàn)有預(yù)測模型單一、處理時(shí)空相關(guān)任務(wù)弱、靈敏度低、泛化能力弱、魯棒性能力低等問題,本文提出基于時(shí)空注意力機(jī)制的LSTM(STA–LSTM)水位預(yù)測算法。主要創(chuàng)新點(diǎn)如下:1)基于空間注意力機(jī)制快速識別與水位相關(guān)聯(lián)的關(guān)鍵變量,準(zhǔn)確捕捉影響地下水位的多因素間的依賴模式和關(guān)聯(lián)性;2)時(shí)間注意機(jī)制捕捉時(shí)間上的依賴關(guān)系并自適應(yīng)地找出不同時(shí)間序列長度下與地下水位相關(guān)的編碼器隱藏狀態(tài),可更好捕捉地下水位數(shù)據(jù)的復(fù)雜性和不確定性;3)能夠動態(tài)地調(diào)整權(quán)重,提高水位的預(yù)測精度,且算法對復(fù)雜水位數(shù)據(jù)有較好的自適應(yīng)性和較強(qiáng)的魯棒性,對于城市區(qū)域級地下水位預(yù)測具有重要的參考價(jià)值與工程意義。

1 基于STA–LSTM的水位預(yù)測方法

傳統(tǒng)的LSTM網(wǎng)絡(luò)是一種循環(huán)神經(jīng)網(wǎng)絡(luò),但相比于原始的循環(huán)神經(jīng)網(wǎng)絡(luò)的隱層部分,LSTM增加了細(xì)胞狀態(tài),能保證信息不變地流過整個循環(huán)神經(jīng)網(wǎng)絡(luò)。LSTM網(wǎng)絡(luò)還引入門機(jī)制用于控制特征的流通和損失,門機(jī)制包括輸入門、遺忘門和輸出門。門能夠有選擇性地決定讓哪些信息通過,通過門機(jī)制對細(xì)胞狀態(tài)進(jìn)行刪除或者添加信息。細(xì)胞狀態(tài)和門機(jī)制使LSTM網(wǎng)絡(luò)能夠處理長期依賴關(guān)系。

本文提出的基于STA–LSTM的自適應(yīng)魯棒水位預(yù)測方法是在傳統(tǒng)LSTM網(wǎng)絡(luò)的基礎(chǔ)之上加入空間注意力機(jī)制和時(shí)間注意力機(jī)制以提高該模型對關(guān)鍵信息的關(guān)注程度,主要可分為模型訓(xùn)練階段和模型預(yù)測階段。在模型訓(xùn)練階段,基于訓(xùn)練數(shù)據(jù)計(jì)算局部注意力度量并構(gòu)建相應(yīng)的地下水位預(yù)測模型;在模型預(yù)測階段,利用前一階段所構(gòu)建的預(yù)測模型進(jìn)行地下水位預(yù)測。

1.1 模型訓(xùn)練階段

本文提出的STA–LSTM是在傳統(tǒng)LSTM網(wǎng)絡(luò)基礎(chǔ)上加入融合注意力機(jī)制[27],其遵循編碼器–解碼器體系[28]結(jié)構(gòu),如圖1所示。

圖1 基于注意力機(jī)制的編碼器解碼器結(jié)構(gòu)Fig. 1 Encoder-decoder structure based on attention mechanism

STA–LSTM首先在編碼器中引入空間注意力機(jī)制(S–A),可快速識別與水位相關(guān)聯(lián)的關(guān)鍵變量,并為輸入變量分配不同的空間注意力值??勺兊淖⒁饬訖?quán)樣本數(shù)據(jù)作為編碼器LSTM的新輸入。之后,編碼器LSTM網(wǎng)絡(luò)學(xué)習(xí)新的加權(quán)輸入的隱藏狀態(tài)。在第二步中引入時(shí)間注意力機(jī)制,自適應(yīng)地找出不同時(shí)間序列長度下與地下水位相關(guān)的編碼器隱藏狀態(tài),捕捉時(shí)間上的依賴關(guān)系。最后,以自適應(yīng)上下文向量為輸入,由另一個解碼器LSTM預(yù)測輸出地下水位的預(yù)測值。完整的STA–LSTM算法結(jié)構(gòu)如圖2所示。

圖2 STA–LSTM算法結(jié)構(gòu)Fig. 2 Structure of STA–LSTM algorithm

1.1.1空間注意力機(jī)制

由于輸入的特征對預(yù)測指標(biāo)影響程度不同,不能簡單地給輸入特征賦予相同的影響權(quán)重,故在算法模型訓(xùn)練階段提出空間變量注意力機(jī)制,可快速識別與水位關(guān)聯(lián)的關(guān)鍵變量。

給定輸入序列{x(1),x{(2),···,x(T)},假設(shè)每}個樣本有n個輸入變量,即x(t)=x1(t),x2(t),···,xn(t)。通過參考先前的解碼器隱藏狀態(tài)獲得每個輸入變量與地下水位指標(biāo)之間的關(guān)系,通常使用兩層網(wǎng)絡(luò)來獲取可變的空間注意力值:

當(dāng)?shù)玫綐颖緓(t)的輸入變量空間注意力值時(shí),空間注意力加權(quán)樣本表示為:

式(4)~(9)中:f(t)、i(t)、o(t)、表示編碼器LSTM單元的遺忘門、輸入門、輸出門和中間狀態(tài); ⊙表示兩個向量的逐點(diǎn)乘法; σ是非線性sigm oid激活函數(shù);Wf?、Wo?、Wi?、Wc?、bf、bi、bo、bc是需要學(xué)習(xí)的參數(shù);m(t)為存儲單元。在基于空間注意的LSTM之后,隱藏狀態(tài)h(t)被用作基于時(shí)間注意力機(jī)制的LSTM的輸入。

1.1.2時(shí)間注意力機(jī)制

針對不同序列長度對預(yù)測效果的影響,設(shè)計(jì)了自適應(yīng)時(shí)間注意力機(jī)制,幫助網(wǎng)絡(luò)自適應(yīng)地找出與不同序列長度預(yù)測指標(biāo)相關(guān)的編碼器隱藏狀態(tài),以更好地捕捉時(shí)間上的依賴關(guān)系。

編碼器之后,使用另一個基于LSTM的解碼器輸出地下水位預(yù)測值y?(t)。在時(shí)間t的隱藏狀態(tài)時(shí)間注意值為:

1.2 模型預(yù)測階段

在模型預(yù)測階段,對于歷史水文數(shù)據(jù),STA–LSTM網(wǎng)絡(luò)訓(xùn)練出了最佳參數(shù),網(wǎng)絡(luò)結(jié)構(gòu)和權(quán)重加載到內(nèi)存中。當(dāng)把測試集的水文數(shù)據(jù)輸入到訓(xùn)練好的網(wǎng)絡(luò)中時(shí),STA–LSTM網(wǎng)絡(luò)利用輸入的序列數(shù)據(jù),預(yù)測出下一個時(shí)刻的地下水水位輸出。

STA–LSTM預(yù)測地下水位的流程如下所示。通過時(shí)間反向傳播計(jì)算參數(shù)的梯度,使用Adam算法更新網(wǎng)絡(luò)參數(shù)。

2 實(shí)例分析

為了驗(yàn)證基于時(shí)空注意力機(jī)制的LSTM網(wǎng)絡(luò)對地下水位預(yù)測的有效性,將其應(yīng)用于水務(wù)領(lǐng)域地下水位預(yù)測過程中。模擬計(jì)算機(jī)的配置為:操作系統(tǒng)為W indows10,CPU是Intel(R)Core(TM)i7-8550U CPU@1.80GHz1.99GHz,GPU是NVIDIAGeFo r ce MX 150,RAM為8GB,編碼工具為Py t h o n 3.6。

圖3為基于時(shí)空注意力機(jī)制的LSTM網(wǎng)絡(luò)(STALSTM)預(yù)測框架。

圖3 STA–LSTM模型框架Fig. 3 STA–LSTM model framework

為比較多種模型的性能,分別建立了GRU、Elman[29]、標(biāo)準(zhǔn)LSTM、VA–LSTM30]、S–LSTM[31]和STA–LSTM。其中,GRU是類似LSTM的遞歸神經(jīng)網(wǎng)絡(luò),具有更簡化的結(jié)構(gòu)和較少的參數(shù),善于在建模長期依賴關(guān)系和短期相關(guān)性之間實(shí)現(xiàn)平衡。Elman循環(huán)神經(jīng)網(wǎng)絡(luò)借助隱藏層和反饋連接捕捉時(shí)序數(shù)據(jù)的依賴關(guān)系;LSTM通過記憶單元和門控機(jī)制來捕捉和處理序列數(shù)據(jù)中的長期依賴關(guān)系;VA–LSTM綜合了變分自編碼器和LSTM的思想,提高模型對不確定數(shù)據(jù)的建模能力;S–LSTM借助監(jiān)督機(jī)制來捕捉數(shù)據(jù)間的時(shí)序關(guān)系和依賴關(guān)系。上述方法對水位類時(shí)序預(yù)測任務(wù)進(jìn)行了研究,同樣適用于地下水位的預(yù)測任務(wù),將上述算法作為比較算法更具有合理性。選取平均絕對誤差(θMAE)、均方根誤差(θRMSE)和相關(guān)系數(shù)( θR2)作為評價(jià)指標(biāo),θMAE度量預(yù)測值和真實(shí)值之間的平均差異,且對異常值不敏感、易于解釋和計(jì)算,能體現(xiàn)模型的魯棒性;θRMSE度量預(yù)測值與真實(shí)值之間的均方根誤差,對大誤差的影響更加敏感; θR2衡量模型對觀測數(shù)據(jù)的解釋能力。3個評價(jià)指標(biāo)能夠更全面地綜合評估模型的魯棒性和自適應(yīng)能力,計(jì)算方式如下:

式(17)~(19)中,Ttesting為測試樣本數(shù),是測試數(shù)據(jù)中真實(shí)值的平均值。

2.1 數(shù)據(jù)集及數(shù)據(jù)預(yù)處理

意大利小鎮(zhèn)Petrignano的地下水位由Chiascio河以及地下含水層提供,本文將STA–LSTM網(wǎng)絡(luò)應(yīng)用于預(yù)測該鎮(zhèn)的地下水水位。地下水水位受降雨量、地下水深度、溫度和自來水廠的取水量、Chiascio河的水位參數(shù)等的影響。數(shù)據(jù)時(shí)間跨度為2009年1月1日—2020年6月30日。數(shù)據(jù)來自Acea SmartWater Analytics[32]。輸入特征包括降雨量、溫度、河水位量、自來水取水量和地下水水位。

在自來水廠取水量和河水位量處出現(xiàn)異常零值時(shí),將其替換成Nan后清除。對于清除后的數(shù)據(jù)以及缺失數(shù)據(jù),選取插值填充的方式。具體的處理結(jié)果如圖4所示。

數(shù)據(jù)可視化結(jié)果顯示除溫度外所有特征都具有非恒定的均值和方差。由于動態(tài)均值和動態(tài)方差的計(jì)算均要使用歷史數(shù)據(jù),動態(tài)均值和動態(tài)方差從2010年初開始記錄,特征平穩(wěn)性檢驗(yàn)結(jié)果如圖5所示。

本文采取差值處理的方法實(shí)現(xiàn)平穩(wěn)性,以地下水水位的處理效果為例,差值處理過后數(shù)據(jù)趨于平穩(wěn),增廣迪基–富勒檢驗(yàn)(ADF)數(shù)據(jù)也證明該序列的平穩(wěn)性增加,如圖6所示。

2.2 結(jié)果和討論

2.2.1參數(shù)調(diào)整

總共收集了4 199條數(shù)據(jù)。對于模型訓(xùn)練和測試,用29 4 0個樣本組成訓(xùn)練集,剩余1 259個樣本為測試數(shù)據(jù)。對于STA–LSTM,需要優(yōu)化序列長度參數(shù),候選集合{3,4,5,6}的θMAE、θRMSE和 θR2如圖7所示。在該實(shí)驗(yàn)中序列長度選擇為4,θMAE、θRMSE都取得最小值, θR2取得最大值,此時(shí)訓(xùn)練模型達(dá)到最佳性能。

除此之外,還需要選擇最適合的batchsize,不同的batchsize所對應(yīng)的詳細(xì)θMAE、θRMSE和 θR2如圖8所示,在batchsize為50時(shí),θMAE、θRMSE都取得最小值, θR2取得最大值,此時(shí)模型達(dá)到最佳效果。另外,神經(jīng)網(wǎng)絡(luò)在空間和時(shí)間注意力機(jī)制都是兩層神經(jīng)網(wǎng)絡(luò)。

圖5 特征平穩(wěn)性檢驗(yàn)Fig.5 Feature Stationarity test diagram

圖6 差值處理實(shí)現(xiàn)平穩(wěn)效果Fig.6 Effect of difference processing to achieve stability

圖7 評價(jià)指標(biāo)與序列長度之間的關(guān)系Fig.7 Relationship between evaluation index and sequence length

圖8 評價(jià)指標(biāo)與batchsize之間的關(guān)系Fig. 8 Relationship between evaluation index and batchsize

2.2.2模型有效性驗(yàn)證

為了證明模型的有效性,有必要驗(yàn)證該模型的結(jié)構(gòu)和參數(shù)。因此對該模型進(jìn)行了一些統(tǒng)計(jì)測試,如殘差自相關(guān)(ACF)以及殘差偏自相關(guān)(PACF)。

式(20)~(21)中,自相關(guān)函數(shù)的Cov(Xt,Xt–k)是時(shí)間點(diǎn)t和時(shí)間點(diǎn)(t–k)的觀測值的協(xié)方差,Var(Xt)是時(shí)間序列Xt的方差。偏自相關(guān)函數(shù)是當(dāng)前時(shí)刻的觀測值和滯后k期的相關(guān)系數(shù),偏自相關(guān)函數(shù)通過遞歸的方式進(jìn)行,從而得到每個滯后期的偏自相關(guān)系數(shù)。計(jì)算結(jié)果如圖9所示,由圖9(a)和9(b)可知,殘差是相互獨(dú)立的,表明該模型表現(xiàn)良好。

圖9 模型性能評價(jià)圖Fig. 9 Model performance diagram

2.2.3實(shí)驗(yàn)結(jié)果對比

原始LSTM網(wǎng)絡(luò)通過非線性激活函數(shù)提取數(shù)據(jù)的非線性特征,并使用存儲單元存放用于預(yù)測的長期信息。但沒有對不同時(shí)間序列長度的數(shù)據(jù)給予不同的關(guān)注,故可能丟失重要隱藏狀態(tài)信息?;谧⒁饬Φ腖STM模型利用注意力機(jī)制以解碼器前一次隱藏狀態(tài)作為參考,為編碼器隱藏狀態(tài)分配不同的關(guān)注權(quán)重,以達(dá)到高精度預(yù)測的目的。本文使用的STA–LSTM模型不僅能自適應(yīng)地發(fā)現(xiàn)跨時(shí)間序列長度的相關(guān)樣本,還能自適應(yīng)地識別與預(yù)測指標(biāo)相關(guān)的輸入變量。圖10為6種算法的預(yù)測值和真實(shí)值的對比。GRU網(wǎng)絡(luò)參數(shù)相對較少,對于復(fù)雜地下水位數(shù)據(jù)處理難度稍大,圖10(a)表明,GRU在極值處存在較為明顯的預(yù)測失效;Elman網(wǎng)絡(luò)因其只有一層全連接層而無法充分捕捉數(shù)據(jù)中的復(fù)雜非線性關(guān)系,圖10(b)表現(xiàn)出預(yù)測趨勢與真實(shí)值接近但預(yù)測誤差較大,其θRMSE高達(dá)0.799 43;傳統(tǒng)的LSTM由于注意力不足導(dǎo)致無法充分考慮數(shù)據(jù)中不同時(shí)間點(diǎn)之間的重要性差異,在地下水位突變處尤容易出現(xiàn)預(yù)測失誤;VA-LSTM重點(diǎn)處理數(shù)據(jù)的不確定性,對于長期趨勢和季節(jié)性預(yù)測十分受限,面對時(shí)間跨度長達(dá)十余年的數(shù)據(jù),該算法表現(xiàn)較差,其θMAE和θRMSE分別高達(dá)1.033 50和1.274 78;S–LSTM未能充分考慮地下水位數(shù)據(jù)的特殊性從而影響預(yù)測性能,預(yù)測值相對于真實(shí)值普遍偏低;由于STA–LSTM算法中的空間-時(shí)間融合注意力機(jī)制不僅可快速識別與水位相關(guān)聯(lián)的關(guān)鍵變量還能有效捕捉時(shí)間上的依賴關(guān)系,實(shí)現(xiàn)動態(tài)調(diào)整權(quán)重,故能有效提高水位的預(yù)測精度,且算法對復(fù)雜水位數(shù)據(jù)有較好的自適應(yīng)性和較強(qiáng)的魯棒性。其θMAE和θRMSE低至0.01166和0.01462。

圖10 不同算法預(yù)測效果對比Fig. 10 Comparison of prediction effects

圖11展示了STA–LSTM算法的損失圖和殘差圖,可以看出,STA–LSTM的損失在100輪以前已經(jīng)降至較低水平,殘差較小且都穩(wěn)定集中分布在0左右。

表1比較了使用測試數(shù)據(jù)集的6個不同算法的預(yù)測性能。從表1可以看出,STA–LSTM算法具有最低的θMAE和θRMSE,以及最高的相關(guān)系數(shù),證明其預(yù)測誤差最小,也證明了該算法在處理復(fù)雜、時(shí)間跨度大的數(shù)據(jù)集時(shí)展現(xiàn)出的較好的魯棒性和自適應(yīng)能力。由圖10、表1可知,STA–LSTM彌補(bǔ)了LSTM面對長期歷史數(shù)據(jù)時(shí)的注意力低的問題,同時(shí)充分考慮地下水位數(shù)據(jù)中不同時(shí)間點(diǎn)之間的重要性差異以及數(shù)據(jù)的特殊性,顯示了本文所提出的算法的優(yōu)越性與有效性。

圖11 STA–LSTM損失圖、殘差圖Fig. 11 STA–LSTM loss diagram and residual diagram

表1 不同預(yù)測方法的預(yù)測效果Tab.1 Prediction effects of different methods

為體現(xiàn)本文所使用的STA–LSTM算法面對復(fù)雜數(shù)據(jù)時(shí)的強(qiáng)適應(yīng)性,除了使用意大利小鎮(zhèn)Petrignano的地下水位數(shù)據(jù)集驗(yàn)證算法有效性,本文另外使用Powell湖水氧含量數(shù)據(jù)集和化工領(lǐng)域脫丁烷塔數(shù)據(jù)集來驗(yàn)證算法的泛化性能。Powell湖水氧含量數(shù)據(jù)集是通過流入水量、總排出量、湖水pH值、湖水蒸發(fā)量、湖水溫度、水壓等對湖水氧含量進(jìn)行預(yù)測;脫丁烷塔數(shù)據(jù)集是通過塔頂溫度和壓力、回流流量、底部溫度、流向下一階段的流量等對丁烷濃度進(jìn)行預(yù)測。表2和圖12顯示其預(yù)測效果仍然保持較好水平,表明本文的算法在面對不同復(fù)雜數(shù)據(jù)時(shí)的強(qiáng)適應(yīng)性和強(qiáng)魯棒性。

表2 不同數(shù)據(jù)集的預(yù)測效果Tab.2 Prediction effects of other datasets

圖12 不同數(shù)據(jù)集預(yù)測效果對比Fig. 12 Comparison of prediction effect of other datasets

3 結(jié) 論

本文針對水文預(yù)測中存在的準(zhǔn)確度低、靈敏度低、泛化能力弱等問題,提出了基于融合注意機(jī)制LSTM預(yù)測模型(STA–LSTM)。融合了時(shí)間注意力機(jī)制和空間注意力機(jī)制的LSTM網(wǎng)絡(luò)可以動態(tài)地調(diào)整權(quán)重。其中,空間注意力機(jī)制可快速識別與水位相關(guān)聯(lián)的關(guān)鍵變量,更準(zhǔn)確捕捉影響地下水位的多因素間的依賴模式和關(guān)聯(lián)性;時(shí)間注意機(jī)制能有效捕捉時(shí)間上的依賴關(guān)系并自適應(yīng)地找出不同時(shí)間序列長度下與地下水位相關(guān)的編碼器隱藏狀態(tài)。本文算法解決了傳統(tǒng)算法中數(shù)據(jù)時(shí)空挖掘能力低、處理非線性能力弱、預(yù)測結(jié)果準(zhǔn)確性與魯棒性等問題,有效補(bǔ)償了由于數(shù)據(jù)影響多元帶來的數(shù)據(jù)雜亂和規(guī)律復(fù)雜造成的預(yù)測難度,而且能有效提高水位的預(yù)測精度,對復(fù)雜水位數(shù)據(jù)有較好的自適應(yīng)性和較強(qiáng)的魯棒性。與對比算法的對比結(jié)果表明,提出算法的綜合指標(biāo)優(yōu)于對比算法,平均絕對誤差、均方根誤差和相關(guān)系數(shù)分別為0.011 66、0.014 62、0.999 87。

猜你喜歡
編碼器注意力水位
讓注意力“飛”回來
基于FPGA的同步機(jī)軸角編碼器
“揚(yáng)眼”APP:讓注意力“變現(xiàn)”
基于PRBS檢測的8B/IOB編碼器設(shè)計(jì)
A Beautiful Way Of Looking At Things
JESD204B接口協(xié)議中的8B10B編碼器設(shè)計(jì)
基于MFAC-PID的核電站蒸汽發(fā)生器水位控制
多總線式光電編碼器的設(shè)計(jì)與應(yīng)用
基于PLC的水位控制系統(tǒng)的設(shè)計(jì)與研究