劉恩海 任曉康 張智 李妍 趙娜 張軍

摘要 臭氧濃度的預(yù)測(cè)對(duì)于大氣環(huán)境治理、空氣質(zhì)量改善等起到了重要的作用。本文提出了一種交互差分時(shí)空LSTM網(wǎng)絡(luò)預(yù)測(cè)模型（ST-IDN）來(lái)挖掘臭氧濃度歷史數(shù)據(jù)的時(shí)間相關(guān)性和空間相關(guān)性，并成功將其應(yīng)用到網(wǎng)格化臭氧濃度數(shù)據(jù)預(yù)測(cè)上。在該模型中，首先交互模塊（IC）可以通過(guò)一系列的卷積操作來(lái)捕捉短期上下文信息，其次層融合模塊（LF）可以融合不同層的空間信息來(lái)獲得上一時(shí)刻豐富的空間信息，最后差分時(shí)空LSTM模塊（DSTM）將捕捉到的時(shí)間信息和空間信息進(jìn)行統(tǒng)一建模實(shí)現(xiàn)臭氧濃度預(yù)測(cè)。所構(gòu)建模型分別與卷積LSTM網(wǎng)絡(luò)（ConvLSTM）、預(yù)測(cè)循環(huán)神經(jīng)網(wǎng)絡(luò)（PredRNN）以及Memory in Memory網(wǎng)絡(luò)（MIM）模型在河北省氣象局提供的臭氧濃度數(shù)據(jù)上進(jìn)行了對(duì)比分析， ST-IDN模型的平均絕對(duì)誤差分別降低了19.836%、12.924%、7.506%。實(shí)驗(yàn)結(jié)果表明，所提出的模型能夠提高臭氧濃度的預(yù)測(cè)精度。

關(guān) 鍵 詞 交互差分時(shí)空LSTM預(yù)測(cè)網(wǎng)絡(luò)；網(wǎng)格化臭氧濃度數(shù)據(jù)；臭氧濃度預(yù)測(cè)；時(shí)間信息；空間信息

中圖分類號(hào) TP391? ? ?文獻(xiàn)標(biāo)志碼 A

文章編號(hào)：1007-2373（2023）03-0036-08

DOI：10.14081/j.cnki.hgdxb.2023.03.004

Prediction of gridded ozone concentration based on interaction differential spatiotemporal LSTM

LIU Enhai1， REN Xiaokang1， ZHANG Zhi2， LI Yan1， ZHAO Na2， ZHANG Jun1

（1. School of Artificial Intelligence， Hebei University of Technology， Tianjin 300401， China; 2. Hebei Meteorological Disaster Prevention and Environmental Meteorology Center， Shijiazhuang Hebei 050000， China）

Abstract The prediction of ozone concentration plays an important role in controlling atmospheric environment and improving air quality. In this paper， an interactive difference spatiotemporal LSTM network prediction model （ST-IDN） is proposed to mine the temporal and spatial correlation of the historical data of ozone concentration， and is successfully applied to the prediction of gridded ozone concentration data. In this model， firstly， the interactive module （IC） can capture short-term context information through a series of convolution operations， and secondly， the layer fusion module （LF） can fuse spatial information of different layers to obtain abundant spatial information at the last moment. Finally， the differential space-time LSTM module （DSTM） will use the captured time and space information for unified modeling to predict ozone concentration. The constructed models were compared with convolution LSTM network （ConvLSTM）， predictive cyclic neural network （PredRNN） and Memory in Memory network （MIM） models respectively on the ozone concentration data provided by Hebei Meteorological Bureau. The average absolute error of ST-IDN model is reduced by 19.836%， 12.924% and 7.506%， respectively. The experimental results show that the proposed model can improve the prediction accuracy of ozone concentration.

Key words interaction differential spatiotemporal LSTM prediction network; gridded ozone concentration data; prediction of ozone concentration; time information; spatial information

0 引言

隨著空氣城市化進(jìn)程的不斷加快以及工業(yè)的快速發(fā)展，臭氧污染越來(lái)越嚴(yán)重[1-2]，臭氧污染不僅會(huì)對(duì)人類的身體健康構(gòu)成嚴(yán)重威脅，還會(huì)對(duì)工農(nóng)業(yè)生產(chǎn)造成一定的影響[3-4]。通過(guò)對(duì)臭氧濃度的預(yù)測(cè)，可以幫助人們知曉未來(lái)臭氧濃度變化情況，提前做好防護(hù)。因此，準(zhǔn)確地預(yù)報(bào)臭氧濃度變化是十分必要的。

當(dāng)前臭氧預(yù)測(cè)的方法大致可以分為3類：數(shù)值模型預(yù)測(cè)算法、統(tǒng)計(jì)模型預(yù)測(cè)算法和深度學(xué)習(xí)預(yù)測(cè)算法。

數(shù)值模型預(yù)測(cè)算法以空氣動(dòng)力學(xué)和物理化學(xué)方法為基礎(chǔ)，來(lái)建立臭氧濃度擴(kuò)散模型。例如杜勃瑩等[5]、Milinevsky等[6]分析了不同區(qū)域位置的特點(diǎn)并利用污染傳輸方式來(lái)進(jìn)行建模，但是該方法需要充足的先驗(yàn)知識(shí)和強(qiáng)大的計(jì)算能力，并且建立的數(shù)值模型與地理位置有一定的關(guān)聯(lián)，因此將模型應(yīng)用于不同場(chǎng)景是非常困難的。

統(tǒng)計(jì)模型預(yù)測(cè)算法在一定程度上解決了數(shù)值模型的局限性。該類方法不需要設(shè)置大量的物理參數(shù)而是通過(guò)歷史數(shù)據(jù)去學(xué)習(xí)其中的規(guī)律。例如線性回歸模型[7]、支持向量機(jī)（SVM）[8]以及差分整合移動(dòng)平均自回歸模型（ARIMA）[9]等方法在氣象預(yù)報(bào)中的應(yīng)用證明了統(tǒng)計(jì)模型預(yù)測(cè)算法的有效性。然而這些方法假定不同變量之間是線性關(guān)系，而現(xiàn)實(shí)世界不同因素之間存在復(fù)雜的非線性關(guān)系。因此，統(tǒng)計(jì)模型的預(yù)測(cè)性能也受到了限制。

隨著深度學(xué)習(xí)的不斷發(fā)展，長(zhǎng)短期記憶網(wǎng)絡(luò)（LSTM）[10]的出現(xiàn)很好的解決了這一問(wèn)題。大量實(shí)驗(yàn)表明[11-13]LSTM能夠從歷史數(shù)據(jù)中捕捉臭氧濃度的時(shí)序信息變化規(guī)律，從而提高預(yù)測(cè)準(zhǔn)確率。但LSTM只考慮了單個(gè)站點(diǎn)連續(xù)時(shí)刻臭氧濃度的時(shí)序信息，而忽略了其他站點(diǎn)對(duì)該站點(diǎn)的影響。為了考慮空間信息，研究者開始將LSTM模型與CNN模型組合去預(yù)測(cè)臭氧濃度。Deng等[14]利用LSTM模型捕捉輸入數(shù)據(jù)的時(shí)間信息，CNN模型捕捉輸入數(shù)據(jù)的空間信息，最終將時(shí)間信息和空間信息結(jié)合。但是該方法是分開對(duì)時(shí)空信息的捕捉，因而會(huì)造成一定的信息缺失以及參數(shù)冗余。Shi等[15]通過(guò)添加卷積操作并堆疊LSTM模型實(shí)現(xiàn)了時(shí)空信息的捕捉。但是由于不同層之間相互獨(dú)立，時(shí)空信息容易丟失，從而導(dǎo)致預(yù)測(cè)不準(zhǔn)確。Wang等[16]ConvLSTM基礎(chǔ)上，提出了PredRNN模型，將時(shí)空信息統(tǒng)一建模的同時(shí)，也考慮了不同層之間信息的交互，預(yù)測(cè)效果得到了很大的提升。然而，PredRNN模型沒有考慮輸入數(shù)據(jù)與隱藏狀態(tài)信息之間的上下文關(guān)系，并且存在捕捉時(shí)空信息能力不足等問(wèn)題。

受PredRNN模型的啟發(fā)，本文建立了交互差分時(shí)空LSTM網(wǎng)絡(luò)預(yù)測(cè)模型（ST-IDN）。該模型由IC模塊、LF模塊和DSTM模塊組成：IC模塊將輸入信息和隱藏狀態(tài)信息通過(guò)一系列卷積操作進(jìn)行交互，可以充分利用短期上下文信息；LF模塊可以融合上一時(shí)刻不同層的空間信息；DSTM模塊通過(guò)添加差分結(jié)構(gòu)提高了捕捉時(shí)間信息的能力并且將時(shí)間信息和空間信息進(jìn)行統(tǒng)一建模實(shí)現(xiàn)臭氧預(yù)測(cè)。在夏秋時(shí)分，由于紫外線強(qiáng)度的增加以及溫度的升高，大氣中的臭氧濃度會(huì)達(dá)到較高水平，因此本研究結(jié)合河北省地區(qū)2017年—2020年夏秋季網(wǎng)格化臭氧濃度數(shù)據(jù)進(jìn)行實(shí)驗(yàn)。

1 材料與方法

1.1 數(shù)據(jù)來(lái)源

本研究采用的臭氧數(shù)據(jù)由河北省氣象局提供，覆蓋了河北省384個(gè)監(jiān)測(cè)點(diǎn)，經(jīng)緯度范圍為105°～125° E，30°～50° N。數(shù)據(jù)包含了2017年—2020年4年的臭氧濃度信息，其中數(shù)據(jù)采樣間隔為3 h。

1.2 數(shù)據(jù)分析

1.2.1 數(shù)據(jù)質(zhì)量控制

由于天氣以及其他因素的影響，監(jiān)測(cè)到的臭氧數(shù)據(jù)往往會(huì)存在異常值或缺失值等問(wèn)題，所以需要對(duì)監(jiān)測(cè)的臭氧數(shù)據(jù)進(jìn)行剔除以及填充的處理。具體步驟包括：1）對(duì)同一監(jiān)測(cè)點(diǎn)的臭氧濃度數(shù)據(jù)從小到大排序，通過(guò)箱型圖對(duì)該站點(diǎn)的臭氧濃度異常值進(jìn)行檢測(cè)篩選，篩選出來(lái)的異常點(diǎn)使用該站點(diǎn)所有數(shù)據(jù)的平均值代替；2）當(dāng)某一時(shí)刻臭氧數(shù)據(jù)缺失，則采用前后時(shí)刻臭氧數(shù)據(jù)的線性插值進(jìn)行填充。

1.2.2 數(shù)據(jù)預(yù)處理

對(duì)于數(shù)據(jù)預(yù)處理，主要包括網(wǎng)格化處理、標(biāo)準(zhǔn)化處理以及數(shù)據(jù)集劃分。

首先查詢河北省384個(gè)監(jiān)測(cè)點(diǎn)對(duì)應(yīng)的經(jīng)緯度信息。根據(jù)經(jīng)緯度信息，采用克里金插值[17]方法，將各個(gè)監(jiān)測(cè)點(diǎn)的臭氧濃度信息插值為81×81的網(wǎng)格化臭氧濃度數(shù)據(jù)。

然后對(duì)網(wǎng)格化臭氧濃度數(shù)據(jù)進(jìn)行了零-均值規(guī)范化（Z-Score）處理如式（1）～（3）：

[μ=1ni=1nXi]， （1）

[σ=1ni=1nXi-μ]， （2）

[Z=X-μσ] ， （3）

式中：X為原始數(shù)據(jù)；Z為標(biāo)準(zhǔn)化之后的數(shù)據(jù)；N是樣本序列的個(gè)數(shù)。

最后，選取河北省2017年—2020年夏季（5月—9月）的網(wǎng)格化臭氧濃度數(shù)據(jù)進(jìn)行實(shí)驗(yàn)。使用48幀滑動(dòng)窗口對(duì)圖像進(jìn)行切片。因此，每個(gè)序列由48個(gè)連續(xù)幀組成，其中前24幀為觀測(cè)幀，后24幀為預(yù)測(cè)幀，序列樣本個(gè)數(shù)為4 307。數(shù)據(jù)集劃分上將2017年5月—9月和2018年5月—9月劃分為訓(xùn)練集，共2 106個(gè)序列樣本，2019年5月—9月劃分為驗(yàn)證集，共1 113個(gè)序列樣本，2020年5月—9月劃分為測(cè)試集，共1 088個(gè)序列樣本。

2 研究方法

2.1 問(wèn)題定義

臭氧預(yù)測(cè)濃度是根據(jù)歷史臭氧濃度數(shù)據(jù)去對(duì)未來(lái)一段時(shí)間內(nèi)臭氧濃度變化進(jìn)行準(zhǔn)確預(yù)測(cè)。為了預(yù)測(cè)未來(lái)時(shí)刻局部的臭氧濃度，可以將該問(wèn)題轉(zhuǎn)化為時(shí)空預(yù)測(cè)問(wèn)題，假設(shè)任意時(shí)刻該區(qū)域的臭氧觀測(cè)值都可以用張量X∈RC×W×H，那么未來(lái)時(shí)刻臭氧濃度值如式（4）所示：

[Xt+1，…，Xt+T=FXt-J+1，…，Xt]， （4）

式中：[xt-J+1，…，xt]為歷史觀測(cè)值；[xt+1，…，xt+T]為預(yù)測(cè)值；F為提出的模型結(jié)構(gòu)。

2.2 ST-IDN整體框架

交互差分時(shí)空LSTM網(wǎng)絡(luò)模型（ST-IDN）是用于臭氧預(yù)測(cè)的深度學(xué)習(xí)模型，如圖1所示，該模型采用堆疊多層DSTM模塊來(lái)構(gòu)建網(wǎng)絡(luò)模型，同時(shí)考慮了時(shí)間和空間的特征信息。在信息傳輸過(guò)程中，水平方向上注重捕捉時(shí)間信息，并且參數(shù)共享；垂直方向上注重捕捉空間信息，但參數(shù)不共享。臭氧濃度的預(yù)測(cè)最終依賴于最高層的隱藏狀態(tài)。該狀態(tài)融合了時(shí)間和空間信息。本模型的關(guān)鍵方程如式（5）～（9）所示：

[XΔ=|Xt-Xt-1|]， （5）

[X0t，X0dt，H0t-1=IC（Xt，XΔ，Hnt-1）]， （6）

[[H1t，M1t，C1t]=DSTM（X0t，X0Δ，H0t-1，C1t-1，M0t）]， （7）

[[Hlt，Mlt，Clt]=DSTM（Hl-1t，X0Δ，Hlt-1，Clt-1，Ml-1t）（2≤l≤n）] ， （8）

[Xt+1=Wh?Hlt]， （9）

式中：輸入信息X、時(shí)間信息C、空間信息M和隱藏狀態(tài)信息H屬于張量RC×H×W；[M0t]為上一時(shí)刻融合后的空間信息；l為堆疊層數(shù)；W為可學(xué)習(xí)的參數(shù)矩陣；*為卷積操作；卷積核大小為1×1。

2.2.1 IC模塊

原始的PredRNN模型在輸入LSTM模塊之前，輸入數(shù)據(jù)和隱藏狀態(tài)之間是相互獨(dú)立的，無(wú)法模擬輸入信息和隱藏狀態(tài)的相關(guān)性。為了解決這一問(wèn)題，設(shè)計(jì)了IC模塊，如圖2所示。該模塊的輸入為連續(xù)兩個(gè)時(shí)刻的臭氧濃度信息[Xt-1]和[Xt]，以及上一時(shí)刻的隱藏狀態(tài)信息[Ht-1]，其中[X1t]是[Xt]與[Hnt-1]分別通過(guò)卷積操作然后進(jìn)行相加，再將得到的結(jié)果附加ReLU激活函數(shù)得到的。與[X1t]相似，[H1t-1]是根據(jù)[X1t]和[Hnt-1]得到的，[X1Δ]是根據(jù)[Xt]和[Xt-1]的差值[XΔ]以及[H0t-1]得到的。經(jīng)過(guò)n次相同過(guò)程之后，可以得到更新后的值[Xit]，[XiΔ]以及[Hit-1]。其中，第i次更新操作如式（10）～（12）所示：

[Xit=ReLUXi-1t*Wxx+Hi-1t-1*Whx]， （10）

[Hit-1=ReLUXit*Wxh+Hi-1t-1*Whh]， （11）

[XiΔ=ReLUXi-1Δ*Wxx+Hi-1t-1*Wxh]， （12）

式中：*代表卷積操作；W是可學(xué)習(xí)參數(shù)矩陣；當(dāng)i=1時(shí)，[X0t]為[Xt]，[X0Δ]為[XΔ]，[H0t-1]為[Hnt-1]?？梢钥吹剑琗t、Ht-1和[XΔ]的更新都使用了彼此之間重要的信息，通過(guò)重復(fù)融合，就可以更好地利用輸入信息與隱藏狀態(tài)信息之間的上下文信息，最終輸入到DSTM模塊中。

2.2.2 LF模塊

LF模塊用來(lái)提取不同LSTM層的空間信息，并通過(guò)1×1的卷積層進(jìn)行融合。在計(jì)算過(guò)程中，連續(xù)兩個(gè)時(shí)刻的空間信息狀態(tài)轉(zhuǎn)換關(guān)系如式（13）所示：

[M0t=Wm*[M1t-1，M2t-1，…，Mnt-1]]，? ? ? ? ? ? ? ? （13）

式中：n是網(wǎng)絡(luò)堆疊層數(shù)；[…]表示拼接；W是可學(xué)習(xí)的參數(shù)矩陣；*是卷積操作。當(dāng)t=0時(shí)，空間信息[M00]采用全0初始化。

2.2.3 DSTM模塊

如圖3所示，DSTM模塊是ST-IDN模型的核心模塊，內(nèi)部包含了C和M兩種記憶信息，其中C代表時(shí)間信息，M代表空間信息。該模塊將時(shí)空信息統(tǒng)一存儲(chǔ)在一個(gè)單元中，最終隱藏狀態(tài)信息H的輸出依賴于融合的時(shí)空信息。該模塊將從時(shí)間信息建模、空間信息建模和時(shí)空信息融合建模3個(gè)方面進(jìn)行分析。

1）時(shí)間維度建模：時(shí)間信息由兩部分組成，根據(jù)輸入信息Xt以及差分信息[XΔ]通過(guò)一系列操作分別捕捉到前一時(shí)刻不同的時(shí)間信息，將兩種時(shí)間信息進(jìn)行融合來(lái)更新前一時(shí)刻的時(shí)間信息。該過(guò)程可以捕獲連續(xù)時(shí)刻臭氧濃度的特征變化。時(shí)間信息的更新公式如式（14）～（20）所示：

[gt=tanh（Wxg*Xt+Whg*Hlt-1+bg）]， （14）

[it=σ（Wxi*Xt+Whi*Hlt-1+bi）]， （15）

[ft=σ（Wxf*Xt+Whf*Hlt-1+bf）]， （16）

[gΔ=tanh（W′xg*XΔ+W′hg*Hlt-1+b′g）]， （17）

[iΔ=σ（W′xi*XΔ+W′hi*Hlt-1+b′i）]， （18）

[fΔ=σ（W′xf*XΔ+W′hf*Hlt-1+b′f）]， （19）

[Clt=ft?Clt-1+it?gt+fΔ?Clt-1+iΔ?gΔ]， （20）

式中：輸入信息X、時(shí)間信息C和隱藏狀態(tài)信息H屬于張量RC×H×W；[σ]和tanh代表激活函數(shù)；‘*和‘[?]分別表示卷積操作和哈達(dá)瑪乘積；W和b都是可學(xué)習(xí)的參數(shù)矩陣，通過(guò)不同的下標(biāo)來(lái)標(biāo)識(shí)不同的變量。

2）空間維度建模：根據(jù)當(dāng)前時(shí)刻的臭氧濃度數(shù)據(jù)X和空間信息M通過(guò)卷積操作來(lái)捕獲當(dāng)前時(shí)刻臭氧的特征變化?？臻g信息的更新公式如林（21）～（24）所示：

[g′t=tanh（W′xg*Xt+Wmg*Mlt-1+b′g）]， （21）

[i′t=σ（W′xg*Xt+Wmi*Mlt-1+b′i）]， （22）

[f′t=σ（W′xf*Xt+Wmf*Mlt-1+b′f）]， （23）

[Mlt=f′t?Ml-1t+i′t?g′t]， （24）

式中：空間信息M屬于張量RC×H×W。

3）時(shí)空信息融合建模：在DSTM中，輸出門將時(shí)間信息和空間信息進(jìn)行融合。然后，通過(guò)1×1的卷積核對(duì)時(shí)空信息降維，使得維度與時(shí)間信息C和空間信息M一致。通過(guò)將時(shí)間信息與空間信息進(jìn)行統(tǒng)一建模，使得臭氧濃度的預(yù)測(cè)更加準(zhǔn)確。時(shí)空信息融合的公式如式（25）～（26）所示：

[ot=σ（Wxo*Xt+Who*Hlt-1+Wco*Clt+Wmo*Mlt+bo）]， （25）

[Hlt=ot?tanh（W1×1*[Clt，Mlt]）]， （26）

在構(gòu)建的模型中，當(dāng)n=1時(shí)，即DSTM模塊為第1層時(shí)，[Xnt]為IC模塊更新后的值，[M0t]為L(zhǎng)F模塊融合的空間信息。當(dāng)2 ≤ l ≤ n時(shí)，[Hl-1t]為當(dāng)前時(shí)刻上一層輸出的隱藏狀態(tài)，[Ml-1t]為當(dāng)前時(shí)刻上一層的空間信息，其中n是堆疊層數(shù)。

3 實(shí)驗(yàn)與結(jié)果分析

3.1 模型參數(shù)與實(shí)驗(yàn)環(huán)境

本實(shí)驗(yàn)利用過(guò)去連續(xù)3 d的網(wǎng)格化臭氧濃度數(shù)據(jù)預(yù)測(cè)未來(lái)3 d的網(wǎng)格化臭氧濃度數(shù)據(jù)。參數(shù)設(shè)置上，所有模型的堆疊層數(shù)為4層，卷積核大小為3×3，學(xué)習(xí)率為0.000 1，批次大小為8，特征隱藏狀態(tài)維度為64，優(yōu)化器為Adam優(yōu)化器。訓(xùn)練輪數(shù)為50 000，使用L1+L2作為損失函數(shù)。所有實(shí)驗(yàn)都在具有24 G運(yùn)行內(nèi)存的Nvidia GeForce GTX 3090 GPU上進(jìn)行。

3.2 評(píng)價(jià)指標(biāo)

為了驗(yàn)證不同的網(wǎng)絡(luò)模型架構(gòu)的精度，本實(shí)驗(yàn)采用平均絕對(duì)誤差（Mean Absolute Error，MAE）和均方根誤差（Root Mean Square Error，RMSE）作為評(píng)價(jià)指標(biāo)，MAE和RMSE的公式如式（27）～（28）所示：

[MAE=1ni=1n|yi-yi|]， （27）

[RMSE=i=1n（yi-yt）2n]， （28）

式中：n是測(cè)試集樣本序列的個(gè)數(shù)；[yt]和[yt]分別代表真實(shí)值和預(yù)測(cè)值。MAE能準(zhǔn)確反映實(shí)際預(yù)測(cè)誤差的大小，MAE的值越小，預(yù)測(cè)越準(zhǔn)確。RMSE對(duì)于較大誤差之間的差距進(jìn)行放大，RMSE的值越小，其預(yù)測(cè)的最大誤差也會(huì)越小，預(yù)測(cè)結(jié)果也越準(zhǔn)確。

3.3 結(jié)果分析

3.3.1 對(duì)比實(shí)驗(yàn)

將ST-IDN模型與ConvLSTM模型、PredRNN模型、MIM模型[18]時(shí)空預(yù)測(cè)模型進(jìn)行對(duì)比，其中ConvLSTM模型是時(shí)空預(yù)測(cè)模型的基礎(chǔ)模型，PredRNN模型和MIM模型是2種比較先進(jìn)的時(shí)空預(yù)測(cè)模型。如表1、圖4、圖5所示，展示了不同模型的MAE和RMSE。從結(jié)果來(lái)看，ST-IDN模型效果優(yōu)于ConvLSTM模型，說(shuō)明了不同層之間信息交互的重要性。ST-IDN模型效果優(yōu)于PredRNN模型，說(shuō)明IC模塊在輸入模型前可以很好地利用上下文信息，同時(shí)差分操作和LF模型可以在原有基礎(chǔ)上提高捕捉時(shí)空信息的能力。ST-IDN模型優(yōu)于MIM模型，說(shuō)明更新的差分信息比相鄰隱藏狀態(tài)信息的差值更能捕捉歷史狀態(tài)的重要信息。

3.3.2 消融實(shí)驗(yàn)

如表2所示，對(duì)IC模塊中Xt、[XΔ]以及H的重復(fù)更新次數(shù)進(jìn)行了實(shí)驗(yàn)驗(yàn)證，從實(shí)驗(yàn)結(jié)果可知，當(dāng)重復(fù)更新次數(shù)為2時(shí)，模型的預(yù)測(cè)效果最好。

為了更好地展示ST-IDN不同模塊的效果，本節(jié)展示了3個(gè)消融實(shí)驗(yàn)進(jìn)行對(duì)比。如表3所示，當(dāng)在PredRNN的基礎(chǔ)上添加IC模塊時(shí)，MAE降低了6.29%，RMSE降低了5.04%。當(dāng)添加LF模塊時(shí)，MAE降低了3.55%，RMSE降低了1.14%。當(dāng)添加DSTM模塊時(shí)，MAE降低了7.66%，RMSE降低了5.63%。當(dāng)使用含有IC、LF、DSTM的ST-IDN模塊時(shí)，MAE降低了12.92%，RMSE降低了12.39%。從誤差降低幅度上可以看出DSTM模塊對(duì)模型的預(yù)測(cè)準(zhǔn)確率貢獻(xiàn)比較大。

3.3.3 參數(shù)對(duì)比實(shí)驗(yàn)

為了研究ST-IDN模型的最佳超參數(shù)，本節(jié)采用了不同的堆疊層數(shù)、卷積核大小和隱藏狀態(tài)維度來(lái)比較ST-IDN的誤差。如表4所示，實(shí)驗(yàn)選用了7種參數(shù)設(shè)置，其中L為堆疊層數(shù)，K為卷積核大小、H為隱藏狀態(tài)維數(shù)，Params為模型參數(shù)，內(nèi)存為訓(xùn)練過(guò)程中占用的GPU大小。當(dāng)堆疊層數(shù)為4，卷積核大小為3×3，隱藏狀態(tài)維數(shù)為64時(shí)，ST-IDN模型預(yù)測(cè)效果更好?？傮w來(lái)說(shuō)，通過(guò)改變堆疊層數(shù)，卷積核大小和隱藏狀態(tài)維數(shù)，能夠在一定程度上增加模型的預(yù)測(cè)準(zhǔn)確率。但是隨著堆疊層數(shù)的不斷增加，模型的預(yù)測(cè)準(zhǔn)確率也會(huì)逐漸下降。

3.3.4 可視化分析

為了在視覺效果上更好地展示ST-IDN模型的優(yōu)越性，本節(jié)對(duì)預(yù)測(cè)得到的結(jié)果圖進(jìn)行可視化，以證明所提出模型的預(yù)測(cè)準(zhǔn)確度。如圖6所示，其中第1行為某一組測(cè)試集樣本第2天的真實(shí)圖像序列，從左到右依次是第2天的2時(shí)、5時(shí)、8時(shí)、11時(shí)、14時(shí)、17時(shí)、20時(shí)以及23時(shí)，不同的顏色代表不同的臭氧濃度值，顏色越亮代表當(dāng)前時(shí)刻的臭氧濃度值越大。第2行到第5行分別代表ConvLSTM模型、PredRNN模型、MIM模型ST-IDN模型，不同顏色代表真實(shí)圖像序列和預(yù)測(cè)圖像序列的絕對(duì)誤差，顏色越亮代表絕對(duì)誤差值越大。

可以看出與真實(shí)數(shù)據(jù)相比，ConvLSTM模型由于頂層LSTM結(jié)構(gòu)與底層LSTM結(jié)構(gòu)之間相互獨(dú)立，導(dǎo)致大量的空間信息丟失，因此很多區(qū)域預(yù)測(cè)不準(zhǔn)確，誤差較大。PredRNN模型考慮了頂層LSTM結(jié)構(gòu)與底層LSTM結(jié)構(gòu)之間的信息，預(yù)測(cè)誤差相比于ConvLSTM模型明顯降低。MIM模型考慮了連續(xù)兩個(gè)時(shí)刻之間隱藏狀態(tài)信息的差值信息，但是這種信息往往也是不全面的，預(yù)測(cè)結(jié)果也不是很好。ST-IDN模型考慮了輸入信息和隱藏狀態(tài)信息之間的上下文關(guān)系，而且在一定程度上增強(qiáng)了時(shí)空信息的捕捉能力，預(yù)測(cè)效果最好。

4 結(jié)論

1）本文提出了一種交互差分時(shí)空LSTM網(wǎng)絡(luò)預(yù)測(cè)模型（ST-IDN），通過(guò)IC模塊利用上下文信息，DSTM模塊融合不同層的時(shí)空信息實(shí)現(xiàn)了對(duì)時(shí)間信息和空間信息的統(tǒng)一建模。

2）ST-IDN模型成功應(yīng)用于河北省網(wǎng)格化臭氧濃度數(shù)據(jù)上，并針對(duì)未來(lái)3 d臭氧濃度預(yù)測(cè)實(shí)驗(yàn)中展示了較好效果。

綜上，ST-IDN模型能夠提高網(wǎng)格化臭氧濃度的預(yù)測(cè)準(zhǔn)確率，為河北省氣象局提供一定的技術(shù)參考。但是，在本次實(shí)驗(yàn)中，只考慮了臭氧的歷史信息，而沒有考慮氣象因子（溫度、濕度等）對(duì)臭氧濃度的影響。在接下來(lái)的工作中，將考慮不同氣象因子對(duì)于臭氧的影響，從而使得臭氧濃度的預(yù)測(cè)更加準(zhǔn)確。

參考文獻(xiàn)：

[1]? ? 黃小剛，趙景波，曹軍驥，等. 中國(guó)城市O3濃度時(shí)空變化特征及驅(qū)動(dòng)因素[J]. 環(huán)境科學(xué)，2019，40（3）：1120-1131.

[2]? ? 謝靜，鄒濱，李沈鑫，等. 大氣污染暴露風(fēng)險(xiǎn)防控可視化決策支持平臺(tái)[J]. 計(jì)算機(jī)應(yīng)用，2019，39（11）：3391-3397

[3]? ? 姜建彪，王博，張茵，等. 地面臭氧污染對(duì)生態(tài)環(huán)境的影響建模研究[J]. 環(huán)境科學(xué)與管理，2022，47（1）：144-147

[4]? ? 余益軍，孟曉艷，王振，等. 京津冀地區(qū)城市臭氧污染趨勢(shì)及原因探討[J]. 環(huán)境科學(xué)，2020，41（1）：106-114.

[5]? ? 杜勃瑩，馬云峰，王琦，等. 基于WRF-Chem模型的沈陽(yáng)市顆粒物擴(kuò)散特征和成因分析[J]. 環(huán)境工程，2021，39（2）：89-97，104

[6]? ? MILINEVSKY G，MIATSELSKAYA N，GRYTSAI A，et al. Atmospheric aerosol distribution in 2016-2017 over the eastern European region based on the GEOS-chem model[J]. Atmosphere，2020，11（7）：722.

[7]? ? ALLU S K，SRINIVASAN S，MADDALA R K，et al. Seasonal ground level ozone prediction using multiple linear regression （MLR） model[J]. Modeling Earth Systems and Environment，2020，6（4）：1981-1989.

[8]? ? 董紅召，王樂恒，唐偉，等. 融合時(shí)空特征的PCA-PSO-SVM臭氧（O3）預(yù)測(cè)方法研究[J]. 中國(guó)環(huán)境科學(xué)，2021，41（2）：596-605

[9]? ? 李穎若，韓婷婷，汪君霞，等. ARIMA時(shí)間序列分析模型在臭氧濃度中長(zhǎng)期預(yù)報(bào)中的應(yīng)用[J]. 環(huán)境科學(xué)，2021，42（7）：3118-3126.

[10]? HOCHREITER S，SCHMIDHUBER J. Long short-term memory[J]. Neural Computation，1997，9（8）：1735-1780.

[11]? ZHANG X X，ZHANG Y，LU X Y，et al. Estimation of lower-stratosphere-to-troposphere ozone profile using long short-term memory （LSTM）[J]. Remote Sensing，2021，13（7）：1374.

[12]? OSOWSKI S. Prediction of air pollution using LSTM[C]//ROJAS I，JOYA G，CATAL? A. International Work-Conference on Artificial Neural Networks. Cham：Springer，2021：208-219.

[13]? WANG J Y，LI J Z，WANG X X，et al. Air quality prediction using CT-LSTM[J]. Neural Computing and Applications，2021，33（10）：4779-4792.

[14]? DENG T，MANDERS A，SEGERS A，et al. Temporal transfer learning for ozone prediction based on CNN-LSTM model[C]// Proceedings of the 13th International Conference on Agents and Artificial Intelligence. February 4-6，2021. Virtual，Online. Science and Technology Publications，2021：1005-1021.

[15]? SHI X J，CHEN Z R，WANG H，et al. Convolutional LSTM Network：a machine learning approach for precipitation nowcasting[C]// Proceedings of the 28th International Conference on Neural Information Processing Systems-Volume 1. December 7-12，2015，Montreal，Canada. New York：ACM，2015：802-810.

[16]? WANG Y B，LONG M S，WANG J M，et al. PredRNN：recurrent neural networks for predictive learning using spatiotemporal lstms[C]// Proceedings of the 31st International Conference on Neural Information Processing Systems. December，2017，Long Beach California，USA. New York：ACM，2017：879-888

[17]? 王艷萍，李新慶，劉垚，等. 不同插值算法對(duì)氣溫空間插值效果評(píng)估分析[J]. 信息技術(shù)，2020，44（6）：31-35.

[18]? WANG Y B，ZHANG J J，ZHU H Y，et al. Memory in memory：a predictive neural network for learning higher-order non-stationarity from spatiotemporal dynamics[C]// 2019 IEEE/CVF Conference on Computer Vision and Pattern Recognition. June 15-20，2019，Long Beach，CA，USA. IEEE，2020：9146-9154.

收稿日期：2022-11-10

基金項(xiàng)目：河北省高等學(xué)?？茖W(xué)研究項(xiàng)目（ZD2021311）；河北省氣象局科研項(xiàng)目（20ky08）；河北省自然科學(xué)基金（F2020202008）

第一作者：劉恩海（1965—），男，副教授。通信作者：李妍（1983—），女，助理研究員，772324423@qq.com。