李 彬,彭曙蓉，彭君哲，黃士峻，鄭國(guó)棟

長(zhǎng)沙理工大學(xué) 電氣與信息工程學(xué)院，湖南 長(zhǎng)沙 410114)

0 引言

截至2016年年底，中國(guó)風(fēng)電并網(wǎng)容量已達(dá)到148.6 GW[1]，然而隨著風(fēng)電在電網(wǎng)中比例的提高，風(fēng)電的隨機(jī)性、波動(dòng)性等缺點(diǎn)也被逐步放大，大規(guī)模發(fā)展風(fēng)電給電網(wǎng)帶來(lái)了巨大挑戰(zhàn)。提前精確預(yù)測(cè)風(fēng)電功率，可以更好地指導(dǎo)電網(wǎng)發(fā)電、調(diào)度等工作，以及針對(duì)風(fēng)電爬坡和其他對(duì)電網(wǎng)具有較大威脅的風(fēng)電事件做好預(yù)防和消除工作[2]。

統(tǒng)計(jì)學(xué)習(xí)方法和物理方法是目前風(fēng)電功率預(yù)測(cè)的2種主要方法。其中物理方法主要是利用數(shù)值天氣預(yù)報(bào)NWP(Numerical Weather Prediction)，目前基于該方法的預(yù)測(cè)精度均有限。相較于物理方法，統(tǒng)計(jì)學(xué)習(xí)方法在短期風(fēng)電功率預(yù)測(cè)上預(yù)測(cè)精度較高。統(tǒng)計(jì)學(xué)習(xí)方法又分為點(diǎn)預(yù)測(cè)(確定性預(yù)測(cè))和區(qū)間預(yù)測(cè)(不確定性預(yù)測(cè))，點(diǎn)預(yù)測(cè)的預(yù)測(cè)方法有IAFSA-BPNN(Improvement Artificial Fish Swarm Algorithm-BP Neural Network)[3]等。文獻(xiàn)[4]提出了一種在3種不同優(yōu)化準(zhǔn)則下多預(yù)測(cè)組合模型的權(quán)重確定方法，并利用風(fēng)電場(chǎng)實(shí)際數(shù)據(jù)驗(yàn)證了預(yù)測(cè)精度得到了有效提高。文獻(xiàn)[5]提出了一種在改進(jìn)局域Volterra自適應(yīng)濾波器基礎(chǔ)上的混沌時(shí)間序列預(yù)測(cè)模型。

然而確定性預(yù)測(cè)不能對(duì)風(fēng)電功率不確定性進(jìn)行定量描述的缺陷很難克服。在含風(fēng)電的電網(wǎng)規(guī)劃、運(yùn)行和安全穩(wěn)定分析領(lǐng)域中需要對(duì)風(fēng)電的波動(dòng)區(qū)間進(jìn)行較精確的估計(jì)，僅僅得到單個(gè)點(diǎn)的預(yù)測(cè)值是不夠的[6]。而且對(duì)風(fēng)電的概率分布以及置信區(qū)間的預(yù)測(cè)可用于優(yōu)化風(fēng)電場(chǎng)的出力可靠性[7]、指導(dǎo)配電網(wǎng)無(wú)功規(guī)劃[8]、進(jìn)行實(shí)時(shí)市場(chǎng)調(diào)度[9]，進(jìn)一步給電網(wǎng)的發(fā)展規(guī)劃帶來(lái)更多的信息。如文獻(xiàn)[10]采用極限學(xué)習(xí)機(jī)ELM(Extreme Learning Machine)模型對(duì)風(fēng)電功率進(jìn)行概率區(qū)間預(yù)測(cè)。

回歸分析RA(Regression Analysis)是確定2種及以上變數(shù)間相互依賴(lài)的定量關(guān)系的一種統(tǒng)計(jì)分析方法。通常的回歸分析方法又稱(chēng)為均值回歸分析，均值回歸很難代表響應(yīng)變量服從非對(duì)稱(chēng)分布或者散布較大時(shí)的情況。Koenker等提出的分位數(shù)回歸QR(Quantile Regression)可以較好地克服均值回歸的不足。Taylor研究了一種神經(jīng)網(wǎng)絡(luò)非線(xiàn)性分位數(shù)回歸模型[11]，文獻(xiàn)[12-13]將徑向基函數(shù)(RBF)神經(jīng)網(wǎng)絡(luò)分位數(shù)回歸模型應(yīng)用于電力負(fù)荷概率密度預(yù)測(cè)，并在考慮實(shí)時(shí)電價(jià)的因素下采用支持向量機(jī)(SVM)分位數(shù)回歸模型對(duì)電力負(fù)荷進(jìn)行了概率密度預(yù)測(cè)。文獻(xiàn)[14]提出一種采用因子分子法對(duì)24 h內(nèi)小時(shí)級(jí)的風(fēng)電功率序列進(jìn)行降維處理后，再輸入神經(jīng)網(wǎng)絡(luò)分位數(shù)回歸預(yù)測(cè)模型進(jìn)行風(fēng)電曲線(xiàn)概率預(yù)測(cè)的方法。

基于以上分析，為了能得到更加準(zhǔn)確的風(fēng)電功率預(yù)測(cè)結(jié)果，給出更加準(zhǔn)確、范圍更小的預(yù)測(cè)區(qū)間和更符合風(fēng)電功率的概率密度分布，提出一種長(zhǎng)短期記憶神經(jīng)網(wǎng)絡(luò)LSTM(Long Short Term Memory neural networks)分位數(shù)回歸概率密度預(yù)測(cè)方法。該方法可以預(yù)測(cè)未來(lái)風(fēng)電功率區(qū)間以及概率分布，給電網(wǎng)運(yùn)行帶來(lái)指導(dǎo)作用。以美國(guó)PJM網(wǎng)(http：∥www.pjm.com/markets-and-operations/ops-analysis.aspx)上MIDATL地區(qū)的風(fēng)電功率數(shù)據(jù)作為研究數(shù)據(jù)，能夠得到一定置信度下的未來(lái)風(fēng)電功率預(yù)測(cè)區(qū)間。

1 LSTM回歸

深度學(xué)習(xí)在機(jī)器學(xué)習(xí)中的應(yīng)用非常廣泛，1997年Hochreiter和Schmidhuber提出了一種LSTM，能夠很好地解決序列的長(zhǎng)期依賴(lài)問(wèn)題[15]，其主要結(jié)構(gòu)如圖1所示，LSTM可以由時(shí)間展開(kāi)表示成這種鏈狀結(jié)構(gòu)，LSTM的重復(fù)模塊中有4個(gè)神經(jīng)網(wǎng)絡(luò)層。

圖1 LSTM結(jié)構(gòu)Fig.1 LSTM structure

圖1中一個(gè)矩形框稱(chēng)作一個(gè)元胞(cell)，LSTM有4個(gè)門(mén)，第一層神經(jīng)元為遺忘門(mén)(forget gate)的Sigmoid控制層，如式(1)所示。

ft=σ(Wf[ht-1,xt]+bf)

(1)

it=σ(Wi[ht-1,xt]+bi)

(2)

(3)

再將元胞的舊狀態(tài)Ct-1更新為Ct，見(jiàn)式(4)。

(4)

最后，通過(guò)一個(gè)如式(5)所示包含Sigmoid層的輸出門(mén)(output gate)將式(4)通過(guò)一個(gè)tanh層之后(使得輸出值在-1～1之間)，再與輸出門(mén)相乘，這樣就將遺忘和記憶參數(shù)帶至最后的輸出。

Ot=σ(WO[ht-1,xt]+bO)

(5)

ht=Ottanh(Ct)

(6)

其中，Wf、bf分別為遺忘門(mén)的權(quán)重和偏置；Wi、bi分別為輸入門(mén)的權(quán)重和偏置；WC、bC分別為更新值的權(quán)重和偏置；WO、bO分別為輸出門(mén)的權(quán)重和偏置；σ(·)為Sigmoid激活函數(shù);tanh(·)為雙曲正切激活函數(shù)；[ht-1,xt]表示行數(shù)相等的矩陣或向量進(jìn)行列合并；“*”表示對(duì)應(yīng)元素相乘。

2 條件概率密度預(yù)測(cè)

2.1 線(xiàn)性分位數(shù)回歸模型

考慮樣本Y=[Y1Y2…YN]和X=[X1X2…XN],其中Y為響應(yīng)變量，X為相應(yīng)的解釋變量，N為樣本量，求線(xiàn)性回歸的模型參數(shù)可以通過(guò)求解式(7)所示的目標(biāo)函數(shù)來(lái)得到，其中β為回歸系數(shù)。

(7)

式(7)中參數(shù)向量β的估計(jì)可以考慮轉(zhuǎn)化為求解式(8)所示的優(yōu)化問(wèn)題。

(8)

(9)

由式(8)得出，在不同的分位數(shù)τ下可以得到不同的參數(shù)估計(jì)β(τ)，就能夠測(cè)算出在不同分位數(shù)τ下解釋變量對(duì)響應(yīng)變量的條件分位數(shù)的影響。τ在(0,1)內(nèi)連續(xù)取值時(shí)，就可以得到響應(yīng)變量的條件分布，然后得到條件密度，最終得出條件密度預(yù)測(cè)。

2.2 LSTM分位數(shù)回歸模型

在式(7)所反映的線(xiàn)性回歸模型中，限定了解釋變量和響應(yīng)變量之間只能是線(xiàn)性關(guān)系。但是在現(xiàn)實(shí)中變量之間更多的是非線(xiàn)性關(guān)系。Taylor提出了神經(jīng)網(wǎng)絡(luò)分位數(shù)QRNN(Quantile Regression Neural Network)回歸模型：

QY(τ|X)=f(X,W(τ),V(τ))

(10)

其中，W(τ)=(wij(τ))i=1,2,…,I；j=1,2,…,J為輸入層與隱含層之間的連接權(quán)重，I為輸入層節(jié)點(diǎn)數(shù)目，J為隱含層節(jié)點(diǎn)數(shù)目；V(τ)=(vjk(τ))j=1,2,…,J；k=1,2,…,K為隱含層與輸出層之間的連接權(quán)重，K為輸出層節(jié)點(diǎn)數(shù)目。

(11)

其中，λ1、λ2為懲罰參數(shù)。

分位數(shù)神經(jīng)網(wǎng)絡(luò)回歸可以參考式(8),將其對(duì)參數(shù)W(τ)、V(τ)的估計(jì)轉(zhuǎn)化為求解式(11)的優(yōu)化問(wèn)題。式(11)中λ1、λ2可以防止模型在訓(xùn)練過(guò)程中出現(xiàn)過(guò)擬合現(xiàn)象，可以使用Adam隨機(jī)梯度下降法對(duì)式(11)進(jìn)行求解，估計(jì)出參數(shù)矩陣W(τ)、V(τ)。

(12)

其中，W={Wf,Wi,WC,WO}為L(zhǎng)STM的權(quán)重參數(shù)；b={bf,bi,bC,bO} 為網(wǎng)絡(luò)結(jié)構(gòu)的偏置項(xiàng)權(quán)重。

根據(jù)LSTM回歸模型的結(jié)構(gòu)和式(12)所示的神經(jīng)網(wǎng)絡(luò)分位數(shù)回歸方法，可以建立一種LSTM分位數(shù)回歸模型，并將其對(duì)網(wǎng)絡(luò)結(jié)構(gòu)參數(shù)估計(jì)的BPTT(Back Propagation Through Time)算法過(guò)程的代價(jià)函數(shù)轉(zhuǎn)化為如式(13)所示的分位數(shù)回歸的目標(biāo)函數(shù)。最終可以將參數(shù)估計(jì)看作式(13)所示的優(yōu)化問(wèn)題,并用Adam隨機(jī)梯度下降法求解該優(yōu)化問(wèn)題。

(13)

(14)

(15)

LSTM回歸對(duì)非線(xiàn)性的時(shí)間序列具有很好的擬合能力，在道路運(yùn)輸相關(guān)的交通流速預(yù)測(cè)[17]、醫(yī)學(xué)相關(guān)的蛋白質(zhì)二級(jí)結(jié)構(gòu)序列預(yù)測(cè)[18]等問(wèn)題上都有較好的預(yù)測(cè)效果。概率密度估計(jì)主要是為了得到概率密度曲線(xiàn)，使得電網(wǎng)工作人員能更好地了解未來(lái)風(fēng)電功率波動(dòng)范圍，獲得更多的有用信息。利用分位數(shù)回歸可以將二者有機(jī)結(jié)合起來(lái)，在不同分位數(shù)下進(jìn)行LSTM回歸可以得到多個(gè)點(diǎn)預(yù)測(cè)的結(jié)果，進(jìn)而繼續(xù)采用高斯核進(jìn)行概率密度估計(jì)，得到概率密度函數(shù)，具體程序流程圖見(jiàn)圖2。

圖2 程序流程圖Fig.2 Program flowchart

2.3 模型評(píng)價(jià)

風(fēng)電功率點(diǎn)預(yù)測(cè)模型常用的評(píng)價(jià)指標(biāo)有平均絕對(duì)誤差(MAE)、均方誤差(MSE)、均方根誤差(RMSE)。從風(fēng)電功率特性出發(fā)，給出了一種比較2個(gè)風(fēng)電功率點(diǎn)預(yù)測(cè)模型的檢驗(yàn)方法——DM(Diebold-Mariano)檢驗(yàn)。該檢驗(yàn)方法在假設(shè)兩模型誤差相等并服從正態(tài)分布的基礎(chǔ)上做假設(shè)檢驗(yàn)，當(dāng)DM檢驗(yàn)絕對(duì)值大于某個(gè)閾值時(shí)證明2個(gè)模型的預(yù)測(cè)結(jié)果有顯著差異[19]。

然而上述評(píng)價(jià)指標(biāo)并不能用來(lái)評(píng)價(jià)概率預(yù)測(cè)的結(jié)果。考慮風(fēng)電功率的隨機(jī)性強(qiáng)、波動(dòng)范圍大的情況，提出一種非參數(shù)模型的風(fēng)電概率區(qū)間預(yù)測(cè)方法，并給出參考風(fēng)電功率特性的概率區(qū)間評(píng)估指標(biāo)[20]，采用如下2個(gè)評(píng)價(jià)指標(biāo)。

a. 可靠性指標(biāo)。

在置信度1-α下，一共有Ninterval個(gè)預(yù)測(cè)區(qū)間，可靠性評(píng)價(jià)為：

(16)

風(fēng)電功率實(shí)際落在預(yù)測(cè)區(qū)間內(nèi)的概率應(yīng)該等于或接近事先給定的置信度，可靠性指標(biāo)越接近置信區(qū)間值則代表該預(yù)測(cè)模型越可靠。

b. 敏銳性指標(biāo)。

可靠性指標(biāo)不能全面體現(xiàn)概率預(yù)測(cè)結(jié)果的好壞，因?yàn)閰^(qū)間很大時(shí)可靠性通常會(huì)更高，相應(yīng)的區(qū)間寬度過(guò)大會(huì)導(dǎo)致能提供的有用信息較少，所以還需要敏銳性指標(biāo)來(lái)共同判斷區(qū)間預(yù)測(cè)結(jié)果的好壞(區(qū)間平均寬度)：

(17)

單一的敏銳性指標(biāo)和可靠性指標(biāo)都不能全面反映風(fēng)電功率概率預(yù)測(cè)模型的好壞，只有綜合敏銳性指標(biāo)與可靠性指標(biāo)才可以充分反映概率區(qū)間預(yù)測(cè)結(jié)果的優(yōu)劣。

3 算例仿真

(18)

其中，Xt為t時(shí)刻的樣本向量;Xmin、Xmax分別為所有樣本的最小值和最大值。

圖3 美國(guó)風(fēng)電功率數(shù)據(jù)Fig.3 American wind power data

QRLSTM的可靠性指標(biāo)為84.16%，敏銳性指標(biāo)為124.54，QRNN對(duì)應(yīng)指標(biāo)分別為79.12%和191.99，指標(biāo)數(shù)據(jù)與圖4對(duì)應(yīng)的QRLSTM與QRNN預(yù)測(cè)結(jié)果一致。QRLSTM可靠性指標(biāo)比QRNN高5.04%。雖然理論上可靠性應(yīng)該與置信度相等，且上述2個(gè)模型的可靠性都沒(méi)有達(dá)到置信度90%，但是比較接近置信度的結(jié)果也是可以接受的預(yù)測(cè)效果。QRNN比QRLSTM的敏銳度指標(biāo)高出54.08%，如此大的差距充分體現(xiàn)了QRLSTM的優(yōu)勢(shì)，不僅預(yù)測(cè)的可靠性高于QRNN，且能在預(yù)測(cè)結(jié)果中提供更多的有效信息。

圖4 QRLSTM與QRNN風(fēng)電功率預(yù)測(cè)結(jié)果對(duì)比Fig.4 Comparison of wind power forecasting results between QRLSTM and QRNN

通過(guò)2個(gè)模型指標(biāo)數(shù)據(jù)和圖4的對(duì)比明顯看出真實(shí)值很大概率落在QRLSTM回歸的預(yù)測(cè)區(qū)間內(nèi)。相比QRNN回歸模型，真實(shí)值落在QRNN預(yù)測(cè)區(qū)間內(nèi)的概率明顯要小很多，且預(yù)測(cè)的區(qū)間寬度比QRNN的預(yù)測(cè)區(qū)間小很多，這充分說(shuō)明了本文提出的QRLSTM回歸模型可很好地預(yù)測(cè)風(fēng)電功率的波動(dòng)性，且可以預(yù)測(cè)較長(zhǎng)時(shí)間的風(fēng)電功率波動(dòng)性。

采用QRLSTM回歸方法可以得到預(yù)測(cè)點(diǎn)的概率密度曲線(xiàn)，從預(yù)測(cè)點(diǎn)0～200中隨機(jī)抽取第4、47、90、104、138、168這6個(gè)時(shí)間點(diǎn)的概率密度函數(shù)分布區(qū)間見(jiàn)附錄中圖A1，其中第104個(gè)時(shí)間點(diǎn)的概率密度函數(shù)見(jiàn)圖5。從預(yù)測(cè)出的概率密度函數(shù)可以看出，QRLSTM可以預(yù)測(cè)出風(fēng)電功率的完整概率密度分布，且真實(shí)值都落在該密度函數(shù)中間。以上示例說(shuō)明該方法能夠給出未來(lái)預(yù)測(cè)時(shí)間點(diǎn)概率密度曲線(xiàn)。

圖5 QRLSTM風(fēng)電功率預(yù)測(cè)概率密度函數(shù)Fig.5 Probability density function of wind power forecasting for QRLSTM

附錄中表A1展示了QRLSTM與QRNN預(yù)測(cè)模型前24個(gè)預(yù)測(cè)點(diǎn)的預(yù)測(cè)區(qū)間和預(yù)測(cè)區(qū)間范圍的差值。從數(shù)據(jù)中也可以看出，QRLSTM預(yù)測(cè)模型預(yù)測(cè)出的概率區(qū)間比QRNN預(yù)測(cè)出的概率區(qū)間范圍小很多。

圖6 QRLSTM區(qū)間預(yù)測(cè)與點(diǎn)預(yù)測(cè)結(jié)果對(duì)比Fig.6 Comparison between QRLSTM interval prediction and point prediction

圖6對(duì)比了另外2種點(diǎn)預(yù)測(cè)的結(jié)果和LSTM分位數(shù)回歸的區(qū)間預(yù)測(cè)結(jié)果，可看出相比于點(diǎn)預(yù)測(cè)，區(qū)間預(yù)測(cè)的可信度更高，在實(shí)際使用預(yù)測(cè)結(jié)果時(shí)可以更好地規(guī)避誤差帶來(lái)的風(fēng)險(xiǎn)。QRLSTM、QRNN、SVM這3種點(diǎn)預(yù)測(cè)模型平均絕對(duì)誤差分別為34.8、52.8、60.09，可以看出QRLSTM中位數(shù)預(yù)測(cè)的準(zhǔn)確率比QRNN和SVM都要高。

4 結(jié)論

本文提出一種QRLSTM預(yù)測(cè)模型，其可靠性指標(biāo)比QRNN高5.04%，敏銳性指標(biāo)比QRNN低54.08%，充分體現(xiàn)了QRLSTM的優(yōu)勢(shì)，能夠提供更多的有效信息給電力行業(yè)使用者。

該方法不僅在預(yù)測(cè)精度上有提高，而且能獲得風(fēng)電功率概率密度函數(shù)，可以為電力系統(tǒng)增強(qiáng)風(fēng)電消納能力提供更多的有用信息，便于風(fēng)電的發(fā)展，促進(jìn)環(huán)保和解決能源不足問(wèn)題。

附錄見(jiàn)本刊網(wǎng)絡(luò)版(http:∥www.epae.cn)。