陽曾，丁施尹，葉萌，李晶，薛書倩，吳昊天

(1.廣東電網(wǎng)有限責任公司廣州供電局電力調(diào)度控制中心，廣州 510000； 2.北京清軟創(chuàng)新科技股份有限公司，北京 100085； 3.華北電力大學，北京 102206)

0 引 言

負荷預測是制定電力供應計劃和電網(wǎng)電量供需平衡的關鍵挑戰(zhàn)之一，它是電力市場運營的基礎工作和電力規(guī)劃中不可或缺的組成部分[1]。電力系統(tǒng)負荷預測可根據(jù)預測的時間長短分為超短期、短期、中期和長期預測[2]。其中，短期負荷預測是電力日常調(diào)度工作中重要的一項內(nèi)容，同時是能量管理系統(tǒng)的重要組成部分。提高短期負荷預測的準確性，有助于提高電力設備的利用率，降低能耗，緩解能源的供應端和需求端兩者之間的不平衡[3-4]。

現(xiàn)階段，圍繞負荷序的時序性和非線性特點，短期負荷預測方法層出不窮，有多元線性回歸法[5]，其優(yōu)點在于結構形式簡單，預測速度快，但描述較復雜的問題時，精度較低；卡爾曼濾波法[6]，該算法能很好的解決數(shù)據(jù)中的噪聲問題，但這樣也會造成變化較大的負荷也被篩選出去,對預測結果造成一定的影響；灰色理論法[7]，該方法所需數(shù)據(jù)量少，計算方便，但未考慮到相關因素之間的聯(lián)系，故誤差偏大；支持向量機[8]，其泛化能力好，預測精度較高，預測但運算時間太長，難以預測大規(guī)模數(shù)據(jù)；隨機森林法[9]，可以處理高維數(shù)據(jù)，其泛化誤差小，但對于噪聲較大的數(shù)據(jù)，易出現(xiàn)過擬合現(xiàn)象；以及應用較為廣泛的神經(jīng)網(wǎng)絡法[10-11]等。隨著深度學習的興起與發(fā)展，多種深度學習神經(jīng)網(wǎng)絡逐漸應用于負荷預測領域。文[11]利用LSTM網(wǎng)絡預測負荷功率, 在淺神經(jīng)網(wǎng)絡中，只能改變單隱層神經(jīng)元的數(shù)量，而在LSTM網(wǎng)絡中，寬度和深度都可以改變，它通過預訓練方式緩解了傳統(tǒng)網(wǎng)絡局部最優(yōu)點問題。

對于隨機性、波動性較強負荷序列而言，單一預測方法難以得到理想的預測精度。目前，各種組合預測方法廣泛應用在短期負荷預測領域，以EMD[12]為主的分解方法能有效的實現(xiàn)原始負荷序列的分解，實現(xiàn)平穩(wěn)序列和非平穩(wěn)序列互相分離的目的，然后再結合預測方法對各個IMF分別進行預測。但是，EMD分解方法難以避免模態(tài)混疊現(xiàn)象產(chǎn)生，得到的虛假IMF，會對預測精度產(chǎn)生不利影響。文[13]采用VMD將負荷數(shù)據(jù)分解為特征互異的模態(tài)函數(shù)，避免了模態(tài)混疊現(xiàn)象發(fā)生，提升了信號的分析效果。

基于以上研究工作，文中以某地區(qū)負荷數(shù)據(jù)為研究對象，對負荷序列進行VMD分解，獲得多個特征互異的子序列，并分別結合LSTM網(wǎng)絡進行預測，將多個預測結果疊加后得到最終的預測結果。與單一LSTM和EMD-LSTM方法預測結果相比，驗證了所提方法可有效挖掘負荷序列潛在特征，從而提升預測精度。

1 VMD算法原理

2014年Konstantin Dragomiretskiy提出一種新型的VMD估計方法，用于非平穩(wěn)信號的自適應分解，可將復雜的信號分解成K個調(diào)頻調(diào)幅的子信號[14]。它本質(zhì)上是一個自適應維納濾波器組，可以有效地將測試信號分解成一組有限帶寬的中心頻率。不同于EMD和EEMD方法，VMD方法采用了非遞歸及變分模態(tài)求解模式處理原始信號，具有較好的抗噪聲性能和非平穩(wěn)性能信號處理效果。

VMD的目的是將多分量信號分解為帶寬上具有特定稀疏性的有限帶寬模式的集合；相反，這些分解的模式也能夠重構輸入信號。求解約束變分優(yōu)化問題：

(1)

式中uk(t)為輸入信號的模態(tài)函數(shù)；{uk}表示模態(tài)集合{u1,u2, ……,uk}；wk是對應于輸入信號的第k階模態(tài)的中心頻率；{wk}表示分解后的模態(tài)對應的一組中心頻率{w1,w2, ……,wk}；f(t)是輸入信號；δ(t)是單位脈沖函數(shù)。

將拉格朗日乘子λ和二次懲罰因子α引入，可以將式(1)改寫為：

(2)

使用乘法算法的交替方向法求解(2)，獲得一組模態(tài)分量及其各自的中心頻率。每個模態(tài)可由頻域中的解估算出來，表示為：

(3)

在式(3)中具有維納濾波結構的特點，它直接更新了傅立葉域中的模態(tài)。此外，還可以通過提取濾波分析信號傅里葉逆變換的實部，在時域內(nèi)得到這些模態(tài)。

(4)

2 LSTM神經(jīng)網(wǎng)絡結構

傳統(tǒng)的神經(jīng)網(wǎng)絡在處理分類以及回歸問題時難以避免會陷入局部最優(yōu)點，而深度學習神經(jīng)網(wǎng)絡通過預訓練方式緩解了這個問題[15]。LSTM網(wǎng)絡源自于循環(huán)神經(jīng)網(wǎng)絡的一種，而后者在每個時刻都對應著一個輸出，同時結合其當前時刻的狀態(tài)得到對應的輸出。當前的狀態(tài)是根據(jù)上一時刻的狀態(tài)以及此刻的輸入共同作用來決定的，通過這種結構比較適合解決與時間序列有關的問題。但是，如果時間序列過長會導致當前時刻節(jié)點對歷史時刻節(jié)點的感知能力不足，從而出現(xiàn)梯度消失的問題。而且當前時刻預測和當前時刻所需信的息之間的跨度長短不一致，這種長期依賴的問題是傳統(tǒng)的循環(huán)神經(jīng)網(wǎng)絡所不能解決的。

LSTM網(wǎng)絡對經(jīng)典循環(huán)神經(jīng)網(wǎng)絡做了改進，通過引入“遺忘門”，讓信息有選擇性地影響RNN中每個時刻的狀態(tài)。計算節(jié)點由輸入門、輸出門、遺忘門和cell組成[16]，LSTM的計算節(jié)點圖見圖1。

圖1 LSTM模型結構Fig.1 LSTM model structure

在圖1中，cell為計算節(jié)點的核心，記錄著當前時刻的狀態(tài)；控制信息的輸入和輸出則分別由輸入門、輸出門操控；而遺忘門則控制著細胞歷史時刻狀態(tài)信息的儲存。遺忘門的輸出值始終保持在[0, 1]之間，這得益于門利用的sigmoid激活函數(shù)，輸出值為0，將上一狀態(tài)的信息全部丟棄，輸出值為1，上一狀態(tài)的信息則全部保存。如式(5)所示：

ft=σ(Wf·[ht-1,xt]+bf)

(5)

式中Wf是遺忘門的權重矩陣；bf是偏置項；[ht-1,xt]是遺忘門的輸入向量；σ是sigmoid函數(shù)。

“輸入門”負責新狀態(tài)的補充，根據(jù)xt，ht-1來判斷ct-1狀態(tài)中的哪些部分應當寫入當前時刻狀態(tài)ct中去，如下：

it=σ(Wi·[ht-1,xt]+bi)

(6)

式中Wi是輸入門的權重矩陣；bi是輸入門的偏置項。

同時，新狀態(tài)的候選值c*t由tanh函數(shù)產(chǎn)生，c*t可能會加入到新狀態(tài)中，如下：

(7)

那么當前時刻的狀態(tài)ct就是由上一時刻的狀態(tài)ct-1乘以遺忘門ft，再用新狀態(tài)候選值c*t乘以輸入門it，再將兩個乘積求和，有：

(8)

類似地，輸出門表示如式(9)所示：

ot=σ(Wo·[ht-1,xt]+bo)

(9)

式中Wo是輸入門的權重矩陣；bo是輸入門的偏置項。而LSTM最終的輸出ht是由輸出門與單元狀態(tài)共同決定的。

ht=ot·tanh(ct)

(10)

在網(wǎng)絡傳播的過程中，ot并不是唯一起作用的，ht才是LSTM網(wǎng)絡的特殊之處，它是根據(jù)三個門新增加的，有效解決了梯度消失的問題。

3 VMD-LSTM模型的短期負荷預測

電力負荷基于用戶習慣性消費信息，受人類活動、氣象條件、社會經(jīng)濟和政治因素等不同程度的影響表現(xiàn)出一定的波動性、隨機性的特點。然而，人類生活生產(chǎn)活動有一定的規(guī)律性，因此，負荷也具有較強的周期特性。負荷序列本質(zhì)上具有不穩(wěn)性，為精細研究分析負荷序列特點，采用VMD方法對原始負荷序列進行分解，得到一系列有利于預測的負荷分量。由于深度學習算法具有多層次內(nèi)部結構和重復學習特征的訓練方式的特點，所以能更好地應對負荷預測問題，所以將各個負荷分量結合LSTM網(wǎng)絡進行訓練預測，疊加每個分量預測結果，進而得到了VMD-LSTM模型的最終預測結果，模型框圖如圖2所示。

圖2 負荷預測模型Fig.2 Load forecasting model

圖2中給出了VMD的參數(shù)設置[14]：通過反復實驗測試，模態(tài)函數(shù)個數(shù)K=5；二次懲罰因子α=1 000；收斂判據(jù)r=10-6。起始中心頻率w=0。LSTM網(wǎng)絡參數(shù)調(diào)試，通過調(diào)節(jié)LSTM網(wǎng)絡中的堆疊層數(shù)、隱含層神經(jīng)元個數(shù)、Dropout參數(shù)以及每批處理樣本數(shù)量來提升網(wǎng)絡的預測的性能。

(1)堆疊層數(shù)(Sk)和隱含層神經(jīng)元個數(shù)(Hd)

堆疊層數(shù)及隱含層神經(jīng)元個數(shù)的選取對負荷預測精度有著顯著的影響，以日周期分量數(shù)據(jù)為測試對象，計算了當堆疊層數(shù)分別為1層～3層，隱含層神經(jīng)元個數(shù)分別為5、20、50、100個時訓練集和測試集的MAPE，結果見表1所示。

表1 訓練集及測試集的測試結果Tab.1 Test results of training set and test set

從表1中，可以看出當網(wǎng)絡堆疊層數(shù)為2，隱含層神經(jīng)元個數(shù)為50時訓練集和測試集的MAPE最小，故以此網(wǎng)絡參數(shù)進行后續(xù)的短期負荷預測仿真實驗。

(2)dropout參數(shù)

dropout參數(shù)的設置可以有效抑制神經(jīng)網(wǎng)絡訓練的過擬合。dropout的原理是在模型訓練時，以一定的概率讓某個神經(jīng)元失活。目前學術界對dropout的取值方法并無定論，具體到本文模型，采用遍歷的方法，通過計算平均準確度(mean Accuracy, mAcc)選取最優(yōu)值，如式(11)所示:

(11)

本文嘗試了10種不同的dropout比例，實驗結果如圖3所示，當dropout參數(shù)從0.5增大至0.95，mAcc呈現(xiàn)了先增加后減小的變化趨勢，在dropout取0.65時mAcc獲得最大值95.83%。

圖3 不同dropout參數(shù)下負荷預測mAccFig.3 mAcc of load forecasting with different dropout parameters

(3)每批處理樣本數(shù)量(batch)

在LSTM網(wǎng)絡中每批處理樣本數(shù)量如果值太小，則很容易不收斂；如果取值過大，容易陷入局部最優(yōu)解。本文選取的方法是以128為分界線，向上乘2，向下乘0.5，訓練后比較測試結果，測試結果顯示向下更好，向下繼續(xù)乘0.5，直到結果不再提升為止，最終測試結果該參數(shù)值取16。

4 實驗分析

實驗采用某地區(qū)2019-06-16至2019-06-30之間的負荷數(shù)據(jù)，采樣間隔15 min，共計采樣點1 440個，以前面12天的數(shù)據(jù)作為訓練樣本，后面3天的數(shù)據(jù)作為測試樣本。原始數(shù)據(jù)集分別由EMD和VMD方法進行分解，原始負荷序列及分解結果分別見圖4～圖6。

圖4 原始負荷序列Fig.4 Original load sequence

圖5 EMD分解結果Fig.5 EMD decomposition results

圖6 VMD分解結果Fig.6 VMD decomposition results

從圖4中可以看出，原始負荷序列的波動性較強，從圖5和圖6的分解結果可以看出，由EMD分解方法的模態(tài)分量多達8個，而VMD分解出來的模態(tài)分量只有5個，這大大減少了預測的計算規(guī)模；高頻分量不以利于預測，可以看出VMD分解出來的高頻分量幅值占比更少，有利于減少預測誤差；中低頻部分VMD分解的分量的規(guī)律性則明顯比EMD分解的分量規(guī)律性要強；兩者分解出來的低頻部分都較為平緩，可以看出VMD分解出的低頻分量更接近原始負荷序列的波動趨勢。因此，從兩者分解結果來看VMD方法更有利于后續(xù)建模預測。

接著根據(jù)上一節(jié)LSTM網(wǎng)絡測試的參數(shù)，利用LSTM網(wǎng)絡分別對原始負荷數(shù)據(jù)、EMD及VMD分解的分量序列進行預測，并分別疊加后兩種方法的預測結果，得到EMD-LSTM方法和VMD-LSTM方法的最終預測結果。圖7中給出了三種方法的預測結果曲線。

圖7 三種方法的預測結果比較Fig.7 Comparison of prediction results of the three methods

科學和全面的指標在對各種負荷預測模型的篩選和糾正中發(fā)揮著重要作用。目前評價負荷預測結果的指標眾多，通常是采用平均絕對百分誤差(Mean Absolute Percentage Error, MAPE)來評估模型優(yōu)劣，采用均方根誤差(Root Mean Square Error, RMSE)來反映預測的精密度，兩者數(shù)值越小，模型的預測效果越好[17-19]。三種方法的誤差統(tǒng)計結果見表2。

(12)

(13)

式中各符號的意義同式(11)。

圖7中的放大區(qū)域中可以看出單一采用LSTM方法在負荷峰谷值部分預測誤差很大，而VMD-LSTM方法略優(yōu)于EMD-LSTM方法，預測結果比較理想。在表2中，從預測日的平均值角度分析，VMD-LSTM方法的具有最好的預測精度，MAPE為0.62%，RMSE為7.91 MW，驗證了該方法具有較好的預測性能。

表2 三種方法的誤差統(tǒng)計結果Tab.2 Error statistics results of the three methods

5 結束語

文章提出了一種基于VMD-LSTM的短期負荷預測方法。實驗驗證，在波動性較強的負荷序列中，VMD可有效提取其內(nèi)在具有緊支撐傅里葉頻譜特性的負荷分量。對比EMD方法，VMD方法具有可手動調(diào)節(jié)模態(tài)分量個數(shù)的優(yōu)勢，進而可減少預測的計算規(guī)模。同時，考慮到LSTM具有預訓練方式的特點，可有效緩解傳統(tǒng)神經(jīng)網(wǎng)絡易陷入局部最優(yōu)點問題，可為高精度預測結果提供強力保障。對比LSTM和EMD-LSTM方法，突顯了本文方法優(yōu)越的預測性能，為研究短期負荷預測提供一定的參考意義。

在后續(xù)的研究中，可以考慮在輸入數(shù)據(jù)中加入影響負荷變化的特征，比如氣象條件、經(jīng)濟因素等；可考慮結合優(yōu)化算法，對LSTM的權值和閾值進行逐層優(yōu)化，以達到提升預測精度的目的。