徐先峰 龔美 黃劉洋

摘 要：負(fù)荷預(yù)測(cè)是電力系統(tǒng)規(guī)劃的重要組成部分，直接影響著電網(wǎng)運(yùn)行的安全性及可靠性，實(shí)時(shí)高精度的負(fù)荷預(yù)測(cè)結(jié)果更是提高整個(gè)電網(wǎng)運(yùn)行效率的關(guān)鍵。為了解決現(xiàn)存算法預(yù)測(cè)精度低的問題，在深入分析了溫度與用電量強(qiáng)相關(guān)性的基礎(chǔ)上，構(gòu)建了長(zhǎng)短時(shí)記憶深度學(xué)習(xí)網(wǎng)絡(luò)（LSTM），執(zhí)行歷史用電數(shù)據(jù)特點(diǎn)的深度挖掘及用電量與溫度相關(guān)性的深度自學(xué)習(xí)，實(shí)現(xiàn)了電力負(fù)荷預(yù)測(cè)。與傳統(tǒng)負(fù)荷預(yù)測(cè)技術(shù)相比，預(yù)測(cè)精度顯著提高。基于谷歌Tensor-flow平臺(tái)進(jìn)一步研究了不同激活函數(shù)組合對(duì)于所提算法預(yù)測(cè)性能的影響。仿真結(jié)果表明，使用ELU激活函數(shù)比使用其他常用激活函數(shù)預(yù)測(cè)精度更高，有效解決了當(dāng)前預(yù)測(cè)算法普遍存在的精度低問題。

關(guān)鍵詞：負(fù)荷預(yù)測(cè);深度學(xué)習(xí);LSTM;溫度信息;Tensor-flow;激活函數(shù)

中圖分類號(hào)：TP301.6文獻(xiàn)標(biāo)識(shí)碼：A文章編號(hào)：2095-1302（2019）09-00-05

0 引 言

負(fù)荷預(yù)測(cè)在電力和能源系統(tǒng)的運(yùn)行和規(guī)劃中起著至關(guān)重要的作用[1-5]。提前1小時(shí)至1天或1周的短期負(fù)荷預(yù)測(cè)常被用于制定安排日開停機(jī)計(jì)劃和發(fā)電計(jì)劃，對(duì)于確定發(fā)電機(jī)組最優(yōu)組合、實(shí)現(xiàn)潮流最優(yōu)計(jì)算、指導(dǎo)電力市場(chǎng)交易、滿足實(shí)時(shí)經(jīng)濟(jì)調(diào)度等意義重大。預(yù)測(cè)結(jié)果越準(zhǔn)確、精度越高，越有利于提高發(fā)電設(shè)備的利用率和經(jīng)濟(jì)調(diào)度的有效性。

近年來，電力負(fù)荷預(yù)測(cè)方法層出不窮，針對(duì)短期電力負(fù)荷預(yù)測(cè)，國(guó)內(nèi)外的研究主要分為兩類：一類是以自回歸平均滑動(dòng)模型（Auto Regressive Integrated Moving Average Model，ARIMA）為代表的時(shí)間序列法[6];另一類是以BP神經(jīng)網(wǎng)絡(luò)[7]、梯度下降決策樹[8]等為代表的人工神經(jīng)網(wǎng)絡(luò)法。前者大多以數(shù)學(xué)理論為根基，雖然將數(shù)據(jù)的時(shí)序性特點(diǎn)重點(diǎn)考慮，但缺乏靈活性，在非線性關(guān)系數(shù)據(jù)的預(yù)測(cè)方面準(zhǔn)確度較低，難以滿足負(fù)荷預(yù)測(cè)的精度要求。后者雖然在解決自變量和因變量之間的非線性關(guān)系方面表現(xiàn)出了一定的優(yōu)勢(shì)，但受限于網(wǎng)絡(luò)結(jié)構(gòu)，無法考慮時(shí)序數(shù)據(jù)的相關(guān)性問題，往往會(huì)導(dǎo)致學(xué)習(xí)能力差、預(yù)測(cè)精度低等后果。此外，兩類研究方法處理的數(shù)據(jù)大都針對(duì)單一的歷史負(fù)荷，并未將溫度等外部影響因素考慮在內(nèi)，而這也是造成預(yù)測(cè)精度低的一個(gè)重要原因。

為了充分融合上述兩類方法的優(yōu)勢(shì)，越來越多的學(xué)者將研究方向定位于能夠解決神經(jīng)網(wǎng)絡(luò)中長(zhǎng)期依賴問題的LSTM網(wǎng)絡(luò)。長(zhǎng)短時(shí)記憶網(wǎng)絡(luò)（Long Short Memory Network，LSTM）最早由Hochreiter和 Schmidhuber于1997年提出[9]，并于近期被Alex Graves進(jìn)行了改良和推廣[10]。在很多問題上，LSTM都取得了巨大的成功，并得到了廣泛使用。Mirza等人將LSTM模型應(yīng)用于計(jì)算機(jī)網(wǎng)絡(luò)入侵檢測(cè)，顯示出了很強(qiáng)的適用性[11];Baek等人利用LSTM網(wǎng)絡(luò)對(duì)股票市場(chǎng)價(jià)值進(jìn)行預(yù)測(cè)，準(zhǔn)確率較高[12];近期，Xu Liwen等人將LSTM網(wǎng)絡(luò)應(yīng)用于短期電力負(fù)荷預(yù)測(cè)，取得了很好的預(yù)測(cè)精度[13]，但文獻(xiàn)中卻未將溫度的影響考慮在內(nèi)，從而無法進(jìn)一步提高預(yù)測(cè)精度。

為了構(gòu)建高精度負(fù)荷預(yù)測(cè)模型，本文在深入分析了電量與溫度因素強(qiáng)相關(guān)性的基礎(chǔ)上，在預(yù)測(cè)過程中引入溫度因素，建立LSTM深度學(xué)習(xí)預(yù)測(cè)模型，并借助Tensor-flow平臺(tái)進(jìn)一步測(cè)試了激活函數(shù)的各種組合，以期得到最優(yōu)的預(yù)測(cè)性能。

1 用電量與溫度因素的相關(guān)性分析

溫度是對(duì)負(fù)荷特性影響最大的氣象因素，它直接影響空調(diào)負(fù)荷、農(nóng)業(yè)灌溉負(fù)荷等的變化。隨著經(jīng)濟(jì)的發(fā)展，人民生活水平逐步提高，空調(diào)等用電設(shè)備的使用量逐年増加，直接導(dǎo)致溫度對(duì)負(fù)荷特性的影響越來越大[14]。因此，為了深入分析用電量與溫度之間的相關(guān)性，本節(jié)以2014年全球能源預(yù)測(cè)競(jìng)賽（2014 Global Energy Forecasting Competition，GEF2014）中2006年3月1日至2008年2月28日，共計(jì)8 760個(gè)24點(diǎn)日負(fù)荷數(shù)據(jù)和溫度數(shù)據(jù)為基礎(chǔ)，綜合運(yùn)用數(shù)據(jù)分析法、相關(guān)系數(shù)法對(duì)春（3～5月）、夏（6～8月）、秋（9～11月）、冬（12～2月）各季節(jié)溫度與用電量之間的相關(guān)性進(jìn)行檢驗(yàn)。

根據(jù)處理后的數(shù)據(jù)分別繪制與四個(gè)季節(jié)相對(duì)應(yīng)的變化曲線，如圖1～圖4所示。

（1）春秋兩季氣溫適宜，溫度對(duì)用電量的影響明顯減弱。輕微的氣溫變化在人體可接受的舒適度范圍內(nèi)，因此并不會(huì)導(dǎo)致用電量驟變。

（2）夏季天氣炎熱，空調(diào)和其他降溫負(fù)荷突出，用電量與溫度的變化趨勢(shì)非常相似，二者變化曲線上的峰點(diǎn)和谷點(diǎn)所出現(xiàn)的日期也基本重合。溫度和用電量的相關(guān)系數(shù)計(jì)算結(jié)果為0.783，屬于高度線性相關(guān)。

（3）冬季氣溫下降，用電幅度變化不大，但相較于春秋季，因供暖設(shè)備等的使用，導(dǎo)致用電量整體上升，溫度與用電量之間呈現(xiàn)負(fù)相關(guān)，其中以深冬季節(jié)尤為突出。

基于以上分析，一年之中，用電量的多少明顯受溫度變化的突出影響，因此在電力負(fù)荷的預(yù)測(cè)過程中，溫度因素不可忽視。

2 基于LSTM神經(jīng)網(wǎng)絡(luò)的模型建立

2.1 LSTM預(yù)測(cè)模型結(jié)構(gòu)

LSTM是一種特殊的循環(huán)神經(jīng)網(wǎng)絡(luò)，其在原有RNN網(wǎng)絡(luò)的基礎(chǔ)上加入了遺忘門（Forget gate）、輸入門（Input gate）和輸出門（Output gate），能夠有效控制信息的流動(dòng)量，因此在解決長(zhǎng)時(shí)依賴問題上有著很大的優(yōu)勢(shì)，常被用作處理和預(yù)測(cè)時(shí)間序列問題，其結(jié)構(gòu)如圖5所示。

2.2 基于電力負(fù)荷預(yù)測(cè)的LSTM網(wǎng)絡(luò)結(jié)構(gòu)

LSTM網(wǎng)絡(luò)通常應(yīng)用于時(shí)間序列分析[16]。當(dāng)預(yù)測(cè)未來某個(gè)時(shí)刻的用電量時(shí)，可以將歷史溫度、負(fù)荷數(shù)據(jù)等作為先驗(yàn)知識(shí)。在本文所提出的用于電力負(fù)荷預(yù)測(cè)的LSTM網(wǎng)絡(luò)中，輸入數(shù)據(jù)均為時(shí)間序列，結(jié)構(gòu)如圖6所示。在該二維網(wǎng)絡(luò)中，橫向維度表示時(shí)域變化，垂直維度表示同一時(shí)刻用電量（elec）及溫度數(shù)據(jù)（temp）的索引。

在特定時(shí)刻t內(nèi)，每個(gè)存儲(chǔ)器單元的輸入是與t-1時(shí)刻輸出狀態(tài)密切相關(guān)的矢量，處理過程由矢量發(fā)生器完成，即圖中橢圓部分。第k個(gè)存儲(chǔ)器單元將向量xk，t作為先驗(yàn)知識(shí)，并輸出基于存儲(chǔ)器單元內(nèi)部計(jì)算的預(yù)測(cè)結(jié)果。這樣，用電量及溫度數(shù)據(jù)和時(shí)間的相關(guān)性就被集成在2D LSTM網(wǎng)絡(luò)中。

2.3 引入溫度數(shù)據(jù)前后的LSTM模型預(yù)測(cè)結(jié)果分析

2.3.1 實(shí)驗(yàn)運(yùn)行環(huán)境及數(shù)據(jù)處理

實(shí)驗(yàn)在tensorflow1.8.0，python3.6環(huán)境下運(yùn)行。選取的數(shù)據(jù)樣本為GEF2014中2006年1月1日至2010年12月31日，共計(jì)43 728個(gè)24點(diǎn)日負(fù)荷數(shù)據(jù)和溫度數(shù)據(jù)，并且將最后4天（共96個(gè)數(shù)據(jù)）取出用于驗(yàn)證訓(xùn)練模型的有效性。

實(shí)驗(yàn)表明，單純?cè)黾覮STM層數(shù)、隱藏層數(shù)或節(jié)點(diǎn)數(shù)量等將使網(wǎng)絡(luò)結(jié)構(gòu)變得極其復(fù)雜，無法有效改善預(yù)測(cè)模型的性能，只會(huì)減慢網(wǎng)絡(luò)的訓(xùn)練速率。因此，在仔細(xì)對(duì)比分析了不同模型訓(xùn)練后所得性能指標(biāo)的基礎(chǔ)上，最終選取雙層LSTM+1個(gè)全連接層+1個(gè)輸出層的情形，全連接層節(jié)點(diǎn)數(shù)設(shè)置為50，其由Tensor Board生成的對(duì)應(yīng)Graph如圖7所示。

2.3.4 引入溫度數(shù)據(jù)前后的模型預(yù)測(cè)結(jié)果分析

利用傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)能夠穩(wěn)定和較準(zhǔn)確地對(duì)電力負(fù)荷進(jìn)行預(yù)測(cè)，但由于用電量數(shù)據(jù)具有時(shí)序相關(guān)性，導(dǎo)致BP神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)能力在很大程度上受到制約。因此，本節(jié)實(shí)驗(yàn)在基于溫度與用電量之間的強(qiáng)相關(guān)性分析基礎(chǔ)上，建立改進(jìn)后的LSTM模型，并將傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)方法作為參照，如圖8所示（BP表示不考慮溫度的BP網(wǎng)絡(luò)模型;LSTM為不考慮溫度的LSTM模型;LSTM_T表示考慮溫度的LSTM模型;real表示真實(shí)數(shù)據(jù)值）。設(shè)置提前1 h對(duì)電力數(shù)據(jù)進(jìn)行預(yù)測(cè)的場(chǎng)景來對(duì)比分析引入溫度因素前后的LSTM模型預(yù)測(cè)結(jié)果。實(shí)驗(yàn)結(jié)果表明，LSTM模型本身具有較高的預(yù)測(cè)精度，在引入溫度因素后，MAPE值降低0.31%，MSE值降低288.43 kW·h，RMSE值降低5.04，各項(xiàng)預(yù)測(cè)誤差均顯著降低。

各模型下的性能指標(biāo)計(jì)算結(jié)果見表4所列。

3 激活函數(shù)不同組合的預(yù)測(cè)結(jié)果分析

3.1 激活函數(shù)的不同組合情形

激活函數(shù)是用于評(píng)估和捕獲數(shù)據(jù)變化趨勢(shì)或特征模式的決定性參數(shù)。在訓(xùn)練多層神經(jīng)網(wǎng)絡(luò)模型時(shí)，激活函數(shù)在調(diào)整權(quán)重和偏倚量方面起著重要作用。在前述已經(jīng)搭建了雙層LSTM網(wǎng)絡(luò)結(jié)構(gòu)的基礎(chǔ)上，為了進(jìn)一步探究不同激活函數(shù)的組合對(duì)于算法預(yù)測(cè)性能的影響，本節(jié)將全連接層層數(shù)（不包含輸出層）與激活函數(shù)的組合分為以下6種情況，并通過比較遴選出最佳性能組合：

3.2 不同組合下的預(yù)測(cè)結(jié)果對(duì)比

本例中繼續(xù)采用43 824條連續(xù)用電量數(shù)據(jù)及溫度數(shù)據(jù)來對(duì)不同激活函數(shù)組合情況下的LSTM模型進(jìn)行訓(xùn)練，并采用96條用電量數(shù)據(jù)對(duì)訓(xùn)練出的模型進(jìn)行測(cè)試。最終得到的預(yù)測(cè)結(jié)果如圖9所示。

各組合情形下的性能指標(biāo)計(jì)算結(jié)果見表5所列。

由表5可以直觀看出在構(gòu)建雙層LSTM模型的基礎(chǔ)上，ELU激活函數(shù)+1個(gè)全連接層組合預(yù)測(cè)得到的MAPE為1.64%，各性能指標(biāo)均為最佳，明顯優(yōu)于其他組合。

分析原因：ELU激活函數(shù)與其他激活函數(shù)相比，具有改進(jìn)的學(xué)習(xí)特性，其與Sigmoid和ReLU激活函數(shù)相比，輸出值在x軸上為負(fù)，使得輸出的平均值更接近于0，從而加快了學(xué)習(xí)速率，并使梯度更接近于自然梯度，具有良好的學(xué)習(xí)性能。

4 結(jié) 語

本文利用深度學(xué)習(xí)方法實(shí)現(xiàn)了短期電力負(fù)荷預(yù)測(cè)，在深入研究了溫度與用電量之間強(qiáng)相關(guān)性的基礎(chǔ)上，將歷史用電數(shù)據(jù)及溫度數(shù)據(jù)作為L(zhǎng)STM神經(jīng)網(wǎng)絡(luò)的輸入，并通過測(cè)試激活函數(shù)和全連接層層數(shù)的多種組合，最終得到了高精度負(fù)荷預(yù)測(cè)模型。結(jié)果顯示，當(dāng)針對(duì)MAPE，MSE及RMSE等性能指標(biāo)進(jìn)行評(píng)估時(shí)，ELU激活函數(shù)加單個(gè)全連接層的組合預(yù)測(cè)得到的MAPE為1.64%，各性能指標(biāo)均為最佳，比其他組合表現(xiàn)更好。所提算法對(duì)于解決短期電力負(fù)荷預(yù)測(cè)問題，兼具理論指導(dǎo)意義及工程應(yīng)用價(jià)值。

參 考 文 獻(xiàn)

[1] WU R Z，BAO Z R，WANG W T，et al. Short-term power load forecasting method based on pattern matching in hadoop framework [J]. Transactions of China electrotechnical society，2018，33（7）：1542-1551.

[2]蔣敏，顧東健，孔軍，等.基于在線序列極限支持向量回歸的短期負(fù)荷預(yù)測(cè)模型[J].電網(wǎng)技術(shù)，2018，42 （7）：2240-2247.

[3]卓欣.基于多元回歸的中長(zhǎng)期負(fù)荷預(yù)測(cè)[J].高電壓技術(shù)，2016，42 （13）：95-98.

[4]張濤，顧潔.高比例可再生能源電力系統(tǒng)的馬爾科夫短期負(fù)荷預(yù)測(cè)方法[J].電網(wǎng)技術(shù)，2018，42 （4）：1071-1078.

[5]殷豪，董朕，孟安波.基于結(jié)合混沌縱橫交叉的粒子群算法優(yōu)化極限學(xué)習(xí)機(jī)的短期負(fù)荷預(yù)測(cè)[J].計(jì)算機(jī)應(yīng)用研究，2018，35 （7）：2088-2091.

[6] MAI H K，XIAO J H，WU X C.Research on ARIMA model parallelization in load prediction based on R language [J]. Power system technology，2015，39（11）：3216-3220.

[7] LI Z，ZHOU B X，LIN N. Classification of daily load characteristics curve and forecasting of short-term load based on fuzzy clustering and improved BP algorithm [J]. Power system protection and control，2012，40（11）：56-60.

[8] SALGADO R M，LEMES R R.A hybrid approach to the load forecasting based on decision trees [J]. Journal of control，automation and electrical systems，2013，24（6）：854-862.

[9] HOCHREITER S，SCHMIDHUBER J. Long short-term memory [J]. Neural computation，1997，9（11）：1735-1780.

[10] GRAVES A. Generating sequences with recurrent neural networks [Z]. Computer science，2013：1-43.

[11] MIRZA A H，COSAN S. Computer network intrusion detection using sequential LSTM Neural Networks autoencoders [J]. IEEE singal processing letters，2018：1-4.

[12] BAEK Y J，KIM H Y. ModAugNet：a new forecasting framework for stock market index value with an overfitting prevention LSTM module and a prediction LSTM module [J]. Expert systems with applications，2018，113：457-480.

[13] XU L W，LI C D，XIE X Y. Long-short-term memory network based hybrid model for short-term electrical load forecasting [J]. Information （Switzerland），2018，9（7）：1-17.

[14] MONTEIRO C.New probabilistic price forecasting models： application to the Iberian electricity market [J]. International journal of electrical power and energy systems，2018，103：483-496.

[15] ESHIMA N，TABATA M. Three predictive power measures for generalized linear models：the entropy coefficient of determination，the entropy correlation coefficient and the regression correlation coefficient [J]. Computational statistics and data analysis，2011，55（11）：3049-3058.

[16] FAZLE K. LSTM fully convolutional networks for time series classification [J]. IEEE access，2017（6）：1662-1669.