南京恒星自動化設(shè)備有限公司 戴 明 中國鐵路上海局集團(tuán)有限公司南京供電段 湯 浩

南京郵電大學(xué)自動化學(xué)院 胡 震

由于電力能源生產(chǎn)、分配、消費(fèi)的過程幾乎同時進(jìn)行，也意味著電力能源難以儲存、即發(fā)即用，這要求制定合理有效的供電計劃和電能調(diào)度方案，以保證電能的供需平衡。要保證鐵路電能供需平衡，必須分析鐵路電力負(fù)荷的變化情況及影響因素，并可靠預(yù)測未來鐵路用電趨勢。電力負(fù)荷預(yù)測的內(nèi)涵是，在一定誤差范圍內(nèi)挖掘電力負(fù)荷的歷史數(shù)據(jù)、實(shí)時數(shù)據(jù)及其他諸多影響因素間的映射關(guān)系，并建立對應(yīng)的數(shù)學(xué)模型、估計未來電能趨勢。相關(guān)研究表明，短期負(fù)荷預(yù)測誤差每減小1%發(fā)電成本可降約0.1～0.3%，可節(jié)約甚至上百萬元，并可有效提高鐵路供電可靠性。因此，開展鐵路供電設(shè)備負(fù)荷數(shù)據(jù)預(yù)測的研究是實(shí)現(xiàn)鐵路安全運(yùn)行的重要保障。

根據(jù)負(fù)荷預(yù)測周期時長，可分為短期、中長期和長期三種預(yù)測機(jī)制，具體長短期定義由地區(qū)和實(shí)際使用情況決定。其中，短期負(fù)荷預(yù)測主要預(yù)測未來較短時間內(nèi)(日、周或月等)的負(fù)荷變化情況，主要用于對電力設(shè)備運(yùn)行的安全性進(jìn)行實(shí)時監(jiān)督，提供負(fù)荷經(jīng)濟(jì)分配的參考依據(jù)等。因此，短期負(fù)荷預(yù)測是電力供應(yīng)充沛、合理調(diào)度的重要保障，對預(yù)測結(jié)果有較高的精度要求。

短期電力負(fù)荷預(yù)測方法可分為基于概率論和數(shù)理統(tǒng)計的回歸預(yù)測方法和基于機(jī)器學(xué)習(xí)的智能預(yù)測方法[1-2]?；诟怕收摵蛿?shù)理統(tǒng)計的回歸預(yù)測方法含回歸分析法和時間序列分析法?；貧w分析法擬合速度快、建模思路簡單，適用于樣本數(shù)少且簡單的預(yù)測對象；但高度依賴歷史數(shù)據(jù)且受多種因素制約。時間序列法考慮了數(shù)據(jù)的時序性特點(diǎn)，對平穩(wěn)序列的預(yù)測精度較高，且低階模型建模簡單，擬合難度低；但僅考慮歷史數(shù)據(jù)，忽視了影響負(fù)荷變化的外部因素。鐵路負(fù)荷具有較強(qiáng)的隨機(jī)波動性，非線性特征明顯，因而單一回歸預(yù)測方法無法滿足復(fù)雜的非線性電力負(fù)荷預(yù)測要求。

基于機(jī)器學(xué)習(xí)的智能預(yù)測方法是在鐵路供電設(shè)備的歷史負(fù)荷數(shù)據(jù)中識別負(fù)荷的變化趨勢并做出預(yù)測，且將氣候、節(jié)假日等多種因素融合而提升預(yù)測精度。然而機(jī)器學(xué)習(xí)模型通常為淺層架構(gòu)，僅含一個隱藏層，處理非線性能力有限，面臨復(fù)雜的鐵路供電負(fù)荷時可能無法準(zhǔn)確預(yù)測[3]；深度學(xué)習(xí)作為機(jī)器學(xué)習(xí)領(lǐng)域的最新成果，采用深層網(wǎng)絡(luò)架構(gòu)，更強(qiáng)的數(shù)據(jù)表達(dá)能力，可直接識別深層次變化特征，為實(shí)現(xiàn)鐵路供電負(fù)荷的智能化預(yù)測提供了新思路。

1 鐵路供電設(shè)備負(fù)荷數(shù)據(jù)預(yù)測模型

1.1 LSTM網(wǎng)絡(luò)模型架構(gòu)

短期電力負(fù)荷預(yù)測屬于非線性時間序列預(yù)測問題，深度學(xué)習(xí)方法可有效地挖掘負(fù)荷數(shù)據(jù)與各影響因素間存在的非線性關(guān)系?？紤]到電力負(fù)荷時間序列輸入變量間存在復(fù)雜的依賴性，采用遞歸神經(jīng)網(wǎng)絡(luò)可很好地解決該問題[4]。在遞歸神經(jīng)網(wǎng)絡(luò)中，LSTM神經(jīng)網(wǎng)絡(luò)憑借處理時間序列的優(yōu)勢，可解決時間序列的長距離依賴問題，成為熱門研究對象。

本文構(gòu)建了基于Tensorflow深度學(xué)習(xí)框架的高階LSTM網(wǎng)絡(luò)模型，對鐵路供電設(shè)備負(fù)荷進(jìn)行預(yù)測?；贙eras的序貫?zāi)Ｐ投询B構(gòu)造LSTM模型，序貫?zāi)Ｐ途哂芯幾g速度快、易于操作的優(yōu)點(diǎn)。所構(gòu)造的LSTM模型由1個輸入層、2個LSTM層及全連接層組成，將輸入層直接接收的特征傳遞至第一個LSTM層，再將輸出結(jié)果輸入至第二個LSTM層，然后將結(jié)果輸入至全連接層，最后輸出由全連接層模型的預(yù)測結(jié)果。

1.2 模型優(yōu)化

隨著網(wǎng)絡(luò)層數(shù)和神經(jīng)元數(shù)目增多，模型參數(shù)也會相應(yīng)增加，而當(dāng)訓(xùn)練樣本數(shù)量過少時就容易產(chǎn)生過擬合，得到的模型對未知數(shù)據(jù)集的預(yù)測精度很低，泛化能力很差。解決的常用方法主要有：在盡量多的數(shù)據(jù)上擬合，不斷完善修正；采用合適的模型，針對不同情況和分類要求對參數(shù)合理選擇；使用Dropout，即當(dāng)神經(jīng)網(wǎng)絡(luò)前向傳播時，可令當(dāng)前網(wǎng)絡(luò)層中部分神經(jīng)元以一定概率p暫停工作，前向傳播當(dāng)前輸入數(shù)據(jù)，再反向傳播損失誤差，更新網(wǎng)絡(luò)中神經(jīng)元的權(quán)重等參數(shù)，修正偏差，不斷循環(huán)迭代。這樣有利于減少隱含層的神經(jīng)元間相互作用，加強(qiáng)模型的泛化能力。

當(dāng)將神經(jīng)網(wǎng)絡(luò)應(yīng)用于預(yù)測研究時，期望獲得的神經(jīng)網(wǎng)絡(luò)模型不應(yīng)對某些輸入特征過于敏感，即使在受到外部因素干擾下，依然可從其他特征中提取到有用的信息學(xué)習(xí)。而Dropout方法則可有效避免上述問題，Dropout運(yùn)算在更新網(wǎng)絡(luò)模型的權(quán)重時，不僅將有特定關(guān)系的隱含節(jié)點(diǎn)納入考慮范疇內(nèi)，更有利于增強(qiáng)網(wǎng)絡(luò)模型的泛化能力和穩(wěn)定性[5]。

1.3 鐵路供電設(shè)備負(fù)荷預(yù)測的實(shí)現(xiàn)

基于LSTM神經(jīng)網(wǎng)絡(luò)的鐵路供電設(shè)備負(fù)荷預(yù)測實(shí)現(xiàn)流程如下：選取預(yù)測模型的輸入特征和輸出變量；對歷史數(shù)據(jù)進(jìn)行平穩(wěn)性和隨機(jī)性檢驗(yàn)，確定數(shù)據(jù)集所屬類別，針對不同數(shù)據(jù)集合理選擇模型參數(shù)；讀取歷史數(shù)據(jù)并歸一化處理，按8:2劃分為訓(xùn)練集和測試集兩部分，有利于后續(xù)模型的訓(xùn)練和預(yù)測；構(gòu)建LSTM負(fù)荷預(yù)測模型，并利用訓(xùn)練集訓(xùn)練模型，再根據(jù)測試集上的預(yù)測結(jié)果評估泛化能力，驗(yàn)證模型的預(yù)測性能。

2 算例分析

實(shí)驗(yàn)環(huán)境和實(shí)驗(yàn)數(shù)據(jù)集：基于Keras深度學(xué)習(xí)庫平臺搭建LSTM的鐵路供電設(shè)備負(fù)荷預(yù)測模型，采用python語言代碼編程。Keras是一個基于TensorFlow的深度學(xué)習(xí)的高階API封裝，內(nèi)置多種函數(shù)開源包，使用方便、頁面簡潔，使用Keras搭建神經(jīng)網(wǎng)絡(luò)不僅支持底層文件修改和GPU加速，還能靈活切換不同后端，很適合研究深度學(xué)習(xí)模型的調(diào)試和參數(shù)尋優(yōu)。鐵路供電設(shè)備負(fù)荷數(shù)據(jù)采用開源網(wǎng)站ENTSO的電力負(fù)荷數(shù)據(jù)集，本文選取法國某地區(qū)2020-01-01～2021-01-01的真實(shí)電力負(fù)荷數(shù)據(jù)作為實(shí)驗(yàn)數(shù)據(jù)集，此數(shù)據(jù)集由一年中每個整點(diǎn)采樣值構(gòu)成，共計8785條負(fù)荷數(shù)據(jù)(圖1)。

圖1 鐵路供電設(shè)備負(fù)荷數(shù)據(jù)集

數(shù)據(jù)歸一化處理：LSTM神經(jīng)網(wǎng)絡(luò)的模型對輸入的電力負(fù)荷數(shù)據(jù)尺度較敏感，會直接影響到模型訓(xùn)練效果，因此需作歸一化處理?？捎霉絏norm=(X-Xmin)/(Xmax-Xmin)對數(shù)據(jù)進(jìn)行歸一化操作，將負(fù)荷數(shù)據(jù)映射到[0,1]區(qū)間。式中：X為原始樣本值、Xmin為樣本最小值、Xmax為樣本最大值、Xnorm為歸一化后的樣本值。

預(yù)測結(jié)果：將訓(xùn)練集輸入到已設(shè)計好的LSTM模型中進(jìn)行迭代訓(xùn)練，通過不斷優(yōu)化并綜合考慮模型的收斂速度等問題，最終確定模型的參數(shù)為：LSTM層數(shù)設(shè)為2層，第一、第二層的神經(jīng)元個數(shù)分別設(shè)為64；Dense層為輸出層，神經(jīng)元個數(shù)為1；Dropout值設(shè)為0.2；batch_size參數(shù)設(shè)為32；Epoch設(shè)為100，LSTM神經(jīng)網(wǎng)絡(luò)預(yù)測結(jié)果如圖2。

圖2 LSTM神經(jīng)網(wǎng)絡(luò)預(yù)測結(jié)果

預(yù)測結(jié)果分析：基于LSTM鐵路供電設(shè)備負(fù)荷預(yù)測模型的訓(xùn)練損失曲線收斂迅速，迭代次數(shù)在100次以內(nèi)就達(dá)到很好的收斂效果，表明預(yù)測模型達(dá)到預(yù)期。采用平均絕對百分比誤差（MAPE）、均方根誤（RMSE）及R2決定系數(shù)作為誤差評價指標(biāo)，來研究LSTM模型采用不同優(yōu)化算法性能。采用測試集驗(yàn)證模型性能，LSTM模型分別采用SGD、AdaGrad、Adam以及RMSprop算法的性能比較如下。

MAPE：29.079、25.759、23.707、17.725；RMSE：9.924、9.189、8.875、8.069；R2系 數(shù)：-1.2658、0.9031、0.9299、0.787。由此可知，通過對比其它預(yù)測算法，從誤差評價指標(biāo)MAPE、RMSE以及R2決定系數(shù)三個維度綜合來看，在LSTM模型中采用RMSprop優(yōu)化算法具有更高的預(yù)測精度。

綜上，本文提出了一種基于長短時記憶網(wǎng)絡(luò)(LSTM)的鐵路供電設(shè)備負(fù)荷預(yù)測方法，可直接從歷史及當(dāng)前數(shù)據(jù)中識別鐵路供電設(shè)備變化特征，進(jìn)而對供電設(shè)備的負(fù)荷做出準(zhǔn)確預(yù)測?；赥ensorFlow深度學(xué)習(xí)框架的高階API Keras構(gòu)建了LSTM神經(jīng)網(wǎng)絡(luò)，基于鐵路供電設(shè)備歷史負(fù)荷數(shù)據(jù)對模型進(jìn)行訓(xùn)練，訓(xùn)練結(jié)果表明了構(gòu)建模型的有效性。