尹根 徐曦

【摘 要】為提高現(xiàn)有電力系統(tǒng)中IEC61850數(shù)據(jù)模型構(gòu)建的智能化，對電力系統(tǒng)IEC61850數(shù)據(jù)預(yù)測可以有效地提高效率，減少出錯率。提出一種基于受限玻爾茲曼機算法的IEC61850數(shù)據(jù)預(yù)測模型，并結(jié)合并行回火的算法，通過采樣和交換的方式，提高預(yù)測精度。仿真結(jié)果表明，該方法可以很好地反映不同廠家數(shù)據(jù)的概率分布。

【關(guān)鍵詞】深度學(xué)習(xí);受限玻爾茲曼機;并行回火;電力IEC61850;模型預(yù)測

中圖分類號： TN915.853文獻標識碼： A文章編號： 2095-2457（2019）04-0095-002

DOI：10.19694/j.cnki.issn2095-2457.2019.04.036

Data Prediction of Power IEC61850 Based on Parallel Tempering Restricted Boltzmann Machine Algorithm

YIN Gen XU Xi

（1.School of Computer，Hunan University of Technology， Zhuzhou Hunan 412007 China;

2.Key Laboratory of Intelligent Information on Perception and Processing Techonology（Hunan Province）， Zhuzhou Hunan 412007， China）

【Abstract】To improve the intelligence of the IEC61850 data model in the existing power system， the prediction of the power system IEC61850 data can effectively improve efficiency and reduce the error rate. An IEC61850 data prediction model based on the restricted Boltzmann machine algorithm is proposed. Combined with the parallel tempering algorithm， the prediction accuracy is improved by sampling and exchange. The simulation results show that the method can reflect the probability distribution of data from different manufacturers.

【Key words】Deep learning; Restricted Boltzmann machine; Parallel tempering; Power IEC61850; Model prediction

0 引言

傳統(tǒng)的IEC61850在變電站的數(shù)據(jù)輸入方式采用人工手動配置的方式，該方式效率低，速度慢，出錯率高，同時給技術(shù)人員帶來較高的技術(shù)門檻。隨著人工智能在電力領(lǐng)域的廣泛應(yīng)用，自動化數(shù)據(jù)輸入技術(shù)以神經(jīng)網(wǎng)絡(luò)為發(fā)展趨勢，將神經(jīng)網(wǎng)絡(luò)模型應(yīng)用到電力行業(yè)中，大大提高了電力領(lǐng)域的智能化，提高了效率，節(jié)省了成本，給電網(wǎng)帶來了巨大的效益。

深度置信網(wǎng)絡(luò)是Hinton等自2006年提出來的，深度學(xué)習(xí)經(jīng)過十多年的發(fā)展，現(xiàn)在已經(jīng)成為機器學(xué)習(xí)的一個熱點。

本文在深度學(xué)習(xí)的基礎(chǔ)上，通過分析不同廠家的IEC61850數(shù)據(jù)模型，采用受限玻爾茲曼機（RBM）學(xué)習(xí)算法，以不同廠家的IEC61850數(shù)據(jù)為輸入，通過受限玻爾茲曼模型對數(shù)據(jù)進行學(xué)習(xí)，分析其誤差，實現(xiàn)預(yù)測模型，最終可以根據(jù)預(yù)測結(jié)果達到自動構(gòu)建廠家數(shù)據(jù)的目的，通過仿真驗證該模型有效性，達到預(yù)測效果。

1 受限玻爾茲曼機

受限玻爾茲曼機是一個馬爾科夫隨機神經(jīng)網(wǎng)絡(luò)模型，無自反饋且對稱連接。它具有兩層結(jié)構(gòu)，由可視層和隱藏層組成，層內(nèi)無連接，層間全連接，即隱藏層與隱藏層節(jié)點之間，可視層與可視層節(jié)點之間，沒有連接，隱藏層與可視層節(jié)點之間滿足條件獨立?？梢晫?，包含m個輸入單元vi，用來表示數(shù)據(jù)的輸入，每個輸入單元包含一個偏置量ai，隱藏層，包含n個隱藏層單元hj，受限玻爾茲曼機在隱藏層進行輸入數(shù)據(jù)的特征提取。

受限玻爾茲曼機的數(shù)據(jù)模型[1]構(gòu)建過程即在當(dāng)可視層的輸入為v時，通過條件概率計算隱藏層的輸出向量h，再通過隱藏層的輸出向量h以及條件概率計算得出可視層的向量v，再與原始可視層輸入的向量v進行對比，不斷進行修正，最終達到計算得出可視層的輸出向量v與原始可視層輸入的向量v不斷接近，最后達到誤差要求。

受限玻爾茲曼機是一種基于能量的模型，根據(jù)給定的可視變量v和隱藏變量h可定義能量函數(shù)的數(shù)學(xué)表達式為：

其中，θ={wij，ai，bj}，wij為可視層節(jié)點i與隱藏層的節(jié)點j之間的連接權(quán)重。ai為可視層單元i的偏置，bj為隱藏層單元j的偏置。根據(jù)能量函數(shù)可以得出v和h的聯(lián)合概率分布函數(shù)，其數(shù)學(xué)表達式為：

其中，Zθ為配分函數(shù)，其數(shù)學(xué)表達式為：

根據(jù)能量函數(shù)計算隱藏層第j個節(jié)點取值為1時的輸入概率，其數(shù)學(xué)表達式為：

根據(jù)能量函數(shù)計算可視層第i個節(jié)點取值為1時的輸入概率，其數(shù)學(xué)表達式為：

2 并行回火蒙特卡羅算法

并行回火采樣對受限玻爾茲曼機模型訓(xùn)練是一種極其有效率的方法。在訓(xùn)練過程中，每個溫度都對應(yīng)一條gibbs鏈，不同的溫度采用不同的gibbs鏈使用并行回火方法進行采樣。N個不同的溫度ti滿足1=t1

受限玻爾茲曼機模型的并行回火蒙特卡羅算法包括兩個階段[2]：

（1）Metropolis-Hastings采樣階段：根據(jù)已有的采樣值計算當(dāng)前溫度的下一個采樣點，基本采樣計算公式數(shù)學(xué)表達式為：

其中，Metropolis-Hastings表示采樣函數(shù)，N0，表示均值為0，方差為的正態(tài)分布函數(shù)。tk表示溫度，xi+1表示第i+1個采樣點，xi表示第i個采樣點。

（2）交換階段：采樣完成以后計算溫度集內(nèi)兩個相鄰溫度下的可視層節(jié)點以及隱藏層節(jié)點是否滿足交換的條件，并行回火受限玻爾茲曼機模型的交換條件，數(shù)學(xué)表達式為：

其中，tr和tr-1表示兩個相鄰的溫度，E（vr，hr）表示可視層變量vr和隱藏層變量hr配置的能量函數(shù)，E（vr-1，hr-1）表示可視層變量vr-1和隱藏層變量hr-1配置的能量函數(shù)。如果滿足該條件，則把相鄰溫度鏈下采樣點進行交換，否則不進行交換。經(jīng)過很多次的循環(huán)采樣和交換，最后將t1=1溫度下的采樣值用于受限玻爾茲曼機訓(xùn)練模型參數(shù)θ。通過并行回火蒙特卡羅算法[3]獲取的采樣值，可使得受限玻爾茲曼機訓(xùn)練獲得較好的效果。并行回火蒙特卡羅算法與受限玻爾茲曼機結(jié)合的模型主要是將θ={w，a，b}的權(quán)值（w）乘以溫度，而偏置權(quán)值a和b不發(fā)生變化。

3 實驗結(jié)果與分析

本文實驗平臺采用的是MATLAB R2016b， 經(jīng)過對受限玻爾茲曼機進行訓(xùn)練，分析其均方誤差是否能達到目標誤差值，選取的樣本包含訓(xùn)練樣本和測試樣本兩類，分別為不同廠家的訓(xùn)練樣本500個，測試樣本100個，將選取的訓(xùn)練樣本輸入到并行回火受限玻爾茲曼機模型，訓(xùn)練次數(shù)最大為6000次，目標誤差值為10-6。為了驗證本模型的準確性，經(jīng)過631次訓(xùn)練之后，并行回火受限玻爾茲曼機模型的均方誤差達到目標誤差值。

為了檢驗本模型的效率，將選取的訓(xùn)練樣本輸入到受限玻爾茲曼機模型，訓(xùn)練次數(shù)最大為6000次，目標誤差值為10-6，經(jīng)過750次訓(xùn)練之后，受限玻爾茲曼機模型的均方誤差接近目標誤差值。

4 結(jié)論

本文充分利用了受限玻爾茲曼機結(jié)合并行回火算法的優(yōu)勢，通過受限玻爾茲曼機模型結(jié)合并行回火算法訓(xùn)練之后，大大提高了深度學(xué)習(xí)對數(shù)據(jù)預(yù)測的準確性和效率，打破了傳統(tǒng)IEC61850人工配置的方式，實現(xiàn)智能化，同時彌補了傳統(tǒng)受限玻爾茲曼機在數(shù)據(jù)預(yù)測方面的不足，是其訓(xùn)練速度更快，針對性更強，誤差越小，模型識別率就越高，效率就越高。該方法為深度學(xué)習(xí)在電力IEC61850的應(yīng)用奠定了基礎(chǔ)。

【參考文獻】

[1]Ugo Fiore，F(xiàn)rancesco Palmieri，Aniello Castiglione， et al.Network anomaly detection with the restricted Boltzmann machine[J].Neurocomputing，2013，122（Dec.25）：13-23.

[2]E. Guerrero，D. Fernández-Reyes，A. Ya？ez， et al.Evaluation of high-quality image reconstruction techniques applied to high-resolution Z-contrast imaging[J].Ultramicroscopy，2017，182：283-291.

[3]Armstrong， Matthew J.，Beris， Antony N.，Wagner， Norman J..An adaptive parallel tempering method for the dynamic data-driven parameter estimation of nonlinear models[J].AIChE Journal，2017，63（6）：1937-1958.