李軍, 李青

(蘭州交通大學(xué)自動化與電氣工程學(xué)院,甘肅蘭州730070)

基于CEEMDAN-排列熵和泄漏積分ESN的中期電力負(fù)荷預(yù)測研究

李軍, 李青

(蘭州交通大學(xué)自動化與電氣工程學(xué)院,甘肅蘭州730070)

針對中期電力負(fù)荷預(yù)測,提出一種具有自適應(yīng)噪聲的完整集成經(jīng)驗(yàn)?zāi)B(tài)分解(CEEMDAN) -排列熵和泄漏積分回聲狀態(tài)網(wǎng)絡(luò)(LIESN)的組合預(yù)測方法。CEEMDAN方法在負(fù)荷序列分解的每一階段添加特定的白噪聲,通過計(jì)算唯一的余量信號以獲取各個模態(tài)分量,與EEMD方法相比,其分解過程是完整的。為降低負(fù)荷非平穩(wěn)性對預(yù)測精確度的影響以及減小計(jì)算規(guī)模,采用CEEMDAN-排列熵方法將負(fù)荷時間序列分解為具有復(fù)雜度差異的不同子序列,通過分析各個子序列的內(nèi)在特性,分別構(gòu)建相應(yīng)的LIESN預(yù)測模型,最終對預(yù)測結(jié)果進(jìn)行疊加。將該方法應(yīng)用于不同地區(qū)的中期峰值電力負(fù)荷預(yù)測實(shí)例中,并與其他組合預(yù)測以及單一預(yù)測方法進(jìn)行比較。實(shí)驗(yàn)結(jié)果表明,所提出的方法有很高的預(yù)測精確度,顯示出其有效性和應(yīng)用潛力。

負(fù)荷預(yù)測;組合模型;集成經(jīng)驗(yàn)?zāi)B(tài)分解;回聲狀態(tài)網(wǎng)絡(luò);排列熵

0 引 言

負(fù)荷預(yù)測一直是電力系統(tǒng)調(diào)度和發(fā)展規(guī)劃中必不可少的部分,其通常受到溫度、季節(jié)、經(jīng)濟(jì)等因素的影響,這使得做出精確的預(yù)測往往變得很困難,在未來統(tǒng)一的智能電網(wǎng)的環(huán)境下,構(gòu)建適應(yīng)性更強(qiáng)的電力負(fù)荷中長期預(yù)測模型［1,2］,對智能電網(wǎng)的發(fā)展規(guī)劃和運(yùn)行調(diào)度具有重要意義。

由于電力負(fù)荷值是受眾多因素影響的非平穩(wěn)時間序列,對負(fù)荷變化特性的先驗(yàn)分析有助于提高負(fù)荷預(yù)測的精確度。經(jīng)驗(yàn)?zāi)B(tài)分解(Empirical Mode Decomposition,EMD)是近年來由Huang［3］提出的一種處理非線性和非平穩(wěn)信號的分解方法,相對于小波分析等其它信號處理方法而言,該方法不需要事前設(shè)定基函數(shù),克服了依賴于主觀經(jīng)驗(yàn)影響的缺點(diǎn),但其分解過程中易出現(xiàn)模態(tài)混疊現(xiàn)象,影響分解效果。集成經(jīng)驗(yàn)?zāi)B(tài)分解(EEMD)［4］,通過添加輔助噪聲來消除EMD出現(xiàn)的模態(tài)混疊現(xiàn)象,通過多次實(shí)驗(yàn),抵消和抑制分解結(jié)果中噪聲所產(chǎn)生的影響,是對EMD方法的改進(jìn),然而,在有限次實(shí)驗(yàn)的集成平均后,其重構(gòu)分量中仍然含有一定幅值的殘留噪聲,雖然可以通過增大集成次數(shù)來降低重構(gòu)誤差,但卻增加了計(jì)算規(guī)模。在EEMD的基礎(chǔ)上,一種具有自適應(yīng)白噪聲的完整集成經(jīng)驗(yàn)?zāi)B(tài)分解方法［5］(Complete Ensemble Empirical Mode Decomposition with adaptive noise,CEEMDAN)被提出,它在分解的每一階段添加自適應(yīng)的白噪聲,通過計(jì)算唯一的余量信號獲取各個模態(tài)分量,與EEMD方法相比,無論集成次數(shù)為多少,重構(gòu)誤差幾乎為零,其分解過程具有完整性,克服了EEMD分解效率低的問題。EMD與支持向量機(jī)(SVM)結(jié)合以及EEMD與動態(tài)神經(jīng)網(wǎng)絡(luò)結(jié)合的組合預(yù)測方法［6-7］已應(yīng)用于短期電力負(fù)荷預(yù)測中。EMD與SVM的組合預(yù)測方法［8］已應(yīng)用于風(fēng)電功率預(yù)測中,與單一預(yù)測方法相比,上述方法均取得了不錯的預(yù)測效果。

回聲狀態(tài)網(wǎng)絡(luò)(ESN)由Jaeger［9］提出,其優(yōu)點(diǎn)是網(wǎng)絡(luò)的隱含層由幾百到幾千個大量稀疏連接的內(nèi)部神經(jīng)元組成,稱為狀態(tài)儲備池(state reservoir, SR),SR使ESN具有極強(qiáng)的短期記憶能力。SR的權(quán)值在網(wǎng)絡(luò)初始化時隨機(jī)產(chǎn)生且無需訓(xùn)練,僅需訓(xùn)練與輸出層連接的網(wǎng)絡(luò)權(quán)值。因此,即使是對具有數(shù)千個內(nèi)部神經(jīng)元的大規(guī)模網(wǎng)絡(luò),也易實(shí)現(xiàn)在線學(xué)習(xí)。ESN方法目前已成功應(yīng)用于短期負(fù)荷預(yù)測中［10］。作為ESN的延伸和推廣,泄漏積分ESN［11-12］((leaky integrator echo state network, LiESN)通過泄漏率和時間常數(shù)的調(diào)節(jié)能實(shí)現(xiàn)對慢特性和連續(xù)動態(tài)系統(tǒng)的學(xué)習(xí),它是一種學(xué)習(xí)能力更強(qiáng)的動態(tài)遞歸神經(jīng)網(wǎng)絡(luò)。

鑒于CEEMDAN與LiESN各自的優(yōu)點(diǎn),提出一種CEEMDAN-排列熵與LiESN相結(jié)合的組合預(yù)測方法。首先利用CEEMDAN將非平穩(wěn)的負(fù)荷時間序列分解為一系列具有不同特征尺度的本征模態(tài)信號(intrinsic mode function,IMF)。其次,考慮到排列熵算法［13］能夠有效放大時間序列的微弱變化,對時間序列的變化具有很高的敏感性,還具有算法簡單、計(jì)算效率高等優(yōu)點(diǎn),可利用排列熵對各IMF分量進(jìn)行復(fù)雜度分析,根據(jù)熵值的不同將熵值相近的IMF進(jìn)行組合疊加,以降低對各IMF分量分別進(jìn)行預(yù)測的計(jì)算規(guī)模。最后,利用LIESN對合并后的各子序列分別進(jìn)行預(yù)測,并進(jìn)行疊加,以得到最終的預(yù)測結(jié)果。將所提出的組合預(yù)測方法分別用于不同地區(qū)的中期峰值負(fù)荷預(yù)測實(shí)例中,在同等條件下,還將與現(xiàn)有的組合與單一預(yù)測方法進(jìn)行比較,以驗(yàn)證本文方法的有效性。

1 EEMD和CEEMDAN方法

EMD是一種分析非線性和非平穩(wěn)信號的自適應(yīng)信號分解方法,類似于小波分析,但克服了小波分解需要合理選擇小波基函數(shù)的困難,其本質(zhì)是將原始信號按不同波動的尺度依次分解,得到一系列具有不同幅值的本征模態(tài)分量(intrinsic mode function,IMF)。EMD方法中的IMF必須滿足:1)極值點(diǎn)個數(shù)和過零點(diǎn)的數(shù)目必須相等或至多相差一個; 2)由局部最大值點(diǎn)構(gòu)成的上包絡(luò)線和局部最小值點(diǎn)構(gòu)成的下包絡(luò)線得到的均值處處為0。

1.1 EEMD方法

作為一種噪聲輔助數(shù)據(jù)分析方法,EEMD通過往原信號中多次添加不同的白噪聲,分別進(jìn)行EMD分解,然后對多次EMD分解的IMF進(jìn)行平均而得到最終的實(shí)際分量,它能有效地改善EMD方法所存在的模態(tài)混疊現(xiàn)象,多次集成平均也起到抵消白噪聲影響的作用。

EEMD算法的實(shí)現(xiàn)如下:

1)令s(n)表示原始信號序列,vi(n)代表第i次實(shí)驗(yàn)中添加的具有標(biāo)準(zhǔn)正態(tài)分布的白噪聲序列。第i次的信號序列表示為si(n)=s(n)+vi(n),其中i=1,…,I表示實(shí)驗(yàn)次數(shù)。

2)將每一次實(shí)驗(yàn)產(chǎn)生的信號序列si(n)進(jìn)行EMD分解,得到IMFik(n),其中k=1,…,K表示分解的IMF模態(tài)個數(shù)。

3)定義s(n)的第k個模態(tài)分量為IMFk,相應(yīng)的對IMFik進(jìn)行平均得到

1.2 CEEMDAN方法

EEMD所添加的白噪聲序列通過有限次平均后,并未完全抵消,重構(gòu)誤差的大小依賴于集成的次數(shù),雖然隨著平均次數(shù)的增多可以逐漸減小,但很大程度上又增加了計(jì)算耗時。CEEMDAN方法通過在每個階段添加有限次的自適應(yīng)白噪聲,能實(shí)現(xiàn)在較少的平均次數(shù)下,其重構(gòu)誤差幾乎為0。因此,CEEMDAN可以克服EMD所存在的模態(tài)混疊現(xiàn)象,同時解決了EEMD分解的不完整性以及依靠增大集成次數(shù)來降低重構(gòu)誤差而導(dǎo)致的計(jì)算效率低的問題。

在EEMD分解中,包含不同白噪聲的si(n)在每一次實(shí)驗(yàn)中均進(jìn)行不同的IMF分解。因此,每一次分解產(chǎn)生的余量信號均不同,即

在EEMD的基礎(chǔ)上,CEEMDAN通過添加自適應(yīng)的白噪聲以及計(jì)算唯一的余量信號獲取IMF,以克服EEMD的不足,使得重構(gòu)信號后與原信號幾乎完全相同。

定義算子Ek(·)為通過EMD方法所產(chǎn)生的第k個模態(tài)分量,CEEMDAN所產(chǎn)生第k個模態(tài)分量記為IMF~k,CEEMDAN具體的算法實(shí)現(xiàn)如下:

1)與EEMD分解方法相同,CEEMDAN針對信號s(n)+ε0vi(n)進(jìn)行I次實(shí)驗(yàn),通過EMD方法分解以獲取第一個模態(tài)分量,計(jì)算

2)在第一階段(k=1),計(jì)算第一個唯一的余量信號,即計(jì)算r1(n)=s(n)-IMF~1(n)。

3)進(jìn)行i次實(shí)驗(yàn)(i=1,…,I),每次實(shí)驗(yàn)中,對信號r1(n)+ε1E1(vi(n))進(jìn)行分解,直到得到第一個EMD模態(tài)分量為止。在此基礎(chǔ)上,計(jì)算第二個模態(tài)分量如下

4)對其余每個階段,即k=2,…,K,計(jì)算第k個余量信號,與步驟3的計(jì)算過程一致,計(jì)算第k+1個模態(tài)分量如下:

5)執(zhí)行步驟4,直至所獲取的余量信號不再可能進(jìn)行分解時為止,其判斷的標(biāo)準(zhǔn)為余量信號的極值點(diǎn)個數(shù)至多不超過兩個。

算法終止時,所有模態(tài)分量的數(shù)量為K。最終的余量信號為:

從CEEMDAN的算法實(shí)現(xiàn)及式(6)可看出,其分解過程是完整的,能對原始信號進(jìn)行精確重構(gòu)。算法實(shí)現(xiàn)中,在每一模態(tài)分解階段,能夠通過系數(shù)εk選擇合適的信噪比(SNR)。

2 排列熵

一種衡量時間序列復(fù)雜性的測度——排列熵(Permutation Entropy,PE)由文獻(xiàn)［13］提出,與Lyapunov指數(shù)相似,PE對時間序列的變化具有很高的敏感性,可檢測出復(fù)雜動力學(xué)系統(tǒng)的突變現(xiàn)象。

考慮時間序列{s(n),n=1,2,…,N},對其進(jìn)行相空間重構(gòu),得到重構(gòu)向量

其中m表示嵌入維數(shù),τ為延遲時間,下標(biāo)j=1,2,…,N-(m-1)τ。重構(gòu)向量Xj可作為矩陣X的行向量,將矩陣X的每一行,即各重構(gòu)向量Xj重新進(jìn)行升序排列,有其中j1,j2,…,jm表示重構(gòu)向量中各個元素所在列的索引號。若存在:s(k+(jp-1)τ)=s(k+(jq-1) τ),則按j值的大小來進(jìn)行排序。

所以,對于時間序列{s(n),n=1,2,…,N}重構(gòu)所得的矩陣X中的每一行,均可得到一組符號序列

其中g(shù)=1,2,…,l。那么共有l(wèi)≤m!種不同符號序列的排列方式。計(jì)算每一種符號序列出現(xiàn)的概率P1,P2,…,Pl,顯然

所以,仿照Shannon熵的形式,定義時間序列{s (n),n=1,2,…,N}的PE為

當(dāng)Pg=1/m!時,Hp(m)達(dá)到最大值ln(m!)。因此,可將排列熵Hp(m)進(jìn)行歸一化處理,即

顯然,Hp的取值范圍為0≤Hp≤1,Hp值的大小反映了時間序列的隨機(jī)性程度。Hp越大,說明時間序列的隨機(jī)性越強(qiáng)。由式(7)可知,計(jì)算PE時,嵌入維數(shù)m和時延τ需要預(yù)先確定。文獻(xiàn)［13］建議m取3～7,對時間序列的計(jì)算影響較小,通常取1即可。

3 回聲狀態(tài)網(wǎng)絡(luò)

3.1 ESN網(wǎng)絡(luò)

ESN網(wǎng)絡(luò)部分地反映了大腦學(xué)習(xí)機(jī)制的某些特點(diǎn),它具有很強(qiáng)的非線性逼近能力。ESN必須滿足回聲狀態(tài)特性(echo state property,ESP),即在一定條件下,存在一個回聲函數(shù),使得網(wǎng)絡(luò)狀態(tài)可由歷史輸入及輸出序列唯一確定。

ESN的基本結(jié)構(gòu)如圖1所示,從圖中可看出網(wǎng)絡(luò)分為輸入層、隱含層、輸出層三層。輸入層以及隱含層與輸出層之間的虛線連接為輸出權(quán)值,實(shí)線部分的連接權(quán)值在網(wǎng)絡(luò)訓(xùn)練前一經(jīng)產(chǎn)生就不再改變,僅虛線連接部分的權(quán)值在網(wǎng)絡(luò)訓(xùn)練中需要學(xué)習(xí),即ESN只需計(jì)算與輸出層連接的網(wǎng)絡(luò)權(quán)值,完成訓(xùn)練學(xué)習(xí),這與傳統(tǒng)的遞歸神經(jīng)網(wǎng)路需要訓(xùn)練所有的權(quán)值有明顯不同,這也極大提高了ESN網(wǎng)絡(luò)的學(xué)習(xí)速度。

圖1 ESN的基本結(jié)構(gòu)Fig.1 The basic structure of echo state network

ESN網(wǎng)絡(luò)的SR是由大量隨機(jī)生成且稀疏連接的神經(jīng)元組成,蘊(yùn)含了系統(tǒng)的運(yùn)行狀態(tài),并具有記憶功能,形成一個巨大的動態(tài)記憶庫。網(wǎng)絡(luò)初始化時, SR中的神經(jīng)元之間的連接權(quán)值隨機(jī)產(chǎn)生,并保持1%～5%的稀疏連接度。

可以證明［9,11］,ESN狀態(tài)儲備池SR的連接權(quán)矩陣的譜半徑小于1時,該網(wǎng)絡(luò)是漸近穩(wěn)定的。

設(shè)在n時刻的網(wǎng)絡(luò)輸入、隱含層及輸出層向量為:u(n)=(u1(n),…,u~K(n))T、x(n)=(x1(n),…,x~N(n))T及y(n)=(y1(n),…,y~L(n))T。則ESN網(wǎng)絡(luò)輸入、隱含層及輸出層的維數(shù)分別為~K、~N及~L。輸入連接權(quán)矩陣Win∈R~N×~K,狀態(tài)池連接權(quán)矩陣W∈R~N×~N,反饋連接權(quán)矩陣Wfb∈R~N×~L,W的譜半徑為ρ,v(n+1)∈R~N×1為具有均勻分布的噪聲向量,則ESN網(wǎng)絡(luò)的狀態(tài)方程為

其中f=［f1,f2,…,f~N］T為激活函數(shù),可取為雙曲正切函數(shù)。

若σmax為W的最大特征值,且σmax(W)=1,譜半徑ρ滿足0≤ρ＜1,可以證明ESN網(wǎng)絡(luò)具有ESP特性［9］。

3.2 泄漏積分ESN網(wǎng)絡(luò)

LIESN網(wǎng)絡(luò)的輸入、隱含層及輸出向量的定義以及輸入連接權(quán)矩陣Win,狀態(tài)池連接權(quán)矩陣W,反饋連接權(quán)矩陣Wfb的定義同3.1節(jié),則在LIESN中,其動態(tài)神經(jīng)元x(t)的連續(xù)狀態(tài)微分方程可表示為

其中C＞0,α＞0表示SR的神經(jīng)元泄漏率參數(shù)。取步長為1,將式(13)離散化,則可得到給定離散輸入u(n)的網(wǎng)絡(luò)狀態(tài)方程為

由式(14)看出,當(dāng)C,α分別取1時,式(14)即為基本的ESN網(wǎng)絡(luò)。如果ρ滿足0≤ρ＜1,同時σmax(W)=1,C＞0,α＞0且Cα≤1,網(wǎng)絡(luò)則具有ESP特性［11-12］。

LIESN的網(wǎng)絡(luò)輸出方程表示為

其中fout可取為雙曲正切函數(shù),輸出權(quán)矩陣Wout∈R~L×(~K+~N+~L),矩陣符號［·］表示ESN的輸入層、隱含層以及輸出層向量的合并。

概言之,LIESN網(wǎng)絡(luò)中,每一個狀態(tài)神經(jīng)元具有低通濾波或具有指數(shù)光滑的特性,其泄漏率參數(shù)控制在前一時刻的神經(jīng)元狀態(tài)的保持程度。因此,較小的Cα取值可導(dǎo)致內(nèi)部神經(jīng)元狀態(tài)x(n)的較慢變化,從而進(jìn)一步增強(qiáng)ESN的短時記憶能力。

若訓(xùn)練樣本集定義為

其中u(n)表示n時刻的輸入向量,yd(n)是相應(yīng)的期望輸出,n=1,2,…,T,且T為訓(xùn)練樣本集的最大長度。通過訓(xùn)練,使LIESN網(wǎng)絡(luò)的輸出y(n)逼近期望輸出yd(n)。

具體算法實(shí)現(xiàn)如下:

1)網(wǎng)絡(luò)結(jié)構(gòu)的確定,即定義輸入層、隱含層、輸出層的維數(shù)~K、~N及~L;

2)網(wǎng)絡(luò)初始化。Win、Wfb分別由位于［-0.2, 0.2］、［-1,1］區(qū)間上的均勻分布隨機(jī)數(shù)預(yù)先設(shè)定,W是由位于［-1,1］區(qū)間上的均勻分布隨機(jī)數(shù)生成,其網(wǎng)絡(luò)連接稀疏度為min(10/N,1),譜半徑ρ小于1;

3)定義矩陣M、T。在樣本數(shù)據(jù)驅(qū)動下運(yùn)行網(wǎng)絡(luò),為消除網(wǎng)絡(luò)起始瞬態(tài)的影響,丟棄前T0個值。在時刻T0后,收集網(wǎng)絡(luò)在不同時刻的輸入層、隱含層狀態(tài)向量和輸出層向量的合并(u(n),x(n),yd(n-1)),作為狀態(tài)收集矩陣M的列向量,M∈R(~K+~N+~L)×(T-T0+1);矩陣T的列向量由不同時刻的期望輸出yd(n)的反雙曲正切函數(shù)tanh-1d(n)構(gòu)成,

LIESN的輸出權(quán)矩陣Wout可由狀態(tài)收集矩陣M及矩陣T計(jì)算,即:

4)考慮到M中的(T-T0+1)≥(K+N+L),因此Wout的穩(wěn)定最小二乘解可采用嶺回歸方法,也稱之為Tikhonov正則化方法進(jìn)行求解,即

Wout=TMT(MMT+χI)-1。(17)其中χ為正則項(xiàng)系數(shù),單位陣I∈R(~N+~K+~L)×(~N+~K+~L)。

算法實(shí)現(xiàn)中,χ的作用是消除普通線性最小二乘方法求解中出現(xiàn)的病態(tài)不適定問題,從而提高了求解Wout的穩(wěn)定性。

另一方面,嶺回歸方法通過在式(17)中施加χ求解Wout,在本質(zhì)上可歸結(jié)為如下的最小化問題,即

其中woiut為Wout的行向量,‖·‖表示歐式范數(shù)。

式(18)中,χ‖woiut‖2為一個正則化或權(quán)值衰減項(xiàng),懲罰過大的Wout,Wout過大則導(dǎo)致網(wǎng)絡(luò)不穩(wěn)定,易產(chǎn)生病態(tài)解。正則化方法的求解則在訓(xùn)練誤差和輸出權(quán)值矩陣之間起到了很好的“折衷”作用,避免了網(wǎng)絡(luò)訓(xùn)練時出現(xiàn)的數(shù)據(jù)“過擬合”問題及由反饋所引起的不穩(wěn)定性。當(dāng)χ=0時,式(18)則簡化為普通線性最小二乘方法的求解。χ越大,正則化效果越強(qiáng)。

網(wǎng)絡(luò)訓(xùn)練的均方誤差為

M SE=

其中yd(n)為導(dǎo)師信號,y(n)為LIESN的輸出。

4 中期峰值電力負(fù)荷預(yù)測實(shí)驗(yàn)

由于電力負(fù)荷預(yù)測的復(fù)雜性,除了考慮電力負(fù)荷歷史負(fù)荷值外,還需要考慮其它因素的影響,包括日歷信息、節(jié)假日信息、氣象信息等因素。日歷因素用來區(qū)分周末與工作日電力負(fù)荷需求的不同,氣象因素主要包括溫濕度、風(fēng)速、云霧信息等,氣象與負(fù)荷值之間有著一定的復(fù)雜關(guān)系,在實(shí)際的電力負(fù)荷預(yù)測中,由于待預(yù)測日的氣象因素,如天氣溫度等本身未知,這就需要提前預(yù)測溫度,且通常提供的歷史氣象數(shù)據(jù)也很有限。若考慮氣象因素,則在增加預(yù)測難度的同時,并不一定會明顯提高預(yù)測精度［16］。由于預(yù)測溫度將增加預(yù)測的難度,因此,本節(jié)的預(yù)測實(shí)例中,可采用數(shù)據(jù)分割的方法獲取訓(xùn)練數(shù)據(jù)集,以彌補(bǔ)氣象因素的影響,并按照時間序列建模方式,將日歷、節(jié)假日等特征信息也作為預(yù)測輸入。預(yù)測模型如下

y(t)=fi(t)(xt),?t=Δ…l。(20)其中f(·)用LIESN構(gòu)建,i(t)表示對數(shù)據(jù)進(jìn)行分割后的不同時間段,Δ表示嵌入維數(shù),xt除了包含歷史負(fù)荷值(yt-1,yt-2,…,yt-Δ)之外,還包括日歷、節(jié)假日特征。

實(shí)驗(yàn)采用迭代預(yù)測方式進(jìn)行,即訓(xùn)練時采用式(20)所示的單步預(yù)測模型,測試時,遞推地將本次的預(yù)測輸出作為下一次預(yù)測輸入,滾動進(jìn)行直至結(jié)束。

預(yù)測評價指標(biāo)采用最大絕對值誤差(maximal error,ME),平均絕對值百分比誤差(mean absolute percentage error,MAPE),均方根誤差(mean square error,MSE))。即ME=max｜yi-y?i｜,MAPE=100

其中yi表示實(shí)際負(fù)荷值,y?i表示模型的預(yù)測值,n表示待預(yù)測的天數(shù)。

4.1 歐洲地區(qū)電力負(fù)荷競賽實(shí)驗(yàn)

實(shí)驗(yàn)選取歐洲EUNITE網(wǎng)絡(luò)組織的全球電力負(fù)荷預(yù)測競賽實(shí)例,并提供了斯洛伐克國家東部電力公司的實(shí)際數(shù)據(jù)集,其數(shù)據(jù)從以下網(wǎng)址獲取http:// neuron.tuke.sk/competition/index.php。具體包括1997年到1998年每隔半小時的電力負(fù)荷值,1995年到1998年每天的平均溫度,1997年到1999年1月的節(jié)假日信息,預(yù)測目標(biāo)為1999年1月份每日最大負(fù)荷值,即峰值預(yù)測。即分別選取1997年和1998年1至3月、10月至12月期間的數(shù)據(jù)作為訓(xùn)練數(shù)據(jù)集來進(jìn)行預(yù)測。

考慮到原始負(fù)荷序列的非平穩(wěn)性,首先用CEEMDAN方法對訓(xùn)練數(shù)據(jù)集的原始負(fù)荷序列進(jìn)行分解,結(jié)果如圖2所示。實(shí)驗(yàn)中,加入了實(shí)驗(yàn)次數(shù)I=200組白噪聲信號,其標(biāo)準(zhǔn)差為0.2。

圖2 CEEMDAN的分解結(jié)果Fig.2 The result of CEEMDAN decomposition

EEMD和CEEMAAN兩種分解方法的重構(gòu)誤差則由圖3給出,從圖3看出,在添加200組白噪聲的情況下,CEEMDAN分解的重構(gòu)誤差≤1×10-7,而EEMD分解方法的重構(gòu)誤差顯然受到集成次數(shù)大小的影響［4］,在本例I值不大的情況下,遠(yuǎn)大于CEEMDAN分解方法的重構(gòu)誤差,因此,EEMD方法在一定程度上影響了對負(fù)荷序列分解的完整性,另一方面,EEMD方法為了降低重構(gòu)誤差,以達(dá)到同樣的精確度,則需要較多的實(shí)驗(yàn)次數(shù),從而又導(dǎo)致過重的計(jì)算規(guī)模與時間開銷。

圖3 基于不同分解方法的重構(gòu)誤差Fig.3 Reconstruction error for different decomposition methods

其次,由于負(fù)荷序列的非平穩(wěn)性使得CEEMDAN分解后的IMF分量較多,為了減小分別構(gòu)建子序列預(yù)測模型的計(jì)算規(guī)模,采用PE算法對每一IMF分量進(jìn)行復(fù)雜度評估,進(jìn)而進(jìn)行相應(yīng)的合并與重組。計(jì)算PE時,延遲時間τ對結(jié)果的影響較小,取1即可,通過實(shí)驗(yàn),當(dāng)嵌入維數(shù)m取3時,各IMF分量的變化規(guī)律比較明顯。因此,圖4給出了m為3時各IMF分量PE值的計(jì)算結(jié)果。從圖4可以看出,各IMF分量的PE值隨著IMF分量頻率的降低呈遞減趨勢,這也說明從高頻到低頻分量序列的隨機(jī)性程度是減小的?？紤]到PE值的大小及兼顧C(jī)EEMDAN的分解結(jié)果,以熵值相似性及接近程度為依據(jù)對各分量進(jìn)行合并,具體的合并情況如表1所示。其中,隨機(jī)性最強(qiáng)且對預(yù)測結(jié)果影響最大的IMF1分量的PE值最大且明顯有別于其它分量; IMF2和IMF3的PE值呈現(xiàn)出一定程度的相似性,差值為0.01,可以合并;IMF4、IMF5相鄰且PE差值為0.2,因此將其進(jìn)行合并;IMF6～I(xiàn)MF8的PE值差異較小,約為0.14,余項(xiàng)分量R的PE值為0,將其看作平穩(wěn)分量可與IMF6～I(xiàn)MF8進(jìn)行合并。

表1 各IMF分量和余項(xiàng)的合并結(jié)果Table 1 Combination results of IMF s&residual

合并后的重組子序列,其頻率和振幅是隨時間變化的,為有針對性的建立不同的預(yù)測模型,與文獻(xiàn)［14］一致,需要計(jì)算其平均周期T和平均振幅A,具體結(jié)果如表2所示。

圖4 各IMF分量的排列熵Fig.4 Permutation entropy of each IMF component

表2 各子序列的內(nèi)在特性分析Table 2 Intrinsic characteristics analysis of each subsequence

從表2看出,序列1僅包含一個分量,其平均周期最小,振幅相比序列4小很多方差卻較大,表明其隨機(jī)性很強(qiáng),這與PE一致,代表波動性最強(qiáng)的分量,可以看作是高頻分量,周期大約為3天,因此取嵌入維Δ=3。序列2的規(guī)律性很好,該分量反映了負(fù)荷以一周為周期的波動,可看作周期分量,周期大約為7天,取Δ=7。序列3的周期大約為14天,且其方差和振幅都較小,說明其波動相對較小,為降低計(jì)算量,取Δ=3即可;序列4的振幅和周期都最大,整體波動趨于平緩,可以看作趨勢分量,因此也可取Δ=3。重組后的四個子序列波形由圖5給出。

最后,針對各重組分量形成的子序列分別建立四個不同的LIESN預(yù)測模型進(jìn)行預(yù)測。預(yù)測模型的輸入還包括日歷和節(jié)假日信息。日歷信息用7位二進(jìn)制編碼表示,節(jié)假日和非節(jié)假日用1位二進(jìn)制碼表示。第1個子序列的LIESN預(yù)測模型的輸入為11維,第2個子序列的LIESN預(yù)測模型的輸入為15維,第3與第4個子序列的LIESN預(yù)測模型的輸入均為11維,各子序列的預(yù)測結(jié)果疊加即得到最終的組合預(yù)測結(jié)果。詳細(xì)的總體預(yù)測流程如圖6所示。

圖5 經(jīng)CEEMDAN-排列熵處理后的重組分量Fig.5 Recombination com ponent processed by CEEMDAN-PE method

圖6 基于CEEMDAN-排列熵與LIESN的組合預(yù)測流程Fig.6 Combined forecasting flow chart based on CEEMDAN-PE and LIESN method

由LIESN構(gòu)建的各子序列預(yù)測模型中,SR的大小,譜半徑ρ、時間常數(shù)C、泄漏率α、正則化系數(shù)χ和網(wǎng)絡(luò)連接稀疏度S等參數(shù)可通過交叉驗(yàn)證的方法選取,以得到較優(yōu)的實(shí)驗(yàn)結(jié)果。具體參數(shù)的取值如表3所示。

為進(jìn)一步衡量本文方法的預(yù)測效果,本文方法還與EEMD-ESN、CEEMDAN-ESN等組合預(yù)測及LiESN等單一預(yù)測方法進(jìn)行了比較。不同預(yù)測方法的預(yù)測結(jié)果由圖7給出,從圖7可看出,CEEMDAN -排列熵與LIESN的組合預(yù)測方法顯示出很好的預(yù)測效果。同時,表4還列出了不同預(yù)測方法的預(yù)測誤差指標(biāo)。從表4可以看出,本文方法的預(yù)測精度均優(yōu)于其他方法所獲得的結(jié)果。同時,還與使用該數(shù)據(jù)集的相關(guān)文獻(xiàn)的研究結(jié)果進(jìn)行了對比。文獻(xiàn)［15］使用多種組合核函數(shù)構(gòu)成的相關(guān)向量機(jī)進(jìn)行預(yù)測,模型的輸入為18維,其最優(yōu)的MAPE= 1.157,ME=31.71,取得了較好的預(yù)測效果。本文方法的ME值略高于文獻(xiàn)［15］的最優(yōu)結(jié)果,MAPE值與其最優(yōu)結(jié)果相當(dāng)。

表3 不同LIESN模型的參數(shù)取值Table 3 Parameter values of each different LIESN model

圖7 日峰值負(fù)荷預(yù)測結(jié)果比較Fig.7 Comparison of daily peak load forecasting results

文獻(xiàn)［16-20］的預(yù)測結(jié)果與本文方法的比較如圖8所示。其中,文獻(xiàn)［16］使用了標(biāo)準(zhǔn)SVM方法進(jìn)行預(yù)測,其預(yù)測結(jié)果由LIBSVM軟件獲得,贏得了當(dāng)年EUNITE競賽的第1名。文獻(xiàn)［17］將貝葉斯方法與SVM的學(xué)習(xí)用于前饋神經(jīng)網(wǎng)絡(luò)的一種結(jié)構(gòu)選擇上,取得了較好的預(yù)測效果;文獻(xiàn)［18］將特征選擇方法與SVM結(jié)合,構(gòu)建新的預(yù)測模型;文獻(xiàn)［19］將K近鄰局部預(yù)測與SVM方法相結(jié)合,構(gòu)建預(yù)測模型;文獻(xiàn)［20］則提出一種基于局部加權(quán)的SVM預(yù)測方法,也取得了較好的預(yù)測效果。從圖8可以看出,相比文獻(xiàn)［16］～［20］而言,本文方法的MAPE值最低,分別提升了40.51%、33.71%、31.76%、23.68%和17.7%,這更進(jìn)一步驗(yàn)證了本文方法的有效性。

表4 CEEMDAN-LiESN與其他預(yù)測方法的性能比較Table 4 Performance comparison of CEEMDAN-LiESN and other prediction methods

圖8 CEEMDAN-LIESN與使用EUNITE競賽數(shù)據(jù)集的其他模型的比較Fig.8 Comparison of CEEMD-LIESN model and other models using EUNITE competition dataset

4.2 新英格蘭地區(qū)電力負(fù)荷預(yù)測實(shí)驗(yàn)

實(shí)驗(yàn)選取美國新英格蘭地區(qū)2006至2008年以小時為間隔的實(shí)測電力負(fù)荷數(shù)據(jù)集,預(yù)測目標(biāo)為2008年5月4日至24日未來21天的日峰值負(fù)荷。同樣采用數(shù)據(jù)分割的思想來選取訓(xùn)練數(shù)據(jù)集,即分別選取2006、2007年4至5月以及2008年4月的數(shù)據(jù)為訓(xùn)練數(shù)據(jù)集。

首先,同實(shí)驗(yàn)一,CEEMDAN分解方法取實(shí)驗(yàn)次數(shù)I=200,白噪聲信號標(biāo)準(zhǔn)差為0.2,其分解結(jié)果如圖9所示。

圖9 CEEMDAN的分解結(jié)果Fig.9 The result of CEEMDAN decomposition

EEMD和CEEMDAN兩種分解方法的重構(gòu)誤差由圖10給出,在本例負(fù)荷功率幅值較大的情形下,相對于實(shí)驗(yàn)一,EEMD的重構(gòu)誤差也相應(yīng)增大,幅值范圍達(dá)到-30～40MW,而CEEMDAN方法的重構(gòu)誤差依然幾乎為0。因此,EEMD方法所產(chǎn)生的較大重構(gòu)誤差會為最終的預(yù)測帶來累積誤差,而CEEMDAN方法克服了這一缺點(diǎn),具有更好的分解完整性,有利于提高負(fù)荷預(yù)測的精度。

圖10 基于不同分解方法的重構(gòu)誤差Fig.10 Reconstruction error for different decom position m ethods

其次,采用PE算法對每一IMF分量進(jìn)行復(fù)雜度評估,然后進(jìn)行相應(yīng)的合并與重組,計(jì)算PE時,τ取1,m取3時,PE值較為明顯地體現(xiàn)出各IMF分量的變化規(guī)律。圖11給出了各IMF分量的PE值計(jì)算結(jié)果,以熵值相似性及接近程度為依據(jù)對各分量進(jìn)行合并,具體的合并情況如表5所示。其中,隨機(jī)性最強(qiáng)且對預(yù)測結(jié)果影響最大的IMF1分量的PE值最大,明顯有別于其它分量;IMF2和IMF3的PE值非常接近,相差0.07,可以合并;IMF4和IMF5的PE熵值相差0.24,可以合并;IMF6和IMF7的PE值相差0.13,余項(xiàng)分量R的PE值為0,將其看作平穩(wěn)分量與IMF6、IMF7進(jìn)行合并。表5列出了合并結(jié)果。

圖11 各IM F分量的排列熵Fig.11 Permutation entropy of each IMF component

為有針對性的建立不同預(yù)測模型,計(jì)算合并后的各子序列的平均周期T和平均振幅A,具體計(jì)算結(jié)果如表6所示。

表5 各IMF分量和余項(xiàng)的合并結(jié)果Table 5 Combination results of IMFs&residual

表6 各子序列的內(nèi)在特性分析Table 6 Intrinsic characteristics analysis of each subsequence

從表6可以看出,序列1僅包含一個分量,其平均振幅最小但方差卻大于序列2和序列4的方差,表明其隨機(jī)性很強(qiáng),這與PE一致,代表波動性最強(qiáng)的分量,可以看作是高頻分量,周期約為3天,因此取Δ=3。序列2的規(guī)律性很好,且該分量大致反映了負(fù)荷以一周為單位的波動,可看作周期分量,周期約為8天,取Δ=8。序列3的周期約為一個月,結(jié)合圖9可以看出,其包含的分量IMF4和IMF5相比前三個IMF分量波動趨于平緩,說明其波動相對較小,可以看作低頻分量,為降低計(jì)算量,取Δ=3;序列4振幅最大,方差卻最小,整體波動更為趨于平緩,可以看作趨勢分量,因此也可取Δ=3。重組后的四個子序列波形由圖12給出。

圖12 CEEMDAN-排列熵處理后的重組分量Fig.12 Recombination com ponent processed by CEEMDAN-PE method

最后,針對各重組分量所形成的子序列分別建立四個不同的LIESN預(yù)測模型,預(yù)測模型輸入也包含了日歷和節(jié)假日信息。各子序列預(yù)測模型的具體參數(shù)取值如表7所示。

表7 不同LIESN模型的參數(shù)取值Table 7 parameter values of each LIESN model

本文方法與EEMD-ESN、CEEMDAN-ESN等組合預(yù)測方法及LIESN等單一預(yù)測方法的預(yù)測效果比較由圖13給出,不同預(yù)測方法的預(yù)測誤差指標(biāo)由表8給出,可以看出,本文方法依然取得了最好的預(yù)測效果。

圖13 日峰值負(fù)荷預(yù)測結(jié)果比較Fig.13 Comparison of daily peak load forecasting results

表8 CEEMDAN-LIESN與其他預(yù)測方法的性能比較Table 8 Performance com parison of CEEMDAN-LIESN and other prediction methods

5 結(jié) 論

本文提出了一種基于CEEMDAN-排列熵和LIESN結(jié)合的中期峰值負(fù)荷預(yù)測方法。針對負(fù)荷序列的非平穩(wěn)性,利用CEEMDAN方法自適應(yīng)地將其分解為一系列不同尺度的分量,與EEMD方法相比,它能實(shí)現(xiàn)對幅值較大數(shù)據(jù)分解的完整性,有利于進(jìn)一步提高預(yù)測精確度。與此同時,將排列熵引入到各IMF分量的復(fù)雜度評估中,以PE值為依據(jù)對各IMF分量進(jìn)行重新組合,產(chǎn)生新的復(fù)雜度差異明顯的子序列,以有效降低組合預(yù)測方法的計(jì)算規(guī)模。最后,將具有良好學(xué)習(xí)性能的LIESN方法分別應(yīng)用于合并后的各子序列建模中,通過應(yīng)用于不同地區(qū)的電力負(fù)荷峰值預(yù)測實(shí)例驗(yàn)證了本文方法的有效性,它能取得很高的預(yù)測精確度,具有很好的應(yīng)用潛力。

［1］ 康重慶,夏清,張伯明.電力系統(tǒng)負(fù)荷預(yù)測研究綜述與發(fā)展方向的探討［J］.電力系統(tǒng)自動化,2004,28(17):1-11. KANG Chongqing,XIA Qing,ZANG Boming.Review of power system load forecasting and its development［J］.Automation of E-lectric Power Systems,2004,28(17):1-11.

［2］ 鄭高,肖建.基于區(qū)間二型模糊邏輯的電力負(fù)荷預(yù)測研究［J］.電機(jī)與控制學(xué)報(bào),2012,16(9):26-32. ZHENG Gao,XIAO Jian.Forecasting study of power load on interval type-2 fuzzy logicmethod［J］.Electric Machines and Control,2012,16(9):26-32.

［3］ HUANG N E,SHEN Z,LONG SR,et al.The empiricalmode decomposition and the Hilbert spectrum for nonlinear and non-stationary time series analysis［J］.Proceedings of the Royal Society of London-Series A:Mathematical,Physical and Engineering Sciences,1998,454(1971):903-995.

［4］ WU Z,HUANG N E.Ensemble empiricalmode decomposition:a noise-assisted data analysismethod［J］.Advances in Adaptive Data Analysis,2009,1(01):1-41.

［5］ TORRESM E,COLOMINASM A,SCHLOTTHAUER G,et al. A complete ensemble empiricalmode decomposition with adaptive noise［C］//IEEE International Conference on Speech and Signal Processing(ICASSP),May,22-27,2011,Prague,Czech.2011: 4144-4147.

［6］ 祝志慧,孫云蓮,季宇.基于EMD和SVM的短期負(fù)荷預(yù)測［J］.高電壓技術(shù),2007,33(5):118-122. ZHU Zhihui,SUN Yunlian,JI Yu.Short-term Load Forecasting Based on EMD and SVM［J］.High Voltage Engineering,2007, 33(5):118-122.

［7］ 劉岱,龐松嶺,駱偉.基于EEMD與動態(tài)神經(jīng)網(wǎng)絡(luò)的短期負(fù)荷預(yù)測［J］.東北電力大學(xué)學(xué)報(bào),2009,29(6):20-26. LIU Dai,PANG Songling,LUO Wei.Power system short-term load forecasting based on EEMD and dynamic neural network［J］. Journal of Northeast DianLi University,2009,29(6):20-26.

［8］ 葉林,劉鵬.基于經(jīng)驗(yàn)?zāi)B(tài)分解和支持向量機(jī)的短期風(fēng)電功率組合預(yù)測模型［J］.中國電機(jī)工程學(xué)報(bào),2011,31(31):102 -108. YE Lin,LIU Peng.Combined Model Based on EMD-SVM for Short-term Wind Power Prediction［J］.Proceedings of the CSEE, 2011,31(31):102-108.

［9］ JAEGER H,HAASH.Harnessing nonlinearity:Predicting chaotic systems and saving energy in wireless telecommunication［J］. Science,2004,304(2):78-80.

［10］ DEIHIMIA,SHOWKATIH.Application of echo state networks in short-term electric load forecasting［J］.Energy,2012,39 (1):327-340.

［11］ JAEGER H,LUKOSEVICIUSM,POPOVICID.Optimization and applications of echo state networkswith leaky integrator neurons［J］.Neural Networks.2007,20(3):335-352.

［12］ HOLZMANN G,HAUSER H.Echo state networks with filter neurons and a delay&sum readout［J］.Neural Networks,2010, 23(2):244-256

［13］ BANDT C,BEMD P.Permutation entropy:a natural complexity measure for time series［J］.Physical Review Letters,2002,88 (17):174102-1～174102-4.

［14］ 牛東曉,李媛媛,乞建勛,等.基于經(jīng)驗(yàn)?zāi)Ｊ椒纸馀c因素影響的負(fù)荷分析方法［J］.中國電機(jī)工程學(xué)報(bào),2008,28(16): 96-102. NIU Dongxiao,LI Yuanyuan,QI Jianxun,etc.A Novel Approach for Load Analysis Based on EmpiricalMode Decomposition and Influencing Factors［J］,Proceedings of the CSEE,2008,28 (16):96-102.

［15］ 段青,趙建國,馬艷.優(yōu)化組合核函數(shù)相關(guān)向量機(jī)電力負(fù)荷預(yù)測模型［J］.電機(jī)與控制學(xué)報(bào),2010,14(6):33-38. DUAN Qing,ZHAO Jianguo,MA Yan.Relevance vector machine based on particle swarm optimization of compounding kernels in electricity load forecasting［J］.Electric machines and Control,2010,14(6):33-38.

［16］ CHEN B J,CHANGMW,LIN C J.Load forecasting using support vectormachines:A study on EUNITE competition 2001［J］. IEEE Trans.on Power Systems,2004,19(4):1821-1830.

［17］ FERREIRA V H,ALVES da Silva A P.Toward estimating autonomous neural network-based electric load forecasters［J］. IEEE Trans.on Power Systems,2007,22(4):1554-1562.

［18］ TAO X,RENMU H,PENGW,etal.Input dimension reduction for load forecasting based on support vector machines［C］//Proceedings of the 2004 IEEE International Conference on Electric Utility Deregulation,Restructuring and Power Technologies (DRPT),April5-8,2004,Beijing,China.2004:510-514.

［19］ ELATTAR E E,GOULERMAS JY,Wu Q H.Forecasting electric daily peak load based on local prediction［C］//IEEE International Conference on Power&Energy Society General Meeting (PESGM),July 26-30,2009,Calgary,AB,Canada.2009:1 -6.

［20］ ELATTAR E E,GOULERMASJY,Wu QH.Electric load forecasting based on locally weighted support vector regression［J］. IEEE Trans.on Systems,Man,and Cybernetics,Part C:Applications and Reviews,2010,40(4):438-447.

(編輯:賈志超)

Medium term electricity load forecasting based on CEEMDAN-permutation entropy and ESN w ith leaky integrator neurons

LIJun, LIQing
(School of Automation and Electrical Engineering,Lanzhou Jiaotong University,Lanzhou 730070,China)

Based on complete ensemble empiricalmode decomposition with adaptive noise(CEEMDAN)-permutation entropy and echo state network with leaky integrator neurons(LIESN),a kind of combined forecastingmethod was proposed formedium-term power load forecasting.In the CEEMDAN method,a particularwhite noise was added ateach stage of the decomposition and a unique residue was computed to obtain each intrinsic model function(IMF),compared with EEMD,the resulting decomposition is complete.In order to weaken the influence of non-stationary effects of the load series on the prediction accuracy and reduce computation scale,the load time series was decomposed into a series of subsequences with obvious differences in complex degree by using CEEMDAN-permutation entropy,and the corresponding LIESN forecasting model was built respectively by analyzing the inner characteristics of each subsequence.Simultaneously,the ultimate forecasting results can be obtained by the superposition of the corresponding forecastingmodel.The proposedmethod was applied to electricity peak load forecasting instances in different areas and compared with other combined and single forecastingmethods.Experiment results confirm that the proposed method has a high prediction precision,and show the effectiveness and applicability.

load forecasting;combined model;ensemble empiricalmode decomposition;echo state network; permutation entropy

10.15938/j.emc.2015.08.011

TM 715

A

1007-449X(2015)08-0070-11

2014-04-02

國家自然科學(xué)基金(51467008);甘肅省高等學(xué)?；究蒲袠I(yè)務(wù)費(fèi)專項(xiàng)資金項(xiàng)目(620026)

李 軍(1969—),男,博士,教授,研究方向?yàn)橛?jì)算智能與系統(tǒng)建模、預(yù)測與控制;李 青(1989—),男,碩士研究生,研究方向?yàn)橛?jì)算智能與電力負(fù)荷預(yù)測。

李 軍