孫寧可,王 艷,紀(jì)志成

(江南大學(xué) 物聯(lián)網(wǎng)技術(shù)應(yīng)用教育部工程研究中心,江蘇 無錫 214122)

隨著“智能制造”、“邊緣計(jì)算”和“大數(shù)據(jù)”等創(chuàng)新理念的提出,如何運(yùn)用采集的實(shí)時(shí)數(shù)據(jù)和智能化算法來改善生產(chǎn)過程是當(dāng)前的一種發(fā)展趨勢[1]。電力能耗數(shù)據(jù)相較于其他具有設(shè)備特有性的運(yùn)行數(shù)據(jù)來說有更好的普適性,而且隨著工業(yè)的進(jìn)一步發(fā)展,節(jié)能減耗也是一個重要的著力點(diǎn)[2]。在工業(yè)生產(chǎn)過程中,電力能耗數(shù)據(jù)具有很重要的意義,對生產(chǎn)設(shè)備能耗進(jìn)行預(yù)測和對比分析有助于檢測設(shè)備工作異常狀態(tài)、提前預(yù)知生產(chǎn)風(fēng)險(xiǎn)。車間的能耗預(yù)測是新型能源管理系統(tǒng)的重要模塊,實(shí)時(shí)、精準(zhǔn)的能耗預(yù)測能夠幫助分析未來能源消耗趨勢,進(jìn)而合理分配能源,減少不必要的能源浪費(fèi),有助于降低車間生產(chǎn)的能源成本[3]。

電力能耗預(yù)測屬于時(shí)間序列預(yù)測問題,其主要預(yù)測方法包括傳統(tǒng)預(yù)測方法和神經(jīng)網(wǎng)絡(luò)方法[4]。傳統(tǒng)預(yù)測方法有指數(shù)平滑法、時(shí)間序列法和回歸預(yù)測法等,受到方法限制,預(yù)測精度已經(jīng)不能滿足要求[5]。神經(jīng)網(wǎng)絡(luò)方法有人工神經(jīng)網(wǎng)絡(luò)、支持向量機(jī)、反向傳播(Back propagation,BP)神經(jīng)網(wǎng)絡(luò)、長短期記憶(Longshort-term memory,LSTM)網(wǎng)絡(luò)等,預(yù)測精度更高[6]。

文獻(xiàn)[7]提出了將支持向量回歸和基于局部加權(quán)回歸的周期趨勢分解結(jié)合起來的短期電力能耗預(yù)測方法,將數(shù)據(jù)分解后,再利用支持向量回歸方法進(jìn)行預(yù)測,相較于隨機(jī)森林回歸和只采用支持向量回歸方法,預(yù)測精度更高,但是支持向量回歸方法中的懲罰因子參數(shù)和核函數(shù)參數(shù)仍按經(jīng)驗(yàn)選取,無法充分發(fā)揮該方法的預(yù)測能力。文獻(xiàn)[8]提出了一種組合預(yù)測方法,結(jié)合了經(jīng)驗(yàn)?zāi)B(tài)分解(Empirical mode decomposition,EMD)算法和LSTM網(wǎng)絡(luò),利用EMD進(jìn)行序列分解,然后利用LSTM網(wǎng)絡(luò)進(jìn)行預(yù)測,與單一的LSTM網(wǎng)絡(luò)相比,預(yù)測精度較高,但是LSTM網(wǎng)絡(luò)中的訓(xùn)練迭代次數(shù)和神經(jīng)元個數(shù)等參數(shù)也需按經(jīng)驗(yàn)選取,未能考慮到對LSTM網(wǎng)絡(luò)的內(nèi)部參數(shù)進(jìn)行尋優(yōu)。文獻(xiàn)[9]提出了一種組合電力能耗預(yù)測方法,結(jié)合了LSTM網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò),使用卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行特征提取,然后經(jīng)卷積層和池化層處理后作為LSTM網(wǎng)絡(luò)的輸入,得到了較高的預(yù)測準(zhǔn)確率,但是并沒有考慮到對電力能耗數(shù)據(jù)進(jìn)行分解后再進(jìn)行預(yù)測,也沒有考慮到對神經(jīng)網(wǎng)絡(luò)的內(nèi)部參數(shù)進(jìn)行尋優(yōu)。文獻(xiàn)[10]將BP神經(jīng)網(wǎng)絡(luò)與EMD分解相結(jié)合,提出了一種磁懸浮冷水機(jī)組的能耗預(yù)測方法,經(jīng)過分解、預(yù)測和重構(gòu)后,能夠較為準(zhǔn)確地預(yù)測冷水機(jī)組能耗,雖然通過設(shè)置不同的隱含層層數(shù)和神經(jīng)元數(shù)目來對比分析預(yù)測效果,但是對比不夠充分,不能確定是否得到最優(yōu)參數(shù)。

綜上所述,為了能夠提高電力能耗預(yù)測的準(zhǔn)確性并充分發(fā)揮LSTM網(wǎng)絡(luò)的預(yù)測性能,本文采用EMD算法將電力能耗序列分解為多個本征模函數(shù)(Intrinsic mode function,IMF)分量和趨勢分量,然后采用LSTM網(wǎng)絡(luò)來對每個分量進(jìn)行獨(dú)立預(yù)測,將每個分量的預(yù)測結(jié)果進(jìn)行疊加得到最后的電力能耗預(yù)測結(jié)果,同時(shí),考慮到LSTM網(wǎng)絡(luò)的內(nèi)部參數(shù)通常是按照經(jīng)驗(yàn)設(shè)置,不能實(shí)現(xiàn)最佳的預(yù)測效果,因此利用粒子群算法來確定LSTM網(wǎng)絡(luò)中神經(jīng)元個數(shù)和訓(xùn)練迭代次數(shù)的參數(shù)設(shè)置,最優(yōu)化LSTM網(wǎng)絡(luò)的預(yù)測性能。最后,將所提算法應(yīng)用于江蘇某藥企中藥制造車間的實(shí)測車間電力能耗數(shù)據(jù)集來進(jìn)行驗(yàn)證。

1 方法及原理

1.1 經(jīng)驗(yàn)?zāi)B(tài)分解

EMD算法是一種信號處理方法,主要應(yīng)用于時(shí)間序列[11]。與小波分析不同[12],對于一段未知信號,EMD無須預(yù)先設(shè)定任何基函數(shù),具有很好的普適性。EMD分解算法可將樣本分為有限個數(shù)據(jù)分量,每個分量代表原數(shù)據(jù)樣本的一部分特征,將每個分量疊加后,理論上就會還原原始數(shù)據(jù)樣本的全部特征[13]。其分解流程如圖1所示,具體步驟如下。

圖1 EMD分解計(jì)算流程

(1)采用三次樣條法將原始信號x(t)的極大、極小值連成包絡(luò)線;

(2)求其均值,得到均值包絡(luò)線m1(t);

(3)求原始信號x(t)與均值包絡(luò)線m1(t)的差,得到h1(t)

h1(t)=x(t)-m1(t)

(1)

(4)如果h1(t)不符合IMF條件。令h1(t)為x(t),回到第一步,進(jìn)行第二次選取,如式(2)所示

h2(t)=h1(t)-m2(t)

(2)

式中：m2(t)為h1(t)的均值包絡(luò)線。重復(fù)進(jìn)行k次,得到hk(t)

hk(t)=hk-1(t)-mk(t)

(3)

若hk(t)符合IMF條件,則hk(t)就是第一個IMF分量c1(t)

c1(t)=hk(t)

(4)

(5)x(t)與第一個IMF分量c1(t)做差,得到余項(xiàng)r1(t)

r1(t)=x(t)-c1(t)

(5)

(6)循環(huán)執(zhí)行n次得到余量r2(t),r3(t),…,rn(t),然后判斷余量rn(t)的單調(diào)性,如果是單調(diào)函數(shù),或者是常函數(shù),滿足二者之一就說明分解完成。得到若干個IMF分量ck(t)和一個趨勢項(xiàng)rn(t)

(6)

車間電力能耗數(shù)據(jù)采用EMD算法進(jìn)行分解后,能夠得到若干個不同的分量,頻率從高到低,其中各自包含了原始數(shù)據(jù)的部分特征,相較于原始數(shù)據(jù)具有更強(qiáng)的規(guī)律性。然后再利用LSTM網(wǎng)絡(luò)進(jìn)行處理和預(yù)測就能夠得到每個數(shù)據(jù)分量的預(yù)測結(jié)果,各個分量的預(yù)測結(jié)果疊加后便可以得到對原始能耗數(shù)據(jù)的預(yù)測結(jié)果,這種分解、預(yù)測再重組的方式有助于充分提取數(shù)據(jù)特征、提高預(yù)測準(zhǔn)確度。

1.2 長短期記憶網(wǎng)絡(luò)

圖2 LSTM網(wǎng)絡(luò)隱含層內(nèi)部記憶單元結(jié)構(gòu)

圖3 LSTM網(wǎng)絡(luò)信息傳遞過程

具體實(shí)現(xiàn)過程如下：

計(jì)算遺忘門的輸出值ft

ft=σ(Whfht-1+Wxfxt+bf)

(7)

式中：Whf、Wxf為遺忘門的權(quán)重矩陣;bf為遺忘門的偏置向量[16]。

計(jì)算輸入門的值it

it=σ(Whiht-1+Wxixt+bi)

(8)

式中：Whi、Wxi為輸入門的權(quán)重矩陣;bi為輸入門的偏置向量。

計(jì)算記憶單元的輸入狀態(tài)

(9)

式中：Whc、Wxc為細(xì)胞狀態(tài)的權(quán)重矩陣;bc為細(xì)胞狀態(tài)的偏置向量。

更新細(xì)胞狀態(tài)

(10)

計(jì)算輸出門的值ot

ot=σ(Whoht-1+Wxoxt+bo)

(11)

式中：Who、Wxo為輸入門的權(quán)重矩陣;bo為輸入門的偏置向量。

計(jì)算t時(shí)刻的隱藏層輸出

ht=ot°tanh(ct)

(12)

三個門結(jié)構(gòu)的相互配合使得LSTM網(wǎng)絡(luò)具有了一定時(shí)期內(nèi)的記憶能力,并且可以遺忘和刪除部分信息,能夠更好地處理時(shí)間序列數(shù)據(jù),因此采用LSTM網(wǎng)絡(luò)來對電力能耗數(shù)據(jù)進(jìn)行預(yù)測相較RNN具有更高的準(zhǔn)確度和穩(wěn)定性。

1.3 粒子群優(yōu)化算法

粒子群優(yōu)化(Particle swarm optimization,PSO)算法基于進(jìn)化計(jì)算技術(shù)[17],其基本思想是：通過種群內(nèi)各粒子之間的協(xié)同工作和信息共享來尋找最優(yōu)解。在實(shí)際編程應(yīng)用中,PSO借助一群只有速度和位置兩個屬性的個體來幫助計(jì)算,種群中粒子的速度和位置更新公式如式(13)所示

(13)

粒子最優(yōu)位置更新如式(14)所示

(14)

種群最優(yōu)位置更新如式(15)所示

(15)

本文主要使用PSO來對長短期記憶網(wǎng)絡(luò)的參數(shù)進(jìn)行尋優(yōu),主要參數(shù)有兩個：神經(jīng)元個數(shù)和訓(xùn)練迭代次數(shù)。具體尋優(yōu)流程如圖4所示,其中適應(yīng)度函數(shù)選取為LSTM網(wǎng)絡(luò)訓(xùn)練后的均方根誤差,通過粒子群算法的不斷迭代尋優(yōu),找到能夠使LSTM網(wǎng)絡(luò)訓(xùn)練后的損失函數(shù)最小的上述兩個參數(shù)值。

圖4 PSO尋優(yōu)流程圖

2 EMD-PSO-LSTM預(yù)測模型

2.1 預(yù)測模型作用流程

EMD-PSO-LSTM預(yù)測模型的作用流程如圖5所示,具體步驟如下：

圖5 EMD-PSO-LSTM模型預(yù)測流程圖

(1)對原始車間電力能耗數(shù)據(jù)進(jìn)行EMD分解,得到具有各自特征的IMF分量和趨勢分量;

(2)對分解得到的各個IMF分量和趨勢分量進(jìn)行數(shù)據(jù)歸一化,并劃分為訓(xùn)練集與預(yù)測集;

(3)分別以各個IMF分量和趨勢分量的訓(xùn)練集數(shù)據(jù)為輸入進(jìn)行各個LSTM網(wǎng)絡(luò)訓(xùn)練,同時(shí)采用粒子群算法對各個LSTM網(wǎng)絡(luò)的神經(jīng)元個數(shù)和訓(xùn)練迭代次數(shù)進(jìn)行尋優(yōu),找到各個LSTM網(wǎng)絡(luò)的最優(yōu)參數(shù)組合;

(4)應(yīng)用按照最優(yōu)參數(shù)設(shè)置并訓(xùn)練完成的LSTM網(wǎng)絡(luò)分別對各個分量進(jìn)行預(yù)測,得到各個分量預(yù)測結(jié)果;

(5)預(yù)測結(jié)束后,對各個分量的預(yù)測結(jié)果進(jìn)行反歸一化,并將預(yù)測結(jié)果進(jìn)行疊加,最終獲得對原始車間電力能耗數(shù)據(jù)的預(yù)測結(jié)果。

2.2 電力能耗數(shù)據(jù)EMD分解結(jié)果

電力能耗EMD結(jié)果如圖6所示,圖6(a)、圖6(b)和圖6(c)是分解出的IMF分量,圖6(d)是電力能耗序列的趨勢分量,其中都包含了電力能耗數(shù)據(jù)的部分特征。EMD分解將原始電力能耗序列的特征分別提取了出來,分解得到的信號具有更明顯的周期變化性,更適合采用LSTM網(wǎng)絡(luò)進(jìn)行預(yù)測。

圖6 EMD分解結(jié)果

2.3 粒子群算法尋優(yōu)效果

以分量IMF2為例,分別采用按照經(jīng)驗(yàn)選取參數(shù)的LSTM網(wǎng)絡(luò)和PSO算法參數(shù)尋優(yōu)的LSTM網(wǎng)絡(luò)進(jìn)行預(yù)測,預(yù)測結(jié)果如圖7所示。PSO算法迭代過程如圖8所示,可以看出當(dāng)?shù)螖?shù)大于33時(shí),LSTM網(wǎng)絡(luò)訓(xùn)練后的均方根誤差即適應(yīng)度函數(shù)趨于穩(wěn)定,此時(shí),神經(jīng)元個數(shù)取256,訓(xùn)練迭代次數(shù)取198。

圖7 IMF2預(yù)測效果對比圖

圖8 粒子群優(yōu)化迭代過程

從圖7可以看出,PSO-LSTM方法預(yù)測準(zhǔn)確度要高于單一的LSTM預(yù)測,為求對預(yù)測結(jié)果進(jìn)行定量分析,選取均方根誤差(RMSE)和平均絕對百分比誤差(MAPE)作為量化依據(jù),結(jié)果如表1所示。

表1 IMF2預(yù)測結(jié)果對比表

(16)

(17)

式中：yi為實(shí)際能耗數(shù)據(jù),xi為預(yù)測值。

根據(jù)表1所示,PSO-LSTM相較于單一的LSTM網(wǎng)絡(luò)而言,預(yù)測結(jié)果的兩個誤差都更小,因此,預(yù)測準(zhǔn)確度更高,預(yù)測穩(wěn)定性也較好。

3 試驗(yàn)結(jié)果與分析

在本試驗(yàn)中,采用江蘇某藥企中藥制造車間的電力能耗數(shù)據(jù)驗(yàn)證本文算法。所用的車間電力能耗數(shù)據(jù)如圖9所示,選擇2021年7月2日至2021年7月6日的數(shù)據(jù)作為訓(xùn)練數(shù)據(jù),2021年7月7日的數(shù)據(jù)作為測試數(shù)據(jù),數(shù)據(jù)時(shí)間間隔均為1 h。

圖9 車間電力能耗數(shù)據(jù)

分別使用RNN模型、LSTM模型、PSO-LSTM模型、EMD-LSTM模型和EMD-PSO-LSTM模型進(jìn)行預(yù)測,預(yù)測結(jié)果如表2所示。

表2 各模型預(yù)測結(jié)果對比表

各模型預(yù)測結(jié)果如圖10所示,圖10(a)～(e)分別是RNN模型、LSTM模型、PSO-LSTM模型、EMD-LSTM模型和EMD-PSO-LSTM模型的預(yù)測結(jié)果與實(shí)際電力能耗測試數(shù)據(jù)的對比圖。圖10(f)則是所有模型預(yù)測結(jié)果的對比圖。各模型預(yù)測準(zhǔn)確度從高到低依次是：EMD-PSO-LSTM模型、EMD-LSTM模型、PSO-LSTM模型、LSTM模型和RNN模型。

圖10 各模型預(yù)測結(jié)果及對比

結(jié)合表2與圖10的各項(xiàng)數(shù)據(jù)可以清晰看出：相較于RNN模型,LSTM模型對電力能耗數(shù)據(jù)的預(yù)測準(zhǔn)確度更高,說明LSTM網(wǎng)絡(luò)能夠更好地處理電力能耗數(shù)據(jù);而相較于單一的LSTM模型,EMD-LSTM模型和PSO-LSTM模型的預(yù)測準(zhǔn)確度又有明顯的提升,分別體現(xiàn)了數(shù)據(jù)分解和網(wǎng)絡(luò)內(nèi)部參數(shù)尋優(yōu)在提高預(yù)測精度方面的作用;EMD-PSO-LSTM模型通過使用PSO算法對各分量的LSTM模型進(jìn)行參數(shù)尋優(yōu),預(yù)測準(zhǔn)確度相較EMD-LSTM模型和PSO-LSTM模型又有明顯的提升。

4 結(jié)束語

本文通過引入EMD算法和PSO算法,把時(shí)間序列的電力能耗數(shù)據(jù)分解為各個IMF分量和趨勢分量,并將更好地反映了原始能耗數(shù)據(jù)不同特征和變化趨勢的各分量輸入LSTM網(wǎng)絡(luò)進(jìn)行預(yù)測,然后整合預(yù)測結(jié)果。同時(shí)對分別用于預(yù)測各分量的各個LSTM網(wǎng)絡(luò)進(jìn)行粒子群算法參數(shù)尋優(yōu),相較于按照經(jīng)驗(yàn)選取LSTM網(wǎng)絡(luò)參數(shù)的EMD-LSTM模型,準(zhǔn)確度有明顯提高。試驗(yàn)結(jié)果表明,本文提出的EMD-PSO-LSTM電力能耗預(yù)測模型能夠準(zhǔn)確預(yù)測未來24 h內(nèi)的電力能耗,預(yù)測精度較高,能夠提供較為準(zhǔn)確的電力能耗預(yù)測數(shù)據(jù)。