王曉霞,徐曉鐘,張 彤,高超偉

(上海師范大學(xué) 信息與機(jī)電工程學(xué)院,上海 201400)

近年來,天然氣作為一種安全高效,經(jīng)濟(jì)環(huán)保的綠色能源,現(xiàn)在已經(jīng)被廣泛地應(yīng)用于國(guó)民生活和生產(chǎn)等各個(gè)領(lǐng)域.為了能夠合理且高效的使用燃?xì)赓Y源,這就需要燃?xì)膺\(yùn)營(yíng)企業(yè)對(duì)燃?xì)庳?fù)荷量有較為準(zhǔn)確的預(yù)測(cè).因此,如何根據(jù)歷史負(fù)荷數(shù)據(jù)以及可能影響因素,充分地利用數(shù)學(xué)和計(jì)算機(jī)知識(shí)選擇、建立合適的預(yù)測(cè)模型,并不斷提高燃?xì)忸A(yù)測(cè)精度已經(jīng)成為一項(xiàng)急需解決的技術(shù)問題,也是學(xué)術(shù)與工業(yè)領(lǐng)域重要的研究課題,具有極強(qiáng)的現(xiàn)實(shí)與工程意義.

在過去幾十年來,對(duì)負(fù)荷預(yù)測(cè)領(lǐng)域的研究總的來說主要集中于使用人工神經(jīng)網(wǎng)絡(luò)[1],支持向量機(jī)[2],專家系統(tǒng)[3],模糊邏輯[4],自回歸移動(dòng)平均[5]等基本方法.緊接著研究方向紛紛從最初的使用單一的預(yù)測(cè)模型轉(zhuǎn)向后來的各種組合預(yù)測(cè)模型,可以從各項(xiàng)研究案例中看出,負(fù)荷的預(yù)測(cè)精度的確得到了有效的提升.

而近年來,隨著深度學(xué)習(xí)技術(shù)的興起,學(xué)者們便逐漸地開始嘗試使用各種深度學(xué)習(xí)算法及其各種優(yōu)化的集成算法來進(jìn)行預(yù)測(cè).Cortez B等[6]使用LSTM來對(duì)緊急事件進(jìn)行預(yù)測(cè).Yang YT等[7]提出了一種新型的 CFCCLSTM模型來對(duì)海平面溫度進(jìn)行預(yù)測(cè),該模型的結(jié)構(gòu)包括一個(gè)全連接的LSTM網(wǎng)絡(luò)層和一個(gè)卷積層.并且通過實(shí)驗(yàn)驗(yàn)證了該模型的有效性.根據(jù)以往的研究成果來看,同樣地,單一的深度學(xué)習(xí)模型并不能夠很好的解決問題,因此,專家們便開始對(duì)深度學(xué)習(xí)算法的各種集成算法來展開研究.Qiu XH等[8]提出了一種EMD和深度學(xué)習(xí)算法DBN的集成模型,該方法既使用了EMD強(qiáng)大的信號(hào)分解能力,又利用了DBN良好的特征提取能力,最終得到了期望的預(yù)測(cè)性能.因此,深度學(xué)習(xí)算法的優(yōu)勢(shì)顯而易見.那么,有針對(duì)性的使用不同的深度學(xué)習(xí)算法并將其進(jìn)行算法集成便是一個(gè)很好的研究思路.Gensler A等[9]通過組合不同的深度學(xué)習(xí)算法來證明其在太陽能預(yù)測(cè)領(lǐng)域的預(yù)測(cè)性能確實(shí)優(yōu)于標(biāo)準(zhǔn)的MLP和其他的預(yù)測(cè)模型.

基于這種研究思路,進(jìn)一步提高燃?xì)庳?fù)荷預(yù)測(cè)的精度,本文提出了一個(gè)新穎的集成深度學(xué)習(xí)算法模型,主要通過EEMD,AutoEncoder和LSTM網(wǎng)絡(luò)的集成來進(jìn)行多步驟的燃?xì)庳?fù)荷預(yù)測(cè).該模型采用集合經(jīng)驗(yàn)?zāi)Ｊ椒纸馑惴?加入隨機(jī)的高斯白噪聲,改進(jìn)傳統(tǒng)經(jīng)驗(yàn)?zāi)Ｊ椒纸饽B(tài)混疊的問題.并且將燃?xì)庳?fù)荷的影響因子首先通過AutoEncoder進(jìn)行深層特征提取,避免了人工選擇特征的盲目性和繁瑣性,便于后續(xù)模型進(jìn)行預(yù)測(cè).最終使用LSTM網(wǎng)絡(luò)作為基本的模型來對(duì)燃?xì)庳?fù)荷數(shù)據(jù)進(jìn)行預(yù)測(cè),充分利用了LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)在時(shí)間序列數(shù)據(jù)方面的良好的預(yù)測(cè)性能.本文首次通過將EEMD算法,AutoEncoder和LSTM神經(jīng)網(wǎng)絡(luò)集成起來對(duì)燃?xì)庳?fù)荷數(shù)據(jù)進(jìn)行多步預(yù)測(cè),使得LSTM模型更能把握歷史負(fù)荷數(shù)據(jù)的內(nèi)在規(guī)律,預(yù)測(cè)更加有針對(duì)性,更加精準(zhǔn).

1 集成深度學(xué)習(xí)算法

本文所采用的EEAE-LSTM集成深度學(xué)習(xí)算法的特點(diǎn)主要有：使用LSTM神經(jīng)網(wǎng)絡(luò)進(jìn)行基本模型搭建,利用記憶因子的設(shè)置來自適應(yīng)的尋找數(shù)據(jù)序列在時(shí)間尺度上的聯(lián)系和特征；在此基礎(chǔ)上,使用自動(dòng)編碼器原理來對(duì)LSTM網(wǎng)絡(luò)的輸入數(shù)據(jù)不斷迭代訓(xùn)練找到數(shù)據(jù)序列中在空間尺度上的深層次特征,簡(jiǎn)化LSTM網(wǎng)絡(luò)的訓(xùn)練負(fù)擔(dān),舍去噪聲特征,增加網(wǎng)絡(luò)的預(yù)測(cè)精度；由于燃?xì)庳?fù)荷數(shù)據(jù)受多種因素的影響,所以算法中的第一步就要對(duì)數(shù)據(jù)進(jìn)行EEMD分解,找到不同因素影響下的序列,分別對(duì)其進(jìn)行預(yù)測(cè)最后重構(gòu)結(jié)果.這樣可以避免數(shù)據(jù)整體預(yù)測(cè)的模糊性,提高準(zhǔn)確性.

1.1 LSTM神經(jīng)網(wǎng)絡(luò)簡(jiǎn)介

LSTM[10-13]是一種特殊的循環(huán)神經(jīng)網(wǎng)絡(luò),其核心設(shè)計(jì)就是在循環(huán)神經(jīng)網(wǎng)絡(luò)隱藏層的神經(jīng)單元中增加一個(gè)記憶因子,如圖1所示.它通過神經(jīng)單元中的4種“門”結(jié)構(gòu)來控制在每個(gè)時(shí)間步t對(duì)記憶因子的修改,決定是否需要將信息繼續(xù)傳遞下去.“門”結(jié)構(gòu)的選擇記憶功能主要由sigmoid函數(shù)和點(diǎn)積操作來計(jì)算完成.它主要包括“遺忘門”,“輸入門”,“候選門”以及“輸出門”.各種門結(jié)構(gòu)的介紹和計(jì)算公式如下.

圖1 LSTM神經(jīng)單元結(jié)構(gòu)在時(shí)間上展開的示意圖

遺忘門：它決定需要從信息流中丟棄多少信息.通過sigmoid函數(shù)實(shí)現(xiàn)得到一個(gè)0～1之間的閾值.當(dāng)閾值越接近1,表示保留的信息就越多；反之則表示丟棄的信息越多.如式(1).

輸入門：它決定了當(dāng)前時(shí)刻的輸入it被添加到記憶信息流中的信息量,同樣通過一個(gè)激活函數(shù)來實(shí)現(xiàn).如式(2).

候選門：它用來計(jì)算當(dāng)前的輸入與過去的記憶所具有的信息總量.計(jì)算公式如式(3).

輸出門：它決定著將被繼續(xù)傳遞到下一時(shí)刻神經(jīng)單元中的信息量.計(jì)算如式(5).

其中,ot是一個(gè)大小在0和1之間的權(quán)重值,具體計(jì)算如式(6).

1.2 自動(dòng)編碼器與集合經(jīng)驗(yàn)?zāi)Ｊ椒纸馑惴?/h3>

1.2.1 自動(dòng)編碼器簡(jiǎn)介

自動(dòng)編碼器(AutoEncoder)[14-17]是深度學(xué)習(xí)算法的一種常見形式,是最基本的特征學(xué)習(xí)方式.傳統(tǒng)的自動(dòng)編碼器是一種無監(jiān)督形式的單隱層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),由輸入層、隱藏層和輸出層構(gòu)成.其核心設(shè)計(jì)就是它的目標(biāo)向量等于輸入向量,而在此基礎(chǔ)上自動(dòng)編碼器會(huì)通過不斷地網(wǎng)絡(luò)編碼和解碼過程對(duì)輸入向量的內(nèi)在特征進(jìn)行學(xué)習(xí),最終得到其深層表征方式.其網(wǎng)絡(luò)結(jié)構(gòu)如圖2所示.

圖2 自動(dòng)編碼器結(jié)構(gòu)圖

在圖1中,原始輸入數(shù)據(jù)經(jīng)過編碼和解碼處理,若重構(gòu)的輸出誤差在限定范圍內(nèi),即可認(rèn)定編碼過程是對(duì)輸入樣本數(shù)據(jù)的有效表達(dá).自動(dòng)編碼器可以將高維數(shù)據(jù)轉(zhuǎn)換為的低維表示.對(duì)于輸出層,假設(shè)輸入數(shù)據(jù)x={x1,x2,···,xn},且xi∈[0,1],自動(dòng)編碼器首先將x映射到一個(gè)隱藏層,利用隱藏層對(duì)其進(jìn)行表示為h={h1,h2,···,hm},且hm∈[0,1],這個(gè)過程被稱為編碼.它是整個(gè)自編碼網(wǎng)絡(luò)的核心,能夠反映具有嵌套結(jié)構(gòu)的高維數(shù)據(jù)集的本質(zhì)規(guī)律,并確定高維數(shù)據(jù)集的本質(zhì)維數(shù).隱藏層的輸出h的具體形式為：

其中,δ為一個(gè)非線性映射,如sigmoid函數(shù).

隱含層的輸出h被稱為隱含的特征變量,利用其隱含的變量來重構(gòu).在這里,輸出層的與輸入層的輸入x具有相同的結(jié)構(gòu),這個(gè)過程被稱為解碼.輸出層的輸出的具體形式為：

同時(shí),自動(dòng)編碼器學(xué)習(xí)目的是將輸入數(shù)據(jù)x通過轉(zhuǎn)換得到其隱藏層的表示h,然后由隱藏層重構(gòu),還原出新的輸入數(shù)據(jù).而其訓(xùn)練目標(biāo)就是使得重構(gòu)后的數(shù)據(jù)能夠盡量還原輸入數(shù)據(jù)x.由此,對(duì)于連續(xù)的數(shù)值型數(shù)據(jù)來說,構(gòu)建自動(dòng)編碼器的損失函數(shù)則通常采用均方誤差來定義：

利用梯度下降等最優(yōu)化算法,可以求解出模型的最優(yōu)參數(shù)w,b和c.

1.2.2 集合經(jīng)驗(yàn)?zāi)Ｊ椒纸馑惴ê?jiǎn)介

經(jīng)驗(yàn)?zāi)B(tài)分解[18,19]是一種自適應(yīng)的對(duì)數(shù)據(jù)序列或信號(hào)的平穩(wěn)化處理方法.其關(guān)鍵是它能使復(fù)雜信號(hào)分解為有限個(gè)IMF,而所分解出來的各IMF分量包含了原信號(hào)的不同時(shí)間尺度的局部特征信號(hào).當(dāng)使用EMD算法進(jìn)行時(shí)間序列分析時(shí)會(huì)產(chǎn)生模態(tài)混疊的問題,使得每一個(gè)IMF分量包含不同時(shí)間尺度特征成分.為了解決以上問題,使用集合經(jīng)驗(yàn)?zāi)B(tài)分解算法,其中加入了噪聲輔助信號(hào)處理的方法.EEMD[20]算法具體步驟如下：

其中,N為迭代次數(shù),wi(t)為第i次加入的白噪聲序列,Xi(t)為第i次加入噪聲后的復(fù)合序列；

Step 2.對(duì)復(fù)合數(shù)據(jù)序列X(t)進(jìn)行EMD分解,得到各階IMF分量,此時(shí)：

其中,n為分解后IMF的階數(shù),ci(t)為第i階IMF分量,rn(t)為剩余分量；

Step 3.迭代執(zhí)行Step 1,Step 2,在每次迭代中,白噪聲序列都是隨機(jī)生成的,最終得到多對(duì)IMF分量；

Step 4.利用高斯白噪聲頻譜的零均值原理,消除高斯白噪聲作為時(shí)域分布參考結(jié)構(gòu)帶來的影響.原始數(shù)據(jù)序列對(duì)應(yīng)的最終IMF分量cn(t),以及剩余分量rm(t)可以分別表示為：

Step 5.最終原始數(shù)據(jù)序列x(t)可以分解為：

式(14)中,cn(t)為最終EEMD分解后各階IMF分量,rm(t)為剩余分量.

1.3 集成深度學(xué)習(xí)算法

1.3.1 算法原理介紹

人工神經(jīng)網(wǎng)絡(luò)已經(jīng)廣泛應(yīng)用于燃?xì)庳?fù)荷預(yù)測(cè)中,而由于人工神經(jīng)網(wǎng)絡(luò)存在著網(wǎng)絡(luò)結(jié)構(gòu)難以確定,易陷入局部最小,無法從時(shí)間尺度上把握到時(shí)間序列數(shù)據(jù)的波動(dòng)趨勢(shì).文獻(xiàn)[21]使用了自動(dòng)編碼器和LSTM網(wǎng)絡(luò)的組合,將其成功應(yīng)用與金融時(shí)間序列的分析研究中,而本文提出一種EEAE-LSTM集成深度學(xué)習(xí)算法的燃?xì)庳?fù)荷數(shù)據(jù)預(yù)測(cè)方法.其關(guān)鍵是能夠從多種維度去把握數(shù)據(jù)序列的特征,結(jié)合這些維度下的特征來對(duì)數(shù)據(jù)做出一個(gè)比較準(zhǔn)確的預(yù)測(cè).

首先,本文考慮到燃?xì)庳?fù)荷數(shù)據(jù)是一種非線性非穩(wěn)態(tài)的序列型數(shù)據(jù),而且影響因素復(fù)雜多變,如果直接對(duì)其進(jìn)行預(yù)測(cè),并不能夠準(zhǔn)確把握其固有特征,因此,算法中采用集成經(jīng)驗(yàn)?zāi)Ｊ椒纸鈦韺⒃钾?fù)荷數(shù)據(jù)自適應(yīng)地分解為不同頻域下的IMF分量.其中不同的IMF分量對(duì)應(yīng)的則是不同數(shù)據(jù)序列在特定影響因素下的組成分量,代表了數(shù)據(jù)一個(gè)固有的震動(dòng)模態(tài),可以使數(shù)據(jù)特征在不同分辨率下顯示出來.

其次,本文針對(duì)傳統(tǒng)神經(jīng)網(wǎng)絡(luò)無法捕捉到燃?xì)鈹?shù)據(jù)在時(shí)間域上的特征,提出使用LSTM神經(jīng)網(wǎng)絡(luò)來進(jìn)行基本模型的構(gòu)建,充分利用了LSTM網(wǎng)絡(luò)特有的記憶結(jié)構(gòu)對(duì)時(shí)間序列數(shù)據(jù)的友好性和適用性,同時(shí)又解決了一般循環(huán)神經(jīng)網(wǎng)絡(luò)長(zhǎng)期依賴的問題.并且網(wǎng)絡(luò)結(jié)構(gòu)綜合考慮了當(dāng)前數(shù)據(jù)與前面數(shù)據(jù)的關(guān)系,使用記憶因子自適應(yīng)的保留了有價(jià)值的信息,進(jìn)有選擇的進(jìn)行信息傳遞.體現(xiàn)了數(shù)據(jù)序列在時(shí)間尺度上的聯(lián)系和內(nèi)在特征.

最后,由于燃?xì)鈹?shù)據(jù)受天氣、氣溫、濕度、日期類型等多種復(fù)雜因素的影響.在預(yù)測(cè)時(shí)不得不考慮所有可能影響因子,而目前的人工選擇特征卻有不可避免的盲目性和繁瑣性.因此,本文考慮對(duì)多種可能影響因素進(jìn)行自動(dòng)化特征提取.而自動(dòng)編碼器可以對(duì)一些無標(biāo)注的數(shù)據(jù)不斷地進(jìn)行重構(gòu),最終學(xué)習(xí)到數(shù)據(jù)的深層特征表示.自動(dòng)編碼的過程簡(jiǎn)便且高效,可以較為理想的提取到多個(gè)影響因子的深層次特征.具體如算法1.

算法1.自動(dòng)編碼算法主要參數(shù)：Nstd=0.2；NE=100；batch_size=20；Time_steps=10；Dropout=10%輸入：負(fù)荷序列,影響因子序列images/BZ_54_1535_2180_1718_2213.pngimages/BZ_54_1290_2216_1390_2266.png][輸出：訓(xùn)練完成的EEAE-LSTM集成模型1.數(shù)據(jù)的EEMD算法分解(1)在 中反復(fù)加入高斯白噪聲images/BZ_54_1918_2420_1968_2453.png得到images/BZ_54_2039_2420_2252_2453.png,i=1,2,…,N；images/BZ_54_1380_2420_1563_2453.png(2)對(duì) 進(jìn)行EMD分解得到images/BZ_54_1728_2515_2016_2585.png,i=1,2,…,N；images/BZ_54_1371_2531_1438_2565.png(3)對(duì)N次迭代后的 結(jié)果求平均可以得到EEMD分解后最終的IMF分量為images/BZ_54_1500_2632_1733_2707.png,images/BZ_54_1743_2632_2012_2707.png.2.影響因子的自動(dòng)編碼器提取(1)確定自動(dòng)編碼器網(wǎng)絡(luò)結(jié)構(gòu)；(2)選擇網(wǎng)絡(luò)中激活函數(shù)及優(yōu)化器等超參數(shù)；[images/BZ_54_1591_2591_1658_2624.png(3)將 輸入到網(wǎng)絡(luò)中進(jìn)行編碼和解碼操作；images/BZ_54_1368_2857_1764_2907.png](4)自動(dòng)編碼器網(wǎng)絡(luò)訓(xùn)練結(jié)束得到最終的特征因子序列.images/BZ_54_1290_2975_1403_3004.png3.將步驟1和步驟2得到的結(jié)果組成不同IMF分量的訓(xùn)練矩陣,；images/BZ_54_1290_3076_1315_3105.pngimages/BZ_54_1324_3067_1515_3105.pngimages/BZ_54_1962_2171_2262_2221.pngimages/BZ_54_2175_2925_2262_2954.png

4.LSTM神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)(1)確定LSTM網(wǎng)絡(luò)結(jié)構(gòu)及設(shè)置超參數(shù)；(2)定義損失函數(shù)Loss；(3)搭建LSTM模型并將 作為輸入數(shù)據(jù)進(jìn)行訓(xùn)練；images/BZ_55_571_601_596_630.png(4)將各個(gè)訓(xùn)練矩陣 所得到預(yù)測(cè)值進(jìn)行重構(gòu)得到最終的預(yù)測(cè)結(jié)果images/BZ_55_498_652_523_681.png

1.3.2 集成深度學(xué)習(xí)算法框架

本文所提出的集成深度學(xué)習(xí)算法完整的算法框架如圖3.

圖3 深度學(xué)習(xí)算法框架

基于EEAE-LSTM集成深度學(xué)習(xí)算法的燃?xì)庳?fù)荷預(yù)測(cè)步驟如下：

Step 1.分析燃?xì)庳?fù)荷數(shù)據(jù)序列的波動(dòng)趨勢(shì),數(shù)據(jù)特點(diǎn),相關(guān)影響因素以及數(shù)據(jù)是否完整、干凈等,對(duì)數(shù)據(jù)中存在的異常數(shù)據(jù)進(jìn)行預(yù)處理等.

Step 2.使用集合經(jīng)驗(yàn)?zāi)Ｊ椒纸馑惴▽⒇?fù)荷序列分解為多個(gè)IMF分量和余項(xiàng).

Step 3.將燃?xì)庳?fù)荷數(shù)據(jù)的影響因素輸入到自動(dòng)編碼器(AutoEncoder)中進(jìn)行特征提取并做非線性降維處理.

Step 4.將EEMD分解得到的每個(gè)子序列分別與AE提取到的特征序列組成不同的訓(xùn)練矩陣.然后,針對(duì)不同的子序列對(duì)應(yīng)的訓(xùn)練矩陣建立相應(yīng)的LSTM模型,分別進(jìn)行預(yù)測(cè),最后對(duì)各個(gè)預(yù)測(cè)結(jié)果進(jìn)行先行重構(gòu)得到最終預(yù)測(cè)結(jié)果.

2 仿真分析

2.1 數(shù)據(jù)描述

實(shí)驗(yàn)所需要的數(shù)據(jù)集為2014～2017年上海市市北每日居民生活用氣數(shù)據(jù),共有1261條,每條數(shù)據(jù)包含日期類型,最高溫度,最低溫度,平均溫度,天氣類型,歷史負(fù)荷值等字段.為了驗(yàn)證本文所提出方法的準(zhǔn)確性,健壯性及泛化能力,將該數(shù)據(jù)分為4個(gè)數(shù)據(jù)子集,如表1所示,且下述實(shí)驗(yàn)將分別在這4個(gè)子集上進(jìn)行模型的訓(xùn)練和測(cè)試.

表1 實(shí)驗(yàn)數(shù)據(jù)子集劃分

2.2 EEMD分解結(jié)果

針對(duì)燃?xì)庳?fù)荷數(shù)據(jù)的時(shí)序非線性,非平穩(wěn)性以及一定的周期連續(xù)性,采用EEMD算法可以有效的對(duì)原始數(shù)據(jù)進(jìn)行平穩(wěn)化處理.示例使用上海市市北2017年1月1日～2017年12月27日一年的生活用氣進(jìn)行EEMD分解算法,將原始的燃?xì)庳?fù)荷數(shù)據(jù)分解結(jié)果如圖 4～圖 12.

圖4 原始負(fù)荷序列

圖5 EEMD分解結(jié)果-IMF1

圖6 EEMD分解結(jié)果-IMF2

圖7 EEMD分解結(jié)果-IMF3

從圖中可以看出,原始的燃?xì)庳?fù)荷序列通過EEMD算法被分解為7個(gè)IMF分量和一個(gè)剩余項(xiàng).IMF1～2為高頻分量,負(fù)荷具有一定的隨機(jī)性,可能為氣候等隨機(jī)影響因子,規(guī)律難以捕捉.IMF3～4為中頻分量,負(fù)荷具有一定的周期性,可能影響因素為用戶工作,生活習(xí)慣等.IMF5～7為低頻分量,負(fù)荷具有明顯的周期性,可能影響因素為溫度,歷史負(fù)荷值等.Residual為剩余項(xiàng),反映了負(fù)荷的總體變化趨勢(shì),可能影響因素為季節(jié),日期類型等.通過EEMD分解,可以將燃?xì)庳?fù)荷數(shù)據(jù)中真實(shí)存在的不同尺度波動(dòng)或趨勢(shì)逐級(jí)分解出來,產(chǎn)生一系列具有不同特征時(shí)間尺度的數(shù)據(jù)序列,分別反映了各自時(shí)間尺度上的內(nèi)在特征.

圖8 EEMD分解結(jié)果-IMF4

圖9 EEMD分解結(jié)果-IMF5

圖10 EEMD分解結(jié)果-IMF6

圖11 EEMD分解結(jié)果-IMF7

圖12 EEMD分解結(jié)果-Residual

2.3 影響因子特征提取

通過將影響因子向量輸入到自動(dòng)編碼器中,可以提取到其深層特征因子,如圖13所示.明顯可以看出,特征因子序列有一定的規(guī)律性.影響因子數(shù)值大概在0.4～1.2之間以5個(gè)單位值的周期來波動(dòng).可見,自動(dòng)編碼器能夠很好地捕捉到燃?xì)庳?fù)荷數(shù)據(jù)影響因子的深層特征.該特征因子序列用于下一步與各個(gè)IMF分量組成LSTM預(yù)測(cè)模型的訓(xùn)練矩陣,進(jìn)而進(jìn)行很好地預(yù)測(cè)燃?xì)馊肇?fù)荷值.

圖13 自動(dòng)編碼器的影響因子特征提取結(jié)果

2.4 負(fù)荷預(yù)測(cè)

在負(fù)荷預(yù)測(cè)階段,將第一步中EEMD分解得到的每個(gè)子序列分別與第二步中AutoEncoder提取到的特征序列組成不同IMF分量的訓(xùn)練矩陣.然后再針對(duì)不同的IMF分量對(duì)應(yīng)的訓(xùn)練矩陣建立相應(yīng)的LSTM模型,分別進(jìn)行預(yù)測(cè),最后對(duì)各個(gè)預(yù)測(cè)結(jié)果進(jìn)行線性重構(gòu)得到最終的預(yù)測(cè)結(jié)果.

這部分給出了本文所提出方法EEAE-LSTM以及其他3個(gè)對(duì)比模型LSTM,AE-LSTM,EEMD-LSTM的燃?xì)庳?fù)荷預(yù)測(cè)結(jié)果.

如圖14是在數(shù)據(jù)集DataSet1下的燃?xì)庳?fù)荷預(yù)測(cè)曲線,圖15是在數(shù)據(jù)集DataSet1下的燃?xì)庳?fù)荷預(yù)測(cè)誤差圖,表2則具體給出了各個(gè)模型在不同數(shù)據(jù)子集下的誤差情況.由于篇幅有限,這部分只參考DataSet1數(shù)據(jù)子集作為展示研究成果的示例.

從實(shí)驗(yàn)結(jié)果可以得到,該部分主要研究了不同模型在不同的數(shù)據(jù)子集下的預(yù)測(cè)結(jié)果和誤差情況.然而為了燃?xì)庳?fù)荷預(yù)測(cè)方法的進(jìn)一步研究,在本文的這部分部分則僅采用DataSet1數(shù)據(jù)子集作為模型的對(duì)比和分析的數(shù)據(jù)依據(jù),同樣能夠代表模型算法之間的差異性和通用性.

從圖14和圖15以及表2中可以看出：

(1)在MAPE(%)誤差圖中,AE-LSTM與EEMDLSTM的誤差接近,分別為1.852%,1.738%,但也均低于單一的LSTM模型,為2.120%.而本文所提出方法EEAE-LSTM相對(duì)于AE-LSTM,EEMD-LSTM,LSTM的MAPE誤差分別降低了17.8%,12.5%以及28.3%.證明了其有效性,在燃?xì)庳?fù)荷預(yù)測(cè)方面具有不錯(cuò)的預(yù)測(cè)表現(xiàn).

(2)在詳細(xì)的MAPE,RMSE誤差表中,相對(duì)于單一的LSTM模型,其他集成模型的MAPE降低了12.6%～28.3%,而RMSE則降低了12.4%～21.3%.從數(shù)據(jù)角度分析,深度學(xué)習(xí)的集成算法在預(yù)測(cè)精度方面確實(shí)要比單一的深度學(xué)習(xí)模型要好.

(3)AE-LSTM和EEMD-LSTM的預(yù)測(cè)表現(xiàn)接近,說明不管是使用AutoEncoder還是EEMD,均能夠很好的在數(shù)據(jù)進(jìn)入模型預(yù)測(cè)之前捕捉到原始負(fù)荷數(shù)據(jù)序列的內(nèi)在特征.

(4)本文所提出的EEAE-LSTM多步預(yù)測(cè)算法的預(yù)測(cè)表現(xiàn)確實(shí)要明顯優(yōu)于AE-LSTM和EEMD-LSTM,說明所提出的方法在不同模型的集成方面的可行性以及有效性.主要是考慮到原始負(fù)荷序列的非平穩(wěn)化的特性,先使用EEMD算法進(jìn)行逐級(jí)分解,找到在不同時(shí)間尺度上,負(fù)荷序列真實(shí)的變化趨勢(shì),接著再使用自動(dòng)編碼器對(duì)影響因子進(jìn)行特征提取.兩種方法的有效結(jié)合,更能把握到數(shù)據(jù)的真實(shí)特性和深層次的特征表示.

(5)分析表2數(shù)據(jù),由于每個(gè)數(shù)據(jù)集的數(shù)據(jù)量不同,所以僅選擇從縱向?qū)Ρ雀鱾€(gè)算法的時(shí)間復(fù)雜度最為合理.表中可以看出通過不同算法的集成預(yù)測(cè),在時(shí)間復(fù)雜度上顯然要大于單一的LSTM神經(jīng)網(wǎng)絡(luò),而本文所提出的的EEAE-LSTM算法是所有對(duì)比模型中最大的.因?yàn)槎喾N模型的集成必將不可避免的導(dǎo)致模型復(fù)雜度的增加,從而增加模型預(yù)測(cè)的時(shí)間復(fù)雜度.而對(duì)于燃?xì)庳?fù)荷數(shù)據(jù),如何提高預(yù)測(cè)精度是目前狀況下首要解決的問題,本文提出的集成深度學(xué)習(xí)算法是一種用效率換性能的預(yù)測(cè)方法.

表2 各個(gè)模型在不同數(shù)據(jù)集下的MAPE和RMSE

3 結(jié)論與展望

針對(duì)現(xiàn)有燃?xì)庳?fù)荷預(yù)測(cè)精度難以提升的情況,本文提出了一種新型的集成深度學(xué)習(xí)算法來對(duì)燃?xì)庳?fù)荷進(jìn)行多步預(yù)測(cè).該算法首次通過將EEMD,AutoEncoder和LSTM神經(jīng)網(wǎng)絡(luò)集成起來對(duì)燃?xì)庳?fù)荷數(shù)據(jù)進(jìn)行多步預(yù)測(cè),分別從時(shí)間尺度和空間尺度把握了燃?xì)鈹?shù)據(jù)的內(nèi)在特性,使得預(yù)測(cè)更加有針對(duì)性,更加精準(zhǔn).討論實(shí)驗(yàn)結(jié)果,并且證明了該方法在燃?xì)庳?fù)荷預(yù)測(cè)方面的預(yù)測(cè)精度的確有所提高.