王 瑞, 楊煒煒,逯 靜
(1.河南理工大學(xué) 電氣工程與自動(dòng)化學(xué)院,河南 焦作 454000;2.河南理工大學(xué) 計(jì)算機(jī)科學(xué)與技術(shù)學(xué)院,河南 焦作 454000)
隨著社會(huì)的發(fā)展,人工神經(jīng)網(wǎng)絡(luò)受到了國(guó)內(nèi)外學(xué)者的青睞。最速梯度下降法是人工神經(jīng)網(wǎng)絡(luò)中修正參數(shù)較常用的算法之一,但其很容易陷入局部極小點(diǎn)無(wú)法逃脫。近年來(lái),粒子群優(yōu)化(PSO)算法、遺傳算法(GA)、模擬退火(SA)算法等應(yīng)用到神經(jīng)網(wǎng)絡(luò)的優(yōu)化,并取得較好的預(yù)測(cè)效果[1~3]。在實(shí)際預(yù)測(cè)中大多數(shù)預(yù)測(cè)模型都是建立單一預(yù)測(cè)模型進(jìn)行預(yù)測(cè),而對(duì)于復(fù)雜的電力系統(tǒng)可以采用多個(gè)模型組合組成新的模型[4,5]進(jìn)行負(fù)荷預(yù)測(cè)。文獻(xiàn)[6]對(duì)地區(qū)負(fù)荷進(jìn)行行業(yè)聚類(lèi),分析影響用電特性的主要因素,建立相關(guān)聚類(lèi)、關(guān)聯(lián)模型進(jìn)行預(yù)測(cè)。文獻(xiàn)[7]提出了一種模糊膜聚類(lèi)算法與改進(jìn)極限學(xué)習(xí)機(jī)相結(jié)合的組合預(yù)測(cè)方法。文獻(xiàn)[8]提出基于硬C均值(C-means)聚類(lèi)算法建立神經(jīng)網(wǎng)絡(luò)進(jìn)行電力系統(tǒng)短期負(fù)荷預(yù)測(cè)并取得了較好的預(yù)測(cè)效果。
考慮到負(fù)荷的周期性等特點(diǎn),本文應(yīng)用C均值聚類(lèi)的基本原理,采用同類(lèi)(聚類(lèi)分析后)特征數(shù)據(jù)作為預(yù)測(cè)輸入。將模糊C均值(fuzzy C-means,FCM)聚類(lèi)算法和改進(jìn)的RBF神經(jīng)網(wǎng)絡(luò)結(jié)合建立預(yù)測(cè)模型進(jìn)行預(yù)測(cè)。 應(yīng)用引入模擬退火思想的粒子群優(yōu)化(simulated annealing particle swarm optimization,SA-PSO)算法來(lái)改善徑向基函數(shù)(radial basis function,RBF)神經(jīng)網(wǎng)絡(luò)陷入局部極小值的缺陷。
RBF神經(jīng)網(wǎng)絡(luò)是與BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)相似、收斂速度更快的一種可以逼近任意非線(xiàn)性函數(shù)的神經(jīng)網(wǎng)絡(luò)。RBF神經(jīng)網(wǎng)絡(luò)(多輸入單輸出)輸出可描述為隱含層節(jié)點(diǎn)的線(xiàn)性組合
(1)
式中y為神經(jīng)網(wǎng)絡(luò)的輸出;M為隱含層神經(jīng)元的個(gè)數(shù);wi為第i個(gè)隱含層神經(jīng)元與輸出神經(jīng)元的連接權(quán)值,(i=1,2…m)。qi為第i個(gè)隱含層神經(jīng)元的輸出(本文采用最常用的高斯函數(shù)),即
(2)
式中X=[x1,x2…,xl]T為輸入向量,l為向量維數(shù),ci為高斯函數(shù)的中心;σ為高斯函數(shù)的方差;‖X-ci‖為歐氏范數(shù)。
RBF神經(jīng)網(wǎng)絡(luò)訓(xùn)練的過(guò)程就是對(duì)神經(jīng)網(wǎng)絡(luò)不斷調(diào)整參數(shù)和權(quán)值使樣本集總誤差盡可能小過(guò)程,即
(3)
FCM算法最早由Dunu J[9]提出,Bezdek等人進(jìn)行了完善和推廣。根據(jù)樣本集的特性指標(biāo)進(jìn)行聚類(lèi)分析,聚類(lèi)后的數(shù)據(jù)即構(gòu)成了分類(lèi)。設(shè)樣本為X=[x1,x2…,xl],聚類(lèi)數(shù)為C,建立目標(biāo)函數(shù)
(4)
式中uik為第k個(gè)樣本在第i類(lèi)中的隸屬度;zi為第i類(lèi)的中心;dik為第k個(gè)樣本到第i類(lèi)的中心距離
(5)
(6)
m為隸屬度的加權(quán)函數(shù)。其流程為:
Step1 給定初始參數(shù)m,一般取2。給定停止閾值δ以及迭代計(jì)數(shù)器b=0,初始化聚類(lèi)中心。
Step2 利用式(5)、式(6)不斷修正。
Step3 如果使得‖Ul+1-Ul‖<δ,則停止輸出劃分矩陣和聚類(lèi)中心;否則,令b=b+1,轉(zhuǎn)向步驟Step2。
Step4 按式(7)逐一計(jì)算待預(yù)測(cè)日的特征矢量與各聚類(lèi)中心的歐氏距離
(7)
以歐氏距離最短的類(lèi)別作為待預(yù)測(cè)的類(lèi)別選合適的樣本建立RBF神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測(cè)。
PSO算法是由Kennedy等人提出來(lái)的一種群體智能算法。文獻(xiàn)[10]已給出標(biāo)準(zhǔn)的PSO算法綜述,這里不再詳細(xì)論述。為了描述方便,簡(jiǎn)單介紹下標(biāo)準(zhǔn)PSO算法中粒子的更新。
粒子更新自身速度的公式為
(8)
粒子更新自身位置公式為
(9)
SA算法最早由Metropolis等人提出的,模擬固體更新退火冷卻過(guò)程的行為。SA的基本思想為從一定的解開(kāi)始,從鄰域中隨機(jī)產(chǎn)生另一個(gè)解,接受準(zhǔn)則允許目標(biāo)函數(shù)在一定范圍內(nèi)變壞并且以一定的概率[11]。
(10)
式中η為擾動(dòng)的參數(shù),ε為服從正態(tài)分布的隨機(jī)變量。
Step1 初始化各個(gè)參數(shù);
Step2 判斷是否滿(mǎn)足停止條件,若滿(mǎn)足轉(zhuǎn)到Step7,若不滿(mǎn)足執(zhí)行Step3-Step6;
Step3 計(jì)算每個(gè)粒子適應(yīng)度值;
Step4 按式(8)、式(9)更新pbestid和gbestd;
Step6 按照粒子群更新公式對(duì)粒子群的速度和位置進(jìn)行更新;
Step7 輸出最優(yōu)結(jié)果。
梯度下降法是最常用的求解神經(jīng)網(wǎng)絡(luò)參數(shù)方法之一,理論上其訓(xùn)練是沿著誤差曲面的斜面向下逼近的。而對(duì)于一個(gè)復(fù)雜的網(wǎng)絡(luò)而言,分布著許多局部極小點(diǎn)。在訓(xùn)練過(guò)程中,一旦陷人了這樣的局部極小點(diǎn)將無(wú)法逃脫。針對(duì)這問(wèn)題,本文采用SA-PSO算法來(lái)代替梯度下降法來(lái)修正網(wǎng)絡(luò)參數(shù)。利用SA-PSO算法強(qiáng)大的全局搜索能力,使得訓(xùn)練過(guò)程有機(jī)會(huì)跳出局部極小點(diǎn)得到全局最優(yōu)解。SA-PSO算法改進(jìn)RBF的流程圖如圖1。
圖1 SA-PSO-RBF神經(jīng)網(wǎng)絡(luò)算法流程
根據(jù)聚類(lèi)的狀態(tài)特征選一批日類(lèi)型、氣象條件、溫度與預(yù)測(cè)日相近的數(shù)據(jù)作為SA-PSO-RBF神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)輸入。本文提出的應(yīng)用FCM聚類(lèi)的預(yù)測(cè)模型,其模型圖如圖2所示。
圖2 FCM結(jié)合神經(jīng)網(wǎng)絡(luò)的流程
綜合考慮負(fù)荷數(shù)據(jù)、天氣、日類(lèi)型、溫度等影響負(fù)荷的主要因素,將歷史數(shù)據(jù)庫(kù)的預(yù)測(cè)樣本數(shù)據(jù)分成若干類(lèi)別,對(duì)預(yù)測(cè)日進(jìn)行預(yù)測(cè)時(shí)。首先通過(guò)式(7)識(shí)別找出與預(yù)測(cè)數(shù)據(jù)相似的類(lèi)別,并用對(duì)應(yīng)類(lèi)別已經(jīng)訓(xùn)練好的SA-PSO-RBF神經(jīng)網(wǎng)絡(luò)進(jìn)行短期的負(fù)荷預(yù)測(cè)。
從河南某縣電力公司采集2018年5~7月的負(fù)荷數(shù)據(jù)并進(jìn)行預(yù)測(cè)。圖3為該縣5月8~9日的負(fù)荷變化圖。
圖3 5月8日至9日負(fù)荷變化
從圖3中可以看出:兩天的負(fù)荷大小有所不同,但變化趨勢(shì)基本相同,一天內(nèi)負(fù)荷呈現(xiàn)周期性變化。
在特性指標(biāo)中,各指標(biāo)的數(shù)量級(jí)和量綱之間存在差異,可以通過(guò)歸一化的方法除數(shù)量級(jí)和量綱之間差異帶來(lái)的影響。對(duì)于溫度、工作日類(lèi)型等的描述不能直接作為神經(jīng)網(wǎng)絡(luò)的輸入,需要進(jìn)行量化處理。其映射關(guān)系見(jiàn)表1。
表1 特征量映射表
進(jìn)行預(yù)測(cè)前先對(duì)負(fù)荷數(shù)據(jù)進(jìn)行歸一化處理,公式如下
(11)
神經(jīng)網(wǎng)絡(luò)節(jié)點(diǎn)描述如表2所示。
表2 神經(jīng)網(wǎng)絡(luò)輸入輸出對(duì)應(yīng)表
預(yù)測(cè)性能指標(biāo)有三種,分別為最大絕對(duì)誤差(maximum absolute error,MAXAE)、平均絕對(duì)誤差(mean absolute error,MAE)、平均相對(duì)誤差(mean relative error,MRE)三種類(lèi)型公式如下
(12)
(13)
(14)
式中y′為負(fù)荷值的預(yù)測(cè)值,y為實(shí)際負(fù)荷值。
為了驗(yàn)證提出的FCM結(jié)合神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)模型預(yù)測(cè)的實(shí)效性。對(duì)河南某縣2018年5~7月的負(fù)荷數(shù)據(jù)進(jìn)行FCM聚類(lèi)。本文設(shè)置C為8,取δ=0.01。在 MATLAB平臺(tái)上進(jìn)行實(shí)驗(yàn)仿真,用單一的RBF神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型、SA-PSO神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型作為對(duì)組照組。三組預(yù)測(cè)結(jié)果如圖4所示,預(yù)測(cè)誤差對(duì)比圖如圖5所示。
圖4 各模型預(yù)測(cè)對(duì)比
圖5 預(yù)測(cè)誤差對(duì)比
由圖4可知,三種模型在負(fù)荷預(yù)測(cè)中都能有較好的效果。從圖5可以看出,本文提出的預(yù)測(cè)模型預(yù)測(cè)誤差更小,預(yù)測(cè)效果比單一的RBF神經(jīng)網(wǎng)絡(luò)和SA-PSO-RBF神經(jīng)網(wǎng)絡(luò)要好。
在表3中,從MAXAE,MAE,MRE三種預(yù)測(cè)性能指標(biāo)看出,第三組預(yù)測(cè)模型相有明顯的降低,證明該預(yù)測(cè)方法準(zhǔn)確度更高。
表3 模型預(yù)測(cè)結(jié)果
本文在對(duì)RBF神經(jīng)網(wǎng)絡(luò)分析的基礎(chǔ)上,采用FCM聚類(lèi)進(jìn)行數(shù)據(jù)處理。充分考慮了樣本空間的特征并進(jìn)行分類(lèi)。選取與預(yù)測(cè)日相似度高的作為神經(jīng)網(wǎng)絡(luò)的輸入,對(duì)預(yù)測(cè)日進(jìn)行預(yù)測(cè)。使得模型具有針對(duì)性,可以進(jìn)行可靠的預(yù)測(cè)。
構(gòu)建的SA-PSO-RBF神經(jīng)網(wǎng)絡(luò)在保證了PSO算法簡(jiǎn)單易實(shí)現(xiàn)的這一優(yōu)點(diǎn)的基礎(chǔ)上,增強(qiáng)了粒子的全局尋優(yōu)能力,加快算法運(yùn)算速度。通過(guò)實(shí)驗(yàn)仿真結(jié)果證明預(yù)測(cè)模型的預(yù)測(cè)結(jié)果誤差精度提高,取得了較好的預(yù)測(cè)效果。