李智勇 蘇寅生 李斌 劉春曉 李豹 譚守標(biāo)

摘 要：為了預(yù)測(cè)家庭短期電力負(fù)荷，提出一種基于多任務(wù)貝葉斯時(shí)空高斯過(guò)程的電力負(fù)荷預(yù)測(cè)方法，有效地捕捉不同居住社區(qū)之間的關(guān)聯(lián)性和家庭之間的局部空間變化。為了更好地捕捉不同居住社區(qū)之間關(guān)聯(lián)性，提出了一種新的多任務(wù)學(xué)習(xí)方法，即低秩Dirty模型，通過(guò)使用“公共特征集”和“共享低秩結(jié)構(gòu)”來(lái)改進(jìn)多任務(wù)貝葉斯時(shí)空高斯過(guò)程的學(xué)習(xí)。為了克服低階dirty模型和高斯過(guò)程參數(shù)聯(lián)合估計(jì)的困難，提出了一種迭代算法。實(shí)驗(yàn)結(jié)果表明，與已有的幾種方法相比，該方法可以有效地預(yù)測(cè)電力負(fù)荷。

關(guān)鍵詞：負(fù)荷預(yù)測(cè);多任務(wù)學(xué)習(xí);高斯過(guò)程;關(guān)聯(lián)性;低秩結(jié)構(gòu)

DOI：10.15938/j.jhust.2021.04.007

中圖分類號(hào)：TP391.3

文獻(xiàn)標(biāo)志碼：A

文章編號(hào)：1007-2683（2021）04-0046-10

Abstract：In order to forecast short-term household power load， a power load forecasting method based on multi-task Bayesian spatiotemporal Gaussian process（MT-BSGP） is proposed. The proposed method can effectively capture the relationship between different residential communities and the local spatial changes between families. In order to better capture the relevance between different residential communities， a new multi-task learning（MTL） method， namely low rank dirty model（LRDM）， is proposed. The proposed model improves the learning of multi-task Bayesian spatiotemporal Gaussian process by using “common set of features” and “shared low-rank structure”. In order to overcome the difficulty of joint estimation of LRDM and Gaussian process（GP） parameters， an iterative algorithm is proposed. The experimental results show that the proposed method can effectively forecast the power load compared with the existing methods.

Keywords：load forecasting; multi-task learning; Gaussian process; relevance; low-rank structure

0 引 言

負(fù)荷預(yù)測(cè)對(duì)于平衡電力供需、避免電網(wǎng)不穩(wěn)定至關(guān)重要[1-4]。短期負(fù)荷預(yù)測(cè)主要是對(duì)一小時(shí)到一周的用電負(fù)荷進(jìn)行預(yù)測(cè)，可以指導(dǎo)電力公司和發(fā)電廠通過(guò)按需發(fā)電來(lái)調(diào)節(jié)發(fā)電量以滿足市場(chǎng)需求[5-9]。然而，由于電網(wǎng)的復(fù)雜性和用電量的不確定性，負(fù)荷預(yù)測(cè)仍然具有挑戰(zhàn)性。隨著新數(shù)據(jù)分析技術(shù)的發(fā)展，智能電表等先進(jìn)數(shù)據(jù)采集系統(tǒng)的應(yīng)用，提高了負(fù)荷預(yù)測(cè)水平。近年來(lái)，基于機(jī)器學(xué)習(xí)的負(fù)荷預(yù)測(cè)方法得到了越來(lái)越多的關(guān)注。例如，自回歸綜合移動(dòng)平均（autoregressive integrated moving average，ARIMA）模型是最常用的方法之一[10]，多線性回歸和高斯過(guò)程回歸也是電力負(fù)荷預(yù)測(cè)的有效方法[11]。在機(jī)器學(xué)習(xí)領(lǐng)域，支持向量機(jī)、人工神經(jīng)網(wǎng)絡(luò)是應(yīng)用廣泛的電力負(fù)荷預(yù)測(cè)方法。大多數(shù)現(xiàn)有的基于機(jī)器學(xué)習(xí)的負(fù)荷預(yù)測(cè)方法，包括到前面提到的方法都屬于單任務(wù)學(xué)習(xí)（single-task learning，STL）方法的范疇。然而，STL方法的預(yù)測(cè)性能受到數(shù)據(jù)缺失、測(cè)量錯(cuò)誤、測(cè)量分辨率低的影響。

近年來(lái)，在多任務(wù)學(xué)習(xí)框架下，多個(gè)模型在多個(gè)數(shù)據(jù)源上聯(lián)合學(xué)習(xí)。融合來(lái)自多個(gè)數(shù)據(jù)源的用電量數(shù)據(jù)，為提高負(fù)荷預(yù)測(cè)水平提供了新的契機(jī)。Zhang等[12]研究了多任務(wù)高斯過(guò)程在電力負(fù)荷預(yù)測(cè)中的應(yīng)用。Fiot等[13]使用了一種基于核的MTL方法，稱為低秩輸出核學(xué)習(xí)（low-rank output kernel learning，LR-OKL），用于配電站的中期負(fù)荷預(yù)測(cè)。在機(jī)器學(xué)習(xí)領(lǐng)域，通常采用基于正則化的策略來(lái)提取多個(gè)數(shù)據(jù)源之間的相似知識(shí)或變化模式，以提高學(xué)習(xí)性能（稱為相關(guān)性）。該方法引入了一定的正則化項(xiàng)，將加權(quán)懲罰項(xiàng)應(yīng)用于目標(biāo)函數(shù)的學(xué)習(xí)[14]。MTL也被開(kāi)發(fā)用來(lái)處理高斯過(guò)程模型的MTL[15]。雖然先前的研究已經(jīng)證明了MTL方法的潛力，但是從多個(gè)任務(wù)中找出數(shù)據(jù)集之間的相關(guān)性仍然是一個(gè)巨大的挑戰(zhàn)。

從應(yīng)用角度來(lái)看，大量的負(fù)荷預(yù)測(cè)研究?jī)H使用歷史用電量數(shù)據(jù)進(jìn)行預(yù)測(cè)。最近，電力負(fù)荷預(yù)測(cè)研究超越了只考慮歷史用電量數(shù)據(jù)的方法，并將天氣條件納入其中，以提高預(yù)測(cè)精度。系統(tǒng)體系、多網(wǎng)絡(luò)理論和“智能城市”概念的出現(xiàn)，鼓勵(lì)了新的研究，這些研究考慮了電力網(wǎng)絡(luò)與其它基礎(chǔ)設(shè)施網(wǎng)絡(luò)的相互依賴性和互聯(lián)性。該文提出的模型受文[16]的啟發(fā)，提出了配電網(wǎng)中交通負(fù)荷與用電量的關(guān)系框架。文[16]對(duì)電力和交通負(fù)荷的聯(lián)合預(yù)測(cè)結(jié)果表明，將交通數(shù)據(jù)和機(jī)動(dòng)車信息作為預(yù)測(cè)因子可以提高電力負(fù)荷預(yù)測(cè)的準(zhǔn)確性。因此，該文采用用電量數(shù)據(jù)、交通量數(shù)據(jù)和氣象參數(shù)相結(jié)合作為短期電力負(fù)荷預(yù)測(cè)的預(yù)測(cè)因子。

該文旨在改進(jìn)基于多任務(wù)學(xué)習(xí)（MTL）框架的短期負(fù)荷預(yù)測(cè)，其中一個(gè)“任務(wù)”是指學(xué)習(xí)每個(gè)居民小區(qū)的負(fù)荷預(yù)測(cè)模型，“多任務(wù)”是指通過(guò)融合多個(gè)社區(qū)的數(shù)據(jù)，共同學(xué)習(xí)多個(gè)社區(qū)的負(fù)荷預(yù)測(cè)模型。具體就是，將城市中多個(gè)居住社區(qū)在相似條件或設(shè)置下的訓(xùn)練數(shù)據(jù)進(jìn)行融合，通過(guò)探索不同社區(qū)間數(shù)據(jù)模式的相似性，共同學(xué)習(xí)社區(qū)間的相關(guān)性。因此，利用關(guān)聯(lián)性概念來(lái)描述環(huán)境和交通條件對(duì)多個(gè)居住社區(qū)用電量的相似影響是可行的。在居民外出上班的早晨，居民區(qū)附近的交通量更大，導(dǎo)致居民家庭用電量減少，直到下午人們回家。此外，由于空調(diào)負(fù)荷的影響，用電量隨環(huán)境溫度的變化而變化。環(huán)境和交通數(shù)據(jù)對(duì)電力消費(fèi)的影響在一個(gè)城市的不同居民社區(qū)中有相似之處。此外，可能存在一些特定于社區(qū)的信息，例如社區(qū)內(nèi)的局部時(shí)空變化，這些信息不在社區(qū)之間共享。從方法論的角度來(lái)看：①傳統(tǒng)的MTL方法，包括基于正則化的方法[17]和基于核的方法[15]，并沒(méi)有區(qū)分在社區(qū)間普遍共享的總體趨勢(shì)和局部時(shí)空變化;②基于正則化的MTL方法通過(guò)在目標(biāo)函數(shù)中引入一些正則化項(xiàng)來(lái)表征相關(guān)性，這些正則化項(xiàng)是基于“公共特征集”或“共享低秩結(jié)構(gòu)”，它們只部分地捕捉不同任務(wù)之間的關(guān)聯(lián)性。

本文針對(duì)現(xiàn)有方法的不足，提出了一種基于多任務(wù)貝葉斯時(shí)空高斯過(guò)程（MT-BSGP）的短期電力負(fù)荷預(yù)測(cè)方法。

1 多任務(wù)貝葉斯時(shí)空高斯過(guò)程（MT-BSGP）

為了預(yù)測(cè)電力負(fù)荷，提出一個(gè)用于負(fù)荷預(yù)測(cè)的MT-BSGP。首先，提出了融合社區(qū)環(huán)境和交通數(shù)據(jù)的預(yù)測(cè)模型的結(jié)構(gòu);然后，建立了估計(jì)MT-BSGP的學(xué)習(xí)問(wèn)題;再次，介紹了現(xiàn)有的基于正則化的MTL方法;為了提高M(jìn)T-BSGP的學(xué)習(xí)性能，提出了LRDM;最后，通過(guò)迭代算法學(xué)習(xí)MTL框架下的模型參數(shù)實(shí)現(xiàn)LRDM。

1.1 社區(qū)預(yù)測(cè)模型

單個(gè)社區(qū)的用電量E預(yù)測(cè)如下：

其中：μ表示用電量數(shù)據(jù)的平均偏移或趨勢(shì)模式;η表示數(shù)據(jù)中相關(guān)的隨機(jī)過(guò)程;ε表示噪聲，其為正態(tài)分布的獨(dú)立同分布，且均值為零，方差為σ2ε。μ和η反映了數(shù)據(jù)之間的系統(tǒng)級(jí)相關(guān)性，可用于提高預(yù)測(cè)精度。

有很多方法可以擴(kuò)展η。一種常用的方法是根據(jù)用戶的用電模式將相似或相關(guān)的行為分組到一個(gè)簇中。因此，η可以擴(kuò)展為基于同一簇內(nèi)消費(fèi)者數(shù)據(jù)的預(yù)測(cè)因子[18]。如果消費(fèi)者表現(xiàn)為空間聚集模式，η可以用空間相關(guān)過(guò)程來(lái)表征，其原因包括：①電網(wǎng)的拓?fù)洳季趾宛伨€的側(cè)聯(lián)性。②居住區(qū)的人口統(tǒng)計(jì)和地形特征，包括土地利用、建筑類型、建筑規(guī)模、景觀設(shè)計(jì)、家庭收入水平，從而導(dǎo)致住戶的空間相關(guān)過(guò)程用電模式。例如，一個(gè)社區(qū)的大多數(shù)建筑遵循相似的設(shè)計(jì)和足跡，由同一個(gè)開(kāi)發(fā)商和類似的建筑材料建造，這些材料使建筑具有相似的絕緣、建筑圍護(hù)結(jié)構(gòu)等，從而導(dǎo)致類似的電力消耗。消費(fèi)者活動(dòng)中的相關(guān)性進(jìn)一步導(dǎo)致了相關(guān)的用電行為，因?yàn)猷徑鐓^(qū)中類似環(huán)境和交通道路條件導(dǎo)致消費(fèi)者活動(dòng)往往是相關(guān)的。

上述原因反映了人類-電力系統(tǒng)中導(dǎo)致空間依賴性的系統(tǒng)級(jí)原因是全球趨勢(shì)、空間相關(guān)過(guò)程（通常是高斯過(guò)程）和獨(dú)立變化的組合。因此，上述模型可以簡(jiǎn)化為：

式（2）為一個(gè)貝葉斯時(shí)空高斯過(guò)程（Bayesian spatiotemporal Gaussian process，BSGP）模型。GP為高斯過(guò)程參數(shù)。采用式（2）的一個(gè)目的是，在歷史數(shù)據(jù)有限甚至沒(méi)有數(shù)據(jù)的情況下預(yù)測(cè)家庭的電力負(fù)荷。大多數(shù)的預(yù)測(cè)方法都需要一定數(shù)量的歷史記錄來(lái)記錄感興趣的家庭（或地點(diǎn)）。BSGP模型可以在沒(méi)有足夠歷史數(shù)據(jù)的情況下，利用鄰居的信息預(yù)測(cè)電力負(fù)荷。

假設(shè)均值μ為與電力消耗相關(guān)的變量的線性模型。s表示每個(gè)房屋的位置和時(shí)間t的索引。μ可以展開(kāi)為：μ（s，t）=∑i∑jXij（s，t）βj。本文提出的模型受到了文[7]中提供的交通與電網(wǎng)之間因果關(guān)系的啟發(fā)，將這兩個(gè)變量用于負(fù)荷預(yù)測(cè)。因此，在本文中，設(shè)定X為輸入變量，可以包含用電量數(shù)據(jù)、小區(qū)附近的交通量（Tr）、溫度（T）、濕度（H）和太陽(yáng)輻射（S）等參數(shù)。而且，家庭數(shù)量和收入水平等社會(huì)經(jīng)濟(jì)因素也可以在負(fù)荷預(yù)測(cè)中發(fā)揮重要作用，并有可能納入預(yù)測(cè)模型。當(dāng)這些輸入數(shù)據(jù)可用時(shí)，它們可作為線性項(xiàng)包含在模型中。此外，生活水平會(huì)對(duì)平均耗電量以及用電模式的時(shí)間波動(dòng)產(chǎn)生影響。平均生活水平也可以納入模型中。然而，短期內(nèi)社區(qū)所有家庭的生活水平相對(duì)穩(wěn)定，因此不影響所提出的負(fù)荷預(yù)測(cè)方法的性能。

向量β是輸入變量的系數(shù)。例如，如果存在M個(gè)房屋和τ個(gè)的時(shí)間點(diǎn)，則μ可以展開(kāi)為：

其中：n為觀測(cè)次數(shù);時(shí)間序列模型中的時(shí)間間隔p由自相關(guān)函數(shù)（autocorrelation function，ACF）確定。用偏自相關(guān)函數(shù)（partial autocorrelation function，PACF）求出模型中需要多少個(gè)早期觀測(cè)值。β→=[β1，…，βp+4]表示輸入變量對(duì)電力消耗的影響，變量的個(gè)數(shù)為p+4。式（2）中的“GP”項(xiàng)是正態(tài)分布，其中均值為0和協(xié)方差矩陣為∑GP=（σ2GP|t）exp（-（φ|t）‖si-sj‖2），φ>0，其中∑GP的特征是在每個(gè)時(shí)間戳上具有房屋不變的公共方差（σ2GP|t）和空間相關(guān)函數(shù)（k（si，sj;φ））。通常為k（si，sj;φ）選擇平方指數(shù)相關(guān)函數(shù)，該函數(shù)包含每個(gè)時(shí)間戳（φ|t）上的衰變參數(shù)和兩個(gè)房屋之間的平方距離（‖si-sj‖2）。

總之，在所提出模型的基礎(chǔ)上建立了負(fù)荷預(yù)測(cè)的多任務(wù)學(xué)習(xí)問(wèn)題，并提出了一種有效的算法來(lái)解決該問(wèn)題，并將在以下各部分中進(jìn)行介紹。

基于以上提出的模型，所提出的MT-BSGP的總體框架如圖1所示。MT-BSGP包括：提出的LRDM，其用于估計(jì)在社區(qū)間相似的總體平均偏移或趨勢(shì)模式;一個(gè)特定于社區(qū)并捕獲局部變化和空間相關(guān)性的高斯過(guò)程（GP）;LRDM和GP之間的迭代估計(jì)過(guò)程。

1.2 MT-BSGP結(jié)構(gòu)

在MTL框架下，通過(guò)融合來(lái)自多個(gè)社區(qū)的數(shù)據(jù)，可以改進(jìn)BSGP的估計(jì)。通過(guò)探索不同社區(qū)之間的相關(guān)性，提出了MT-BSGP的結(jié)構(gòu)。社區(qū)間的相關(guān)性體現(xiàn)在環(huán)境因素/交通量與用電量之間的相似關(guān)系上。因此，在MTL框架下，不同社區(qū)的BSGP系數(shù)β可以“相似相關(guān)”。這種相關(guān)性的數(shù)學(xué)特征將在下面介紹。此外，GP捕獲了特定于社區(qū)的家庭用電量數(shù)據(jù)之間的時(shí)空相關(guān)性。為了描述空間相關(guān)性，已有研究將高斯過(guò)程應(yīng)用于負(fù)荷預(yù)測(cè)[19]。

假設(shè)存在Z個(gè)社區(qū)，對(duì)于社區(qū)l=1，…，Z，提出的MT-BSGP模型結(jié)構(gòu)如下：

MT-BSGP由兩個(gè)學(xué)習(xí)目標(biāo)來(lái)估計(jì)，包括：①“μ”的MTL;②在每個(gè)社區(qū)內(nèi)分別學(xué)習(xí)“GP”。μ的MTL目標(biāo)是同時(shí)估算β→1，…，β→Z，這里給定每個(gè)社區(qū)的包含環(huán)境、交通和歷史用電量的數(shù)據(jù)X，以及β→1，…，β→Z之間的關(guān)系。GP的目標(biāo)是根據(jù)每個(gè)社區(qū)的數(shù)據(jù)和相關(guān)系數(shù)β→l來(lái)估計(jì)GP參數(shù)，而相關(guān)系數(shù)β→l由MTL估計(jì)。學(xué)習(xí)目標(biāo)如式（5）所示：

1.3 基于正則化的MTL方法

這部分介紹了線性回歸模型（如μ）的基于正則化的MTL方法的公式，并給出了兩個(gè)常用范數(shù)作為學(xué)習(xí)目標(biāo)中的正則化項(xiàng)?；谡齽t化的MTL是為了解決下面的問(wèn)題：

其中βj，k是β的第j行和第k列。l1，∞正則化器引入一個(gè)群稀疏結(jié)構(gòu)，在所有社區(qū)中對(duì)μ模型進(jìn)行變量選擇;它對(duì)每一行的最大絕對(duì)值之和進(jìn)行懲罰，以鼓勵(lì)β的每行元素有0元素。因此，l1，∞正則化器可以找到一組共同的輸入變量，這些變量對(duì)不同社區(qū)的用電量數(shù)據(jù)有影響。

2）所有社區(qū)的共享低秩結(jié)構(gòu)：

其中σi是通過(guò)奇異值分解得到的矩陣β的奇異值。

這兩類范數(shù)從兩個(gè)不同的角度捕捉了社區(qū)間關(guān)聯(lián)性的信息。本文結(jié)合兩類范數(shù)的相關(guān)信息，在下一部分提出了一種改進(jìn)MT-BSGP方法。

1.4 提出的LRDM

通過(guò)將變量系數(shù)（β→l）分解為稀疏分量（P→l）和稀疏分量（Q→l），Jalali等提出了一個(gè)Dirty模型[5]，如下：

其中使用稀疏分量Q→l懲罰是處理特定于社區(qū)的變化，而使用群稀疏分量P→l懲罰則是為了捕捉不同社區(qū)模型估計(jì)之間的相關(guān)性。

受“Dirty”模型和兩種捕獲相關(guān)性信息的范數(shù)的啟發(fā)，該文進(jìn)一步為矩陣Q→l構(gòu)造了一個(gè)低秩結(jié)構(gòu)，以包含更多群稀疏分量無(wú)法捕捉到的社區(qū)間相關(guān)性信息，從而得到LRDM。LRDM的目標(biāo)如下：

因此，提出的LRDM旨在將上述兩類范數(shù)結(jié)合起來(lái)。特別地，該文提出整合l1，∞和l*范數(shù)可以增加在多個(gè)社區(qū)中獲取更多共享信息的機(jī)會(huì)，并且可以優(yōu)于現(xiàn)有的僅利用l1，∞或l*來(lái)獲取相關(guān)性的MTL方法。式（11）中提出的LRDM是一個(gè)無(wú)約束凸優(yōu)化問(wèn)題，其函數(shù)是非平滑的。這種非平滑性存在于l1，∞或l*中，這給解決式（11）中的LRDM問(wèn)題帶來(lái)了挑戰(zhàn)。一種解決方法是使用加速近似法[20]，因?yàn)樗哂凶罴训氖諗克俣群吞幚泶笠?guī)模非平滑優(yōu)化問(wèn)題的能力。

為了估計(jì)表征LRDM精度的理論邊界，考慮l≥2和n≥1時(shí)式（11）的優(yōu)化問(wèn)題以及所有任務(wù)的訓(xùn)練數(shù)據(jù)大小相同。同時(shí)，定義以下參數(shù)：

理論邊界的證明類似于文[20]中的推導(dǎo)過(guò)程。精度邊界的數(shù)值估計(jì)詳見(jiàn)3.3節(jié)實(shí)驗(yàn)部分。

1.5 MT-BSGP參數(shù)估計(jì)的迭代算法

為了建立MT-BSGP模型，每個(gè)社區(qū)需要估計(jì)兩類參數(shù)，包括μl中的β→l，以及GPl中每個(gè)時(shí)間戳的σ2GPl和φl(shuí)。學(xué)習(xí)的挑戰(zhàn)在于，β→l應(yīng)根據(jù)MTL框架下所有社區(qū)的數(shù)據(jù)進(jìn)行聯(lián)合估算;而GPl是特定于社區(qū)的，應(yīng)根據(jù)社區(qū)l的數(shù)據(jù)進(jìn)行估算。μl估計(jì)的任何變化都會(huì)直接影響GPl，反之亦然。該文提出了一個(gè)迭代算法來(lái)聯(lián)合估計(jì)式（5）中的所有參數(shù)。

MT-BSGP的流程圖如圖2所示，其中上標(biāo)表示迭代次數(shù)。在初始化中，第1次迭代時(shí)，GP和β→l的參數(shù)被賦予零值。為conv指定一個(gè)大的數(shù)字，并且根據(jù)期望的精度確定conv的閾值。另外，還要為λ1（群稀疏分量系數(shù)）和λ2（低秩分量系數(shù)）設(shè)置初始值。在訓(xùn)練階段，將訓(xùn)練數(shù)據(jù)（Trr）分成10個(gè)相等的子集（Trrk，k=1，…，10），并對(duì)任何給定的λ1和λ2進(jìn)行10次交叉驗(yàn)證，算法1給出了10倍交叉驗(yàn)證。如下所示：

在此基礎(chǔ)上，對(duì)LRDM進(jìn)行9個(gè)子集訓(xùn)練，然后在第10個(gè)子集上進(jìn)行測(cè)試。誤差Erk通過(guò)λ1和λ2的每個(gè)值以及這10個(gè)部分中的每個(gè)值的均方根誤差（RMSE）來(lái)估計(jì)。E-r（i）是Erk是這10個(gè)部分（迭代）的平均誤差，即選擇λ1和λ2的LRDM的平均誤差。該過(guò)程適用于λ1和λ2的所有m個(gè)建議值。最后，選擇最小E-r（i），并確定λ1和λ2的最佳值。在確定訓(xùn)練部分中的λ1和λ2之后，開(kāi)始學(xué)習(xí)模型參數(shù)的迭代過(guò)程。在迭代j中，通過(guò)從電力消耗數(shù)據(jù)中減去在迭代j-1中獲得的高斯過(guò)程來(lái)更新μ模型，并使用所提出的LRDM來(lái)估計(jì)系數(shù)β→l。然后進(jìn)行收斂性測(cè)試，以檢查μ的收斂性。根據(jù)系數(shù)向量的變化是否在預(yù)先設(shè)定的閾值（ε）內(nèi)判斷收斂性;否則，在進(jìn)行下一次迭代之前，算法通過(guò)從耗電量數(shù)據(jù)（Yl）中減去迭代j處的估計(jì)μ來(lái)更新GP。此過(guò)程將一直運(yùn)行，直到通過(guò)收斂測(cè)試。最后，將預(yù)測(cè)的用電量與實(shí)際值進(jìn)行比較，得到誤差。

2 案例研究

本文所提出的MT-BSGP模型通過(guò)安慶市兩個(gè)居民社區(qū)的實(shí)際數(shù)據(jù)進(jìn)行了驗(yàn)證。電耗數(shù)據(jù)（kWh）每30min遠(yuǎn)程測(cè)量一次，并由安慶電力公司的電表數(shù)據(jù)管理系統(tǒng)存儲(chǔ)。交通數(shù)據(jù)來(lái)自安慶市交警大隊(duì)。該市有6個(gè)不同的遙測(cè)交通監(jiān)測(cè)站點(diǎn)，每30min連續(xù)存儲(chǔ)一次交通量，安慶市僅收集特定地點(diǎn)和特定日期的當(dāng)?shù)氐缆方煌〝?shù)據(jù)。此外，環(huán)境數(shù)據(jù)，包括溫度、濕度和太陽(yáng)輻射可通過(guò)選定社區(qū)的監(jiān)測(cè)記錄獲得。

為了數(shù)據(jù)的隱私保護(hù)，該文選取安慶市的兩個(gè)居住社區(qū)稱為東北社區(qū)和東南社區(qū)。東北部和東南部社區(qū)的測(cè)量包括2019年10月、11月和12月每30min收集的50戶居民的用電量和環(huán)境數(shù)據(jù)。同時(shí)，每小時(shí)從同一區(qū)域采集交通量并用作預(yù)測(cè)變量。東北社區(qū)的數(shù)據(jù)量相對(duì)較少，這些數(shù)據(jù)僅在2019年的某些時(shí)間在裝有交通檢測(cè)器的地點(diǎn)收集。東北地區(qū)只有2019年10月、11月和12月18個(gè)工作日的10棟房子的數(shù)據(jù)。此外，選取東南社區(qū)的所有可用數(shù)據(jù)（50戶×92d×48個(gè)30min增量=220800個(gè)觀測(cè)值）和東北社區(qū)17個(gè)工作日（10戶×17d×48個(gè)30min增量=8160個(gè)觀測(cè)值）作為訓(xùn)練數(shù)據(jù)。選取東北社區(qū)最后一個(gè)剩余工作日（10棟房屋×1d×48個(gè)30min增量=480個(gè)觀測(cè)值）作為測(cè)試數(shù)據(jù)，該數(shù)據(jù)不在訓(xùn)練數(shù)據(jù)范圍內(nèi)。

3 實(shí)驗(yàn)結(jié)果與分析

該部分驗(yàn)證所提出的MT-BSGP的短期負(fù)荷預(yù)測(cè)性能。提出的模型輸入為歷史用電量、溫度、濕度、太陽(yáng)輻射和交通量。通過(guò)在5%顯著性水平上檢查ACF和PACF圖，時(shí)間序列建模的時(shí)間間隔p=2。在進(jìn)行10倍交叉驗(yàn)證后，選擇λ1=100和λ2=300。迭代算法經(jīng)過(guò)6次迭代后收斂。采用均方根誤差（root mean square error，RMSE）和對(duì)稱平均絕對(duì)百分比誤差（symmetric mean absolute percentage error，SMAPE）作為誤差指標(biāo)，即：

式中：y（i）為觀測(cè)值;y^（i）為預(yù)測(cè)值;n為觀測(cè)值總數(shù)。RMSE和SMAPE是通過(guò)對(duì)東北社區(qū)所有房屋的預(yù)測(cè)誤差進(jìn)行匯總得到的。

3.1 多任務(wù)學(xué)習(xí)與單任務(wù)學(xué)習(xí)

該部分首先比較MT-BSGP和BSGP，BSGP只依賴于一個(gè)社區(qū)的數(shù)據(jù)，即單任務(wù)學(xué)習(xí)。此外，將提出的MT-BSGP方法與其他的電力預(yù)測(cè)方法進(jìn)行了比較，包括ARIMAX、支持向量機(jī)（support vector machine，SVM）、隨機(jī)森林（random forest，RF）和神經(jīng)網(wǎng)絡(luò)（neural network，NN）回歸。所有這些方法只在東北部社區(qū)并使用相同的輸入數(shù)據(jù)（包括電力、天氣和交通量）來(lái)實(shí)現(xiàn);而MT-BSGP探索了東南社區(qū)的類似數(shù)據(jù)模式，以補(bǔ)充更多信息來(lái)預(yù)測(cè)東北社區(qū)的電力。由這些方法得到的RMSE和SMAPE如表1所示。實(shí)驗(yàn)結(jié)果表明，在單任務(wù)結(jié)構(gòu)下，MT-BSGP與ARIMAX相比減少了34%，與BSGP相比減少了22%，與SVM相比減少了20%，與RF相比減少了17%，與NN相比減少了15%?？梢钥闯?，多個(gè)數(shù)據(jù)源的組合可以減少M(fèi)T-BSGP的預(yù)測(cè)誤差。

在性能比較中，對(duì)所有的方法進(jìn)行了優(yōu)化，并為它們選擇了最佳的參數(shù)。例如，對(duì)于ARIMAX，通過(guò)用R編程語(yǔ)言在forecast包的auto函數(shù)中搜索可能的模型來(lái)選擇最佳模型。對(duì)于SVM，采用徑向基函數(shù)核函數(shù)，通過(guò)10次交叉驗(yàn)證進(jìn)行參數(shù)優(yōu)化，得到最優(yōu)參數(shù)。在參數(shù)優(yōu)化后，用R語(yǔ)言在randomForest包中實(shí)現(xiàn)RF。對(duì)于NN，采用多層感知器方法，通過(guò)優(yōu)化隱層參數(shù)、每個(gè)隱層中的神經(jīng)元數(shù)目和誤差函數(shù)偏導(dǎo)數(shù)的閾值作為停止準(zhǔn)則，確定最佳初始值;選取隱層3個(gè)神經(jīng)元的最佳神經(jīng)網(wǎng)絡(luò)，閾值為0.01，最大步長(zhǎng)為1×107。

圖3比較了MT-BSGP預(yù)測(cè)負(fù)荷曲線與實(shí)際負(fù)荷曲線。從圖3可以看出，MT-BSGP方法可以有效地捕捉家庭電力負(fù)荷的趨勢(shì)。

3.2 多任務(wù)學(xué)習(xí)與基于融合數(shù)據(jù)的學(xué)習(xí)

MTL并不像合并來(lái)自多個(gè)社區(qū)的數(shù)據(jù)那么簡(jiǎn)單。簡(jiǎn)單的多社區(qū)數(shù)據(jù)融合忽略了社區(qū)的獨(dú)特信息和社區(qū)間的差異，從而引入了可能對(duì)模型學(xué)習(xí)過(guò)程產(chǎn)生負(fù)面影響的信息。然而，MTL探索了數(shù)據(jù)中的相似模式，并區(qū)分了社區(qū)間共享的信息和社區(qū)特定的信息，從而提高了學(xué)習(xí)的準(zhǔn)確性。當(dāng)兩個(gè)數(shù)據(jù)集具有一定的相似性但也存在顯著的差異時(shí)，將這些數(shù)據(jù)集合到單個(gè)任務(wù)學(xué)習(xí)框架中通常比在多任務(wù)學(xué)習(xí)框架中分別處理它們的效果差。

圖4是MT-BSGP與其他三種方法的比較結(jié)果?？梢钥闯觯琈T-BSGP在融合數(shù)據(jù)上的性能明顯優(yōu)于SVM、RF和NN。比較表1和圖4，使用合并數(shù)據(jù)進(jìn)行的學(xué)習(xí)并沒(méi)有明顯降低RMSE。因此，MTL方法在探索社區(qū)間的關(guān)聯(lián)性和不同社區(qū)間的知識(shí)轉(zhuǎn)移以提高預(yù)測(cè)精度方面具有重要價(jià)值。

3.3 MT-BSGP與MTL方法

本文提出的MT-BSGP方法與三種基于正則化的MTL方法進(jìn)行了比較，包括Dirty模型[14]、稀疏低秩（sparse-low rank，SLR）[19]和魯棒（robust）MTL[20]，以及與LR-OKL[13]進(jìn)行了比較。提出的LRDM與上述基于正則化的MTL方法之間的差異如表2所示。在有GP和沒(méi)有GP的情況下，使用上述MTL方法獲得的結(jié)果在表3中給出。實(shí)驗(yàn)結(jié)果表明，在基于正則化的MTL方法中加入GP可以明顯提高預(yù)測(cè)精度。與SLR+GP相比，MT-BSGP使RMSE降低了22%。實(shí)驗(yàn)結(jié)果還表明，LRDM的性能比Dirty模型高11%。在Dirty模型中加入共享低秩結(jié)構(gòu)（l*）可以顯著提高預(yù)測(cè)精度，從而說(shuō)明低秩結(jié)構(gòu)對(duì)提高預(yù)測(cè)精度的貢獻(xiàn)。同時(shí)，與SLR和Robust方法相比，LRDM的RMSE分別減少了24%和10%。

圖5比較了MT-BSGP、BSGP和LR-OKL在工作日隨機(jī)選擇的房屋的預(yù)測(cè)負(fù)荷情況。盡管LR-OKL與表3中所示的其他方法相比，其誤差顯著降低，但提出的MT-BSGP進(jìn)一步將RMSE降低了14%，并更好地捕捉了時(shí)間數(shù)據(jù)變化。給定相同的MTL數(shù)據(jù)源，所提出的MT-BSGP還利用了模型結(jié)構(gòu)的優(yōu)點(diǎn)。該模型結(jié)構(gòu)被分解為一個(gè)μ和一個(gè)GP，μ用于捕獲社區(qū)之間的共享時(shí)間相關(guān)性，GP對(duì)特定于社區(qū)的局部變化進(jìn)行建模?；诜纸獾哪Ｐ停é?GP）優(yōu)于LR-OKL所采用的集成核方法，因?yàn)樵贚R-OKL方法中為核函數(shù)選擇合適的參數(shù)。實(shí)驗(yàn)結(jié)果表明，最大誤差出現(xiàn)在高峰時(shí)段（第33個(gè)30min）。該結(jié)果很正常，因?yàn)榉逯地?fù)荷是一個(gè)相對(duì)罕見(jiàn)的事件，每天發(fā)生一次，持續(xù)時(shí)間很短。因此，負(fù)荷預(yù)測(cè)對(duì)于高峰負(fù)荷的誤差通常大于非高峰負(fù)荷。從圖5可以看出，在全天的總體性能方面，MT-BSGP方法優(yōu)于其它方法。對(duì)于峰值負(fù)荷預(yù)測(cè)，MT-BSGP方法也優(yōu)于其他方法。圖6進(jìn)一步比較了所有方法的標(biāo)準(zhǔn)差。可以看出，MT-BSGP具有最小的平均RMSE和標(biāo)準(zhǔn)差。

3.4 MT-BSGP與基于聚類的方法

為了體現(xiàn)所提出的MT-BSGP優(yōu)于基于聚類的方法，將BSGP和MT-BSGP與基于聚類的負(fù)荷預(yù)測(cè)模型[18]進(jìn)行了比較。根據(jù)文[18]，該方法考慮不同的k（例如，k從1到10），并根據(jù)獲得的最小誤差來(lái)選擇最佳k。給定的k進(jìn)行k-means聚類后，將LS-SVM應(yīng)用于每個(gè)簇。然后，得到并結(jié)合每個(gè)簇的預(yù)測(cè)結(jié)果，從而得到最終的估計(jì)結(jié)果。而且，選擇精度最高的k值來(lái)確定類的數(shù)量。

利用k-means算法對(duì)訓(xùn)練數(shù)據(jù)中的房屋（東南社區(qū)50戶，東北社區(qū)10戶）進(jìn)行聚類，根據(jù)其在1到10之間的不同指定“k”下的負(fù)荷消耗模式進(jìn)行聚類。因此，對(duì)于每個(gè)指定的“k”，所有的房屋都被聚集到k個(gè)簇中。然后，對(duì)每一個(gè)簇進(jìn)行LS-SVM訓(xùn)練，并對(duì)其進(jìn)行第二天的預(yù)測(cè)，并記錄RMSE。最后，集合每個(gè)“k”的誤差，并選擇導(dǎo)致最小誤差的“k”（由LS-SVM獲得）。根據(jù)文[18]的過(guò)程，東南社區(qū)選擇k=5，東北社區(qū)選擇k=4。然后，對(duì)東南部和東北部的所有簇進(jìn)行了空間依賴性檢驗(yàn)，實(shí)驗(yàn)結(jié)果表明，東南部的簇4和5以及東北部的簇1和3在簇內(nèi)確實(shí)表現(xiàn)出了空間依賴性。MT-BSGP與其他方法在東南部和東北部具有空間依賴性的簇進(jìn)行了實(shí)驗(yàn)，實(shí)驗(yàn)結(jié)果如表4所示。從表4看出，在SMAPE方面，BSGP可以將東南社區(qū)的簇4和5的精度分別提高22%和20%。在SMAPE方面，在東北社區(qū)的簇1和3，BSGP的精度比基于k-means的LS-SVM分別高出9%和7%。因此，在一些空間相關(guān)性仍然存在的簇中，考慮GP和空間相關(guān)性可以提高預(yù)測(cè)效果。

4 結(jié) 論

為了預(yù)測(cè)電力短期負(fù)荷，提出一種基于MT-BSGP的方法，該方法可以捕捉城市不同居住社區(qū)之間的關(guān)聯(lián)性和家庭之間的局部空間變化。為了更好地捕捉不同居住社區(qū)之間關(guān)聯(lián)性，提出了一種新的多任務(wù)學(xué)習(xí)方法，即LRDM。該方法通過(guò)使用“公共特征集”（ll，∞范數(shù)）和“共享低秩結(jié)構(gòu)”（l*范數(shù)）來(lái)改進(jìn)MT-BSGP的學(xué)習(xí)。另外，為了克服LRDM和高斯過(guò)程參數(shù)聯(lián)合估計(jì)的困難，提出了一種迭代算法。通過(guò)采集到的安慶市相關(guān)數(shù)據(jù)進(jìn)行實(shí)驗(yàn)，得到了以下結(jié)論：1）與傳統(tǒng)的單任務(wù)學(xué)習(xí)方法（ARIMAX、BSGP、SVM、RF和NN）相比，MT-BSGP的性能分別提高了34%、22%、20%、17%和15%;2）所提出的MT-BSGP比基于融合多社區(qū)數(shù)據(jù)的SVM、RF和NN的性能分別高出20%、18%和17%。3）提出的MT-BSGP的性能優(yōu)于SLR、Dirty、Robust和LR-OKL。因?yàn)樗讦讨型瑫r(shí)使用了“公共特征集”和“共享低秩結(jié)構(gòu)”，故可以跨社區(qū)共享;同時(shí)采用μ-GP分解結(jié)構(gòu)。4）由于空間依賴性可能仍然存在于某些簇中，因此提出的算法的性能優(yōu)于基于k-means的LS-SVM方法，而空間依賴性只能由MT-BSGP中的GP捕捉到。在將來(lái)的工作中，在電力市場(chǎng)中的動(dòng)態(tài)定價(jià)方案中將考慮采用提出的負(fù)荷預(yù)測(cè)方法，以提高能源利用率和成本效益。

參 考 文 獻(xiàn)：

[1] 李軍，李世昌.基于K-SVD-OMP的稀疏表示方法在電力負(fù)荷預(yù)測(cè)中的應(yīng)用[J].電機(jī)與控制學(xué)報(bào)，2020，24（9）：156.

LI Jun， LI Shichang. Application of Sparse Representation Method Based on K-SVD-OMP in Electricity Load Forecasting[J]. Electric Machines and Control， 2020， 24（9）：156.

[2] 向紅偉，常喜強(qiáng)，呂夢(mèng)琳，等.考慮光、儲(chǔ)、燃聯(lián)合發(fā)電的微電網(wǎng)優(yōu)化運(yùn)行[J].哈爾濱理工大學(xué)學(xué)報(bào)，2020，25（2）：73.

XIANG Hongwei， CHANG Xiqiang， LV Menglin， et al. Optimal Operation of Microgrid Considering Photovoltaic， Storage and Turbine[J]. Journal of Harbin University of Science and Technology， 2020， 25（2）：73.

[3] 李翔宇，趙冬梅.市場(chǎng)機(jī)制下多微電網(wǎng)多時(shí)間尺度優(yōu)化調(diào)度研究[J].電機(jī)與控制學(xué)報(bào)，2020，24（7）：29.

LI Xiangyu， ZHAO Dongmei. Multi-time Scale Optimal Scheduling Strategy of Multi-microgrid Based on Market Mechanism[J]. Electric Machines and Control， 2020， 24（7）：29.

[4] 李洪躍，王錫淮，肖健梅.差分進(jìn)化改進(jìn)微電網(wǎng)負(fù)荷頻率混合H2/H∞魯棒控制[J].電機(jī)與控制學(xué)報(bào)，2019，23（11）：118.

LI Hongyue， WANG Xihuai， XIAO Jianmei.Differential Evolution Algorithm Improving for Micro-grid Load Frequency Mixed H2/H∞ Robust Control[J]. Electric Machines and Control， 2019， 23（11）：118.

[5] 龐傳軍，張波，余建明.基于LSTM循環(huán)神經(jīng)網(wǎng)絡(luò)的短期電力負(fù)荷預(yù)測(cè)[J].電力工程技術(shù)，2021，40（1）：175.

PANG Chuanjun， ZHANG Bo， YU Jianming. Short-term Power Load Forecasting Based on LSTM Recurrent NeuralNetwork[J]. Electric Power Engineering Technology， 2021， 40（1）：175.

[6] 王闖，蘭程皓，凌德祥，等.LSTM模型在電力系統(tǒng)負(fù)荷預(yù)測(cè)中的應(yīng)用[J].電力大數(shù)據(jù)，2021，24（1）：17.

WANG Chuang， LAN Chenghao， LING Dexiang， et al. Application for LSTMModel in Power System Load Forecasting[J]. Power Systems and Big Data， 2021， 24（1）：17.

[7] 范海虹.基于螢火蟲(chóng)算法的短期電力負(fù)荷預(yù)測(cè)方法[J].中國(guó)電力，2021，54（3）：141.

FAN Haihong. Short-Term Power Load Forecasting Method Based on Glowworm Swarm Optimization Algorithm[J]. Electric Power， 2021， 54（3）：141.

[8] 楊婧，安江.基于自適應(yīng)混合算法的短期電力負(fù)荷預(yù)測(cè)[J].計(jì)算機(jī)與數(shù)字工程，2020，48（11）：2569.

YANG Jing， AN Jiang. Short-Term Load Forecasting Based on an Adaptive Hybrid Method[J]. Computer and Digital Engineering，2020， 48（11）：2569.

[9] 牛安敏，張宏立，王聰.基于VMD-Leaky-ESN的電力系統(tǒng)短期負(fù)荷多步預(yù)測(cè)方法[J].新疆大學(xué)學(xué)報(bào)（自然科學(xué)版）（中英文），2020，37（4）：562.

NIU A M， ZHANG H L， WANG C. Multi-step Short-term Load Forecasting Method of Power System Based on VMD-Leaky-ESN Algorithm[J]. Journal of Xinjiang University（Natural Science Edition in Chinese and English）， 2020， 37（4）：562.

[10]蘇振宇，龍勇，趙麗艷.基于regARIMA模型的月度負(fù)荷預(yù)測(cè)效果研究[J].中國(guó)電力，2018，51（5）：166.

SU Zhenyu， LONG Yong， ZHAO Liyan. Study on the Monthly Power Load Forecasting Performance Based on Reg ARIMA Model [J]. Electric Power， 2018， 51（5）：166.

[11]SHENG H， XIAO J， CHENG Y， et al. Short-term Solar Power Forecasting Based on Weighted Gaussian Process Regression[J]. IEEE Transaction on Industrial Electronics， 2018， 65（1）：300.

[12]ZHANG Y， LUO G， PU F. Power Load Forecasting Based on Multi-task Gaussian Process[J]. IFAC Proceedings Volumes， 2014， 47（3）：3651.

[13]FIOT J， DINUZZO F. Electricity Demand Forecasting by Multi-task Learning[J]. IEEE Transactions on Smart Grid， 2018， 9（2）：544.

[14]JALALI A， RAVIKUMAR P， SANGHAVI S. A Dirty Model for Multiple Sparse Regression[J]. IEEE Transactions on Information Theory， 2013， 59（12）：7947.

[15]史佳琪，譚濤，郭經(jīng)，等.基于深度結(jié)構(gòu)多任務(wù)學(xué)習(xí)的園區(qū)型綜合能源系統(tǒng)多元負(fù)荷預(yù)測(cè)[J].電網(wǎng)技術(shù)，2018，42（3）：698.

[16]KONILA Sriram L M， GILANIFAR M， ZHOU Y， et al. Causal Markov Elman Network for Load Forecasting in Multinetwork Systems[J]. IEEE Transactions on Industrial Electronics， 2019， 66（2）：1434.

[17]任海軍，張曉星，孫才新，等.短期負(fù)荷多變量混沌時(shí)間序列正則化回歸局域預(yù)測(cè)方法[J].計(jì)算機(jī)科學(xué)，2010，37（7）：220.

REN Haijun， SUN Xiaoxing， SUN Caixin， et al. Regulation Regression Local Forecasting Method of Multivariable Chaotic Time Series in Short-term Electrical Load[J]. Computer Science，2010， 37（7）：220.

[18]WANG X， LEE W， HUANG H， et al. Factors that Impact the Accuracy of Clustering-based Load forEcasting [J]. IEEE Transactions on Industry Applications， 2016， 52（5）：3625.

[19]XIE G， CHEN X， WENG Y. An Integrated Gaussian Process Modeling Framework for Residential Load Prediction[J]. IEEE Transactions on Power Systems， 2018， 33（6）：7238.

[20]蘇運(yùn)，卜凡鵬，郭乃網(wǎng)，等.基于低秩表示的多任務(wù)短期電力負(fù)荷預(yù)測(cè)的研究[J].現(xiàn)代電力，2019，36（3）：58.

SU Yun， BU Fanpeng， GUO Naiwang， et al. Research on Short-term Load Forecast Using Multi-task With Low-rank Representation[J]. Modern Electric Power， 2019， 36（3）：58.

（編輯：溫澤宇）