孫本亮，王寶珠，郭志濤

（河北工業(yè)大學(xué) 電子信息工程學(xué)院，天津300401）

0 引言

負(fù)荷分解是非侵入式負(fù)荷監(jiān)測(cè)（Non-Intrusive Load Monitoring，NILM）的關(guān)鍵步驟，其主要目的就是將時(shí)序下的各種用電設(shè)備的總負(fù)荷分解為單個(gè)用電設(shè)備的負(fù)荷[1]。通過(guò)NILM，人們能夠了解到自身的用電信息，進(jìn)而優(yōu)化用電管理、改善用電習(xí)慣[2-3]。

自麻省理工的Hart教授提出非侵入式負(fù)荷監(jiān)測(cè)這個(gè)概念以來(lái)，NILM受到了廣泛的關(guān)注。2015年，Kelly首次將深度學(xué)習(xí)應(yīng)用于NILM問(wèn)題[4]，并分別基于遞歸神經(jīng)網(wǎng)絡(luò)、自動(dòng)去噪編碼器、深度神經(jīng)網(wǎng)絡(luò)搭建了三種不同的深度學(xué)習(xí)網(wǎng)絡(luò)框架，證明了深度學(xué)習(xí)在處理NILM問(wèn)題上具有良好的性能。文獻(xiàn)[5]對(duì)文獻(xiàn)[4]自動(dòng)去噪編碼器進(jìn)行了優(yōu)化，同時(shí)與加性因子最大后驗(yàn)算法進(jìn)行了對(duì)比，證明了自動(dòng)去噪編碼器在有噪聲的情況下具有更高的魯棒性。文獻(xiàn)[6]中綜合考慮了用電設(shè)備的功率、狀態(tài)和時(shí)間等信息，并將這些信息作為深度神經(jīng)網(wǎng)絡(luò)的輸入來(lái)證明其可行性。文獻(xiàn)[7]提出了端到點(diǎn)（Sequence-to-Point，Seq2point）網(wǎng)絡(luò)，并證明了在相同的網(wǎng)絡(luò)體系下，Seq2point網(wǎng)絡(luò)輸出的結(jié)果比端到端（Sequence-to-Sequence，Seq2seq）網(wǎng)絡(luò)更接近目標(biāo)分布。文獻(xiàn)[8]在小窗口條件下基于端到點(diǎn)結(jié)構(gòu)搭建了長(zhǎng)短期記憶網(wǎng)絡(luò)、門控循環(huán)單元網(wǎng)絡(luò)、一維卷積神經(jīng)網(wǎng)絡(luò)（One-Dimensional Convolution Neural Network，1D-CNN）三種深度學(xué)習(xí)網(wǎng)絡(luò)，實(shí)驗(yàn)結(jié)果表明三種網(wǎng)絡(luò)能夠有效分解多種用電設(shè)備，但分解精度較低，分解性能還有待提升。

為了提升負(fù)荷分解的性能，得到較高的分解精度，本文提出一種基于一維卷積神經(jīng)網(wǎng)絡(luò)的負(fù)荷分解方法。所提方法以滑動(dòng)窗口讀取總負(fù)荷的時(shí)間序列生成輸入序列，以1D-CNN自動(dòng)提取輸入序列特征從而實(shí)現(xiàn)負(fù)荷分解。在公開的數(shù)據(jù)集UK_DALE上的實(shí)驗(yàn)結(jié)果顯示，所提出的基于一維卷積神經(jīng)網(wǎng)絡(luò)的負(fù)荷分解方法與現(xiàn)有方法[8-9]相比，F(xiàn)1得分更高，性能更佳。

1 基于一維卷積神經(jīng)網(wǎng)絡(luò)的負(fù)荷分解方法

本文所提出的基于一維卷積神經(jīng)網(wǎng)絡(luò)的負(fù)荷分解方法流程如圖1所示。

圖1 負(fù)荷分解方法流程圖

通過(guò)滑動(dòng)窗口讀取總負(fù)荷時(shí)間序列生成輸入序列，使用一維卷積神經(jīng)網(wǎng)絡(luò)提取輸入序列特征和分解負(fù)荷。其中，一維卷積神經(jīng)網(wǎng)絡(luò)由序列擴(kuò)展模塊和特征提取模塊組成，序列擴(kuò)展模塊能夠自動(dòng)提取輸入序列的特征并重構(gòu)為擴(kuò)展序列，特征提取模塊采用Seq2point結(jié)構(gòu)分解擴(kuò)展序列預(yù)測(cè)目標(biāo)用電設(shè)備的負(fù)荷。

1.1 滑動(dòng)窗口

滑動(dòng)窗口主要用于處理長(zhǎng)序列數(shù)據(jù)，減少網(wǎng)絡(luò)模型訓(xùn)練過(guò)程中序列過(guò)長(zhǎng)帶來(lái)的梯度消失、難以計(jì)算等問(wèn)題。其本質(zhì)是一個(gè)濾波器，只讀取指定長(zhǎng)度的序列，其功能可由函數(shù)fw(i,W)表示。

式中：i表示滑動(dòng)窗口移動(dòng)的步數(shù)；W表示滑動(dòng)窗口的長(zhǎng)度；e(i)表示階躍函數(shù)，其表達(dá)式為：

在負(fù)荷分解任務(wù)中，滑動(dòng)窗口讀取總負(fù)荷序列和用電設(shè)備負(fù)荷序列生成相應(yīng)的輸入和標(biāo)簽。為了綜合預(yù)測(cè)點(diǎn)的上下文關(guān)系，減少窗口邊緣信息的影響，本文選擇將用電設(shè)備窗口的中點(diǎn)值作為標(biāo)簽。

若序列長(zhǎng)度為N，總負(fù)荷序列為Y={y1,y2,…,yN}，與之在時(shí)間上對(duì)應(yīng)的用電設(shè)備負(fù)荷序列為X={x1,x2,…,xN}，那么t（t≥W2）時(shí)刻對(duì)應(yīng)的標(biāo)簽和輸入序列分別是xt和Yt，Yt的讀取為：

1.2 一維卷積神經(jīng)網(wǎng)絡(luò)

一維卷積神經(jīng)網(wǎng)絡(luò)是一種專門應(yīng)用于序列型數(shù)據(jù)的卷積神經(jīng)網(wǎng)絡(luò)，其操作僅在一維尺度上，數(shù)學(xué)模型為：

式中：Gi表示第i層的輸出特征量；W i，bi分別表示第i層的卷積核的權(quán)重矩陣和偏重向量；?表示卷積運(yùn)算符；f表示激活函數(shù)，用以對(duì)網(wǎng)絡(luò)進(jìn)行非線性計(jì)算，提高網(wǎng)絡(luò)的表達(dá)能力，本文使用的激活函數(shù)皆為ReLU函數(shù)，表示如下：

本文提出的1D-CNN網(wǎng)絡(luò)模型由序列擴(kuò)展模塊和特征提取模塊構(gòu)成。

1.2.1 序列擴(kuò)展模塊

總負(fù)荷時(shí)間序列是多種用電設(shè)備在時(shí)間上的線性聚合數(shù)據(jù)，信噪比較小。為了優(yōu)化輸入序列，提高有用信息在輸入序列中的占比，傳統(tǒng)的方法有中值濾波[10]、小波變換[11]、粒子群算法[12]。但是，這些方法只是減少了噪音并不能增大有用信息的總量，為此本文提出序列擴(kuò)展模塊，其結(jié)構(gòu)如圖2所示。

圖2 序列擴(kuò)展模塊

在序列擴(kuò)展模塊中，首先使用4個(gè)連續(xù)的卷積層和1個(gè)批標(biāo)準(zhǔn)化層（Batch Normalization，BN）提取輸入序列Yt的特征得到中間序列Ytc，其過(guò)程用函數(shù)fad(x)表示。而后將Yt和Ytc進(jìn)行拼接得到擴(kuò)展序列Yt*，那么Yt*可表示為：

其中，BN層的作用是將輸入的值縮小到0和1之間，從而降低連接層輸入之間的分布差異。

假設(shè)Yt中總信息量是I，有用信息總量是C，Ytc中總信息量是Ic，有用信息總量是Cc，Y*t中總信息量是I*，有用信息總量是C*，那么在理想情況下有Cc Ic≥C I，故可計(jì)算出擴(kuò)展序列Y*t的有用信息占比為：

由I≥0，Ic≥0，CcI≥CIc，可得C*I*≥C I。又C*=Cc+C≥C，可知輸入序列經(jīng)過(guò)序列擴(kuò)展模塊處理后不僅提高了序列中有用信息的占比，而且還增大了有用信息的總量。

1.2.2 特征提取模塊

特征提取模塊主要用于學(xué)習(xí)序列特征和輸出預(yù)測(cè)結(jié)果，采用Seq2point結(jié)構(gòu)，輸入是一個(gè)序列而輸出為一個(gè)點(diǎn)。相較于Seq2seq，Seq2point的優(yōu)勢(shì)是不會(huì)對(duì)同一個(gè)負(fù)荷多次預(yù)測(cè)從而產(chǎn)生輸出平滑的問(wèn)題[7]。

為了體現(xiàn)本文所提方法的優(yōu)越性，特征提取模塊的結(jié)構(gòu)同文獻(xiàn)[8]中1D-CNN網(wǎng)絡(luò)一致，如圖3所示。

圖3 特征提取模塊

圖3中，數(shù)字“0.5”表示計(jì)算時(shí)會(huì)隨機(jī)舍去50%的輸入特征量，目的是提高網(wǎng)絡(luò)的泛化性。

若特征提取模塊的功能表示為函數(shù)fs2p(x)，那么將擴(kuò)展序列Y*t輸入到網(wǎng)絡(luò)后的輸出為：

式中xtp為負(fù)荷分解的結(jié)果；以Yt*作為特征提取模塊的輸入會(huì)使得Yt的特征被學(xué)習(xí)兩次；yt:1～k-1表示Yt前k-1個(gè)序列，k表示特征提取模塊中第一個(gè)卷積核尺寸；b表示全連接層輸出結(jié)果時(shí)產(chǎn)生的偏重。

1.2.3 1D-CNN網(wǎng)絡(luò)模型

本文提出的1D-CNN結(jié)構(gòu)如圖2和圖3所示，序列擴(kuò)展模塊的輸出將作為特征提取模塊的輸入，網(wǎng)絡(luò)層參數(shù)設(shè)置如表1所示。

表1 網(wǎng)絡(luò)層參數(shù)設(shè)置

網(wǎng)絡(luò)模型訓(xùn)練過(guò)程中采用自適應(yīng)矩估計(jì)（Adaptive Moment Estimation，Adam）方法作為優(yōu)化器，學(xué)習(xí)率為0.001。以均方誤差（MSE）函數(shù)作為損失函數(shù)，表達(dá)式為：

式中：xip代表i時(shí)刻的預(yù)測(cè)值；xi代表i時(shí)刻的真實(shí)負(fù)荷；T為樣本總數(shù)。

2 實(shí)驗(yàn)分析

2.1 數(shù)據(jù)集介紹

為了體現(xiàn)所提出的基于一維卷積神經(jīng)網(wǎng)絡(luò)的負(fù)荷分解方法的有效性和可比性，本文選擇公開的數(shù)據(jù)集UK-DALE[13]用作實(shí)驗(yàn)。該數(shù)據(jù)集來(lái)源于英國(guó)能源研究中心能源數(shù)據(jù)中心，包含英國(guó)5個(gè)家庭的用電負(fù)荷數(shù)據(jù)，采樣周期是6 s，采集時(shí)間接近3年。

2.2 用電設(shè)備選擇與預(yù)處理

由于微波爐、洗衣機(jī)、冰箱、洗碗機(jī)這4種用電設(shè)備都至少在3個(gè)家庭中有記錄，且方便與現(xiàn)有方法進(jìn)行比較，故本文選擇這4種用電設(shè)備用于實(shí)驗(yàn)研究。4種用電設(shè)備訓(xùn)練和測(cè)試的家庭如表2所示，在每個(gè)訓(xùn)練家庭中采集20萬(wàn)個(gè)樣本用于訓(xùn)練模型，在每個(gè)測(cè)試家庭中采集10萬(wàn)個(gè)樣本用于測(cè)試和評(píng)估模型。

表2 用于訓(xùn)練和測(cè)試的家庭

由于用電設(shè)備的運(yùn)行情況不同，4種用電設(shè)備設(shè)置滑動(dòng)窗口長(zhǎng)度和啟動(dòng)功率也不同，如表3所示。其中，滑動(dòng)窗口用以讀取總負(fù)荷時(shí)間序列，啟動(dòng)功率用以評(píng)估模型時(shí)降低噪音的干擾。

表3 窗口長(zhǎng)度和啟動(dòng)功率設(shè)置

此外，為提高模型訓(xùn)練時(shí)的收斂速度，對(duì)輸入的數(shù)據(jù)進(jìn)行最大最小歸一化，數(shù)學(xué)表達(dá)式如下：

2.3 評(píng)價(jià)標(biāo)準(zhǔn)

為了體現(xiàn)實(shí)驗(yàn)結(jié)果的有效性，本文選擇召回率recall、精確率precision、準(zhǔn)確率accuracy、F1得分F1_score、平均絕對(duì)誤差（MAE）等5種常用的評(píng)價(jià)指標(biāo)，計(jì)算方法如式（11）～式（15）所示。其中，F(xiàn)1_score是一種綜合了recall的precision的評(píng)價(jià)指標(biāo)，其值越大代表模型的分類效果越好。

將設(shè)備的開啟狀態(tài)視為正樣本，關(guān)閉狀態(tài)視為負(fù)樣本。上面公式中，T為總樣本數(shù)，TP代表預(yù)測(cè)值和真實(shí)值都為正的樣本數(shù)；TN代表預(yù)測(cè)值和真實(shí)值都為負(fù)的樣本數(shù)；FP代表預(yù)測(cè)值為負(fù)、真實(shí)值為正的樣本數(shù)；FN代表預(yù)測(cè)值為正、真實(shí)值為負(fù)的樣本數(shù)。

2.4 實(shí)驗(yàn)分析

本文實(shí)驗(yàn)的軟件平臺(tái)為Ubuntu 18.04操作系統(tǒng)，Python 3.7.6（64位），開發(fā)環(huán)境為Tensorflow和Keras，編譯IDE為Pycharm。

為了體現(xiàn)本文所提基于一維卷積神經(jīng)網(wǎng)絡(luò)的負(fù)荷分解方法的有效性，基于上節(jié)所述評(píng)價(jià)指標(biāo)，將本文模型同文獻(xiàn)[8]和文獻(xiàn)[9]中基于1D-CNN搭建的深度負(fù)荷分解網(wǎng)絡(luò)模型進(jìn)行比較，實(shí)驗(yàn)結(jié)果如圖4所示。其中，文獻(xiàn)[9]提出的1D-CNN網(wǎng)絡(luò)模型是NILM領(lǐng)域最新的研究成果之一，在多個(gè)數(shù)據(jù)集上的負(fù)荷分解性能突出。

觀察圖4可知，相較于另外兩種模型，本文所提出的一維卷積神經(jīng)網(wǎng)絡(luò)模型在準(zhǔn)確率、F1得分、平均絕對(duì)誤差3種評(píng)價(jià)指標(biāo)上都取得了最優(yōu)的表現(xiàn)，說(shuō)明了所提模型在負(fù)荷分解問(wèn)題上具有更高的準(zhǔn)確性和泛化性。由于文獻(xiàn)[8]的1D-CNN結(jié)構(gòu)同所提模型的特征提取模塊一致，相當(dāng)于所提模型去掉了序列擴(kuò)展模塊，通過(guò)實(shí)驗(yàn)結(jié)果比較，驗(yàn)證了擴(kuò)展序列模塊具有優(yōu)化輸入序列的能力。

圖4 本文模型與文獻(xiàn)模型對(duì)比

值得關(guān)注的還有所提模型在微波爐上的負(fù)荷分解，相較于文獻(xiàn)[8]的分解失敗，文獻(xiàn)[9]的F1得分僅為0.17，所提模型在微波爐上的F1得分超過(guò)了0.3，這表明本文所提出的網(wǎng)絡(luò)結(jié)構(gòu)對(duì)微波爐有更強(qiáng)的特征提取能力。為了了解用電設(shè)備的運(yùn)行方式對(duì)負(fù)荷分解的影響，在圖5中展示了四種用電設(shè)備的負(fù)荷分解結(jié)果。

由圖5可觀察到，微波爐是一種短時(shí)運(yùn)行的電器，每次開啟的時(shí)間在2 min左右，這使得輸入序列中有用信息總量很少，分解難度較大。本文網(wǎng)絡(luò)結(jié)構(gòu)中的序列擴(kuò)展模塊能夠增加序列中有用信息總量，進(jìn)而提高微波爐的分解精度。此外，冰箱因?yàn)槠溥\(yùn)行時(shí)的功率相對(duì)較低，更易受到其他用電設(shè)備的干擾，具體表現(xiàn)是在關(guān)閉狀態(tài)更容易被誤判為開啟狀態(tài)，應(yīng)設(shè)置較大的啟動(dòng)功率來(lái)減少誤判。洗衣機(jī)因?yàn)檫\(yùn)行時(shí)功率波動(dòng)劇烈，可以在訓(xùn)練前進(jìn)行平滑處理；洗碗機(jī)因?yàn)榇嬖诘凸β蔬\(yùn)行的狀態(tài)，所以設(shè)置的啟動(dòng)功率不宜過(guò)大。

圖5 四種用電設(shè)備的負(fù)荷分解效果

3 結(jié)語(yǔ)

本文提出了一種基于一維卷積神經(jīng)網(wǎng)絡(luò)的負(fù)荷分解方法，旨在提升負(fù)荷分解的性能，提高分解精度。該方法以滑動(dòng)窗口讀取總負(fù)荷時(shí)間序列，以一維卷積神經(jīng)網(wǎng)絡(luò)分解負(fù)荷。其中，一維卷積神經(jīng)網(wǎng)絡(luò)由序列擴(kuò)展模塊和特征提取模塊兩部分組成，分別用以優(yōu)化輸入和分解負(fù)荷。與現(xiàn)有方法相比，本文所提出的一維卷積神經(jīng)網(wǎng)絡(luò)基于多種評(píng)價(jià)指標(biāo)都取得了較為突出的表現(xiàn)，證明了該方法在負(fù)荷分解任務(wù)中的有效性和先進(jìn)性。

用電設(shè)備因其運(yùn)行狀態(tài)的不同，在負(fù)荷分解上的表現(xiàn)不一致。如何根據(jù)用電設(shè)備運(yùn)行狀態(tài)的不同做針對(duì)性處理，進(jìn)而提高負(fù)荷分解精度，將作為未來(lái)工作的重點(diǎn)。