黃磊 王輝
(上海電力大學(xué))
隨著我國經(jīng)濟(jì)快速的發(fā)展,電力系統(tǒng)網(wǎng)架結(jié)構(gòu)的規(guī)模在飛速地?cái)U(kuò)大,越來越多的人對電網(wǎng)電力的需求不斷增加,同時(shí)對電能質(zhì)量的要求也不斷地提高,而如何保障電網(wǎng)設(shè)備穩(wěn)定及安全可靠的運(yùn)行是電力員工們目前最重要的事情。但是,由于目前的電力需求越來越旺盛,尤其是在迎峰度夏期間,電力系統(tǒng)經(jīng)常處于滿負(fù)荷,甚至過負(fù)荷狀態(tài)。電力設(shè)備日常運(yùn)行中,受自身以及外界的影響,偶爾會(huì)出現(xiàn)一定的故障,一旦發(fā)生故障,就會(huì)給電網(wǎng)運(yùn)行帶來不可挽回的損失[1]。為了保證變壓器的健康穩(wěn)定運(yùn)行,變壓器在線監(jiān)測技術(shù)日益得以運(yùn)用,能夠及時(shí)發(fā)現(xiàn)設(shè)備的異常情況,對變壓器實(shí)時(shí)監(jiān)測數(shù)據(jù),形成一系列各式各樣的數(shù)據(jù)庫,這對于評(píng)價(jià)變壓器運(yùn)行狀態(tài)提供了強(qiáng)有力的支撐。
變壓器油色譜[2]在線監(jiān)測技術(shù)可以有效地測定變壓器油中溶解氣體濃度,并且是變壓器在線監(jiān)測技術(shù)中非常重要的一項(xiàng),通過選擇變壓器油中溶解氣體分析(DGA)數(shù)據(jù)中特征氣體含量,搭建卷積神經(jīng)網(wǎng)絡(luò)[3]變壓器油中溶解氣體濃度故障診斷模型,對變壓器進(jìn)行故障診斷。從而掌握變壓器的運(yùn)行狀態(tài),以及變壓器運(yùn)行風(fēng)險(xiǎn)的評(píng)估。
卷積神經(jīng)網(wǎng)絡(luò)是深度學(xué)習(xí)中的一種,是一種包含有卷積計(jì)算,并且含有深度結(jié)構(gòu)的前饋神經(jīng)網(wǎng)絡(luò)。一個(gè)完整的卷積神經(jīng)網(wǎng)絡(luò)包含有輸入層、卷積層、池化層、全連接層、輸出層[4]。它的核心部分為卷積層、池化層、輸出層。卷積神經(jīng)網(wǎng)絡(luò)具有強(qiáng)大的特征提取能力,而且局部感受區(qū)和權(quán)值共享可在很大程度上減少訓(xùn)練參數(shù),使模型適應(yīng)性更強(qiáng)、收斂更快。
卷積層是卷積神經(jīng)網(wǎng)絡(luò)中最主要的部分,該層利用卷積核對輸入層的數(shù)據(jù)進(jìn)行收集、運(yùn)算,然后提取特有信息。一個(gè)卷積核只能收集一種特征,卷積層擁有兩個(gè)最重要的特點(diǎn),分別是稀疏連接[5]以及權(quán)值共享,通過這兩個(gè)特點(diǎn),使得卷積神經(jīng)網(wǎng)絡(luò)與一般的神經(jīng)網(wǎng)絡(luò)算法顯示出本質(zhì)上的不同。數(shù)據(jù)在不斷地學(xué)習(xí),收集特征的時(shí)候,每一個(gè)卷積核會(huì)吸取一個(gè)特征。卷積神經(jīng)網(wǎng)絡(luò)中的稀疏連接以及全連接的不同的地方,是因?yàn)榫矸e層當(dāng)中的神經(jīng)元,只需要和上一層中的部分神經(jīng)元互相聯(lián)系,它使得模型參數(shù)會(huì)更加簡單,這樣可以使得訓(xùn)練工作量能夠大大地降低,并且卷積層可以同時(shí)輸出不同的特征,在特征提取的過程中,還可以不需要考慮局部特征所處的不同位置,并且大大地降低卷積層網(wǎng)絡(luò)參數(shù)的數(shù)量,同時(shí)降低過擬合的概率[6]。
池化層是卷積神經(jīng)網(wǎng)絡(luò)中最經(jīng)常使用組件之一,池化層是通過模仿人的視覺系統(tǒng),然后把數(shù)據(jù)進(jìn)行降維處理,接著使用更高一層次的特征來進(jìn)行表達(dá),同時(shí)它可以降低網(wǎng)絡(luò)參數(shù)的數(shù)量。
池化的作用:①減少信息冗余度;② 提高模型的尺度不變性以及旋轉(zhuǎn)不變性的特點(diǎn);③降低過擬合概率的發(fā)生[7]。
輸出層中本文使用邏輯函數(shù)或歸一化指數(shù)(Softmax Function)[8]輸出分類。假如訓(xùn)練集{(x(1),y(1)),(x(2),y(2)),…,(x(m),y(m))},其中x(i)∈Rn+1,y(i)∈{1,2,3,4,5, 6,…,k},當(dāng)輸入樣本為x的時(shí)候,可以通過激勵(lì)函數(shù)gθ(x)計(jì)算出樣本屬于任何類別之時(shí)的概率p(y=j|x)。激勵(lì)函數(shù)如下所示[9]:
其中,
式中,θ1,θ2,θk∈Rn+1屬于模型參數(shù),項(xiàng)是把任何分類的概率分布通過標(biāo)準(zhǔn)歸一化處理后,最后得到概率和為1。
本文中θ可以使用一個(gè)k×(n+1)的矩陣進(jìn)行表達(dá)。
于是,將會(huì)對softmax回歸代價(jià)函數(shù)進(jìn)行分析。代價(jià)函數(shù)為D(θ),在式(3)中I{·}為指示性函數(shù),計(jì)算法則為I{表達(dá)式為真時(shí)}=1,I{表達(dá)式為假時(shí)}=0。
j類概率表達(dá)公式如下:
衰減項(xiàng)增加后,代價(jià)函數(shù)則優(yōu)化成為凸函數(shù),為了讓代價(jià)函數(shù)獲得最優(yōu)解,則需要對代價(jià)函數(shù)進(jìn)行求偏導(dǎo)數(shù),于是得到式(6),再通過式(7)進(jìn)行參數(shù)更新:
通過《變壓器油中溶解氣體分析和判斷導(dǎo)則》可以得到,一臺(tái)變壓器有問題之時(shí)會(huì)產(chǎn)生二氧化碳(CO2)、一氧化碳(CO)、甲烷(CH4)、乙烷(C2H6)、乙烯(C2H4)、乙炔(C2H2)、氫氣(H2)等氣體,通過三比值法中故障特征氣體演變規(guī)律,CH4→C2H6→C2H4→C2H2的順序推移,選擇當(dāng)中的五種氣體(H2、CH4、C2H6、C2H4、C2H2)作為變壓器油中溶解氣體濃度故障診斷模型搭建的輸入向量。
變壓器油中溶解氣體濃度狀態(tài)類型編碼如表1所示。
表1 變壓器油中溶解氣體濃度狀態(tài)類型編碼
構(gòu)建卷積神經(jīng)網(wǎng)絡(luò)的變壓器油中溶解氣體濃度故障診斷模型結(jié)構(gòu)圖,如圖1所示。
圖1 基于卷積神經(jīng)網(wǎng)絡(luò)的變壓器油中溶解氣體濃度故障診斷模型結(jié)構(gòu)圖
卷積神經(jīng)網(wǎng)絡(luò)處理的數(shù)據(jù)一般是m×n的二維格式,但是本文用于診斷變壓器故障的數(shù)據(jù)是1×n的一維格式,所以采用一維卷積神經(jīng)網(wǎng)絡(luò)搭建診斷模型。由圖1可知輸入層的大小為1×5,因此卷積層C1有10個(gè)大小為3×1的卷積核,可提取到10個(gè)大小為1×5的特征圖;卷積層 C2有20個(gè)大小為3×1的卷積核,可提取到20個(gè)大小為2×1的特征圖;卷積層 C3有40個(gè)大小為3×1的卷積核,可提取到40個(gè)大小為1×1的特征圖。全連接層1神經(jīng)元個(gè)數(shù)為120,全連接層2神經(jīng)元個(gè)數(shù)為84。池化層 P1為2×1,可得到10個(gè)大小為2×1的特征圖;池化層 P2為2×1,可得到20個(gè)大小為1×1的特征圖。展開層可得到大小為1×40的特征圖。最后,在輸出層使用 Softmax 函數(shù)實(shí)現(xiàn)對變壓器故障的分類。
1)對變壓器油中溶解氣體濃度數(shù)據(jù)進(jìn)行編碼,并將這些數(shù)據(jù)分成為訓(xùn)練部分與測試的部分。
2)將變壓器油中溶解氣體濃度數(shù)據(jù)中的五種氣體(H2、CH4、C2H6、C2H4、C2H2)的含量輸成大小為 1×5的向量,作為CNN卷積神經(jīng)網(wǎng)絡(luò)的輸入層。
3)構(gòu)建基于卷積神經(jīng)網(wǎng)絡(luò)的變壓器油中溶解氣體濃度故障模型,并針對卷積核數(shù)量及卷積核大小、迭代次數(shù)參數(shù)來進(jìn)行測試。
4)卷積層和池化層在通過對輸入數(shù)據(jù)向量按照提取特征數(shù)據(jù)、降低維度以及重新構(gòu)造新的特征情況的流程后,然后再將重新構(gòu)造的特征情況壓縮成一維數(shù)組的數(shù)據(jù),于是再輸入全連接網(wǎng)絡(luò),再輸出判定結(jié)果。最終把剛剛得到判定結(jié)果和實(shí)際的結(jié)果值比較并得到殘差,最后通過反向傳播算出全連接層與卷積層之間的偏置與權(quán)重情況。
5)使用測試的數(shù)據(jù)來評(píng)判本次搭建模型的性能,如果本次搭建的模型與實(shí)際情況比較吻合,于是就將該模型進(jìn)行保存, 如果該模型與實(shí)際情況得到的結(jié)果較差,那就繼續(xù)按照第3步與第 4步的內(nèi)容繼續(xù)訓(xùn)練到滿足要求為止。
本次實(shí)證分析基于操作系統(tǒng)Windows7旗艦版(64位),anaconda3、python3.7、pytorch1.7.0的語言環(huán)境上完成。
本文實(shí)證分析收集了某220kV變電站某臺(tái)變壓器油中溶解氣體濃度數(shù)據(jù)來進(jìn)行實(shí)驗(yàn)。將數(shù)據(jù)按照比例8:2來劃分為訓(xùn)練樣本數(shù)與測試樣本數(shù)。它的分布情況如表2所示。
表2 訓(xùn)練樣本數(shù)與測試樣本數(shù)的分布情況
本次實(shí)驗(yàn)采用的是控制變量法,卷積神經(jīng)網(wǎng)絡(luò)的卷積核的數(shù)量、全單元數(shù)目以及學(xué)習(xí)率等設(shè)置為一致。本次實(shí)驗(yàn)設(shè)置卷積核數(shù)量為10,卷積核大小的設(shè)置為1×1、3×1、4×1,從準(zhǔn)確率以及快速收斂率來比較卷積核大小對模型的影響,見圖2~圖4。
圖2 卷積核大小1×1的模型準(zhǔn)確率與迭代次數(shù)圖
圖3 卷積核大小3×1的模型準(zhǔn)確率與迭代次數(shù)圖
圖4 卷積核大小4×1的模型準(zhǔn)確率與迭代次數(shù)圖
圖2~圖4中的train_acc指的是訓(xùn)練樣本的準(zhǔn)確率、text_acc指的是測試樣本準(zhǔn)確率,橫軸epoch指的是迭代次數(shù),縱軸acc指的是準(zhǔn)確率。從圖中可以得出結(jié)論,當(dāng)卷積核大小為3×1,隨著迭代次數(shù)的增加,準(zhǔn)確率越能接近1,同時(shí)越容易收斂,不容易波動(dòng)。因此為了提高準(zhǔn)確率,減少波動(dòng),卷積核大小設(shè)置為3×1較為合適。
本次實(shí)驗(yàn)設(shè)置卷積核大小為3×1,卷積核數(shù)目的設(shè)置為10、15、20,從準(zhǔn)確率以及快速收斂率來比較卷積核數(shù)目對模型的影響,見圖5~圖7。
圖5 卷積核數(shù)目為10的模型準(zhǔn)確率與迭代次數(shù)圖
圖6 卷積核數(shù)目為15的模型準(zhǔn)確率與迭代次數(shù)圖
圖7 卷積核數(shù)目為20的模型準(zhǔn)確率與迭代次數(shù)圖
從圖5~圖7中可以得出結(jié)論,當(dāng)卷積核數(shù)目為10,隨著迭代次數(shù)的增加,準(zhǔn)確率越能接近1,同時(shí)越容易收斂,不容易波動(dòng)。因此為了提高準(zhǔn)確率,減少波動(dòng),卷積核數(shù)目設(shè)置為10較為合適。
當(dāng)卷積核大小為3×1、卷積核數(shù)目為10,隨著迭代次數(shù)的增加,準(zhǔn)確率越能接近1,同時(shí)越容易收斂,不容易波動(dòng)。
在變壓器油中溶解氣體濃度故障診斷領(lǐng)域中,有傳統(tǒng)的專家系統(tǒng)診斷方法和人工智能診斷方法,人工智能法有神經(jīng)網(wǎng)絡(luò)模型法、基于模糊理論的診斷法、基于灰色理論的診斷法。這些方法都有著十分好的診斷結(jié)果,但同時(shí)也存在著收斂遲緩、易陷入局部最優(yōu)的特點(diǎn)。卷積神經(jīng)網(wǎng)絡(luò)通過卷積層與池化層的交替疊加運(yùn)算,擁有強(qiáng)大的特征識(shí)別能力,而且局部感受區(qū)和權(quán)值共享可在很大程度上減少訓(xùn)練參數(shù),使模型適應(yīng)性更強(qiáng)、收斂更快。因此開展基于卷積神經(jīng)網(wǎng)絡(luò)的變壓器油中溶解濃度故障診斷研究可以對變壓器進(jìn)行快速準(zhǔn)確的狀態(tài)評(píng)估,并及時(shí)做出故障預(yù)警,這對于增強(qiáng)新時(shí)代堅(jiān)強(qiáng)電網(wǎng)安全穩(wěn)定運(yùn)行,保障人民群眾對更高的電能質(zhì)量需求具有十分重要的意義。
實(shí)驗(yàn)結(jié)果表明,卷積神經(jīng)網(wǎng)絡(luò)診斷模型中卷積核的數(shù)量不是說很多就很好,卷積核的大小也不是說很小就很好,而卷積神經(jīng)網(wǎng)絡(luò)在進(jìn)行對壓器油中溶解氣體濃度故障診斷時(shí),卷積核的大小、數(shù)量需要由數(shù)據(jù)的真實(shí)情況來選出,從而才能達(dá)到最好的結(jié)果。