夏威，張麟，袁秋實(shí)，陳國(guó)新，馬松濤，劉涌，李皓巖

（1.國(guó)網(wǎng)上海浦東供電公司，上海200122；2.上海博英信息科技有限公司，上海200240）

改進(jìn)極限學(xué)習(xí)機(jī)應(yīng)用于電網(wǎng)故障診斷

夏威1，張麟1，袁秋實(shí)2，陳國(guó)新1，馬松濤2，劉涌2，李皓巖2

（1.國(guó)網(wǎng)上海浦東供電公司，上海200122；2.上海博英信息科技有限公司，上海200240）

電網(wǎng)故障的診斷過(guò)程很難用傳統(tǒng)的數(shù)學(xué)方法描述，基于人工智能技術(shù)的專家系統(tǒng)、神經(jīng)網(wǎng)絡(luò)［1］、遺傳算法、Petri網(wǎng)絡(luò)以及模糊理論等診斷方法在20世紀(jì)80年代初被引入電網(wǎng)故障診斷領(lǐng)域，并得到了廣泛應(yīng)用。這些診斷方法基于準(zhǔn)確的故障信息可以得到令人滿意的診斷結(jié)果，但在容錯(cuò)能力方面存在一定的局限性，即當(dāng)實(shí)時(shí)故障信息不完備或發(fā)生畸變時(shí)診斷可能失敗。

極限學(xué)習(xí)機(jī)是由新加坡南洋理工大學(xué)黃廣斌教授2004年提出的一種新型神經(jīng)網(wǎng)絡(luò)，近年來(lái)在許多領(lǐng)域得到了廣泛應(yīng)用。極限學(xué)習(xí)機(jī)隨機(jī)的選擇隱含節(jié)點(diǎn)參數(shù)（包括輸入權(quán)值和偏差）并且分析判斷單隱層前饋神經(jīng)網(wǎng)絡(luò)（SLFN）的輸出權(quán)值。這樣，當(dāng)達(dá)到最小訓(xùn)練誤差時(shí)，訓(xùn)練的負(fù)擔(dān)可以明顯地減少。它是一種簡(jiǎn)單易用、有效的單隱層前饋神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法，不僅具有數(shù)學(xué)模型簡(jiǎn)單、學(xué)習(xí)速度快的特點(diǎn)，而且具有良好的泛化性能，目前已被成功應(yīng)用于手寫(xiě)字體識(shí)別、氣象預(yù)測(cè)、語(yǔ)音及圖像識(shí)別等領(lǐng)域。本文采用改進(jìn)極限學(xué)習(xí)機(jī)作為電網(wǎng)故障識(shí)別的分類器，旨在利用其不確定性處理能力，解決保護(hù)動(dòng)作信息不完備和存在錯(cuò)誤信息時(shí)的電網(wǎng)故障診斷問(wèn)題。

1 BP人工神經(jīng)網(wǎng)絡(luò)

人工神經(jīng)網(wǎng)絡(luò)的形式不一，其決定性因素是系統(tǒng)特點(diǎn)、網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)、神經(jīng)元傳遞函數(shù)和學(xué)習(xí)算法。根據(jù)其結(jié)構(gòu)的不同，可分為前饋網(wǎng)絡(luò)（如BP網(wǎng)絡(luò)）和反饋網(wǎng)絡(luò)（如Hopfield網(wǎng)絡(luò)）；根據(jù)狀態(tài)方式可分為離散型網(wǎng)絡(luò)（如離散型Hopfield網(wǎng)絡(luò)）和連續(xù)性網(wǎng)絡(luò)（如連續(xù)性Hopfield網(wǎng)絡(luò)）；在學(xué)習(xí)方式方面又可分為監(jiān)督學(xué)習(xí)網(wǎng)絡(luò)（如BP，RBF網(wǎng)絡(luò)）和無(wú)監(jiān)督學(xué)習(xí)網(wǎng)絡(luò)（如自組織網(wǎng)絡(luò)）［2］。其中BP模型由于其能夠系統(tǒng)地解決多層網(wǎng)絡(luò)中隱單元層連接權(quán)的學(xué)習(xí)問(wèn)題而成為人工神經(jīng)網(wǎng)絡(luò)重要模型之一，并得到了廣泛的應(yīng)用。

輸入層、隱含層和輸出層是BP人工神經(jīng)網(wǎng)絡(luò)的組成部分。BP神經(jīng)網(wǎng)絡(luò)通過(guò)一邊向后傳遞誤差，一邊修正誤差的方法來(lái)不斷調(diào)節(jié)網(wǎng)絡(luò)參數(shù)（權(quán)值和閾值），以實(shí)現(xiàn)或逼近所希望的輸入輸出映射關(guān)系。

輸入層的各神經(jīng)元主要職責(zé)是把接收來(lái)的外界輸入信息傳遞給中間層各神經(jīng)元；而負(fù)責(zé)信息變換的中間層，則根據(jù)信息變化能力的需求，可設(shè)計(jì)為多隱層或單隱層結(jié)構(gòu)，來(lái)對(duì)內(nèi)部信息進(jìn)行處理；輸出層接收最后一個(gè)隱含層的每個(gè)神經(jīng)元發(fā)出的信息，經(jīng)過(guò)進(jìn)一步分析處理，完成一次信息的正向傳播處理過(guò)程，并把信息處理結(jié)果傳遞到外界。如果實(shí)際輸出與期望輸出不符，則進(jìn)入誤差的反向傳播階段。誤差通過(guò)輸出層，以誤差梯度下降的方式修正每一層的權(quán)值，向隱層、輸入層逐層反傳。周而復(fù)始誤差反向傳播和信息正向傳播過(guò)程，其實(shí)質(zhì)是每層權(quán)值不斷調(diào)整和神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練的過(guò)程，該過(guò)程一直進(jìn)行到網(wǎng)絡(luò)輸出的誤差減少到允許的范圍內(nèi)，或者預(yù)先設(shè)定的學(xué)習(xí)次數(shù)為止。BP人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)如圖1所示［3-4］。

圖1 BP人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)Fig.1 BP artificial neural network structure

其中，o1，o2，…，ok，…，ol是BP神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)值；x0，x1，…，xj，…，xn是神經(jīng)網(wǎng)絡(luò)用來(lái)訓(xùn)練的輸入值；vij是BP輸入層和隱含層之間的連接權(quán)值；wjk是隱含層和輸出層之間的連接權(quán)值，i=1，2，…，n，j=1，2，…，m，k=1，2，…，l。如果輸入節(jié)點(diǎn)數(shù)為n，輸出節(jié)點(diǎn)數(shù)為l，BP神經(jīng)網(wǎng)絡(luò)就表達(dá)了從n個(gè)自變量到l個(gè)因變量的函數(shù)映射關(guān)系。該網(wǎng)絡(luò)通過(guò)最先進(jìn)行的網(wǎng)絡(luò)訓(xùn)練使其具有聯(lián)想記憶和預(yù)測(cè)能力。

BP神經(jīng)網(wǎng)絡(luò)作為電網(wǎng)故障識(shí)別的分類器，針對(duì)不確定性問(wèn)題的處理能力有所欠缺，無(wú)法解決保護(hù)動(dòng)作信息不完備和存在錯(cuò)誤信息時(shí)的電網(wǎng)故障診斷問(wèn)題。本文將改進(jìn)極限學(xué)習(xí)機(jī)提出并應(yīng)用于電網(wǎng)故障診斷。

2 改進(jìn)極限學(xué)習(xí)機(jī)（IELM）

極限學(xué)習(xí)機(jī)是一種簡(jiǎn)單易用、有效的單隱層前饋神經(jīng)網(wǎng)絡(luò)（SLFNs）學(xué)習(xí)算法［5］。其基本思想為：訓(xùn)練前設(shè)置合適的隱含層節(jié)點(diǎn)數(shù)，在執(zhí)行過(guò)程中只需要為輸入權(quán)值和隱含層偏置隨機(jī)賦值，整個(gè)過(guò)程一次完成，無(wú)需迭代，并且產(chǎn)生唯一的最優(yōu)解。傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法（如BP神經(jīng)網(wǎng)絡(luò)）需要人為設(shè)置大量的網(wǎng)絡(luò)訓(xùn)練參數(shù)，并且很容易產(chǎn)生局部最優(yōu)解，而極限學(xué)習(xí)機(jī)只需要設(shè)置網(wǎng)絡(luò)的隱含層節(jié)點(diǎn)個(gè)數(shù)，在算法執(zhí)行過(guò)程中不需要調(diào)整網(wǎng)絡(luò)的輸入權(quán)值以及隱元的偏置，并且產(chǎn)生唯一的最優(yōu)解，因此具有學(xué)習(xí)速度快且泛化性能好的優(yōu)點(diǎn)。

一個(gè)單隱層前饋神經(jīng)網(wǎng)絡(luò)SLFN包括3層：輸入層、隱含層和輸出層。其模型如圖2所示。

圖2 單隱層SLFN結(jié)構(gòu)Fig.2 Single hidden layer feed forward neural networks SLFN

假設(shè)訓(xùn)練數(shù)據(jù)組的樣本個(gè)數(shù)為n，SLFN有l(wèi)層隱含節(jié)點(diǎn)，用sigmoid函數(shù)作為激活函數(shù)，則其輸出函數(shù)：

ELM完全不同于傳統(tǒng)的迭代學(xué)習(xí)算法，因?yàn)樗S機(jī)選取輸入權(quán)值向量w和隱含層的偏差b，并且能利用最小二乘法分析計(jì)算輸出權(quán)值β。在這種情況下，仍然可以用更好的概括性能來(lái)減小訓(xùn)練誤差［6］。根據(jù)ELM理論，式（1）可簡(jiǎn)化為：

對(duì)一個(gè)訓(xùn)練數(shù)據(jù)集合，給定激活函數(shù)和隱含層節(jié)點(diǎn)數(shù)，其歸一化處理和BP神經(jīng)網(wǎng)絡(luò)作一樣的處理，ELM算法可總結(jié)為以下3個(gè)主要的步驟：

1）隨機(jī)產(chǎn)生輸入權(quán)值向量wj和bj，1≤j≤l

2）計(jì)算隱含層輸出矩陣H

3）計(jì)算輸出權(quán)值矩陣β=H-1T

H-1是H的廣義逆矩陣。

計(jì)算H-1的廣義逆矩陣的方法有多種，其中奇異值分解由于其普遍性而被認(rèn)為是最合適的方法。相比于傳統(tǒng)的人工神經(jīng)網(wǎng)絡(luò)（ANN）算法，ELM算法在訓(xùn)練過(guò)程中不需要調(diào)整網(wǎng)絡(luò)的輸入權(quán)值，因此其訓(xùn)練速度可以快幾千倍。與此同時(shí)，它不僅能達(dá)到最小訓(xùn)練誤差‖Hβ-T‖，并且輸出權(quán)值‖β‖的范數(shù)最小，根據(jù)ANN理論，當(dāng)前饋神經(jīng)網(wǎng)絡(luò)達(dá)到最小訓(xùn)練誤差時(shí)，權(quán)值的范數(shù)越小，網(wǎng)絡(luò)就趨向于有越好的泛化能力。ELM另一個(gè)重要的優(yōu)點(diǎn)是它高效的調(diào)節(jié)機(jī)制：當(dāng)給定激活函數(shù)并且只有隱含層節(jié)點(diǎn)數(shù)需要調(diào)節(jié)時(shí)，可以通過(guò)線性驗(yàn)證獲得。相比于傳統(tǒng)算法，ELM算法克服了類似于學(xué)習(xí)速率很難確定和容易陷入局部最優(yōu)等缺點(diǎn)，并且具有很高的計(jì)算速度［7-10］。

傳統(tǒng)的ELM基于經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化原則，它是利用訓(xùn)練誤差最小的衡量準(zhǔn)則，這種方法缺陷在于會(huì)產(chǎn)生過(guò)擬合問(wèn)題，使得模型的推廣能力下降。由統(tǒng)計(jì)學(xué)理論可知，實(shí)際風(fēng)險(xiǎn)包括經(jīng)驗(yàn)風(fēng)險(xiǎn)和結(jié)構(gòu)風(fēng)險(xiǎn)2種，一個(gè)具有較好泛化性能的模型應(yīng)該能合理的權(quán)衡這2種風(fēng)險(xiǎn)，并取得最佳折中。為此本文在基于經(jīng)驗(yàn)風(fēng)險(xiǎn)最小化的ELM基礎(chǔ)上，引入結(jié)構(gòu)風(fēng)險(xiǎn)最小化原理，提出一種改進(jìn)的ELM模型。

3 基于改進(jìn)極限學(xué)習(xí)機(jī)的電網(wǎng)故障診斷算法

在故障診斷中，可以利用分層、省略無(wú)關(guān)元件等方法對(duì)電網(wǎng)進(jìn)行簡(jiǎn)化，以最大限度地去除冗余信息，提高故障診斷效率。故障決策表是各種診斷方法的數(shù)據(jù)源，常用作為故障判別的依據(jù)。在表1所示的決策表中，a、b、c為條件屬性，d為決策屬性。根據(jù)極限學(xué)習(xí)機(jī)的訓(xùn)練要求，可以將a、b、c作為極限學(xué)習(xí)機(jī)的輸入量，將d作為輸出量進(jìn)行訓(xùn)練，輸入函數(shù)的定義域范圍為［0，1］，輸出函數(shù)值域?yàn)椋?，1］。訓(xùn)練若干個(gè)樣本后，效果達(dá)到要求，即可停止訓(xùn)練。

表1 決策表舉例Tab.1 Decision table

根據(jù)故障決策表舉例內(nèi)容列舉配電網(wǎng)線路的決策表，用來(lái)驗(yàn)證算法的故障分類效果。改進(jìn)極限學(xué)習(xí)機(jī)算法和BP神經(jīng)網(wǎng)絡(luò)算法極為相似，在參數(shù)初始化和分類速度方面極限學(xué)習(xí)機(jī)更具有優(yōu)勢(shì)，下面通過(guò)實(shí)驗(yàn)對(duì)比二者的優(yōu)劣。

4 實(shí)驗(yàn)設(shè)置及結(jié)果

4.1 實(shí)驗(yàn)過(guò)程

圖3為一簡(jiǎn)單配電系統(tǒng)，分為5個(gè)區(qū)域（Sec1～Sec5），均配有過(guò)流保護(hù)（CO1～CO5）；Sec1和Sec3配有距離保護(hù)（RR1、RR3）。針對(duì)圖3所示模型，首先選取相應(yīng)的故障決策表，分別應(yīng)用改進(jìn)極限學(xué)習(xí)機(jī)和BP神經(jīng)網(wǎng)絡(luò)對(duì)提供的故障樣本進(jìn)行訓(xùn)練［11-12］。

圖3 電網(wǎng)仿真示意圖Fig.3 Schematic diagram of power system simulation

電網(wǎng)模型對(duì)應(yīng)的故障決策表見(jiàn)表2，共12組訓(xùn)練樣本。表中有QF1～CO5共12個(gè)條件屬性，因此定義輸入變量為12個(gè)，神經(jīng)網(wǎng)絡(luò)層數(shù)為3；輸出神經(jīng)元個(gè)數(shù)為6，對(duì)應(yīng)5個(gè)故障區(qū)域和1個(gè)無(wú)故障結(jié)果；隱含層神經(jīng)元個(gè)數(shù)取30。訓(xùn)練結(jié)果列于表3。

表4給出了含有保護(hù)裝置誤動(dòng)信息的7個(gè)故障樣本。對(duì)照表2可知，樣本1和樣本7是斷路器誤動(dòng)，樣本2是過(guò)流保護(hù)裝置誤動(dòng)，樣本3～6是斷路器拒動(dòng)。表5為BP神經(jīng)網(wǎng)絡(luò)和改進(jìn)極限學(xué)習(xí)機(jī)對(duì)這些樣本的診斷結(jié)果。表3和表5中BPANN代表BP神經(jīng)網(wǎng)絡(luò)算法，IELM代表改進(jìn)極限學(xué)習(xí)機(jī)算法。

4.2 結(jié)果分析

從訓(xùn)練結(jié)果和訓(xùn)練時(shí)間來(lái)看，改進(jìn)極限學(xué)習(xí)機(jī)相比BP神經(jīng)網(wǎng)絡(luò)具有較好的分類效果，更重要的是節(jié)省大量的故障分類時(shí)間，使得故障搶修工作以最快速度完成。從訓(xùn)練過(guò)程來(lái)看，改進(jìn)極限學(xué)習(xí)機(jī)需要更簡(jiǎn)化的訓(xùn)練模式，初始化參數(shù)較少，對(duì)分類結(jié)果影響更小。

表2 故障決策表Tab.2 Fault decision table

表3 BP神經(jīng)網(wǎng)絡(luò)與改進(jìn)極限學(xué)習(xí)機(jī)訓(xùn)練結(jié)果Tab.3 BP neural network and improved extreme learning machine training results

故障數(shù)據(jù)采集避免不了有一些錯(cuò)誤數(shù)據(jù)，例如開(kāi)關(guān)量和保護(hù)措施的誤動(dòng)作，使得采樣樣本出現(xiàn)錯(cuò)誤的信息。但是通過(guò)實(shí)驗(yàn)數(shù)據(jù)表明改進(jìn)極限學(xué)習(xí)機(jī)在容錯(cuò)性方面要強(qiáng)于BP神經(jīng)網(wǎng)絡(luò)算法。主要表現(xiàn)在：表5中改進(jìn)極限學(xué)習(xí)機(jī)可以識(shí)別所有的故障，而B(niǎo)P神經(jīng)網(wǎng)絡(luò)智能識(shí)別故障樣本3。

5 結(jié)語(yǔ)

本文用BP神經(jīng)網(wǎng)絡(luò)和改進(jìn)極限學(xué)習(xí)機(jī)（IELM）分別對(duì)7種故障類型進(jìn)行診斷，相較于BP模型，IELM模型需要較多的隱含層節(jié)點(diǎn)數(shù)，但是在各自的最好故障診斷效果下，IELM故障診斷能力比BP模型要高很多，并且其速度比BP高很多。而在參數(shù)初始化方面IELM受影響程度很小，BP神經(jīng)網(wǎng)絡(luò)可能因?yàn)闄?quán)重和閾值初始化不合適造成無(wú)法進(jìn)行故障診斷。通過(guò)分析比較，IELM對(duì)于故障診斷來(lái)說(shuō)精度高，速度快，能夠進(jìn)行多種故障類型的在線精確預(yù)測(cè)，具有廣泛的應(yīng)用前景。

表4 故障樣本對(duì)應(yīng)的故障信息Tab.4 The corresponding fault information of fault samples

表5 BP神經(jīng)網(wǎng)絡(luò)與改進(jìn)極限學(xué)習(xí)機(jī)診斷結(jié)果Tab.5 BP neural network and improved extreme learning machine diagnosis results

［1］韓立群.人工神經(jīng)網(wǎng)絡(luò)［M］.北京：北京郵電大學(xué)出版社，2006.

［2］侯瑞.人工神經(jīng)網(wǎng)絡(luò)BP算法簡(jiǎn)介及應(yīng)用［J］.科技信息，2011（3）：75-79.

HOU Rui.Introduction and application of BP algorithm for artificial neural network［J］.Science&Technology Information，2011（3）：75-79（in Chinese）.

［3］KARAYIANNIS N B，PURUSHOTHAMAN G.Fuzzy pattern classification using feed forward neural networks with multilevel hidden neurons［J］.IEEE International on Neural Networks，1994，5（2）：127-132.

［4］LEONARD J.Improvement of back propagation for training neural network［J］.Computer Engineering，1990，14（3）：337-340.

［5］HUANG G B，ZHU Q Y.Extreme learning machine：a new learning scheme of feed forward neural networks［C］//in：Proceedings of International Joint Conference on Neural Networks（IJCNN2004），25-29 July，2004，Budapest，Hungary.

［6］HUANG G B，ZHU Q Y，SIEW C K.Extreme learning machine：theory and applications［J］.Neurocomputing，70（1-3）：489-501.

［7］嚴(yán)泰山.神經(jīng)網(wǎng)絡(luò)BP算法研究及其在工業(yè)檢測(cè)中的應(yīng)用［D］.桂林：廣西師范大學(xué)，2001.

［8］華晨輝，楊仲江，羅骕翾，等.基于BP神經(jīng)網(wǎng)絡(luò)的普通建筑雷災(zāi)風(fēng)險(xiǎn)評(píng)估［J］.電瓷避雷器，2014（5）：60-65.

HUA Chenhui，YANG Zhongjiang，LUO Suxuan，et al.Risk assessment method of lightning disaster about ordinary buildings based on the BP neural network process［J］.Insulators and Surge Arresters，2014（5）：60-65（in Chinese）.

［9］李德超.一種基于BP神經(jīng)網(wǎng)絡(luò)的快速諧波分析算法研究［J］.電瓷避雷器，2014（6）：67-71.

LI Dechao.Study of fast harmonic analysis algorithm based on BP neural network［J］.Insulators and Surge Arresters，2014（6）：67-71（in Chinese）.

［10］岑文輝，戴文樣，仇新宏.人神經(jīng)網(wǎng)絡(luò)的電力系統(tǒng)故障診斷［M］//南京：全國(guó)高校電自專業(yè)第八屆學(xué)術(shù)年會(huì)論文集，1992.

［11］劉超，何正友，楊健維.基于量子神經(jīng)網(wǎng)絡(luò)的電網(wǎng)故障診斷算法，電網(wǎng)技術(shù)［J］.2008，32（9）：56-59.

LIU Chao，HE Zhengyou，YANG Jianwei.A quantum neural network based fault diagnosis algorithm for power grid［J］.Power System Technology，2008，32（9）：56-59（in Chinese）.

［12］高小剛，張自力，劉立剛，等.基于ATP-EMTP的直流輸電線路反擊特性研究［J］.電瓷避雷器，2014（3）：102-106.

GAO Xiaogang，ZHANG Zili，LIU Ligang，et al.The research on back striking characteristics of HVDC power transmission line based on ATP-EMTP［J］.Insulators and Surge Arresters，2014（4）：102-106（in Chinese）.

（編輯 董小兵）

Improved Extreme Learning Machine Applied in Power System Fault Diagnosis

XIA Wei1，ZHANG Lin1，YUAN Qiushi2，CHEN Guoxin1，MA Songtao2，LIU Yong2，LI Haoyan2
（1.State Grid Shanghai Pudong Electric Power Supply Company，Shanghai 200122，China；2.Shanghai Proinvent Information Technology Co.，Ltd.，Shanghai 200240，China）

電網(wǎng)故障診斷中交叉數(shù)據(jù)模式識(shí)別問(wèn)題占據(jù)重要位置，傳統(tǒng)的人工智能方法處理效果不甚理想。提出運(yùn)用改進(jìn)極限學(xué)習(xí)機(jī)進(jìn)行故障診斷的算法，隨機(jī)選取輸入權(quán)值向量和隱含層的偏差，并且利用最小二乘法分析計(jì)算輸出權(quán)值，以達(dá)到提高故障診斷容錯(cuò)性的目的。仿真結(jié)果表明：在保護(hù)動(dòng)作信息不完備的情況下，該算法的故障判斷準(zhǔn)確性明顯優(yōu)于BP神經(jīng)網(wǎng)絡(luò)，該算法對(duì)存在一定錯(cuò)誤數(shù)據(jù)的故障信息也具有良好的識(shí)別能力。

改進(jìn)極限學(xué)習(xí)機(jī)；故障診斷；BP神經(jīng)網(wǎng)絡(luò)

The cross data pattern recognition plays a very important role in the fault diagnosis in the power grid，but the effect of the traditional artificial intelligence method is limited. This paper proposes that the improved extreme learning machine be used for fault diagnosis，the input weight vector and the deviation of the hidden layer be randomly selected，and the output value be calculated and analyzed by using least square method in order to improve the fault toleration.The simulation results show that，in the condition of incomplete protection action information，the accuracy of the fault judgment algorithm of is better than BP neural network.In addition，the algorithm has better recognition ability for the fault information containing certain error data.

improved extreme learning machine；fault diagnosis；BP neural network

1674-3814（2015）04-0015-05

TM744；TP13

A

2014-12-03。

夏威（1987—），男，碩士，工程師，主要從事電網(wǎng)調(diào)控專業(yè)工作。