史建勛 金 昊 常 明 姜振衛(wèi) 李 俊 劉 爭 俞 淵
1國家電網(wǎng)浙江嘉善縣供電有限公司,浙江 嘉善,314100
電力系統(tǒng)在國民經(jīng)濟生活中的方方面面發(fā)揮著不可或缺的重要作用,輸電線路擔負著電力的輸送和分配,在電力系統(tǒng)中起著橋梁和紐帶的作用[1-3]。然而外界自然環(huán)境如雷電、冰雪、風振及部分地質(zhì)災(zāi)害等常常造成輸電線路導線斷股,嚴重危害電力系統(tǒng)的正常運行,給國民經(jīng)濟生活造成巨大損失。因此,及時精確快速查找識別輸電線斷股就顯得尤為重要。
傳統(tǒng)的輸電線路異常檢查可分兩類:一類是人工檢測法,主要依靠人力沿輸電線路目視檢測,此方法費事費力,效率低下,且在山區(qū)丘陵等地形復雜區(qū)域難以開展工作;另一類是直升機檢測法,在直升機上搭載光學儀器,以紅外成像儀和三維激光掃描為主,通過人眼查找紅外圖像或者三維模型異常來檢測斷股故障,此方法依然離不開人工干預,且儀器設(shè)備昂貴,維修養(yǎng)護價格不菲,不利于大范圍推廣應(yīng)用。
無人機(unmanned aerial vehicle,UAV)技術(shù)的快速發(fā)展為電力線路異常故障檢測帶來了一種新穎的解決方案[4-6]。無人機搭載相機沿電力線路巡檢逐漸取代傳統(tǒng)的人工檢測法和直升機檢測法,此方法降低了作業(yè)成本、提高了工作效率,改變了電力線路巡檢的作業(yè)模式。無人機可采集海量的電力線路圖像資料,若采用人工判讀檢測導線斷股缺陷,則會耗費大量時間,且判讀結(jié)果具有一定的主觀性,不利于快速準確檢測斷股缺陷,不利于發(fā)揮無人機電力線路巡檢的技術(shù)優(yōu)勢。
傳統(tǒng)基于圖像的輸電線斷股檢測技術(shù)主要分為3類:①基于目標物邊緣的檢測技術(shù);②基于目標物閾值的檢測技術(shù);③基于目標物區(qū)域的檢測技術(shù)。在基于上述傳統(tǒng)圖像處理技術(shù)的斷股檢測方面,國內(nèi)學者進行了相關(guān)研究。仝衛(wèi)國等[7]采用Canny算子,基于Freeman連碼和紋理分析相結(jié)合的方法實現(xiàn)了斷股識別;楊爍等[8]通過對圖像進行去噪、閾值分割來獲取電線邊緣特征,基于邊緣異常實現(xiàn)斷股檢測;齊國順等[9]采用已設(shè)定模板與目標圖像進行對比,利用相似度測量函數(shù)檢測斷股缺陷位置;李泊等[10]通過導線輪廓信息實現(xiàn)斷股檢測,利用形變體檢測算法提高了斷股檢測的準確度。盡管如此,上述斷股檢測算法在實際應(yīng)用中還存在一些不足之處:①沒有顧及圖像的空間信息,僅考慮某單一信息,因此合適的閾值選取困難;②對噪音較為敏感,容易出現(xiàn)邊界不連續(xù)及雙邊界的現(xiàn)象;③存在過度分割的問題。
近年來深度學習(deep learing)技術(shù)在計算機圖像處理領(lǐng)域發(fā)展迅速,取得了突破性進展,國內(nèi)學者也將其引進電力系統(tǒng)圖像處理領(lǐng)域,進行了一些探索性研究。王萬國等[11]利用RCNN(region convolutional neural network)深度學習算法實現(xiàn)了電力小部件的識別,分析了多種算法的性能與效果,驗證了基于深度學習的電力小部件識別的可行性;付晶等[12]利用層次模型“與或圖”對目標進行分解表達,建立部件間的約束機制,構(gòu)建多向判別的路徑方法,實現(xiàn)了電力線路設(shè)備缺陷的檢測;劉云鵬等[13]利用區(qū)域建議網(wǎng)絡(luò)的Faster RCCN深度學習算法實現(xiàn)了輸變電設(shè)備紅外圖像發(fā)熱故障的識別與定位。上述這些研究實現(xiàn)了深度學習算法在電力設(shè)備缺陷檢測中的實際應(yīng)用,盡管部分算法有其一定的局限性,但其為高效快速、精準智能地檢測電力設(shè)備缺陷提供了一種可行的解決思路與研究方向。
為此本文提出了一種基于深度學習的無人機巡檢圖像導線斷股檢測方法,收集整理無人機巡檢圖像數(shù)據(jù)樣本,采用深度學習理論體系中的全卷積網(wǎng)絡(luò)(fully convolution networks,F(xiàn)CN)算法,對模型進行訓練、優(yōu)化及驗證,最終實現(xiàn)導線斷股智能檢測。
深度學習概念是由Hiton[14]在2006年提出,作為機器學習的一個分支,近十多年來一直是該領(lǐng)域的研究熱點和前沿。深度學習本質(zhì)是上一種將隱含在多層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中的高層次信息進行建模的方法[15]。
基于深度學習的圖像識別與分類技術(shù)的主要特點是僅需要向網(wǎng)絡(luò)輸入大量的原始圖像,而不需要人為設(shè)定圖像特征,即不需要或者僅需少量的圖像進行預處理,而由已設(shè)計好的深度網(wǎng)絡(luò)算法對圖像進行處理,提取高層次的圖像抽象信息,從而輸出帶有像素類別或其他標簽的且與原始圖像同分辨率的結(jié)果圖像。
全卷積網(wǎng)絡(luò)(FCN)算法是由Long等[16]在2017年提出,其核心思想是利用全卷積層代替卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural network,CNN)中的全連接層。FCN網(wǎng)絡(luò)由下采樣和上采樣兩部分組成,下采樣包括卷積層和池化層,上采樣包括反卷積層和softmax分類層。CNN的局限性在于其全連接層只能接受固定大小的輸入圖像,而FCN可以接受任意大小的輸入圖像。FCN在最后一個卷積層利用反卷積對特征圖像進行上采樣,在保留原始輸入圖像細節(jié)信息的同時,對輸入圖像的每一個像素做出一個預測,即每一個像素對應(yīng)一個訓練樣本,從而使得輸出圖像的大小與輸入圖像保持一致,實現(xiàn)了語義級別的圖像檢測分割[17]。
由于斷股部分占整個原始圖像的比例相對較低,經(jīng)過FCN網(wǎng)絡(luò)多次池化之后會造成斷股信息細節(jié)損失,不利于提高識別精度。針對上述問題,本文提出了改進方法,即在FCN網(wǎng)絡(luò)下采樣中利用部分卷積層代替池化層,如此可保留更多的斷股細節(jié)信息,從而提高FCN網(wǎng)絡(luò)對斷股的是識別精度,本文采用的FCN網(wǎng)絡(luò)構(gòu)架如圖1所示。
圖1 導線斷股檢測FCN構(gòu)架Fig.1 FCN Framework for Strand Broken Detection
2.2.1 數(shù)據(jù)集增強
為了提高網(wǎng)絡(luò)的泛化能力,同時避免過度擬合問題,本文采用剪切、翻轉(zhuǎn)、旋轉(zhuǎn)操作對圖像進行增強處理,獲得盡可能多的圖像,以提高強網(wǎng)絡(luò)的旋轉(zhuǎn)不變性特性。其中剪切操作以導線斷股位置為中心,保留盡可能多的斷股細節(jié)信息。圖2為經(jīng)過增強處理后的圖像數(shù)據(jù)集。
圖2 數(shù)據(jù)集增強處理后的部分數(shù)據(jù)Fig.2 A Part of Image Data After Data Set Enhancement Processing
2.2.2 網(wǎng)絡(luò)激活函數(shù)
當前神經(jīng)網(wǎng)絡(luò)模型多選用修正線性單位(rectified linear unit,ReLU)作為激活函數(shù),其數(shù)學表達式為:
式中,若x≤0,則有y(x)=0;若x>0,則y(x)=x。其函數(shù)圖像如圖3所示。在實際應(yīng)用中,經(jīng)過卷積操作后的輸出值往往會產(chǎn)生大量的負值,以零值取代負值就會造成大量輸入信息的丟失,不利于網(wǎng)絡(luò)對特征信息的提取,最終導致網(wǎng)絡(luò)識別準確率的下降。因此上述激活函數(shù)適用性有限。
圖3 ReLU激活函數(shù)Fig.3 ReLU Activation Function
雙邊修正線性單元(bilateral rectified linear unit,BReLU)有效地解決了ReLU函數(shù)由于梯度彌散而導致的信息丟失缺陷問題,其函數(shù)圖像如圖4所示,其數(shù)學表達式如下:
圖4 BReLU激活函數(shù)Fig.4 BReLU Activation Function
式中,y代表圖像輸入;f(y)代表輸出;tmin和tmax為BReLU激活函數(shù)的邊緣常量值,其中tmin<0,tmax>1,當tmin=0并且tmax不存在時,BReLU激活函數(shù)退化成ReLU激活函數(shù),本文選用BReLU作為網(wǎng)絡(luò)激活函數(shù)。
2.2.3 網(wǎng)絡(luò)損失函數(shù)
損失函數(shù)的值越小,則網(wǎng)絡(luò)的預測準確度越高,網(wǎng)絡(luò)訓練的目的就是最小化損失函數(shù)。本文利用softmax函數(shù)對特征圖層中的每一個像素點進行深度方向上的計算,再和輸入的真實標簽進行交叉熵計算,作為網(wǎng)絡(luò)的損失函數(shù)。softmax函數(shù)的表達式為:
式中,softmaxj(x)為輸出結(jié)果中輸入類別為j的概率;x i為各種輸入;N為總類別數(shù)。
交叉熵函數(shù)表達式為:
式中,H(p,q)為交叉熵;p為期望輸出的概率分布;q為實際輸出的概率分布,兩個概率分布程度越接近,則交叉熵值越小。
2.2.4 網(wǎng)絡(luò)訓練環(huán)境
操作系統(tǒng)選用64位Ubuntu16.04,Python選用Anaconda3 Python3.6,深度學習庫選用Tensor-Flow1.12.0,處 理 器 選 用Intel i5-6500 3.20Ghz,GPU選用NVIDIA GeForce GTX 1080Ti。
2.2.5 網(wǎng)絡(luò)訓練結(jié)果
圖5為網(wǎng)絡(luò)訓練曲線變化,其中紅色標記為精度曲線,綠色標記為損失曲線,經(jīng)過400次迭代訓練之后,兩種曲線后期表現(xiàn)平滑,準確率趨近于1,損失函數(shù)值趨近于0,此時網(wǎng)絡(luò)趨近于收斂狀態(tài)。
圖5 網(wǎng)絡(luò)精度曲線與損失曲線Fig.5 Network Accuracy Curve and Loss Curve
實驗數(shù)據(jù)來自于某電網(wǎng)支路精細化巡檢工程,該工程采用無人機空中作業(yè)方式對電網(wǎng)支路導線進行斷股檢測。無人機型號為大疆精靈4 Pro V 2.0,如圖6所示,自帶云臺相機,其主要技術(shù)參數(shù)如表1所示,采集的原始圖像數(shù)據(jù)大小為5 472×3 078像素。
圖6 大疆精靈4 Pro V2.0Fig.6 DJI Wizard 4 Pro V 2.0
表1 大疆精靈4 Pro V2.0技術(shù)指標Tab.1 DJI Genie 4 Pro V 2.0 Technical Indicators
對原始圖像集數(shù)據(jù)進行數(shù)據(jù)集增強處理后,獲得新數(shù)據(jù)集共計1 000張圖像,每張圖像大小為150×150像素。實驗將數(shù)據(jù)集分為兩部分,其中訓練集800張圖像,測試集200張圖像??紤]到在較小尺寸圖像上訓練出的網(wǎng)絡(luò)能夠掃描大于設(shè)計尺寸的圖像,故本文選取了較小的裁剪尺寸。數(shù)據(jù)集中包含了不同斷股程度的導線圖像,部分導線斷股現(xiàn)象非常明顯,呈分叉狀;部分導線斷股現(xiàn)象不明顯,僅其中一兩根斷開。多樣式的斷股特征保證訓練的網(wǎng)絡(luò)高魯棒性和穩(wěn)健性,降低誤判和錯判。數(shù)據(jù)樣本集示例如圖7所示。
圖7 數(shù)據(jù)集樣本Fig.7 Sample Data Set
首先利用訓練集樣本對網(wǎng)絡(luò)進行訓練,測試網(wǎng)絡(luò)的魯棒性和穩(wěn)健性;其次使用訓練過后的網(wǎng)絡(luò)對測試集樣本進行預測及標記,同時對導線斷股圖像進行分割,將其從背景圖像中分離出來,為后續(xù)的斷股程度分析提供依據(jù)。具體實驗流程圖如8所示。
圖8 基于FCN模型的斷股檢測識別流程圖Fig.8 Flow Chart of Intelligent Strand Detection Based on FCN Model
圖9為基于FCN模型的斷股檢測分割結(jié)果,從中可以看出針對每一種不同程度的斷股現(xiàn)象,F(xiàn)CN模型都實現(xiàn)了斷股準確檢測,并將斷股與背景環(huán)境分割開來,這表明FCN模型具有較強的魯棒性和穩(wěn)健性,不僅能夠檢測識別非常明顯的斷股現(xiàn)象,而且一些細微的斷股也能夠識別,進一步驗證了FCN模型在導線斷股檢測分割應(yīng)用中的可行性和可操作性。
圖9 基于FCN模型的斷股檢測分割結(jié)果Fig.9 Segmentation Results of Broken Strands Detection Based on FCN Model
為了進一步驗證了FCN模型在實際應(yīng)用中的有效性和可行性,本文將FCN模型算法的檢測分割效果與傳統(tǒng)的檢測分割效果進行了對比分析,結(jié)果如圖10所示。從圖10中可以看出,基于閾值的檢測分割算法和基于區(qū)域生長的檢測分割算法效果欠佳,存在大量的誤分割現(xiàn)象;粒子群算法實現(xiàn)了斷股檢測,但仍殘存部分背景噪音;遺傳算法較好地實現(xiàn)了斷股檢測分割,但依然有少數(shù)背景噪音無法剔除;基于FCN算法的檢測分割效果最優(yōu),得到了最精確的分割結(jié)果,幾乎完全去除了背景,為后續(xù)的斷股程度檢測分析提供了可靠依據(jù)。綜上分析,基于FCN模型在導線斷股檢測分割方面,相較于傳統(tǒng)的檢測分割算法,具有更高的檢測分割精度,在復雜背景噪聲下具有更好的適用性。
圖10 FCN算法與傳統(tǒng)算法的檢測分割效果對比Fig.10 Comparison of Detection Segmentation Performances Between FCN Algorithm and Traditional Algorithms
同時本文將FCN算法與常用的機器學習算法進行了比較,重點分析了不同算法在導線斷股識別中的準確率。表2為不同網(wǎng)絡(luò)算法識別準確率統(tǒng)計結(jié)果,從中可以看出BP(black propagation)算法和SVM(support vector machine)算法識別準確率相對較低,CNN算法和FCN算法識別準確率相對較高,其中FCN算法識別準確率達93.00%,遠遠高于其他算法,充分驗證了本文提出的基于FCN算法的導線斷股智能識別方法的魯棒性和準確性。
表2 不同網(wǎng)絡(luò)算法檢測準確率Tab.2 Detection Accuracy of Different Network Algorithms
盡管實驗表明,基于本文的算法識別率最高,但仍不可避免地出現(xiàn)了極少數(shù)誤判,分析認為其原因可能與天氣及作業(yè)環(huán)境有關(guān),如強烈的光照、與配電線色度接近的背景環(huán)境等;另外一個可能的原因為用于模型訓練的樣本數(shù)量不是特別充足,對模型的穩(wěn)定性有一定程度的影響。
最后本文將原FCN算法與本文改進后的FCN算法進行比較,實驗結(jié)果如表3所示,其中FCN-1為利用卷積層代替池化層后的FCN算法,F(xiàn)CN-2為采用BReLU激活函數(shù)的FCN算法。從表3可以看出,改進后的FCN-1和FCN-2算法較原FCN算法識別準確率有了大幅提高,分別為91.50%和92.05%,本文改進后的FCN算法識別準確率最高,達96.00%,這表明采用卷積層和BReLU函數(shù)在一定程度上保留了更多的特征信息,極大地提高了原FCN算法的識別準確率。
表3 不同網(wǎng)絡(luò)算法檢測準確率Tab.2 Detection Accuracy of Different Improvement Algorithms
利用無人機進行配電導線路巡檢,具有快速、高效等優(yōu)點,降低了作業(yè)對人工的依賴程度,節(jié)省了作業(yè)成本,同時提升了工作效率,逐步取代了傳統(tǒng)的人工力電力線路巡檢和直升機電力巡檢,為電力配電導線的日常巡檢提供了一種全新的可操作性強的作業(yè)模式。在此無人機獲取的圖像數(shù)據(jù)基礎(chǔ)上,本文采用深度學習FCN網(wǎng)絡(luò),實現(xiàn)了配電導線斷股智能化檢測,改變了傳統(tǒng)的依靠人工肉眼判讀識別模式,大大提升了工作效率。最后以某電力配電導線巡檢項目的實測數(shù)據(jù)驗證了所提出的算法,驗證結(jié)果表明本文提出的算法具有較強的魯棒性和穩(wěn)健性,準確識別率達93%,在實際應(yīng)用中取得了理想的效果,為配電導線斷股智能識別提供了一種全新的技術(shù)解決方案,具有重要的推廣應(yīng)用價值。