陳大兵,魏寒來(lái),胡軼寧,舒華忠,王 征
(1.國(guó)網(wǎng)江蘇省電力有限公司電力科學(xué)研究院,南京,211103;2.東南大學(xué)網(wǎng)絡(luò)空間安全學(xué)院,南京,210096;3.東南大學(xué)計(jì)算機(jī)科學(xué)與工程學(xué)院,南京,210096)
中國(guó)電力系統(tǒng)發(fā)展十分迅速,提高電網(wǎng)輸電能力、節(jié)省投資、保護(hù)環(huán)境、提高電網(wǎng)的經(jīng)濟(jì)效益和安全可靠性成為電網(wǎng)發(fā)展亟待解決的問(wèn)題。如今部分應(yīng)用于高壓電網(wǎng)的碳纖維復(fù)合芯導(dǎo)線(Aluminum conductor composite core, ACCC)因具有重量輕、載流量大、線損低及弧垂小等技術(shù)優(yōu)勢(shì),成為最具發(fā)展?jié)摿Φ男滦蛯?dǎo)線品種[1]。但是,ACCC 抗彎曲性是推廣和應(yīng)用的主要障礙,因此碳纖維復(fù)合材料芯損傷的檢測(cè)必不可少[2]。然而通過(guò)諸如應(yīng)力檢測(cè)[3-4]、電磁感應(yīng)檢測(cè)[5-6]及聲波檢測(cè)[7-8]等均無(wú)法穿透ACCC外層導(dǎo)電層并有效探測(cè)到其中碳纖維芯棒存在的缺陷。X 射線近年來(lái)被廣泛應(yīng)用于工業(yè)無(wú)損探傷領(lǐng)域[9-10],但一方面由于ACCC 導(dǎo)線X 射線所成圖像中缺陷部位的對(duì)比度嚴(yán)重不足,另一方面由于輸電線路很長(zhǎng),導(dǎo)致導(dǎo)線在線檢測(cè)需要對(duì)大量圖片進(jìn)行識(shí)別,極易因人員疲勞造成漏檢,因此限制了該項(xiàng)技術(shù)在ACCC 導(dǎo)線無(wú)損檢測(cè)產(chǎn)業(yè)中的應(yīng)用。隨著人工智能的發(fā)展,以Faster RCNN 方法為代表的目標(biāo)分類檢測(cè)算法[11-12]在無(wú)損檢測(cè)領(lǐng)域得到了廣泛的應(yīng)用[13-14]。然而Faster RCNN 算法直接應(yīng)用于ACCC 導(dǎo)線缺陷檢測(cè)時(shí),限于在線拍攝環(huán)境,存在導(dǎo)線區(qū)域彎曲、不同區(qū)域亮度差異大以及不同圖像間亮度一致性較差等問(wèn)題,難以獲得高精度的檢測(cè)結(jié)果。
針對(duì)這一難題,本文提出了一套結(jié)合圖像標(biāo)準(zhǔn)化增強(qiáng)與深度神經(jīng)網(wǎng)絡(luò)的快速ACCC 導(dǎo)線缺陷自動(dòng)檢測(cè)方案。該方案對(duì)導(dǎo)線的區(qū)域彎曲進(jìn)行補(bǔ)償,不同區(qū)域亮度進(jìn)行一致化,并通過(guò)直方圖規(guī)定算法將圖像亮度映射為標(biāo)準(zhǔn)亮度,以降低訓(xùn)練/檢測(cè)難度,提高檢測(cè)精度。在此基礎(chǔ)上結(jié)合Faster RCNN 網(wǎng)絡(luò)進(jìn)行自動(dòng)缺陷檢測(cè)。以雙層鋁股線類型的碳纖維復(fù)合芯導(dǎo)線X 射線圖像作為研究對(duì)象進(jìn)行實(shí)驗(yàn),結(jié)果表明:通過(guò)該標(biāo)準(zhǔn)化方案,能夠有效提高利用卷積神經(jīng)網(wǎng)絡(luò)對(duì)ACCC 導(dǎo)線進(jìn)行自動(dòng)缺陷檢測(cè)的效率,大幅提高檢測(cè)精度和穩(wěn)定性。
為了實(shí)現(xiàn)ACCC 導(dǎo)線的在線成像以及缺陷檢測(cè),本文設(shè)計(jì)開發(fā)了一套爬線機(jī)器人。機(jī)器人自重25 kg,運(yùn)行速率為0.2 m/s,載有額定電壓80 kV,額定電流0.7 mA 的X 射線源;X 射線探測(cè)板型號(hào)為PerkinElmer XRpad2,分辨率為100 μm。機(jī)器人搭配ARK1123H 小型工控系統(tǒng),CPU 為Intel Celeron J1900,作為下位機(jī),負(fù)責(zé)圖像采集與部分前處理。上位機(jī)為Dell G7 筆記本電腦,顯卡為NVIDIA 2070-Q,負(fù)責(zé)圖像亮度標(biāo)準(zhǔn)化、圖像增強(qiáng)和實(shí)時(shí)檢測(cè)運(yùn)算。
系統(tǒng)采集所得圖像如圖1 所示,導(dǎo)線影像為長(zhǎng)條狀,僅占據(jù)了探測(cè)板有效靶面的小部分,受重力等因素影響,導(dǎo)線的形態(tài)呈輕微垂?。▓D1(a)),且圖像間成像亮度存在不一致(圖1(b))。在通過(guò)機(jī)器學(xué)習(xí)進(jìn)行缺陷自動(dòng)識(shí)別之前,需要通過(guò)圖像剪裁、彎曲補(bǔ)償及灰度標(biāo)準(zhǔn)化等預(yù)處理,以降低學(xué)習(xí)成本,提升學(xué)習(xí)效率。
經(jīng)過(guò)裁剪后的導(dǎo)線區(qū)域,為了保證圖像位置一致性,需進(jìn)行彎曲補(bǔ)償。在補(bǔ)償過(guò)程中僅考慮垂直方向形變,因此本文通過(guò)邊界檢測(cè)獲得導(dǎo)線的上下邊界,取其中點(diǎn)生成偏移曲線,并以列為單位完成補(bǔ)償。利用偏移曲線對(duì)導(dǎo)線圖像進(jìn)行彎曲補(bǔ)償時(shí)由于邊界檢測(cè)采用了閾值分割,相鄰列偏移量不連續(xù),將產(chǎn)生豎條狀偽影(圖2(a)),為解決這一問(wèn)題本文采用高斯濾波對(duì)偏移曲線進(jìn)行濾波,濾波公式為
圖1 碳纖維復(fù)合芯導(dǎo)線X 射線圖像Fig.1 X-ray image of carbon fiber composite core wire
圖2 導(dǎo)線彎曲補(bǔ)償效果對(duì)比Fig.2 Comparison of wire bending compensation
式中:σ為方差;x為橫坐標(biāo)。設(shè)離散化濾波核長(zhǎng)度為17,根據(jù)濾波結(jié)果進(jìn)行線性插值,其結(jié)果如圖2(b)所示。對(duì)比可發(fā)現(xiàn),濾波消除了矯正圖像中的豎條狀偽影,提升了補(bǔ)償效果。
在ACCC 導(dǎo)線X 射線圖像的采集過(guò)程中,導(dǎo)致圖像亮度不一致的因素有兩種:(1)平板探測(cè)器中心和四周區(qū)域的射線響應(yīng)不同,導(dǎo)致單幅圖像中目標(biāo)亮度不一致;(2)采集過(guò)程中,為爬線機(jī)器人供電的電池電量下降引起X 射線強(qiáng)度下降,與成像板做亮度場(chǎng)校正時(shí)的射線場(chǎng)存在差異。針對(duì)這兩種不同的亮度不一致現(xiàn)象,本文分別采用單幅圖像亮度一致化和多幅圖像亮度標(biāo)準(zhǔn)化技術(shù)進(jìn)行解決。
(1)單幅圖像亮度一致化
考慮到ACCC 導(dǎo)線的整體均勻性,同一張圖像不同位置的ACCC 導(dǎo)線局部亮度應(yīng)趨于一致。由于絞線空隙紋理的存在,本文在導(dǎo)線的每一個(gè)水平中心位置附近選取一定寬度的區(qū)域,進(jìn)行局部亮度統(tǒng)計(jì),之后根據(jù)局部亮度信息對(duì)ACCC 導(dǎo)線進(jìn)行整體亮度一致性補(bǔ)償。
給定一致化目標(biāo)亮度Bm,然后逐列統(tǒng)計(jì)局部亮度Barea(i)為
式中:H為圖像高度;W為區(qū)域?qū)挾取?/p>
根據(jù)統(tǒng)計(jì)亮度和與規(guī)定亮度的比值,對(duì)該窗口中間一列各點(diǎn)像素值進(jìn)行映射,統(tǒng)一映射到一致化目標(biāo)亮度Bm。
式中B′(i,j)與B(i,j)分別表示映射前后像素(i,j)的亮度。
(2)多幅圖像亮度標(biāo)準(zhǔn)化
直方圖規(guī)定[15]是一種尋找直方圖之間單調(diào)映射的方法,通過(guò)將原始圖像各灰度級(jí)映射到目標(biāo)圖像各灰度級(jí)來(lái)實(shí)現(xiàn)不同圖像的亮度標(biāo)準(zhǔn)化,本文通過(guò)直方圖規(guī)定算法實(shí)現(xiàn)了多幅圖像亮度標(biāo)準(zhǔn)化。圖3 中左側(cè)為3 幅不同亮度分布的導(dǎo)線圖像及其灰度直方圖;中間為標(biāo)準(zhǔn)圖像及灰度直方圖,該標(biāo)準(zhǔn)圖像下缺陷與背景對(duì)比較為明顯且接近標(biāo)準(zhǔn)成像條件下的成像效果;右側(cè)為直方圖規(guī)定轉(zhuǎn)換后圖像,轉(zhuǎn)換后圖像與標(biāo)準(zhǔn)圖像具有完全相同的灰度分布。
圖3 直方圖規(guī)定化效果圖Fig.3 Effect diagram of histogram normalization
本文采用了經(jīng)典的Faster RCNN(Region convolutional neural network)模型[12]對(duì) ACCC 導(dǎo)線 X 射線圖像中的缺陷進(jìn)行自動(dòng)檢測(cè)。樣本分為有/無(wú)缺陷二分類,缺陷包括鋸口、折口、空隙及劈裂等,訓(xùn)練參數(shù)樣本1 250 張,測(cè)試樣本638 張,測(cè)試樣本中包含缺陷樣本320 張。
Faster RCNN 依次由卷積層(Convolution layers)、區(qū)域選取網(wǎng)絡(luò)(Region proposal network,RPN)、感興趣區(qū)域(Region of interests,ROI)池化層、分類和回歸(Classifier)4 個(gè)部分組成。
卷積層用于提取圖片的特征,輸入為2 475 像素×225 像素大小經(jīng)過(guò)預(yù)處理的圖片,輸出為提取出的特征(Feature maps)。本文使用了 5 種不同特征提取網(wǎng)絡(luò),包括 VGG,GoogleNet,Inception v2,Resnet 和WideResnet 進(jìn)行實(shí)驗(yàn),并對(duì)比最終結(jié)果,以尋找較為合適的特征提取網(wǎng)絡(luò)。
RPN 網(wǎng)絡(luò)對(duì)提取的卷積特征圖進(jìn)行處理,用于尋找可能包含缺陷目標(biāo)的區(qū)域(目標(biāo)建議)。本文用所有以Mini Batch 梯度下降法篩選出來(lái)的Anchor Box 先驗(yàn)框和二進(jìn)制交叉熵來(lái)計(jì)算分類損失,用IoU(Intersection of union)值大于0.5 的前景Mini Batch 錨點(diǎn)來(lái)計(jì)算回歸損失。RPN 在自身訓(xùn)練的同時(shí),還會(huì)提供ROI 給Fast RCNN(RoIHead)作為訓(xùn)練樣本。為解決多個(gè)目標(biāo)建議在同一目標(biāo)上重疊的問(wèn)題,本文采用了非極大抑制算法(Non-maximum suppression, NMS)。NMS 保留評(píng)分最高的N個(gè)建議,由于電纜圖像數(shù)據(jù)中缺陷尺寸較小,故可以適當(dāng)降低N的大小,本文實(shí)驗(yàn)設(shè)置N大小為1 000。
通過(guò)RPN 獲得目標(biāo)建議后,將目標(biāo)建議與由卷積層獲得的特征圖一起輸入到ROI 池化層,為每個(gè)目標(biāo)建議提取固定長(zhǎng)度的特征,分類和回歸層使用這些特征進(jìn)行分類,并進(jìn)一步進(jìn)行邊框調(diào)整,計(jì)算得到候選區(qū)域所屬的類,以及候選區(qū)域在圖像中的精確位置。
Faster RCNN 訓(xùn)練方法采用端到端的聯(lián)合訓(xùn)練方法,同時(shí)本文用隨機(jī)梯度下降的動(dòng)量算法訓(xùn)練,將動(dòng)量值設(shè)置為0.9。學(xué)習(xí)率從0.001 開始,50 000 步后下降為0.000 1。
為驗(yàn)證前面提出的導(dǎo)線圖像標(biāo)準(zhǔn)化方法對(duì)深度學(xué)習(xí)自動(dòng)檢測(cè)準(zhǔn)確率起到的提升作用,以雙層鋁股線類型的碳纖維復(fù)合芯導(dǎo)線X 射線圖像作為研究對(duì)象。本文分別采用原始圖像和標(biāo)準(zhǔn)化后圖像進(jìn)行對(duì)比實(shí)驗(yàn),其中標(biāo)準(zhǔn)化部分包含單張亮度一致化和多圖亮度標(biāo)準(zhǔn)化。圖4 為含各種不同類型缺陷的樣本圖標(biāo)準(zhǔn)化處理前后對(duì)比效果,圖4(a)為處理前圖像,圖像間存在較大亮度差異,圖4(b)為處理后圖像,具有較高的亮度一致性。
標(biāo)準(zhǔn)化處理后圖像大小為2 475 像素× 225 像素,將其輸入神經(jīng)網(wǎng)絡(luò)模型進(jìn)行檢測(cè)。未經(jīng)標(biāo)準(zhǔn)化處理的部分樣本在檢測(cè)中出現(xiàn)了較高的誤檢率和漏檢率,如圖5 所示。圖中1 號(hào)樣例右側(cè)區(qū)域的誤檢原因是整體亮度的偏低,導(dǎo)致網(wǎng)絡(luò)將過(guò)暗的斜紋錯(cuò)誤認(rèn)作了缺陷;2 號(hào)樣例右側(cè)區(qū)域的誤檢原因是整體亮度的偏高且背景與碳纖維芯棒對(duì)比度不高,導(dǎo)致了誤檢;3 號(hào)樣例右側(cè)區(qū)域是由于邊界的彎曲不平,導(dǎo)致神經(jīng)網(wǎng)絡(luò)出現(xiàn)了誤判;4,5 號(hào)樣例中標(biāo)注區(qū)域?yàn)槁z缺陷區(qū)域,圖像整體亮度過(guò)大,而缺陷較為不明顯,對(duì)比度較低,使得網(wǎng)絡(luò)未能將原有的缺陷識(shí)別出來(lái)。而這些漏檢和誤檢在進(jìn)行前端標(biāo)準(zhǔn)化后可以正確識(shí)別。
圖4 標(biāo)準(zhǔn)化處理前后對(duì)比Fig.4 Comparison before and after standardization
圖5 未經(jīng)標(biāo)準(zhǔn)化處理發(fā)生漏檢/誤檢樣例Fig.5 Examples of missed / falsely detected cases without standardization
本文采用了多種不同的前處理方案,包括未進(jìn)行標(biāo)準(zhǔn)化前處理、僅進(jìn)行懸垂補(bǔ)償、進(jìn)行了懸垂補(bǔ)償及單張圖像亮度一致化、進(jìn)行了全部標(biāo)準(zhǔn)化前處理共4 種。采用Resnet 作為特征處理網(wǎng)絡(luò),進(jìn)行了Faster RCNN 缺陷檢測(cè)試驗(yàn),結(jié)果統(tǒng)計(jì)情況如圖6 所示。通過(guò)對(duì)比可以發(fā)現(xiàn),不論是正確識(shí)別率、漏檢率還是誤檢率,隨著圖像依次進(jìn)行懸垂補(bǔ)償、單張亮度標(biāo)準(zhǔn)化以及多張亮度標(biāo)準(zhǔn)化,其檢測(cè)精度逐步提升。由此可得出結(jié)論,本文提出的碳纖維導(dǎo)線X 射線圖像標(biāo)準(zhǔn)化方法,能夠有效地提高神經(jīng)網(wǎng)絡(luò)對(duì)碳纖維導(dǎo)線X 射線圖像缺陷的識(shí)別率。
圖6 同網(wǎng)絡(luò)下有無(wú)標(biāo)準(zhǔn)化處理的圖像缺陷二分類識(shí)別率對(duì)比Fig.6 Comparison of classification rate of image defects with and without standardized processing in the same network
本文實(shí)現(xiàn)了 VGG,GoogleNet,Resnet,Inception v2 和 WideResnet 特征提取網(wǎng)絡(luò)結(jié)構(gòu),各特征提取網(wǎng)絡(luò)的檢測(cè)結(jié)果如圖7 所示。經(jīng)對(duì)比可發(fā)現(xiàn),無(wú)論采用何種特征提取網(wǎng)絡(luò),標(biāo)準(zhǔn)化前處理均可以一定程度上提高檢測(cè)精度,而其中Resnet 特征網(wǎng)絡(luò)具有最高的檢測(cè)精度。
圖7 不同特征提取網(wǎng)絡(luò)下有無(wú)標(biāo)準(zhǔn)化處理的圖像缺陷二分類識(shí)別率對(duì)比Fig.7 Comparison of classification rate of image defects with or without standardized processing under different feature extraction networks
針對(duì)碳纖維復(fù)合芯導(dǎo)線中碳纖維芯棒抗彎折強(qiáng)度低,容易發(fā)生診斷而無(wú)法有效檢測(cè)的難題,本文提出了一種基于X 射線成像,結(jié)合了前端圖像標(biāo)準(zhǔn)化處理以及Faster RCNN 深度學(xué)習(xí)網(wǎng)絡(luò)的自動(dòng)檢測(cè)方案。經(jīng)實(shí)驗(yàn)對(duì)比,所提出的懸垂補(bǔ)償、亮度標(biāo)準(zhǔn)化等前端圖像標(biāo)準(zhǔn)化處理可以有效提高檢測(cè)精度,而使用Faster RCNN 和Resnet 特征提取網(wǎng)絡(luò),可以取得最佳的檢測(cè)精度。