国产日韩欧美一区二区三区三州_亚洲少妇熟女av_久久久久亚洲av国产精品_波多野结衣网站一区二区_亚洲欧美色片在线91_国产亚洲精品精品国产优播av_日本一区二区三区波多野结衣 _久久国产av不卡

?

基于改進(jìn)型YOLOV5網(wǎng)絡(luò)的輸電線塔防外破目標(biāo)檢測技術(shù)研究

2023-06-24 02:15劉慶陳友坤李義姜繼彬李璘
中國新通信 2023年3期
關(guān)鍵詞:注意力機(jī)制

劉慶(通訊作者)?陳友坤?李義?姜繼彬?李璘

摘要:高壓輸電線路及桿塔常因自然條件、人為活動等因素影響,頻繁產(chǎn)生大面積跳閘事件,損失極大,尤其因外力破壞為重。外力破壞的偶發(fā)性和不可預(yù)測性,造成運(yùn)維成本增加、可靠性不高等問題。本文基于YOLOV5算法,利用CARAFE(Content-Aware ReAssembly of FEatures)改進(jìn)上采樣過程,使用SENet(Squeeze-and-Excitation Network)注意力機(jī)制重構(gòu)原網(wǎng)絡(luò)的CSP模塊,并在自建的輸電線塔數(shù)據(jù)集上進(jìn)行模型的訓(xùn)練和測試。結(jié)果表明:改進(jìn)的CARAFE-SE-YOLOV5模型比傳統(tǒng)YOLOV5模型達(dá)到了更高檢測精度,對人、汽車、工程車輛的識別準(zhǔn)確率高達(dá)92%、96%、88%。

關(guān)鍵詞:高壓輸電線;外力破壞;YOLOV5算法;上采樣;注意力機(jī)制

一、引言

架空高壓輸電線路的正常工作支撐著電網(wǎng)調(diào)度、營銷、生產(chǎn)等核心業(yè)務(wù),是電網(wǎng)穩(wěn)定可靠運(yùn)行的基石。然而因自然條件、人為活動等不確定因素存在,導(dǎo)致輸電線路設(shè)備常發(fā)生短路、跳閘、停電等事故,造成輸電線路停運(yùn)。通過對國內(nèi)部分省份電網(wǎng)線路跳閘影響因素的調(diào)研[1-2],發(fā)現(xiàn)外力破壞因素占比超過50%,其中施工(人、機(jī)械)破壞占比52.9%,樹木砍伐占比5.9%,異物短路占比39.3%,火災(zāi)、洪水、泥石流占比1.9%。傳統(tǒng)的人工巡檢以及無人機(jī)巡檢受成本的影響,無法全天候?qū)旊娋€路及桿塔進(jìn)行監(jiān)控,且周期過長、效率極低、運(yùn)營成本高、監(jiān)管困難。因此,本文基于自建的高壓輸電線及桿塔數(shù)據(jù)集上,設(shè)計一種基于改進(jìn)型YOLOV5算法網(wǎng)絡(luò),相比于傳統(tǒng)YOLOV5模型,改進(jìn)后的模型在自建數(shù)據(jù)集上有更高的檢測準(zhǔn)確度。

二、改進(jìn)型YOLOV5算法分析

(一)YOLOV5算法原理

在YOLOV4網(wǎng)絡(luò)基礎(chǔ)上,YOLOV5網(wǎng)絡(luò)作出四點(diǎn)修改:①輸入端引入數(shù)據(jù)增強(qiáng)、自適應(yīng)錨框計算、自適應(yīng)圖片縮放。②改進(jìn)基準(zhǔn)網(wǎng)絡(luò)的Focus、CSP(Cross Stage Partial Network)結(jié)構(gòu)。③Neck網(wǎng)絡(luò)中添加新的FPN(Feature Pyramid Network)+PAN(Path Aggregation Network)結(jié)構(gòu)。④輸出層改進(jìn)了GIOU_Loss損失函數(shù)與DIOU_NMS預(yù)測框篩選函數(shù)。使得YOLOV5的推理速度和精度皆高于YOLOV4及以往任何版本,如圖1所示。

YOLOV5網(wǎng)絡(luò)模型主要由Backbone與Head組成,其中Backbone由Focus、CBL(Conv+BN+LeakyRelu)、CSP(Cross Stage Partial Network)和SPP(Spatial Pyramid Pooling)構(gòu)成,而Head由FPN(Feature Pyramid Network)、PAN(Path Aggregation Network)和Detection Head模塊構(gòu)成。其中,Backbone部分,F(xiàn)ocus層通過切片操作將輸入信息融入各通道,經(jīng)切片后的輸入通道數(shù)擴(kuò)充為原來的4倍,且圖像的寬度、高度信息都包含在通道中,因此輸入圖像的下采樣過程沒有信息丟失。CBL模塊由Conv(Convolutional Layer)卷積層、BN(Batch Normalization)標(biāo)準(zhǔn)化層以及LeakyRelu激活函數(shù)層組成,用于特征提取。CSP模塊將特征圖分成兩路,一路進(jìn)行卷積操作,另一路和第一路的卷積結(jié)果進(jìn)行合并,可在分類問題上降低計算量,對網(wǎng)絡(luò)學(xué)習(xí)能力也有一定的提升。SPP為不同大小窗口的池化過程,目的是進(jìn)一步提升特征提取的效果。

對于YOLOV5的Head部分,分為三個不同大小的尺度部分構(gòu)成,每個Head經(jīng)過8、16、32倍的下采樣后輸出結(jié)果,其中FPN結(jié)構(gòu)目的是利用深層網(wǎng)絡(luò)對淺層網(wǎng)絡(luò)進(jìn)行指導(dǎo)校正,提取更高級的語義信息。PAN結(jié)構(gòu)相比于FPN,增加了自底向上的過程,用于提高網(wǎng)絡(luò)對淺層信息的定位能力。

根據(jù)網(wǎng)絡(luò)寬度、深度不同,YOLOV5又分為s、m、l、x四個不同大小的網(wǎng)絡(luò)型號,該文需實(shí)現(xiàn)輸電線塔目標(biāo)實(shí)時檢測,網(wǎng)絡(luò)模型的性能指標(biāo)更加偏向于推理結(jié)果的精度,故采用適用于較大目標(biāo)檢測的s型YOLOV5網(wǎng)絡(luò)為基礎(chǔ)模型進(jìn)行改進(jìn)。

(二)CARAFE上采樣

CARAFE是一種高效的輕量級通用上采樣框架[3],可在一個較大的范圍內(nèi)聚合上下文信息,并對特定于實(shí)例的內(nèi)容進(jìn)行感知處理,自適應(yīng)生成上采樣核,如圖2所示。CARAFE由上采樣核預(yù)測模塊和內(nèi)容感知重組模塊組成,輸入特征圖大小為H×W×C,上采樣倍率為,該結(jié)構(gòu)首先是核預(yù)測模塊得到預(yù)測的上采樣核,并利用內(nèi)容感知重組模塊完成上采樣計算,輸出得到σH×σW×C大小的特征圖。

上采樣核預(yù)測模塊利用一個1×1卷積將其通道數(shù)量壓縮至Cm,然后進(jìn)行內(nèi)容編碼和上采樣核預(yù)測。若上采樣核的大小為pup×pup,需使用pencoder×pencoder的卷積層預(yù)測上采樣核,此時輸入通道數(shù)量為Cm,輸出通道為σ2pup2,將輸出在空間維度展開得到σH×σW×pup2的上采樣核,最后進(jìn)行softmax核歸一化處理。

內(nèi)容感知重組模塊將輸出特征圖的各位置信息映射回輸入特征圖,取其中心處pup×pup的區(qū)域與在該位置的預(yù)測上采樣卷積核作點(diǎn)積得到輸出圖像,其中相同位置的不同通道共享同一個上采樣核。

該文利用CARAFE上采樣算子替換傳統(tǒng)YOLOV5模型中的上采樣,在目標(biāo)檢測任務(wù)的上采樣過程中,該采樣算子可明顯提高網(wǎng)絡(luò)的語義提取能力,同時僅帶來很小的額外參數(shù)和計算量。

(三)SE注意力機(jī)制模塊

SENet是Hu等人在2017年提出的一種架構(gòu)模型[4],它通過顯式方式建立通道之間的相關(guān)性,并重新自適應(yīng)校準(zhǔn)通道特性響應(yīng)。SENet模塊在增加少量計算成本的基礎(chǔ)上為現(xiàn)有CNN網(wǎng)絡(luò)帶來顯著的性能改進(jìn)。

如圖3所示,SENet模塊是一個構(gòu)建在映射變換上的計算單元,將輸入端的X∈RH'×W'×C'映射至輸出端的特征圖U∈RH×W×C,其中U=[u1,u2,...,uc],uc的計算如下式:

(1)

其中,,,*表示卷積計算,vsc表示一個二維的空間核,作為輸入端X相對應(yīng)的通道。利用全局平均池函數(shù)生成通道統(tǒng)計將全局空間信息壓縮至通道描述符中,統(tǒng)計信息zc∈RC的計算公式如下:

(2)

由(3)和(4)式,通過Sigmoid激活函數(shù)建立的門控機(jī)制尋找出通道間的依賴關(guān)系,再使用激活s函數(shù)重新縮放標(biāo)定U,得到模塊輸出。

(3)

(4)

其中,,而表示Fscale(uc,sc)為特征圖uc與sc間的通道相乘運(yùn)算。可見,SE模塊與傳統(tǒng)CNN不同在于,將經(jīng)過卷積變換后得到的特征通道進(jìn)行Squeeze、Excitation、Reweight三步操作,得到新的通道特征。通過Squeeze得到通道上全局響應(yīng)分布,那么靠近輸入端的層也可獲取全局感受野。利用Excitation的門控機(jī)制顯式地尋找出通道之間的相關(guān)性。最后Reweight則是將輸出權(quán)重信息完成在通道維度上對原始特征的重標(biāo)定。該文通過重構(gòu)原網(wǎng)絡(luò)中CSP結(jié)構(gòu)的ResNet網(wǎng)絡(luò)層,為其添加SE注意力機(jī)制模塊,提高網(wǎng)絡(luò)的語義表征能力。

三、輸電線塔防外破目標(biāo)檢測仿真與驗(yàn)證

(一)數(shù)據(jù)集與網(wǎng)絡(luò)訓(xùn)練

該文對輸電線塔監(jiān)控視頻進(jìn)行幀剪輯和圖片剪切,得到合計1500張圖片的數(shù)據(jù)集,其中500張人體圖片、400張汽車圖片、600張工程車(挖掘機(jī))圖片,該數(shù)據(jù)集能有效反應(yīng)真實(shí)情況下輸電線塔外力破壞事件的誘發(fā)主體,使用LabelImg軟件對三種標(biāo)簽的圖片進(jìn)行人工標(biāo)注。然后,將數(shù)據(jù)集隨機(jī)打亂后劃分為75%的訓(xùn)練集和25%的測試集,所有模型的訓(xùn)練與測試均在同一臺電腦上完成,其中Pytorch版本為1.8.0,網(wǎng)絡(luò)學(xué)習(xí)率(Learning rate, Lr)設(shè)置為0.001,網(wǎng)絡(luò)優(yōu)化器(Optimizer, Opt)選用Adam,批量大小(Batch size, Bs)為4,迭代次數(shù)(Epoch, Epo)為100。

(二)實(shí)驗(yàn)結(jié)果與分析

模型識別準(zhǔn)確度對比,如圖4所示??梢钥闯觯焊倪M(jìn)后的CARAFE-SE-YOLOV5模型在自建數(shù)據(jù)集上有更高的檢測準(zhǔn)確度。

在輸電線塔防外破檢測任務(wù)中,識別準(zhǔn)確度可直接反應(yīng)目標(biāo)的檢測情況,由于漏檢可能導(dǎo)致外力破壞事件的發(fā)生,因此Precision準(zhǔn)確度指標(biāo)成為模型評價的重要指標(biāo)之一,并綜合考慮檢測精度和速率,選擇性能最好的CARAFE-SE-YOLOV5模型作為最優(yōu)模型,檢測效果如圖5所示,在陰暗以及復(fù)雜背景環(huán)境下依然能夠較好的檢測出目標(biāo)。

四、結(jié)束語

以輸電線及桿塔防外破目標(biāo)檢測為研究目標(biāo),通過收集已有數(shù)據(jù)進(jìn)行標(biāo)注,自建專用于輸電線塔外力破壞目標(biāo)的檢測任務(wù)數(shù)據(jù)集,利用CARAFE模塊改進(jìn)上采樣過程,使用SENet注意力機(jī)制重構(gòu)原網(wǎng)絡(luò)中的CSP模塊,得到CARAFE-SE-YOLOV5模型。測試結(jié)果已證明改進(jìn)模型的檢測準(zhǔn)確度更好。在增加少量復(fù)雜度的情況下,明顯改善了對工程車(挖掘機(jī))的檢測精度,實(shí)現(xiàn)實(shí)時目標(biāo)檢測。

作者單位:劉慶 陳友坤 李義 姜繼彬 李璘 貴州電網(wǎng)有限責(zé)任公司畢節(jié)供電局

參? 考? 文? 獻(xiàn)

[1]陸佳政,周特軍,吳傳平,等.某省級電網(wǎng)220kV及以上輸電線路故障統(tǒng)計與分析[J].高電壓技術(shù), 2016,42(01): 200-207.

[2]盧銀均,李翊嘉,姜金節(jié),等.輸電線路故障統(tǒng)計分析及防控對策研究[J].山東電力技術(shù), 2021, 48(04): 47-52.

[3]J. Wang, K. Chen, R. Xu, Z. Liu, C. C. Loy and D. Lin, CARAFE: Content-Aware ReAssembly of FEatures, 2019 IEEE/CVF International Conference on Computer Vision (ICCV), 2019, pp. 3007-3016.

[4]J. Hu, L. Shen, S. Albanie, G. Sun and E. Wu, Squeeze-and-Excitation Networks [J], IEEE Trans. Pattern Anal. Mach. Intell., vol. 42, no. 8, pp. 2011-2023, 1 Aug. 2020.

該文受2022年貴州電網(wǎng)有限責(zé)任公司畢節(jié)供電局電力技術(shù)開發(fā)項(xiàng)目”高壓輸電線路走廊多異常事件智能監(jiān)控及通信技術(shù)研究”(0607002022030101SC00049)資助。

陳友坤(1978.08-),男,漢族,貴州畢節(jié),本科,貴州電網(wǎng)有限責(zé)任公司畢節(jié)供電局工程師,研究方向:輸電管理;

劉慶(1983.08-),男,苗族,貴州畢節(jié),本科,貴州電網(wǎng)有限責(zé)任公司畢節(jié)供電局工程師,研究方向:輸電線路運(yùn)檢及輸電通信管理;

李義(1991.02-),男,彝族,貴州畢節(jié),本科,工程師,研究方向:電氣工程及科技管理;

姜繼彬(1992.06-),男,漢族,四川江安,本科,助理工程師,研究方向:輸電線路運(yùn)檢及輸電通信管理;

李璘(1969.06.22-),男,漢族,貴州畢節(jié),本科,工程師,研究方向:輸電安全及輸電通信管理。

猜你喜歡
注意力機(jī)制
基于注意力機(jī)制的行人軌跡預(yù)測生成模型
基于注意力機(jī)制和BGRU網(wǎng)絡(luò)的文本情感分析方法研究
多特征融合的中文實(shí)體關(guān)系抽取研究
基于序列到序列模型的文本到信息框生成的研究
基于深度學(xué)習(xí)的手分割算法研究
從餐館評論中提取方面術(shù)語
面向短文本的網(wǎng)絡(luò)輿情話題
基于自注意力與動態(tài)路由的文本建模方法
基于深度學(xué)習(xí)的問題回答技術(shù)研究
基于LSTM?Attention神經(jīng)網(wǎng)絡(luò)的文本特征提取方法