王睿奇,付丁一,馬鵬,陳熙來,侯長波
哈爾濱工程大學(xué) 信息與通信工程學(xué)院,黑龍江 哈爾濱 150001
隨著科技的進(jìn)步,影響現(xiàn)代戰(zhàn)爭勝負(fù)的關(guān)鍵因素逐漸演變到信息化戰(zhàn)場層面[1]?,F(xiàn)在信息化戰(zhàn)場上各種雷達(dá)、導(dǎo)航、無人機(jī)等電子裝備的輻射源數(shù)量愈發(fā)增多,信號(hào)的調(diào)制方式也越來越多樣,致使戰(zhàn)場中的電磁環(huán)境日益復(fù)雜[2]。如何在復(fù)雜多變的戰(zhàn)場中,對(duì)多信號(hào)進(jìn)行檢測和識(shí)別,為我軍在電磁頻譜戰(zhàn)領(lǐng)域取得優(yōu)勢奠定堅(jiān)實(shí)的基礎(chǔ),具有重要的軍事價(jià)值[3?4]。
在大多數(shù)非合作通信場景下,調(diào)制識(shí)別是實(shí)現(xiàn)頻譜感知的關(guān)鍵一環(huán),也是進(jìn)行高效信號(hào)處理的重要前提。但面對(duì)日益復(fù)雜的電磁環(huán)境,一般信號(hào)檢測方法和傳統(tǒng)信號(hào)識(shí)別技術(shù)往往無法滿足環(huán)境所需的頻譜感知性能,使得電磁感知設(shè)備的準(zhǔn)確性、抗干擾性和魯棒性受到了挑戰(zhàn)。同時(shí),過去傳統(tǒng)的電磁感知設(shè)備笨重且體積龐大,使得電子作戰(zhàn)部隊(duì)在機(jī)動(dòng)性和靈活性上存在不足,難以在瞬息萬變的戰(zhàn)場環(huán)境中有效展開行動(dòng)。因此,設(shè)計(jì)開發(fā)出解決上述問題的電磁作戰(zhàn)設(shè)備,已經(jīng)成為我軍電磁頻譜領(lǐng)域目前的一種需求[5]。
近年來,深度學(xué)習(xí)成為了一項(xiàng)熱點(diǎn)技術(shù),相較于基于目標(biāo)建模和人工特征的傳統(tǒng)信號(hào)識(shí)別,基于深度學(xué)習(xí)的信號(hào)識(shí)別算法識(shí)別準(zhǔn)確率高,人工成本低,然而計(jì)算量龐大,對(duì)硬件設(shè)備要求高。文獻(xiàn)[6]提出了基于信號(hào)的頻譜和幅度特征,對(duì)信號(hào)進(jìn)行識(shí)別;文獻(xiàn)[7]通過使用卷積神經(jīng)網(wǎng)絡(luò)完成多種信號(hào)的識(shí)別,識(shí)別準(zhǔn)確率高,但計(jì)算復(fù)雜度大且計(jì)算時(shí)間長;文獻(xiàn)[8]提出通過在網(wǎng)絡(luò)權(quán)重上引入稀疏限制,在訓(xùn)練過程對(duì)模型進(jìn)行通道裁剪,減少網(wǎng)絡(luò)參數(shù)量,但剪枝要求訓(xùn)練計(jì)算量較高;文獻(xiàn)[9]提出將模型網(wǎng)絡(luò)參數(shù)量化成16 位,在盡可能保證識(shí)別精度的情況下減少內(nèi)存的占用和浮點(diǎn)數(shù)運(yùn)算量。
本文提出了一種便攜式無線電智能感知儀,通過基于滑動(dòng)窗的信號(hào)頻譜能量檢測方法,提高了檢測概率,采用卷積神經(jīng)網(wǎng)絡(luò)來提取信號(hào)的I/Q 兩路的特征信息,進(jìn)行信號(hào)的調(diào)制方式識(shí)別,設(shè)備識(shí)別準(zhǔn)確率得到提升;設(shè)計(jì)并搭建了系統(tǒng)的硬件平臺(tái),解決傳統(tǒng)電磁感知設(shè)備笨重、體積龐大的問題;對(duì)模型進(jìn)行輕量化處理,將32 位浮點(diǎn)數(shù)模型參數(shù)量化為8 位整型數(shù)據(jù),部署到硬件平臺(tái)上,在不損失識(shí)別精度的前提下,極大減少內(nèi)存的占用情況和浮點(diǎn)運(yùn)算量,加快模型推理速度。
智能信號(hào)處理模塊主要包含2 個(gè)模塊,分別為信號(hào)檢測接收模塊和后端的基于神經(jīng)網(wǎng)絡(luò)的信號(hào)識(shí)別模塊,如圖1 所示。信號(hào)檢測模塊能夠?qū)χ付▽掝l段信號(hào)自動(dòng)掃描,檢測是否有危險(xiǎn)信號(hào)的存在;然后收集頻段內(nèi)的I/Q 兩路信號(hào)送入信號(hào)識(shí)別模塊;最后通過卷積神經(jīng)網(wǎng)絡(luò)識(shí)別出信號(hào)的調(diào)制方式。
圖1 智能偵察模塊架構(gòu)
本文研發(fā)的便攜式智能電磁感知儀的整體設(shè)計(jì)方案如圖2 所示。該系統(tǒng)由信號(hào)檢測平臺(tái)、信號(hào)識(shí)別平臺(tái)這2 部分組成,2 部分模塊中的神經(jīng)網(wǎng)絡(luò)模型均使用線性量化方法實(shí)現(xiàn)輕量化部署。
圖2 系統(tǒng)整體設(shè)計(jì)
在一次完整的系統(tǒng)工作流程中,系統(tǒng)將偵察天線接收到的信號(hào)進(jìn)行微波變頻,然后將中頻信號(hào)輸入至數(shù)字信號(hào)檢測模塊中,從中提取出頻率信息、脈寬信息、功率信息。其中頻率信息、脈寬信息、功率信息在信號(hào)識(shí)別中得到信號(hào)的調(diào)制類型。在感知到電磁環(huán)境信息之后,如需要對(duì)非合作方的電磁信號(hào)做下一步處理,信號(hào)分析識(shí)別模塊輸出的信息可以作為智能決策的依據(jù)。
信號(hào)檢測技術(shù)的研究是信號(hào)識(shí)別方法的基礎(chǔ)。經(jīng)典的信號(hào)檢測方法有能量檢測方法[10?12]、匹配濾波器法[13]和循環(huán)平穩(wěn)檢測法[14]。其中能量檢測方法計(jì)算復(fù)雜度低、成本小,易于在算力有限的邊緣設(shè)備中部署[15]。并且,信號(hào)在頻譜上的能量分布可以區(qū)別開信號(hào)和噪聲,因此本文使用基于掃頻檢測的信號(hào)感知方法。算法流程如圖3所示。
圖3 信號(hào)檢測接收模塊工作流程
由于信號(hào)頻譜數(shù)據(jù)涉及不同的調(diào)制類型且缺乏關(guān)于信號(hào)頻率分布的先驗(yàn)信息,如果直接采用卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行識(shí)別,隨著采樣點(diǎn)數(shù)以及信號(hào)數(shù)目的增多會(huì)導(dǎo)致計(jì)算復(fù)雜度的大幅度提升,識(shí)別準(zhǔn)確率也隨之下降。因此本文提出了一種基于信號(hào)能量感應(yīng)檢測的頻域基帶預(yù)處理方法。
首先將頻域上的所有待識(shí)別信號(hào)進(jìn)行幅度歸一化處理,使待檢測信號(hào)和分類識(shí)別網(wǎng)絡(luò)訓(xùn)練集信號(hào)幅度匹配,在卷積網(wǎng)絡(luò)進(jìn)行訓(xùn)練時(shí),數(shù)據(jù)集中的數(shù)據(jù)在載入網(wǎng)絡(luò)之前進(jìn)行了相關(guān)的預(yù)處理,將信號(hào)幅度范圍限制在了[?1,1]。信噪比較高的信號(hào)一般都位于幅值較大的區(qū)域,通過頻域的能量分布對(duì)多分量信號(hào)頻譜進(jìn)行分割,并進(jìn)行幅度歸一化以及基帶調(diào)整。為此,本設(shè)計(jì)在快速傅里葉變化(fast Fourier transformation,F(xiàn)FT)的基礎(chǔ)上,提出了一種基于滑動(dòng)窗的信號(hào)頻譜能量檢測方法,窗函數(shù)的定義如下式所示:
式中a動(dòng)態(tài)比例因子,大小隨著輸入窗函數(shù)的最大值emax自動(dòng)調(diào)節(jié),a和emax的關(guān)系滿足下式:
通過滑動(dòng)窗中心感知區(qū)與入窗區(qū)和出窗區(qū)的數(shù)值進(jìn)行比較,當(dāng)一段頻譜區(qū)間內(nèi)的信號(hào)能量最大值出現(xiàn)在中心感知區(qū)時(shí),認(rèn)為截取到的即為一個(gè)完整的信號(hào)。
信號(hào)調(diào)制識(shí)別的準(zhǔn)確率對(duì)于電磁態(tài)勢感知是一項(xiàng)重要的指標(biāo),相較于傳統(tǒng)人工特征提取方法[16?17],基于卷積神經(jīng)網(wǎng)絡(luò)的信號(hào)調(diào)制識(shí)別可以實(shí)現(xiàn)特征的自動(dòng)提取與分類,具有較高的識(shí)別準(zhǔn)確率。Tu 等[18]提出了將深度復(fù)數(shù)網(wǎng)絡(luò)應(yīng)用于調(diào)制識(shí)別,提高了識(shí)別效果,但大幅增加了模型的計(jì)算量,在存儲(chǔ)資源受限制的嵌入式設(shè)備上難以應(yīng)用,且復(fù)數(shù)卷積層在現(xiàn)有的部署工具上并不支持。因此,需要一種可部署于嵌入式設(shè)備中輕量化網(wǎng)絡(luò)作為信號(hào)識(shí)別使用的神經(jīng)網(wǎng)絡(luò),該神經(jīng)網(wǎng)絡(luò)應(yīng)具備算力需求低、網(wǎng)絡(luò)層算子可部署的特點(diǎn)。文獻(xiàn)[19]提出了一種基于輕量化神經(jīng)網(wǎng)絡(luò)用于手勢識(shí)別的方法,該網(wǎng)絡(luò)經(jīng)過輕量化后可直接部署于嵌入式平臺(tái),有算力需求低的優(yōu)點(diǎn)。結(jié)合以上研究,本文提出了一種基于INT8 量化的輕量級(jí)卷積神經(jīng)網(wǎng)絡(luò)方法實(shí)現(xiàn)對(duì)信號(hào)進(jìn)行調(diào)制識(shí)別。
2.2.1 卷積神經(jīng)網(wǎng)絡(luò)
1)卷積層
神經(jīng)網(wǎng)絡(luò)卷積層用來提取數(shù)據(jù)的局部特征,并將輸出的特征圖傳遞給下一層。其卷積層的輸出可以表示為
式中:Zl+1和Zl分別為第l層卷積核的輸入和輸出,Ml+1為第l+1層的卷積核,b為偏置項(xiàng),Kl為第l層特征圖通道數(shù),f為卷積核尺寸,s0為步長。
2)激活函數(shù)層
ReLU 激活函數(shù)其表達(dá)式為
3)平均池化層
使用平均池化層使最主要的特征保留,而次要特征被刪除,另外還可以減少參數(shù)量,使模型不易過擬合。本文采用的結(jié)構(gòu)如圖4 所示。
圖4 調(diào)制識(shí)別網(wǎng)絡(luò)結(jié)構(gòu)
當(dāng)前模型的復(fù)雜度和算力需求門檻越來越高。2012 年,Hinton 團(tuán)隊(duì)在ImageNet 比賽中首次使用深度學(xué)習(xí)用于圖像分類任務(wù),當(dāng)時(shí)的神經(jīng)網(wǎng)絡(luò)層數(shù)還是個(gè)位數(shù);2015 年來自微軟的ResNet 做到152 層;現(xiàn)在很多團(tuán)隊(duì)都在做上萬層的深度學(xué)習(xí)模型。模型深度的增加有可能帶來表達(dá)能力的進(jìn)一步拓展和突破,但同時(shí)也帶來了模型復(fù)雜度的飛升[20]。
2.2.2 量化網(wǎng)絡(luò)模型
目前大多數(shù)的深度學(xué)習(xí)網(wǎng)絡(luò)框架在訓(xùn)練模型時(shí),大多采用32 位浮點(diǎn)數(shù)(32-bit floating point,F(xiàn)P32)類型的數(shù)據(jù)來表示權(quán)重?cái)?shù)據(jù)、偏置數(shù)據(jù)和激活值數(shù)據(jù)[21]。這樣的模型搭建完成后,往往由于計(jì)算量較大,對(duì)于硬件內(nèi)存的需求較高,難以在嵌入式設(shè)備上部署。
為了使系統(tǒng)運(yùn)行的速度更快,內(nèi)存占用需求更小,本文采用訓(xùn)練后量化的方法,通過對(duì)訓(xùn)練好的模型進(jìn)行量化處理來提供在開發(fā)板上的運(yùn)行支持。Tensorflow Lite 支持神經(jīng)網(wǎng)絡(luò)中的卷積層、池化層和全連接層等[22]。使用該工具并采用之前訓(xùn)練好的模型,最后輸入用于校準(zhǔn)的數(shù)據(jù)集。根據(jù)這些輸入,可以生成8 位輕量級(jí)的整數(shù)模型,量化后無需再重新訓(xùn)練網(wǎng)絡(luò)。
在企業(yè)管理中,為了應(yīng)對(duì)如今變幻莫測的市場環(huán)境以及企業(yè)內(nèi)部的動(dòng)態(tài)變化,需要對(duì)信息進(jìn)行全面的采集以及整理,這樣可以讓生產(chǎn)經(jīng)營的實(shí)際狀況得到明確,便于企業(yè)管理者進(jìn)行科學(xué)決策,提升企業(yè)的管理水平,讓企業(yè)的經(jīng)營目標(biāo)順利實(shí)現(xiàn)。這就需要借助數(shù)字技術(shù)讓數(shù)據(jù)采集以及提取效果更高,分析更加有效,因此數(shù)字技術(shù)在工業(yè)企業(yè)的管理工作中也是得到廣泛運(yùn)用。在設(shè)備方面,如今的工業(yè)發(fā)展中,數(shù)字技術(shù)在各類電氣設(shè)備中實(shí)現(xiàn)運(yùn)用已經(jīng)是一種必然的趨勢,尤其是傳感器以及執(zhí)行器與數(shù)字技術(shù)的融合,以及光纖技術(shù)的普遍運(yùn)用,在網(wǎng)絡(luò)技術(shù)的支持以及平臺(tái)的搭建基礎(chǔ)上,可以讓企業(yè)的生產(chǎn)效率得到明顯提升。
線性量化公式為
式中:X為原始的FP32 數(shù)值,Xint為量化后的一個(gè)整數(shù)值,Z為映射的零點(diǎn)(Zero point),S為縮放因子(scale)。
量化后的模型參數(shù)和神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)會(huì)發(fā)生一些改變,對(duì)模型的最終計(jì)算結(jié)果產(chǎn)生一定的影響。圖5 為模型量化的示意。使用整型(integer,INT)線性量化可以完成神經(jīng)網(wǎng)絡(luò)的輕量化實(shí)現(xiàn),有計(jì)算量小、硬件需求低的優(yōu)點(diǎn)。
圖5 量化示意
本文針對(duì)復(fù)雜作戰(zhàn)環(huán)境的需求,設(shè)計(jì)并搭建了一種便攜式無線電智能感知儀,整個(gè)設(shè)備的實(shí)物搭建如圖6 所示。整個(gè)設(shè)備的硬件組成由嵌入式硬件設(shè)備和軟件無線電硬件設(shè)備2 部分組成。
圖6 實(shí)物搭建框圖
隨著圖形處理器(graphics processing unit,GPU)性能的不斷增強(qiáng)和可編程性的日漸提高,GPU 的用途不再局限于傳統(tǒng)的圖形圖像處理。目前,GPU 已經(jīng)廣泛應(yīng)用于從小到圖像解碼,大到超級(jí)計(jì)算機(jī)的各種計(jì)算領(lǐng)域,進(jìn)入到了高性能計(jì)算的主流行列[23]。
嵌入式硬件設(shè)備作為模型算法的處理核心,內(nèi)部部署神經(jīng)網(wǎng)絡(luò)模型算法,利用GPU 并行計(jì)算的優(yōu)勢,對(duì)數(shù)據(jù)并行處理,使模型進(jìn)行快速推理。
本設(shè)備采用NVIDIA 公司的Jetson AGX Orin模組,如圖7 所示,基于NVIDIA Pascal? GPU 架構(gòu),搭載 8 GB 內(nèi)存,且內(nèi)存帶寬為 59.7 GB/s。
圖7 嵌入式硬件設(shè)備
軟件無線電硬件底層鏡通過Petalinux 工具配置系統(tǒng)設(shè)備樹、構(gòu)建內(nèi)核和根文件系統(tǒng)將導(dǎo)出的底層硬件設(shè)計(jì)文件轉(zhuǎn)化為可在ZYNQ-7020 芯片上運(yùn)行的Linux 系統(tǒng)鏡像,然后將打包好的系統(tǒng)鏡像燒錄至SD 卡完成對(duì)軟件無線電的底層驅(qū)動(dòng)鏡像開發(fā)。
智能信號(hào)識(shí)別部分需要制作深度學(xué)習(xí)的訓(xùn)練集和測試集,本文采用正交相移鍵控(quadrature phase shift keying, QPSK) 、 二進(jìn)制相移鍵控(binary phase shift keying,BPSK)、高斯頻移鍵控(gauss frequency shift keying,GFSK)、16 進(jìn)制振幅調(diào)制(quadrature amplitude modulation 16,QAM16)、第四代脈沖幅度調(diào)制(4 pulse amplitude modulation,PAM4)以及連續(xù)相位頻移鍵控(continuous phase frequency shift keying,CPFSK)6 種調(diào)制信號(hào)制作數(shù)據(jù)集。每種調(diào)制類型為6 000 組信號(hào)樣本,訓(xùn)練集、驗(yàn)證集和測試集劃分比例為8∶1∶1。
4.2.1 準(zhǔn)確率
利用卷積神經(jīng)網(wǎng)絡(luò)對(duì)在6 dB 信噪比進(jìn)行預(yù)測得到的混淆矩陣如圖8 所示,在6 dB 信噪比的情況下,模型識(shí)別的準(zhǔn)確率約為97.94%。而利用INT8量化后的網(wǎng)絡(luò)模型對(duì)數(shù)據(jù)集進(jìn)行預(yù)測得到的混淆矩陣識(shí)別的準(zhǔn)確率約為97.69%,下降了0.25%。
圖8 量化前后模型在6 dB 情況下的混淆矩陣
量化前后對(duì)全部測試集進(jìn)行預(yù)測,得到的識(shí)別準(zhǔn)確率如圖9 所示。
圖9 量化前后模型的準(zhǔn)確率曲線
從圖9 中可以看出,量化前后模型的準(zhǔn)確率曲線幾近重合,在有效降低存儲(chǔ)空間要求的情況下,神經(jīng)網(wǎng)絡(luò)模型的識(shí)別精度幾乎不損失。
4.2.2 召回率與精準(zhǔn)度
加入檢測模塊后,對(duì)測試模型的召回率和精準(zhǔn)度結(jié)果進(jìn)行分析,其中召回率用來表示模型對(duì)某一類數(shù)據(jù)的分類能力,精準(zhǔn)度表示模型某一類輸出結(jié)果的可信度。量化前后模型的召回率和精準(zhǔn)度分別如圖10 所示??梢园l(fā)現(xiàn)量化前后的2 個(gè)模型對(duì)6 種信號(hào)的召回率和精準(zhǔn)度都在93%以上,說明模型的虛警與漏判現(xiàn)象少。具有基本相同的召回率和精準(zhǔn)度,也說明量化對(duì)模型的識(shí)別能力沒有產(chǎn)生影響。
圖10 量化前后模型的召回率與精準(zhǔn)率
4.2.3 模型規(guī)律
采用模型的浮點(diǎn)運(yùn)算量分析模型的規(guī)模,量化前后的模型在模型中的浮點(diǎn)運(yùn)算量對(duì)比見表1。由表1 可以發(fā)現(xiàn),INT8 量化后模型在浮點(diǎn)運(yùn)算量方面相較于原模型下降了99.07%。
表1 原模型和輕量化模型的浮點(diǎn)運(yùn)算量
查看模型文件的體積如圖11 所示,量化后為166 600 Byte,量化前為1 739 520 Byte,節(jié)約90.4%的磁盤空間。
圖11 模型文件的大小
4.2.4 模型運(yùn)行情況
使用訓(xùn)練好的模型進(jìn)行推理,通過對(duì)程序運(yùn)行情況進(jìn)行監(jiān)控得到程序的運(yùn)行時(shí)間和內(nèi)存資源的占用情況,如圖12 所示??梢悦黠@看出輕量化后的INT8 模型在推理時(shí)間上所需時(shí)間更少,內(nèi)存占用資源更少。
圖12 量化前后模型運(yùn)行時(shí)內(nèi)存占用情況
本文設(shè)計(jì)了一款便攜式無線電智能感知儀,主要結(jié)論如下:
1)通過改進(jìn)檢測算法,提高了檢測概率,采用基于I/Q 兩路信號(hào)的神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)信號(hào)調(diào)制識(shí)別,解決傳統(tǒng)信號(hào)調(diào)制識(shí)別準(zhǔn)確率低的問題。在0 dB 及以上的信噪比環(huán)境下,調(diào)制識(shí)別的準(zhǔn)確率可達(dá)到95%以上,對(duì)不同的信號(hào)調(diào)制類型的召回率和精準(zhǔn)度均在93%以上。
2)為降低運(yùn)算復(fù)雜度,對(duì)模型進(jìn)行輕量化處理,優(yōu)化了模型的網(wǎng)絡(luò)結(jié)構(gòu),減少了網(wǎng)絡(luò)推理運(yùn)算量,提升了推理速度。模型輕量化部署后降低了99.07%的浮點(diǎn)運(yùn)算量,而準(zhǔn)確率僅下降了0.25%。