葉青 劉劍雄 劉錚,陳眾 李靚
摘? ?要:廣泛應(yīng)用于道路車輛檢測的環(huán)形線圈車輛檢測器對于車輛車型的實(shí)時(shí)分類正確率較低,主要原因是面對各種車輛電磁感應(yīng)特性的復(fù)雜多變和未知車型的新車輛層出不窮問題,其模式固定的分類模型難以勝任. 基于通過環(huán)形線圈時(shí)車輛電磁感應(yīng)特性波形提出一種新的車輛車型實(shí)時(shí)判別方法:運(yùn)用主分量分析法提取特征,采用自適應(yīng)共振神經(jīng)網(wǎng)絡(luò)聚類建立車輛類別模式,動態(tài)劃分各車型包含的類別模式;以半監(jiān)督學(xué)習(xí)方式在線增加未知車型的新車輛模式,算法自適應(yīng)新車輛的車型識別. 7種車型的道路現(xiàn)場實(shí)時(shí)車型識別實(shí)驗(yàn)平均正確率為91.3%,加入新模式自動識別后提高至92.5%;Alexnet多層卷積神經(jīng)網(wǎng)絡(luò)算法的對比實(shí)驗(yàn)中,訓(xùn)練集和測試集正確率分別為99.5%和87.1%,相差較大. 實(shí)驗(yàn)結(jié)果驗(yàn)證了本文方法在道路車輛模式不斷變化情況下實(shí)現(xiàn)車型識別的可行性.
關(guān)鍵詞:車輛車型;電磁感應(yīng);自適應(yīng)共振神經(jīng)網(wǎng)絡(luò);主成分
中圖分類號:TP274 ? ? ? ? ? ? ? ? ? 文獻(xiàn)標(biāo)志碼:A
Research on Online Classification of Road Vehicle
Types Based on Electromagnetic Induction
YE Qing?,LIU Jianxiong,LIU Zheng,CHEN Zhong,LI Liang
(College of Electrical & Information Engineering,Information Processing and Robotics Research Institute,
Changsha University of Science &Technology,Changsha 410114,China)
Abstract:The vehicle classification correct rate of loop induction detector widely used on road is not high. The main? reason is the classifier of fixed classification rules cannot cope with the changes of vehicle's complicated models and new vehicle's type classing. Based on the electromagnetic induction characteristic waveform of the vehicle passing through the loop,a new real-time discriminant method for vehicle classification was proposed. The principal component analysis method was used to extract the features. The adaptive resonance neural network algorithm was applied to cluster classification modes,these were dynamically divided into vehicle types then. For new vehicles of unknown vehicle type,new classification modes were added online by semi-supervised learning to adapt to the recognition of new vehicle type. The average correct rate of road real-time vehicle identification experiments of 7 models was 91.3%, and it was increased to 92.5% after adding new mode automatic recognition. In the comparative experiment with Alexnet multi-layer convolutional neural network algorithm, the correct rate of training set and test set were 99.5% and 87.1% respectively, which signified the existence of big differences. The experimental results verified the feasibility of the proposed method to solve the road vehicle identification problem of the change of vehicle mode.
Key words:vehicle type;electromagnetic induction; adaptive resonance neural network; principal components
智能交通控制系統(tǒng)通過車輛檢測器采集車流量、車速等交通參數(shù),道路車輛的車型統(tǒng)計(jì)也是其中重要的交通信息[1].不同車型車輛道路通行能力的當(dāng)量系數(shù)相差數(shù)倍[2],只有實(shí)時(shí)檢測道路上的車輛車型分布狀況才能真實(shí)反映道路當(dāng)前的交通狀況和通行能力. 近年來,道路的車輛車型識別較多地采用基于攝像和圖像識別的方法,但視頻等檢測技術(shù)容易受到天氣、晝夜、光線變化等因素影響. 照明和天氣變化嚴(yán)重挑戰(zhàn)車型識別性能[3-4]. 環(huán)形線圈車輛檢測器具有不論晝夜全天候工作的優(yōu)勢,且因其低成本、高可靠性和精度[5-6],廣泛應(yīng)用于道路交通監(jiān)測. 但在用于車型識別方面也存在較多的問題[7]:一方面車在行進(jìn)過程中會有許多難以預(yù)料的干擾因素存在,如加速、減速或停車都會使感應(yīng)曲線發(fā)生畸變而導(dǎo)致識別錯(cuò)誤,若避免在擁堵路段安裝使用可大大減少畸變幾率;另一方面我國的車輛種類繁多,新車層出不窮,車輛的感應(yīng)特性并不以車型來顯著區(qū)別,各種改裝車更是車型難辨,而不同用途的車型劃分方法也各不相同,諸多因素使得分類器難以保證長期或廣泛應(yīng)用下穩(wěn)定的識別正確率.? 因此,多年來環(huán)形線圈的車型識別功能并沒有如其車輛檢測功能一樣得到廣泛的應(yīng)用. 文獻(xiàn)[8]指出各種車輛檢測器應(yīng)該在魯棒性、實(shí)時(shí)性、精度全面提高才能取得突破.
自2000年以來文獻(xiàn)報(bào)道過多種基于環(huán)形線圈車輛電磁感應(yīng)特性的特征提取和分類方法. 如基于波形的物理特征峰值、峰數(shù)等進(jìn)行模糊識別[9-10];基于波形的采樣特征采用BP神經(jīng)網(wǎng)絡(luò)[11-12]建立分類模型等. 文獻(xiàn)[13]針對車輛的電磁感應(yīng)特性,采用主成分分析和BP神經(jīng)網(wǎng)絡(luò),按照轎車、中型客車、大客車、貨車和摩托車5種車型,分類準(zhǔn)確度為93.5%,是道路實(shí)驗(yàn)所報(bào)道的較高水平. 這些應(yīng)用方法雖有不同,但共同特點(diǎn)一是固定車型劃分?jǐn)?shù)目,二是僅針對已有車型車輛樣本進(jìn)行有監(jiān)督學(xué)習(xí)的建模而并不考慮新增車輛車型. 實(shí)際上建模采用的數(shù)據(jù)樣本在車型分布上往往帶有采集地特點(diǎn),很難完全覆蓋不同地區(qū)道路的車輛車型,不斷涌現(xiàn)的未知車輛也可能導(dǎo)致原數(shù)據(jù)集訓(xùn)練的模型識別準(zhǔn)確度變低. 針對數(shù)據(jù)和應(yīng)用需求的多變性,本文采用自適應(yīng)共振神經(jīng)網(wǎng)絡(luò),在自動聚類形成車輛類別模式的基礎(chǔ)上,根據(jù)需求對類別模式所屬車型進(jìn)行動態(tài)劃分. 自適應(yīng)共振神經(jīng)網(wǎng)絡(luò)ART2(Adaptive Resonance Theory II)是一種數(shù)據(jù)驅(qū)動的聚類網(wǎng)絡(luò),其學(xué)習(xí)和測試可以同時(shí)在線進(jìn)行[14],因此對于新模式樣本或不識別樣本,在識別過程中調(diào)整網(wǎng)絡(luò),并通過半監(jiān)督學(xué)方式自動學(xué)習(xí)和增加新類別模式,從而處理新型車輛和車型劃分變化的問題.
1? ?檢測原理
環(huán)形線圈埋在路面下淺層,將其作為電感元件與電容組成車輛檢測電路中的振蕩電路,當(dāng)車輛通過埋在路面下的線圈時(shí),鐵質(zhì)車輛使得環(huán)形線圈回路電感量改變,導(dǎo)致振蕩電路的振蕩頻率變化,微處理器判斷車輛到達(dá)線圈并計(jì)時(shí)用于交通參數(shù)計(jì)算,同時(shí)采集車輛通過過程中檢測電路的振蕩頻率波形,以分析判斷車輛車型.
如圖1所示,給定兩線圈距離L和線圈寬度l0,檢測器檢測出第j輛車到達(dá)兩個(gè)線圈的時(shí)間間隔 tLj和車輛通過一個(gè)線圈的時(shí)間tj,則可計(jì)算第j輛車的車速和車長等. 對于環(huán)形線圈車輛檢測器的基本應(yīng)用來說,檢測統(tǒng)計(jì)道路采樣周期T內(nèi)的各項(xiàng)交通參數(shù),如車流量、平均車速等. 為檢測車輛車型,在車輛通過線圈時(shí)需采集車輛和線圈之間由于電磁感應(yīng)導(dǎo)致的振蕩頻率變化的過程數(shù)據(jù). 與圖2所示類似,不同類型或不同車輛的電磁感應(yīng)波形存在差異,而相同結(jié)構(gòu)的車輛的感應(yīng)波形相同,這為通過提取波形特征進(jìn)行車型識別提供了基礎(chǔ). 但同時(shí),每種車型包含的車輛種類很多,其中有的波形可以有較大的差異,而不同車型間有的波形也可能有一定的相似性,也就是說同一種車型包含的類別模式可以有多個(gè)并且差異較大. 若直接以車型作為分類目標(biāo)進(jìn)行有監(jiān)督的模型訓(xùn)練易產(chǎn)生對于樣本的過擬合. 因此本質(zhì)上該問題更適合基于無監(jiān)督的聚類神經(jīng)網(wǎng)絡(luò)來依據(jù)
自身的相似性構(gòu)成類別,進(jìn)而構(gòu)建分類器模型[15]. 本文應(yīng)用了無監(jiān)督聚類和有監(jiān)督深度學(xué)習(xí)兩種不同的神經(jīng)網(wǎng)絡(luò)進(jìn)行比較.
2? ?自適應(yīng)共振神經(jīng)網(wǎng)絡(luò)理論
自適應(yīng)共振神經(jīng)網(wǎng)絡(luò)(ART2) 具有自學(xué)習(xí)和聚類能力,具有競爭學(xué)習(xí)和自穩(wěn)學(xué)習(xí)機(jī)制. 功能上包含特征表示場F1和類別表示場F2兩部分. ART2網(wǎng)絡(luò)結(jié)構(gòu)如圖3所示[16],設(shè)輸入樣本是N維模擬輸入量I =[Ii](i = 1,2,…,N),F(xiàn)1中的每一層有相應(yīng)的N個(gè)處理單元,圖中僅畫出第i個(gè)單元的結(jié)構(gòu),空心圓表示神經(jīng)元,實(shí)心圓表示對輸入向量求模的操作. F2產(chǎn)生一個(gè)從F2到F1的自上而下的期望樣本,建立和穩(wěn)定熟悉事件對應(yīng)的內(nèi)部編碼表示,作用是響應(yīng)有關(guān)熟悉事件. F1的功能是對向量規(guī)范處理,檢驗(yàn)期望向量v和輸入向量I的相似程度,當(dāng)相似度低于給定警戒閾值時(shí),即行取消該競爭者,轉(zhuǎn)而從其余類別中選取優(yōu)勝者.
圖3所示,I = [Ii](i = 1,…,N)是輸入向量,W =[wi]、V = [vi](i = 1,…,N)是比較向量,U = [ui]、P = [pi](i = 1,…,N)是復(fù)位系統(tǒng)比較向量,‖·‖為歐式范數(shù),rj、pi、si、ui、vi、wi、xi為神經(jīng)元,yj是競爭獲勝的輸出單元,表示分類模式,F(xiàn)2與F1兩個(gè)場之間的連接權(quán)值矩陣Wij和Wji分別表達(dá)了輸出對于輸入、輸入對于輸出的影響因子,i = 1,2,…,N,指所有輸入向量的分量;j = 1,2,…,M,指所有輸出單元(模式)編號, 設(shè)a、b、c、d、e、θ均為初始化參數(shù),ρ為設(shè)定的警戒閾值,ART2網(wǎng)絡(luò)初始化需滿足的條件如下[17]:
a,b>0;0≤d≤1;e<<1;≤1? ? ?(1)
0 < ρ ≤ 1;0 < θ ≤? ? ? ? ? (2)
Wij(0) = 0;Wji′≤? ? ? ? ?(3)
網(wǎng)絡(luò)訓(xùn)練算法步驟如下[18]:
1)參數(shù)及權(quán)值依照初始化條件設(shè)定初始化值.
2)輸入向量規(guī)范處理.
Wi = Ii = aui,xi =? ? ? ? ? (4)
3)對比度增強(qiáng)處理.
vi = f(xi) + bf(si),ui =? ? ? ? ? (5)
f(x) = x,x ≥ θ
0,x < θ? ? ? ? ? (6)
4)F2層的反饋加入,g(yi)如式(12).
pi = ui + j g(yi)Wij? ? ? ? ?(7)
si =? ? ? ? ?(8)
5)競爭和匹配. 當(dāng)yi未被抑制時(shí),
ri =? ? ? ? ?(9)
Rj = ‖rj‖? ? ? ? (10)
若Rj ≥ ρ + e,匹配不成功,抑制當(dāng)前的yi,Reset轉(zhuǎn)到步驟2),在未抑制的 節(jié)點(diǎn)中繼續(xù)搜尋匹配.
若Rj ≥ ρ + e
Tj = ∑N
j = 1? piWij? ? ? ? (11)
g(yi) = d,TJ = max{Tj}
0,其他? j = 1,2,…,M? ?(12)
只有獲勝神經(jīng)元J獲得非零輸出d,轉(zhuǎn)步驟6),否則轉(zhuǎn)步驟4).
若所有節(jié)點(diǎn)j都不能通過測試則開辟新的輸出單元,并轉(zhuǎn)步驟6),進(jìn)行權(quán)值調(diào)整.
6)F1和F2間的連接權(quán)值調(diào)整,快速學(xué)習(xí)[14]修改獲勝神經(jīng)元J權(quán)值:
WiJ =? ? ? ? ?(13)
[W
Ji][′] =? ? ? ? ?(14)
7)返回步驟2),繼續(xù)輸入樣本訓(xùn)練,直到網(wǎng)絡(luò)輸出單元穩(wěn)定,訓(xùn)練完成,競爭獲勝的輸出單元即表示在設(shè)定的警戒值下的聚類結(jié)果,也表示一種類別模式,所有激活同一個(gè)輸出單元的樣本屬于同一個(gè)類別.
可以看出,ART2網(wǎng)絡(luò)應(yīng)用到車型分類系統(tǒng)時(shí),輸入樣本根據(jù)對于警戒值的滿足狀態(tài)被確定輸出類別,當(dāng)不滿足警戒值的類別時(shí)則自動新增加類別,所以輸出單元數(shù)即類別數(shù),無需事先設(shè)定. 由于該算法的識別判斷過程與學(xué)習(xí)訓(xùn)練過程本質(zhì)是一致的,因此可設(shè)計(jì)系統(tǒng)在識別過程中在線增加新類別模式并記憶,同時(shí)通過半監(jiān)督學(xué)習(xí)或人工標(biāo)注明確該模式的車型含義.
3? ?車型分類器
3.1? ?數(shù)據(jù)預(yù)處理及特征提取
將采集的車輛電磁感應(yīng)波形數(shù)據(jù)通過平滑濾波、去噪、抽樣、歸一化等預(yù)處理,去除車速和噪聲對于數(shù)據(jù)的影響,成為等長的一維數(shù)組,采用主成分分析方法[19]進(jìn)一步提取特征.
對n個(gè)樣本進(jìn)行主成分分析,計(jì)算相關(guān)系數(shù)矩陣R,求出其特征值λi對應(yīng)的特征向量λi(i = 1,2,…,p). 設(shè)以精度q(q ≤ 1)為選擇主成分的閾值,依遞減序選擇m(m < P)個(gè)特征值λ1,λ2,…,λm,使m個(gè)主成分累計(jì)貢獻(xiàn)率滿足式(15),對應(yīng)的m個(gè)主成分作為樣本的特征向量,因而完成原始數(shù)據(jù)的降維及特征提取.
≥ q? ? ? ? (15)
3.2? ?網(wǎng)絡(luò)結(jié)構(gòu)
在設(shè)定精度下提取出車輛電磁感應(yīng)波形的30個(gè)主分量組成數(shù)據(jù)樣本,并作為ART2網(wǎng)絡(luò)的輸入量Ii = {xi}. 按照圖3的ART2網(wǎng)絡(luò)原理構(gòu)造分類器,輸入層含30個(gè)神經(jīng)元,輸出層神經(jīng)元個(gè)數(shù)由網(wǎng)絡(luò)訓(xùn)練后實(shí)際輸出的類別模式個(gè)數(shù)決定. 按照前述ART2算法步驟編寫聚類程序.
根據(jù)式(1)~式(3)給出的初始化條件設(shè)定初始化值:a = b = 10,e = 0.000 001,d = 0.95,c = 0.1. 為選擇合理的警戒閾值ρ,需設(shè)定試探值進(jìn)行網(wǎng)絡(luò)訓(xùn)練并選擇.
3.3? ?警戒值選擇
選擇合適的警戒參數(shù)ρ,是構(gòu)建ART2分類器網(wǎng)絡(luò)的關(guān)鍵. ρ取值不同則輸出單元的個(gè)數(shù)即類別模式的個(gè)數(shù)不同,警戒值越高輸出類別數(shù)越多. 通過判斷分類的準(zhǔn)確性和網(wǎng)絡(luò)結(jié)構(gòu)的穩(wěn)定性來折中選擇警戒閾值. 分類準(zhǔn)確性指一種類別模式中包含的車輛只屬于同一種車型;穩(wěn)定性通過反復(fù)輸入樣本和改變輸入順序來考察樣本被聚類的類別模式是否改變來衡量. 將所有訓(xùn)練樣本輸入網(wǎng)絡(luò),所獲得的全部競爭獲勝單元輸出就是所有的聚類類別. 取不同警戒值進(jìn)行選擇實(shí)驗(yàn),輸入全部訓(xùn)練樣本訓(xùn)練網(wǎng)絡(luò)一次,改變輸入順序,重復(fù)實(shí)驗(yàn)5次取平均值,結(jié)果如表1所示. 其中正確率是可正確分類的類別中樣本個(gè)數(shù)與總數(shù)之比,模式變化率是指在改變輸入順序情況下輸出類別發(fā)生變化的樣本數(shù)與總數(shù)之比. 表1數(shù)據(jù)并非訓(xùn)練網(wǎng)絡(luò)的最終輸出結(jié)果.
警戒值選擇實(shí)驗(yàn)表明,警戒值小則正確率低;隨著警戒閾值ρ增加,分類正確性和模式類別個(gè)數(shù)均增加,但取值在0.94以上的一個(gè)區(qū)間段內(nèi)網(wǎng)絡(luò)輸出的單元數(shù)目及輸出單元包含的模式數(shù)目變化增大,反映出對樣本輸入順序更高的敏感性. 因此折中在0.88~0.94間選擇試探警戒值進(jìn)行網(wǎng)絡(luò)訓(xùn)練.
3.4? ?分類器訓(xùn)練及結(jié)果
對于選定的警戒參數(shù)ρ,設(shè)置訓(xùn)練集訓(xùn)練的循環(huán)次數(shù),將所有樣本輪流輸入,網(wǎng)絡(luò)內(nèi)部進(jìn)行參數(shù)自動調(diào)整. 理想訓(xùn)練的情況下,輸出結(jié)果滿足以下兩個(gè)條件時(shí)結(jié)束網(wǎng)絡(luò)訓(xùn)練,得到ART2聚類網(wǎng)絡(luò)的結(jié)構(gòu).
1)輸出類別模式數(shù)量穩(wěn)定,不隨輸入變化;
2)與樣本的車型標(biāo)注相比較,各類別內(nèi)包含樣本的車型單一.
若條件1)不滿足,則繼續(xù)增加循環(huán)次數(shù). 實(shí)驗(yàn)表明,出現(xiàn)不能完全滿足以上兩個(gè)穩(wěn)定性和準(zhǔn)確性的條件下,有必要設(shè)定訓(xùn)練精度.
網(wǎng)絡(luò)訓(xùn)練完成后,將各輸出單元的類別模式進(jìn)行二次分類,劃分至其樣本所屬的車型,這樣每個(gè)車型可能包含多個(gè)類別模式,分類器完成.
進(jìn)行實(shí)驗(yàn)的各類典型車輛車型數(shù)據(jù)樣本共935個(gè),樣本劃分成7種車型[20],包括小車、中型客車、大客車、輕型卡車、大型卡車、重型卡車、拖掛車(分別對應(yīng)Ⅰ、Ⅱ、Ⅲ、Ⅳ、Ⅴ、Ⅵ、Ⅶ).
在總樣本集中抽取850個(gè)作為訓(xùn)練集,85個(gè)作為測試集,分布組成如表2所示. 重復(fù)5次,分別進(jìn)行訓(xùn)練和測試. 以識別正確率平均值作為主要實(shí)驗(yàn)結(jié)果評價(jià)指標(biāo). 對于選定的警戒參數(shù)ρ,經(jīng)約200次的樣本集訓(xùn)練,網(wǎng)絡(luò)輸出穩(wěn)定,但依然存在樣本的車型類別劃分錯(cuò)誤. 表2所示ART2訓(xùn)練錯(cuò)誤欄中,有6種車型平均約14個(gè)樣本發(fā)生類別錯(cuò)誤,約占總樣本的2%,平均正確率為98.0%,說明該聚類網(wǎng)絡(luò)難以區(qū)分這些樣本. 提高警戒值參數(shù)可能分離部分這些樣本成為新的類別,但網(wǎng)絡(luò)的穩(wěn)定性損失嚴(yán)重,因此這些折中是必要的. 測試實(shí)驗(yàn)中,平均約5個(gè)樣本識別車型錯(cuò)誤,正確率為93.9%. 測試時(shí)禁止網(wǎng)絡(luò)繼續(xù)學(xué)習(xí)和調(diào)整權(quán)值.
訓(xùn)練的聚類結(jié)果表明,Ⅰ、Ⅱ、Ⅲ車型分別包含5、4、6種不同模式,Ⅳ、Ⅴ、Ⅵ、Ⅶ是貨車車型,分別含8、9、7、6種模式.
3.5? ?新類別模式添加
ART2網(wǎng)絡(luò)不同于有監(jiān)督的慢逼近型神經(jīng)網(wǎng)絡(luò),不論訓(xùn)練或識別,網(wǎng)絡(luò)的工作方式本質(zhì)上是一致的. 對于每個(gè)輸入樣本只要某個(gè)輸出單元競爭成功或者增加新的輸出單元,就會對該單元相關(guān)的權(quán)值進(jìn)行調(diào)整,因此ART網(wǎng)絡(luò)具有識別應(yīng)用過程中新模式的添加能力,也可能帶來模式的飄移問題.
為保證車型分類應(yīng)用的穩(wěn)定性,分類器訓(xùn)練完成后固定原網(wǎng)絡(luò)結(jié)構(gòu),保證原模式的網(wǎng)絡(luò)權(quán)值不受識別過程影響. 在遇到不識別的新車輛時(shí)采用半監(jiān)督學(xué)習(xí)[21]方法建立新的類別模式,按照如下方式
進(jìn)行:
1)當(dāng)待識別樣本與所有原模式不能匹配成功
時(shí),激活新的輸出單元即新的類別模式,按照式(13)(14)的快速學(xué)習(xí)方式進(jìn)行一次新模式的權(quán)值調(diào)整并固定不再調(diào)整.
2)修改原分類器模型中輸出單元數(shù)M,使得新的類別模式添加至分類器. 但待測樣本在競爭時(shí)模式序號不大于M時(shí),不計(jì)算大于M的輸出單元權(quán)值作用;對于新模式同樣也使得所有匹配計(jì)算保持為其產(chǎn)生時(shí)的結(jié)構(gòu)狀態(tài),以盡量避免模式飄移現(xiàn)象.
3)如式(9)(10),在新樣本識別過程中比較Rj(j = 1,2,…,M),將新模式歸為最大值Rj對應(yīng)的輸出單元yj所屬車型,完成半監(jiān)督學(xué)習(xí).
4? ?多層神經(jīng)網(wǎng)絡(luò)模型對比實(shí)驗(yàn)
為研究ART2神經(jīng)網(wǎng)絡(luò)構(gòu)造的分類器對于該車輛車型分類問題的處理效果,采用深度卷積網(wǎng)絡(luò)Alexnet模型進(jìn)行了實(shí)驗(yàn)對比. 為方便運(yùn)用深度卷積網(wǎng)絡(luò)模型,將前文使用的樣本數(shù)據(jù)標(biāo)準(zhǔn)化后繪制波形圖,再采用深度卷積網(wǎng)絡(luò)進(jìn)行學(xué)習(xí)處理[22].
4.1? ?Alexnet模型
Alexnet深度網(wǎng)絡(luò)模型主要由5個(gè)卷積層、3個(gè)全連接層以及Softmax層組成[23]. 本文采用的網(wǎng)絡(luò)結(jié)構(gòu)如表3所示,輸入圖片預(yù)處理為227 × 227 × 1的灰度圖像,以滿足Alexnet網(wǎng)絡(luò)模型. 經(jīng)過一系列的卷積與池化操作得到最終的6 × 6 × 256的特征圖. 每一次卷積后經(jīng)過Relu激活函數(shù)進(jìn)行單側(cè)抑制,增加稀疏激活性. 在第1、2、5次卷積后經(jīng)過最大下采樣的池化處理,提取顯著特征.
6 × 6 × 256特征圖與全連接層連接經(jīng)過3層全連接層,輸出為7 × 1. 其中3層全連接層之間經(jīng)過Dropout處理,提高泛化能力防止過擬合. 將7 × 1的特征喂入Softmax函數(shù),將其轉(zhuǎn)化為概率形式.
Softmax(x)i =? ? ? ? ?(16)
式中:xi為上層輸出向量x的第i個(gè)值. 經(jīng)過Softmax函數(shù)后得到y(tǒng),與實(shí)際標(biāo)簽y′做交叉熵.
Hy′(y) = -∑i yi ′log(yi)? ? ? ? (17)
yi與yi′分別對應(yīng)y與y′標(biāo)簽向量中第i個(gè)值.? Hy′(y)的值越小,表明yi預(yù)測得越準(zhǔn)確. 經(jīng)過反向傳播算法,不斷迭代更新網(wǎng)絡(luò)參數(shù),使得預(yù)測標(biāo)簽y不斷逼近實(shí)際標(biāo)簽y′. Softmax根據(jù)輸出結(jié)果轉(zhuǎn)化為分類的概率,適合于處理多分類問題.
4.2? ?網(wǎng)絡(luò)訓(xùn)練
實(shí)驗(yàn)的多層卷積神經(jīng)網(wǎng)絡(luò)Alexnet搭建在tensorflow框架,數(shù)據(jù)的訓(xùn)練集與測試集結(jié)構(gòu)與前文ART2網(wǎng)絡(luò)數(shù)據(jù)相同. 在學(xué)習(xí)率的設(shè)置初始值為0.1,衰減系數(shù)為0.92,衰減周期為10個(gè)周期. 訓(xùn)練過程Loss均值變化如圖4所示.
經(jīng)過600個(gè)周期訓(xùn)練后,網(wǎng)絡(luò)損失函數(shù)Loss均值穩(wěn)定且接近于0,網(wǎng)絡(luò)訓(xùn)練結(jié)束.
4.3? ?實(shí)驗(yàn)分析比較
5次訓(xùn)練和測試的平均結(jié)果如表2 中Alexnet欄所示. 訓(xùn)練樣本預(yù)測錯(cuò)誤數(shù)約4.2,正確率約99.5%;測試錯(cuò)誤數(shù)為13,正確率為87.1%.
網(wǎng)絡(luò)訓(xùn)練數(shù)據(jù)的損失函數(shù)Loss接近0,訓(xùn)練樣本分類正確率約99.5%,網(wǎng)絡(luò)對測試集中部分車型判斷正確率僅87.1%. 說明道路車輛的電磁感應(yīng)波形復(fù)雜,高擬合度訓(xùn)練出來的多層神經(jīng)網(wǎng)絡(luò)模型未見得具有足夠的魯棒性處理該問題,對于不斷出現(xiàn)的新車輛和新車型問題也難以應(yīng)對,在車輛磁感應(yīng)變化波形圖分類上,單純依靠深度卷積網(wǎng)絡(luò),并未達(dá)到預(yù)期效果. 訓(xùn)練樣本有限也可能是造成深度學(xué)習(xí)失之偏頗的原因之一.
圖5關(guān)于ART2與Alexnet測試正確率對比表明,本文所述方法訓(xùn)練分類器正確率相對Alexnet較低,但測試正確率相對較高,比較而言結(jié)合ART2聚類進(jìn)行兩級分類的方法更具優(yōu)越性.
實(shí)驗(yàn)結(jié)果對比
5? ?現(xiàn)場試驗(yàn)
現(xiàn)場試驗(yàn)選擇高速公路的一個(gè)車道,將約1.0 m×1.5 m的環(huán)型線圈埋在路面下,車輛檢測裝置采集車輛通過線圈過程的時(shí)間及振蕩電路的頻率,數(shù)據(jù)發(fā)送到上位機(jī)完成交通參數(shù)計(jì)算和車型識別等. 測試車輛392輛,采用本文所述分類器分類統(tǒng)計(jì)車輛車型正確率如表4所示.
Ⅰ~Ⅶ型的車輛車型識別正確率平均為91.3%,其中代表小車的Ⅰ型車輛識別正確率最高,接近98%. 卡車的正確率總體較低,究其原因,主要是卡車成分比較復(fù)雜,特別是可能有一些被改裝的情況,難以有規(guī)范的波形模式. 車輛行駛時(shí)在線圈處剛好超車跨道也有可能造成漏檢或波形畸變,錯(cuò)誤分類. 實(shí)際上,實(shí)時(shí)識別的正確率與道路車輛的密度、行車規(guī)范狀況有一定關(guān)系.
另有5輛車被分類器分類成4種未知的新模式,表示不屬于本文分類器中可確定劃分車型的模式. 按照新增模式的操作,以設(shè)定的半監(jiān)督學(xué)習(xí)方法歸屬新模式的車型,其中Ⅱ、Ⅴ的2個(gè)模式車型共3輛車自動學(xué)習(xí)結(jié)果正確,Ⅳ、Ⅵ的2輛車型分類錯(cuò)誤,使得各車型識別的平均正確率從91.3%小幅提高為92.5%.
具體來看,5輛車中正確判別的3輛Rj值分別為0.903、0.895、0.910,相似度比較接近警戒值;識別錯(cuò)誤的一輛輕型卡車(Rj = 0.897)被判別為中型客車(Rj = 0.904),對應(yīng)兩種車型模式的Rj值都比較高并且相近,但其真實(shí)車型與識別中更相似的車型卻不一致;另一輛錯(cuò)誤識別成為重型卡車的Rj只有0.801,該車在輪軸外形上屬于中型車,可能通過底盤改裝具有了一些重型卡車特性,屬于模式庫中沒有的新模式. 道路試驗(yàn)表明,要較大程度提高新模式的自動識別正確率,還需要對各種車輛波形特點(diǎn)進(jìn)行更深入細(xì)致地研究,在本文分類方法中加入更多元的分析比較. 單從應(yīng)用的角度出發(fā),若通過人工輔助劃分車型后自動加入分類器的模式類別庫,新模式就可和其他已有模式一樣,在分類器中被自動匹配判別從而提高正確識別率.
6? ?結(jié)? ?論
基于環(huán)形線圈車輛檢測器進(jìn)行車輛車型的在線識別分類,運(yùn)用自適應(yīng)共振神經(jīng)網(wǎng)絡(luò)提供的自聚類能力,首先將各種車輛波形聚類成類別模式,然后動態(tài)劃分至規(guī)定車型. 提高了已有車輛分類的準(zhǔn)確性,為層出不窮的未知新車輛提供了自聚類和半監(jiān)督結(jié)合的新模式學(xué)習(xí)方式,并且新模式保持了和已訓(xùn)練分類器的融合,有利于檢測器適應(yīng)道路車輛車型的動態(tài)變化,保證分類正確率. 該方法對于處理復(fù)雜多變并且可能不斷出現(xiàn)新模式的實(shí)時(shí)分類問題提供了一種有益的思路. 但同時(shí)對于自適應(yīng)共振神經(jīng)網(wǎng)絡(luò)應(yīng)用中警戒參數(shù)選定方法、模式飄移[24-25]、訓(xùn)練樣本的影響等問題還需進(jìn)一步探討研究.
參考文獻(xiàn)
[1]? ? 高敬紅,楊宜民. 道路交通車輛檢測技術(shù)及發(fā)展綜述[J].公路交通技術(shù),2012 (1):116—119.
GAO J H,YANG Y M. Summarization of techniques and development of detection for road traffic vehicles [J]. Technology of Highway and Transport,2012(1):116—119. (In Chinese)
[2]? ? 劉偉銘,王哲人,鄭白濤. 高速公路收費(fèi)系統(tǒng)理論與方法[M]. 北京:人民交通出版社,2000:2—40.
LIU W M,WANG Z R,ZHENG B T. Theory and method of expressway toll collection system[M]. Beijing:China Communications Press,2000:2—40. (In Chinese)
[3]? ? 張強(qiáng),李嘉鋒,卓力. 車輛識別技術(shù)綜述[J]. 北京工業(yè)大學(xué)學(xué)報(bào),2018,44(3):387—391.
ZHANG Q,LI J F,ZHUO L. Review of vehicle recognition technology [J]. Journal of Beijing University of Technology,2018,44(3):387—391. (In Chinese)
[4]? ? YANG Z,PUN-CHENG L S C. Vehicle detection in intelligent transportation systems and its applications under varying environments:a review [J]. Image and Vision Computing,2018,69:143—154.
[5]? ? LIU H X,SUN J. Length-based vehicle classification using event-based loop detector data [J]. Transportation Research Part C,2014,38:156—166.
[6]? ? LAMAS J J,CASTRO P M,DAPENA A,et? al. Multi-loop inductive sensor model for vehicle traffic applications [J]. Sensors and Actuators A Physical,2017,263:580—592.
[7]? ? 曹國輝.車輛特征提取方法綜述[J]. 中國水運(yùn)(理論版),2006,4(3):125—126.
CAO G H. Survey of vehicle feature extraction methods [J]. China Water Transport (Theory Edition), 2006, 4(3): 125—126.? (In Chinese)
[8]? ? 孫凌紅,竇文娟. 車輛檢測技術(shù)專利技術(shù)綜述[J].中國新通信,2015,17(5):125—126.
SUN L H,DOU W J. Overview of patent technology of vehicle detection technology [J]. China New Telecommunications,2015,17(5):125—126. (In Chinese)
[9]? ? GAJDA J,SROKA R, STENCEL M. A vehicle classification based on inductive loop detectors [C]// Proceedings of the 18th IEEE Instrumentation and Measurement Technology Conference. Piscataway,NJ:IEEE,2001:460—464.
[10]? SROKA R. Data fusion methods based on fuzzy measures in vehicle classification process [C]// Proceedings of the 21st IEEE Instrumentation and Measurement Technology Conference. Piscataway,NJ:IEEE,2004:2234—2239.
[11]? GAJDA J,STENCEL M. A highly selective vehicle classification utilizing dual-loop inductive detector [J].? Metrology and Measurement Systems,2014,21(3):473—484.
[12]? KI Y-K,BAIK D-K. Vehicle classification algorithm for single loop detectors using neural networks [J]. IEEE Transactions on Vehicular Technology ,2006,55(6):1704—1711.
[13]? META S,CINSDIKICI M. Vehicle classification algorithm based on component analysis for single-loop inductive detector [J]. IEEE Transactions on Vehicular Technology,2010,59(6):2795—2805.
[14]? FAN J,SONG Y,F(xiàn)EI M R. ART2 neural network interacting with environment [J]. Neurocomputing,2008,72:170—176.
[15]? AlIA J B,SAIDIA L,HARRATHA S,et al. Online automatic diagnosis of wind turbine bearings progressive degradations under real experimental conditions based on unsupervised machine learning [J]. Applied Acoustics,2018,132:167—181.
[16]? CARPENTER G A,GROSSBERG S. Self-organization of stable category recognition codes for analog input patterns [J]. Applied Optics,1987,26(23):4919—4930.
[17]? CARPENTER G A,GROSSSBERG S. The ART of adaptive pattern recognition by a self organization neural network [J]. IEEE transActions on Computer,1988,21(3):77—88.
[18] CARPENTER G A,GROSSBERG S,ROSEN D B. ART2-A:an adaptive resonance algorithm for rapid category learning and recognition [J]. Neural Networks,1991,4(4):493—504.
[19]? SHEN Y C, YE Q. Clustering of vehicle waveform based on principal component analysis and neural network [C]// Proceedings of 2010 International Conference on Measuring Technology and Mechatronics Automation. Piscataway NJ:IEEE,2010:792—796.
[20]? 孟順. 我國車輛分類方法的演變[J].汽車工業(yè)研究,2018(3):36—43.
MENG S. Evolution of vehicle classification methods in china [J]. Auto Industry Research,2018(3):36—43. (In Chinese)
[21]? 劉建偉,劉媛,羅雄麟. 半監(jiān)督學(xué)習(xí)方法[J].計(jì)算機(jī)學(xué)報(bào),2015, 38(8):1592—1612.
LIU J W,LIU Y,LUO X L. Semi-supervised learning method [J]. Chinese Journal of Computers, 2015, 38(8):1592—1612. (In Chinese)
[22]? 常炳國. 一種基于網(wǎng)絡(luò)學(xué)習(xí)的圖像特征融合新方法[J]. 湖南大學(xué)學(xué)報(bào)(自然科學(xué)版),2011,38(12):62—65.
CHANG B G. A new method of image character fuse based on natural network learning [J]. Journal of Hunan University (Natural Sciences),2011,38(12):62—65. (In Chinese)
[23]? 宋青松,張超,田正鑫,等. 基于多尺度卷積神經(jīng)網(wǎng)絡(luò)的交通標(biāo)志識別[J]. 湖南大學(xué)學(xué)報(bào)(自然科學(xué)版),2018,45(8):131—137.
SONG Q S,ZHANG C,TIAN Z X,et al. Traffic sign recognition based on multi-scale convolutional neural network [J]. Journal of Hunan University (Natural Sciences),2018,45(8):131—137. (In Chinese)
[24]? 陳眾,莫紅. ART2wNF及其穩(wěn)定性--可塑性動態(tài)平衡性能分析[J].自動化學(xué)報(bào),2013,39(8):1381—1388.
CHEN Z,MO H. ART2wNF and its stability-plasticity dynamic trade-off analysis [J]. Acta Automatica Sinica,2013,39(8):1381— 1388. (In Chinese)
[25]? LIN H F,GAO C,SONG Y Z. An improved ART2 neural network resisting pattern drifting through generalized similarity and confidence measures [J]. Neurocomputing,2015,156:239—244.