王世峰,戴祥,徐寧,張鵬飛
無人駕駛汽車環(huán)境感知技術(shù)綜述
王世峰,戴祥,徐寧,張鵬飛
自主行駛機(jī)器人包含無人地面行駛車輛、無人航空飛行器和無人水面/水下艦船,它們都具備自主對所行駛/飛行/航行的環(huán)境進(jìn)行感知和判斷的能力,從而指導(dǎo)機(jī)器人行進(jìn)并到達(dá)指定位置。
無人地面行駛車輛也稱作無人駕駛汽車(簡稱無人車),由于近年來新型傳感器的研制和機(jī)器學(xué)習(xí)技術(shù)基礎(chǔ)研究的飛速發(fā)展,使得民用無人駕駛汽車的研制在技術(shù)上成為可能。國內(nèi)外的科研機(jī)構(gòu)和企業(yè)紛紛投入智能汽車或無人駕駛汽車的研發(fā)行列,其中一些機(jī)構(gòu)稱將在未來五年內(nèi)實(shí)現(xiàn)無人車的商業(yè)化推廣。
無人車的技術(shù)結(jié)構(gòu)主要分為環(huán)境感知、導(dǎo)航定位、路徑規(guī)劃和運(yùn)動控制四個方面。本文將詳細(xì)對環(huán)境感知中的常用技術(shù)手段和關(guān)鍵技術(shù)進(jìn)行講解與分析,并闡述所涉及使用到的各種傳感器。
無人車在行駛過程中需要對環(huán)境信息進(jìn)行實(shí)時獲取并處理。從目前的大多數(shù)技術(shù)方案來看,激光雷達(dá)對周圍環(huán)境的三維空間感知完成了60%~75%的環(huán)境信息獲取,其次是相機(jī)獲取的圖像信息,再次是毫米波雷達(dá)獲取的定向目標(biāo)距離信息,以及GPS定位及慣性導(dǎo)航獲取的無人車位置及自身姿態(tài)信息,最后是其他超聲波傳感器、紅外線傳感器等其他光電傳感器獲取的各種信息。
激光雷達(dá)可獲取環(huán)境空間的三維尺寸信息。激光雷達(dá)使用遠(yuǎn)距測距技術(shù),通過向目標(biāo)發(fā)射光線并且分析反射光來完成距離的測量。有單線(亦稱單層、二維)和多線(亦稱多層、三維)兩種激光雷達(dá),多線雷達(dá)能夠增加一定角度的俯仰,實(shí)現(xiàn)一定程度的面掃描。一般在無人駕駛汽車上會結(jié)合兩種激光雷達(dá)來實(shí)現(xiàn)障礙物探測和指導(dǎo)汽車安全通過道路的功能。
以德國SICK公司的LMS511單線激光雷達(dá)為典型代表,它能夠發(fā)出一條激光束掃描某一區(qū)域,并根據(jù)區(qū)域內(nèi)各點(diǎn)與掃描儀的相對位置返回由極坐標(biāo)表達(dá)的測量值即測量物體與掃描儀掃描中心之間的距離和相對角度。它可以設(shè)置多種角度分辨率和掃描頻率組合。該雷達(dá)有多種數(shù)據(jù)傳遞方式,一般選擇網(wǎng)絡(luò)接口傳輸?shù)姆绞?,由上位機(jī)向雷達(dá)發(fā)送請求,雷達(dá)根據(jù)請求中的測量要求收集數(shù)據(jù)并返回給上位機(jī)。
式中,ρ為距離值,θ為相對角度值。為了提高數(shù)據(jù)返回速度,常用網(wǎng)絡(luò)接口傳輸方式連接上位機(jī)。SICK LMS511可以根據(jù)需要設(shè)置不同角度分辨率和掃描頻率組合。在無人駕駛技術(shù)中常使用多個單線激光雷達(dá)來協(xié)助實(shí)現(xiàn)地形重建。
多線激光雷達(dá)是指發(fā)射2條或以上的激光束作為探測光的激光雷達(dá),目前以美國Velodyne 公司的HDL-64E S2激光雷達(dá)為典型代表,它發(fā)出多達(dá)64個激光束,全部安裝在旋轉(zhuǎn)電機(jī)上,其水平探測范圍360°垂直方向探測范圍26.8°。上位機(jī)通過串口連接對其發(fā)送控制命令,通過基于UDP 協(xié)議網(wǎng)絡(luò)連接返回數(shù)據(jù)。因?yàn)槔走_(dá)64對激光發(fā)射器與接收器分為上下兩層,傳輸數(shù)據(jù)也分為兩部分。處理收集到的數(shù)據(jù)建立幾何模型,首先,由于激光器安放位置不同,而坐標(biāo)原點(diǎn)應(yīng)在同一垂直平面因此每一個激光器都有一組校準(zhǔn)數(shù)據(jù)來協(xié)助建模。
式中,Dcorr為距離校正因子、V0為垂直偏移量、H0為水平偏移量、θ為垂直校正角、α為旋轉(zhuǎn)校正角。通過每一條激光束返回的距離Dret值和當(dāng)前激光雷達(dá)的旋轉(zhuǎn)角度γ轉(zhuǎn)化為激光雷達(dá)坐標(biāo)系中的笛卡爾坐標(biāo)(Px,Py,Pz)。
激光雷達(dá)因其測距精度高、實(shí)時性好、抗干擾能力強(qiáng)等優(yōu)點(diǎn),在障礙檢測、道邊檢測、動態(tài)障礙分類、跟蹤、移動機(jī)器人定位和導(dǎo)航中被廣泛使用。
圖像傳感器—相機(jī)能夠獲取環(huán)境彩色景象信息,是無人車獲取環(huán)境信息的第二大來源。相機(jī)可選擇的型號和種類非常多樣,可簡單分為單目相機(jī)、雙目立體相機(jī)和全景相機(jī)三種。
無人車的環(huán)境成像是機(jī)器視覺在車輛上的應(yīng)用,需要滿足車輛行駛環(huán)境及自身行駛狀況的要求。天氣變化、車輛運(yùn)動速度、車輛運(yùn)動軌跡、隨機(jī)擾動、相機(jī)安裝位置等都會影響車載視覺。無人車任務(wù)中對圖像質(zhì)量要求高,不僅在圖像輸出速度上需要較高幀頻,且在圖像質(zhì)量上也具有較高要求。
單目相機(jī)是只使用一套光學(xué)系統(tǒng)及固體成像器件的連續(xù)輸出圖像的相機(jī)。通常對無人車任務(wù)的單目相機(jī)要求能夠?qū)ζ鋵?shí)現(xiàn)實(shí)時調(diào)節(jié)光積分時間、自動白平衡,甚至能夠完成開窗口輸出圖像功能。另外,對相機(jī)光學(xué)系統(tǒng)的視場大小、景深尺度、像差抑制都有一定要求。
值得一提的是以色列Mobileye公司的單目智能相機(jī)產(chǎn)品,它將圖像處理及運(yùn)算部件也集成在同一相機(jī)產(chǎn)品之內(nèi),完成諸如前向碰撞、行人探測、車道線偏離等檢測功能,其性能在同類產(chǎn)品中具有一定優(yōu)勢。
雙目相機(jī)能夠?qū)σ晥龇秶鷥?nèi)目標(biāo)進(jìn)行立體成像,其設(shè)計(jì)是建立在對人類視覺系統(tǒng)研究的基礎(chǔ)上,通過雙目立體圖像處理,而獲取場景的三維信息。其結(jié)果表現(xiàn)為深度圖,再經(jīng)過一步處理就可以得到三維空間中的景物,實(shí)現(xiàn)二維圖像到三維圖像的重構(gòu)。但是在無人車任務(wù)應(yīng)用中,雙目相機(jī)的兩套成像系統(tǒng)未必能夠完美對目標(biāo)進(jìn)行成像和特征提取,也就是說,所需目標(biāo)三維信息往往不能十分可靠地獲取。
以加拿大Point Grey公司的Lady bug相機(jī)為代表的多相機(jī)拼接成像的全景相機(jī)被用于地圖街景成像的圖像傳感器,它是由完全相同6個相機(jī)對上方和360° 全周進(jìn)行同時成像,然后再進(jìn)行6幅圖像矯正和拼接,以獲得同時成像的全景圖像。使用該全景相機(jī)的無人車可以同時獲得車輛周圍環(huán)境的全景圖像,并進(jìn)行處理和目標(biāo)識別。
另外,使用魚眼鏡頭的單目相機(jī)也能呈現(xiàn)全景圖像,雖然原始圖像的畸變較大,但其計(jì)算任務(wù)量相對多相機(jī)拼接方式較小,且價格低廉,也開始受到無人車領(lǐng)域的重視。
毫米波雷達(dá)傳感器是工作頻率選在30~300 GHz頻域(波長為1~10 mm,即毫米波段)的雷達(dá)。其優(yōu)勢在于波束窄,角分辨率高,頻帶寬,隱蔽性好,抗干擾能力強(qiáng),體積小,重量輕,可測距離遠(yuǎn)。雖然沒有激光雷達(dá)的探測范圍大,但其較好的指向性和穿透力仍然使其無法被激光雷達(dá)替代。根據(jù)測量原理不同,毫米波雷達(dá)傳感器可分為脈沖方式和調(diào)頻連續(xù)波方式兩種。
采用脈沖方式的毫米波雷達(dá)需要在短時間內(nèi)發(fā)射大功率脈沖信號,通過脈沖信號控制雷達(dá)的壓控振蕩器從低頻瞬時跳變到高頻;同時對回波信號進(jìn)行放大處理之前需將其與發(fā)射信號進(jìn)行嚴(yán)格隔離。
調(diào)頻連續(xù)波測距方式的雷達(dá)結(jié)構(gòu)簡單、體積小,最大的優(yōu)勢是可以同時得到目標(biāo)的相對距離和相對速度。當(dāng)它發(fā)射的連續(xù)調(diào)頻信號遇到前方目標(biāo)時,會產(chǎn)生與發(fā)射信號有一定延時的回波,再通過雷達(dá)的混頻器進(jìn)行混頻處理,而混頻后的結(jié)果與目標(biāo)的相對距離和相對速度有關(guān)。
ESR(Electronically Scanning Rader)高頻電子掃描毫米波雷達(dá),在其視域內(nèi)可同時檢測64個目標(biāo)。該雷達(dá)的發(fā)射波段為76~77 GHz,同時具有中距離和遠(yuǎn)距離的掃描能力。因?yàn)槠溆布w積小且不易受惡劣天氣影響等優(yōu)點(diǎn),仍然被應(yīng)用于無人車領(lǐng)域,且在商用上被廣泛應(yīng)用在汽車的自適應(yīng)巡航系統(tǒng)、汽車防撞系統(tǒng)等產(chǎn)品中。
超聲波傳感器是利用超聲波的特性研制而成的傳感器。超聲波傳感器的數(shù)據(jù)處理簡單快速,檢測距離較短,主要用于近距離障礙物檢測。超聲波在空氣中傳播時能量會有較大的衰減,難以得到準(zhǔn)確的距離信息,一般不單獨(dú)用于環(huán)境感知,或者僅僅用于對感知精度要求不高的場合,如倒車?yán)走_(dá)的探測任務(wù)中。
無人車使用了多種傳感器進(jìn)行環(huán)境感知,將這些傳感器安裝于車輛固定位置后,需要對這些傳感器進(jìn)行標(biāo)定。在無人車行駛過程中,對環(huán)境感知的要求是極其多樣和復(fù)雜的,作為一個地面自主行駛機(jī)器人,其應(yīng)該具備提取路面信息、檢測障礙物、計(jì)算障礙物相對于車輛的位置和速度等能力。也就是無人車對道路環(huán)境的感知通常至少包含結(jié)構(gòu)化道路、非結(jié)構(gòu)化道路檢測,行駛環(huán)境中行人和車輛檢測,交通信號燈和交通標(biāo)志的檢測等能力。
通過傳感器標(biāo)定來確定傳感器輸入與輸出之間的關(guān)系,從而完成基礎(chǔ)性的環(huán)境識別。
激光雷達(dá)與車體為剛性連接,兩者間的相對姿態(tài)和位移固定不變,為了處理數(shù)據(jù)的方便性,需要把各個激光雷達(dá)的坐標(biāo)系轉(zhuǎn)化到統(tǒng)一的車體坐標(biāo)系上。首先進(jìn)行對激光雷達(dá)外部安裝參數(shù)的標(biāo)定,然后通過雷達(dá)返回的極坐標(biāo)數(shù)據(jù)實(shí)現(xiàn)單個激光雷達(dá)的數(shù)據(jù)轉(zhuǎn)換,最后實(shí)現(xiàn)多個激光雷達(dá)數(shù)據(jù)轉(zhuǎn)換。通過(3)實(shí)現(xiàn)基準(zhǔn)坐標(biāo)中的轉(zhuǎn)化。
式中,β0為基準(zhǔn)坐標(biāo)系旋轉(zhuǎn)的角度,di為掃描距離,i為激光雷達(dá)數(shù)據(jù)序列號,A是設(shè)計(jì)采樣步距。通過式(4)實(shí)現(xiàn)車輛坐標(biāo)系建立。
式中,L為激光雷達(dá)安裝點(diǎn)到車輛質(zhì)心的距離沿y軸的分量,HL為激光雷達(dá)安裝點(diǎn)離地的高度,HV為汽車質(zhì)心離地的高度。
相機(jī)與車體也為剛性連接,兩者相對姿態(tài)和位置固定不變,相機(jī)的標(biāo)定是為了找到相機(jī)所生成的圖像像素坐標(biāo)系中的點(diǎn)坐標(biāo)與相機(jī)環(huán)境坐標(biāo)系中的物點(diǎn)坐標(biāo)之間的轉(zhuǎn)換關(guān)系。從而實(shí)現(xiàn)把相機(jī)采集到的環(huán)境數(shù)據(jù)與車輛行駛環(huán)境中的真實(shí)物體對應(yīng)。
單目相機(jī)的標(biāo)定主要包括對相機(jī)模型的建立和對物點(diǎn)坐標(biāo)的轉(zhuǎn)換。通過下式可以得到相機(jī)環(huán)境坐標(biāo)系中的物點(diǎn)P(xyc,yvc,zvc) 到圖像像素坐標(biāo)系中的像點(diǎn)Pi(u,v) 的轉(zhuǎn)化關(guān)系。
式中,f為透鏡的焦距,dx與dy分別為相機(jī)傳感器x與y方向的像素單元距離由廠家提供,R*c為3×3的坐標(biāo)旋轉(zhuǎn)矩陣,T*c為1×3的坐標(biāo)平移矩陣,u0與v0為圖像像素中心坐標(biāo),zc為相機(jī)坐標(biāo)系下P點(diǎn)的zc軸上的值。(5)忽略實(shí)際情況中畸變的誤差。雙目立體相機(jī)標(biāo)定主要包括雙目立體視覺模型建立、雙目圖像去畸變處理、雙目圖像校正、雙目圖像裁切等四個步驟。
相機(jī)的每一個像素點(diǎn)和激光雷達(dá)的每一個數(shù)據(jù)點(diǎn)都對應(yīng)著三維空間中唯一的一個點(diǎn),因此能實(shí)現(xiàn)激光雷達(dá)與相機(jī)的空間對準(zhǔn)。其中有空間上和時間上兩部分?jǐn)?shù)據(jù)的融合。空間上數(shù)據(jù)的融合通過下式實(shí)現(xiàn):
式中,R*c為坐標(biāo)旋轉(zhuǎn)矩陣,T*c為坐標(biāo)平移矩陣,Xlv由激光雷達(dá)的外參標(biāo)定,而K–1c為相機(jī)內(nèi)參標(biāo)定矩陣,U是可見光圖像中投影點(diǎn)的坐標(biāo)。確定式(6)需要12個參數(shù),所以要求多次改變標(biāo)定箱的遠(yuǎn)近和方位,使其位置盡可能均勻分布在圖像分辨率的各個位置。時間上的數(shù)據(jù)融合是為了解決傳感器在采集數(shù)據(jù)時間差異問題的方法。通過GPS獲得絕對時間,給不同的傳感器所記錄數(shù)據(jù)進(jìn)行時間戳標(biāo)定。
結(jié)構(gòu)化道路檢測是通過了解具有清晰車道標(biāo)志線和道路邊界的標(biāo)準(zhǔn)化道路的信息來準(zhǔn)確獲得本車相對于車道的位置和方向。
由于各地的路況都有一定的區(qū)別,所以只能提供一個簡化的道路場景。因此建立了道路形狀假設(shè)、道路寬度和道路平坦假設(shè)、道路特征一致假設(shè)、感興趣區(qū)域假設(shè)等,有助于識別結(jié)構(gòu)化的道路。
在官方制定的行業(yè)標(biāo)準(zhǔn)下,結(jié)構(gòu)化道路的設(shè)計(jì)和建設(shè)都比較規(guī)則,有明顯的區(qū)分道路和非道路的車道線。在視覺導(dǎo)航系統(tǒng)中,利用距相機(jī)不遠(yuǎn)處的車道線方向變化不大,即曲率變化很小的假設(shè),近似用直線來擬合車道線。
通過車道線邊緣點(diǎn)搜索和車道線邊緣曲線擬合實(shí)現(xiàn)直道擬合。
彎道是公路中必不可少的道路形式,因此需要從道路圖像中檢測出彎曲車道線的邊界,判斷道路彎曲的方向,確定彎道的曲率半徑才能為無人車提供有效的信息。一般公路平面的線形主要分為直線、圓曲線與回旋線,因此選擇俯視圖進(jìn)行擬合。國內(nèi)外的彎道檢測辦法主要是基于道路模型的檢測辦法。一般分為三個步驟:建立彎道模型,完成對道路形狀的假設(shè);提取車道線像素點(diǎn),把每一條車道線的像素點(diǎn)從前景像素點(diǎn)中提取出來作為依據(jù);擬合車道模型,運(yùn)用檢測到的像素點(diǎn)確定彎道數(shù)學(xué)模型的最優(yōu)參數(shù)。
實(shí)際情況下往往會出現(xiàn)復(fù)雜的情況,由于外界環(huán)境光線的變化不均勻?qū)е孪鄼C(jī)提取的圖像出現(xiàn)多塊純白色和純黑色區(qū)域,讓圖像識別算法失去目標(biāo)。常用圖像預(yù)處理來解決這個問題。其中有:Gamma調(diào)節(jié)、灰度映射調(diào)節(jié)、直方圖調(diào)節(jié)等方法。
由于無人車在車載視覺中的導(dǎo)航圖像對圖像灰度信息、圖像真實(shí)性、圖像實(shí)時性要求較高,所以圖像預(yù)處理方法必須要滿足快速、簡單、合成圖像平滑自然和產(chǎn)生合成痕跡少等要求??刹捎迷O(shè)置長短快門進(jìn)行多重曝光,用雙目相機(jī)中不同相機(jī)交替曝光等方法。
對于鄉(xiāng)村公路、野外土路等非結(jié)構(gòu)化道路的情況,采用基于機(jī)器學(xué)習(xí)的道路探測,結(jié)合探測到的環(huán)境信息和先驗(yàn)知識庫中的模型,對圖像和數(shù)據(jù)進(jìn)行處理。同時根據(jù)環(huán)境的不同來修正預(yù)測模型,實(shí)現(xiàn)模型不斷更新的效果。
根據(jù)不同的檢測目標(biāo)選擇不同的傳感器數(shù)據(jù)、不同的處理算法來實(shí)現(xiàn)行駛環(huán)境中的目標(biāo)檢測。
基于HOG特征的行人檢測,HOG特征是一種對圖像局部重疊區(qū)域的密集型描述符,它通過計(jì)算局部區(qū)域的梯度方向直方圖來構(gòu)成人體特征。該方法是提取圖像的HOG特征后通過SVM進(jìn)行決策的檢測方式。
基于Stixel模型的行人檢測通過融合激光雷達(dá)和視頻數(shù)據(jù),可以對目標(biāo)進(jìn)行較為準(zhǔn)確的檢測。利用激光雷達(dá)數(shù)據(jù)抽取出感興趣的區(qū)域,再利用視頻圖像識別該目標(biāo)的屬性,可以有效地實(shí)現(xiàn)不同模態(tài)傳感器間的互補(bǔ),提高傳感器的性能。分為三步:首先處理激光雷達(dá)數(shù)據(jù),得到感興趣區(qū)域;再準(zhǔn)備圖像數(shù)據(jù),進(jìn)行基于圖像的行人檢測算法的訓(xùn)練;最后利用訓(xùn)練好的分類器,基于感興趣區(qū)域進(jìn)行行人檢測。
V-disparity方法是基于立體視覺的障礙物檢測方法。其算法流程為:首先獲取立體圖像對,然后計(jì)算得到稠密視差圖,建立V-disparity圖,通過分析V-disparity圖,可以提取出行駛環(huán)境中的路面,從而計(jì)算出路面上障礙物的位置。
視覺與激光雷達(dá)信息的結(jié)合,避免了機(jī)器視覺受光照影響和激光雷達(dá)數(shù)據(jù)不足的問題,實(shí)現(xiàn)了傳感器信息的互補(bǔ),通過建立激光雷達(dá)、相機(jī)和車體之間的坐標(biāo)轉(zhuǎn)換模型,將激光雷達(dá)數(shù)據(jù)與圖像像素數(shù)據(jù)統(tǒng)一到同一坐標(biāo)中進(jìn)行識別處理。結(jié)合激光雷達(dá)的數(shù)據(jù)特點(diǎn)選取合適的聚類方法,對聚類后的激光雷達(dá)數(shù)據(jù)新型形狀匹配和模板匹配,確定感興趣區(qū)域;通過類Haar 特征結(jié)合AdaBoss算法在感興趣區(qū)域進(jìn)行車輛檢測,然后通過車輛在激光雷達(dá)中的數(shù)據(jù)特征實(shí)現(xiàn)Kalman預(yù)估跟蹤。
交通信號燈識別采用的系統(tǒng)結(jié)構(gòu)可分為圖像采集模塊、圖像預(yù)處理模塊、識別模塊和跟蹤模塊。
運(yùn)用基于彩色視覺的交通信號燈識別方法可以檢測到單幀圖像中的交通信號燈。為防止出現(xiàn)誤檢或跟蹤丟失的現(xiàn)象,可以采用基于彩色直方圖的目標(biāo)跟蹤算法。CAMSHIFT(Continuously Adaptive Mean SHIFT)算法,它可以有效地解決目標(biāo)變形和遮擋的問題,且運(yùn)算效率較高。
交通標(biāo)志檢測包括三方面內(nèi)容:色彩分割、形狀檢測和象形識別。
當(dāng)光照條件良好時,色彩分割需要通過室外環(huán)境的圖像采樣選取閾值,運(yùn)用HSV彩色空間的色度和飽和度信息能夠?qū)⒔煌?biāo)志從背景中分離出來。
通常情況下交通標(biāo)志和駕駛方向并不是垂直的。在對圓形標(biāo)志進(jìn)行判斷時往往采用基于隨機(jī)連續(xù)性采樣的橢圓檢測。而在色彩分割后的邊緣直線可以通過Hough直線變換獲得。選擇相關(guān)的模板對處理后的圖像大致分成紅色禁止標(biāo)志、藍(lán)色允許標(biāo)志和黃色警告標(biāo)志。
對于每一類交通標(biāo)志分別設(shè)計(jì)分類器。首先運(yùn)用OTSU閾值分割算法對探測到的標(biāo)志進(jìn)行預(yù)處理,能有效避免光照陰影和遮擋造成的誤差。然后基于算法獲得的圖像運(yùn)用矩運(yùn)算提取輻射狀特征,最后選取多層感知器來完成識別內(nèi)核的目標(biāo)。輸出相似程度最高的結(jié)果。
無人駕駛汽車為減少交通事故,優(yōu)化人類時間結(jié)構(gòu),節(jié)約能源消耗等實(shí)際的問題在市場的強(qiáng)烈需求下應(yīng)運(yùn)而生。無人車對空間環(huán)境的感知十分依賴于單線或多線的激光雷達(dá),對交通信號燈及交通標(biāo)志燈圖像信息的采集使用相機(jī)來完成,同時應(yīng)用毫米波雷達(dá)等其它傳感器共同進(jìn)行環(huán)境信息的采集。各種信息數(shù)據(jù)的分析與識別使用了多項(xiàng)數(shù)據(jù)分析與解算方法,并利用人工智能的機(jī)器學(xué)習(xí)手段進(jìn)行各種目標(biāo)的識別工作,從而最終完成無人車的環(huán)境感知任務(wù)。
【作者單位:長春理工大學(xué)光電工程學(xué)院】
(摘自《長春理工大學(xué)學(xué)報》(自然科學(xué)版)2017年1期)