冬雪

人工智能已經(jīng)演變?yōu)闋?zhēng)奪未來的戰(zhàn)略高地，得人工智能者得天下！自動(dòng)（無人）駕駛汽車是人工智能的代表之一，而且因其實(shí)用性更強(qiáng)、經(jīng)濟(jì)增量更大，也更吸引人。2017年10月17日，百度阿波羅（Apollo）與廈門金龍客車簽署戰(zhàn)略合作協(xié)議，將于2018年7月小批量生產(chǎn)雙方合作研發(fā)的無人駕駛微循環(huán)車，隨后投入試運(yùn)營。這將是國內(nèi)首個(gè)實(shí)現(xiàn)量產(chǎn)的無人駕駛客車。然而，要使無人駕駛汽車真正上路，需要在技術(shù)、倫理、法律和管理多方面獲得“通關(guān)”。那么，通過這些關(guān)口有多難呢？

技術(shù)的問題首先在分級(jí)

百度的無人駕駛汽車如期上路其實(shí)很懸。無人駕駛微循環(huán)車定位于解決“最后一公里”的出行問題，只在特定環(huán)境運(yùn)營，如大型園區(qū)內(nèi)的接駁車、機(jī)場(chǎng)擺渡車、旅游景點(diǎn)的觀光車等。這類場(chǎng)地駕駛環(huán)境簡(jiǎn)單、路線單一，便于發(fā)揮無人駕駛的優(yōu)勢(shì)。盡管如此，法律能否批準(zhǔn)仍是一個(gè)問題。

汽車帶給人們效率和經(jīng)濟(jì)發(fā)展的同時(shí)，安全也成為一個(gè)大問題，因此，世界上才有浩如煙海的交通法規(guī)。把人類掌控的方向盤讓位于人工智能，就等于把人、物和車的安全交給人工智能，顯然，人類并無太大的把握，所以無人駕駛要依據(jù)循序漸進(jìn)的原則。

現(xiàn)在，全世界多數(shù)國家都按美國汽車工程師學(xué)會(huì)（SAE）的標(biāo)準(zhǔn)來對(duì)自動(dòng)駕駛進(jìn)行分類（如簡(jiǎn)表）。相比完全靠駕駛員自己操控的傳統(tǒng)駕駛（L0），L1級(jí)的自動(dòng)駕駛能給駕駛員一些幫助。例如，今天已經(jīng)在很多車上搭載的自適應(yīng)巡航（ACC）功能能通過雷達(dá)探測(cè)與前車的實(shí)時(shí)距離自動(dòng)控制加減速，從而保持與前車的安全距離。

L2的標(biāo)準(zhǔn)是，汽車除了具備L1級(jí)描述中的自適應(yīng)巡航外，還具備車道保持（LKA）功能或者自動(dòng)變道功能。也就是說，系統(tǒng)除了能控制加減速，還能對(duì)方向盤進(jìn)行控制。不過，人仍然是駕駛環(huán)境的觀察者。

L3級(jí)最大的不同在于，道路環(huán)境的觀察者由人變更為人工智能系統(tǒng)。系統(tǒng)已經(jīng)完全能夠識(shí)別出直線、彎道、紅綠燈、限速路牌以及路上行走奔跑的人與動(dòng)物等各種環(huán)境。環(huán)境觀察和駕駛操作均由系統(tǒng)來完成。此時(shí)仍需要駕駛員，以對(duì)所有的系統(tǒng)請(qǐng)求進(jìn)行應(yīng)答。如突然下雨地面濕滑是否需要減速，前方車輛行駛過慢是否需要超車，前方有人在車道較近處走動(dòng)是否需要鳴笛提醒等，這些請(qǐng)求系統(tǒng)會(huì)反饋給駕駛員，由其決定。

L4級(jí)的駕駛操作和環(huán)境觀察仍然由系統(tǒng)完成。但是，在L3的基礎(chǔ)上，人不需要對(duì)所有的系統(tǒng)要求進(jìn)行應(yīng)答，只需要在某些復(fù)雜地形或者天氣惡劣的情況時(shí)，才由人對(duì)系統(tǒng)請(qǐng)求給出決策，其他情況下系統(tǒng)能獨(dú)自應(yīng)付，自動(dòng)駕駛。

L5級(jí)是指車上沒有方向盤、剎車、油門和駕駛員，乘客盡管放心地在車上睡覺、玩手機(jī)，系統(tǒng)操作應(yīng)對(duì)一切，直至到達(dá)目的地提醒乘客下車。

顯然，L5級(jí)自動(dòng)駕駛才是真正的無人駕駛?，F(xiàn)在，世界上最先進(jìn)的自動(dòng)汽車才達(dá)到L2，要達(dá)到L5還有很長的路要走。世界多數(shù)車企，如福特、豐田、本田、寶馬、沃爾沃等公司提出的目標(biāo)是在2020年前后量產(chǎn)能夠達(dá)到L3級(jí)的自動(dòng)駕駛汽車。比照上述標(biāo)準(zhǔn)，百度的無人駕駛微循環(huán)車并非完全意義上的自動(dòng)駕駛。

自動(dòng)駕駛安全嗎？

以特斯拉的Autopilot為例，它是一個(gè)自動(dòng)駕駛軟件，配備于特斯拉的一款稱為Model S的汽車上。2016年5月7日，美國人約書亞·布朗駕駛Model S在一處雙向高速公路上行駛時(shí)，與一輛拖掛車相撞，不幸身亡。這是全球第一起因自動(dòng)駕駛而致死的事故。

事后，美國國家高速公路交通安全管理局（NHTSA）針對(duì)Autopilot功能展開調(diào)查。經(jīng)過半年的調(diào)查，NHTSA于2017年1月19日宣布，未發(fā)現(xiàn)Autopilot功能存在問題，同時(shí)不會(huì)要求特斯拉對(duì)汽車進(jìn)行召回。NHTSA的結(jié)論是，特斯拉Autopilot不是完全自動(dòng)駕駛系統(tǒng)，它根本無法應(yīng)對(duì)所有路況，司機(jī)不應(yīng)該依靠它來防止此類事故。

裝備Autopilot的Model S屬于自動(dòng)駕駛L2級(jí)，離完全自動(dòng)的L5級(jí)差得太遠(yuǎn)，并且布朗本人有太多疏忽。事發(fā)前37分鐘的行程中，布朗的手僅有25秒被檢測(cè)到手握方向盤。Autopilot自動(dòng)輔助駕駛系統(tǒng)向布朗發(fā)出了多次視覺警告、鈴聲警告及語音警告，但布朗均無動(dòng)于衷。在車禍發(fā)生時(shí)，布朗的汽車時(shí)速超過限速，而且他本人正在車上觀看哈利·波特電影。

除了人禍之外，自動(dòng)駕駛技術(shù)并非沒有缺陷。盡管Autopilot開啟了功能并提醒布朗注意，但強(qiáng)烈的日照和拖掛車白色車身讓Autopilot系統(tǒng)攝像頭短暫“失明”，未能夠在白天強(qiáng)光下及時(shí)發(fā)現(xiàn)拖車白色側(cè)面的反光，導(dǎo)致在自動(dòng)駕駛模式下的剎車功能未能緊急啟動(dòng)，使得兩車直接發(fā)生撞擊。

特斯拉公司也向美國高速公路交通安全管理局下屬的缺陷調(diào)查辦公室提供了配置Autopilot技術(shù)的Model S和Model X等汽車在2014～2016年期間所有行駛里程和安全氣囊相關(guān)的數(shù)據(jù)。調(diào)查人員利用這些數(shù)據(jù)計(jì)算了Autopilot系統(tǒng)安裝前后的撞車率，得出特斯拉安裝了Autopilot系統(tǒng)后汽車更安全的結(jié)論。NHTSA也承認(rèn)，自從特斯拉汽車于2015年安裝了Autosteer（方向盤自主轉(zhuǎn)向）軟件以來，特斯拉汽車的撞車率已經(jīng)下降了40%左右。Autosteer是Autopilot系統(tǒng)的功能之一，能夠讓特斯拉汽車保持在自己的車道上行駛，即使遇到彎道仍能夠讓汽車自行轉(zhuǎn)彎。

美國2016年的統(tǒng)計(jì)表明，美國公路上因交通事故喪生的人數(shù)超過35000人，其中94%的事故是因司機(jī)失誤導(dǎo)致的。但是，美國特斯拉的車主使用自動(dòng)駕駛儀（只是L2級(jí)）的行駛距離超過2億千米，才只出過一次致死事故。毫無疑問，無人駕駛汽車的安全性高于人類的老司機(jī)。

自動(dòng)駕駛面臨的倫理難題

即便所有的技術(shù)難題都能解決，自動(dòng)駕駛也不會(huì)100%的安全，總會(huì)出錯(cuò)，這就涉及一個(gè)問題，如何在發(fā)生事故前躲避？避免事故的智能軟件設(shè)計(jì)也就面臨倫理難題。

有調(diào)查發(fā)現(xiàn)，駕駛員在右前方有障礙（人和物）時(shí)一般是往左打方向盤，反之則往右打方向盤，這是一種本能的下意識(shí)舉動(dòng)。當(dāng)然，更有可能是因車速太快和事發(fā)突然而來不及做出規(guī)避反應(yīng)。但是，自動(dòng)駕駛汽車卻要面臨一種選擇，即“電車難題”，最早由英國哲學(xué)家菲利帕·福特在1967年發(fā)表的《墮胎問題和教條雙重影響》中提出。

“電車難題”是這樣的：假設(shè)5名無辜的人被綁在電車軌道上，一輛失控的電車朝他們駛來，片刻后就要碾壓到他們。不過，你可以拉一個(gè)拉桿，讓電車開到另一條軌道上。但是，另一條軌道上也綁了一個(gè)人，你面臨兩個(gè)選擇：不拉桿，5人死亡；拉桿，1人死亡。你會(huì)怎么做呢？按利益最大化或損失最小化，多數(shù)人都會(huì)選擇拉桿，讓1人死亡救5人。但是，1人死亡還是殺了人，也躲不過良心的譴責(zé)。

一旦自動(dòng)駕駛汽車上路，必然面臨這種倫理難題，并且，人工智能的設(shè)計(jì)可能會(huì)陷入無盡的矛盾中。例如，如果是以死人的多少來設(shè)計(jì)人工智能的操作程序，那么接下來是否還會(huì)根據(jù)年齡、性別、地位的高低來選擇“拉桿”？面對(duì)一位孕婦和一位老人，汽車出事前該撞向誰？

無人駕駛就是迫使人工智能把人分等級(jí)，按人的多與少、高貴與貧賤來選擇，所以躲不開功利主義。當(dāng)然，這種功利主義還是人的選擇，因?yàn)橹悄苘浖侨嗽O(shè)計(jì)的。不過，人工智能的選擇有時(shí)也許要優(yōu)于人的選擇。比如，在面臨5人與1人時(shí)，如果人類駕駛員看到的那1人是自己的親朋，或許會(huì)選擇沖撞陌生的5人，但無人駕駛汽車只會(huì)按設(shè)計(jì)的救多數(shù)犧牲少數(shù)的程序來行事，所以似乎顯得更公平。

現(xiàn)在，新的研究還顯示，無人駕駛面臨更復(fù)雜的倫理選擇，例如在將要發(fā)生事故時(shí)，是拯救車上的乘客還是挽救路人。法國和美國的研究人員合作在2016年6月24日的《科學(xué)》雜志上發(fā)表了幾項(xiàng)研究結(jié)果。

其一，假如存在一場(chǎng)不可避免的事故，是救乘客還是路人？研究人員在線咨詢了451人，當(dāng)車上只有一名乘客并且只有一名行人時(shí)，75%的受試者表示應(yīng)該救乘客。但是當(dāng)行人的數(shù)量增加時(shí)，受試者開始轉(zhuǎn)變立場(chǎng)。如果有5名行人和1名乘客，50%的受試者表示應(yīng)該救乘客。當(dāng)行人人數(shù)達(dá)到100人，乘客是1人時(shí)，有80%左右的受試者表示要救行人。

其二，研究人員詢問了259人，自動(dòng)駕駛汽車是否應(yīng)該給車輛設(shè)定程序以保護(hù)“人數(shù)更多的一方”？結(jié)果以100點(diǎn)評(píng)級(jí)方式來衡量，受試者對(duì)這一問題的平均支持點(diǎn)數(shù)為70點(diǎn)。但是，當(dāng)被問及他們是否愿意購買犧牲駕駛員的車輛時(shí)，其興趣大幅下降，支持點(diǎn)數(shù)僅為30點(diǎn)。

上述研究結(jié)果反映了人們對(duì)于自動(dòng)駕駛汽車的矛盾心態(tài)。人們并非接受保護(hù)多數(shù)人的觀點(diǎn)，而是趨向于保護(hù)車中的乘客，哪怕車上的乘客明顯少于行人。同時(shí)，人們又支持為車輛設(shè)定程序以保護(hù)人多的一方，但不太愿意購買有可能犧牲駕駛員的車輛。

所以，對(duì)自動(dòng)駕駛汽車是人為設(shè)定程序還是讓其自主決策，以及“電車難題”是否會(huì)造成自動(dòng)駕駛汽車的困境，莫衷一是。不過，在討論自動(dòng)駕駛的倫理難題時(shí)，有人提出了兩個(gè)關(guān)鍵點(diǎn)。一是不能把人的生命交由人工智能來處置，即自動(dòng)駕駛的系統(tǒng)編程不應(yīng)在人的生命中進(jìn)行挑選，也不應(yīng)該在受害者中進(jìn)行抵消，但自動(dòng)駕駛應(yīng)秉持損害最小化原則；二是自動(dòng)駕駛應(yīng)避免陷入“電車難題”。從車輛的設(shè)計(jì)和編程開始，就應(yīng)考慮以一種具備防御性和可預(yù)期的方式駕駛，自動(dòng)駕駛應(yīng)重在完善技術(shù)，并通過可控交通環(huán)境的應(yīng)用、車輛傳感器、剎車性能、危險(xiǎn)情況中給受威脅者發(fā)出信號(hào)提示、通過“智能”道路基礎(chǔ)設(shè)施等來預(yù)防危險(xiǎn)，最大程度地增強(qiáng)道路安全性，避免兩難局面的發(fā)生。

然而，要實(shí)現(xiàn)這兩點(diǎn)除了不太可能外，還陷入自相矛盾之中，例如，不應(yīng)在自動(dòng)駕駛的編程中涉及功利主義的程序，但又要求自動(dòng)駕駛應(yīng)秉持損害最小化原則，后者本身就是功利主義選擇。

法律對(duì)自動(dòng)汽車開了一個(gè)口子

人無論做什么事情，都要對(duì)結(jié)果負(fù)責(zé)，所以有自然人和法人的負(fù)責(zé)形式。但是，自動(dòng)駕駛沒有人，其運(yùn)營和出了事后誰負(fù)責(zé)呢？在沒解決這個(gè)問題之前，1968年聯(lián)合國制定的道路交通公約規(guī)定，汽車的控制者必須是人而非電腦。

不過，法律是人制定的，也是隨時(shí)代發(fā)展而變化的，為適應(yīng)自動(dòng)駕駛汽車上路，一些國家已經(jīng)解凍自動(dòng)駕駛汽車的法律，允許自動(dòng)駕駛汽車有條件地上路。自動(dòng)駕駛汽車上路最大的法律基礎(chǔ)或法理是，把研發(fā)、生產(chǎn)自動(dòng)駕駛汽車的人員和機(jī)構(gòu)作為責(zé)任人（法人）。盡管如此，現(xiàn)今的法律也只是有條件地允許自動(dòng)駕駛汽車上路，主要是測(cè)試。

2017年10月12日，美國加利福尼亞州車輛管理局宣布，從2018年6月起允許沒有方向盤、制動(dòng)踏板、后視鏡和沒有駕駛員的無人駕駛汽車在道路上進(jìn)行測(cè)試，允許公眾乘坐配有無人駕駛技術(shù)的車輛。所有上路測(cè)試的自動(dòng)駕駛汽車都屬于L3級(jí)自動(dòng)駕駛汽車，在某些情況下依然還需要人工干預(yù)。此外，美國國會(huì)正考慮立法，允許廠商生產(chǎn)和部署沒有踏板和方向盤的非傳統(tǒng)類型汽車，同時(shí)還允許各州政府制定單獨(dú)的自動(dòng)駕駛監(jiān)管法案。

相比而言，德國的法律更進(jìn)了一步。2017年5月12日，德國聯(lián)邦參議院通過首部自動(dòng)駕駛汽車的法律，允許汽車自動(dòng)駕駛系統(tǒng)未來在特定條件下代替人類駕駛。這部法律首先明確了法律責(zé)任，如果在人為駕駛的情況下發(fā)生事故，駕駛?cè)顺袚?dān)事故責(zé)任；如果是人工智能系統(tǒng)引發(fā)事故，將由汽車制造商承擔(dān)責(zé)任。

判斷人為駕駛還是自動(dòng)駕駛將由汽車上安裝的一個(gè)類似黑匣子的裝置來確認(rèn)，該裝置可以記錄系統(tǒng)運(yùn)作、要求介入和人工駕駛等不同階段的具體駕駛情況，以保證在出現(xiàn)交通安全事故時(shí)，明確責(zé)任劃分。

當(dāng)然，德國的這部法律也還沒有涉及自動(dòng)駕駛的最高級(jí)L5級(jí)，該法律規(guī)定駕駛席必須有司機(jī)，并且要保留方向盤、油門和剎車等配置，以保證在自動(dòng)駕駛系統(tǒng)出現(xiàn)故障的情況下，駕駛者能及時(shí)介入，并且在何時(shí)能讓自動(dòng)駕駛汽車上路也語焉不詳。

2017年10月14日，日本國土交通省首次推出了關(guān)于自動(dòng)駕駛的安全標(biāo)準(zhǔn)。規(guī)定必須搭載一種功能，在路上自動(dòng)行駛時(shí)，當(dāng)司機(jī)手離開方向盤15秒以上，自動(dòng)系統(tǒng)將發(fā)出警告；如繼續(xù)保持手離開方向盤的狀態(tài)，50秒后自動(dòng)駕駛系統(tǒng)將停止，切換為手動(dòng)駕駛。

顯然，德國的自動(dòng)駕駛汽車的法律最開放，但時(shí)間未定，美國次之，日本的基本還算不上自動(dòng)駕駛法規(guī)。中國目前尚無自動(dòng)駕駛汽車的法律。因此，無論是國外還是國內(nèi)，自動(dòng)駕駛汽車上路和運(yùn)營還有漫長的路要走。

【責(zé)任編輯】龐 云