內(nèi)容提要 隨著自動駕駛技術(shù)的發(fā)展，自動駕駛汽車不可避免地遭遇行動責(zé)任、行動決斷、行動后果三方面的“路上道德”難題?；谌斯ぶ悄堋案兄?決策-執(zhí)行”一體化即時響應(yīng)，自動駕駛遵循“‘視見’即行動”的行動邏輯。它內(nèi)含三方面的倫理擴(kuò)展：①視覺算法從“人工智能行動者”向“人工道德行動者”的擴(kuò)展；②從“技術(shù)能動性”向“道德能動性”的擴(kuò)展；③從“技術(shù)規(guī)范性”向“道德規(guī)范性”的擴(kuò)展。三種倫理擴(kuò)展分別對應(yīng)于讓自動駕駛行動“見責(zé)任”“見決斷”“見后果”?；凇耙曇姟钡男袆觽惱矸桨?，不是一般意義上的“路上道德”，而是走在探問“技術(shù)調(diào)節(jié)如何轉(zhuǎn)換出‘道德調(diào)節(jié)’”的路上了。為此，還要形成一個“遠(yuǎn)見”：在“警惕人工智能”的同時，做好擁抱自動駕駛汽車廣泛進(jìn)入人類生活的準(zhǔn)備。自動駕駛之“視見”，唯有在這一“存在”的道路上，才能讓“責(zé)任”回歸于自動駕駛行動自身。

關(guān)鍵詞 自動駕駛 人工智能 “視見” “人工道德行動者”

岳瑨，東南大學(xué)哲學(xué)與科學(xué)系教授

本文為國家社會科學(xué)基金重大項目“人工智能倫理風(fēng)險防范研究”（20ZD040）、江蘇省社會科學(xué)基金重點(diǎn)項目“人工智能的倫理風(fēng)險及防范研究”（20ZXA001）、中央高?；究蒲袠I(yè)務(wù)費(fèi)專項資金項目（2242024S10004）的階段性成果。本文的思路和觀點(diǎn)得益于國家社會科學(xué)基金重大項目組同仁的啟發(fā)，本文寫作受江蘇省道德發(fā)展智庫支持。

一、問題的提出：透過自動駕駛之“視見”看行動倫理

汽車自1886年問世以來，歷經(jīng)了近一個半世紀(jì)的發(fā)展，如今即將進(jìn)入“自動駕駛”時代。根據(jù)通行的自動駕駛汽車分級標(biāo)準(zhǔn)[1]，目前我國有條件自動駕駛汽車（L3）已獲準(zhǔn)開展上路通行試點(diǎn)，完全自動駕駛汽車（L5）盡管尚未面世，但未來可期。自動駕駛汽車作為“多元高端技術(shù)集置”的交通工具和個人出行產(chǎn)品，既是智能化技術(shù)創(chuàng)新的“集結(jié)地”和“制高點(diǎn)”，又是引領(lǐng)市場規(guī)模方向和全球資本流動的“商家必爭之地”。因此，自動駕駛已經(jīng)是一個展現(xiàn)于人們?nèi)粘Ｉ钪械娜轿唤煌▊惱碜h題。各國各地區(qū)從立法、車輛管理和倫理規(guī)制等方面提出了自動駕駛技術(shù)準(zhǔn)入后的標(biāo)準(zhǔn)化和規(guī)范化問題[1]。自動駕駛技術(shù)市場化和產(chǎn)業(yè)化，對重構(gòu)人類在交通活動中的行動體系或行為正當(dāng)性而言是一個關(guān)鍵變量。尤其是當(dāng)自動駕駛汽車成為L3以上特別是L5的完全自主駕駛主體后，我們將面對自動駕駛這樣的“行動者”（agent）帶來的“行動倫理”或“駕駛道德”問題。

假如自動駕駛汽車面對復(fù)雜道路交通場景，而人類駕駛員又不得不面對不可預(yù)測的人工智能算法黑箱和不可預(yù)知的機(jī)器學(xué)習(xí)模型，駕駛員作為行動者（包括完全自動條件下或高度自動條件下的自動駕駛在內(nèi)的諸駕駛員）如何進(jìn)行道德決策？如果行動主體從人類擴(kuò)展到智能行動者是智能時代的表征[2]，那么自動駕駛主體就不能只是人類駕駛員，而應(yīng)是包含智能行動者在內(nèi)的復(fù)合主體。自動駕駛在行動倫理上不可避免地遭遇行動責(zé)任、行動決斷、行動后果三方面的困境：①行動責(zé)任困境是指由責(zé)任鴻溝引發(fā)的“行動歸責(zé)困境”，涉及自動駕駛事故的責(zé)任人是人類駕駛員還是人工智能行動者、誰是“路上”的行動責(zé)任主體等問題。②行動決斷困境是指由電車難題引發(fā)的“道德決斷的兩難困境”。瓦拉赫（Wendell Wallach）和艾倫（Colin Allen）這樣表述該困境：“無人駕駛系統(tǒng)使機(jī)器可能處在瞬間作出生死決斷的位置上，隨著軌道網(wǎng)絡(luò)復(fù)雜性的增加，類似電車難題的基本的兩難困境出現(xiàn)的可能性增加了。比如說，對于一個失控列車自動系統(tǒng)，應(yīng)該計算往哪里轉(zhuǎn)向呢？”[3]③行動后果困境是指由不可預(yù)知的道德風(fēng)險帶來的“結(jié)果測算困境”，即“科林格里奇困境”?？屏指窭锲嬖凇都夹g(shù)的社會控制》一書中形成了對這一困境的經(jīng)典表述。其內(nèi)容可作如下概述：一項技術(shù)的社會后果不能在技術(shù)生命初期被準(zhǔn)確預(yù)見，但當(dāng)不希望的后果被發(fā)現(xiàn)時，它往往已成為整個經(jīng)濟(jì)和社會結(jié)構(gòu)中難以抽離的一部分；當(dāng)容易改變時，人們無法預(yù)見改變的需求，而當(dāng)改變的需求變得明顯時，改變變得昂貴、困難和耗時[4]。

毫無疑問，自動駕駛作為“行動”不同于“關(guān)上門”“倒杯水”這樣簡單的“行為”。行動者的“視見”或“視而不見”，是行動倫理解題的關(guān)鍵所在。“視見”蘊(yùn)含三個層面的“見”：一是“見責(zé)任”；二是“見決斷”；三是“見后果”。無論在協(xié)助模式下還是在自主模式下，自動駕駛面對的倫理困境都指向由“計算機(jī)視覺算法”所指引的行動倫理的三種“視見”。因此，對于一種圍繞自動駕駛倫理所展開的“路上的道德”，我們要憑借“視覺算法”的道德敏感性思考如下問題：什么是自動駕駛的“視見”？“視覺算法”能否在自動駕駛系統(tǒng)感知功能中做出人類想要得到的正確的道德決策？當(dāng)其“視而不見”時，“路上”以及圍繞“路上”展開的道德決策又將如何進(jìn)行？

二、一個行動倫理方案：自動駕駛的“‘視見’即行動”

目前，自動駕駛系統(tǒng)通常包括感知、決策、執(zhí)行三個層級，分別對應(yīng)于“環(huán)境感知”系統(tǒng)、“定位導(dǎo)航-路線規(guī)劃”系統(tǒng)、“運(yùn)動控制-輔助駕駛”系統(tǒng)三個模塊。當(dāng)這三個層級的技術(shù)協(xié)調(diào)達(dá)到完全自主智能級別時，自動駕駛就從部分駕駛輔助級別（L1）不斷迭代升級到完全自動駕駛級別（L5）。在這三個系統(tǒng)模塊中，環(huán)境感知系統(tǒng)是自動駕駛實現(xiàn)的基礎(chǔ)，它構(gòu)成了自動駕駛的“視見”功能。它通過視覺算法（基于多傳感器數(shù)據(jù)和高精度地圖信息）精確感知周圍環(huán)境?！案兄薄岸ㄎ弧毕到y(tǒng)實時提供車輛在運(yùn)行環(huán)境中的精確位置信息，為車輛的“行駛導(dǎo)航”“路線規(guī)劃”提供對自主決策至為關(guān)鍵的數(shù)據(jù)和信息支持。因此，“感知”“定位”系統(tǒng)獲取的“視見”，通過“視覺算法”實際地貫穿于“路線規(guī)劃”“運(yùn)動控制”“輔助駕駛”的決策層級和執(zhí)行層級。從邏輯上看，自動駕駛的行為決策模塊是在綜合實時道路信息后做出駕駛決定，但是，實際的自動駕駛行動是一個非常復(fù)雜精確的工程學(xué)模型，很難用單一數(shù)學(xué)模型建構(gòu)。它要達(dá)成的行動效應(yīng)，是一種基于人工智能“超強(qiáng)算力”的“感知-決策-執(zhí)行”一體化即時響應(yīng)。自動駕駛行動所要求的這種一體化即時響應(yīng)的難度非常高——它遵循“‘視見’即行動”的行動邏輯[1]。

如果仔細(xì)分析自動駕駛的“視見”邏輯，就會進(jìn)一步發(fā)現(xiàn)，這一行動邏輯作為自動駕駛的行動倫理框架，內(nèi)含三方面的倫理擴(kuò)展：①視覺算法從“人工智能行動者”向“人工道德行動者”（AMAs）[2]的擴(kuò)展；②從“技術(shù)能動性”向“道德能動性”的擴(kuò)展；③從“技術(shù)規(guī)范性后果”向“道德規(guī)范性后果”的擴(kuò)展。這三方面的擴(kuò)展提供了回答“什么是自動駕駛的‘視見’”及相關(guān)問題的一個倫理學(xué)方案。

1.讓自動駕駛“見責(zé)任”：視覺算法從“人工智能行動者”向“人工道德行動者”擴(kuò)展

如果說自動駕駛的“視見”是一個融合了“軟件”和“硬件”并對其不斷協(xié)調(diào)的智能化功能體系[3]，那么，作為自動駕駛技術(shù)之感知層級的“軟件”——計算機(jī)視覺（computer vision）算法，便是“視見”的“靈魂之眼”。如果單單從技術(shù)層面看的話，正如前面所說，自動駕駛的“視見”無疑是通過模擬生物視覺（特別是人類視覺）讓計算機(jī)代替人類駕駛員完成目標(biāo)識別、分類并達(dá)成針對圖像或視頻信息的場景理解[4]。但是，如果擴(kuò)展到倫理層面，人們就會發(fā)現(xiàn)，自動駕駛的“視見”不是一個單一的孤立的“看”的表象行為，而是圍繞主體或行動者展開的具備人類實踐特性的自主行動。自動駕駛“能否‘視見’”“如何‘視見’”“‘視見’什么”等問題是討論自動駕駛汽車道德決策問題的出發(fā)點(diǎn)。問題的關(guān)鍵在于，由于這是一個由自動駕駛技術(shù)展現(xiàn)于當(dāng)下的由技術(shù)到倫理的擴(kuò)展問題，“視”的人類含義與“行動者”的技術(shù)屬性便發(fā)生了緊密的關(guān)聯(lián)。我們知道，“行動者”通常論及人類行動或個體人的行動。對于在世界之中的作為“這一個”的“人”的“視見”行動，海德格爾曾用“尋視揭示著”這一短語描述。他寫道：“這話意味著：已經(jīng)領(lǐng)會的‘世界’現(xiàn)在得到了解釋?！@個視的看卻一向有所領(lǐng)會，有所解釋。這個看包含著指引關(guān)聯(lián)‘為了作什么’的明確性?！盵1]因此，“視見”是對世界有所領(lǐng)會、有所解釋的揭示活動和展開活動，它對應(yīng)著敞亮、展開、揭示而非僅僅是感性知覺。那么，當(dāng)我們把“視見”這一具有“世界性”“生存性”的行動賦予自動駕駛時，自動駕駛的“視見”便從“道路場景”轉(zhuǎn)換到了“責(zé)任場景”。自動駕駛“能否視見”“如何視見”“視見什么”的問題，是在自動駕駛車輛為“擬主體”或“行動者”的技術(shù)條件下如何讓自動駕駛“見責(zé)任”的問題。

實際上，讓自動駕駛“見責(zé)任”，取決于“計算機(jī)視覺算法”能否生成具有自動駕駛功能的“人工道德行動者”。如果可以預(yù)設(shè)“計算機(jī)視覺算法”對“路上道德情景”已經(jīng)先行有所定義、有所領(lǐng)會、有所解釋，并通過機(jī)器學(xué)習(xí)在諸如“禮讓行人”“學(xué)校路段減速”“避讓非機(jī)動車”“與前車保持適當(dāng)車距（如果發(fā)現(xiàn)車距過近則必須采取減速甚至緊急制動措施）”等常規(guī)駕駛行為可能發(fā)生的場景中都可依“責(zé)任行為”的定義而行動，那么我們就可以說，自動駕駛在“見責(zé)任”的維度上初步生成了“人工道德行動者”。目前自動駕駛汽車主要通過三類道德情景識別構(gòu)建“路上道德”的自主責(zé)任規(guī)范。這三類道德情景的識別分別是基于圖像的信息識別、基于高精地圖的定位識別和基于車聯(lián)網(wǎng)的V2X識別。我們以“避讓行人”為例，可以簡略勾畫自動駕駛在道德情景識別過程中的“責(zé)任流程”：①自主偵測與即時環(huán)境感知——通過配備的高精度傳感器持續(xù)即時地探測感知周圍世界，捕捉車輛周圍各類實物的位置、速度、運(yùn)動方向等信息；②目標(biāo)識別與分類——計算機(jī)視覺算法響應(yīng)道路交通大數(shù)據(jù)和即時感知到的道路情景信息，對之進(jìn)行上傳、分析處理，以識別并分類不同目標(biāo)，在場景中識別行人，并提取行人相關(guān)數(shù)據(jù)；③自主決策與規(guī)劃——在識別行人后，自動駕駛汽車基于算法進(jìn)行決策規(guī)劃，涉及對車速、路況、行人位置和移動速度等因素的綜合考慮，系統(tǒng)在此基礎(chǔ)上根據(jù)它所領(lǐng)會的安全規(guī)則策略選擇最優(yōu)避讓路線和操作方式；④控制執(zhí)行——自動駕駛汽車通過控制執(zhí)行系統(tǒng)執(zhí)行避讓操作，包括調(diào)整車速、轉(zhuǎn)向或制動等控制執(zhí)行，以確保安全地避讓行人。

上述責(zé)任流程是常規(guī)事態(tài)下的一個簡化版本，屬于操作性道德層面的“見責(zé)任”。盡管如此，它也初步見證了自動駕駛汽車作為“人工道德行動者”是以計算機(jī)視覺算法的“視見”為根據(jù)的，可以將它簡稱為“自動駕駛AMAs”。如果基于“自主性”和“敏感性”兩個要素對“自動駕駛AMAs”進(jìn)行分級，那么可以得到“責(zé)任流程”的三個層階：第一層階是操作性道德，屬于“初階”的規(guī)范層級，在這個級別上的自動駕駛的“視見”基于“低自主性-低道德敏感性”，它的責(zé)任核心在于充當(dāng)“合作駕駛員”；第二層階是功能性道德，屬于“中階”的規(guī)范層級，在這個級別上的自動駕駛的“視見”基于“高自主性-低道德敏感性”，它的責(zé)任核心在于充當(dāng)“安全駕駛員”；第三層階是完全智能行動者道德，屬于“高階”的規(guī)范層級，這個級別上的自動駕駛的“視見”，基于“高自主性-高道德敏感性”，它的責(zé)任核心在于充當(dāng)“自主駕駛員”[2]。

不難看出，自動駕駛汽車作為“人工道德行動者”的負(fù)責(zé)任形象，主要是靠“合作駕駛員”和“安全駕駛員”來樹立的。雖然這種合作越來越強(qiáng)化了對周圍世界晦暗不明的事物的祛除，但是車輛周遭潛伏的危險并沒有隨著它的“視見”而消失。其中，最大的危險來自它“視而不見”的非常態(tài)情況。而自動駕駛行動者作為“人工道德行動者”從操作性道德向功能性道德的演進(jìn)，是以常態(tài)情況下的路上道德情景為參照的。實際情況表明，目前自動駕駛汽車的道德行動已經(jīng)邁過了第一層階，處于第二層階的開發(fā)測試階段。人工道德行動者在功能性道德建構(gòu)方面以駕駛過程的“安全責(zé)任”為主導(dǎo)，但在非常態(tài)情況（例如乘客身體不適）下的協(xié)調(diào)仍舊依賴人類駕駛員的人工調(diào)整。因此，自動駕駛的自主性，距離“通用人工智能”級別的完全自主還很遙遠(yuǎn)。從這個意義上看，有能力自主處理特殊倫理情景下責(zé)任問題的AMAs“自主駕駛員”還處于一種理想性的規(guī)范層階。

2.讓自動駕駛“見決斷”：從技術(shù)能動性向道德能動性的擴(kuò)展

自動駕駛的“視見”主要通過計算機(jī)視覺算法和機(jī)器學(xué)習(xí)融合路徑實現(xiàn)。它應(yīng)當(dāng)嵌入“道德算法”嗎？它是否可以通過機(jī)器學(xué)習(xí)提高能動性？從能動性兩個維度即“技術(shù)能動性”和“道德能動性”的接合轉(zhuǎn)換看，答案無疑是肯定的。如果說“讓自動駕駛‘見責(zé)任’”的常規(guī)形態(tài)遵循了從“合作駕駛員”到“安全駕駛員”最后到“自主駕駛員”的責(zé)任增強(qiáng)流程，那么“讓自動駕駛‘見決斷’”的常規(guī)形態(tài)則是通過提高“人工道德行動者”的自主性和敏感性來完善其道德決策水準(zhǔn)。通常有三種進(jìn)路：（1）將道德算法嵌入“計算機(jī)視覺算法”（包括機(jī)器學(xué)習(xí)算法）的“自上而下”進(jìn)路。這是解決自動駕駛視覺算法對“路上道德情景”先行有所定義、有所領(lǐng)會、有所解釋的道德能動性問題。（2）通過機(jī)器學(xué)習(xí)和強(qiáng)化學(xué)習(xí)的“自下而上”進(jìn)路。生成式人工智能不斷改善“計算機(jī)視覺算法”，讓它逐步“瞄準(zhǔn)”并“對齊”人類價值觀和人類道德觀念，在駕駛行動或者在與用戶互動時展現(xiàn)越來越高級的道德水平，以完善其決策時的道德敏感性。（3）“混合進(jìn)路”。通過混合運(yùn)用（循環(huán)反復(fù)）前兩種路徑，進(jìn)一步完善道德算法并增強(qiáng)機(jī)器學(xué)習(xí)的品質(zhì)，以提高其決策的道德敏感性。

讓自動駕駛“見決斷”的AMAs“混合進(jìn)路”，是目前解決常態(tài)自動駕駛道德能動性的主導(dǎo)進(jìn)路。它一方面“數(shù)字化”了人類通行的成熟道德理論原則，另一方面通過大數(shù)據(jù)學(xué)習(xí)完善AMAs的道德體系，因此，它能兼顧道德指令的原則性和大數(shù)據(jù)案例學(xué)習(xí)的靈活性。在自動駕駛汽車研發(fā)階段，算法專家基于交通法規(guī)和道德原則，為自動駕駛視覺算法附設(shè)一套包括道德原則在內(nèi)的基本決策規(guī)則，以確立“‘視見’即行動”的法則框架，并由此規(guī)范汽車，使汽車在常態(tài)下遵守交通規(guī)則、避免傷害行人和其他車輛等。而在實際的自動駕駛測試中，自動駕駛汽車可能會遇到復(fù)雜但仍屬常態(tài)的道德決策問題，如在遭遇“突然出現(xiàn)的行人”或障礙物時如何決策等。應(yīng)對這種情況，“混合進(jìn)路”的AMAs采用機(jī)器學(xué)習(xí)優(yōu)化算法，讓機(jī)器通過大數(shù)據(jù)強(qiáng)化訓(xùn)練和模擬解決復(fù)雜情境中的道德決策問題。上述進(jìn)路，包括“混合進(jìn)路”在內(nèi)，本質(zhì)上都屬于與駕駛行為直接相關(guān)的“一階”的道德算法和機(jī)器學(xué)習(xí)，它們只考慮“常態(tài)自動駕駛”下的“視見決斷”，不涉及“非常態(tài)自動駕駛”下應(yīng)對道德困境的道德決斷問題。

在此，我們有必要強(qiáng)調(diào)指出，讓自動駕駛“見決斷”，不是要將自動駕駛汽車置于諸如“電車難題”之類的“極端自動駕駛”條件下，讓其破解甚至人類都無法破解的兩難道德困境，而是致力于從道德敏感性構(gòu)建AMAs在自動駕駛功能上的“兩階道德決策”能力。這里所說的“兩階道德決策”中的“第一階”，是指在“常態(tài)自動駕駛”條件下操作性和功能性的行動決斷，它以“駕駛專家”為首要原則（涉及禮讓行人、在特定路段減速行駛、避讓緊急救援車輛等），而非以“道德專家”為首要原則?！暗诙A”道德決策是指在“非常態(tài)自動駕駛”條件下的一種自主行動決斷。比如，車輛必須避讓行人而可能撞向路邊防護(hù)欄，進(jìn)而可能導(dǎo)致車內(nèi)乘客受傷——當(dāng)此危情發(fā)生，道德算法要綜合測算如何避免車內(nèi)乘客和路邊行人受傷，同時，在此前提下測算車輛撞擊帶來的財產(chǎn)損失等。從邏輯上看，自動駕駛在“第二階”道德決策上的決斷，是以“駕駛專家+”為首要原則。因為“駕駛專家”以保障自動駕駛的操作性和安全性為主。如果AMAs不能妥善處理涉及人身和財產(chǎn)安全在內(nèi)的駕駛事項，那么我們大概率不能稱之為具備卓越駕駛能力的系統(tǒng)；但是，僅停留于駕駛專家之“見”，對于此復(fù)雜性事項之決斷而言還是遠(yuǎn)遠(yuǎn)不夠的。“駕駛專家+”原則要求自動駕駛在“第二階”道德決策上匹配“第二階道德算法”和相應(yīng)的學(xué)習(xí)，以便自動駕駛AMAs能夠兼容協(xié)調(diào)更多的“視見”，如“醫(yī)學(xué)專家”“倫理學(xué)家”“法學(xué)家”“心理學(xué)家”等之“見”。這會使得自動駕駛AMAs的“視見”能擺脫單一“專家隧道困境”，具備不同的多元思維方式，當(dāng)其面對“非常自動駕駛”事項時，就能夠自主提供創(chuàng)新性的解決方案。道德決策從來都不是一個機(jī)械化的過程，隨著路上情境的千變?nèi)f化，倫理需要“選擇擴(kuò)張，結(jié)果多樣化”；AMAs需要具備“能夠評估不同選擇和考慮不同的估值觀點(diǎn)的能力”[1]。

3.讓自動駕駛“見后果”：技術(shù)規(guī)范性向道德規(guī)范性的拓展

自動駕駛的“視見”不是茫然無措的“看”，它總是已經(jīng)有所預(yù)設(shè)。那么，對自動駕駛“‘視見’什么”這一問題在形式上的回答必定是須有所“行動”之“事”——它指向最優(yōu)方案的行為決斷。因此，“‘視見’即行動”這一命題，已事先內(nèi)含了判定“最優(yōu)方案”的標(biāo)準(zhǔn)問題。有兩種相互抵觸的標(biāo)準(zhǔn)：“義務(wù)論模式”和“功利論模式”?！傲x務(wù)論模式”強(qiáng)調(diào)規(guī)則、職責(zé)的重要性，認(rèn)為即使遵守規(guī)則、履行職責(zé)可能會帶來某些不利后果，“規(guī)則行為”或“職責(zé)行動”在某種意義上仍是“最優(yōu)方案”。然而，“義務(wù)論模式”過于僵化刻板。自動駕駛的“視見”顯然不能以純粹“義務(wù)論模式”應(yīng)對復(fù)雜多變的道路環(huán)境。“功利論模式”適合計算結(jié)果，強(qiáng)調(diào)結(jié)果、效用的重要性，認(rèn)為在某些特定情景下“結(jié)果”可以為“手段”的正當(dāng)性辯護(hù)。也就是說，為了獲得一個值得的“好結(jié)果”，就不能把不遵守規(guī)則的行為從“最優(yōu)方案”選項中排除。然而，“功利論模式”又過于靈活，它會以犧牲規(guī)則的優(yōu)先性為代價，不能令人滿意。對于自動駕駛的道德算法來說，“闖紅燈”作為違規(guī)行為，即使可能拯救人的生命，也不應(yīng)獲得道德上的贊同或允許。顯然，上述兩種相互抵觸的“最優(yōu)方案”在邏輯上使得自動駕駛會遭遇道德算法的多樣性和非中心化。這也就是說，可以存在多種形態(tài)或多語義價值確定的道德算法，它們像生物多樣性一樣，在自動駕駛環(huán)境下“具身于”特定的背景關(guān)系。

讓自動駕駛“見后果”并不只是堅持一種邏輯一貫的“義務(wù)論模式”或者“功利論模式”。這里所說的“見后果”，是在人與自動駕駛汽車的關(guān)聯(lián)中形成的一種作為“復(fù)合行動者”的“效用”和“后果”。自動駕駛汽車作為AMAs是否具有意向性？這個詰問是從“通用人工智能是不是一個偽命題”的詰難演化而來的。它的潛臺詞是說，如果自動駕駛AMAs不具有同人類行動者一樣的“意向性”，那么就不能討論自動駕駛汽車作為人工智能產(chǎn)品是否“知善惡”“辨是非”“守規(guī)則”“講道德”之類的問題。因為，從傳統(tǒng)意義的規(guī)范性維度看，人們通常所說的“在道德上分析一個行動者行動的后果”這件事，必須以人的意向性（基于自由意志）為前提——“見后果”的語義所指向的內(nèi)涵，是為人的意識所“意向”“意會”的后果，或者是為人的意識所“不意向”“不意會”的后果。說到這里，不難看到，如果說“讓自動駕駛‘見后果’”是自動駕駛行動必須解決的一個規(guī)范性問題，那么它必然要以一個倫理學(xué)的擴(kuò)展為前提：由于AMAs駕駛員的加入，自動駕駛主體不再只是人，它也應(yīng)該包括自動駕駛AMAs，那么，我們在倫理上就應(yīng)該考慮AMAs如何調(diào)節(jié)人的意向性行為的問題。維貝克主張把這種“技術(shù)調(diào)節(jié)”歸于“道德調(diào)節(jié)”。這樣一來，“道德調(diào)節(jié)”的概念就很好地規(guī)避了將道德視為技術(shù)人工物固有屬性的問題，也繞開了人工智能行動者的“意向性”難題[1]。

我們借助維貝克的“技術(shù)調(diào)節(jié)”理論視角看問題，不難發(fā)現(xiàn)：讓自動駕駛“見后果”的問題是可以著眼于技術(shù)規(guī)范性向道德規(guī)范性的拓展給出某種合理的回應(yīng)的。當(dāng)自動駕駛汽車被投入使用時，道德規(guī)范性并非來自“人”的自由意志，也非來自技術(shù)的“集置”效應(yīng)和“促逼”功能，道德能動性實際上分散在人與非人（例如自動駕駛汽車）之中?！暗赖滦袆诱摺睂嶋H上是由“人與技術(shù)的關(guān)聯(lián)網(wǎng)絡(luò)”構(gòu)成的一種“復(fù)合行動者”。從這個意義上看，道德決策與行動的“效用”和“后果”是人與技術(shù)關(guān)聯(lián)的產(chǎn)物和結(jié)果。在此維度上，自動駕駛的“‘視見’即行動”命題，具體而微地體現(xiàn)為“倫理即服務(wù)”這一人工智能倫理實踐原則的應(yīng)用。具體說來，這條原則在自動駕駛行動中的應(yīng)用，體現(xiàn)為“見后果”服務(wù)的總原則、“第零級倫理原則”和三個分級別的倫理原則。

（1）“人類駕駛員的隱入機(jī)制”。自動駕駛汽車的“技術(shù)調(diào)節(jié)”效用以在駕駛服務(wù)中“抽離”人類駕駛員并將其隱入背景關(guān)系為目的?！叭?車”關(guān)系轉(zhuǎn)變成“產(chǎn)品-用戶”關(guān)系，“人類駕駛員”成為隱入“人-車”關(guān)系網(wǎng)絡(luò)（背景關(guān)系）中的抽象的“第三方”，成為不可見的多主體（“概念設(shè)計師”“算法專家”“生產(chǎn)廠家”“道路管理系統(tǒng)”“衛(wèi)星定位導(dǎo)航”“交通警察”“保險公司”等）模型。例如，在概念的自動駕駛汽車中沒有預(yù)留用戶用身體感官操縱車輛的機(jī)械設(shè)備（如方向盤、制動器等），人們在汽車中并不與交通活動產(chǎn)生關(guān)系，汽車成為人們活動的環(huán)境而不是活動本身。由此，從行動者的總體行動形態(tài)而言，自動駕駛“見后果”的行動倫理是要完成一種“路上道德”的形態(tài)轉(zhuǎn)變，它構(gòu)成“見后果”服務(wù)的總原則，即把“道德規(guī)范性問題”轉(zhuǎn)變?yōu)橛脩籼峁└咚絻?yōu)質(zhì)服務(wù)的“技術(shù)調(diào)節(jié)”問題。

（2）“生死檔案”。自動駕駛汽車的“技術(shù)調(diào)節(jié)”必須設(shè)置“生死檔案”。這是居于最優(yōu)先地位的倫理，我們稱之為“第零級倫理原則”。它在“價值對齊”上的表述就是“超級愛對齊”。因為，“第零級倫理原則”要求自動駕駛AMAs愛人類的生命超過愛自己，它的具體內(nèi)容就是具體化“阿西莫夫機(jī)器人三定律”，目的就是提供“不傷害”（人類）的優(yōu)等級的服務(wù)。具體說來，就是通過大數(shù)據(jù)或機(jī)器學(xué)習(xí)建立一個“全域性”“高分享”的“生死檔案”，以供生成式人工智能進(jìn)行深度機(jī)器學(xué)習(xí)。通過這樣一種“技術(shù)調(diào)節(jié)”，讓自動駕駛汽車學(xué)會避免如下“生死攸關(guān)”的事態(tài)：①避免遭遇“電車難題”；②規(guī)避任何傷害人或人類的行動指令的開啟；③不開放進(jìn)入危險路段的許可；④避免為不法分子或黑客非法使用；⑤避開危險天氣或災(zāi)難性場域；⑥拒絕遵循任何性質(zhì)的戰(zhàn)爭指令和不法行為指令；等等?！吧罊n案”是一種對自動駕駛汽車“說不”的預(yù)備性倫理條款。

（3）“緊急救援通道”。自動駕駛汽車“技術(shù)調(diào)節(jié)”的“第一級倫理原則”，是提供“緊急救援通道”服務(wù)。如同高速公路上的“緊急救援通道”一樣，它的功能是在預(yù)判交通事故可能發(fā)生時或在交通事故發(fā)生后提供高效快捷的救援服務(wù)。自動駕駛汽車分為“人機(jī)合作模式”和“無人駕駛模式”，這兩種模式都需要對路況進(jìn)行實時智能監(jiān)控。一旦出現(xiàn)上述兩種駕駛模式無法解決的緊急情況，例如，當(dāng)?shù)缆纷R別系統(tǒng)過于靈敏或出現(xiàn)故障而將路旁汽車廣告牌識別為“前車”并采取緊急制動時，“緊急救援通道”服務(wù)就必須即時打開?！熬o急救援通道”一旦開啟，自動駕駛汽車平臺就可以通過快捷操作，必要時通過后臺人工操控，讓困境中的自動駕駛汽車得到救援。

（4）“時鐘設(shè)置”。自動駕駛汽車“技術(shù)調(diào)節(jié)”的“第二級倫理原則”是提供“時鐘設(shè)置”服務(wù)。“時鐘設(shè)置”的重點(diǎn)是確保響應(yīng)的即時性、準(zhǔn)確性、有序化和隊列參數(shù)的合理化。因此，“時鐘設(shè)置”如同人類日常使用的各類“時鐘物體”，它能確保處于聯(lián)網(wǎng)系統(tǒng)中的每一輛自動駕駛汽車處于在線狀態(tài)。換言之，“時鐘設(shè)置”是通過“技術(shù)調(diào)節(jié)”讓自動駕駛汽車模仿人類進(jìn)入一種“在世界之中存在”的“操心”的狀態(tài)。即使一輛自動駕駛汽車處于加油時間、充電時間、保養(yǎng)維修時間、模式升級時間、等待響應(yīng)時間等，它也處于一種因時鐘調(diào)節(jié)而“在世”的狀態(tài)，除非它被“時鐘”列入報廢清單而不能提供服務(wù)?！皶r鐘設(shè)置”提供一種“時間性”的“技術(shù)調(diào)節(jié)”，因此它是“一切‘視見’能夠進(jìn)入‘服務(wù)’”而“一切‘服務(wù)’得以成為‘行動’”（例如未來的共享自動駕駛汽車的預(yù)約服務(wù)系統(tǒng)就是如此）的關(guān)鍵性“技術(shù)調(diào)節(jié)”，其倫理重要性是不言而喻的。

（5）“具體服務(wù)清單”。自動駕駛汽車“技術(shù)調(diào)節(jié)”的“第三級倫理原則”是提供“具體服務(wù)清單”。這是“倫理即服務(wù)”的具體內(nèi)容。它既有屬于駕駛功能專家級別的服務(wù)類別，也有一切人工智能行動者的智能設(shè)置所共有的服務(wù)類別。這些“服務(wù)清單”可能包括以下各項：①預(yù)約；②隱私保護(hù)；③反算法歧視；④可信醫(yī)護(hù)及心理調(diào)節(jié)系統(tǒng)；⑤提示工程師；⑥駕駛教練員；⑦高級私人助理；⑧駕乘陪伴者；⑨超級VIP；等等。

三、視見之“遠(yuǎn)”：切近“視不可見”的路上道德

“視見”依賴于視覺功能——“看”，即運(yùn)用“眼睛”的作用和功能，是整合全部智慧行動或智能行動的關(guān)鍵。當(dāng)代德國哲學(xué)家海德格爾明確指出：“哲學(xué)的傳統(tǒng)一開始就把‘看’定為通達(dá)存在者和通達(dá)存在的首要的方式?！盵1]在這句話中，海德格爾在“通達(dá)存在”這一短語下面加上了著重號。通過這樣的表述形式，他似乎要強(qiáng)調(diào)：就“視見”僅止于特定“存在者”而言，它屬于某種形式上的“近視”；而就“視見”能達(dá)于“存在者存在”而言，它需要某種形式的從整體上看待世界的“遠(yuǎn)見”。這里談?wù)摰摹耙曇姟保?dāng)然只是一個具體的讓自動駕駛“見責(zé)任”“見決斷”“見后果”的行動倫理問題，但它顯然已經(jīng)不只是一般意義或日常意義上的“路上道德”的“看見”，而就其“視”日常所“視而不見”或日常所“視不可見”而論，這項研究已經(jīng)是走在探問“技術(shù)調(diào)節(jié)”如何轉(zhuǎn)換出“道德調(diào)節(jié)”的路上了。為此，我們期待進(jìn)一步的探索能夠開拓出一個面向自動駕駛的“遠(yuǎn)見”。

“警惕人工智能”，可能是在發(fā)展自動駕駛汽車時需要開拓出的一個霍金式的“遠(yuǎn)見”[2]。它來自對通用人工智能（AGI）的懷疑和恐懼，同時也來自對“人工智能宣傳術(shù)”的洞察和擔(dān)憂。有學(xué)者稱之為自動駕駛汽車的“芝諾悖論”：人們一直在被告知自動駕駛汽車即將駛?cè)虢謪^(qū)，它引發(fā)的期待與日俱增，在有關(guān)它的概念和測試的新聞報道中這一天似乎日漸臨近；但人們擔(dān)心，這一天似乎永遠(yuǎn)不會到來[3]。“芝諾悖論”大概源自兩個擔(dān)憂：一是對自動駕駛汽車之“不現(xiàn)實”的擔(dān)憂。這個擔(dān)憂認(rèn)為，人們對自動駕駛汽車的普遍期待是由自動駕駛AMAs或通用人工智能的技術(shù)預(yù)設(shè)所支持的，而僅就“超級算力”所需要的電力支持而言，如果不解決電力支持問題，人類進(jìn)入自動駕駛時代就是不現(xiàn)實的。二是對自動駕駛汽車“被操控”的擔(dān)憂。這個擔(dān)憂認(rèn)為，人們對自動駕駛汽車的普遍期待是被由資本和權(quán)力控制的“人工智能宣傳術(shù)”操縱的。實際上，就技術(shù)治理而言，人們真正需要認(rèn)真對待的是“人工智能宣傳術(shù)”背后的“資本操控”或“權(quán)力之手”的支配性動機(jī)。

不可否認(rèn)，合理的擔(dān)憂是必要的。杰瑞·卡普蘭談道：“自動駕駛卡車的技術(shù)今天已經(jīng)存在，而且已經(jīng)可以用非常合理的價格改裝到現(xiàn)有的車隊上了。裝備有這種技術(shù)的卡車可以‘看到’所有方向，而不僅僅局限于前方的視野，這些車輛可以在完全黑暗或燈火管制的情況下行駛，它們會即時分享路況、附近的危險以及它們自己的意圖?！薄案畹氖?，它們的反應(yīng)時間接近于零?！盵1]如果注意到卡普蘭描述的這個自動駕駛卡車的場景（雖然是“人-機(jī)”合作型的自動駕駛場景）是在十年前，那么，我們對于自動駕駛汽車的“芝諾悖論”便會有更直觀的理解。因為，經(jīng)過十年時間的快速發(fā)展，自動駕駛汽車已經(jīng)提升到完全自動駕駛級別（L5），但是這個級別的自動駕駛汽車投入運(yùn)營或使用仍然需要時間。如果把自動駕駛的“視見”從駕駛行動和“路上的道德”轉(zhuǎn)換到社會行動和“人類的道德”，我們就會發(fā)現(xiàn)，更為深層次的挑戰(zhàn)并不來自“技術(shù)調(diào)節(jié)”，而是來自“技術(shù)調(diào)節(jié)”無法協(xié)調(diào)的諸多社會行動或價值觀。完全自動駕駛是否會出現(xiàn)在我們的生活中？它在向人工道德行動者演變發(fā)展的進(jìn)程中會演變成為“相對于人而言”的“他者”嗎？它會完全取代人類駕駛員嗎？它會改變整個交通和運(yùn)輸行業(yè)的結(jié)構(gòu)形態(tài)嗎？它會重構(gòu)人類社會的交通方式、出行方式、工作方式和生活方式嗎？它產(chǎn)生的“異質(zhì)性”影響會帶來對于自動駕駛汽車的信任危機(jī)嗎？過渡期（同一時間同一路段既有自動駕駛汽車又有人工駕駛汽車）的責(zé)任問題會導(dǎo)致不可避免的歸責(zé)困境嗎？顯然，技術(shù)的變革不能自動地帶來社會的變革?！段磥淼赖隆芬粫淖髡叽笮l(wèi)·埃德蒙茲直截了當(dāng)?shù)貙懙溃骸拔也⒉幌Ｍ麩o人車證實芝諾悖論，我希望無人車盡快實現(xiàn)其目標(biāo)（出現(xiàn)在路上）。如果無人車真的投入使用，將會挽救許多生命。”[2]然而，如果人類社會還沒有準(zhǔn)備好擁抱自動駕駛汽車，“芝諾悖論”便無法根除。

四、結(jié)語

ImageNet的發(fā)明者李飛飛從計算機(jī)視覺算法專家的角度對“視見”問題的回應(yīng)，令人深思。在近期TED演講中李飛飛說道，地球上第一只眼睛——“三葉蟲的眼睛”，大約在五億四千萬年前出現(xiàn)，經(jīng)過漫長演化，大自然才發(fā)展出人類的視覺，而今天，機(jī)器“看見”的探索還只是剛剛開始[3]。這意味著，我們談?wù)摗啊曇姟葱袆印钡淖詣玉{駛的倫理，似乎為時過早，因為機(jī)器“看見”，仍然只是人類對自動駕駛汽車的一個關(guān)于“路上的道德”的期待。

李飛飛寫道：“人類的感知力雖然有種種局限，但與機(jī)器截然相反。我們從整體上看待世界，不僅能識別世界的內(nèi)容，更可以進(jìn)一步理解不同事物之間的關(guān)系、意義、過去和未來。這就是‘要點(diǎn)’。我們不僅是見證者，更是故事講述者。是時候讓算法也學(xué)習(xí)一下這種本領(lǐng)了。”[4]長久以來，人們習(xí)慣于把人工智能視作純粹的科學(xué)技術(shù)和工程問題。應(yīng)該看到，這只是一種囿于“存在者層次”的“視點(diǎn)”，不可避免地帶有技術(shù)主義的“淺見”或“近視”。在《我看見的世界：李飛飛自傳》中，李飛飛用了很多不同尋常的詞來談?wù)撊斯ぶ悄芗捌洚a(chǎn)品，這些詞包括“現(xiàn)象”“顛覆”“謎題”“特權(quán)”“自然之力”等，相關(guān)的表述已經(jīng)切近一種“視不可見”的“存在”層次。這對于思考自動駕駛汽車的倫理尤其重要。自動駕駛之“視見”，唯有在這一“存在”的道路上，才能讓“責(zé)任”回歸自動駕駛行動自身。由此，我們才有可能領(lǐng)會李飛飛的話：“現(xiàn)在，一個新詞占據(jù)了我的思維。如今，人工智能是一種責(zé)任，是我們所有人共同承擔(dān)的責(zé)任?！盵5]

〔責(zé)任編輯：洪峰〕

[1]這個標(biāo)準(zhǔn)由國際汽車工程師協(xié)會（SAE International）發(fā)布。根據(jù)該標(biāo)準(zhǔn)自動駕駛分為5個級別。L1為部分駕駛輔助級別，L2為組合駕駛輔助級別。這兩個級別的自動駕駛能實現(xiàn)簡單駕駛行為并處理簡單駕車場景。L3為有條件自動駕駛級別，L4為高度自動駕駛級別，L5是完全自動駕駛級別。參見\"Taxonomy and Definitions for Terms Related to Driving Automation Systems for On-Road Motor Vehicles J3016_202104\"， SAE International， 2021-04-30， https：//www.sae. org/standards/content/j3016_202104/。

[1]2017年，德國率先頒布自動駕駛法并修訂《道路交通法》。同年，美國首部自動駕駛汽車法案在眾議院通過。2018年，我國工業(yè)和信息化部、公安部、交通運(yùn)輸部三個部門聯(lián)合發(fā)布《智能網(wǎng)聯(lián)汽車道路測試管理規(guī)范（試行）》，明確了針對智能汽車道路測試的主體、駕駛?cè)恕④囕v以及流程規(guī)范等方面的要求，并對在測試中的交通違法、事故認(rèn)定等問題做出了相應(yīng)規(guī)定。2021年我國交通運(yùn)輸部出臺了《交通運(yùn)輸部關(guān)于促進(jìn)道路交通自動駕駛技術(shù)發(fā)展和應(yīng)用的指導(dǎo)意見》《關(guān)于科技創(chuàng)新驅(qū)動加快建設(shè)交通強(qiáng)國的意見》，指出要開發(fā)新一代智能交通系統(tǒng)，促進(jìn)自動駕駛技術(shù)的研發(fā)。2022年我國工信部印發(fā)了《關(guān)于開展智能網(wǎng)聯(lián)汽車準(zhǔn)入和上路通行試點(diǎn)工作的通知》，對于目前的智能汽車允許上路行駛的準(zhǔn)入做出規(guī)劃。

[2]維貝克在談到拉圖爾的技術(shù)能動性觀點(diǎn)時指出：“在拉圖爾的對稱式研究路徑中，人和非人都是行動者，且非人的行動者也能通過促進(jìn)塑性道德行動而彰顯道德性?！痹诖嘶A(chǔ)上，維貝克提出了“道德物化”概念，他認(rèn)為抽象的道德規(guī)則、道德理念能夠借由人的設(shè)計體現(xiàn)在技術(shù)物之中。因此，技術(shù)物是有道德意義的，不能被簡單地理解為工具性存在。參見彼得·保羅·維貝克：《將技術(shù)道德化：理解與設(shè)計物的道德》，閆宏秀、楊慶峰譯，上海交通大學(xué)出版社2016年版，第65頁。

[3]溫德爾·瓦拉赫、科林·艾倫：《道德機(jī)器：如何讓機(jī)器人明辨是非》，王小紅等譯，北京大學(xué)出版社2017年版，第10頁。

[4]D. Collingridge， The Social Control of Technology， London： Frances Pinter（Publishers）Ltd.， 1980， p.11.

[1]以上對自動駕駛技術(shù)的三個層級的概述，參見王建、徐國艷、陳競凱等：《自動駕駛技術(shù)概論》，清華大學(xué)出版社2019年版，第78頁。

[2]科林·艾倫、加里·瓦爾納與杰森·澤辛爾在《未來人工道德主體導(dǎo)論》中使用“人工道德行動者”（artificial moral agents，簡稱AMAs）一詞來界定包括完全自動駕駛汽車（L5）在內(nèi)的能夠?qū)崿F(xiàn)完全自動化的智能機(jī)器行為者。參見C. Allen， G. Varner， J. Zinser， \"Prolegomena to any Future Artificial Moral Agent\"， Journal of Experimental and Theoretical Artificial Intelligence， 2000， 12（3）， pp.251-261。

[3]這些“硬件”包括高精密傳感器、高精度地圖、高清衛(wèi)星、高靈敏度雷達(dá)系統(tǒng)等感知層級的各種“硬件”。

[4]常見的計算機(jī)視覺算法涉及目標(biāo)檢測、人臉識別、三維重建、深度學(xué)習(xí)等，這些模型通過運(yùn)用復(fù)雜的技術(shù)完成對二維或三維圖像信息的分類、識別等任務(wù)，在自動駕駛、醫(yī)學(xué)影像、虛擬現(xiàn)實等多個領(lǐng)域都得到了廣泛的應(yīng)用，日常辦公或?qū)W習(xí)中的智能識圖、圖像文檔轉(zhuǎn)換等功能也都離不開計算機(jī)視覺算法的參與。

[1]海德格爾：《存在與時間》，陳嘉映、王慶節(jié)譯，商務(wù)印書館2018年版，第211—212頁。

[2]溫德爾·瓦拉赫、科林·艾倫在《道德機(jī)器：如何讓機(jī)器人明辨是非》一書中以自動駕駛為例，從機(jī)器道德自主性（autonomy）和道德敏感性（sensitivity）的角度出發(fā)，提出了操作性道德（operational morality）與功能性道德（functional morality）兩個層次，人工智能道德行動者的發(fā)展是一個在坐標(biāo)軸上由操作性道德到功能性道德再到完全自主體道德的過程。參見溫德爾·瓦拉赫、科林·艾倫：《道德機(jī)器：如何讓機(jī)器人明辨是非》，王小紅等譯，北京大學(xué)出版社2017年版，第19—29頁。本文此處討論的自動駕駛AMAs的“責(zé)任流程”三個層級，參考了瓦拉赫和艾倫的觀點(diǎn)。

[1]溫德爾·瓦拉赫、科林·艾倫：《道德機(jī)器：如何讓機(jī)器人明辨是非》，王小紅等譯，北京大學(xué)出版社2017年版，第53頁。

[1]“技術(shù)調(diào)節(jié)”關(guān)注行動和知覺，而不是道德認(rèn)知。它在實踐上積極響應(yīng)并幫助人類塑造道德行為和決定。因此，技術(shù)物的意向性必須以人的意向性為支撐，“是與在人-技術(shù)-世界的關(guān)系中分布著人與非人的元素一起的‘復(fù)合意向性’。不是從人類行動者中‘衍生’出來的意向性，這種意向性在人和非人的關(guān)聯(lián)中產(chǎn)生”。參見彼得·保羅·維貝克：《將技術(shù)道德化：理解與設(shè)計物的道德》，閆宏秀、楊慶峰譯，上海交通大學(xué)出版社2016年版，第73頁。

[1]海德格爾：《存在與時間》，陳嘉映、王慶節(jié)譯，商務(wù)印書館2018年版，第208頁。

[2]據(jù)說著名科學(xué)家霍金的遺言中，就有“警惕人工智能”這么一條。參見《霍金的遺愿清單：離開地球和警惕人工智能》，2018年3月14日，https：//www.thepaper.cn/newsDetail_forward_2028339。

[3]大衛(wèi)·埃德蒙茲：《未來道德：來自新科技的挑戰(zhàn)》，蔣蘭譯，中國科技出版社2023年版，第295頁。

[1]杰瑞·卡普蘭：《人工智能時代：人機(jī)共生下財富、工作與思維的大未來》，李盼譯，浙江人民出版社2016年版，第136頁。

[2]大衛(wèi)·埃德蒙茲：《未來道德：來自新科技的挑戰(zhàn)》，蔣蘭譯，中國科技出版社2023年版，第306頁。

[3]F.-F. Li， \"With Spatial Intelligence， AI Will Understand the Real World\"， TED， April 2024， https：//www.ted.com/talks/ fei_fei_li_with_spatial_intelligence_ai_will_understand_the_real_world/transcript？trigger=0s.

[4][5]李飛飛：《我看見的世界：李飛飛自傳》，趙燦譯，中信出版社2024年版，第298頁，第392頁。