蘇美蘭

“電車(chē)難題”是倫理學(xué)領(lǐng)域中一個(gè)著名的思想實(shí)驗(yàn)。在“電車(chē)難題”的場(chǎng)景中，五個(gè)無(wú)辜的人被綁在鐵軌上，你正駕駛著一輛電車(chē)呼嘯而來(lái)。如果你不拐彎，那么這五個(gè)人死定了，如果你拉下列車(chē)控制桿，使列車(chē)朝另一個(gè)方向駛?cè)?，?wèn)題又來(lái)了，在另一個(gè)方向的軌道上有一個(gè)同樣無(wú)辜的人。自從1967年英國(guó)哲學(xué)家菲利帕·福特首次提出“電車(chē)難題”以來(lái)，哲學(xué)家們一直沒(méi)有討論出統(tǒng)一的答案。主流的觀點(diǎn)漸漸變成兩種，一種是道義論，另一種是結(jié)果論。按照道義論，所有生命皆平等，所以你不該轉(zhuǎn)彎，但按照結(jié)果論，你應(yīng)該轉(zhuǎn)彎，畢竟只犧牲一個(gè)人才能獲得最優(yōu)的結(jié)果。這兩種觀點(diǎn)在某種程度上都是符合道德的，但行為卻截然相反（詳見(jiàn)《大科技·百科新說(shuō)》2016年第2期《電車(chē)難題：轉(zhuǎn)彎？不轉(zhuǎn)彎？》一文）。

“電車(chē)難題”使哲學(xué)家們陷入了兩難的境地，他們?cè)绞勤に伎嘞?，就越?lái)越陷入泥淖。然而現(xiàn)在，不僅哲學(xué)家要面對(duì)這個(gè)令人討厭的難題，汽車(chē)產(chǎn)業(yè)的政策制定者和汽車(chē)生產(chǎn)商也開(kāi)始受到它的折磨了。由于無(wú)人駕駛汽車(chē)已經(jīng)上路，政策制定者和汽車(chē)生產(chǎn)商不得不考慮一下“電車(chē)難題”在現(xiàn)實(shí)中出現(xiàn)的可能性。

受到?jīng)_擊的設(shè)計(jì)理念

從表面上來(lái)看，無(wú)人駕駛汽車(chē)似乎并不會(huì)帶來(lái)新的不同。一輛汽車(chē)，不論它受汽車(chē)軟件控制，還是由人類(lèi)親自駕駛，都要面臨撞誰(shuí)不撞誰(shuí)的選擇。然而實(shí)際上，只有在無(wú)人駕駛汽車(chē)中，“電車(chē)難題”作為一種思想實(shí)驗(yàn)才更具有現(xiàn)實(shí)意義。在現(xiàn)實(shí)中，人類(lèi)司機(jī)在遭遇緊急情況時(shí)，比如，面前突然沖出來(lái)一個(gè)人或者一輛車(chē)的時(shí)候，在一瞬間通常是喪失理智的，全靠下意識(shí)的操作。他或者急踩剎車(chē)，或者急轉(zhuǎn)彎，完全沒(méi)有時(shí)間做“電車(chē)難題”中的倫理學(xué)思考。而且，正是由于下意識(shí)的操作，最終的結(jié)果是司機(jī)無(wú)法把握的——有可能是虛驚一場(chǎng)，沒(méi)人員傷亡；也有可能比不操作更嚴(yán)重，比如急轉(zhuǎn)彎翻車(chē)或者導(dǎo)致連環(huán)追尾使更多人傷亡。

因此，在現(xiàn)實(shí)的交通事故中，我們很少會(huì)從倫理學(xué)上對(duì)司機(jī)做道德譴責(zé)（個(gè)別情況除外），畢竟，人都會(huì)出現(xiàn)失誤。但是，無(wú)人駕駛汽車(chē)就不同了。它所有的反應(yīng)都是汽車(chē)程序事先設(shè)定好了的。它不需要在那一瞬間做決定，汽車(chē)生產(chǎn)商早已用計(jì)算機(jī)代碼告訴它，在這種情況下該怎么做。所以，此時(shí)才真正出現(xiàn)了倫理問(wèn)題，而且這種倫理問(wèn)題將會(huì)沖擊無(wú)人駕駛汽車(chē)的設(shè)計(jì)理念。

無(wú)人駕駛汽車(chē)為什么會(huì)出現(xiàn)？作為無(wú)人駕駛汽車(chē)技術(shù)的領(lǐng)軍巨頭，谷歌公司給出了權(quán)威的答案——無(wú)人駕駛汽車(chē)可以減少由于人類(lèi)疏忽而造成的交通事故，進(jìn)而降低事故中喪生或受傷的人數(shù)。也就是說(shuō)，無(wú)人駕駛汽車(chē)是出于安全的角度被設(shè)計(jì)出來(lái)的。那么在出現(xiàn)“電車(chē)難題”時(shí)，無(wú)人駕駛汽車(chē)的首要任務(wù)是為了保護(hù)車(chē)主的安全，還是為了保護(hù)車(chē)外人的安全？

舉一個(gè)例子，你乘坐無(wú)人駕駛汽車(chē)行駛在山路上，發(fā)現(xiàn)面前有幾個(gè)小孩堵在路中間，向左拐彎的話(huà)，你會(huì)有沖下懸崖的可能性，向右拐彎則是逆行道，違反了交通規(guī)則，有可能與前方駛來(lái)的汽車(chē)迎頭相撞。這時(shí)，如果無(wú)人駕駛汽車(chē)的設(shè)計(jì)理念是優(yōu)先保證車(chē)內(nèi)人的安全，那么汽車(chē)完全不會(huì)做任何操作，徑直軋過(guò)去就行了，但后果會(huì)造成這幾個(gè)小孩的身亡。另一方面，如果無(wú)人駕駛汽車(chē)的設(shè)計(jì)理念是保護(hù)車(chē)外人的安全，那么很明顯，這樣的車(chē)賣(mài)不出去——無(wú)論車(chē)主還是汽車(chē)生產(chǎn)商，都不希望自己成為車(chē)禍的受害者。

這里，又涉及到另一個(gè)問(wèn)題：如果無(wú)人駕駛汽車(chē)遵守規(guī)則就必須造成傷害，是否應(yīng)該允許無(wú)人駕駛汽車(chē)破壞交通規(guī)則呢（比如轉(zhuǎn)入逆行道）？如果可以的話(huà)，這是與“遵守交通規(guī)則，降低事故風(fēng)險(xiǎn)”的常識(shí)相矛盾的。當(dāng)然，也有人指出，也許可以在設(shè)計(jì)無(wú)人駕駛汽車(chē)軟件的時(shí)候不設(shè)定什么“指導(dǎo)原則”，就讓汽車(chē)模擬人類(lèi)司機(jī)的下意識(shí)操作，讓它在隨機(jī)狀態(tài)下運(yùn)行。但這種“碰運(yùn)氣”的做法同樣不符合人類(lèi)發(fā)明無(wú)人駕駛汽車(chē)的初衷。

決策權(quán)和責(zé)任

對(duì)于前一個(gè)問(wèn)題，也許通過(guò)技術(shù)的進(jìn)步，汽車(chē)生產(chǎn)商們能夠編寫(xiě)出無(wú)比復(fù)雜的程序，盡量讓無(wú)人駕駛汽車(chē)在面對(duì)電車(chē)難題時(shí)做出合乎邏輯的選擇。但是，想象一下，在未來(lái)的某一天里，乘坐在無(wú)人駕駛汽車(chē)中的你，生命處在出現(xiàn)“電車(chē)難題”的危急時(shí)刻，自己卻無(wú)法做出決策，你會(huì)甘心么？

“電車(chē)難題”中的決策權(quán)至關(guān)重要，那么它應(yīng)該屬于誰(shuí)？是汽車(chē)制造商、法律制定者，還是車(chē)主本人？誰(shuí)來(lái)做決策，誰(shuí)就有可能被推到道德的風(fēng)口、倫理的浪尖上，而且，無(wú)人駕駛汽車(chē)在面臨“電車(chē)難題”時(shí)決策權(quán)的歸屬會(huì)出現(xiàn)一些變數(shù)。比如，如果汽車(chē)生產(chǎn)商具有決策權(quán)，他們?cè)O(shè)計(jì)了一款無(wú)人駕駛汽車(chē)，讓它在出現(xiàn)“電車(chē)難題”的情況下故意殺害車(chē)主，以降低事故中的人員傷亡。你如何保證司機(jī)不會(huì)自己修改程序，以確保自己永遠(yuǎn)不會(huì)被自己的汽車(chē)蓄意謀殺？計(jì)算機(jī)軟件總有漏洞，總會(huì)有人能破解這些軟件。

最后，如果無(wú)人駕駛汽車(chē)真的遭遇了“電車(chē)難題”，汽車(chē)軟件在做出選擇之后，誰(shuí)需要站出來(lái)對(duì)后果負(fù)責(zé)呢？反正法律制定者不會(huì)讓無(wú)人駕駛汽車(chē)本身來(lái)?yè)?dān)責(zé)，“尋找明確的負(fù)責(zé)人”是我們需要思考的另外一個(gè)問(wèn)題。