潘 靜，駱 軍

(蘇州科技大學 馬克思主義學院，江蘇 蘇州 215000)

“死神似乎無處不在。農民講述著家人的疾病，城里的醫(yī)生對這種突如其來的疾病深感困惑和無奈?；疾〉娜藭蝗弧⒛涿畹厮劳?。后來，不僅是成人，甚至小孩在玩耍時也會突然倒下，并在短短幾個小時后死去。整個村莊彌漫在一種奇怪的寂靜之中?！盵1]這是蕾切爾·卡遜(Rachel Carson)在《寂靜的春天》(SientSpring)開篇中描述的場景。相似的場景再現(xiàn)于2019年底，肆虐全球的重大突發(fā)公共衛(wèi)生災害事件——新型冠狀病毒肺炎(COVID-19)亦使人們陷入一片恐懼的寂靜之中,其來勢之洶涌、傳播之猛烈前所未見。人類抵御災難的能力與其所遭受災難的困難程度，在歷史的推演進化中此消彼長、周而復始。反思歷史可見，在“無知”境遇下做出的道德抉擇尤為關鍵，其承擔的風險不亞于遠在巴西的蝴蝶輕扇翅膀所引起的風暴。

面對技術被人強化后，人為主導力量的人類世(Anthropocene)，傳統(tǒng)道德顯露出捉襟見肘的生存困境。在麥金太爾(Alasdair MacIntyre)所言的道德低落淪為災難的當代，如何使道德的應有之義不落言筌，追尋美德復歸至亞里士多德時代的“好的生活”，這一倫理訴求是當代倫理學為發(fā)揮實存道義不得不回答的問題。人類憂慮技術應用帶來的道德難題，但同樣道德難題應當且能夠使用技術來幫助解決。因此，訴諸人類道德增強(moral enhancement)來提升道德認知繼而優(yōu)化道德行為是20世紀以來倫理學家做出的積極探索。

從“生物醫(yī)學道德增強”(Biomedical Moral Enhancement，以下簡稱BME)到“人工智能道德增強”(AI Moral Enhancement，以下簡稱AIME)，對于道德增強的方案學界各抒己見，在探索與爭鳴中，必須厘清與思考的基本問題是：(1)道德如何被增強？(可行性)(2)如果增強是何種意義上的增強？道德是何種意義上的道德？(現(xiàn)實性)(3)為解決“道德大問題”而使用的道德工具(BME或AIME)是否存在產(chǎn)生新的“道德大問題”的風險？(可能性)

綜合分析道德增強的實踐可行性、道德增強原則的現(xiàn)實性以及實踐道德增強技術的可能性，我們試圖提出一種人類道德增強的倫理新進路——動機同一的交互者。

一、從生物醫(yī)學到道德感知：BME的倫理辨析

傳統(tǒng)的西方倫理思想以人與人之間的道德關系為研究對象，倫理學(ethics)是對人類道德生活進行系統(tǒng)思考和研究的學科。[2]當科學技術與生物醫(yī)學共同構建起“好的生活”的多樣化愿景時，BME便以道德客體的形式進入了哲學研究。

英格瑪·佩爾松(Ingmar Persson)和朱里安·薩夫列斯庫(Julian Savulescu)是BME的支持者，他們認為高技術時代產(chǎn)生的核武器、生化武器，尤其是占有武器的恐怖組織采取的恐怖行動加劇了全球的不平等，再加上人類的集體活動讓生態(tài)環(huán)境遭到破壞、污染，由此引發(fā)了一系列問題。在他們看來，這些問題在現(xiàn)代已經(jīng)是關系到人類存亡的重大問題，這些關于惡的“道德大問題”(moral mega-problems)是由現(xiàn)代科學技術的發(fā)展和濫用造成的。[3]BME是佩爾松和薩夫列斯庫基于“道德大問題”而提出的解決方案，簡言之，BME相對于傳統(tǒng)道德能更加有效地制止由現(xiàn)代技術放大的人類惡的行為。他們認為，如果我們想要繼續(xù)生存在這個星球上，就必須要采取強制性的技術干預，即強制道德生物增強(CMBE)；托馬斯·道格拉斯(Thomas Douglas)從功利主義視角來論證了BME在道德上是應當?shù)?。戴維·德格拉齊亞(David DeGrazia)贊同道格拉斯的觀點，認為自愿實施這些技術干預在道德上是應該的并且是被允許的，即自愿道德生物增強(VMBE)。

BME的可行途徑是通過藥物、非侵入性的腦刺激、基因修飾等生物醫(yī)學的方式來增強人類的道德感，提升人類的道德判斷能力。已經(jīng)有諸多實驗可以驗證道德與這些途徑存在一定程度的相關性。如：在“信任游戲”中，人體內產(chǎn)生的后葉催產(chǎn)素(Oxytocin)水平的高低可以影響參與者之間的信任程度。[4]實驗顯示，人類反社會人格的形成與單胺氧化酶A(MAOA)活性的高低相關，相較其他人而言，體內MAOA活性較低的成年人，產(chǎn)生反社會情緒風險的可能性更高。[5]血清素(Serotonin)可以選擇性地影響人們在面對道德難題時所做的道德決定，從而提升其公平意識，使其更傾向于選擇合作。在“電車難題”(trolley problem)的困境中，血清素能夠影響參與者的道德判斷能力。在“最后通牒博弈”游戲(ultimatum bargaining game)中，血清素增多也會提升游戲參與者對公平意識的重視，繼而能按照理性人的假設，使方案得以公平通過。

盡管BME可能在三方面發(fā)揮效果：讓受試者更有同理心、減少暴力攻擊行為、提升道德反思能力。[6]但如果想從根本上改善受試者的道德動機，讓他的道德行動趨向于更高的道德標準，進一步提升推理判斷能力，道德增強顯而易見地還面臨著諸多的挑戰(zhàn)。例如，道德增強是否意味著道德進化？早在達爾文創(chuàng)造性地提出“進化論”之前，古希臘哲學家對于生命的起源進化就有了深切的哲學思考。泰勒斯(Thales)的水起源說、阿那克西曼德(Anaximander)的“阿派朗”本原論、阿那克西米尼(Anaximenes)的氣本原說等都在一定程度上啟示著人們對生物進化演變的推測和思考。奧古斯丁(Saint Augustine)認為，一切生命狀態(tài)的展開都經(jīng)歷了漫長的進化歷程?，F(xiàn)代學者胡安·恩里克斯(Juan Enriquez)提出，在未來，人類將不單單是如現(xiàn)在般的簡單存在物，生物醫(yī)學增強技術(包括基因操作、組織再生技術等)將使人類進化成新物種，他稱其為“進化人”。技術可以干預人類的進化，使人接近成為完美的道德人，但同樣在這一過程中，技術的批量化實施，是否將人置于了同農作物或者是牲畜般的被管制、被道德的地位。麥金泰爾認為，美德的意義來自于實踐，[7]在這一意義上，技術的直接干預使美德的習得脫離了實踐的土壤，卓越品質的形成缺失了道德獲得的過程體驗，具備了即得性。因此，生物醫(yī)學技術增強之后的普遍道德只能是無根之木，難以林林成森。再者，人的道德究竟是本具有的還是可制造的，人的自由意志如何得以彰顯，等等，[8]都是一些難以解釋的難題，就研究現(xiàn)狀而言，諸如此類的問題無論在何種立場上都很難獲得有效辯護。

二、從決策者到輔助者：AIME的倫理辨析

經(jīng)過分析，我們可以看到，BME的風險較大，頗具爭議，而人工智能作為道德增強的另一條路徑進入我們的視野。人工智能道德增強是通過“人工道德建議者(AMA)”“客觀”的道德表征能力與強大的信息獲取能力協(xié)助人類提高道德認知水平的道德增強方式。[9]在現(xiàn)階段，我們的討論主要圍繞“強”人工智能與“弱”人工智能展開。

1.“徹底增強”指的是“強”人工智能視域下的道德增強技術，這一技術旨在通過將人類的道德決策權一勞永逸地交由人工智能道德決策機器來處理，以便解決存在于人類社會中的一切道德選擇難題?！皬姟比斯ぶ悄馨l(fā)展進化的終極目的是使人工智能機器成為完美的道德決策者。埃里克·迪特里希(Eric Dietrich)擁護“徹底增強”的人工智能技術，對人工智能產(chǎn)品的未來應用持樂觀的態(tài)度，他認為人自身的道德本性根本而言是脆弱的，人工智能技術能夠促進人類的道德進步，人類所研發(fā)的道德機器甚至可以制造一輪風暴似的“新哥白尼式革命”(Copernicus revolution)。他堅持人工智能道德決策機器是“人類本性中最好的天使”。[10]這一觀點，并將這些“天使”視為“智人2.0”。就目前來看，甚至在將來的很長一段時間，這些機器的認知能力與道德判斷水平都是人類自身難以企及的。道德決策機器使人類將自身的決策權外放給人工智能的算法決策系統(tǒng)，人類可以借助不同的應用模式做出不同的決策，甚至這些決策可以直接控制我們的行為，以致于我們不需要承受任何心理上的思慮和行為上的努力。例如，已有通過人機耦合的方式在我們的大腦中植入芯片的操作，道德決策機器通過直接或間接的方式指揮我們的道德行動。[11]

然而，理想狀態(tài)的“強”人工智能也面臨諸多困境。(1)面對倫理學的多元主義，其理想原初狀態(tài)的道德規(guī)范以何為準則是難以確定的問題，即元倫理學一直爭論不休的難題，義務論、功利主義抑或德性倫理學等，我們很難就一種方案一致?lián)碜o；(2)即便道德規(guī)范趨于統(tǒng)一，但在“強”人工智能進行普遍決策的過程中，人類自身德行和技能的習得過程逐漸喪失，扼殺了道德進步的可能，使道德進步陷入了固步自封的困境；(3)人工智能這一工具能否作為道德主體仍是我們尚未探索明晰的領域，完全將道德決策外包給“強”人工智能，道德主體所應承擔的道德責任劃分亦是我們目前無法解決的難題；(4)即便人工智能道德決策機器可以作為道德主體，但做道德決策的過程，不止包含推理與判斷的程式化語言，自主的道德決策主體必定要保持自身的情感性，理性與情感都是道德主體做出道德決策時不可或缺的必要條件，系統(tǒng)化的道德判斷缺少了非理性的情感體驗。為此，我們可以懷疑道德決策機器的道德判斷是否可能。

因此可以說，徹底增強很難作為道德增強較好的可行性方案。

2.“輔助增強”指的是“弱”人工智能視域下的道德增強技術。作為道德決策的輔助增強技術，它將監(jiān)測影響主體做出道德推理和判斷的各類因素，包括生理(體內激素水平、情緒等)、環(huán)境(氣溫、人群等)諸方面的因素。根據(jù)這些因素，對其恰當表達，識別影響因素中的偏見成分并且讓決策者意識到偏見的存在，然后根據(jù)決策者的道德價值觀推薦適合的建議?！叭酢比斯ぶ悄堋拜o助增強”在輔助人類選擇最為合適的道德決策方案時，不僅可以保持道德本身所具有的價值多元性，還可以進一步促使決策者深入反思，改善決策者道德推理判斷能力的不足，從而增強人類的道德自主性。[12]

道德增強技術借助于AMA實現(xiàn)，而對于AMA的編程有三種方式：(1)自上而下，道德原則被用做選擇行動的規(guī)則，但其存在著很難為一切機器不斷更新的現(xiàn)實任務提供一般理論的問題；(2)自下而上，尋求提供教育的環(huán)境，通過經(jīng)驗學習選擇恰當?shù)牡赖滦袨?，但機器尚不清楚道德準則如何適用于具體的場景；(3)混合，結合以上兩者。

摩爾(J.H. Moor)則將AMA的模式劃分為如下三類：(1)隱性的道德代理人(Implicit moral agents,簡稱IMA)，無法區(qū)分道德行為和不道德行為；然而，它們的設計涉及安全或關鍵可靠性問題，以用來避免不道德行為，如銀行轉移金錢的自動柜員機；(2)顯性的道德代理人(Explicit moral agents,簡稱EMA)，可以將具體倫理原則應用于具體情況，處理有關各種情況的倫理信息，并作出明確的道德判斷；(3)完全的道德代理人(Full moral agents,簡稱FMA)，像人類一樣的存在，擁有意識與自由意志。

在一定意義上，我們所希望實現(xiàn)的AIME是混合模式的EMA，已經(jīng)應用到醫(yī)學倫理學領域的MeEthEx系統(tǒng)與此相近。該系統(tǒng)綜合了羅爾斯(John Rawls)關于正義的反思平衡理論(reflexive equilibri-um)、羅斯(William Ross)的顯見義務原則(prima facie duty)以及邊沁(Jeremy Bentham)的功利主義思想。[13]我們可以在羅德里克·弗斯(Roderick Firth)著名的理想觀察者(ideal observer, 簡稱IO)上寄予更高的厚望，他在《倫理絕對主義和理想的觀察者》一書中提出“理想觀察者”的設想，夏普(F.C.Sharp)也表達了對此觀點的支持和認同。他們從理論上虛構了一個理想化的角色，假定其擁有最全面的知識和全部的理性，并且能做出最正確的道德判斷。該模型的特征是：(1)對于非倫理事實無所不知(omniscient)；(2)無所不感(omnipercipient)，能通過視覺或想象等所有可能存在的方式認知這些信息；(3)不受情感左右；(4)不偏不倚；(5)始終如一；(6)其他如常。全知全能的“理想觀察者”是絕對主義中的一個完美模型，為避免陷入道德專家主義的窠臼，應嘗試從道德認知的觀念視角出發(fā)，構建一個動機同一的交互者來作為另一種方案。

三、從合“理性”到“合理”性：AIME的愿景建構

借助IO的全知全能視角，簡·德克爾(Jan Deckers)和朗西斯科·勞拉(Francisco Lara)基于人工智能的當前進展和未來發(fā)展趨勢，構想了一個合“理性”的蘇格拉底式的技術系統(tǒng)，以輔助人類做出合“理性”的道德決策。德克爾和勞拉對此系統(tǒng)規(guī)制了六項要求：(1)提供外在經(jīng)驗支持；(2)提高道德概念的清晰度；(3)理解邏輯論證的整體結構；(4)檢驗道德判斷是否符合實際現(xiàn)狀；(5)提高對自身局限的道德認識；(6)建議決策者如何執(zhí)行最佳的道德決定。

概而言之，該系統(tǒng)將通過計算機、虛擬現(xiàn)實設備或腦機接口(Brain-Computer Interface)技術等方式，從關于科學、語言學、邏輯學以及人們如何思考和推理的數(shù)據(jù)庫中接收信息。此外，它還將從倫理專家、委員會收集信息，在傳感器的幫助下，它將監(jiān)測道德主體的周遭環(huán)境，然后交由系統(tǒng)處理所有這些信息，并遵循上述六項要求，通過虛擬語音助理(類似于Discord bot maker一般的智能聊天機器人)與道德主體進行對話，其內容指向包括：為什么做這個決定？你因為什么這么想？還有其他原因嗎？你說的這句話具體是什么意思？可以再詳細具體地表述一遍嗎？你是否知道你目前的身體狀況/環(huán)境不適合做出這個決定？[11]其過程類似于蘇格拉底式的助產(chǎn)術，智者循循善誘地展示道德決策可能產(chǎn)生的后果，并服務于道德決策主體，且不直接干預主體的道德決定權，確保道德主體進行了充分的道德考量后自行做出道德決策。

盡管蘇格拉底式的道德增強系統(tǒng)盡可能全面地考慮了做出道德決策的必要條件，但卻忽視了最為關鍵的道德動機。只有少數(shù)合“理性”的康德主義者才能契合合“理性”的蘇格拉底式道德機器，而在休謨主義者看來，作為大多數(shù)的普通人，道德動機源自于人生而有之的自然欲望。當代休謨主義者運用目的原則來駁斥康德主義者的純粹理性作為道德動機的觀點，即假設人們有欲望A，并且認為道德行為B的實施可以實現(xiàn)欲望A，那么人們就會擁有做行為B的道德動機。

換言之，道德主體既然要產(chǎn)生實施道德行為的動機，其自身狀態(tài)必然要處于一種在主觀上被激發(fā)的情境，即要有與主體產(chǎn)生感性影響的情感刺激。唐納德·戴維森(Donald Davidson)從休謨主義者的理論基點出發(fā)，創(chuàng)造性地對休謨式“信念(belief)—欲望(desire)”這一道德情境展開描述：“無論何時，只要某人出于欲望A實施了道德行為B，都能夠表述為：(1)某人對某類特定道德行為具有認同的態(tài)度(pro-attitude)；(2)某人相信自己實施的道德行為B屬于那類特定道德行為?！盵14]在此，(2)指的就是信念(belief)，(1)是處于特定情境的心靈狀態(tài)(情感、道德原則、價值標準等)。由此可見，要做出切實合理的道德判斷，(1)與(2)都有著不可或缺的重要作用。

休謨主義者反對康德主義者的傳統(tǒng)觀點，認為道德動機是為了滿足“自然欲望”，并非是出于對實踐理性法則的服從。前者主張道德動機是“信念”與“自然欲望”的合理結合，而后者則視行為背后的價值信念是激發(fā)道德動機的實踐理性源泉。[15]而面對已有的“自然欲望”，蘇格拉底式道德機器是否能發(fā)揮其道德增強的功用仍未可知，為此，構建動機同一的交互者則是蘇格拉底式道德機器的未來“合理”性的優(yōu)化所在。例如，“嚴肅游戲(serious game)”作為尚未在道德領域普及開的新型學習形式，其應用或許有助于幫助道德主體習得趨于主體更高水平的道德動機，至少在醫(yī)療領域，從醫(yī)療決策支持系統(tǒng)(CDSS)到“嚴肅游戲”的發(fā)展，JDOC、GeriatriX等應用已趨于成熟。

在科技昌明的時代背景下，科技正以迅猛的態(tài)勢乘時代之東風高歌猛進，人類無法回退到?jīng)]有高科技的時代。面對技術衍生出的一系列現(xiàn)代倫理問題，我們必須要回歸到技術的本身去尋求倫理答案。人文道德的價值應當在與高技術融合前行的進程中得以彰顯，倫理學甚至更需要以前瞻性的視角來規(guī)避技術發(fā)展可能帶來的問題。毫無疑問，人工智能站在高技術的風口滿足人類的欲求，為人類謀求福祉，人工智能道德增強則是在摒棄了傳統(tǒng)道德增強的理論基礎上，使欲求與德行相適應發(fā)展的一條可能路徑。在這一進路中，我們所倡導的和諧、民主、公正、誠信、友善等價值動機可借助動機同一的交互者輔助實現(xiàn)，盡管在技術與理論上存在著諸多困難，但我們可以預見的是，在不久的將來，“向善”的道德機器必將在各方的共同努力下建成，進而服務于人類社會，人機共生、和諧發(fā)展的未來圖景需要科技工作者與人文學者共同描繪，這一道德圖景亦將對我國新時代道德文化的發(fā)展建設大有助益。