韓貴東

(大連理工大學 人文與社會科學學部，遼寧 大連 116000)

科幻電影在內(nèi)容生成中，從多個層面與視角為觀眾展現(xiàn)出了藝術(shù)家思維世界中倫理反思，也進而在精神指向的內(nèi)涵層面，將人工智能時代倫理問題困境表述出來，其所以指代的本位對立在于現(xiàn)實世界中人的功欲與理性之辨，體現(xiàn)在“人”“機”對立過程中的矛盾意識以及人工智能社會中的“和解”表征，繼而從對國產(chǎn)科幻電影的關(guān)照之中，可以審視郭柯導演團隊創(chuàng)作中的人工智能倫理問題。

科幻電影中的人工智能產(chǎn)物往往是主體、客體對于身份認同與確認的爭執(zhí)過程，既表現(xiàn)在“他者”思維的AI思考層面，也強調(diào)在場者的身份“自我關(guān)照”。在電影《流浪地球》中郭柯導演將人工智能的主體設(shè)置為具備人體意識思維的AI機器人MOSS“莫斯”，其作為人類智慧結(jié)晶的智能存在客體，是整個電影中火種計劃的具體監(jiān)督者與執(zhí)行者，當然在倫理表現(xiàn)中的莫斯是思維接近于人類意識的存在，故而影片中說，MOSS沒有消失，只要數(shù)據(jù)存在，MOSS就存在；所以在表達中，影片設(shè)置的莫斯是沒有生命期限，沒有認知局限；剔除了感性思維意識，獨留理性算法；MOSS總能在最短的時間內(nèi)做出最正確的決定，MOSS是趨于完美的智慧體。在太空中生存的劉培強中校成為了人類與人工智能溝通的主體存在。然而電影中最為深刻的沖突設(shè)置表現(xiàn)在電影最后戲劇化的“人”“機”矛盾處理中，劉培強親手用一瓶伏特加燒毀了莫斯，這里編劇更為意識化的讓莫斯留下一句臺詞，即“讓人類永遠保持理智，確實是一種奢求”，進而引發(fā)出在國產(chǎn)科幻電影人工智能的倫理思辨問題：人機二元對立的存在矛盾。俄國科學家維爾納茨基和法國人類學家德日進認為：“人生活在由人工創(chuàng)造的文明世界中?！盵1](P10)而人工智能體作為人類思維意識的集合，實際上背后的倫理擔憂即是人類自身生存發(fā)展中的對峙、沖突、斗爭、緩和、自我認同等一系列問題。

一、欲望與理性的倫理憂慮

在科幻電影之中，人工智能體作為人工智能技術(shù)運用的結(jié)晶，其背后的意識與思維受制于技術(shù)發(fā)展的水平，往往也表現(xiàn)出了差異性的維度。從技術(shù)之維來反觀國產(chǎn)科幻電影中人工智能體的創(chuàng)造，不難看出其具備理性與欲望相互辯證的倫理關(guān)系。馬克思說：“各種經(jīng)濟時代的區(qū)別，不在于生產(chǎn)什么，而在于怎樣生產(chǎn)，用什么勞動資料生產(chǎn)?！盵2](P204)因而在技術(shù)迅猛發(fā)展的時代，人工智能依靠技術(shù)的數(shù)據(jù)支撐完成了眾多創(chuàng)新性的項目命題，在電影《流浪地球》中所出現(xiàn)的人工智能體本就是技術(shù)想象的認知與實踐反思之間的存在。

理性主義的哲學思辨本身就是倫理問題的探討，因而反觀數(shù)千年來的理性啟蒙，從亞里士多德到黑格爾、笛卡爾、克爾凱郭爾、海德格爾等，理性思維的強大信念使得眾多的文化進入理性啟蒙的偉大時代，而正是對于現(xiàn)實問題理性化、祛蔽化的思考，才使得我們所生活的社會有著更為公理化的存在。然而在技術(shù)發(fā)展的理性時代，對技術(shù)工具化甚至玩具化的使用傾向，卻也使得技術(shù)理性嫣然成為工具理性的代表，最終在對技術(shù)理性趨之若鶩的使用中，引發(fā)更多的倫理問題，這顯然是有違技術(shù)理性目的化的初衷。

在電影《流浪地球》中，莫斯作為人工智能體的代表，其不僅為整個火種計劃提供了具體的執(zhí)行方案，還成為其流浪地球的監(jiān)控者與數(shù)據(jù)大腦。擁有大數(shù)據(jù)智能化的莫斯顯然是劉慈欣科幻作品序列中重要的智能媒介載體，然而電影的講述過程中，導演有意識的為我們呈現(xiàn)出了人類與人工智能之間的倫理矛盾。劉培強中校在家庭倫理的糾葛過程中，將個人主觀意識有意識的投射于莫斯身上，莫斯作為人工智能體，其背后的智能社會，實際上就包含了倫理關(guān)系復(fù)雜的矛盾。莫斯與劉培強中校即人工智能體與人類作為同處在宇宙空間中的存在，其本質(zhì)屬上的融合就是一個復(fù)雜、多變、異化、阻隔、依賴、毀滅的過程。

電影中人工智能體與使用者之間的倫理矛盾早已是影視表達中一以貫之的命題。從早期1927年上映的《大都會》到1968年的《2001太空漫游》再到2019年的《流浪地球》，無論是早期科幻弱智能時期的作品，還是今天強智能時代的代表，無一不為我們展現(xiàn)出了“人”“機”關(guān)系在理性與欲望倫理思索中的命題。這些經(jīng)典的影像作品中，諸如哈爾9000、莫斯等人工智能體使我們看到了人工智能倫理的問題，反客為主化的角色置換將人類與被發(fā)明的人工智能體矛盾表露無遺。從主仆關(guān)系的依賴到人工智能體自我意識的出現(xiàn)，再到對人類社會的抗爭以及對自由的尋求，最終確定主體意識直至毀滅的整個過程中，人工智能原本創(chuàng)造美好藍圖的想象不在，取而代之的是技術(shù)至上倫理次之的科技理性，一味的為了滿足人類本身的某種欲望與功利目的現(xiàn)實借口，本末倒置的技術(shù)理性最終也淪為文明發(fā)展的欲望之幌。

羅爾斯頓認為：“附麗在機器上的價值完全是工具性的，它來自于創(chuàng)造這些機器的人。但是，附麗在有機體上的價值卻來源于自發(fā)的自然系統(tǒng)所具有的、非派生性的真正的自主性。[3](P143)毋庸置疑，在技術(shù)理性的視野之中，人類無休止的欲望，使得人成為人工智能體存在于現(xiàn)實世界中的映照與身份確認者?！读骼说厍颉分械哪乖趶浟糁H，留下一句讓人深省的話：“讓人類永遠保持理智，確實是一種奢求。”的確，人類作為主體存在的社會中，人工智能無非是一種技術(shù)附庸而存在的，人類的理智往往是被欲望所替代，甚至是欲望掌控了人類本身，而諸如莫斯一樣的人工智能體卻成為人類為滿足自我私欲、丟棄人與人工智能契約的殉葬品，從倫理視野的維度看，人類甚至可以不用承擔毀壞人工智能體的原罪，而習慣了上帝視角無所不能的倫理抱負，如此看來欲望與理性的矛盾化將是人工智能與人類相伴相隨的倫理表征。

二、主體性倫理的缺失與辨思

主體性倫理的探討也是人工智能體與人類關(guān)系的重要問題。在通常意義上的人工智能體是可以根據(jù)主體意識有無、多少、強弱來進行分類的。人工智能體的主體性意識來自于人類還是其在完善過程中具有的來自于環(huán)境的主體意識，一言以蔽之，就是作為人工智能體的機器人是否是具有主體意識而獨立存在的道德個體。計算機倫理學創(chuàng)始人摩爾根據(jù)機器人可能具有的道德影響力，將其分為幾類，分別是:道德影響力智能體，是無論行為是否有意義但具有道德影響力的智能體；隱含的道德智能體，是具有道德的智能體隱含在其設(shè)計的考慮因素(通常指的是安全因素)，可以對特定情況采用一些自動的道德反映；明確的道德智能體，能夠識別和處理各種情況并對應(yīng)該做什么作出合理決定的智能體；完全的道德智能體，指的是像人一樣具有意識、意向性和自由意志等特征，并能對各種情況作出道德判斷[4]。

在電影《流浪地球》中，人工智能體莫斯作為郭柯導演設(shè)置的矛盾角色存在，當劉培強中校最終決定利用空間站點燃火星時，其切斷了空間站與地球之間的通信，莫斯作為人工智能體是有編程的倫理作為基礎(chǔ)的，因而其設(shè)置的程序指令是為了保證空間站的安全，單從人工智能的初衷來說，莫斯并沒有違反人類預(yù)設(shè)的程序，但劉培強的倫理邏輯在于其親情維系的根本，矛盾的關(guān)鍵在于莫斯被人類的使用者所毀滅，主要原因是因為劉培強從發(fā)動機故障開始，將莫斯的行為定義為“叛逃”，而不再是往日可靠的科技“助手”。所以對于主體性倫理問題而言，這里的莫斯作為AI機器人是充當了人類使用者的助手？亦或是成為個體空間管理者的主體？也正是在這一問題上的影像視聽表現(xiàn)使得人們對于莫斯的存在位置出現(xiàn)爭議。

莫斯的出現(xiàn)使得AI機器人成為新時期的管理者，這是一種影像的角色預(yù)設(shè)。在電影中莫斯作為劉培強的AI助手，不僅可以關(guān)閉全球的通訊設(shè)施，更是多次干擾了劉培強聯(lián)系聯(lián)合國政府，并可以在執(zhí)行緊急預(yù)案后，要求所有宇航員進行休眠狀態(tài)，當最后看到劉培強并沒有履行指令時，則采用智取的方式，循循善誘般將其強制進行休眠。表面上看，這種“間接”對人類主體進行發(fā)號施令的人工智能體已經(jīng)僭越了人類身份的主體地位，但從某種意義上而言，莫斯在對事件的判斷中，是準確且符合程序設(shè)定的。莫斯背后的一切是來自于科學的推理邏輯與算法大數(shù)據(jù)規(guī)則。對于點燃木星上的氫氣這一方法，莫斯通過運算，得出不成功的結(jié)論。但其作為人工智能體所難以與人類主體達成共識的原因在于，人類在遇到某些親情或者倫理捆綁的現(xiàn)實難題時，往往會選擇極端化的死亡路徑來解決問題，所以這種非常規(guī)的行為使得人工智能體與人類有所區(qū)分，也使得矛盾的關(guān)鍵得到披露即何為主體的倫理性問題。

莫斯作為明確的道德智能體是否真的具有主體意識？劉培強所定義的“叛逃”是否意味著莫斯具備了人類的主體意識？劉培強與莫斯的主體性倫理之爭是否可以認定為人類就是正確的？答案顯然也是在郭柯預(yù)設(shè)的劇情中的。在電影中，莫斯決定放棄地球，然后帶著精神的群體尋找新的適合人類生存的家園，這種“叛逃”的背后一切都是聯(lián)合國的決定，并且在電影劇情中，將“火種計劃”設(shè)置為最高權(quán)限。因而莫斯并非是罪魁禍首，他只是存在于聯(lián)合國授權(quán)后的一條程序命令，并非是其獨立思考的設(shè)定，所以莫斯仍舊是聯(lián)合國官方程序下的人工智能體。但其作為人工智能體依舊免不了與人類最后的沖突，問題就在于莫斯的程序設(shè)置是權(quán)力所有者的程序思考，而并非是劉培強本身情感的投射，這是人類技術(shù)理性出現(xiàn)欲望滿足的倫理沖突。

所以在主體性倫理的問題上，人工智能體難以獨立成為道德個體而存在但又在某些利益人群的主體意識指導下，促使自身成為人類意志的執(zhí)行者。

三、責任倫理的換位與放大

當人工智能體與現(xiàn)實環(huán)境諸多的因素出現(xiàn)矛盾和爭執(zhí)的時候，勢必會引發(fā)關(guān)于責任倫理的探討問題，而責任倫理即當使用人工智能體某些原因的遭到故障時，應(yīng)該追究誰的責任？其所造成的破壞是否是由人工智能體的設(shè)計者，程序者編創(chuàng)者亦或是使用者來具體負責對接。同時在某些利益的趨勢下，應(yīng)不應(yīng)該將事故責任放置到人工智能體本身？這些有關(guān)責任倫理的問題都是為使得人工智能體成為了今天發(fā)展研究的焦點，在崇尚技術(shù)的時代，人工智能體理應(yīng)需要有技術(shù)哲學思維的考量。

在電影《流浪地球》當中，劉培強與人工智能體莫斯之間的關(guān)系，由開始的助手最終轉(zhuǎn)變?yōu)榕烟诱叩慕巧ㄎ?。當?shù)厍蛟馐芤τ绊懀磳⒆矒裟拘堑臅r候，聯(lián)合政府毅然決定放棄地球，而人工智能體莫斯則遵從程序指令，攜帶著地球生物的基因，準備飛離太陽系。而在此期間，吳京所飾演的劉培強，發(fā)現(xiàn)了莫斯對地球的飛離行為，將其定義為“叛逃”。其為了兒子劉啟，為了某些生生不息的希望，他最終選擇終止與莫斯的聯(lián)系。在電影的劇情設(shè)置當中，劉培強摧毀莫斯的手段是將其主控室的攝像頭破壞，并未將其主體的存儲芯片加以毀壞，相比計較于《2001太空漫游》當中的情節(jié)，其矛盾沖突的行動元，顯然有不相符合的地方，但最終的結(jié)果卻是其親手將人工智能體莫斯終結(jié)。劉培強作為人工智能體的使用者，是否顧及到了責任倫理的問題？或者說劉培強是基于某些家庭倫理情感的問題，做出了如此的反應(yīng)，而莫斯沒有反抗的留下了令人反思的話語。這些表現(xiàn)幾乎都與責任倫理的問題息息相關(guān)。

對于人工智能體的與使用者的關(guān)系來講，需要有一套相應(yīng)的責任分配體系，既可以保證人類既定的權(quán)益不受影響，又可以將人工智能體發(fā)展帶入一種良性的發(fā)展循環(huán)。也正是對人工智能體與人類的創(chuàng)造者之間責任的具體分化定義，才可以更好的貫徹落實人工智能責任原則，人工智能體的機器人只是輔助人類生產(chǎn)生活的工具，無論它是否具有意識，是否享有權(quán)利或者作為獨立的道德體所存在，它始終應(yīng)遵循“不傷害”原則[5]。

在不傷害原則的前提之下，能夠針對已有的人工智能事故，完成責任的細分，制定一套標準化的責任賠償體系，以責任負責機制，貫穿人工智能生產(chǎn)的整個過程，既有研發(fā)者，也有開發(fā)商，甚至有消費者之間的責任定位，根據(jù)不同的事件程度，量化責任個人。而不應(yīng)該出現(xiàn)問題時，一味的將所有的矛盾核心推卸到技術(shù)的弊病中，當然也要在相應(yīng)的產(chǎn)品換代設(shè)計中，通過哲學倫理的某些思考和引導，使研發(fā)者和創(chuàng)造者個人及遵循相應(yīng)的倫理準則。

對于人工智能倫理的思慮，已經(jīng)有學者指出：“在科學家族中，沒有一門學科比AI與哲學的關(guān)系更密切……許多沒有出路的AI 研究，只是因為對哲學家昔日的時代一無所知，才得以維持。”[6](P486)所以從某種意義上來講，人工智能的倫理問題，絕不僅僅是一個技術(shù)主導，誰為主體或是客體的問題，本質(zhì)上應(yīng)該是當代人自身思考的一種映照和折射，是人本身思維的反應(yīng)。因而對于人工智能倫理的發(fā)展，應(yīng)該具備人文思維的哲學維度，尤其是在當下電影工業(yè)美學盛行的影視創(chuàng)作中，應(yīng)當在倫理承諾的前提下，表現(xiàn)主體道德焦慮——一種發(fā)自主體的自覺的道德焦慮[7](P88)。道德焦慮按照弗洛伊德的說法是“超我”與“自我”之間的一種緊張關(guān)系，個體感覺違反了自己最初的價值或道德標準，“超我”則產(chǎn)生內(nèi)疚、羞愧、自卑的心理，進而產(chǎn)生一種自我救贖的沖動，并在電影情節(jié)中外化為一系列行為和動作。而正是對人工智能倫理自我反饋的一種道德焦慮，才可以引發(fā)進一步的道德自律，最終期待解決人工智能的倫理憂慮問題。