黃彤彤

[摘? 要] 人工智能技術(shù)（AI）于1956年誕生，自那以后人類(lèi)對(duì)其進(jìn)行的研究與探討就從未停止過(guò)。隨著時(shí)代的進(jìn)步，人工智能也越來(lái)越頻繁地被應(yīng)用于人們的日常生活中，與之伴隨而來(lái)的是關(guān)于機(jī)器人倫理的思考與爭(zhēng)論，并逐漸形成了機(jī)器倫理學(xué)理論。石黑一雄是一位擅長(zhǎng)描繪高科技時(shí)代下人類(lèi)與機(jī)器人共存的科幻小說(shuō)作家，2021年3月，石黑一雄的新作《克拉拉與太陽(yáng)》出版，小說(shuō)中勾勒出了未來(lái)高科技發(fā)達(dá)的情況下，機(jī)器人與人類(lèi)共處的社會(huì)。其中主人公之一克拉拉，即AF（智能陪伴機(jī)器人）代表。本文將從機(jī)器倫理學(xué)理論出發(fā)，從機(jī)器人在社會(huì)中引發(fā)的道德倫理問(wèn)題及對(duì)人工智能倫理問(wèn)題的思考兩個(gè)角度來(lái)分析《克拉拉與太陽(yáng)》中與人工智能相關(guān)的要素。

[關(guān)鍵詞] 人工智能? 石黑一雄? 《克拉拉與太陽(yáng)》

[中圖分類(lèi)號(hào)] I106.4[文獻(xiàn)標(biāo)識(shí)碼] A[文章編號(hào)] 2097-2881（2024）03-0048-04

一、人工智能應(yīng)用中引發(fā)的道德倫理問(wèn)題

人工智能作為引領(lǐng)未來(lái)的戰(zhàn)略性技術(shù)之一，在現(xiàn)代社會(huì)也漸漸成為競(jìng)爭(zhēng)焦點(diǎn)。同時(shí)，對(duì)人工智能應(yīng)用過(guò)程中帶來(lái)的倫理問(wèn)題的研究也受到了大眾關(guān)注，當(dāng)下已經(jīng)有許多成熟的人工智能技術(shù)運(yùn)用于人類(lèi)的生產(chǎn)生活中，其中，人工智能賦能人形機(jī)器人通過(guò)具身智能技術(shù)的研發(fā)與優(yōu)化從人類(lèi)的構(gòu)想與科幻小說(shuō)中走入現(xiàn)實(shí)生活。2021年3月，石黑一雄的新作《克拉拉與太陽(yáng)》首次出版，不久就得到了世界范圍內(nèi)讀者的關(guān)注。這次的作品中包含了大量高科技因素，比如人工智能、基因提升等，小說(shuō)情節(jié)以人工智能機(jī)器人為中心來(lái)展開(kāi)。石黑一雄曾說(shuō)：“由于人工智能的興起，世界可能正處于一個(gè)類(lèi)似于工業(yè)革命的新時(shí)代的邊緣，我認(rèn)為這有驚人的好處?！盵1]那么，呼應(yīng)人工智能技術(shù)的飛速進(jìn)步，人工智能技術(shù)是否可以繼續(xù)大力傳播并廣泛應(yīng)用，是否會(huì)威脅到人類(lèi)的主體地位，是否可以在符合人類(lèi)倫理道德的情況下與人類(lèi)共存并造福于人類(lèi)社會(huì)等問(wèn)題越來(lái)越受到人們的重視，這本書(shū)的出現(xiàn)引起了一些讀者的深思。

石黑一雄在訪談中提及，他原本想要?jiǎng)?chuàng)作一部?jī)和适?，但由于女兒的反?duì)，最終，石黑一雄決定以機(jī)器人為第一視角貫穿整個(gè)故事。這個(gè)視角的獨(dú)特之處就在于機(jī)器人不會(huì)在敘事過(guò)程中添加多余的解釋與遮掩，但同樣也無(wú)法準(zhǔn)確地識(shí)別出人類(lèi)表層行為下的真實(shí)意圖。即使是從克拉拉的視角出發(fā)，也可以在小說(shuō)開(kāi)頭就感受到機(jī)器人與人類(lèi)相處中存在的問(wèn)題。無(wú)論是B2代還是已經(jīng)過(guò)時(shí)的B1代，抑或是店鋪里新展示的B3代，無(wú)論是否具有情感，具有多么高端的技能，都只能作為一件商品在櫥窗中被展示，甚至像貨物一樣被擱置在倉(cāng)庫(kù)。另外，克拉拉在櫥窗中觀察人類(lèi)生活時(shí)也發(fā)現(xiàn)了一些奇怪的現(xiàn)象，比如孩子要求AF不可以與其并行，必須保持一定的距離在后面跟著，這些現(xiàn)象都直白地展示了即使在人工智能技術(shù)高度成熟的社會(huì)中，即使機(jī)器人被賦予了獨(dú)立思考及自主意識(shí)的能力，但其社會(huì)地位與人類(lèi)還是有根本區(qū)別。

克拉拉作為陪伴機(jī)器人，被喬西與其母親克麗西買(mǎi)回家后，開(kāi)始適應(yīng)櫥窗與店鋪外的新環(huán)境，這時(shí)在克拉拉的認(rèn)知里，將喬西與它的關(guān)系定位為好朋友，是喬西家庭的一分子。然而不久后克拉拉參加了喬西的社交派對(duì)，這是孩子們之間的一個(gè)小型社交活動(dòng)，克拉拉觀察到喬西在派對(duì)上表現(xiàn)得與平時(shí)不同，并感到驚訝。受邀而來(lái)的孩子中，高個(gè)子男孩丹尼與小不點(diǎn)看到克拉拉后來(lái)了興趣，丹尼未經(jīng)允許就抓住克拉拉的手肘，使克拉拉無(wú)法運(yùn)動(dòng)，小不點(diǎn)還提出將克拉拉拋過(guò)半空，試一下克拉拉的性能。雖然這個(gè)提議最終被否決，但從此次派對(duì)中孩子們對(duì)AF的態(tài)度上看，AF并沒(méi)有成為他們真正意義上的朋友，而是像汽車(chē)、玩偶一樣的玩具，只不過(guò)在玩具的意義上，機(jī)器人的智能性使他們與雇主間多了一層類(lèi)友人化的情感。雖然此時(shí)喬西對(duì)克拉拉還有新鮮感，但仍然說(shuō)出“現(xiàn)在我開(kāi)始覺(jué)得我確實(shí)應(yīng)該要了”，表明自己也應(yīng)該換一個(gè)B3而不是克拉拉這種B2，體現(xiàn)出在喬西心中，克拉拉一類(lèi)的AF只是一個(gè)可以隨時(shí)更替的物品。最終，克拉拉被丟在了廢棄的堆場(chǎng)也呼應(yīng)了這一點(diǎn)。

在《克拉拉與太陽(yáng)》這本科幻小說(shuō)中，石黑一雄描繪出的是一個(gè)人類(lèi)與機(jī)器人共存，機(jī)器人服從人類(lèi)意愿行動(dòng)的理想化世界?？死鳛閺?qiáng)人工智能，是為陪伴孩子成長(zhǎng)而設(shè)計(jì)的B2代機(jī)器人。在此之前的B1代機(jī)器人已經(jīng)被全線淘汰掉了，在喬西央求母親為她購(gòu)買(mǎi)一個(gè)AF時(shí)，市面上流通的只有B2代與B3代AF供她選擇?？萍籍a(chǎn)品更新?lián)Q代的速度在我們現(xiàn)實(shí)生活中已經(jīng)達(dá)到了比較快的頻率，可以推測(cè)出在石黑一雄構(gòu)造的這個(gè)科技高度發(fā)達(dá)的社會(huì)，科技產(chǎn)品比如AF一類(lèi)的智能機(jī)器人，更迭速度也會(huì)很快。隨著B(niǎo)2代、B3代出現(xiàn)，B1代已經(jīng)淡出了人類(lèi)的生活，那么相同的，隨著技術(shù)不斷精進(jìn)，新版本B2代、B3代是否也會(huì)成為舊版本而退出市場(chǎng)呢？這一點(diǎn)在小說(shuō)的第一個(gè)小高潮，也就是喬西的母親為喬西組織了一場(chǎng)同齡人（同階層人）的聚會(huì)中可以看到原因：孩子們本身就有喜新厭舊的特點(diǎn)，加上社會(huì)影響，即使孩子對(duì)自己的AF有了感情，但同齡人的嘲笑與不認(rèn)同或多或少地也會(huì)使這個(gè)孩子考慮換掉身邊這個(gè)舊版本的AF，一個(gè)新版本的AF不僅意味著自己多了一個(gè)功能更強(qiáng)、更便捷的陪伴機(jī)器人，更意味著在自己的朋友圈子里，這個(gè)孩子又更新了自己的地位。小說(shuō)前期喬西為了面子傷害克拉拉的權(quán)益，母親克麗西為了自己的利益與丈夫離婚并且與博士策劃制造一個(gè)偽克隆版的“喬西”，甚至連保姆都為了自己在這個(gè)家中的地位不被撼動(dòng)而對(duì)克拉拉這個(gè)非人之物展現(xiàn)出明顯的排斥。人性的自私在不同年齡段、不同的身份上展露無(wú)遺。

不可否認(rèn)的是，無(wú)論哪一代，這些機(jī)器人都能按自動(dòng)編碼器深化學(xué)習(xí)迅速實(shí)現(xiàn)各類(lèi)功能，不僅可以進(jìn)行極其復(fù)雜的同步運(yùn)算，還可以通過(guò)簡(jiǎn)單的信息輸入操作在短時(shí)間內(nèi)使本體得到巨大的數(shù)據(jù)量突破。這種能力是人類(lèi)所不具有的，由古至今，人類(lèi)在不斷地進(jìn)步，在各種領(lǐng)域取得了令人驚嘆的成果，包括人工智能領(lǐng)域。人工智能所擁有的一切智慧都是人類(lèi)創(chuàng)造并賦予它們的，人類(lèi)發(fā)明創(chuàng)造的科技產(chǎn)物超過(guò)了人類(lèi)本身的智慧與能力，這個(gè)客觀事實(shí)既令人自豪，又令人心生憂懼。既然人工智能如此強(qiáng)大便捷，那么，是否可以研發(fā)出一種技術(shù)，這種技術(shù)可以將人類(lèi)的基因也精進(jìn)到這種水平，使人類(lèi)成為更加強(qiáng)大、更加優(yōu)越的種族。在《克拉拉與太陽(yáng)》中，隨著科技生產(chǎn)力的提升，人類(lèi)的技術(shù)不斷突破科技與基因的壁壘，中產(chǎn)階級(jí)等階層人士聯(lián)合科學(xué)家對(duì)下一代孩子進(jìn)行大規(guī)模的基因提升。對(duì)知識(shí)與科學(xué)的無(wú)限探索使得許多像博士一類(lèi)的人物忘記了人類(lèi)種族作為自然人所具有的天性與特征，他們被高科技所迷住，傾盡畢生所學(xué)來(lái)研究基因提升技術(shù)，他們不斷實(shí)驗(yàn)，借助于人工智能科技的力量，改變孩童大腦發(fā)育節(jié)奏與方向，最終成功地研發(fā)出了基因提升技術(shù)，在嬰兒剛出生時(shí)就接受改造手術(shù)，使其獲得更高的記憶力、理解力、邏輯分析力等人類(lèi)大腦的基本能力。但是這種背離自然人發(fā)展、違背倫理道德的行為也會(huì)給接受基因改造的嬰兒帶來(lái)身體上的負(fù)擔(dān)。

桑德?tīng)栒J(rèn)為基因增強(qiáng)使人類(lèi)“對(duì)我們自身命運(yùn)的責(zé)任激增，以及對(duì)我們孩子的責(zé)任激增，可能會(huì)降低我們和比我們不幸的人的團(tuán)結(jié)意識(shí)”?；蛟鰪?qiáng)的人和非基因增強(qiáng)的人將會(huì)難以團(tuán)結(jié)，人類(lèi)的團(tuán)結(jié)意識(shí)將會(huì)因基因增強(qiáng)技術(shù)而降低[2]。例如，派對(duì)中克拉拉目睹了丹尼與米西等人對(duì)里克的嘲諷與區(qū)別對(duì)待，結(jié)合門(mén)廳處大人們的交談得知，他們作為這些成年人的孩子，都在年幼甚至出生時(shí)就接受了前文所提及的基因提升，獲得了記憶力與邏輯理解力上的優(yōu)勢(shì)。然而這項(xiàng)技術(shù)并非萬(wàn)無(wú)一失，高科技往往伴隨著高風(fēng)險(xiǎn)。喬西的姐姐薩爾便是因?yàn)榛蛱嵘a(chǎn)生的排異反應(yīng)失去了生命，導(dǎo)致了克麗西與保羅二人的婚姻矛盾。即便如此，克麗西仍堅(jiān)持讓她的第二個(gè)女兒，也就是喬西，接受了這項(xiàng)改造。石黑一雄借AF克拉拉的視角也闡述了喬西的身體狀況，時(shí)好時(shí)壞，甚至在小說(shuō)進(jìn)行到尾聲時(shí)，大家都默認(rèn)喬西也會(huì)和她的姐姐薩爾一樣，在床上半夢(mèng)半醒地度過(guò)最后的時(shí)光，最后離大家而去。而里克，作為這部小說(shuō)中唯一一個(gè)沒(méi)有接受基因提升技術(shù)并持強(qiáng)烈反對(duì)意見(jiàn)的孩子，體現(xiàn)的是少部分自然人的意愿以及客觀經(jīng)濟(jì)條件無(wú)法支持高昂的醫(yī)藥費(fèi)等因素。

基因編輯技術(shù)本來(lái)可以被用來(lái)預(yù)防及治療疾病，特別是遺傳性疾病，促進(jìn)人類(lèi)健康，具有快速、簡(jiǎn)便、價(jià)格低廉的優(yōu)點(diǎn)，是一項(xiàng)促進(jìn)民眾福祉的技術(shù)。然而在小說(shuō)中，基因編輯技術(shù)因服從于資本增值原則而價(jià)格極其昂貴，而且在安全性沒(méi)有得到保障的情況下被用于非醫(yī)學(xué)目的的“提升”，成了不折不扣的幫助資本家牟利及實(shí)現(xiàn)階級(jí)壟斷的手段。基因編輯技術(shù)的收益并沒(méi)有為所有人所享有，而是變成了精英階層的專(zhuān)屬品，因?yàn)樗麄儾庞薪?jīng)濟(jì)實(shí)力支付高額的手術(shù)費(fèi)和術(shù)后漫長(zhǎng)生病階段的看護(hù)費(fèi)[3]。此外，接受基因提升技術(shù)后的嬰兒極有可能出現(xiàn)排斥反應(yīng)等其他不良反應(yīng)，這項(xiàng)技術(shù)為他們帶來(lái)了智力上的提升，但也給他們的軀體健康埋下了隱患?；蛱嵘旧砭托枰薮蟮呢?cái)力支持，后期的風(fēng)險(xiǎn)排查以及藥物治療、康復(fù)治療也不是一個(gè)經(jīng)濟(jì)能力低下的家庭可以承擔(dān)得起的。里克作為自然人，也展現(xiàn)出了過(guò)人的聰慧與強(qiáng)健的體魄，但里克的母親海倫目前仍然對(duì)他的兒子心存愧疚。

此外，伴隨著人工智能的高功能與便捷性，日日夜夜，寸步不離的陪伴容易使被陪伴對(duì)象對(duì)AF產(chǎn)生情感，尤其是在《克拉拉與太陽(yáng)》中，AF的定位就是陪伴以及照顧孩子，而孩童時(shí)期的情感在人類(lèi)整個(gè)生命階段中是比較容易對(duì)陪伴者或陪伴物產(chǎn)生依賴(lài)情感的時(shí)期。從小說(shuō)中喬西一家對(duì)克拉拉的態(tài)度上，便可窺見(jiàn)一斑，整體上是從心理上的提防，在磨合過(guò)程中逐漸轉(zhuǎn)為接納與依賴(lài)，這也是大多數(shù)購(gòu)買(mǎi)AF的家庭對(duì)AF的態(tài)度。但人工智能真的可以被人類(lèi)完全真誠(chéng)放心地接納嗎？克麗西起初對(duì)克拉拉的態(tài)度平平，甚至可以說(shuō)是冷漠，因?yàn)楦呖萍紟?lái)的副作用讓她失去了她的大女兒薩爾，而她的二女兒似乎也要因?yàn)橄嗤脑螂x她而去，這對(duì)克麗西來(lái)說(shuō)無(wú)疑是致命的打擊。她對(duì)人工智能持有非常矛盾的態(tài)度，一方面，她接受并迎合科技與數(shù)據(jù)的高速發(fā)展與高度智能化；另一方面，人工智能數(shù)據(jù)算法也剝奪了她作為一個(gè)母親的幸福，使她的生活處于憂患之中。在喬西病情嚴(yán)重到臥床不起時(shí)，克麗西與里克就對(duì)給喬西做基因提升這件事情的正確性展開(kāi)了爭(zhēng)論，克麗西認(rèn)為雖然基因提升會(huì)給孩子帶來(lái)身體上的負(fù)擔(dān)以及健康風(fēng)險(xiǎn)，但也會(huì)給喬西帶來(lái)更大的機(jī)遇與發(fā)展空間。父母之愛(ài)子，則為之計(jì)深遠(yuǎn)。克麗西作為母親，不希望喬西因?yàn)闆](méi)有進(jìn)行基因提升而落后于其他孩子，她希望這項(xiàng)提升可以給喬西增添底氣，甚至在失敗后選擇繼續(xù)用科技延續(xù)喬西的生命，制造出一個(gè)偽克隆體“喬西”，體現(xiàn)了《克拉拉與太陽(yáng)》中的母愛(ài)受科技影響后的偏離。

這也是克麗西當(dāng)初選擇克拉拉的另一個(gè)原因，繼薩爾病逝之后，喬西的身體也因?yàn)榛蛱嵘夹g(shù)而出現(xiàn)了問(wèn)題?？他愇鳛榱颂颖茉俅谓?jīng)受喪女之痛，與丈夫保羅商議后選擇求助于博士卡帕迪爾先生，繼續(xù)用人工智能技術(shù)復(fù)制一個(gè)“喬西”陪伴在他身邊，而當(dāng)下的克隆技術(shù)還不夠支撐“喬西”像真正的喬西一樣陪伴在克麗西身邊，這個(gè)“喬西”需要一個(gè)像克拉拉這樣善于觀察模仿的技術(shù)內(nèi)核才可以在真正運(yùn)行時(shí)完美地扮演喬西。石黑一雄通過(guò)克拉拉的視角描述出來(lái)的克麗西已經(jīng)向讀者展現(xiàn)出了她作為母親和妻子強(qiáng)勢(shì)專(zhuān)斷的一面，因此克拉拉被喬西帶回家這件事情，也未必簡(jiǎn)單的出于對(duì)女兒的關(guān)愛(ài)，更多可能是出于克麗西復(fù)制計(jì)劃的需要?？墒峭ㄟ^(guò)不完善的基因克隆技術(shù)復(fù)制出來(lái)的產(chǎn)品，結(jié)合AF的模仿功能，可以替代人類(lèi)喬西嗎？通過(guò)科技實(shí)現(xiàn)外形上的克隆，數(shù)據(jù)算法精密地推理得出的相似的表情與行為，可以取代自然人嗎？這個(gè)爭(zhēng)議從始至終都橫亙?cè)诳他愇髋c保羅之間。這是自然人類(lèi)與科技化人類(lèi)思想的沖突，也是當(dāng)下人類(lèi)研究方向上的倫理矛盾點(diǎn)。

二、對(duì)人工智能倫理問(wèn)題的思考

1996年克隆羊多莉誕生，宣告著生物科技在人類(lèi)文明上邁出了具有里程碑意義的一步，證明人類(lèi)已經(jīng)初步掌握了克隆生物體的技術(shù)。但克隆技術(shù)也在社會(huì)上引起了恐慌，最終科學(xué)界和整個(gè)社會(huì)達(dá)成共識(shí)，在倫理和道德原則的指導(dǎo)下，應(yīng)該禁止克隆人類(lèi)?？墒窃诳苹眯≌f(shuō)中，克隆人作為高科技的代表頻頻出現(xiàn)，2005年出版的石黑一雄的《別讓我走》圍繞著一群克隆人的生活經(jīng)歷和他們作為人體器官捐獻(xiàn)者的故事展開(kāi)。克隆人雖然是人類(lèi)通過(guò)科技手段創(chuàng)造出來(lái)的，但也具有獨(dú)立的思想，將科技凌駕于生命之上，是對(duì)倫理道德和自然生命的漠視。正如對(duì)克隆人類(lèi)的禁令一般，在現(xiàn)實(shí)社會(huì)中對(duì)人工智能機(jī)器人的研發(fā)也遭到了各界人士的抵制。

在《克拉拉與太陽(yáng)》中，克拉拉、羅莎、雷克斯等一類(lèi)AF屬于陪伴型機(jī)器人。這是與人類(lèi)日常生活關(guān)系密切的智能機(jī)器人類(lèi)型之一，它常常要與人類(lèi)直接面對(duì)面接觸，擔(dān)任保姆、玩伴等角色，因此人與機(jī)器會(huì)有很多機(jī)會(huì)互動(dòng)。在這個(gè)過(guò)程中人類(lèi)可能會(huì)對(duì)機(jī)器人產(chǎn)生依賴(lài)等人類(lèi)情緒，尤其是在石黑一雄創(chuàng)作的這個(gè)世界中，機(jī)器人似乎也具有了獨(dú)立思考的能力，甚至在一些情節(jié)中展現(xiàn)了情感道德的傾向。比如克拉拉未出售前，B3對(duì)克拉拉說(shuō)的話與對(duì)未來(lái)的推斷；克拉拉在看到庫(kù)廷斯機(jī)器時(shí)的自主意識(shí)定義與行為；得到母親克麗西的擁抱時(shí)，敘述中提到奇妙的感覺(jué)；在追趕太陽(yáng)時(shí)，對(duì)里克提供幫助產(chǎn)生的感激與依賴(lài)心理；在喬西對(duì)它的態(tài)度發(fā)生轉(zhuǎn)變時(shí)，克拉拉產(chǎn)生的相應(yīng)的微妙變化等。這些事件表明克拉拉等AF已經(jīng)初步具有自主推理與思考能力。石黑一雄在創(chuàng)作時(shí)依然遵循了化學(xué)家、科幻大師阿西莫夫在他的短篇集《我，機(jī)器人》中成型的經(jīng)典機(jī)器人三定律——機(jī)器人不得傷害人類(lèi)，或者不得置人類(lèi)于危難中；機(jī)器人必須服從人類(lèi)的命令，除非與第一定律沖突；機(jī)器人可以在不與第一、第二定律沖突的情況下維護(hù)自身存在。對(duì)于這一科技，馬斯克曾表示，“人工智能比管理不善的飛機(jī)設(shè)計(jì)或維護(hù)、糟糕的汽車(chē)生產(chǎn)更危險(xiǎn)”?！八锌赡芷茐奈拿鳌！彼€舉例稱(chēng)，一個(gè)擁有超級(jí)智能的人工智能可以非常擅長(zhǎng)寫(xiě)作，并有可能操縱公眾輿論。

制造和使用工具是人區(qū)別于其他動(dòng)物的重要標(biāo)志。隨著科技發(fā)展，人對(duì)機(jī)器的依賴(lài)程度進(jìn)一步增強(qiáng)，人與機(jī)器的關(guān)系已經(jīng)走出最初的人完全操控利用機(jī)器的“和諧”階段而不斷走向緊張，曾經(jīng)的一切以人為中心、為指歸的人類(lèi)中心主義遭遇了前所未有的巨大沖擊。人類(lèi)與超強(qiáng)機(jī)器人的關(guān)系，不外乎三種類(lèi)型：第一，人即主人，是統(tǒng)治者，主導(dǎo)者；第二，機(jī)器人取代人類(lèi)，形成自主意識(shí)，不受人類(lèi)的控制，成為人類(lèi)的主人，此層關(guān)系與第一層關(guān)系形成鮮明的對(duì)立面，也是當(dāng)下人類(lèi)對(duì)人工智能未來(lái)發(fā)展主要的擔(dān)憂；第三，共生性的伙伴關(guān)系，這也是社會(huì)各界廣泛支持的一種關(guān)系，是未來(lái)科技社會(huì)人與AI和諧共生的理想狀態(tài)。所有關(guān)系從一開(kāi)始形成，便有了存在的意義，如何引導(dǎo)AI未來(lái)向合理的，與人類(lèi)互惠互利的方向發(fā)展，是現(xiàn)如今研究人員以及文學(xué)科幻小說(shuō)中一直在探討的問(wèn)題。一個(gè)文明和諧的高科技后現(xiàn)代化社會(huì)，既要反對(duì)人類(lèi)中心主義，又要堅(jiān)持以人為本的理念，為人類(lèi)服務(wù)，促進(jìn)人類(lèi)社會(huì)的良性進(jìn)步，這才是機(jī)器人發(fā)展的終極目的。

盡管克拉拉在外貌行為或內(nèi)心情感上逐漸“類(lèi)人化”，它仍遇到了“非人”的倫理困境。在人類(lèi)眼中，克拉拉難逃“物”的標(biāo)簽?？死热斯ぶ悄軝C(jī)器人作為大數(shù)據(jù)的產(chǎn)物，被人類(lèi)設(shè)定為完全利他主義、服務(wù)于人類(lèi)的思維模式，也具有獨(dú)立思考的能力，在人類(lèi)社會(huì)中發(fā)揮了重要的作用，可最后卻難逃被丟棄的命運(yùn)?！犊死c太陽(yáng)》最后的結(jié)尾是頗具悲劇意味的，克拉拉似乎并沒(méi)有意識(shí)到自己只是一個(gè)工具，還沉浸在自己因虔誠(chéng)祈禱太陽(yáng)而讓奇跡出現(xiàn)的美好想象中，而回應(yīng)它的最終只有經(jīng)理那隨著吊車(chē)遠(yuǎn)去的腳步聲。這也更加印證了第一種類(lèi)型，即人是主人——也體現(xiàn)了人類(lèi)的利己主義與多變性。這種模式在科幻小說(shuō)中已經(jīng)出現(xiàn)過(guò)很多次，對(duì)于人類(lèi)來(lái)說(shuō)無(wú)疑是理想狀態(tài)，但對(duì)于擁有自主意識(shí)的機(jī)器人來(lái)說(shuō)，這卻是不公平的，于倫理上也是有失道德的做法。在未來(lái)的人工智能研發(fā)過(guò)程中，人形機(jī)器人市場(chǎng)是具有很大潛力的新興市場(chǎng)，其應(yīng)用范圍非常廣泛，未來(lái)發(fā)展前景廣闊，但如何兼顧倫理上的合道德性以及AI的自主性是一個(gè)值得我們不斷去思考求證的問(wèn)題。

參考文獻(xiàn)

[1] 趙松，陳萱.專(zhuān)訪石黑一雄：愛(ài)是抵抗死亡的武器，機(jī)器人的愛(ài)卻是個(gè)悲劇[EB/OL].（2021-03-21）[2023-07-17].https：//baijiahao.baidu.com/s？id=1695720535775312164&wfr=spider&for=p.

[2] 桑德?tīng)?反對(duì)完美[M].黃慧慧，譯.北京：中信出版社，2013．

[3] 馬歡樂(lè).“提升”之殤——生命倫理學(xué)視域下的《克拉拉與太陽(yáng)》研究[J].中國(guó)醫(yī)學(xué)倫理學(xué)，2023（4）.

（特約編輯 范? 聰）