武威利， 王紹源

(1.喀什大學(xué) 法政學(xué)院，新疆 喀什 844000；2.山西財(cái)經(jīng)大學(xué) 馬克思主義學(xué)院，山西 太原030006)

?

阿西莫夫的“機(jī)器人三定律”適合未來(lái)AMAs機(jī)器人的構(gòu)建嗎？
——基于《機(jī)器人管家》的文本反思

武威利1， 王紹源2

(1.喀什大學(xué) 法政學(xué)院，新疆 喀什 844000；2.山西財(cái)經(jīng)大學(xué) 馬克思主義學(xué)院，山西 太原030006)

摘要：隨著近年來(lái)應(yīng)用倫理學(xué)新興領(lǐng)域“機(jī)器人倫理學(xué)”的勃興，人們開(kāi)始探討未來(lái)AMAs機(jī)器人的構(gòu)建問(wèn)題。現(xiàn)代美國(guó)科幻文學(xué)大師艾薩克·阿西莫夫的“機(jī)器人系列”等科幻文學(xué)成為探討機(jī)器人倫理學(xué)的最早文本。其中在以“機(jī)器人三定律”為理論基點(diǎn)撰寫(xiě)的《機(jī)器人管家》(Bicentennial Man)中，映射出諸多機(jī)器人元倫理學(xué)問(wèn)題。對(duì)機(jī)器人獲得道德地位的必要性特征進(jìn)行探討，有助于人們以審慎的態(tài)度正視“機(jī)器人三定律”對(duì)未來(lái)AMAs機(jī)器人的建構(gòu)作用。正視“機(jī)器人三定律”的理論缺陷并對(duì)其反思與修正，旨在為構(gòu)建完備的AMAs機(jī)器人提供一種思想質(zhì)料和理論借鑒。

關(guān)鍵詞：阿西莫夫；機(jī)器人三定律；AMAs；機(jī)器人倫理學(xué)；《機(jī)器人管家》

現(xiàn)代美國(guó)科幻文學(xué)大師艾薩克·阿西莫夫(Isaac Asimov)一生著述五百余部，其扛鼎之作“機(jī)器人系列”等科幻文學(xué)成為爾后未來(lái)學(xué)探討機(jī)器人的“圣經(jīng)”。隨著近年來(lái)應(yīng)用倫理學(xué)新興領(lǐng)域機(jī)器人倫理學(xué)在歐美國(guó)家的勃興，阿西莫夫提出的“機(jī)器人三定律”成為機(jī)器人倫理學(xué)學(xué)科構(gòu)建中的重要原則。其中，很多學(xué)者把阿西莫夫的“機(jī)器人三定律”看作是機(jī)器人倫理學(xué)的理論基礎(chǔ)，并以此為出發(fā)點(diǎn)探討了未來(lái)AMAs(Artifacts Moral Agents，即“技術(shù)人工物道德行為體”，以下簡(jiǎn)稱AMAs)機(jī)器人的倫理問(wèn)題。但是，人們推崇的阿西莫夫 “機(jī)器人三定律”是否可以作為理論基點(diǎn)并適于構(gòu)建未來(lái)AMAs機(jī)器人，卻鮮有人進(jìn)行系統(tǒng)探賾。以下依據(jù)阿西莫夫的代表作品之一《機(jī)器人管家》(The Bicentennial Man，又譯《變?nèi)恕罚?984年紐約Doubleday出版社出版，1999年同名電影上映，導(dǎo)演Chris Columbus) 進(jìn)行深入剖析，立于機(jī)器人的倫理地位角度對(duì)“機(jī)器人三定律”進(jìn)行全面考察。

一 、阿西莫夫“機(jī)器人三定律”與機(jī)器人倫理學(xué)

(一)阿西莫夫“機(jī)器人三定律”與《機(jī)器人管家》

拋開(kāi)機(jī)器人倫理與人類行為的關(guān)涉，機(jī)器人倫理學(xué)似乎只與智能機(jī)器人有關(guān)，艾薩克·阿西莫夫正是出于這樣的思想基點(diǎn)于1950年在《我，機(jī)器人》(I,Robot)中提出了“機(jī)器人三定律”，以期對(duì)未來(lái)AMAs機(jī)器人進(jìn)行倫理規(guī)制?！皺C(jī)器人三定律”即“第一定律：機(jī)器人不得傷害人，也不得見(jiàn)人受到傷害而袖手旁觀；第二定律：機(jī)器人應(yīng)服從人的一切命令，但不得違反第一定律；第三定律：機(jī)器人應(yīng)保護(hù)自身的安全，但不得違反第一、第二定律” 。

艾薩克·阿西莫夫的《機(jī)器人管家》以科幻文學(xué)的形式為哲學(xué)工作者提出了一系列的倫理學(xué)問(wèn)題，并引發(fā)人們不斷的挑戰(zhàn)。該書(shū)以名為安德魯(Andrew)的家用機(jī)器人的成長(zhǎng)線索展開(kāi)：安德魯完全遵守“機(jī)器人三定律”為馬丁一家服務(wù)，充當(dāng)仆人角色。因?yàn)榘驳卖斢兄?dú)特的意識(shí)和創(chuàng)造能力而被馬丁一家視為其家庭成員，賜姓“馬丁(Martin)”。安德魯與馬丁家的小女兒一生都保持著深厚友誼。出于“只有人類才能擁有‘自由’，‘自由’一詞對(duì)于機(jī)器人來(lái)說(shuō)毫無(wú)意義”的緣由，裁決法官否定了安德魯?shù)臋?quán)利訴求。馬丁家的小女兒在歷經(jīng)諸多坎坷后終于幫助安德魯獲得了自由的權(quán)利。法官判決理由是“沒(méi)有權(quán)力拒絕任何具有概念理解和欲望表現(xiàn)的心靈對(duì)象獲得自由”[1]。盡管安德魯被賦予了自由的權(quán)利，但是他仍嚴(yán)格遵守著“機(jī)器人三定律”。為了彌合與人類之間的相貌差異，安德魯開(kāi)始像人類一樣穿衣服，并不斷地進(jìn)行硬件升級(jí)，后來(lái)他把自己的身體變成了一個(gè)完全意義上的人類。其后不久，安德魯外出遭遇了地痞無(wú)賴的刁難，那些地痞要求安德魯脫下只有人類才有資格穿的衣服，并命令其自行銷毀。根據(jù)機(jī)器人第一定律和第二定律，在安德魯沒(méi)有傷害人類的情況下，就必須服從地痞們的命令，而無(wú)法為自身進(jìn)行辯護(hù)和自衛(wèi)。關(guān)鍵時(shí)刻，安德魯被小女兒的兒子救起。但這表明，人類對(duì)自治型機(jī)器人等人工智能有一種非理性的恐懼感，即使人工智能物能夠遵守“機(jī)器人三定律”，但是機(jī)器人卻有著比人類更長(zhǎng)的壽命，這會(huì)引發(fā)人類的嫉妒心和恐懼感，并促使人類想要摧毀機(jī)器人。安德魯以升級(jí)電子元件的方式實(shí)現(xiàn)了像人類一樣的自然衰老過(guò)程，使自身更接近一個(gè)真正的“人”。他認(rèn)為這樣的做法沒(méi)有違反“機(jī)器人第三條定律”，因?yàn)樗摹凹で楹陀睂?duì)于生命來(lái)說(shuō)比起擁有行尸走肉、長(zhǎng)生不老的鋼鐵軀體更有意義。最后安德魯決定接受像人類一樣的死亡命運(yùn)。在他去世200年后，人們宣布其獲得了“人”的身份。

(二)機(jī)器人倫理學(xué)問(wèn)題的凸顯

在生命倫理學(xué)領(lǐng)域，倫理學(xué)家圍繞“高級(jí)動(dòng)物和人類胎兒是否應(yīng)該享有權(quán)利”的問(wèn)題進(jìn)行著如火如荼的討論。這也引發(fā)了人們?cè)跈C(jī)器人領(lǐng)域開(kāi)始探討智能機(jī)器人的道德地位。

在《機(jī)器人管家》一書(shū)中，阿西莫夫?qū)τ谀承┲悄軝C(jī)器人的類型做出了一個(gè)極具價(jià)值的案例分析，他認(rèn)為，像安德魯一樣的機(jī)器人不應(yīng)充當(dāng)人類的奴隸角色，而應(yīng)當(dāng)被賦予權(quán)利。在故事的結(jié)局，阿西莫夫讓我們看到安德魯被迫遵循“機(jī)器人三定律”有著諸多偏頗。在法院庭審中，法官不承認(rèn)安德魯應(yīng)該具有權(quán)利，但不可否認(rèn)的是，安德魯是一個(gè)遠(yuǎn)比社會(huì)中大多數(shù)人類更具有道德原則的一種存在實(shí)體。如果能為智能機(jī)器人找到合適的道德準(zhǔn)則讓其遵循行事的話，智能機(jī)器人將變得更加具有倫理完備性，這其中就凸顯出諸多機(jī)器人倫理學(xué)問(wèn)題。

具體來(lái)說(shuō)，屬于機(jī)器人倫理學(xué)問(wèn)題的例子包括：機(jī)器人倫理學(xué)的終極目標(biāo)是什么？對(duì)機(jī)器人添加一個(gè)倫理維度具有什么意義？機(jī)器人道德是可計(jì)算性的嗎？應(yīng)當(dāng)期望告訴機(jī)器人在道德困境中如何進(jìn)行行為才可能會(huì)找到自身嗎？如果機(jī)器人遵循倫理原則的話，那么，是否有必要確定機(jī)器人本身的道德地位呢？

機(jī)器人倫理學(xué)的最終目標(biāo)是創(chuàng)建一個(gè)能夠遵循理想的道德原則和倫理律令進(jìn)行行為的機(jī)器人。這涉及為機(jī)器人“添加一個(gè)倫理維度”的問(wèn)題，具體包括兩個(gè)方面：(1)在機(jī)器人設(shè)計(jì)中，依據(jù)人類的意愿把一些倫理準(zhǔn)則和道德律令嵌入到機(jī)器人中，使之能夠按照設(shè)計(jì)師所設(shè)定的完全道德的方式進(jìn)行行為；(2)給出機(jī)器人理想的道德原則，或者一些道德困境和正確答案的案例，以及抽象的理想倫理原則的一個(gè)學(xué)習(xí)過(guò)程，以使其能夠應(yīng)用這些倫理原則進(jìn)行指導(dǎo)自身的行為。[2]

針對(duì)第一個(gè)方面，機(jī)器人完全按照人類所設(shè)定的倫理程序進(jìn)行行為，這屬于計(jì)算機(jī)倫理的領(lǐng)域，而不是機(jī)器人倫理學(xué)領(lǐng)域。針對(duì)第二個(gè)方面，旨在構(gòu)建能夠進(jìn)行倫理推理的機(jī)器人，這是機(jī)器人倫理學(xué)的終極目標(biāo)。因此，只有在第二個(gè)方面中，才能說(shuō)機(jī)器人完全具有自治性，才可以稱其為是一個(gè)真正的AMAs機(jī)器人。使機(jī)器人能夠在一個(gè)道德困境中做出自治判斷則是具有重大歷史意義的變革。

二、 機(jī)器人獲得道德地位的必要性特征分析

大多數(shù)人類天然地抱有“物種主義者(speciesists)”的倫理姿態(tài)。正如當(dāng)代著名倫理學(xué)家彼得·辛格(Peter Singer)對(duì)“物種主義者”的定義一樣：“物種主義的偏見(jiàn)或態(tài)度傾向自身物種成員的利益，并拒斥和反對(duì)其他物種的利益?！蔽锓N主義者可以證明“其他物種成員的最重要的利益犧牲目的是為了促進(jìn)我們自己物種哪怕最微不足道的利益”[3]。對(duì)于一個(gè)物種主義者來(lái)說(shuō)，當(dāng)決定如何去行為時(shí)，需要考慮的就只有自己物種的成員，如果把“物種”的概念拓展到機(jī)器人范疇的話，也可以參考“物種主義”的思想進(jìn)行分析，最為核心的問(wèn)題是：是否以“物種主義者”姿態(tài)看待機(jī)器人倫理地位。

在哲學(xué)史和倫理學(xué)史上，諸多先哲們對(duì)物種(being)或?qū)嶓w(entity)的道德地位以及倫理關(guān)護(hù)的必要特征做過(guò)相關(guān)探討。如果認(rèn)定一種物種或?qū)嶓w具有道德地位的必要特征的話，那么就意味著必須把這種物種或?qū)嶓w納入到倫理關(guān)護(hù)的范圍內(nèi)。

在19世紀(jì)，功利主義代表人物杰里米·邊沁(Jeremy Bentham)認(rèn)為，是否具有理性和交際能力是判定道德行為后果的關(guān)鍵因素，“諸如成年的馬、狗這樣的動(dòng)物所具有的理性能力比剛出生一個(gè)月的人類嬰兒都要健全。但是假設(shè)這樣的動(dòng)物也具有理性能力的話，那么結(jié)果又將是什么樣的呢？核心問(wèn)題是，他們具有理性思考能力和理性感知能力嗎？”[4]在《道德和法律原則導(dǎo)論》(An introduction to the principles of morals and legislation)中，邊沁認(rèn)為，不應(yīng)該把是否具有理性和交互能力當(dāng)作是判定道德地位的核心因素，正如新生嬰兒不具有完備的理性和交互能力，但是我們?nèi)耘f把其看作是一個(gè)道德行為體判定其具有道德地位一樣。相反地，邊沁認(rèn)為，諸如遭受痛苦和體驗(yàn)快樂(lè)這樣的感知能力(sentience)是決定道德地位的關(guān)鍵性因素。彼得·辛格(Peter Singer)對(duì)此也表示贊同，他認(rèn)為：“如果一個(gè)物種能夠表現(xiàn)出感知能力，那么我們就應(yīng)該把其納入到倫理關(guān)護(hù)對(duì)象之中，正視其遭受的痛苦與快樂(lè)，而不可對(duì)其袖手旁觀?！盵3]

如果把感知能力看作是道德地位的標(biāo)準(zhǔn)，那么又該如何看待安德魯這樣的智能機(jī)器人呢？安德魯是否擁有能夠體驗(yàn)快樂(lè)和痛苦的能力呢？在作品中，阿西莫夫極力使我們信服安德魯具有感知苦難和快樂(lè)的能力，并能夠把這種能力付諸于每一次行為活動(dòng)中，這也成為安德魯在與法官的辯護(hù)中力爭(zhēng)獲得自由的堅(jiān)實(shí)理由。

德國(guó)古典哲學(xué)大師伊曼努爾·康德(Immanuel Kant)認(rèn)為，只有具有自我意識(shí)的人類才應(yīng)該具有道德地位。康德在18世紀(jì)晚期就表達(dá)了這一觀點(diǎn)，堅(jiān)信只有人類才具有自我意識(shí)?，F(xiàn)在我們認(rèn)識(shí)到新生嬰兒和幼兒缺乏自我意識(shí)，而如靈長(zhǎng)類的猴子和類人猿等成年的高階動(dòng)物卻擁有自我意識(shí)的特征，基于這些緣由，我們不能對(duì)其再持有物種歧視態(tài)度。*美國(guó)克萊姆森大學(xué)的副教授克里斯托弗·格勞(Christopher Grau)指出，康德可能持有一種更健全、剛性的自我意識(shí)的概念(包括自治權(quán)的概念)，并通過(guò)倫理學(xué)原則的“絕對(duì)命令(Categorical Imperative)”來(lái)辨別和實(shí)施道德律令。然而，雖然康德把猴子和類人猿排除在道德地位的探討范圍之外，但依據(jù)其觀點(diǎn)同時(shí)也把人類中的新生嬰兒和小孩拒斥于倫理關(guān)護(hù)之外。

20世紀(jì)普遍流行這樣一種思想，即一種物種或?qū)嶓w是否具有權(quán)利則依附于其是否具有道德地位。美國(guó)科羅拉多大學(xué)著名倫理學(xué)家邁克爾·托雷(Michael Tooley)認(rèn)為，“萬(wàn)物若要賦予權(quán)利，其必須擁有渴望追逐權(quán)利的心智能力”“一個(gè)實(shí)體不具有特殊的權(quán)利，除非它至少具有追逐權(quán)利的興趣”[5]。簡(jiǎn)言之，一個(gè)物種不具有生存的權(quán)利，除非它具有渴望繼續(xù)存在的能力。

美國(guó)舊金山大學(xué)的瑪麗·安妮·沃倫(Mary Anne Warren)把“情感性(emotionality)”看作是“道德共同體”的必要因素。她認(rèn)為，“情感性”是道德共同體“個(gè)體(person)”的重要構(gòu)成因素，其與“人類”群體不是同一類的：“人類基因既不需要也不滿足‘人(person)’的概念內(nèi)涵。一些人類基因構(gòu)成的存在體不具有‘人(person)’的意義，他們也可能歸屬于其他物種。”在《墮胎的道德和法律地位問(wèn)題探賾》(On the moral and legal status of abortion，1997)一文中，沃倫羅列了六個(gè)特征進(jìn)行詮釋“人(person)”的內(nèi)涵：[6]

(1)知覺(jué)性——具有意識(shí)經(jīng)驗(yàn)的能力，通常包括經(jīng)歷痛苦和快樂(lè)的能力；

(2)情感性——具有感受快樂(lè)、悲傷、生氣、憤怒、愛(ài)，等的能力；

(3)推理性——具有解決新問(wèn)題和復(fù)雜的問(wèn)題的能力；

(4)交互性——通過(guò)任何手段，獲取各種類型的信息；也就是說(shuō)，不僅能夠獲取無(wú)限內(nèi)容，而且可以開(kāi)啟無(wú)限可能的話題；

(5)自我意識(shí)——擁有一個(gè)“自身”的觀念，作為一個(gè)個(gè)體和/或(and/or)作為社會(huì)群體的一員；

(6)道德行為(Moral agency)——通過(guò)道德原則或道德理念進(jìn)行調(diào)節(jié)自己行動(dòng)的能力。

沃倫把“情感性”特征納入其中，并把其看作是人格的關(guān)鍵組成要素，因?yàn)樗噲D區(qū)分“人(person)”和“人類(humans)”的概念內(nèi)涵，她認(rèn)為，“人(person)”是道德共同體的組成部分，人類被賦予“情感性”的特征。

對(duì)于人類來(lái)說(shuō)，一方面，這意味著一個(gè)人必須有同情心；另一方面，人類的情感很容易妨礙實(shí)施道德上的行為，容易受到另一個(gè)人的情感影響，使其變得無(wú)法遵循道德原則。因此，對(duì)于人類來(lái)說(shuō)，在主觀情感和遵守道德原則的客觀要求之間找到平衡，對(duì)于人們實(shí)施正確的道德行為來(lái)說(shuō)是最為關(guān)鍵和重要的。

綜上所述，機(jī)器人可以模仿情感性的行為，但并不一定保證機(jī)器人真正具有情感和感情。不能把情感性因素看作是一種物種或?qū)嶓w具有道德地位的標(biāo)準(zhǔn)，因?yàn)榍楦行栽趥惱砩贤ǔＪ菦Q定正確行為的責(zé)任。如果把情感性因素看作是必要條件的話，那么可以得知，像所有以上提到的其他特征一樣，建立一個(gè)完備的AMAs機(jī)器人則變得任重而道遠(yuǎn)。

三 、“機(jī)器人三定律”對(duì)未來(lái)AMAs機(jī)器人建構(gòu)的反思與修正

依據(jù)諸多先哲給出的解答，可以假設(shè)，如果未來(lái)自治型機(jī)器人具有道德地位，那么人類是否可以凌駕于機(jī)器人之上，并有權(quán)力對(duì)遵循阿西莫夫的三定律的機(jī)器人實(shí)施道德歧視呢？

康德認(rèn)為，實(shí)體和人類的倫理地位是平等的，即使實(shí)體本身沒(méi)有權(quán)利，但是人類也不應(yīng)該對(duì)實(shí)體進(jìn)行倫理歧視和虐待。他在1780年出版的《倫理學(xué)講座(Lectures on Ethics)》中“我們對(duì)于動(dòng)物的職責(zé)(Our Duties to Animals)”一文寫(xiě)到，盡管動(dòng)物沒(méi)有道德地位，且被當(dāng)作為人類目的服務(wù)而存在的，但是我們?nèi)匀粵](méi)有資格對(duì)其虐待和道德歧視，因?yàn)閷?duì)“可憐無(wú)助的動(dòng)物心懷柔情則對(duì)人性的發(fā)展具有裨益”“對(duì)動(dòng)物持殘忍姿態(tài)的人類在與人打交道時(shí)也會(huì)變得困難”。因此，即使我們對(duì)動(dòng)物不負(fù)有直接責(zé)任，但是我們有義務(wù)把他們看作是對(duì)人類的“間接責(zé)任”[7]。

對(duì)此，可以想象康德對(duì)于安德魯遭遇惡霸挑釁場(chǎng)景的反應(yīng)和看法?？档聲?huì)憎惡惡霸對(duì)待安德魯?shù)姆绞剑欢〞?huì)擔(dān)心惡霸們?cè)谖磥?lái)場(chǎng)景中也以同樣卑劣的倫理姿態(tài)對(duì)待人類。實(shí)際上，當(dāng)小女兒的兒子發(fā)現(xiàn)惡霸故意刁難安德魯時(shí)，展現(xiàn)出的是一個(gè)人類救助者的姿態(tài)，而不僅僅被視作為拯救一個(gè)冰冷的鋼鐵機(jī)器。實(shí)際上，安德魯是按照接受人類不公正對(duì)待的“阿西莫夫機(jī)器人三原則”進(jìn)行構(gòu)建的，這也意味著安德魯在根本上就必須接受人類非道德式的擺布，如果人們命令安德魯放棄抗拒的話，那么他沒(méi)有辦法阻止人類的蓄意亂為。因?yàn)?，第二定律?yōu)先于機(jī)器人自我保護(hù)的第三定律。在任何情況下，機(jī)器人不能保護(hù)自身免受傷害，反之則這意味著違反第一定律?？傊?，遵守“機(jī)器人三定律”與把安德魯看作是一個(gè)AMAs機(jī)器人的構(gòu)建理想相去甚遠(yuǎn)。

根據(jù)康德的觀點(diǎn)可以得知，其反對(duì)阿西莫夫的“機(jī)器人三定律”，并認(rèn)為即使實(shí)體遵循一定程序，但安德魯式的機(jī)器人這樣的實(shí)體本身仍不具有道德地位。他認(rèn)為，任何人類創(chuàng)造的道德法律都必須倡導(dǎo)平等的尊重態(tài)度，即使對(duì)于那些自身缺乏道德地位的物種或?qū)嶓w(beings/entities)也應(yīng)如此，如果人類與實(shí)體之間存在不平等罅隙，并允許人類對(duì)機(jī)器人進(jìn)行隨意破壞的話，那么在這種法則下就有可能出現(xiàn)導(dǎo)致人類成員間彼此傷害的行為。如果人類需要恭敬平等地對(duì)待其他實(shí)體的話，那么他們更有可能達(dá)成人類之間的彼此尊重。

因此，從康德的論證中可以得出以下結(jié)論：一個(gè)自治型倫理機(jī)器人必須被視為具有與人類相同的道德地位，必須認(rèn)真對(duì)待以避免我們把道德為“惡”的行為嫁禍于人類身上。正如康德對(duì)于動(dòng)物的觀點(diǎn)闡述一樣，“動(dòng)物僅僅只是達(dá)到目的的一種手段。這種目的的落腳點(diǎn)是人”[7]。與之形成對(duì)比的是康德著名的第二條道德律令：“不論是誰(shuí)，在任何時(shí)候都不應(yīng)把自己和他人僅僅視為工具，而應(yīng)該永遠(yuǎn)看作自身就是目的?！边@是道德準(zhǔn)則質(zhì)料方面的要求，因此，以普遍化原則推之，人類也應(yīng)該同樣地對(duì)待其他理性存在者。

綜上所述，通過(guò)以上倫理學(xué)家的觀點(diǎn)比照，可以得知，“機(jī)器人三定律”規(guī)避了人類的倫理職責(zé)和義務(wù)，把機(jī)器人拒斥在道德行為體考察之外，這顯然是有失偏頗的。因此，結(jié)合康德倫理學(xué)和阿西莫夫“機(jī)器人三定律”的思想內(nèi)涵，可以對(duì)兩者做一種修正性反思：可以要求機(jī)器人按照人類意愿行事以期達(dá)到人類的目的，但同時(shí)不應(yīng)對(duì)其持有道德歧視和虐待。既然阿西莫夫的“機(jī)器人三定律”不能阻止人類虐待機(jī)器人或智能機(jī)器，那么就應(yīng)該進(jìn)行實(shí)時(shí)修正，達(dá)成對(duì)未來(lái)AMAs機(jī)器人的完美建構(gòu)。

四、 結(jié)論

以阿西莫夫的科幻小說(shuō)《機(jī)器人管家》作為話題縮影，映射出當(dāng)今機(jī)器人倫理學(xué)領(lǐng)域內(nèi)的許多前沿問(wèn)題。關(guān)于“機(jī)器人三定律”和未來(lái)AMAs機(jī)器人構(gòu)建的討論儼然已成為當(dāng)今應(yīng)用倫理學(xué)領(lǐng)域不可回避的問(wèn)題。機(jī)器人倫理學(xué)的終極目標(biāo)是創(chuàng)建自治型道德機(jī)器人(AMAs)，這為新興領(lǐng)域帶來(lái)諸多前沿性的挑戰(zhàn)。通過(guò)機(jī)器人倫理地位的剖析，可以得知，阿西莫夫奠基的“機(jī)器人三定律”在根本上規(guī)避了人類的倫理職責(zé)和義務(wù)，把機(jī)器人和人類的地位放在不同的倫理序列中，會(huì)使得構(gòu)建未來(lái)AMAS的理想化為泡影。然而，我們對(duì)于倫理學(xué)家所推崇的“機(jī)器人三定律”也應(yīng)該秉持揚(yáng)棄的態(tài)度進(jìn)行審慎對(duì)之，正視其理論缺陷和對(duì)未來(lái)AMAs機(jī)器人的消極影響。

總之，深入剖析阿西莫夫的“機(jī)器人三定律”對(duì)于正確理解機(jī)器人的倫理地位以及機(jī)器人倫理學(xué)的理論基點(diǎn)有重要意義，為構(gòu)建未來(lái)AMAs機(jī)器人提供了重要的理論積淀和學(xué)理依據(jù)。

[參考文獻(xiàn)]

[1] Asimov I.“The bicentennial man” in I. Asimov, The bicentennial

man and other stories[M]. Doubleday, New York, 1984：246.

[2] Susan Leigh Anderson. Asimov’s “three laws of robotics” and machine metaethics[J]. AI & Soc (2008) 22:477-493.

[3] S Singer P.All animals are equal. In: Animal liberation: a new ethics for our treatment of animals[J]. New York. New York review, Distributed by Random House, 1975:1-22.

[4] Bentham J. An introduction to the principles of morals and legislation

[M]. chapter 17. Burns J, Hart H (eds). Clarendon Press, Oxford, 1969:249.

[5] Tooley M. Abortion and infanticide[M]. Philos Public Affairs,1972:47-66.

[6] Warren MA. On the moral and legal status of abortion. In: LaFollette

H (ed) Ethics in practice[M]. Blackwell, Oxford,1997:178.

[7] Kant I. Our duties to animals. In: Infield L (trans.). Lectures

on ethics[M]. Harper & Row, New York, 1780: 239-241.

[責(zé)任編輯：陸靜]

Does Asimov's “Three Laws of Robotics” Fits to AMAs Robots Building in the Future？——An Analysis Based on Bicentennial Man

WU Wei-li1，WANG Shao-yuan2

(1.College of law and Politics，Kashgar University，Kashgar 844000，XinJiang，China；2.School of Marxism Studies，Shanxi University of Finance and Economic，TaiYuan 030006，ShanXi，China)

Abstract：In recent years, as applied ethics "robot ethics" emerges, ethicists began to explore build problems of AMAs robots in the future. Modern American science fiction literature master Isaac asimov's "robot series" is the earliest prototype of robot ethics. He put “three laws of robotics” into the basis of his literatures. The classic literature Bicentennial Man maps many problems of robots metaethics. That discussing the characteristics of robot for the necessity of the moral status can help people understand “Three laws of robotics” in a prudent attitude. Faced up to the defects of “three laws of robotics”, we can amend theory and aim to build a perfect AMAs robot in the future.

Key words:Isaac Asimov; Three Laws of Robotics; Artificial moral agents; Robot ehics; Bicentennial Man

中圖分類號(hào)：B82-057

文獻(xiàn)標(biāo)識(shí)碼：A

文章編號(hào)：2095-0063(2016)02-0001-05

收稿日期：2015-09-29

基金項(xiàng)目：2015年教育部人文社會(huì)科學(xué)研究規(guī)劃基金項(xiàng)目“認(rèn)知科學(xué)視閾的延展心靈問(wèn)題研究”(15YJC720005)；山西省教育科學(xué)規(guī)劃項(xiàng)目“在信息技術(shù)教育中融入機(jī)器(人)倫理學(xué)教育的問(wèn)題研究”(GH-15025)；山西財(cái)經(jīng)大學(xué)青年科研基金項(xiàng)目“當(dāng)代應(yīng)用倫理學(xué)新領(lǐng)域：機(jī)器(人)倫理學(xué)研究”。

作者簡(jiǎn)介：武威利(1979-)，女，河南滎陽(yáng)人，講師，南開(kāi)大學(xué)哲學(xué)院博士研究生，從事科技倫理學(xué)、政治哲學(xué)研究；王紹源(1986-)，男，河南商丘人，講師，博士，從事科技倫理學(xué)研究。

DOI 10.13356/j.cnki.jdnu.2095-0063.2016.02.001