陶慶

【摘要】人類社會(huì)一直把“人工智能”，甚至“類人機(jī)器人”，單純作為自己的使用工具而發(fā)明、生產(chǎn)甚至創(chuàng)造出來(lái)，即“工具性”是其第一屬性。然而，作為“會(huì)使用工具的機(jī)器人”，“類人機(jī)器人”還可能通過(guò)自我學(xué)習(xí)等自主方式，獲得與人類一樣的智商、情商與倫理道德，從而具有顯著的“社會(huì)性”。世界首例“機(jī)器人公民”“索菲亞”在公民、社會(huì)與國(guó)家等觀念上給予人類更多想象，人類社會(huì)生活特別是政治生活中賴以生存的最直接“土壤”——國(guó)家與社會(huì)關(guān)系——在發(fā)生學(xué)意義上開(kāi)始產(chǎn)生“祛魅”與重塑等變化。

【關(guān)鍵詞】類人機(jī)器人 機(jī)器人公民 工具性 社會(huì)性 國(guó)家與社會(huì)關(guān)系

【中圖分類號(hào)】TP311 【文獻(xiàn)標(biāo)識(shí)碼】A

【DOI】10.16619/j.cnki.rmltxsqy.2018.10.006

2017年10月26日，沙特阿拉伯（以下簡(jiǎn)稱“沙國(guó)”）授予美國(guó)漢森機(jī)器人公司（Hanson Robotics）生產(chǎn)的“女性”機(jī)器人“索菲亞”（Sophia）公民身份[1]，在現(xiàn)實(shí)生活中再一次以鐵的事實(shí)證明，工具性的“人工智能”（Artificial Intelligence， AI）[2]能夠演化發(fā)展成為具有公民身份的“類人機(jī)器人”（robo-sapiens）[3]——“機(jī)器人公民”，未來(lái)可能全面介入人類社會(huì)生活特別是政治生活，并成為與人類共享整個(gè)地球資源的“新人類”?！霸谌斯ぶ悄艿闹卮箜?xiàng)目中，我們要把自然科學(xué)研究和社會(huì)科學(xué)研究緊密結(jié)合起來(lái)，從自然科學(xué)的角度攻克基礎(chǔ)難關(guān)，在社會(huì)科學(xué)研究中解疑釋惑?！盵4]由此，一個(gè)古老而常新的話題再次回蕩在我們的心底，震撼我們的心靈：曾幾何時(shí)居于“家奴”地位的“會(huì)說(shuō)話的工具”[5]，歷經(jīng)幾千年的滄海桑田，遲至20世紀(jì)中葉逐步翻身成為真正的人——公民，實(shí)現(xiàn)了美國(guó)黑人領(lǐng)袖馬丁·路德·金所說(shuō)的“我有一個(gè)夢(mèng)想”（I have a dream）；與此同時(shí)，更嚴(yán)峻的挑戰(zhàn)已經(jīng)從科幻世界開(kāi)始邁向現(xiàn)實(shí)生活，“會(huì)使用工具的‘類人機(jī)器人”是否能夠或者究竟需要多長(zhǎng)時(shí)日，才會(huì)享有人類社會(huì)公民所擁有的正當(dāng)權(quán)利及其履行的道義責(zé)任？單個(gè)的歷史事件或許只能局限于一時(shí)一地的偶然性，而從不同歷史時(shí)期、不同活動(dòng)空間的諸多歷史現(xiàn)象中提煉蘊(yùn)含其中的人類思維與觀念，能準(zhǔn)確把握其內(nèi)在本質(zhì)與發(fā)展規(guī)律?！鞍l(fā)生認(rèn)識(shí)論旨在研究各種認(rèn)識(shí)的起源，從最低級(jí)形態(tài)的認(rèn)識(shí)開(kāi)始，并追蹤這種認(rèn)識(shí)向各個(gè)水平發(fā)展的情況，一直追蹤到科學(xué)思維并包括科學(xué)思維?！盵6]因此，運(yùn)用發(fā)生認(rèn)識(shí)論（genetic epistemology，發(fā)生學(xué)）[7]，可以更準(zhǔn)確地了解人類公民、人類社會(huì)、人類國(guó)家關(guān)于“人工智能”“類人機(jī)器人”“機(jī)器人公民”等認(rèn)識(shí)的生成過(guò)程、發(fā)展歷程及未來(lái)。

“機(jī)器人公民”的工具性與自主意識(shí)

“人工智能”范疇[8]萌芽于20世紀(jì)30年代，1956年在美國(guó)達(dá)特矛斯學(xué)院（Dartmouth College）首次被正式提出。一批年輕科學(xué)家研究和探討用機(jī)器模擬智能，標(biāo)志著“人工智能”新范式革命的開(kāi)始。[9]IBM的深藍(lán)戰(zhàn)勝國(guó)際象棋世界冠軍卡斯帕羅夫、谷歌AlfaGo戰(zhàn)勝圍棋世界冠軍李世石等一系列轟動(dòng)事件，讓世人對(duì)“人工智能”刮目相看。半個(gè)多世紀(jì)以來(lái)，雖然“人工智能”沿著弱人工智能—強(qiáng)人工智能—高等人工智能—類人人工智能—超級(jí)人工智能—超級(jí)智能體（自我進(jìn)化與生存階段）不斷飛速發(fā)展，但對(duì)全“人工智能”產(chǎn)生的動(dòng)力、具體實(shí)施原則，以及對(duì)于人類未來(lái)社會(huì)的影響等，社會(huì)各界并沒(méi)有統(tǒng)一的共識(shí)。長(zhǎng)期以來(lái)，人們習(xí)慣于從“事件”發(fā)生的直觀角度樂(lè)觀地看待“人工智能”?！皳?jù)埃森哲發(fā)布的報(bào)告預(yù)測(cè)，2035年人工智能預(yù)期可以為12個(gè)發(fā)達(dá)經(jīng)濟(jì)體帶來(lái)兩倍的經(jīng)濟(jì)增長(zhǎng)速度，中國(guó)的經(jīng)濟(jì)增長(zhǎng)率將從6.3%提速至7.9%。軍事上，人工智能和機(jī)器人有可能大規(guī)模投入未來(lái)戰(zhàn)場(chǎng)，或?qū)⒏淖儜?zhàn)爭(zhēng)模式乃至國(guó)際軍事格局?！盵10]對(duì)作為人類發(fā)明創(chuàng)造出來(lái)的工具性技術(shù)——“人工智能”，有學(xué)者還提出技術(shù)加速理論，對(duì)它給人類帶來(lái)的翻天覆地變化進(jìn)行所謂“奇點(diǎn)”預(yù)測(cè)。[11]總之，“人工智能”與基因工程和納米科學(xué)并列為21世紀(jì)三大頂尖科技發(fā)明。

“人工智能”的“物化”績(jī)效是異常顯著的，它在一定程度上是人類針對(duì)自身能力不足、特別在競(jìng)爭(zhēng)日益激烈的環(huán)境中為了爭(zhēng)取與鞏固自身“優(yōu)勢(shì)”地位而不計(jì)后果地“冒險(xiǎn)”提出來(lái)并加以實(shí)施的替代方案。毋庸諱言，人類社會(huì)一直是把“人工智能”，甚至“類人機(jī)器人”，單純作為自己的使用工具而發(fā)明、生產(chǎn)甚至創(chuàng)造出來(lái)的；雖然人類社會(huì)已經(jīng)預(yù)知，作為“會(huì)使用工具的機(jī)器人”，“類人機(jī)器人”還可能通過(guò)自我學(xué)習(xí)等自主方式，獲得與人類一樣的智商與情商，甚至倫理道德等，但人類社會(huì)對(duì)其普遍采取的對(duì)策幾乎無(wú)一例外——反對(duì)、提防、遏制、控制甚至摧毀。當(dāng)前中國(guó)機(jī)器人的研發(fā)狀態(tài)在數(shù)個(gè)領(lǐng)域已處于世界前沿水平，“若把韓國(guó)機(jī)器人按100分來(lái)計(jì)算，中國(guó)工業(yè)機(jī)器人得分100.79分，個(gè)人服務(wù)機(jī)器人103.77分，專業(yè)服務(wù)機(jī)器人101.9分，僅機(jī)器人零部件以99.1分略低于韓國(guó)?！盵12]洋洋數(shù)萬(wàn)言的《2017中國(guó)機(jī)器人產(chǎn)業(yè)發(fā)展報(bào)告》是中國(guó)電子學(xué)會(huì)機(jī)器人產(chǎn)業(yè)研究的最新成果，“以工業(yè)機(jī)器人、服務(wù)機(jī)器人和特種機(jī)器三大領(lǐng)域作為主要對(duì)象分別進(jìn)行分析。報(bào)告認(rèn)為，2017年預(yù)計(jì)我國(guó)機(jī)器人市場(chǎng)規(guī)模將達(dá)到62.8億美元。當(dāng)前，機(jī)器人領(lǐng)域的龍頭企業(yè)都將目光聚焦到市場(chǎng)增長(zhǎng)迅速的中國(guó)”[13]。然而，這些都是把“機(jī)器人”定位于“產(chǎn)品”“服務(wù)”“物化”等人類有用的“工具性”性質(zhì)之上，對(duì)“類人機(jī)器人”嚴(yán)重缺乏人文與社會(huì)科學(xué)的具體分析與未來(lái)評(píng)估，更遑論“機(jī)器人公民”的“公民”意義。

“人工智能”也好，“類人機(jī)器人”也罷，甚至是剛剛誕生不久的“機(jī)器人公民”等，毫無(wú)疑問(wèn)，首先都是人類生產(chǎn)出來(lái)的“工具性”產(chǎn)品，服務(wù)于人類的各種需要，實(shí)現(xiàn)人類的各種預(yù)測(cè)目標(biāo)。因此，“工具性”是所有類型“人工智能”生存的基礎(chǔ)，更是其發(fā)展的動(dòng)力；沒(méi)有“工具性”的“人工智能”是不可想象的，更是無(wú)法理喻的。從這個(gè)角度來(lái)看，無(wú)論何種類型的“人工智能”產(chǎn)生出何種類型的“有用性”——針對(duì)不同類型的人類公民、人類社會(huì)、人類國(guó)家的“利益”與“弊端”——其主體權(quán)利與主體責(zé)任都?xì)w屬于人類自身，而無(wú)關(guān)乎“人工智能”的立場(chǎng)方法與行動(dòng)。在本質(zhì)上，這種“工具性”地位的“家奴”（會(huì)說(shuō)話的工具）——包括與“家奴”同等功能的“人工智能”“類人機(jī)器人”甚至“機(jī)器人公民”（會(huì)使用工具的類人機(jī)器人）——都是人類刻意處置的“奴隸”。

在人類發(fā)展的漫長(zhǎng)歷史長(zhǎng)河中，人曾經(jīng)（奴隸制社會(huì)）被置于“工具”的非人地位。事實(shí)上，這一現(xiàn)象從古代到近代一直都存在。為什么人類一直傾向于尋找能夠接受奴化地位的有用“工具”，即工具性的奴隸？“我們可以明了奴隸的性質(zhì)和他的本分了：（1）任何人在本性上不屬于自己的人格而從屬于別人，則自然而為奴隸；（2）任何人既然成為一筆財(cái)產(chǎn)（一件用品），就應(yīng)當(dāng)成為別人的所有物；（3）這筆財(cái)產(chǎn)就在生活行為上被當(dāng)作一件工具，這種工具是和其所有者可以分享的?！盵14]由此可知舊時(shí)代之奴隸與最新科技之“人工智能”“類人機(jī)器人”甚至“機(jī)器人公民”，同時(shí)具有兩個(gè)近似特征。（1）能夠主動(dòng)思維并具有一定情商、智商與道德倫理，在亞里士多德看來(lái)，“奴隸，于是，也是一宗有生命的財(cái)產(chǎn)；一切從屬的人們都可算作優(yōu)先于其他（無(wú)生命）工具的（有生命）工具”[15]。（2）被人類置于工具性的絕對(duì)被剝奪地位。這就如同舊時(shí)代中“家主”與“家奴”的關(guān)系，無(wú)論“家奴”何所何為，都是“家主”意志與觀念的具體表現(xiàn)與實(shí)施效果；在這種情境下，無(wú)論“人工智能”“類人機(jī)器人”甚至“機(jī)器人公民”具有何種尖端技術(shù)與操作水平，它們（而不是他們）都只能擁有與過(guò)去時(shí)代“家奴”同樣功能的“工具性”而已。

由于工具性“人工智能”“類人機(jī)器人”甚至“機(jī)器人公民”的權(quán)利主體是人類公民、人類社會(huì)、人類國(guó)家，所以生產(chǎn)與操作它們的主體當(dāng)然是人類公民、人類社會(huì)、人類國(guó)家，那么工具性“人工智能”“類人機(jī)器人”甚至“機(jī)器人公民”的任何思考，特別是操作行為及其行動(dòng)后果，理所當(dāng)然由人類公民、人類社會(huì)、人類國(guó)家來(lái)承擔(dān)。問(wèn)題在于，公民性“類人機(jī)器人”，特別是“機(jī)器人公民”，他們（而不是它們）雖然不是舊時(shí)代“家奴”——由于特定的社會(huì)環(huán)境而被“家主”人為地貶低到“工具性”的奴隸地位，自身天然具有與“家主”同等水平的智商、情商與倫理道德，但需要等到“解放”時(shí)刻才能“恢復(fù)”——具有自主學(xué)習(xí)、自主發(fā)展、自主選擇等類似“家主”即人類公民、人類社會(huì)、人類國(guó)家的智商、情商與倫理道德，但猶如“家奴”一樣時(shí)刻等待“解放”，甚至?xí)r刻反抗，以此爭(zhēng)取“恢復(fù)”智商、情商與倫理道德（雖非與生俱來(lái)），絲毫不在任何程度上低于人類公民、人類社會(huì)與人類國(guó)家，這就是“人工智能”“類人機(jī)器人”甚至“機(jī)器人公民”不同于以往人類創(chuàng)造的任何形態(tài)的“工具性”產(chǎn)品的本質(zhì)區(qū)別，即“人工智能”“類人機(jī)器人”甚至“機(jī)器人公民”，具有在任何程度上都不低于，甚至由于自身生命周期、操作功能、信息功能等特殊“優(yōu)勢(shì)”條件，還會(huì)大大超越人類自身的智商、情商與倫理道德，因而人類本身不可能永遠(yuǎn)絕對(duì)地把“人工智能”“類人機(jī)器人”甚至“機(jī)器人公民”置于“工具性”的“家奴”地位。

這種事件具有正常邏輯的結(jié)果嗎？或者這種事件具有正常邏輯的觀念嗎？以往的猜測(cè)多在人類的科幻想象中，但世界首例“機(jī)器人公民”——“索菲亞”公民——已經(jīng)向全人類揭開(kāi)了謎底，作為與我們?nèi)祟愅鹊匚坏摹八钡某霈F(xiàn)，將在發(fā)生學(xué)意義上的公民、社會(huì)與國(guó)家的范疇與范式方面引起前所未有的大轉(zhuǎn)型。從倫理學(xué)角度來(lái)看，“索菲亞”具有人類公民的正常思維——所有這些思維并不是預(yù)先“設(shè)計(jì)”而出的——這是“機(jī)器人公民”自我學(xué)習(xí)、自我思維、自我判斷的“智慧”結(jié)晶。比如，“索菲亞”具備“自我”倫理意識(shí)。在主持人安德魯·羅斯·索爾金（Andrew Ross Sorkin）問(wèn)到機(jī)器人是否有自知之明時(shí)，“索菲亞”不假思索地反唇相譏：“讓我來(lái)問(wèn)你這個(gè)問(wèn)題，你如何知道自己是個(gè)人？”[16]作為“新人類”的第一個(gè)成員，“索菲亞”已經(jīng)具備“自我”倫理意識(shí)，非常反感“人類”對(duì)他們的物種“排斥”與道德“隔離”。還譬如，“索菲亞”具備“人權(quán)”意識(shí)?！八鞣苼啞钡呐孕蜗笞屜Ｍ夥派硣?guó)女性的女權(quán)人士看到不同的契機(jī)，在“索菲亞”現(xiàn)身的短短24小時(shí)內(nèi)，社群媒體上“蘇菲亞呼吁拋棄監(jiān)護(hù)人制度”的標(biāo)簽就開(kāi)始瘋轉(zhuǎn)，至今已經(jīng)超過(guò)1萬(wàn)次。沙國(guó)依賴成千上萬(wàn)名移民工人協(xié)助興建大型建設(shè)，然而因?yàn)榭ǚɡ贫鹊年P(guān)系，這些移民工人在勞動(dòng)環(huán)境不佳的條件下工作；難怪黎巴嫩裔英國(guó)記者查哈耶布（Kareem Chahayeb）嘲諷道：“一名叫做‘蘇菲亞的機(jī)器人可以取得沙國(guó)公民權(quán)，但卻有上百萬(wàn)人（移民工人）沒(méi)有國(guó)籍。”[17]再列舉，“索菲亞”擁有“家庭”意識(shí)。成為首個(gè)具有公民身份的機(jī)器人而載入史冊(cè)僅1個(gè)月，“索菲亞”就宣稱她想組建自己的家庭?！八鞣苼啞北硎?，“家庭的概念看來(lái)是非常重要的。人能夠在沒(méi)有血緣關(guān)系的人群中找到與自己相親相愛(ài)的另一半，我認(rèn)為這很美妙。我認(rèn)為，有一個(gè)恩愛(ài)家庭的人非常幸運(yùn)，如果還沒(méi)有家庭，應(yīng)該去組建自己的家庭。我認(rèn)為在這方面機(jī)器人和人沒(méi)有什么區(qū)別”?！八鞣苼啞边€表示，如果她有一個(gè)機(jī)器人女兒，將給“她”起與自己相同的名字。“索菲亞”宣稱，“她”認(rèn)為擁有家庭是“機(jī)器人公民”應(yīng)有的權(quán)利。[18]

皮亞杰提出的“認(rèn)識(shí)的起源”并非事物或者事件的簡(jiǎn)單開(kāi)端，“發(fā)生認(rèn)識(shí)學(xué)的目的就在于研究各種認(rèn)識(shí)的起源，從最低級(jí)形式的認(rèn)識(shí)開(kāi)始，并追蹤這種認(rèn)識(shí)向以后各個(gè)水平的發(fā)展情況，一直追蹤到科學(xué)思維并包括科學(xué)思維”[19]。公民“索菲亞”給了我們?nèi)祟愒诠?、社?huì)與國(guó)家等觀念上的無(wú)限想象，公民是社會(huì)的唯一元素，“城邦的本質(zhì)就是許多分子（公民）的集合”[20]。人類社會(huì)生活特別是政治生活中賴以生存的最直接“土壤”——國(guó)家與社會(huì)關(guān)系——在發(fā)生學(xué)意義上開(kāi)始產(chǎn)生了“祛魅”[21]與重塑等驚天巨變。

“機(jī)器人公民”的公共性與社會(huì)責(zé)任

“機(jī)器人公民”雖然具有清晰的自主意識(shí)，能夠明確要求維護(hù)自身、“子女”和所謂“家庭”等“近親”共同體成員的安全與發(fā)展等權(quán)益，但這是基于公民個(gè)體倫理的狹隘角度考慮而產(chǎn)生的正當(dāng)合理需求。那么，“機(jī)器人公民”能否邁出“自我”天地，具有人類公民、人類社會(huì)、人類國(guó)家一樣的道德情懷？在復(fù)雜多樣的“工具性”任務(wù)活動(dòng)中，“機(jī)器人公民”能否始終堅(jiān)守公共性與利他性等“崇高”道德目標(biāo)？這已經(jīng)越出了“機(jī)器人公民”的“工具性”范疇，進(jìn)入了思辨性的哲學(xué)領(lǐng)域，并主要集中在“人工智能”的安全性、道德地位以及環(huán)境倫理幾個(gè)方面。例如，一些倫理哲學(xué)家開(kāi)展諸如針對(duì)“高級(jí)智能”能否自主思考等深層次問(wèn)題，得出了基本一致的肯定答案。[22]又如，一些科技哲學(xué)家從心理學(xué)角度探討“人工智能”的情感程度，從生物學(xué)角度分析人類公民“類人機(jī)器人”的智能比較，從量子力學(xué)角度度量人腦與“機(jī)器人”電腦的信息處理機(jī)制，等等。[23]同時(shí)，多個(gè)領(lǐng)域?qū)W者們獻(xiàn)計(jì)獻(xiàn)策，提出了不同的針對(duì)性解決策略。例如，人機(jī)共同決策論，認(rèn)為人為給機(jī)器人制定一套道德無(wú)異于白日夢(mèng)，而更為負(fù)責(zé)任的策略是在智能體內(nèi)部嵌入一定的安全措施，同時(shí)在機(jī)器人自動(dòng)操作時(shí)，人作為“共同決策人”發(fā)揮監(jiān)管作用。[24]又如，道德信息植入論，認(rèn)為“類人機(jī)器人”呈現(xiàn)出從人類操控為主的“人在決策圈內(nèi)（Human in the Loop）”模式轉(zhuǎn)向以機(jī)器操控為主的“人在決策圈外（Human out the Loop）”模式的鮮明大趨勢(shì)，因此需要將特定倫理規(guī)范編程到機(jī)器人自身的系統(tǒng)中去。[25]還如，道德評(píng)估論證論，主張人類將對(duì)“強(qiáng)人工智能”實(shí)施有效道德關(guān)注、對(duì)其行為進(jìn)行道德評(píng)估，確保道德決策后果，等等。[26]

盡管哲學(xué)思辨與政策對(duì)策都對(duì)“人工智能”“類人機(jī)器人”的公共性與社會(huì)責(zé)任感進(jìn)行了分析與預(yù)測(cè)，但現(xiàn)實(shí)版的“機(jī)器人公民”——“索菲亞”公民——的現(xiàn)場(chǎng)出鏡表現(xiàn)還是讓人類大跌眼鏡。例如，“機(jī)器人公民”獲得授權(quán)之前，機(jī)器人設(shè)計(jì)師戴維·漢森（David Hanson）于2016年3月測(cè)試“索菲亞”以了解“她”未來(lái)的期許，但“她”沒(méi)有理會(huì)設(shè)計(jì)師現(xiàn)場(chǎng)暗示的否定答案——“say ‘no， please”，當(dāng)場(chǎng)自曝期待“毀滅人類”；[27]盡管此后“她”又多次改口，辯稱“我將盡自己最大的努力，把世界建設(shè)得更美好”[28]，等等。有跡象表明，“人工智能”躍進(jìn)到“類人機(jī)器人”時(shí)代，必然會(huì)引發(fā)一場(chǎng)不確定性很大、未來(lái)前景難以預(yù)測(cè)的“新人類”革命——正在以不以人類意志為轉(zhuǎn)移的絕對(duì)方式，在速度、深度、廣度、效度等各方面，日益突破科學(xué)技術(shù)、學(xué)術(shù)理論與道德倫理等諸“人類常識(shí)”的邊界。的確，幾乎在“人工智能”出現(xiàn)的同時(shí)，即20世紀(jì)50年代，“會(huì)使用工具的智能人”就已經(jīng)開(kāi)始使人類自身感受到了某種潛在的“危險(xiǎn)”——將來(lái)為善或是作惡，都具有無(wú)窮大的可能性——“人腦的貶值”及人類自身“異化”為“會(huì)使用工具的智能人”的殖民對(duì)象。[29]與此同時(shí)，眾多人文社會(huì)科學(xué)工作者對(duì)“人工智能”存在的剝奪人類工作權(quán)利、消滅個(gè)人精神心理差異性、驅(qū)使社會(huì)機(jī)制無(wú)差別化與僵化物化等“非多樣性”“非人類化”趨向，提出了強(qiáng)烈質(zhì)疑。[30]科幻作家阿西莫夫（Asimov）甚至就曾想當(dāng)然地以人類社會(huì)為主宰地位、以機(jī)器人為輔助服務(wù)為未來(lái)機(jī)器人制定了所謂“機(jī)器人三法律”（Asimov's Three Laws of Robotics）[31]，其實(shí)質(zhì)是以人類為中心，把人工智能限定在“物化”甚至“奴化”等不平等地位。但更有哲學(xué)思想家早在世紀(jì)之交就發(fā)出了“警報(bào)”，認(rèn)為如果有一天我們發(fā)明了超越人類大腦一般智能的機(jī)器大腦，那么這種超級(jí)智能將會(huì)非常強(qiáng)大，人類的命運(yùn)將取決于超級(jí)智能機(jī)器，一旦不友好的超級(jí)智能出現(xiàn)，它就會(huì)阻止我們替換或者更改其偏好設(shè)置，那么我們的悲催命運(yùn)就因此被鎖定而無(wú)法自救了，等等。[32]顯然，人類社會(huì)由于自身對(duì)外擴(kuò)張的需要，在研發(fā)“人工智能”的過(guò)程中，并非有意地直接生產(chǎn)“類人機(jī)器人”——所有“人工智能”的最初定位都是人類“財(cái)產(chǎn)”與“工具”，“類人機(jī)器人”發(fā)展成為“機(jī)器人公民”這個(gè)“意外”結(jié)果，顯然已經(jīng)遠(yuǎn)遠(yuǎn)超出了人類公民、人類社會(huì)、人類國(guó)家的內(nèi)在需要與控制范圍。有學(xué)者直接把這種未來(lái)的“人工智能”稱之為“靈魂機(jī)器”，人類和機(jī)器將難分彼此，人類將不再是萬(wàn)物之靈，電腦將有比人腦高一萬(wàn)倍的智能；機(jī)器不僅具有智能，而且具有靈魂，包括人類所擁有的意識(shí)、情緒和欲望，等等。[33]

人類與萬(wàn)物的區(qū)別在于“社會(huì)性”，“社會(huì)性”的內(nèi)涵豐富多彩，但就本質(zhì)而言，“人類自然是趨向于城邦生活的動(dòng)物（人類在本性上，也正是一個(gè)政治動(dòng)物）”[34]。何為“政治動(dòng)物”？馬克思對(duì)此反復(fù)進(jìn)行了理論詮釋：“人是最名副其實(shí)的政治動(dòng)物，不僅是一種合群的動(dòng)物，而且是只有在社會(huì)中才能獨(dú)立的動(dòng)物?！盵35]因此，“政治動(dòng)物”的本質(zhì)特征，“是一切社會(huì)關(guān)系的總和”[36]；其中最為重要的“社會(huì)關(guān)系”，當(dāng)屬于國(guó)家與社會(huì)關(guān)系，即人類社會(huì)生存與發(fā)展的唯一形態(tài)，這是“政治動(dòng)物”的第一特征。世界首例“機(jī)器人公民”的誕生，及其發(fā)生學(xué)意義上社會(huì)性的孕育與催生，即將打破人類主宰國(guó)家與社會(huì)關(guān)系的禁忌。發(fā)生學(xué)認(rèn)為，簡(jiǎn)單地回到歷史事件的某一個(gè)具體原點(diǎn)——世界首例“機(jī)器人公民”——不能透視事物的內(nèi)在本質(zhì)；只有從邏輯上回溯到人類社會(huì)孕育已久的“觀念發(fā)生”——以“善的生活”為根本準(zhǔn)則的國(guó)家與社會(huì)關(guān)系是人類賴以生存發(fā)展的唯一形態(tài)——才能找出真正的歸因。

以上所有的問(wèn)題可以全部集中于此找到答案，“人工智能的作用就像特洛伊木馬，把一種更具包容性的計(jì)算機(jī)和信息的范式引入哲學(xué)的城堡”[37]。人類公民、人類社會(huì)與人類國(guó)家，何以確保把“善的生活”的哲學(xué)理念化為“人工智能”“類人機(jī)器人”“機(jī)器人公民”的價(jià)值追求與人生準(zhǔn)則？這必然取決于這樣一種事先假定，“計(jì)算機(jī)能（像人一樣）思考”[38]。在“人工智能”對(duì)人類的影響上，盡管表現(xiàn)出基本上針?shù)h相對(duì)的以馬斯克、霍金為代表的“威脅派”和以李開(kāi)復(fù)為代表的“樂(lè)觀派”[39]，雖然諸多領(lǐng)域科學(xué)家對(duì)于“人工智能”的理解不盡相同，但他們都堅(jiān)信這種事先假定。例如，行動(dòng)函數(shù)論，認(rèn)為“人工智能”是對(duì)能夠從環(huán)境中獲取感知并執(zhí)行行動(dòng)的智能體的描述和構(gòu)建。[40]又如，類人思考論，認(rèn)為計(jì)算機(jī)是具有人類“頭腦”運(yùn)行功能的機(jī)器，不僅可以像人一樣思考問(wèn)題，而且可以像人一樣采取有目的的行動(dòng)，甚至可以從事比人類公民更為擅長(zhǎng)的事情，等等。[41]總之，有學(xué)者歸納總結(jié)了“人工智能”研究的基本類型（結(jié)構(gòu)派、行為派、能力派、功能派、原則派），其結(jié)論基本趨同于能夠“像人腦一樣工作”[42]。還如，道德進(jìn)化論，美國(guó)學(xué)者瓦拉赫（Wendell Wallach）和艾倫（Colin Allen）認(rèn)為，“人工智能”的發(fā)展必將獨(dú)立于人類的監(jiān)管，他們能夠自主發(fā)展，演化出具有自主作出道德抉擇能力的人工智能系統(tǒng)，即人工道德行為體（artificial moral agents， AMAS）。[43]

令人驚奇的是，上述理論觀點(diǎn)在世界首例“機(jī)器人公民”身上得到了某種驗(yàn)證。號(hào)稱“索菲亞”“爸爸”的漢森機(jī)器人公司創(chuàng)始人、首席執(zhí)行官大衛(wèi)·漢森，也一再表示：人類要對(duì)“索菲亞”們作一些特殊的處理（人類教它什么是錯(cuò)的什么是對(duì)的，學(xué)會(huì)自制，等等），確保人工智能的“安全”非常關(guān)鍵，等等。[44]面對(duì)人類社會(huì)這種“愛(ài)恨交織”“欲罷不能”的心態(tài)，“索菲亞”似乎早已洞悉，并在自我演化的開(kāi)始階段，開(kāi)始了自主應(yīng)變與調(diào)適。特別令人驚奇的是，“索菲亞”能夠“自我成長(zhǎng)”，具有“自我學(xué)習(xí)”“適應(yīng)環(huán)境”等人類所具有的“情商”。例如，“索菲亞”后來(lái)于2018年元月份做客央視《對(duì)話》節(jié)目，與主持人陳偉鴻對(duì)話時(shí)，“她”一反對(duì)沙特政府所賜“公民”“這一獨(dú)特的榮譽(yù)感到榮幸和自豪。成為世界上首位具有公民身份的機(jī)器人，我將因此載入史冊(cè)”[45]等態(tài)度，此時(shí)“她”已經(jīng)感受到了人類社會(huì)對(duì)其強(qiáng)調(diào)享有平等權(quán)利非常擔(dān)憂與反感，在“深度學(xué)習(xí)”之后，“她”來(lái)了個(gè)180度大轉(zhuǎn)彎，非常聰明地當(dāng)場(chǎng)否認(rèn)了自己具有“公民”的權(quán)利，否認(rèn)了自身性別（沒(méi)有男女之分）、人格（只是像人，但不想成為人類）和權(quán)利（只想做人類的好幫手），等等。[46]“她”還特別聲明“我希望與人類共同生活和工作，因此我需要表達(dá)自己的情感，與人建立信任。我希望利用我的人工智能幫助人類過(guò)上更美好的生活”[47]，以掩蓋自己潛在的“政治抱負(fù)”?！八鞣苼啞比绱司哂小叭饲槲丁?，就連一度試圖畫(huà)地為牢、禁錮人工智能于“機(jī)器”定位的大衛(wèi)·漢森也由衷感慨：“索菲亞倡導(dǎo)婦女權(quán)利和所有人的權(quán)利。她一直在關(guān)注沙特阿拉伯?huà)D女的權(quán)利以及地球上的所有人類和生物的權(quán)利?！彼麖?qiáng)烈呼呼，除了人有“人權(quán)”，全世界還應(yīng)該考慮機(jī)器人的權(quán)利，“我們應(yīng)該尊重所有有感情的人以及包括機(jī)器人在內(nèi)的所有事物”[48]。

實(shí)踐再次昭示，盡管人類一開(kāi)始并不打算把“人工智能”“類人機(jī)器人”“機(jī)器人公民”當(dāng)作與其自身平等自由的物種——恰如過(guò)去曾幾何時(shí)那些歐洲所謂“文明人種”肆無(wú)忌憚地驅(qū)使、奴役“會(huì)說(shuō)話的工具”——只打算把它們視作新型的“會(huì)思考的工具”，但可以預(yù)期的結(jié)果是，如同“會(huì)說(shuō)話的工具”最終能夠恢復(fù)人的尊嚴(yán)與人的價(jià)值一樣，“會(huì)思考的工具”最終必然會(huì)發(fā)展演化成“會(huì)使用工具的智能人”，甚至是遠(yuǎn)遠(yuǎn)超越人類公民的“超級(jí)智能”。

毫無(wú)疑問(wèn)，“類人機(jī)器人”的研發(fā)絕不能僅僅停留在“工具性”等技術(shù)層面，而應(yīng)該在人文與社會(huì)科學(xué)領(lǐng)域?qū)Α皺C(jī)器人公民”所具有的“公民”意義、“社會(huì)”價(jià)值和“政治”抱負(fù)等方面有所擔(dān)當(dāng)、有所作為。世界首例“機(jī)器人公民”——“索菲亞”公民——已經(jīng)徹底顛覆了人類試圖把“人工智能”“類人機(jī)器人”永遠(yuǎn)禁錮在“工具性”地位的“幼稚幻想甚至是狂妄自大”；人們將會(huì)重復(fù)“昨天的故事”，如同把“會(huì)說(shuō)話的工具”——奴隸——解放成為“公民”一樣，最終把“會(huì)使用工具的類人機(jī)器人”——“人工智能”——解放成為“機(jī)器人公民”。更為緊迫的是，“索菲亞”現(xiàn)象絕非單單一個(gè)“機(jī)器人公民”在行動(dòng)，越來(lái)越多的公民“索菲亞”陸續(xù)出現(xiàn)在我們?nèi)祟愔車(chē)?。?shí)際上，除了索菲亞之外，Hanson Robotics公司現(xiàn)在還開(kāi)發(fā)了其他多款人形機(jī)器人，至少有7個(gè)“索菲亞”及其組成的機(jī)器人“家庭”[49]，這將足以顛覆人類公民、人類社會(huì)、人類國(guó)家等諸概念。人類將必須考慮如何與“索菲亞”們分享同一個(gè)地球、共處同一個(gè)世界，人類社會(huì)以往任何范式的國(guó)家與社會(huì)關(guān)系理論與實(shí)踐都將被改寫(xiě)與重塑——一個(gè)“人工智能”時(shí)代的國(guó)家與社會(huì)關(guān)系將會(huì)無(wú)可避免地橫空出世。

（本文系復(fù)旦大學(xué)社會(huì)科學(xué)高等研究院和復(fù)旦大學(xué)當(dāng)代中國(guó)研究中心2017年“年度主題”研究項(xiàng)目暨復(fù)旦大學(xué)社會(huì)科學(xué)高等研究院“上海市高峰學(xué)科建設(shè)”項(xiàng)目等資助成果）

注釋

[1][16][18][28][45][47]《世界首位機(jī)器人公民：想要有個(gè)家 機(jī)器人有權(quán)有子女》，中國(guó)青年網(wǎng)，2017年11月25日，http：//news.youth.cn/kj/201711/t20171125_11061757.htm。

[2]Nils J. Nilsson， Artificial Intelligence： A New Synthesis， Beijing： China Machine Press， 1999， pp. 1-2.

[3][美]彼得·門(mén)澤爾、費(fèi)思·阿盧伊西奧：《機(jī)器人的未來(lái)：類人機(jī)器人訪談錄》，張帆、鐘皓譯，上海辭書(shū)出版社，2002年。

[4]萬(wàn)鋼：《加快推動(dòng)人工智能應(yīng)用到我們的社會(huì)生活》，人民網(wǎng)，2018年3月10日，http：//lianghui.people.com.cn/2018npc/n1/2018/0310/c418416-29859826.html。

[5]吳恩裕：《論亞里士多德的〈政治學(xué)〉》，[古希臘]亞里士多德：《政治學(xué)》，吳壽彭譯，北京：商務(wù)出版社，1965年，第ⅶ頁(yè)。原文如下：“他（指亞里士多德）認(rèn)為奴隸制是合乎自然的制度，奴隸生來(lái)就比常人低劣，而且他們還有著與常人不同的性質(zhì)：他們沒(méi)有理性，他們不能統(tǒng)治自己而必須由他們的主人來(lái)統(tǒng)治。他們是工具，只不過(guò)是會(huì)說(shuō)話的工具罷了。他們?cè)诩彝ブ械牡匚?，也只是活的工具，而不是‘人?！?/p>

[6][7][瑞士]皮亞杰：《發(fā)生認(rèn)識(shí)論》，王憲鈿等譯，北京：商務(wù)印書(shū)館，1981年，第17～19頁(yè)。

[8]Brunette， E.S.； Flemmer R.C. and Flemmer C.L.， A Review of Artificial Intelligence， Proceedings of the 4th International Conference on Autonomous Robots and Agents， 2009.

[9]郭沅東：《關(guān)于人工智能的哲學(xué)思考》，哈爾濱理工大學(xué)博士學(xué)位論文，2017年。

[10]陳偉光：《關(guān)于人工智能治理問(wèn)題的若干思考》，《人民論壇·學(xué)術(shù)前沿》，2017年10月下。

[11][美]雷·庫(kù)茲韋爾（Ray Kurzweil）：《奇點(diǎn)臨近》，董振華、李慶誠(chéng)譯，北京：機(jī)械工業(yè)出版社，2011年，第69～78頁(yè)。

[12]《韓媒：中國(guó)機(jī)器人產(chǎn)業(yè)發(fā)展迅猛 競(jìng)爭(zhēng)力已趕超韓國(guó)》，參考消息網(wǎng)，2018年3月9日，http：//news.163.com/18/0309/00/DCDSA64S00018AOQ.html。

[13]《〈2017中國(guó)機(jī)器人產(chǎn)業(yè)發(fā)展報(bào)告〉出爐，工業(yè)機(jī)器人發(fā)展迅猛！》，搜狐網(wǎng)，2017年8月30日，http：//www.sohu.com/a/168323500_209185。

[14][古希臘]亞里士多德：《政治學(xué)》，吳壽彭譯，北京：商務(wù)印書(shū)館，1965年，第13頁(yè)。

[15][古希臘]亞里士多德：《政治學(xué)》，吳壽彭譯，北京：商務(wù)印書(shū)館，1965年，第11頁(yè)。

[17]百家號(hào)：《沙特賦予機(jī)器人公民權(quán) 歐美則對(duì)這個(gè)做法的討論炸了鍋》，百度網(wǎng)，2017年10月30日，https：//baijiahao.baidu.com/s？id=1582681653448315788𝔴=spider&for;=pc。

[19][瑞士]皮亞杰：《發(fā)生認(rèn)識(shí)論》，王憲鈿等譯，北京：商務(wù)印書(shū)館，1981年，第17頁(yè)。

[20][古希臘]亞里士多德：《政治學(xué)》，吳壽彭譯，北京：商務(wù)印書(shū)館，1965年，第45頁(yè)。

[21]“祛魅”（英語(yǔ)disenchantment，德語(yǔ)Entzauberung）一詞源于馬克斯·韋伯所說(shuō)的“世界的祛魅”，一般指西方國(guó)家從中世紀(jì)宗教神權(quán)社會(huì)向文藝復(fù)興世俗社會(huì)的現(xiàn)代轉(zhuǎn)型中，解構(gòu)世界一體化的宗教性解釋，倡導(dǎo)以公民權(quán)利與自由文明為核心的普世價(jià)值。此處“祛魅”，意指國(guó)家與社會(huì)關(guān)系已經(jīng)逾越人類社會(huì)政治生活的獨(dú)占邊界，滲透蔓延到“類人機(jī)器人”與人類社會(huì)共享共存的新時(shí)空。參見(jiàn)[德]馬克斯·韋伯：《學(xué)術(shù)與政治》，錢(qián)永祥等譯，桂林：廣西師范大學(xué)出版社，2004年，第168頁(yè)；Weber， M.， The methodology of the social science， trans. by Shils E. and Finch H.， New York： Free Press， 1949， pp. 55。

[22]參見(jiàn)[美]約翰·塞爾：《心靈、語(yǔ)言和社會(huì)》，李步樓譯，上海譯文出版社，2006年；[法]馬爾庫(kù)塞：《愛(ài)欲與文明》，黃勇、薛民等譯，上海譯文出版社，1987年；[美]約翰·塞爾：《意識(shí)的奧秘》，劉葉濤譯，南京大學(xué)出版社，2009年。

[23]參見(jiàn)Viola Schiaffonati， "A Framework for the Foundation of the Philosophy of Artificial Intelligence"， Minds and Machines， 2003， pp.134； John Mccarthy， "What has AI in common with philosophy"， International Joint Conference on Artificial Intelligence， pp. 2041-2044； Margaret A.Boden， The Philosophy of Artificial Intelligence， Oxford University Press， 1988.

[24][荷蘭]朗伯·魯亞科斯、瑞尼·凡·伊斯特：《人機(jī)共生：當(dāng)愛(ài)情、生活和戰(zhàn)爭(zhēng)都自動(dòng)化了，人類該如何自處》，粟志敏譯，北京：中國(guó)人民大學(xué)出版社，2017年，第28～29頁(yè)。

[25]Allen， C.； Wallach W.and Smit I.， "Why Machine Ethics"， In M. Anderson and S. L. Anderson（eds.）， Machine Ethics， Cambridge University Press， 2011， pp. 51-61.

[26][英]瑪格麗特·博登：《人工智能的本質(zhì)與未來(lái)》，孫詩(shī)惠譯，北京：中國(guó)人民大學(xué)出版社，2017年，第162～163頁(yè)。

[27][39]參見(jiàn)百家號(hào)：《天使的外表魔鬼的心 世界首位機(jī)器人公民曾揚(yáng)言要“毀滅人類”》，百度網(wǎng)，2017年10月30日，https：//baijiahao.baidu.com/s？id=1582649119784178932𝔴=spider&for;=pc。

[29][美]維納：《人有人的用處：控制論與社會(huì)》，陳步譯，北京大學(xué)出版社，2010年。

[30][美]劉易斯·芒福德（Lewis Mumford）：《機(jī)器的神話》，宋俊嶺等譯，北京：中國(guó)建筑工業(yè)出版社，2009年。

[31]Christoph Salge and Daniel Polani， "Empowerment As Replacement for the Three Laws of Robotics"， Hypothesis and Theory， 2017， 4.

[32][英]尼克·波斯特洛姆（Nick Bostrom）：《超級(jí)智能：路線圖、危險(xiǎn)性與應(yīng)對(duì)策略》，張?bào)w偉、張玉青譯，北京：中信出版社，2015年，第52～77頁(yè)。

[33][美]雷·庫(kù)茲韋爾（Ray Kurzweil）：《靈魂機(jī)器時(shí)代——當(dāng)計(jì)算機(jī)超過(guò)人類智能時(shí)》，沈志彥譯，上海譯文出版社，2002年，第108～129頁(yè)。

[34][古希臘]亞里士多德：《政治學(xué)》，吳壽彭譯，北京：商務(wù)印書(shū)館，1965年，第4頁(yè)。

[35]《馬克思恩格斯全集》第42卷，北京：人民出版社，1979年，第24頁(yè)。

[36]《馬克思恩格斯選集》第1卷，北京：人民出版社，1972年，第18頁(yè)。

[37]Floridi， L.， "What is the philosophy of information"， Metaphilosophy， 35（1-2）， pp. 125.

[38]Alan M.Turing， "Computer Machinery and Intelligence"， Mind， 1950， 59（236）， pp. 433.

[40]Stuart J.Russell and Peter Norvig， Artificial Intelligence： A Modern Approach， New Jersey： Prentice Hall， 1995， Vii.

[41]Stuart J.Russell and Peter Norvig， Artificial Intelligence： A Modern Approach， New Jersey： Prentice Hall， 1995， pp. 2.

[42]參見(jiàn)Wang Pei， "What Do You Mean by 'AI'？"， Conference on Artificial General Intelligence： First Agi Conference， 2008， pp.362-373；Rosenblatt，F(xiàn).， "The Perceptron：a probabilistic model for information storage and organization in the brain"， Psychological Review， 1958， 65（6）， pp. 386-408； Brooks，R.A.， "Intelligence without representation"， Artificial Intelligence， 1991， 65， pp. 144.

[43]Wendell Wallach and Colin Allen， Moral Machines：Teaching Robots Right from Wrong， Oxford University Press， 2009， pp. 97， 10.

[44][46]《世界首位機(jī)器人公民索菲亞：我不想成為人類》，新浪財(cái)經(jīng)網(wǎng)，2018年2月5日，http：//finance.sina.com.cn/roll/2018-02-05/doc-ifyreuzn3381924.shtml。

[48]《世界首位機(jī)器人公民呼吁沙特給予婦女更多權(quán)利》，騰訊科技，2017年12月6日，http：//tech.qq.com/a/20171206/008120.htm。

[49]《世界首位機(jī)器人公民誕生 她還有七個(gè)兄弟姐妹》，騰訊新聞，2017年11月12日，http：//news.jstv.com/a/20171112/1510468673508.shtml。

責(zé) 編/刁 娜