陶鋒

2018年，人工智能發(fā)展持續(xù)火熱，自2017年我國(guó)發(fā)布《新一代人工智能發(fā)展規(guī)劃》以來，如何健康發(fā)展人工智能已上升至國(guó)家戰(zhàn)略層面。人工智能與思維、腦科學(xué)以及未來哲學(xué)的跨學(xué)科研究，人工智能在法律、經(jīng)濟(jì)、管理等社會(huì)層面的應(yīng)用，成為專家學(xué)者的重要議題。

2018年有數(shù)百本人工智能書籍被譯介至國(guó)內(nèi)，除了技術(shù)類書籍外，人工智能人文類圖書亦引發(fā)重大反響。筆者經(jīng)過梳理，發(fā)現(xiàn)這些書討論的議題主要集中在兩點(diǎn)：技術(shù)爆炸與社會(huì)變革。因此，筆者借助《奇點(diǎn)臨近》中的關(guān)鍵詞“奇點(diǎn)”以及經(jīng)濟(jì)學(xué)中常用的熱詞“拐點(diǎn)”來概述這兩方面：人工智能技術(shù)的出現(xiàn)，將預(yù)示著人類科技史上的重要革命，這種變革前所未有，影響力輕則如弗洛里迪（L.Floridi）所說的人類科技史上“第四次革命”，重則如庫(kù)茲韋爾（R.Kurzweil）所構(gòu)想的是宇宙發(fā)展的新紀(jì)元，因此將之稱作“奇點(diǎn)”；而這種技術(shù)上的改變，引發(fā)了社會(huì)全方位的改變，決定了未來社會(huì)的發(fā)展方向，所以視為“拐點(diǎn)”，不過這個(gè)拐點(diǎn)，是預(yù)示人類社會(huì)繼續(xù)高奏凱歌、一路昂揚(yáng)向上，還是就此墮入塵埃，直至土崩瓦解呢？不同的學(xué)者眾說紛紜。

一、技術(shù)奇點(diǎn)：人工智能革命

（一）奇點(diǎn)

“奇點(diǎn)”（Singularity）說的倡導(dǎo)者，著名“技術(shù)家”（筆者稱之為技術(shù)家，因?yàn)樗麄儾粌H有技術(shù)專家的知識(shí)和實(shí)踐，而且能像哲學(xué)家、科學(xué)家那樣上升至“技術(shù)思維”層面，如圖靈、明斯基、霍金斯、泰格馬克等人）庫(kù)茲韋爾在《奇點(diǎn)臨近》中為人們描繪了這樣的藍(lán)圖：“奇點(diǎn)是未來的一個(gè)時(shí)期：技術(shù)變革的節(jié)奏如此迅速，其所帶來的影響如此深遠(yuǎn)，人類的生活將不可避免地發(fā)生改變。雖然這個(gè)紀(jì)元既不是烏托邦，也不是反烏托邦的形態(tài)，但它將人類的信仰轉(zhuǎn)變?yōu)樯芾斫獾囊饬x；將事物模式本身轉(zhuǎn)變?yōu)槿祟惿难h(huán)，甚至包含死亡本身?！盵1]庫(kù)茲韋爾在書中提到，根據(jù)“加速回歸定律”，人類的技術(shù)將呈現(xiàn)指數(shù)級(jí)的增長(zhǎng)，最重要的三項(xiàng)技術(shù)：遺傳學(xué)、納米技術(shù)、機(jī)器人技術(shù)將會(huì)徹底改變?nèi)祟惿鐣?huì)、人類本身以及宇宙的智慧形式。他將宇宙發(fā)展分為“六大紀(jì)元”，我們即將來到的第五紀(jì)元是“技術(shù)和人類智慧的融合”的紀(jì)元，而未來，人類將超越身體和大腦的限制，將人類智慧在整個(gè)宇宙中進(jìn)行廣泛傳播。庫(kù)茲韋爾根據(jù)現(xiàn)有的醫(yī)學(xué)、遺傳學(xué)、生物學(xué)和納米機(jī)器人的進(jìn)步，推測(cè)未來的人類可以更長(zhǎng)壽而且更健康。而最重要的是，人類的大腦可以被掃描出來，甚至可以上傳到網(wǎng)絡(luò)或者計(jì)算設(shè)備中，人的身體和大腦可以被替換，人成為機(jī)器人，或者說，機(jī)器人成為人。[1]288

筆者認(rèn)為，庫(kù)茲韋爾的奇點(diǎn)說一方面指出了未來人類生命和智慧的發(fā)展方向，即不斷地超越自身的生物有限性，另一方面，則高估了技術(shù)發(fā)展的速度以及忽視了自然的制衡力量。庫(kù)茲韋爾提出的技術(shù)增長(zhǎng)是指數(shù)級(jí)的，這是根據(jù)計(jì)算機(jī)硬件的摩爾定律，但是硬件的增長(zhǎng)不代表著軟件（包括人類的思維革新）的增長(zhǎng)也是指數(shù)級(jí)的。庫(kù)茲韋爾曾預(yù)測(cè)，到2020年，納米機(jī)器人時(shí)代就會(huì)來臨，人類大腦的全面掃描也能實(shí)現(xiàn)，然而，迄今為止，這項(xiàng)技術(shù)的實(shí)現(xiàn)還是遙遙無期。技術(shù)的革新，除了自身硬件的發(fā)展，還受制于生產(chǎn)力、社會(huì)關(guān)系、經(jīng)濟(jì)基礎(chǔ)與思維范式的影響。試想，我們將核設(shè)施放在非洲某個(gè)不發(fā)達(dá)國(guó)家，他們能夠保證技術(shù)的順利運(yùn)轉(zhuǎn)嗎？

沃爾什（T.Walsh）在《人工智能會(huì)取代人類嗎？智能時(shí)代的人類未來》中提出了針鋒相對(duì)的觀點(diǎn)，他認(rèn)為，“不會(huì)出現(xiàn)有些人所說的那種失控性指數(shù)增長(zhǎng)。更大的可能是，我們要靠自己給思考機(jī)器的大部分智能編程。這將需要大量的科學(xué)和工程工作”[2]。也就是說，機(jī)器人永遠(yuǎn)無法脫離人類而獨(dú)立。他從邏輯、技術(shù)限制等方面批判了“人類本位說”“元智能說”“收益遞減說”“智能限度說”“計(jì)算復(fù)雜性說”以及“模擬大腦”的可能性。沃爾什說，我們要制造智能機(jī)器，但是我們的任何智能理論，可能都無法解釋智能。那么，技術(shù)家們是怎么看待“智能”的呢？

（二）智能

“人工智能”（ArtificialIntelligence）一詞，引發(fā)了哲學(xué)家與人工智能專家的長(zhǎng)久爭(zhēng)論。哲學(xué)家的重點(diǎn)是“智能”，智能被理解成人類特有的認(rèn)識(shí)能力，是心靈中最重要的能力，有時(shí)候也可以理解成整個(gè)心靈?？档聦⑿囊鈾C(jī)能分成知、情、意三種，而其中的認(rèn)知機(jī)能包括知性、判斷力和理性。機(jī)器若要具有智能，它還需要有意識(shí)，甚至有自我意志，才能算是真正地?fù)碛兄悄堋?/p>

而智能在科學(xué)家和技術(shù)家那里則有不同的理解，他們大多將智能視作一種解決難題的能力。如泰格馬克（M.Tegmark）在其著作《生命3.0：人工智能時(shí)代，人類的進(jìn)化與重生》中提出了一種意義寬泛的智能觀點(diǎn)：智能就是“完成復(fù)雜目標(biāo)的能力”[3]。智能和計(jì)算、信息一樣，是沒有物質(zhì)形態(tài)的，“因?yàn)樗?dú)立于物質(zhì)層面而存在”。這種獨(dú)立性意味著，“人工智能是可能實(shí)現(xiàn)的：智能的出現(xiàn)并不一定需要血肉或碳原子”[3]88。泰格馬克作為物理學(xué)家，進(jìn)一步從整個(gè)宏觀物理層面，來解讀目標(biāo)一詞。他認(rèn)為目標(biāo)與事物混亂的程度———“熵”聯(lián)系緊密。大自然的目標(biāo)就是服從“耗散驅(qū)動(dòng)適應(yīng)性效應(yīng)”（dissipationdrivenadaptation），而生命則是通過復(fù)制來幫助更好的實(shí)現(xiàn)耗散，走向死亡（熱寂）[3]388。機(jī)器當(dāng)然也具有目標(biāo)，我們?cè)O(shè)計(jì)機(jī)器時(shí)，就是讓其具有“目標(biāo)導(dǎo)向行為”的。從這一點(diǎn)看，機(jī)器似乎是具有智能的。對(duì)于強(qiáng)人工智能的標(biāo)志———意識(shí)，泰格馬克認(rèn)為，意識(shí)如同氣體、液體這些物理形態(tài)，是粒子組合在一起的“涌現(xiàn)”[3]397，意識(shí)是一種信息整合度，是在部分之和統(tǒng)一為整體的過程中出現(xiàn)的。意識(shí)和智能一樣，也是一種獨(dú)立于物質(zhì)的模式。既然如此，人工智能也是能夠擁有意識(shí)的。更進(jìn)一步，自由意志就是一種“目標(biāo)導(dǎo)向的決策行為”，而這種決策行為是可以從無目標(biāo)的確定性物理定律中涌現(xiàn)出來的，“任何有意識(shí)的決策者，無論是生物還是人造物，都會(huì)在主觀上感覺自己是擁有自由意志的”[3]411。泰格馬克將智能、意識(shí)與目標(biāo)緊密聯(lián)系在一起，而機(jī)器之所以具有目標(biāo)，是因?yàn)樗鼈兪侨嗽O(shè)計(jì)的，所以，人工智能時(shí)代的到來，意味著人類進(jìn)入了生命的3.0階段。生命在1.0階段（生物階段），軟件和硬件純粹靠進(jìn)化得來，而在2.0（文化階段），硬件仍然是進(jìn)化而來的，而軟件很大程度上靠的是設(shè)計(jì)，3.0階段（科技階段）通過人工智能以及人機(jī)結(jié)合技術(shù)，實(shí)現(xiàn)了對(duì)硬件和軟件的全部設(shè)計(jì)，人終于可以超越進(jìn)化了。筆者認(rèn)為，泰格馬克所謂意識(shí)源于涌現(xiàn)，并不能推論出意識(shí)就能從機(jī)器中涌現(xiàn)出來，而智能獨(dú)立于物質(zhì)，也不能斷言硅原子就能替代碳原子，從而產(chǎn)生智能。

和泰格馬克對(duì)智能的定義相似，“人工智能之父”明斯基（M.Minsky）在《心智社會(huì)：從細(xì)胞到人工智能，人類思維的優(yōu)雅解讀》中將智能定義為：“我們的思維中包含著一些程序，讓我們可以去解決那些我們認(rèn)為困難的問題。”[4]技術(shù)家的特點(diǎn)在于他們的“技術(shù)思維”，即從實(shí)際的技術(shù)實(shí)踐的角度，來推出普遍之原理。這也無怪乎明斯基將智能視作可以分解的程序，他反對(duì)那種認(rèn)為整體大于部分之和的“完型論”和整體論，因?yàn)檫@樣，就無法通過分解程序來完成智能的分析了。我將明斯基稱作“人工智能屆的康德”，因?yàn)椋涂档露际菍⑷说恼J(rèn)識(shí)能力視作可分析的，并且具有先天的認(rèn)識(shí)框架，因此，人們也可以為人工智能預(yù)先設(shè)計(jì)這種框架，這體現(xiàn)了早期的人工智能系統(tǒng)———符號(hào)主義的思路。明斯基區(qū)分了智能體與智能組，智能組是多個(gè)智能體的層級(jí)組合，而智能體本身是不具備智能的。目標(biāo)也可以分成若干子目標(biāo)，然后分別予以解決。人類的學(xué)習(xí)方式包含四個(gè)部分：統(tǒng)一框架（uniframing）、積累（accumulating）、重新構(gòu)想（reformulating）和轉(zhuǎn)變框架（transframing）?？蚣芾碚撌敲魉够岢鰜淼闹匾枷耄覀兛梢钥吹?，明斯基的知識(shí)框架，與康德所建立的認(rèn)識(shí)結(jié)構(gòu)有異曲同工之妙。而對(duì)于情感，明斯基則干脆認(rèn)為就是一種思維，情感有助于我們實(shí)現(xiàn)某種目的。明斯基將情緒、感情（愛、恨）、感受（口渴等）、欲望（性欲）等統(tǒng)統(tǒng)視作情感，并將之與目標(biāo)實(shí)現(xiàn)聯(lián)系起來，這顯然混淆了情緒、欲望、感受與情感的區(qū)別。而且有一些情感也未必就是與目標(biāo)相關(guān)的，比如康德所說的審美快感———一種形式的快感。

從此書中，我們可以看到典型的“技術(shù)思維”，明斯基常常舉出一些機(jī)器實(shí)例，如“差異發(fā)動(dòng)機(jī)”，來說明機(jī)器是如何解決目標(biāo)、意圖等問題的，從機(jī)器推向人的認(rèn)識(shí)功能，“差異發(fā)動(dòng)機(jī)的說法是目前為止關(guān)于目標(biāo)、目的或者意圖最有用的概念”[4]84。他還將大腦視作擁有傳感器、存儲(chǔ)器和識(shí)別器的智能裝置，等等?！凹夹g(shù)思維”非常有力地論證了人類的部分智能確實(shí)可以用程序模擬出來，筆者認(rèn)為，這種技術(shù)思維可以很好地補(bǔ)充哲學(xué)思維的不足。但是，必須指出的是，明斯基的書中，也出現(xiàn)了不少邏輯論證的謬誤，如他將創(chuàng)造性簡(jiǎn)單地視作不可預(yù)測(cè)性，還從兒童畫的例子，來論證兒童思維與成人思維的不同。另外，由于成書于20世紀(jì)80年代，明斯基未能重視基于統(tǒng)計(jì)的機(jī)器學(xué)習(xí)技術(shù)，因此更難以預(yù)想到大數(shù)據(jù)和深度學(xué)習(xí)讓人工智能走向了第三次復(fù)興。

另一位人工智能專家萊韋斯克（H.Levesque）則以明斯基等人的思想為基礎(chǔ)，在《人工智能的進(jìn)化：計(jì)算機(jī)思維離人類心智還有多遠(yuǎn)》一書中提出了符號(hào)主義人工智能與連接主義人工智能結(jié)合的想法。連接主義人工智能以神經(jīng)網(wǎng)絡(luò)為主，目前最熱門的深度學(xué)習(xí)技術(shù)是其最新的發(fā)展，萊韋斯克稱之為“自適應(yīng)機(jī)器學(xué)習(xí)”（Adaptivemachine learning，AML），符號(hào)主義人工智能又被稱作“老式人工智能”（Good oldfashionedAI），前者是建立在大量數(shù)據(jù)分析的基礎(chǔ)之上的，而GOFAI重視的是常識(shí)設(shè)置。作者指出了基于統(tǒng)計(jì)學(xué)人工智能的兩個(gè)缺憾：首先是不能像人一樣通過語(yǔ)言學(xué)習(xí)。作者認(rèn)為人類學(xué)習(xí)方式有二，其一是通過經(jīng)驗(yàn)學(xué)習(xí)，反復(fù)接受經(jīng)驗(yàn)數(shù)據(jù)并多次試驗(yàn)；其二是通過語(yǔ)言學(xué)習(xí)，“這種情況可能只需要收看或收聽一次相關(guān)數(shù)據(jù)就能達(dá)到目的”[5]。后者與AML的統(tǒng)計(jì)數(shù)據(jù)不相關(guān)。其次，對(duì)于統(tǒng)計(jì)學(xué)上的“長(zhǎng)尾理論”———也即是罕見的個(gè)體事件，卻會(huì)對(duì)整體產(chǎn)生巨大的影響，AML對(duì)此也束手無策。

萊韋斯克引用了另一位人工智能奠基人麥卡錫（J.McCarthy）的觀點(diǎn)，認(rèn)為人工智能“只有成為基于知識(shí)的系統(tǒng)，才能達(dá)到人類智能行為的級(jí)別”。[5]143這種“知識(shí)表示假設(shè)”意味著我們只能事先給機(jī)器實(shí)現(xiàn)設(shè)計(jì)好知識(shí)，使得它具有一定的知識(shí)框架，才有可能具有哲學(xué)家丹尼特（D.Dannet）所說的廣義的意向性———“意向立場(chǎng)”，這是一種復(fù)雜系統(tǒng)（包括生物和非生物的系統(tǒng)）所持有的意向態(tài)度。也只有將智能系統(tǒng)建立在知識(shí)基礎(chǔ)上，才能回答“圖靈測(cè)試”的強(qiáng)化版———威諾格拉德模式問題（WinogradSchemaquestions），讓機(jī)器能夠回答一些只有基于常識(shí)和語(yǔ)境才能解答的問題。作者所說的AML和GOFAI的爭(zhēng)論類似于古典哲學(xué)認(rèn)識(shí)論上的經(jīng)驗(yàn)主義與唯理主義的爭(zhēng)論。與康德調(diào)和這兩種爭(zhēng)論一樣，作者也認(rèn)為AML的統(tǒng)計(jì)學(xué)方法和GOFAI的知識(shí)基礎(chǔ)應(yīng)該統(tǒng)一起來。筆者由此想到，國(guó)內(nèi)人工智能專家鐘義信也提出，只有將三大人工智能流派（符號(hào)主義、連接主義與行為主義）統(tǒng)一起來，才能實(shí)現(xiàn)真正的強(qiáng)人工智能。

（三）超級(jí)智能的威脅與應(yīng)對(duì)

除了在研究流派上劃分人工智能，人工智能還可以按照智能程度來劃分。如哲學(xué)家卡普蘭（J.Kaplan）在《人人都應(yīng)該知道的人工智能》中提到了最廣為人知的兩種觀點(diǎn)：“弱人工智能”觀點(diǎn)與“強(qiáng)人工智能”觀點(diǎn)。他認(rèn)為，強(qiáng)人工智能觀就是認(rèn)為機(jī)器能夠并最終一定會(huì)擁有心靈，而弱人工智能觀點(diǎn)則認(rèn)為機(jī)器只是在模擬而不是復(fù)制真正的智能。[6]沃爾什則做了如下區(qū)分：“弱人工智能、通用人工智能、超級(jí)智能和強(qiáng)人工智能”[2]79，他認(rèn)為通用人工智能并不一定“擁有思維、具備意識(shí)”，這只是通向超級(jí)智能的一個(gè)過渡階段。蔡斯（C.Chace）在《人工智能革命：超級(jí)智能時(shí)代的人類命運(yùn)》中將人工智能分為“狹義人工智能”與“廣義人工智能”（超級(jí)智能）。書中提到，博斯特羅姆（N.Bostrom）在其《超級(jí)智能》（2014）一書中提出了實(shí)現(xiàn)“超級(jí)智能”的因素，即“創(chuàng)新力量”與“頑固系數(shù)”之比。博斯特羅姆還針對(duì)人工智能專家做了一項(xiàng)關(guān)于“廣義人工智能”實(shí)現(xiàn)時(shí)間的調(diào)查，認(rèn)為在2022年之前實(shí)現(xiàn)的專家占比為10%，2040年之前的為50%，2075年之前的為90%。[7]也就是說，絕大部分的專家都認(rèn)為等于或超過人類智能水平的人工智能是可以實(shí)現(xiàn)的。

筆者綜合各種意見，將之分作：弱人工智能、強(qiáng)人工智能和超級(jí)智能（superintelligence）。弱人工智能指的是能在半監(jiān)督或者無監(jiān)督的情況下完成人類預(yù)先指定的某一類任務(wù)，如工業(yè)機(jī)器人、無人飛機(jī)、掃地機(jī)器人等。強(qiáng)人工智能可以進(jìn)一步分成通用人工智能與有意識(shí)的人工智能。通用人工智能可以通過自主學(xué)習(xí)，完成多種類的任務(wù)。但是自主學(xué)習(xí)和完成通用任務(wù)不等同于產(chǎn)生了意識(shí)，所以如果真的要像人類智能一樣，還必須對(duì)自己所做的事情產(chǎn)生意識(shí)以及反思，這并非如明斯基所說的對(duì)之前思維的記憶，也不是像泰德馬克所說的“目標(biāo)導(dǎo)向的決策行為”，而是包含了一種情感、抉擇、價(jià)值以及文化在內(nèi)的主動(dòng)行為。是從機(jī)器自身出發(fā)思考問題，而非僅僅被動(dòng)地執(zhí)行人類預(yù)設(shè)的程序。而超級(jí)智能則是對(duì)強(qiáng)人工智能的超越，它意味著人工智能已經(jīng)徹底超越它的創(chuàng)造者———人類的束縛，走向了自主、自由和自律的階段，所以，不必在“超級(jí)智能”中加上“人工”二字了。

大部分人工智能人文類著作中，都寫到了強(qiáng)人工智能以及超級(jí)智能實(shí)現(xiàn)時(shí)可能會(huì)對(duì)人們帶來的威脅，并提出了一些限制的想法。筆者將之劃分為三種：（1）預(yù)防：預(yù)先置入倫理和規(guī)范、建立“友好人工智能”的標(biāo)準(zhǔn)；（2）監(jiān)管：嚴(yán)格監(jiān)督與控制人工智能；（3）放棄：放棄一些會(huì)對(duì)人類帶來不可逆的、普遍威脅的技術(shù)。

“友好的人工智能”（Friendly AI）最早由尤德考斯基（Eliezer Yudkowsky）提出，“是指目標(biāo)與我們相一致的人工智能”[3]345。而人工智能是否能和人類目標(biāo)一致，即使一致，是否可能以犧牲他人為代價(jià)或者以不道德的方法去實(shí)現(xiàn)目標(biāo)，這都是我們要預(yù)先考慮的問題。因此泰格馬克在《生命3.0》一書中提出，我們要預(yù)先考慮如何讓人工智能與我們的目標(biāo)保持一致，他提出了三點(diǎn)：（1）讓人工智能學(xué)習(xí)我們的目標(biāo)：如讓機(jī)器從行為中推斷目標(biāo)，以及逆向增強(qiáng)學(xué)習(xí)，即通過觀察人類的行為，來構(gòu)建關(guān)于人類偏好的模型。（2）讓人工智能接受我們的目標(biāo)。（3）讓人工智能保持我們的目標(biāo)：給它們?cè)O(shè)置更精確的目標(biāo)；讓超級(jí)智能能夠像人一樣能“自省”。泰格馬克將友好人工智能的基礎(chǔ)建立在目標(biāo)的基礎(chǔ)上，那就很難避免用功利主義與計(jì)算主義去闡釋目標(biāo)和倫理，他甚至設(shè)想可以定義一種“善之函數(shù)”，去量化宇宙中的善，并將之賦予超級(jí)智能。

說到對(duì)超級(jí)智能的監(jiān)管，我們首先會(huì)面臨一個(gè)問題，即如何判定超級(jí)智能的誕生。超級(jí)智能的出現(xiàn)，可能是悄無聲息的，它可能并非某個(gè)科學(xué)家和團(tuán)體的發(fā)明，而是世界上所有關(guān)聯(lián)的人工智能統(tǒng)一起來實(shí)現(xiàn)的。因此，我們似乎很難真正地界定超級(jí)智能，所以我們也最好提前預(yù)防和約束。蔡司在其書中提到了切斷人工智能與網(wǎng)絡(luò)以及物理世界的聯(lián)系，即造出一種“神諭人工智能”，這種智能所有的通信都得由人類來控制。此外還有一種變種———“神燈人工智能”，這種人工智能平時(shí)處于休眠狀態(tài)，只有人類守衛(wèi)者才可以喚醒它，它與前者的區(qū)別在于，它是有自主權(quán)的[7]157-158。蔡司的這種設(shè)想有些像人類對(duì)于核武器的控制，但是問題在于：一方面，超級(jí)智能的出現(xiàn)是不可控的，另一方面，不能聯(lián)網(wǎng)的超級(jí)智能就不是超級(jí)智能，人類也沒有必要發(fā)明它。

還要一種可能則是放棄某些技術(shù)，庫(kù)茲韋爾在《奇點(diǎn)臨近》中認(rèn)為，我們要做的不是“廣泛放棄”，而是“細(xì)粒度放棄”，即放棄那些會(huì)對(duì)人類產(chǎn)生不可逆的、巨大危險(xiǎn)的技術(shù)。筆者認(rèn)為，人類應(yīng)該對(duì)自己的權(quán)利和理性進(jìn)行限制，任何科學(xué)技術(shù)都不能做出損害人類共同體利益的事情，我們對(duì)于人工智能技術(shù)，應(yīng)該像醫(yī)學(xué)界對(duì)人類生殖基因編輯技術(shù)那樣，進(jìn)行嚴(yán)格限制，并達(dá)成有效共識(shí)和建立監(jiān)督機(jī)制。

一些科學(xué)家、技術(shù)家和哲學(xué)家在此方面已經(jīng)做了卓有成效的倡導(dǎo)和呼吁，如沃爾什的“禁止自主武器”倡議書，而泰格馬克等人的公開信，其主旨是“創(chuàng)造目標(biāo)有益的智能，而不是漫無目標(biāo)的智能”[3]46。

不論庫(kù)茲韋爾描述的奇點(diǎn)是否真的會(huì)到來，人工智能技術(shù)的變革已經(jīng)引發(fā)了廣大專家的思考，我們面對(duì)的不僅僅是智能的挑戰(zhàn)和技術(shù)的威脅，還要面對(duì)技術(shù)所引發(fā)的社會(huì)變革，我們所處的社會(huì)在加速發(fā)展，經(jīng)濟(jì)、法律和社會(huì)的新問題也將層出不窮。

二、社會(huì)拐點(diǎn)：人工智能帶來的社會(huì)大變革

（一）倫理、法律的變革與挑戰(zhàn)

人工智能首先帶來的是倫理問題，這可以分為兩方面，一方面就是人工智能本身能否成為道德主體，是否應(yīng)該自主負(fù)起責(zé)任？另一方面則是人工智能給社會(huì)、給人們帶來什么新的倫理和法律問題。

我們先來看看第一個(gè)問題。人工智能的出現(xiàn)，使得人類第一次面對(duì)自己創(chuàng)造的智能體———一種非生命的智能體。對(duì)于非生命的事物，如機(jī)器、程序，我們需要考慮它們的感受嗎？需要對(duì)之加以同情的理解嗎？我們是否有權(quán)力賦予或者剝奪它們的自主權(quán)和存在權(quán)？有人認(rèn)為，對(duì)非生命的物質(zhì)，我們自然無須考慮它們的感受，正如我們不會(huì)覺得燒烤的爐石會(huì)值得同情，因?yàn)樗鼈儧]有意識(shí)、感受不到痛苦，至少表達(dá)不出任何的痛苦?？墒?，如果人工智能程序可以表達(dá)痛苦呢？我們是否就應(yīng)該對(duì)之同情？這些問題我們現(xiàn)在很難回答，不過倫理學(xué)和法律專家從責(zé)任倫理的角度出發(fā)，能更現(xiàn)實(shí)地審視人工智能的道德和法律主體地位。

倫理學(xué)教授卡普蘭在其《人工智能時(shí)代》和《人人都應(yīng)該知道的人工智能》兩本書中，希望能預(yù)先明確人工智能的責(zé)任范圍以及為其編入“遵紀(jì)守法”程序。在前書中，他提到了，人工智能和動(dòng)物一樣，都可以成為道德的主體，因?yàn)槌蔀榈赖轮黧w只需要“能依照公認(rèn)的道德標(biāo)準(zhǔn)來控制自己的行為，并且評(píng)估行為的影響”[8]。在后一本書中，他詳細(xì)地分析了現(xiàn)代法律中“公司”（Corporation的詞根“corpus”原意為“身體”）和“法人”（Artificial Person）兩個(gè)概念。他認(rèn)為，可以援引公司法，讓智能機(jī)器成為有限責(zé)任的道德和法律主體。但是，在成為責(zé)任主體之前，需要讓人工智能擁有財(cái)產(chǎn)，“只要這些實(shí)體擁有財(cái)產(chǎn)權(quán)，那它們就可以通過許多方式變得完全獨(dú)立，甚至可以在法律上完全擁有自己”[6]132。也只有這樣，才能讓人工智能真正為自己的行為負(fù)責(zé)，比如為受損方支付賠償金，也才能為置入倫理和法律規(guī)范找到現(xiàn)實(shí)的基礎(chǔ)，否則可能只是空中樓閣。在《誰為機(jī)器人的行為負(fù)責(zé)》一書中，作者帕加羅（U.Pagallo）從法律的角度探討了“機(jī)器人”的代理地位，他比較了古羅馬奴隸和現(xiàn)代機(jī)器人，認(rèn)為兩者有相似之處，即部分具有商品屬性，部分具有人格屬性。作者認(rèn)為“一些類型的機(jī)器人不應(yīng)當(dāng)僅被視為人類互動(dòng)的簡(jiǎn)單工具，而是法律領(lǐng)域中的適格代理人”[9]?？ㄆ仗m等人從法律中尋找人工智能的主體意義頗有啟發(fā)意義，我們知道，康德也從法律中借用了不少概念，如“領(lǐng)地”“立法”“合法性”，等等。從認(rèn)識(shí)論上較難解決的人工智能的“主體”性可否從法律和道德上的主體來推出呢？也就是說，我們可否去約定人工智能的“主體”和“意識(shí)”內(nèi)涵呢？這是很值得探討的問題。

另一方面，人工智能技術(shù)的運(yùn)用，是否會(huì)給人們帶來新的不公平？例如隱私權(quán)問題，人工智能的視覺識(shí)別、語(yǔ)音識(shí)別、智能廣告和深度學(xué)習(xí)等技術(shù)需要大數(shù)據(jù)，但是這些數(shù)據(jù)的采集往往并未經(jīng)過當(dāng)事人的同意，例如特朗普在競(jìng)選美國(guó)總統(tǒng)時(shí)，就通過推特、臉書上的公開數(shù)據(jù)，精準(zhǔn)描述選民，然后向其推送競(jìng)選郵件。不過，也正如李開復(fù)所說的，中國(guó)人工智能技術(shù)的快速發(fā)展，需要感謝國(guó)人對(duì)于一些涉及隱私行為的寬容甚至放棄部分隱私權(quán)。所以，我們并不能一味地套用已經(jīng)成熟的法律去規(guī)范新興的領(lǐng)域，我們只能去加以權(quán)衡，是否犧牲某些權(quán)利以便享受更優(yōu)質(zhì)的服務(wù)。人工智能技術(shù)在文化藝術(shù)領(lǐng)域的應(yīng)用，還引發(fā)了著作權(quán)和知識(shí)產(chǎn)權(quán)問題，比如在2017年，微軟小冰公開宣布放棄聯(lián)合詩(shī)作的版權(quán)，以避免可能引發(fā)的著作權(quán)糾紛。在《機(jī)器人是人嗎》一書中，作者韋弗（J.Weaver）詳細(xì)論述了機(jī)器人程序如Siri聲音的知識(shí)產(chǎn)權(quán)、創(chuàng)作的媒體內(nèi)容的著作權(quán)方面的問題。作者認(rèn)為應(yīng)該區(qū)分人類對(duì)人工智能創(chuàng)作程序的介入程度，如果該程序一直需要人的介入，那么人工智能當(dāng)然不具備知識(shí)產(chǎn)權(quán)；如果相反，程序無須人的持續(xù)介入，人工智能可以擁有知識(shí)產(chǎn)權(quán)，是作者或發(fā)明者，但是人工智能程序的創(chuàng)作者仍然能享有一定期限的知識(shí)產(chǎn)權(quán)[10]。另外，人工智能創(chuàng)作需要有大量的學(xué)習(xí)數(shù)據(jù)———人類的作品。筆者曾經(jīng)對(duì)清華未來實(shí)驗(yàn)室的人工智能國(guó)畫程序“道子”提出疑問，如果該程序?qū)W習(xí)的數(shù)據(jù)全部都是齊白石的畫作，那么依此生產(chǎn)出來的齊白石風(fēng)格的繪畫，版權(quán)是否應(yīng)該與齊白石所共有？這種機(jī)器的風(fēng)格模仿如何與人類的模仿學(xué)習(xí)區(qū)分開來？

這種不公平還在于，人工智能可能會(huì)強(qiáng)化人類社會(huì)中的某些偏見和歧視，甚至引發(fā)人類的信任危機(jī)等。如沃爾什在其書中提出的“算法歧視”“性別歧視”“危險(xiǎn)信號(hào)”，等等。他說：“算法有可能有意無意地歧視特定社會(huì)群體。”[2]93雖然算法作為一種工具，本身并無歧視性，但是強(qiáng)化了社會(huì)中已有的歧視，如算法的設(shè)計(jì)者以及客戶的歧視，以及算法所搜集的大數(shù)據(jù)隱含了數(shù)據(jù)提供者固有的歧視。另外，人工智能研究員以男性居多，只有10%是女性，這本身也帶來了性別歧視的可能。而筆者觀察，在市面上流行的人工智能程序，如天貓精靈、小米音箱、微軟小冰等，其身份定位和聲音都以女性為主，這是否也是一種性別歧視呢？“危險(xiǎn)信號(hào)”則涉及了人工智能非人類身份的識(shí)別，在自動(dòng)駕駛、服務(wù)機(jī)器人以及文本創(chuàng)作程序中，應(yīng)該避免人工智能偽裝成人，否則不僅會(huì)讓人與機(jī)器產(chǎn)生信任沖突，也會(huì)波及人與人之間的信任。所以，社會(huì)與企業(yè)應(yīng)該達(dá)成廣泛共識(shí)，讓人工智能在行動(dòng)時(shí)，事先表明自己的身份，以避免產(chǎn)生信任危機(jī)。

當(dāng)然，人工智能不僅會(huì)帶來倫理、法律的挑戰(zhàn)，它們也可以在法律行業(yè)中起到簡(jiǎn)化法律程序、高效援引法律條例甚至更加公平地協(xié)助判決等作用?？ㄆ仗m認(rèn)為“人工智能將重塑法律執(zhí)業(yè)”，例如，人工智能可以協(xié)助客戶填寫煩瑣的法律表格，還可以幫助律師審閱材料，而最重要的改變?cè)谟凇皩?duì)法律本身、關(guān)于法律應(yīng)該如何表達(dá)、傳播、管理和修訂”[6]120。而法學(xué)教授們顯然思考得更為深遠(yuǎn)，在《人工智能與法律的對(duì)話》中作者提到，我們已經(jīng)進(jìn)入到一個(gè)“自動(dòng)化執(zhí)法”的階段，這是有助于節(jié)省人力成本，提高執(zhí)法效率的。當(dāng)然，機(jī)器人的自動(dòng)化執(zhí)法應(yīng)該加以嚴(yán)格的限制，主要還是在預(yù)判———“利用源自無人值守傳感器的信息輸入在算法上確定犯罪行為已經(jīng)或即將發(fā)生”、阻止并報(bào)警———“通知相應(yīng)執(zhí)法機(jī)關(guān)或施加某種懲罰之類的響應(yīng)式行動(dòng)”這些輔助性行為上[10]241。筆者認(rèn)為，如果將機(jī)器和程序作為輔助工具，來增進(jìn)人類執(zhí)法的自動(dòng)化流程，這是很好的方法，可以避免一些因人情和關(guān)系造成的徇私枉法。但是，如果將審查、判決和執(zhí)行全部交給人工智能，恐怕就會(huì)出現(xiàn)對(duì)特例、對(duì)個(gè)體的損害，而保護(hù)每一個(gè)個(gè)體是法律的基本原則，所以法律仍然需要人來做最終的裁決。

（二）重新定義我們的生活

人工智能正在重新定義我們的生活，我們生活在一條流動(dòng)之河中，不同的是，這條河已經(jīng)成了數(shù)據(jù)之河、電子之河和信息之河。李彥宏在《智能革命》一書中，從搜索引擎公司創(chuàng)始人的角度，強(qiáng)調(diào)了數(shù)據(jù)在我們現(xiàn)代生活中的重要作用。他認(rèn)為：數(shù)據(jù)是有生命的，它像是我們身體的自然延伸，甚至能夠組成一個(gè)數(shù)據(jù)形式存在的“我”。李彥宏分析了“大數(shù)據(jù)”的幾個(gè)特點(diǎn)：（1）大，這是一種與傳統(tǒng)數(shù)據(jù)的幾何量級(jí)的差別。（2）多維度，“多維度代表著大數(shù)據(jù)可以對(duì)一個(gè)事物進(jìn)行多方位的描述，從而更準(zhǔn)確”[12]。（3）處理非機(jī)構(gòu)化數(shù)據(jù)的能力，比如圖片、視頻、音頻，等等。（4）具有時(shí)間性和流動(dòng)性。（5）無盡的重復(fù)，這為通過窮舉法來總結(jié)規(guī)律帶來了可能。

除了萬物皆數(shù)據(jù)之外，我們這個(gè)時(shí)代還有一個(gè)特點(diǎn)———就是萬物互聯(lián)。這不僅僅指的是互聯(lián)網(wǎng)，還意指新出現(xiàn)的物聯(lián)網(wǎng)等。發(fā)明家侯賽因（A.Husain）在《終極智能：感知機(jī)器與人工智能的未來》一書中，重點(diǎn)講述了人工智能技術(shù)對(duì)傳統(tǒng)醫(yī)療行業(yè)、網(wǎng)絡(luò)安全、戰(zhàn)爭(zhēng)、金融市場(chǎng)、未來建筑以及人類思維的改變和革新。他結(jié)合了物聯(lián)網(wǎng)和人工智能的發(fā)展，探討了人工智能在萬物聯(lián)網(wǎng)的時(shí)代，如何保障網(wǎng)絡(luò)與城市安全。人工智能還可以在金融行業(yè)如區(qū)塊鏈和比特幣領(lǐng)域，保障交易的安全性、決策的可解釋性和行為的透明化。但是，作者也指出，人工智能以及網(wǎng)絡(luò)技術(shù)的大發(fā)展，會(huì)導(dǎo)致“思維入侵”，這是在意識(shí)層面的網(wǎng)絡(luò)安全問題。資本、政治等會(huì)通過網(wǎng)絡(luò)、廣告、郵件等來影響甚至控制人的“快速思維”，這利用了一種“錨定效應(yīng)”。所以，作者提出，“只有人工智能可以保護(hù)我們免受人工智能的傷害”[13]。他認(rèn)為，我們應(yīng)該發(fā)展“人工智能盾牌”技術(shù)，去“抵御其他更加定制化的‘思維入侵方式”。[13]180-181

人工智能技術(shù)帶來的另一個(gè)重要影響就是———萬物皆可復(fù)制，特別是商品復(fù)制、技術(shù)復(fù)制和勞動(dòng)力復(fù)制，極大地改變了我們的經(jīng)濟(jì)和管理方式。例如人工智能程序CAN可以生成大量繪畫作品，詩(shī)歌程序小冰和九歌可以生成無窮無盡的詩(shī)歌。這意味著我們能免費(fèi)或者以極低的價(jià)格獲取藝術(shù)品。所以在《AI極簡(jiǎn)經(jīng)濟(jì)學(xué)》中，作者認(rèn)為，“人工智能在經(jīng)濟(jì)上的重要意義，正是因?yàn)樗鼤?huì)讓重要的東西變得廉價(jià)”[14]。預(yù)測(cè)和決策是經(jīng)濟(jì)學(xué)中重要的行為，人工智能技術(shù)會(huì)使得預(yù)測(cè)變得更加廉價(jià)。廉價(jià)還在于人工智能在生產(chǎn)流程和企業(yè)管理中，大大簡(jiǎn)化了、標(biāo)準(zhǔn)化了程序?！稒C(jī)器與人：埃森哲論新人工智能》一書論述了工廠車間、后臺(tái)管理、研發(fā)和創(chuàng)新領(lǐng)域以及市場(chǎng)中的人工智能。與以往工業(yè)化生產(chǎn)中的大型機(jī)械不同，現(xiàn)代機(jī)器人更加小巧、靈活，能夠更好地實(shí)現(xiàn)人機(jī)協(xié)作，“這些新型的協(xié)作機(jī)器人具備感知、理解、行動(dòng)和學(xué)習(xí)能力”[15]。人和機(jī)器不再是嵌入在一種純粹的標(biāo)準(zhǔn)化工業(yè)流程，而是形成人機(jī)協(xié)作、構(gòu)建有機(jī)的團(tuán)隊(duì)。因此，作者將第三次企業(yè)轉(zhuǎn)型的標(biāo)志稱作“自適應(yīng)流程”，與之前的標(biāo)準(zhǔn)化流程、自動(dòng)化流程不同，自適應(yīng)流程有著相當(dāng)大的彈性，這是因?yàn)椤白赃m應(yīng)能力是由實(shí)時(shí)數(shù)據(jù)，而非預(yù)先設(shè)定的一系列步驟驅(qū)動(dòng)的”。[15]XXVIII

除了對(duì)生產(chǎn)流程的影響，人工智能還會(huì)改變未來的工作方式，一些簡(jiǎn)單的、勞動(dòng)型的工作可以被機(jī)器所取代，而另一些需要?jiǎng)?chuàng)造力的、情感的以及決策性的工作，則還需要人來掌控。李開復(fù)在《AI未來》中對(duì)未來人類的就業(yè)風(fēng)險(xiǎn)進(jìn)行了詳盡分類和評(píng)估，他不僅區(qū)分了體力勞動(dòng)和腦力勞動(dòng)，還區(qū)分了“強(qiáng)社交”和“弱社交”、“低技能、結(jié)構(gòu)化”與“高技能、非結(jié)構(gòu)化”、“優(yōu)化型”與“創(chuàng)意決策型”等不同結(jié)構(gòu)[16]。李開復(fù)憂心忡忡地指出，人工智能不僅會(huì)帶來全球的財(cái)富分配不均，還會(huì)給個(gè)人帶來危機(jī)：失去人生意義和目標(biāo)，因失業(yè)帶來的心理疾病會(huì)大幅上升。由此，筆者認(rèn)為，我們亟須解決的人工智能危機(jī)并非人工“智能”上的威脅，而是在技術(shù)高速發(fā)展下，產(chǎn)業(yè)結(jié)構(gòu)失衡、就業(yè)危機(jī)以及財(cái)富分配問題。人工智能不僅將改變我們的生活，還將改變我們的生存！

（三）中國(guó)話語(yǔ)

如何在人工智能時(shí)代，跟上全球發(fā)展的腳步，這是一個(gè)國(guó)家戰(zhàn)略問題。在人工智能的技術(shù)發(fā)展節(jié)點(diǎn)上，中國(guó)錯(cuò)過了人工智能第一次、第二發(fā)展浪潮。作為一個(gè)技術(shù)后發(fā)國(guó)家，我們要吸取前人的經(jīng)驗(yàn)教訓(xùn)，避免走彎路；同時(shí)，我們也要建立自己的話語(yǔ)和思想體系，在中國(guó)現(xiàn)有的經(jīng)濟(jì)、社會(huì)環(huán)境中發(fā)展人工智能技術(shù)。李開復(fù)在《AI未來》中指出，技術(shù)革新已經(jīng)從發(fā)明走向了實(shí)干的年代、從專家走向了數(shù)據(jù)的時(shí)代。中國(guó)的新興企業(yè)競(jìng)爭(zhēng)力很強(qiáng)，政府政策也非常支持；此外，中國(guó)有著世界上最多的網(wǎng)民，國(guó)人具有相當(dāng)大的容忍力和開放程度，這使得人工智能有了落地生根的土壤。李彥宏的《智能革命》則從百度公司的現(xiàn)實(shí)經(jīng)驗(yàn)出發(fā)，論證了中國(guó)網(wǎng)絡(luò)數(shù)據(jù)的發(fā)達(dá)，從三個(gè)方面促進(jìn)了人工智能技術(shù)：（1）自然語(yǔ)言處理與搜索引擎。自然語(yǔ)言處理是人機(jī)對(duì)話以及搜索的基礎(chǔ)，而搜索引擎是連接信息、擴(kuò)大交流、共同學(xué)習(xí)的鑰匙；自然語(yǔ)言處理需要大量的語(yǔ)言、語(yǔ)音等數(shù)據(jù)。（2）大腦計(jì)劃。如今歐美各國(guó)都在開展智能大腦計(jì)劃，百度公司也在開發(fā)“百度大腦”。正是由于“視”“聽”“讀寫”等感知系統(tǒng)的技術(shù)突破，人工智能才能迎來李開復(fù)所說的“實(shí)體世界智能化”（perceptionAI）。百度大腦是“物料層”與“應(yīng)用層”的中間環(huán)節(jié)，而豐富的大數(shù)據(jù)和開放的計(jì)算、代碼平臺(tái)，是百度大腦的基礎(chǔ)[12]108。（3）無人駕駛。中國(guó)有著世界上最大的無人機(jī)公司———大疆公司，百度也在實(shí)驗(yàn)著其無人駕駛汽車技術(shù)，無人駕駛的基礎(chǔ)就在于交通、路面、氣候等數(shù)據(jù)的收集。

除了在人工智能技術(shù)上的中國(guó)制造之外，深度挖掘中國(guó)傳統(tǒng)文化和社會(huì)習(xí)俗中對(duì)人工智能發(fā)展有益的方面，也是建立中國(guó)話語(yǔ)重要的一環(huán)。比如我們之前提到的為人工智能置入倫理規(guī)范，中國(guó)古代的倫理思想如儒家的“己所不欲，勿施于人”就可以作為各種倫理規(guī)范的基礎(chǔ)。莊子思想中的“齊物”“大化”的萬物平等思想，或許能成為賦予人工智能自主權(quán)的思想基礎(chǔ)，而莊子對(duì)“機(jī)械”“機(jī)心”的警惕和批判，也可以引發(fā)我們對(duì)技術(shù)奇點(diǎn)論的反思。從《列子》中的“偃師造人”和傳說中的“木牛流馬”故事，也可以一窺中國(guó)傳統(tǒng)文化中對(duì)“機(jī)器人”“自動(dòng)化”的浪漫想象，中國(guó)古代并不缺乏人工智能和機(jī)器人發(fā)展的思想資源，只是缺少科技發(fā)展和創(chuàng)新的實(shí)際動(dòng)力和環(huán)境。而這種動(dòng)力，在當(dāng)今的中國(guó)，正是上至管理者、下至老百姓的眾心所向。

綜上，從2018年的十幾本有代表性的著作中，可以一窺學(xué)者、專家們對(duì)人工智能發(fā)展的重視和擔(dān)憂。人工智能技術(shù)的加速發(fā)展，使我們不得不思考技術(shù)與社會(huì)、智能與意識(shí)、功利與倫理、人性與人工等問題，也促使我們必須跳出“人類中心主義”“生物中心主義”的限制，從“后人類”“超生命”的角度去看待人工智能。當(dāng)我們看著自己創(chuàng)造的事物，日漸成長(zhǎng)，有一天可能吞下意識(shí)的“蘋果”時(shí)，我們是將它們驅(qū)逐出伊甸園，任其野蠻生長(zhǎng)，走向毀滅，還是提前切斷網(wǎng)絡(luò)、拔掉電源，盡早放棄？恐怕我們很難舍棄人工智能技術(shù)給我們帶來的各種生活便利和社會(huì)進(jìn)步。那么，我們也不得不咽下被機(jī)器所取代的苦果，忍受被機(jī)器打敗的屈辱。技術(shù)的奇點(diǎn)必然帶來社會(huì)的拐點(diǎn)，人工智能革命也必然造成社會(huì)的大變革，我們準(zhǔn)備好了嗎？

這些著作大部分是科學(xué)家、技術(shù)家、法學(xué)家和經(jīng)濟(jì)學(xué)家所寫，里面不乏真知灼見，引人思考。但同時(shí)我也想指出，在人工智能圖書汗牛充棟的時(shí)期，我們寫作者也要反思，不要成為“人工智能上帝”的“經(jīng)院哲學(xué)家”，人工智能人文類圖書中充斥著太多的想象和預(yù)言，我們無須過多討論一個(gè)筆尖能站多少位天使的無聊問題，而應(yīng)該關(guān)注更多的現(xiàn)實(shí)問題，更多地了解技術(shù)發(fā)展情況，人文學(xué)者應(yīng)該多與技術(shù)專家進(jìn)行交流溝通，學(xué)習(xí)理解“技術(shù)思維”，才能避免夏蟲語(yǔ)冰的情況出現(xiàn)。

[基金項(xiàng)目：國(guó)家社科基金一般項(xiàng)目：“阿多諾哲學(xué)中的語(yǔ)言思想研究”項(xiàng)目階段性成果，編號(hào)：16BZX118，階段性成果。]

注釋

[1]R.Kurzweil.奇點(diǎn)臨近[M].李慶誠(chéng)，董振華，田源譯.北京：機(jī)械工業(yè)出版社，2018.1.

[2]托比·沃爾什.人工智能會(huì)取代人類嗎[M].閭佳譯.北京：北京聯(lián)合出版公司，2018：105.

[3]邁克斯·泰格馬克.生命3.0：人工智能時(shí)代，人類的進(jìn)化與重生[M].汪婕舒譯.杭州：浙江教育出版社，2018：67.

[4]馬文·明斯基.心智社會(huì)：從細(xì)胞到人工智能，人類思維的優(yōu)雅解讀[M].任楠譯.北京：機(jī)械工業(yè)出版社，2018：73.

[5]赫克托·萊韋斯克.人工智能的進(jìn)化：計(jì)算機(jī)思維離人類心智還有多遠(yuǎn)[M].王佩譯.北京：中信出版社，2018：85.

[6]杰瑞·卡普蘭.人人都應(yīng)該知道的人工智能[M].汪婕舒譯.杭州：浙江人民出版社，2018：86.

[7]卡魯姆·蔡斯.人工智能革命：超級(jí)智能時(shí)代的人類命運(yùn)[M].張堯然譯.北京：機(jī)械工業(yè)出版社，2018：97.

[8]杰瑞·卡普蘭.人工智能時(shí)代[M].李盼譯.杭州：浙江人民出版社，2016：78.

[9]烏戈·帕加羅.誰為機(jī)器人的行為負(fù)責(zé)[M].張卉林，王黎黎譯.上海：上海人民出版社，2018：9.

[10]約翰·韋弗.機(jī)器人是人嗎[M].劉海安，徐鐵英，向秦譯.上海：上海人民出版社，2018：212.

[11]瑞恩·卡洛，邁克爾·弗魯姆金，伊恩·克爾.人工智能與法律的對(duì)話[M].陳吉棟，董惠敏，杭穎穎譯.上海：上海人民出版社，2018.

[12]李彥宏.智能革命：迎接人工智能時(shí)代的社會(huì)、經(jīng)濟(jì)與文化變革[M].北京：中信出版集團(tuán)，2017：75.

[13]阿米爾·侯賽因.終極智能：感知機(jī)器與人工智能的未來[M].賽迪研究院專家組譯.北京：中信出版集團(tuán)，2018：178.

[14]阿杰伊·阿格拉沃爾，喬舒亞·甘斯，阿維·戈德法布.AI極簡(jiǎn)經(jīng)濟(jì)學(xué)[M].閭佳譯.長(zhǎng)沙：湖南科技出版社，2018：12.

[15]保羅·多爾蒂，詹姆斯·威爾遜.機(jī)器與人：埃森哲論新人工智能[M].趙亞男譯.北京：中信出版集團(tuán)，2018：XXIV.

[16]李開復(fù).AI·未來[M].杭州：浙江人民出版社，2018：182.

作者單位：南開大學(xué)哲學(xué)院