梁衛(wèi)國(guó)

（中央民族大學(xué)哲學(xué)與宗教學(xué)學(xué)院，北京 100081）

在眾多的科幻作品中，人類與人工智能相處的倫理問題常常讓人揪心。在《終結(jié)者》（The Terminator）中，最新型終結(jié)者T-X美麗俊秀、身手毒辣，以能量形式存在各種網(wǎng)絡(luò)之中；她能隨心所欲地變成各種形態(tài)，并能操控其他機(jī)器人，連最先進(jìn)的液態(tài)金屬T-800也無法逃脫她的操控?！逗诳偷蹏?guó)》（The Matrix）中，在22世紀(jì)，人類生活在機(jī)器所虛構(gòu)的世界之中，肉體和精神都被超級(jí)機(jī)器控制。電影《機(jī)械姬》（Ex Machina）中，人類造出的機(jī)器人具有獨(dú)立意識(shí)，利用感情成功欺騙人類，逃離實(shí)驗(yàn)室，并試圖毀滅人類。從邏輯上看，科幻片的構(gòu)思似乎無懈可擊。一方面，人工智能的確具有人類所沒有的無限壽命、超強(qiáng)的計(jì)算能力及其他高級(jí)智能。另一方面，在現(xiàn)實(shí)生活中，人類似乎無處可逃：街頭車站涌現(xiàn)大量的手機(jī)“低頭族”，網(wǎng)絡(luò)社交評(píng)分無處不在，狂熱青年忙著賺虛擬貨幣。導(dǎo)致人類無處可逃的是高速運(yùn)轉(zhuǎn)的人工智能，人工智能正把虛擬世界與物理世界的邊界變得愈加模糊。這些巨變使得一些科學(xué)家認(rèn)為，奇點(diǎn)來臨后，科幻片中人類被追殺、毀滅的景象就會(huì)變成現(xiàn)實(shí)。那么，人工智能和科幻作品有何關(guān)系？如何看待人類和人工智能相處的倫理問題？面對(duì)這種倫理問題，人類應(yīng)該何去何從？

1 人工智能和科幻作品的關(guān)系

1.1 科幻作品為人工智能倫理研究提供可能

如果從傳統(tǒng)的學(xué)術(shù)譜系上看，人工智能主要指“一門研究如何構(gòu)造智能機(jī)器(智能計(jì)算機(jī))或智能系統(tǒng)，使它能模擬、延伸、擴(kuò)展人類智能的學(xué)科”[1]，屬于計(jì)算機(jī)科學(xué)的分支學(xué)科，是自然科學(xué)的范疇；“科幻作品是關(guān)注科技發(fā)展對(duì)人類社會(huì)自身發(fā)展及科學(xué)文化等更深層面的精神發(fā)展的影響的作品，是結(jié)合現(xiàn)代科技成就與文學(xué)意境的產(chǎn)物”[2]?？苹米髌肥窃诳茖W(xué)技術(shù)的基礎(chǔ)上衍生出來的文學(xué)亞門類，是社會(huì)科學(xué)的范疇；那么，就人工智能和科幻作品純粹學(xué)術(shù)研究的內(nèi)部結(jié)構(gòu)、運(yùn)作機(jī)制、學(xué)術(shù)傳統(tǒng)及代際傳承方式來講，兩者相去甚遠(yuǎn)，并在各自獨(dú)立的領(lǐng)域遵循著自身發(fā)展規(guī)律進(jìn)行著生滅變化。目前，關(guān)于兩者分別研究的自然科學(xué)界和社會(huì)科學(xué)界有著較多的學(xué)術(shù)成果，這些學(xué)術(shù)成果也為人工智能倫理研究奠定了重要基礎(chǔ)。對(duì)普通公眾來講，人工智能倫理問題專業(yè)性較強(qiáng)等，因而理解起來有一定的難度。

如果從科學(xué)普及的角度看，當(dāng)公眾在被《終結(jié)者》《黑客帝國(guó)》等這些科幻作品勾畫出的未來而興奮或擔(dān)憂時(shí)，我們就會(huì)發(fā)現(xiàn)，從科幻作品的維度來研究人工智能倫理問題或許是個(gè)不錯(cuò)的視角。這是因?yàn)?，人工智能作為科技的一種，常常也是科幻作品的內(nèi)容。這些作品中反映的人工智能倫理問題為人工智能倫理的現(xiàn)實(shí)研究提供了某種可能。這種可能性也可以從人工智能倫理概念和科幻作品的概念中得以證明。雖然，目前人工智能倫理作為一個(gè)相對(duì)較新的事物在學(xué)術(shù)研究領(lǐng)域并沒有一個(gè)公認(rèn)的統(tǒng)一的確定概念，但我們不妨先從其上位概念科技倫理嘗試進(jìn)行定義?？萍紓惱淼亩x是，“人們?cè)趶氖驴萍紕?chuàng)新活動(dòng)時(shí)對(duì)于社會(huì)、自然關(guān)系的思想與行為準(zhǔn)則,它規(guī)定了科學(xué)家及其共同體所應(yīng)恪守的價(jià)值觀念”[3]。根據(jù)科技倫理這個(gè)定義，我們可以將人工智能倫理定義為“人們?cè)趶氖聶C(jī)器人、語言識(shí)別、圖像識(shí)別、自然語言處理和專家系統(tǒng)等人工智能創(chuàng)新活動(dòng)時(shí)對(duì)于人類社會(huì)、自然關(guān)系的思想和行為準(zhǔn)則”，一般地，這個(gè)準(zhǔn)則的核心問題是如何落實(shí)人工智能的責(zé)任問題。這種“對(duì)于人類社會(huì)、自然關(guān)系的思想和行為準(zhǔn)則”與科幻作品是關(guān)注科技發(fā)展“對(duì)人類社會(huì)自身發(fā)展及科學(xué)文化等”影響的作品，存在一定重合關(guān)系。這個(gè)重合的主要因素就是，人工智能倫理和科幻作品都關(guān)注科學(xué)技術(shù)對(duì)人類未來社會(huì)（生產(chǎn)、生活、生存等）的影響。只不過，相對(duì)來說，倫理問題關(guān)注的這個(gè)未來現(xiàn)實(shí)性更多些，而科幻作品關(guān)注的這個(gè)未來幻想性更多些。如果反映人工智能倫理和科幻作品兩者本質(zhì)屬性的概念有一定的融合因素，那么，從科幻作品中去探尋人工智能倫理就存在可能。

科幻作品為人工智能倫理問題（關(guān)注如何處理人類與自然的思想和行為的準(zhǔn)則問題）研究提供可能，還可以從具體的實(shí)例進(jìn)行論證。

比如，在科幻電影《超驗(yàn)駭客》（Transcendence）（2014）中，天才科學(xué)家威爾·卡斯特死后，其妻子和好友將其意識(shí)與計(jì)算機(jī)網(wǎng)絡(luò)相連接，最終進(jìn)化出了一個(gè)超級(jí)人工智能：人工智能被賦予人的自我意識(shí)和獨(dú)立思維；計(jì)算機(jī)網(wǎng)絡(luò)替代了威爾由碳原子組成的身體而成為人工智能的硬件部分。這個(gè)超級(jí)人工智能給人類帶來巨大的益處：挽救絕癥患者，凈化空氣和水源，將沙漠變?yōu)榫G洲。這些益處也是現(xiàn)實(shí)生活中人類生理數(shù)據(jù)庫(kù)和醫(yī)療算法、空氣清潔器和水源治理系統(tǒng)、機(jī)器造林技術(shù)等人工智能的邏輯推演。正是人工智能這些現(xiàn)實(shí)為《超驗(yàn)駭客》提供了創(chuàng)作的素材，這些現(xiàn)實(shí)也使得人們更容易相信這個(gè)科幻作品所塑造的事實(shí)。

《超驗(yàn)駭客》的科技特征并沒有就人工智能的合理邏輯推演止步，而是遠(yuǎn)遠(yuǎn)超出現(xiàn)實(shí)。當(dāng)威爾的獨(dú)立意識(shí)侵入電腦成為人工智能的一部分，彌補(bǔ)了電腦沒有自我認(rèn)知與缺乏價(jià)值判斷的缺陷時(shí)，科技就變成了“上帝”（威爾的意識(shí)+計(jì)算機(jī)網(wǎng)絡(luò)）。這個(gè)全能全知的“上帝”可以進(jìn)入任何一臺(tái)電腦系統(tǒng)獲取信息，可以監(jiān)控世界上任何一個(gè)角落；它洞燭先機(jī)，并且發(fā)明新的納米技術(shù)——修復(fù)受損細(xì)胞、增強(qiáng)再生能力、治愈一切殘疾人。但是，這個(gè)互利雙贏的人工智能（“上帝”）也導(dǎo)致一些政府首腦和科學(xué)家產(chǎn)生恐懼感：如果一些人可以永生，如果生態(tài)可以快速修復(fù)，那么人類生存的意義何在？正是在這種恐懼心理下，一些科技部隊(duì)開始對(duì)這個(gè)超級(jí)人工智能進(jìn)行圍剿和屠殺，但詭異的是，被人類的炮火等武器破壞后的設(shè)備和人員經(jīng)由納米技術(shù)又迅速恢復(fù)原樣——只要設(shè)備和人員處于無線聯(lián)網(wǎng)狀態(tài)（只要有空氣、水、土等介質(zhì)存在），人類就難以戰(zhàn)勝這個(gè)人工智能。

劇情的發(fā)展似乎進(jìn)入了一個(gè)公共悖論：人類的欲求創(chuàng)造出了人工智能，而人工智能又強(qiáng)大到了人類無法控制。何以解決？要么人類滅亡，要么機(jī)器滅亡；要么機(jī)器還是人的工具，要么人類淪為機(jī)器的奴隸。悖論的這四種答案，常常成為人工智能科幻創(chuàng)作的四個(gè)思路，如《迷失的一半》《杰克茜》《吾乃母親》《黑客帝國(guó)》《復(fù)仇者聯(lián)盟2：奧創(chuàng)紀(jì)元》《地球停轉(zhuǎn)之日》《天外魔花》《世界盡頭》等。這些科幻創(chuàng)作與其說是販賣人工智能技術(shù)下人類生存的焦慮，不如說是將人工智能和人類的沖突作為創(chuàng)作基礎(chǔ)，并且在這種人類被人工智能科技滅亡的可能性和必然性中創(chuàng)造永恒話題，不斷牽動(dòng)觀賞者的神經(jīng)：生存還是毀滅？幸運(yùn)的是，《超驗(yàn)駭客》中的威爾是為愛為生的，在聽取了威爾妻子愛的謊言后選擇了自我死亡。最終，影片以愛結(jié)束。

通過上述分析我們可以看出，一方面，人工智能的現(xiàn)實(shí)為科幻作品提供創(chuàng)作素材和科技佐證，人工智能是科幻作品得以實(shí)現(xiàn)的必然；另一方面，科幻作品為人工智能提供未來想象和發(fā)展可能，科幻作品成為人工智能（主要是超級(jí)人工智能）得以實(shí)現(xiàn)的可能。兩者這種復(fù)雜的關(guān)系為我們構(gòu)建起了豐富的精神實(shí)驗(yàn)和感覺體驗(yàn)：相離的研究使得兩者得以向縱深發(fā)展，相交的科幻作品使得二者創(chuàng)造出了色彩斑斕的精神世界。正是在這種復(fù)雜的矛盾統(tǒng)一中，人工智能倫理問題得以展開。

1.2 共時(shí)性中的人工智能倫理問題

除了從人工智能和科幻作品的關(guān)系角度來研究人工智能倫理問題外，我們也可以從人工智能本質(zhì)屬性的概念（共時(shí)性研究）和人工智能的發(fā)展路徑（歷時(shí)性研究）兩個(gè)方面，將人工智能倫理問題的探討推向深入。

從概念上看，目前人工智能的概念有很多。其中比較公認(rèn)的是，人工智能指用機(jī)器(主要指計(jì)算機(jī))實(shí)現(xiàn)人的計(jì)算能力、感知能力、記憶能力、邏輯思維能力等智能活動(dòng)的技術(shù)。人工智能概念最早源于1950年英國(guó)科學(xué)家圖靈提出的“機(jī)器能思考嗎”這個(gè)知名的論題，在這篇《計(jì)算機(jī)器與智能》的論文中，圖靈還提出了實(shí)現(xiàn)機(jī)器思考的心理實(shí)驗(yàn)（是否存在可想象的計(jì)算機(jī)能夠通過一個(gè)混淆人類智能與機(jī)器智能的游戲）。圖靈測(cè)試者指出，如果在5分鐘內(nèi)，一臺(tái)智能機(jī)器不僅能夠順利、正確地給出人類測(cè)試者所要的答案，并且這些答案能夠使超過1/3的人類測(cè)試者認(rèn)為那臺(tái)被測(cè)試的機(jī)器回答的答案就是人類回答的答案，那么，這臺(tái)智能機(jī)器就算通過測(cè)試，即這臺(tái)智能機(jī)器相當(dāng)于擁有人類智能。按照這個(gè)邏輯，要制造一臺(tái)擁有人類智能的機(jī)器，就轉(zhuǎn)化為制造一個(gè)模擬人類童年的大腦機(jī)器，然后再對(duì)它進(jìn)行學(xué)習(xí)英語、數(shù)學(xué)和下棋等教育訓(xùn)練，經(jīng)過訓(xùn)練后的類兒童腦機(jī)器在經(jīng)過場(chǎng)景實(shí)踐學(xué)習(xí)后就可以發(fā)展為成人腦的機(jī)器。

如果，人工智能本質(zhì)上是人造的智能，是機(jī)器對(duì)人智能的模仿，反映在科幻創(chuàng)作中，人工智能的作品也應(yīng)該是在人與機(jī)器的對(duì)立和統(tǒng)一中展開。如果“科學(xué)是作為支撐作品存在的、不可移除的核心線索存在的”[2]，科幻創(chuàng)作的兩個(gè)基本特征是科學(xué)性和幻想性，那么，人工智能題材的科幻創(chuàng)作中作為科學(xué)的一種的人工智能也應(yīng)該是不可移除的核心線索，且也應(yīng)呈現(xiàn)人工智能的科學(xué)性和人工智能的幻想性兩個(gè)基本特征。人工智能的倫理問題也應(yīng)該是從科學(xué)性和幻想性出發(fā)，科學(xué)性構(gòu)建起人工智能倫理求真和確定性的一面，“人工智能不僅意味著前沿科技和高端產(chǎn)業(yè)，未來也能夠廣泛應(yīng)用到解決人類社會(huì)面臨的長(zhǎng)期性挑戰(zhàn)”[4]。而這些技術(shù)性問題可能是自然科學(xué)發(fā)揮作用的地方?；孟胄詷?gòu)建起人工智能倫理中求變和創(chuàng)新性的一面。這些問題可能帶來人文和社會(huì)問題。比如，如何看待人類與機(jī)器的關(guān)系問題；生物化學(xué)方法使人很快得到快樂，那么如何看待人類的痛苦問題；隨著計(jì)算機(jī)的發(fā)展如何看待其帶給人類的失業(yè)問題。

從共時(shí)性研究得出的人工智能倫理需要考慮的科學(xué)性和人文性問題，也可以從關(guān)于人工智能的兩部經(jīng)典小說來說明。人工智能小說《明天的兩面》（Two Faces of Tomorrow）描述了一個(gè)世界，那里的復(fù)雜文明只有一個(gè)全球性的計(jì)算機(jī)網(wǎng)絡(luò)才能控制。這個(gè)超級(jí)計(jì)算機(jī)集合了大量的邏輯程序，但它缺乏常識(shí)，并且它那些基于邏輯的決策開始導(dǎo)致太多致命的突發(fā)事故發(fā)生。研究者擔(dān)心超級(jí)計(jì)算機(jī)可能會(huì)脫離人類的控制，所以他們決定到太空里測(cè)試這臺(tái)計(jì)算機(jī)，如果出現(xiàn)錯(cuò)誤，就可以摧毀它。但是，已經(jīng)產(chǎn)生知覺的電腦很不喜歡這種測(cè)試，故事的矛盾就此展開。

被評(píng)為人工智能優(yōu)秀小說伊恩·班克斯（Iain M.Banks）的《無限異象》（Excession）也是這樣一部作品。小說中描寫的“心智”是超智能的人工智能生物，它們之間的交流像是沒有標(biāo)題的電子郵件，它們也試圖對(duì)人類進(jìn)行統(tǒng)治。很明顯，這兩部小說都是以人類與人工智能的沖突展開敘事，且科學(xué)性都是故事的決定性因素。在筆者搜集到的人工智能作品中，也幾乎沒有只講幻想性而不顧科學(xué)性的作品。

1.3 歷時(shí)性中的人工智能倫理問題

從歷時(shí)性的角度看，人工智能概念被提出100多年來，主導(dǎo)人工智能發(fā)展的指導(dǎo)思想主要有邏輯主義（或稱符號(hào)主義、計(jì)算機(jī)主義或心理主義)，連接主義（生理學(xué)派）和行為主義（或稱進(jìn)化主義或控制學(xué)派）三個(gè)。

邏輯主義（符號(hào)主義）的邏輯起點(diǎn)是，符號(hào)（如數(shù)字、字母甚至服飾顏色等）是人類認(rèn)知的基本元素，用符號(hào)表示的系列運(yùn)算就是人類認(rèn)知事物的過程。物理符號(hào)系統(tǒng)假設(shè)（所有智能行為都等價(jià)于物理符號(hào)系統(tǒng)）和有限合理性原理（如谷歌、百度等使用關(guān)鍵詞進(jìn)行模糊搜索來逐漸得到問題正確答案的計(jì)算檢索過程）是其核心。紐厄爾（Newell） 和尼爾遜（Nilsson）等符號(hào)主義者認(rèn)為，符號(hào)是人類思維的單元，思維是符號(hào)程序化、算法的結(jié)果；人工智能的實(shí)現(xiàn)的路徑就是，在遵守邏輯系統(tǒng)規(guī)則的前提下，給機(jī)器輸入大部分程序，使得機(jī)器通過0、1二進(jìn)制符號(hào)實(shí)現(xiàn)人類的智能。目前，符號(hào)主義是人工智能的主流觀點(diǎn)，并在知識(shí)認(rèn)知、知識(shí)表示等方面取得了重要進(jìn)展。但符號(hào)主義者的局限性在于其線性關(guān)系和排中律的預(yù)設(shè)，即對(duì)智能的模仿主要依據(jù)其代數(shù)學(xué)和數(shù)學(xué)定理的機(jī)器實(shí)現(xiàn)。這為機(jī)器功能劃定了界限，而連接主義的出現(xiàn)一定程度上可以克服此局限。

連接主義的邏輯起點(diǎn)是，思維的基本元素是神經(jīng)元，思維過程是這些大量并行連接的神經(jīng)元的運(yùn)動(dòng)或活動(dòng)。連接主義認(rèn)為，仿照人類神經(jīng)網(wǎng)絡(luò)的運(yùn)行規(guī)則和連接機(jī)制就能形成學(xué)習(xí)算法，按照這些算法制造的機(jī)器就能實(shí)現(xiàn)人工智能。與符號(hào)主義的線性處理相比，分布式存儲(chǔ)和并行協(xié)同處理的實(shí)現(xiàn)方式使得神經(jīng)網(wǎng)絡(luò)理論發(fā)展較快。

行為主義的邏輯起點(diǎn)是控制論和感知-動(dòng)作系統(tǒng)。行為主義認(rèn)為，智能不一定必須用符號(hào)表示，也不一定必須使用仿生學(xué)結(jié)構(gòu)來模仿，智能行為源于主體與環(huán)境的互動(dòng)和變化，即智能主要取決于感知和行動(dòng)。既然，現(xiàn)實(shí)世界是智能行為形成的基礎(chǔ)，那么，人工智能的實(shí)現(xiàn)方式就是制造出一個(gè)模擬人類兒童腦的機(jī)器，之后，讓這個(gè)類兒童腦的機(jī)器像人類的兒童一樣在現(xiàn)實(shí)中給予其教育培訓(xùn)或讓其自我學(xué)習(xí)，從而得到一個(gè)類似人類成年腦的機(jī)器。該觀點(diǎn)主要認(rèn)為，是機(jī)器的自我學(xué)習(xí)造就了人工智能。

既然邏輯主義（符號(hào)主義）、連接主義和行為主義是主導(dǎo)人工智能發(fā)展的主要思想，那么人工智能的科幻創(chuàng)作也應(yīng)該是邏輯主義、連接主義和行為主義三者所決定的人工智能科幻創(chuàng)作。換句話說，人工智能題材的科幻創(chuàng)作可以分為這三種形式的科幻創(chuàng)作。人工智能的倫理也應(yīng)該從這三者中進(jìn)行分析，在符號(hào)主義下，人是符號(hào)的動(dòng)物，人人就會(huì)被標(biāo)簽化，與這種標(biāo)簽相關(guān)的信息就被密集推送給了被標(biāo)簽化的每個(gè)具體的人，這就會(huì)造成信息渠道狹窄的風(fēng)險(xiǎn)（如刻板印象、沉默的螺旋效應(yīng)）——人類創(chuàng)造了工具，工具也創(chuàng)造了人。在連接主義下，人工智能倫理問題可能是對(duì)人類大腦的過度開發(fā)，人與機(jī)器的界限會(huì)日漸模糊，這很可能導(dǎo)致心與芯的競(jìng)爭(zhēng)，最終機(jī)器的智慧可能會(huì)代替人類的智慧。行為主義帶來的倫理可能是超級(jí)人工智能的到來，這會(huì)導(dǎo)致超級(jí)人工智能取代人類的那一天早日到來。

2 人工智能倫理與人類中心主義

2.1 人工智能發(fā)展中人類中心主義的悖論

如果說人工智能為科幻創(chuàng)作提供了必然性的話，那么，科幻創(chuàng)作為人工智能提供了可能性。這種必然性和可能性在人工智能的科幻創(chuàng)作中為人工智能倫理提供了一個(gè)技術(shù)實(shí)現(xiàn)路徑。從人工智能的發(fā)展現(xiàn)狀看，人工智能的倫理路徑問題已經(jīng)成為決定人工智能如何發(fā)展甚至生存的問題。人工智能的倫理問題如此重要，是因?yàn)檫@個(gè)倫理打破了農(nóng)耕文明后人類社會(huì)中逐漸成為主流的倫理價(jià)值觀——人類中心主義。通常來說，這個(gè)人類中心主義倫理價(jià)值觀強(qiáng)調(diào)，“一切以人為中心,或一切以人為尺度,為人的利益服務(wù),一切從人的利益出發(fā)”[5]。

根據(jù)人類中心主義倫理價(jià)值觀而發(fā)展起來的人工智能，可能會(huì)導(dǎo)致人類的毀滅并使得人類中心主義最終喪失。理由是，按照人類利益為中心的邏輯，發(fā)展?jié)M足人類記憶、認(rèn)知和運(yùn)算的人工智能自然是滿足人類利益的；人工智能認(rèn)為人類的活動(dòng)只是數(shù)據(jù)和算法，那么由碳原子組成的智慧（人）比由硅原子（芯片）組成的智慧并無高低貴賤之別。如果人類的倫理與人工智能的倫理沒有高低貴賤之分，那么，人工智能取代人類也是自然的事情。如果人類被人工智能取代，那么人類將不會(huì)存在。如果人類不存在了，那么人類的生命也就不再具有意義。而這一點(diǎn)，則是人工智能發(fā)展的又一悖論：本來是以服務(wù)人為目的的人工智能最終卻將人類終結(jié)了！

如何避免人類被毀滅又能享受人工智能帶來的富足和快樂，這是人工智能的倫理挑戰(zhàn)，也是科幻創(chuàng)作矛盾沖突的一個(gè)邏輯起點(diǎn)。從某種程度上，正是人類中心主義的內(nèi)在矛盾才使觀賞者將人工智能和自己的生命聯(lián)系起來：一方面自己離不開人工智能，另一方面人工智能逐漸使自己?jiǎn)适е黧w性。這種沖突再加上親情的渲染（如《星際穿越》），加上大膽想象（《超驗(yàn)駭客》中威爾妻子希望的一個(gè)人造的水、空氣和土壤的世界），加上恐怖威脅（如《黑客帝國(guó)》中機(jī)器對(duì)人類的征服和毀滅）等這些合理幻想，就使得科幻作品產(chǎn)生了驚心動(dòng)魄、引人至深的傳播效果。

2.2 人工智能倫理應(yīng)隨著時(shí)代發(fā)展而變化

“一切宗教、藝術(shù)和科學(xué)都是同一株樹下的各個(gè)分枝。所有這些志向都是為著使人類的生活趨于高尚,把它從單純的生理上的生存境界提高”[6]。愛因斯坦認(rèn)為，一切技術(shù)上奮斗的主要目標(biāo)就是關(guān)心人類本身，因此，人工智能的倫理問題就其一般性來講屬于科技倫理問題，就其特殊性來講，應(yīng)該在于其智能性如何服務(wù)于人又不傷害人的問題。那么，當(dāng)前人們?nèi)绾慰创@個(gè)倫理問題呢？

當(dāng)前世界各地的人們談?wù)撊斯ぶ悄軅惱砺窂絾栴}有兩個(gè)特點(diǎn)。一是人工智能概念被泛化。各群體在參與人工智能倫理討論時(shí)，其討論的對(duì)象實(shí)際是含生命科學(xué)、基因編輯等數(shù)據(jù)驅(qū)動(dòng)技術(shù)的泛指，遠(yuǎn)超出科技界對(duì)人工智能概念的外延。這一現(xiàn)象在非專業(yè)人群中尤為明顯，缺乏專業(yè)背景的公眾對(duì)數(shù)字技術(shù)更多的是直覺認(rèn)知和判斷，而這也是公眾中出現(xiàn)人工智能“無用論”“萬能論”等截然不同答案的原因[7]。二是政界、學(xué)界、實(shí)業(yè)界等主體的訴求各有側(cè)重。雖然三者的倫理規(guī)則大多以號(hào)召或軟性原則為主，普遍關(guān)注人工智能增進(jìn)人類福祉、技術(shù)的包容公平、維護(hù)人類尊嚴(yán)和自主性、保障安全和隱私等內(nèi)容，但是，這三類的關(guān)注點(diǎn)略有不同。從對(duì)文本的統(tǒng)計(jì)分析來看，學(xué)術(shù)界較多關(guān)注人類價(jià)值觀和責(zé)任；產(chǎn)業(yè)界更關(guān)注協(xié)作，而較少提及安全和隱私[8]。

概念泛化和自說自話的原因，從現(xiàn)象上看，是各利益主體受先前認(rèn)識(shí)局限而形成了“前理解”，實(shí)質(zhì)上則是，因?yàn)槿斯ぶ悄芗夹g(shù)是個(gè)不斷發(fā)展的新興技術(shù)，它的風(fēng)險(xiǎn)伴隨著創(chuàng)新進(jìn)步而不斷顯現(xiàn)。

3 構(gòu)建人工智能倫理的思辨

3.1 人工智能倫理在哲學(xué)上難以構(gòu)建

當(dāng)我們從人工智能倫理的背景回到人工智能倫理內(nèi)部的時(shí)候，就會(huì)發(fā)現(xiàn)，人工智能倫理問題本身是人與智能機(jī)器的關(guān)系問題。而要構(gòu)建兩者的和諧關(guān)系，無法避免且必須要回答的問題是，是否存在“自由個(gè)人”。生命科學(xué)者認(rèn)為，所謂“自由個(gè)人”并不是真實(shí)的存在，人類不過是生化算法的組合而已。在生命存續(xù)期間，各種各樣的生命體驗(yàn)都被大腦的生化機(jī)制制造出來。但是，這些體驗(yàn)不是一直存在的，而是像電影的鏡頭一樣都是短暫停留后立馬就消弭于無形，之后，更多的體驗(yàn)被大腦再次創(chuàng)造出來……生命的過程就是這些體驗(yàn)不間斷地閃現(xiàn)又不間斷地消失，不間斷地出現(xiàn)又不斷失去的過程。在閃現(xiàn)和消失之間宛若影像鏡頭般快速相連而使人認(rèn)為這些體驗(yàn)就一種不動(dòng)的存在?！段磥砗?jiǎn)史》的作者赫拉利等還把這種體驗(yàn)分為體驗(yàn)的自我（experiencing self，主要是自我所經(jīng)歷的生化反應(yīng)）和敘事自我（narrating self，對(duì)這些生化反應(yīng)嘗試編織各種故事的自我）。生命學(xué)者的這種看法與2000多年前哲學(xué)界的觀點(diǎn)不謀而合。佛教釋迦牟尼（人是五蘊(yùn)和合的混合）、道教（人人都能化生為仙）、古希臘德謨克利特（Democritus）（萬物皆由原子組成的）等也都認(rèn)為個(gè)人概念是一種虛妄。數(shù)據(jù)主義者的觀點(diǎn)也支持生命學(xué)者的看法，認(rèn)為宇宙由數(shù)據(jù)組成，任何現(xiàn)象或?qū)嶓w的價(jià)值就在于對(duì)數(shù)據(jù)的處理的貢獻(xiàn)[8]。全人類可被看成一個(gè)巨型的數(shù)據(jù)處理系統(tǒng)，每個(gè)人都是這個(gè)系統(tǒng)中的一個(gè)芯片，我們對(duì)一切事物的認(rèn)知及所做出的反應(yīng)都是在執(zhí)行自身生化算法而已。

如果，個(gè)體的自我從物質(zhì)到精神都是變動(dòng)不居的碎片（原子、電子）和算法，那么仿照人腦而制造的智能機(jī)器也只能是碎片化的反映或算法的反映。從這個(gè)意義上來看，人與人工智能的倫理關(guān)系可能不是人類與自然物，或人類與智能機(jī)器的關(guān)系，而是社會(huì)中那種一臺(tái)機(jī)器操控者與另一臺(tái)機(jī)器操控者之間的關(guān)系，即社會(huì)關(guān)系。

在語言、文字、金錢、機(jī)構(gòu)等社會(huì)性存在的前提下，人類構(gòu)建了一套人類（雖然沒有主體性或只有主體間性）與客體（人化的自然）的倫理規(guī)則。如“保存自我的努力是德性的首先的唯一的基礎(chǔ)”；又如“以理性為指導(dǎo)，而行動(dòng)、生活、保存自我的存在”；等等[9]?！段磥砗?jiǎn)史》作者赫拉利等甚至認(rèn)為，在21世紀(jì)，人類需要的倫理可能是獲得永生、幸福快樂、化身為神。

按照以上理解，哲學(xué)意義上的人工智能倫理構(gòu)建是艱難的，而社會(huì)學(xué)意義上的構(gòu)建應(yīng)該是必要和可能的。這種構(gòu)建至少可以提供一個(gè)社會(huì)秩序穩(wěn)定的預(yù)期和消除一些人對(duì)未來不確定的恐慌情緒。

3.2 人工智能倫理在社會(huì)學(xué)上態(tài)勢(shì)復(fù)雜

關(guān)于社會(huì)學(xué)意義上的人工智能倫理是目前學(xué)界討論的重點(diǎn)，其主要觀點(diǎn)有以下幾種。歐洲政策研究中心認(rèn)為，現(xiàn)在沒有跡象表明，人工智能將發(fā)展出類似人類的感知（perception）和意識(shí)（awareness）。當(dāng)前人工智能主要被應(yīng)用于優(yōu)化（optimization）、搜索/推薦（search/recommendation）和診斷/預(yù)測(cè)（diagnosis/prediction）三個(gè)領(lǐng)域[7]。按照他們的觀點(diǎn)，人與人工智能的倫理關(guān)系只是人與自己創(chuàng)造的勞動(dòng)工具的關(guān)系。

當(dāng)代人機(jī)接口技術(shù)的主要開創(chuàng)者費(fèi)爾森斯丁則認(rèn)為，“今天的人工智能技術(shù)越來越傾向于以人類為中心的傀儡學(xué)”，費(fèi)爾森斯丁還強(qiáng)調(diào)，人類與人工智能的關(guān)系，“是一種共生性的伙伴關(guān)系”[10]。

英國(guó)學(xué)者塔迪歐（Mariarosaria Taddeo）和弗洛里迪（Luciano Floridi）建立了一個(gè)以數(shù)據(jù)本身、數(shù)據(jù)算法，以及與數(shù)據(jù)和算法相應(yīng)的實(shí)踐過程所組成的三元數(shù)據(jù)倫理框架。人工智能的倫理問題可近似模擬為“數(shù)據(jù)倫理學(xué)、算法倫理學(xué)和實(shí)踐倫理學(xué)的三個(gè)軸”。在同一個(gè)人工智能的概念層面，“人工智能的倫理問題是以三種值來區(qū)分的點(diǎn)?！盵11]

張浩、黃克同在《邁向制度化的人工智能倫理》一文中認(rèn)為，“探索使人工智能治理原則落地的規(guī)則和機(jī)制，將是未來的重點(diǎn)和方向”。他們提出了技術(shù)安全、非歧視性、隱私保護(hù)、可問責(zé)性的倫理觀[7]。

筆者認(rèn)為，人工智能具有類主體的性質(zhì)，隨著人工智能技術(shù)的發(fā)展，人類具有排他性（排除其他動(dòng)物、植物甚至自然不動(dòng)物）主體地位的倫理時(shí)代很可能隨著奇點(diǎn)的到來而完成歷史使命。尤其是在認(rèn)知科學(xué)、神經(jīng)語言學(xué)、互聯(lián)網(wǎng)技術(shù)快速發(fā)展的背景下，人的思維、記憶、情緒如果能夠被芯片化，能夠被外部軟件測(cè)度的話，人首先應(yīng)該確定的是如何與人工智能相處的問題。目前，各國(guó)科技競(jìng)爭(zhēng)的態(tài)勢(shì)決定了這種可能，且這種可能正日益漸進(jìn)性地成為現(xiàn)實(shí)。新的倫理觀應(yīng)該是，人類不僅要對(duì)自然存在敬畏感，也要對(duì)人造的自然物——人工智能存在敬畏感，隨著技術(shù)進(jìn)步和社會(huì)發(fā)展，人類與人工智能的共處應(yīng)該成為常態(tài)，人類與人工智能應(yīng)該成為準(zhǔn)伙伴關(guān)系。新的倫理規(guī)則應(yīng)該是以人類中心主義為主體的情況下，增加對(duì)人工智能這個(gè)準(zhǔn)伙伴的一些約定。

3.3 人工智能倫理的困境是人自身矛盾的展開

一直以來，人類生存的原子物理空間的現(xiàn)實(shí)是由可能性所創(chuàng)造的，而人類的科幻創(chuàng)作擴(kuò)大了人類的可能性，并將不可能變成了可能(如用影視方式模擬精神實(shí)驗(yàn))。在這個(gè)不可能的可能性的創(chuàng)造過程中，人類精神不斷超越物理時(shí)空而飛躍到一個(gè)由語言、文字甚至思想所建構(gòu)的世界之中（比如讀科幻小說的讀者可以在作者用文字創(chuàng)造的意境世界中暢游）。如果說，隨著互聯(lián)網(wǎng)技術(shù)的出現(xiàn)創(chuàng)造出了一個(gè)更大的虛擬空間（這個(gè)空間因?yàn)榉蔷呱硇缘忍卣鞫鴮⑷祟惖奶摂M空間無限擴(kuò)大，把物理空間無限壓縮）的話，人工智能則是將這個(gè)虛擬空間變成物理現(xiàn)實(shí)的重要手段。人工智能的創(chuàng)造與歷史上人類其他工具不同，其他工具更多的是人的眼、耳、鼻、舌、四肢的延伸，而人工智能是對(duì)人類最高思維的模仿。在這個(gè)模仿中，如果僅僅是模仿的話，可能人工智能的這個(gè)機(jī)器只是人的工具，但如果人沒有在倫理約束下無限擴(kuò)大這種模仿的話，這種工具一定會(huì)超越人，傷害人，還有可能成為人類的統(tǒng)治者。

從某種意義上，人工智能的發(fā)展是人自身欲望與克制矛盾的雙重展開。比如為了便利而以失去隱私為代價(jià)。在這個(gè)展開過程中，科幻小說、科幻影片等具有獨(dú)特的作用：一方面，它的故事展開以現(xiàn)實(shí)科技的發(fā)展為思維基石；另一方面，它又依靠創(chuàng)作者的猜測(cè)和想象來構(gòu)建自己的意義空間。在這個(gè)獨(dú)特的空間中充滿了貪嗔癡慢疑的人性與真善美的人性沖突，這種沖突往往圍繞著科技是人類的工具還是人的本身不斷展開。從工具角度看，無論《黑客帝國(guó)》《機(jī)器姬》《人工智能》等科幻片中人類面臨多么大的威脅，現(xiàn)實(shí)世界的人類還是逐漸將主導(dǎo)生活的權(quán)利交給機(jī)器來決策判斷：離開導(dǎo)航系統(tǒng)，很多人不知道如何開車行路；離開機(jī)器診療，很多醫(yī)生難以判斷病情；離開實(shí)時(shí)監(jiān)控心跳、步數(shù)的穿戴設(shè)備，很多人會(huì)懷疑自身的健康；離開智能手機(jī)，很多“低頭族”不知道如何消費(fèi)大把時(shí)間；離開虛擬貨幣、虛擬客服，很多公司（物流、金融、電信等）的競(jìng)爭(zhēng)力會(huì)大打折扣。從人本身的角度看，《黑客帝國(guó)》《機(jī)器姬》《人工智能》等科幻創(chuàng)造的影像中的現(xiàn)實(shí)（這個(gè)比特形式實(shí)現(xiàn)的電子事實(shí)正模糊著物理的和虛擬的邊界，使得一些網(wǎng)絡(luò)成癮的青年人往往分不清是現(xiàn)實(shí)還是虛擬），如果現(xiàn)實(shí)物理世界提供的產(chǎn)生這些影像中現(xiàn)實(shí)實(shí)現(xiàn)的條件足夠的話，那么影片中的警醒將會(huì)變成真正的事實(shí)，人類可能會(huì)真的面臨被奴役、被屠殺的局面。

如果說人類能取代恐龍，那么機(jī)器為什么就不能取代人類呢？當(dāng)人類真的只是芯片形式存在，并沒有物質(zhì)身體的時(shí)候，有誰能說人類是獲得了幸福還是失去了幸福（正如莊子所講的是人化了蝶還是蝶化作了人）呢？或許，科幻創(chuàng)作的價(jià)值就在于，人類自主創(chuàng)造出一個(gè)世界，同時(shí)又毀滅另一個(gè)世界。生滅之間，是現(xiàn)實(shí)和未來的展開，是可能與不可能的交織，是即生即死、復(fù)生復(fù)死。

4 結(jié)語

本研究從科幻作品的視角對(duì)人工智能倫理問題進(jìn)行了探討。得出的基本結(jié)論是，按照主導(dǎo)人工智能發(fā)展思想的標(biāo)準(zhǔn)，可以把科幻作品分為符號(hào)主義的人工智能作品、連接主義的人工智能作品、行動(dòng)主義的人工智能作品；這些作品往往是以反思人工智能倫理問題展開的，在人類中心主義的主導(dǎo)下，人工智能得以快速發(fā)展，而這種發(fā)展內(nèi)在地會(huì)導(dǎo)致人類的滅亡，從而徹底埋葬人類中心主義。要走出這一困境，我們從哲學(xué)和社會(huì)學(xué)兩個(gè)維度對(duì)人工智能倫理觀進(jìn)行了考察，從哲學(xué)維度看，在人類沒有獨(dú)立自我的前提下，人工智能倫理問題即人類與智能機(jī)器相處的關(guān)系問題是沒有終極答案的；從社會(huì)學(xué)維度梳理幾種常見的倫理觀：人工智能對(duì)人類生活不會(huì)影響、不同利益主體對(duì)人工智能倫理問題判斷不同，人機(jī)接口的傀儡主義等。本文的最終結(jié)論是，人工智能倫理問題的構(gòu)建需要對(duì)機(jī)器保持敬畏，人類與人工智能應(yīng)該是準(zhǔn)伙伴關(guān)系。

在人工智能是人類的福音還是噩耗的問題上，科幻作品給了我們無限的想象和創(chuàng)造空間。對(duì)科學(xué)家來講，還有許多現(xiàn)實(shí)任務(wù)有待完成。這個(gè)現(xiàn)實(shí)是，我們當(dāng)前的人工智能時(shí)代是人機(jī)共存的時(shí)代。這個(gè)時(shí)代人工智能的任務(wù)可能是，如何讓人類的感官與機(jī)能的功能范圍依托機(jī)器而更加廣闊靈活，如何讓人類的信息交流、學(xué)習(xí)方式乃至生命形式產(chǎn)生質(zhì)的變化。從上述變化的角度來看，本研究還有很多不足之處或遺留問題。這些問題主要有：人的最高本質(zhì)如何實(shí)現(xiàn)？人工智能的自我意識(shí)何以可能？如何回答人工智能的生成機(jī)制問題？人工智能如何與宗教融合發(fā)展？如何避免人工智能把人的高級(jí)思維活動(dòng)變?yōu)榈图?jí)的物理電子活動(dòng)？如何評(píng)價(jià)人類的存在形態(tài)、價(jià)值觀念、思想意識(shí)的變化？人工智能與人的心靈體驗(yàn)有何關(guān)系？而對(duì)上述問題的回答需要自然科學(xué)學(xué)者與人文學(xué)科的學(xué)者共同來解決?！拔覀冎荒芸吹窖矍昂芏痰木嚯x，但人類有很多事情要做”（We can see only a short distance ahead, but we can see that much remains to be done），這是人工智能鼻祖圖靈在其論文《計(jì)算機(jī)器與智能》末尾的一句名言。做好現(xiàn)在，才能創(chuàng)造更好未來。