摘 要：人工智能在推動人類進步與社會發(fā)展的過程中扮演著越來越重要的角色。人工智能在改變?nèi)祟惿a(chǎn)生活方式的同時，也不可避免地帶來許多潛在風險和社會問題。人工智能的發(fā)展可能造成責任主體不清晰、潛在風險因素增多、人的異化現(xiàn)象加劇、道德主體不明確等問題。保障人工智能的安全使用，實現(xiàn)人工智能的良性健康發(fā)展，需要確立人工智能發(fā)展的基本倫理原則，加強對人工智能發(fā)展的價值規(guī)范和道德引導，制定人工智能倫理的相關(guān)制度。

關(guān)鍵詞：人工智能;倫理困境;責任;風險

中圖分類號：B82????? 文獻標識碼：A

文章編號：1003-0751（2021）03-0093-03

1956年，在美國達特茅斯召開的人工智能會議標志著人工智能的誕生。人工智能及其應用極大地方便甚至改變了人類生活，但同時也引起了相應的爭議。對可能或已經(jīng)出現(xiàn)的難題進行倫理探討，是題中應有之義。

一、人工智能的發(fā)展和運用給人類帶來的影響

任何新技術(shù)的出現(xiàn)都是一把雙刃劍，人工智能也是如此。近些年來，人工智能經(jīng)歷了多次摸索與嘗試，取得了許多顛覆性成果。這些成果的運用給人類的生產(chǎn)生活帶來便利的同時，也帶來了一系列問題。

人工智能為人類生產(chǎn)生活提供了極大的便利。首先，人工智能改變了人類的工作、生活方式。從工廠流水線到智能家居，從網(wǎng)上購物到智能快遞分揀，人工智能已經(jīng)遍布于人類生活的每一個角落，很多領(lǐng)域不再需要人類從事枯燥的重復性勞動。其次，隨著人工智能的大范圍應用，帶動了產(chǎn)業(yè)結(jié)構(gòu)的轉(zhuǎn)型升級，社會結(jié)構(gòu)層次也面臨相應調(diào)整。人工智能不僅可以代替人類從事重復單調(diào)的工作，而且可以勝任那些被默認為專屬于人類的工作崗位，比如創(chuàng)作詩歌、彈琴作曲、繪畫表演等創(chuàng)造性勞動。雖然它們的創(chuàng)作水平還非常有限，但是可以預見到未來人工智能可能帶來的變革。

人工智能在為人類生產(chǎn)生活帶來便利的同時，也帶來了許多潛在風險和社會問題。首先，可能導致有些行業(yè)的工人失業(yè)。相比人類，人工智能機器在勞動效率、勞動成本等方面有明顯優(yōu)勢，這導致有些可以被機器代替人類勞動的行業(yè)的工人面臨或者即將面臨失業(yè)。其次，會拉大貧富差距。人工智能的應用在創(chuàng)造極大物質(zhì)財富的同時，必然會導致不公平競爭的出現(xiàn)，資源的分配將會失去秩序。再次，會越來越多地涉及隱私與信息安全問題。人工智能的行為邊界與行為主體不明確，現(xiàn)階段還缺少相關(guān)規(guī)制與手段保障人類隱私與國家信息安全。最后，可能導致人的異化。隨著人工智能的不斷發(fā)展進步，可以預見到人工智能威脅人類地位的那一天。人類可能會從創(chuàng)造和使用人工智能，到反過來處處受制于人工智能，人類的主體性地位面臨嚴峻威脅。

二、人工智能發(fā)展帶來的倫理困境

伴隨著人工智能的大范圍應用，相關(guān)倫理問題也引起了廣泛重視與激烈討論。

第一，責任主體不清晰。人工智能的發(fā)展應用必然會引發(fā)責任問題，人工智能系統(tǒng)的責任界定與追責問題是人類社會不可回避的問題。這之中最具代表性的就是自動駕駛問題。近年來引起普遍關(guān)注的“電車難題”，就是自動駕駛汽車本身難以破解的道德難題。假如行駛在路上的自動駕駛汽車遇到不守規(guī)矩的路人，人工智能是選擇優(yōu)先保護乘車人還是路人？自動駕駛顛覆了傳統(tǒng)的人車關(guān)系，人工智能的介入使道德和法律規(guī)范的對象難以界定。假如無人駕駛汽車在行駛中發(fā)生交通事故，造成了生命財產(chǎn)損失，那么應該由誰來承擔相應的法律責任呢？對人工智能又該如何做責任認定？從哲學層面來講，責任的產(chǎn)生基于因果關(guān)系。行為導致結(jié)果，責任由行為主體承擔，而人工智能的行為主體尚未明確，人工智能系統(tǒng)承擔道德或者法律責任的能力也未有定論。這些問題的出現(xiàn)必然會引發(fā)社會恐慌和倫理困境。

第二，潛在風險因素增多。隨著人工智能技術(shù)在不同領(lǐng)域的應用，其潛在風險也在不同層面顯現(xiàn)出來。一是“無用階級”與失業(yè)問題。赫拉利在《未來簡史》中提出了關(guān)于“無用階級”的若干斷想：人工智能將替代人的勞動而把大多數(shù)人排擠出市場，使之淪為毫無價值的“無用階級”，僅有少數(shù)精英升級為“超人類階級”，人類甚至會因為超級智能的出現(xiàn)而失去控制權(quán)。①相比人類，人工智能機器在諸多工作中都有著無可比擬的優(yōu)勢，在競爭中被淘汰的“無用階級”從失業(yè)到被邊緣化，逐步失去生存的意義。勞動是人的本質(zhì)屬性，是人類實現(xiàn)自我價值、獲取生活意義的重要手段?！盁o用階級”失去勞動的機會，意味著失去了生活的意義。這將成為激化社會矛盾、破壞社會結(jié)構(gòu)的重大潛在風險。二是社會不平等矛盾激化。近些年來，以人工智能為核心的技術(shù)系統(tǒng)開始全方位介入人類社會。然而，新技術(shù)的出現(xiàn)并沒有改善原本的社會結(jié)構(gòu)問題，反而存在著加劇社會矛盾的風險。人工智能技術(shù)系統(tǒng)的核心控制權(quán)與使用權(quán)只屬于特權(quán)群體，這就會拉大不同群體之間的差距。地區(qū)差異、收入分配等社會問題已經(jīng)相當嚴峻，如果人工智能技術(shù)不能平等惠及全人類，那么社會不平等的矛盾只會愈發(fā)激化，“數(shù)字鴻溝”已經(jīng)是不爭的事實。三是隱私權(quán)失去保障。隱私權(quán)是一項基本的人格權(quán)利。一般來說，隱私權(quán)是指自然人的個人信息與生活受到法律保護的權(quán)利。任何未經(jīng)允許采集利用、泄露公開他人隱私的行為都屬于侵犯個人隱私，將受到法律制裁。收集和分析數(shù)據(jù)是人工智能系統(tǒng)的基礎。智能化時代一切都被數(shù)據(jù)化，個體的隱私信息成了數(shù)據(jù)挖掘的對象。隨著人工智能多方位介入人類社會生活，個體隱私不可避免地受到威脅。人們在享受人工智能帶來便利的同時，也失去了隱私權(quán)的保障。四是超級人工智能的失控風險。深度學習能力是人工智能的重要發(fā)展方向，未來甚至可能出現(xiàn)擁有自我意識的超級人工智能。具有自主意識的超級智能的出現(xiàn)，就意味著存在潛在的失控風險。人工智能自我學習和完善的過程是不可控的，自我意識的覺醒首先意味著自我保護。也就是說，人類極有可能被自己創(chuàng)造的人工智能所控制。約瑟夫·科恩、大衛(wèi)·漢森指出：“制造出有自主意識、能采取自主行動的機器人，同時又使它們按照人類的是非標準行事是件極困難的事，甚至是不可能實現(xiàn)的?！雹?/p>

第三，人的異化現(xiàn)象加劇。人工智能的成長正在影響“人”的本質(zhì)屬性。人工智能技術(shù)不僅在介入人類生活，甚至伴隨著生物技術(shù)的發(fā)展開始介入人類身體。這種無機生命與有機生命的結(jié)合是創(chuàng)造性的，無疑也是極具風險性的。人機結(jié)合的出現(xiàn)開始模糊人類與人工智能的界限，加劇人的異化。庫茲韋爾斷言：“生物智能必將與我們正在創(chuàng)造的非生物智能緊密結(jié)合?！雹郛斎祟惒辉偈羌兇獾摹叭恕?，部分身體結(jié)構(gòu)與人工智能結(jié)合或者替換時，該如何界定此種人機結(jié)合的產(chǎn)物？如果人工智能具備了人的本質(zhì)屬性，那么它能否享有人的尊嚴與權(quán)利？能否承擔道德或是法律責任？人工智能技術(shù)的應用使得人的異化現(xiàn)象愈發(fā)嚴峻，亟須重新明確人的本質(zhì)屬性，規(guī)定人工智能的界限，建立處理人機關(guān)系的規(guī)范與準則。

第四，道德主體不明確。道德主體是指“具有自我意識，能夠進行道德認知、能夠進行推理并形成自我判斷、能夠進行道德選擇與實施道德行為且承擔道德責任的道德行為體”④。人工智能如果在未來真的具備了自我意識，那么應該以什么樣的準則來判定它們的道德地位？對于這個問題的回答眾說紛紜?！叭祟愔行闹髁x”的觀點認為道德是人類獨有的概念與特質(zhì)，是人類精神世界的一種獨特的約定俗成的默契，只有人類才能夠享有道德主體地位。約翰·塞爾認為人工智能不具備成為道德主體的條件，“從沒有一種純形式的模型，足以憑借自身而產(chǎn)生意向性，因為形式特性自身不足以構(gòu)成意向性，同時它們自身也沒有因果能力，它們的能力不過是在例示過程中隨著計算機的運行而產(chǎn)生下一步的形式體系”⑤。在未來人機共處的世界中，需要解決人工智能引發(fā)的道德倫理困境。

三、對人工智能發(fā)展帶來困境的倫理思考

人工智能的高速發(fā)展必然會引發(fā)新的價值沖突、倫理問題。風險所在，往往也是人類自我拯救之所在。人工智能對人類社會提出了全面挑戰(zhàn)，能否應對妥當，關(guān)系到人類的生存與命運，亟須對人工智能的發(fā)展和運用的過程進行倫理規(guī)制，以防患于未然。

第一，確立人工智能發(fā)展的基本倫理原則。面對人工智能的嚴峻挑戰(zhàn)，不少組織與個人嘗試性地提出了應對策略或倫理準則。這之中影響力較大的就是美國科幻作家阿西莫夫提出的機器人三定律：“機器人不得傷害人類個體或坐視人類個體受到傷害;在與第一定律不相沖突的情況下，機器人必須服從人類的命令;在不違反第一和第二定律的情況下，機器人有自我保護的義務。”⑥鑒于以上三原則明顯還不夠成熟，阿西莫夫后續(xù)又增加了一條根本性原則即機器人不得傷害或者侵犯人類。結(jié)合人工智能的進展，以人類的發(fā)展和利益為根本，可以在上述定律的基礎上進一步提出以下幾個原則。一是堅持以人為本。人工智能始終是人類文明的造物，為人類服務和滿足社會生活的需要是其根本目標與存在價值，因此以人為本是約束人工智能發(fā)展的根本原則。盲目發(fā)展和因噎廢食的選擇都是不可取的。二是做到公開公正。當前的人工智能仍屬于一種黑箱工作模式，其工作原理與能力界限對大眾來說還是知識盲區(qū)，因此要確保公開原則落實到人工智能從研發(fā)設計到推廣應用的每一個環(huán)節(jié)，要保證監(jiān)管部門對整個過程的監(jiān)督管理，及時處理來自大眾的反饋信息。公正是人類社會的道德準則和法治管理的基本要求，也是保證人類合法權(quán)益和解決糾紛的基本準則。人工智能的研發(fā)和應用要嚴格貫徹公正原則，保證使用者公正地享受到同樣的服務，以平等的姿態(tài)來迎接人工智能的技術(shù)革命。三是明確道德責任。人工智能的每一個環(huán)節(jié)，從研發(fā)設計到應用管理都離不開人類的身影，因此對所有參與設計、制造、管理的組織和個人都要加強約束和管理，明確各環(huán)節(jié)的道德責任，建立健全問責機制。工作人員要實事求是地根據(jù)人工智能的道德表現(xiàn)對其做出價值評估。

第二，加強對人工智能發(fā)展的價值規(guī)范和道德引導。人工智能如此突飛猛進地發(fā)展，未來不可避免會出現(xiàn)超出人類能力的表現(xiàn)，這就需要用價值來規(guī)范和約束，以道德來引導和修正，不能讓人工智能為所欲為。一是用價值規(guī)范技術(shù)。人工智能的設計和應用應遵循人類的普適價值觀，人工智能存在的價值在于服務人類社會，保障人類利益。馬爾庫塞強調(diào)，技術(shù)的合理性已經(jīng)轉(zhuǎn)化為政治的合理性，“技術(shù)拜物教”正在到處蔓延，“技術(shù)的解放力量——使事物工具化——轉(zhuǎn)而成為解放的桎梏，即使人也工具化了”⑦。人工智能技術(shù)的研發(fā)應當嚴格禁止出現(xiàn)危害人類的設定或是漏洞，要將服務人類作為根本出發(fā)點。二是用道德引導發(fā)展。一項新技術(shù)的出現(xiàn)有可能引發(fā)新的價值沖突與社會矛盾，法律制度無法照顧到方方面面，這就需要道德規(guī)范來引導。算法不但是人工智能技術(shù)的基礎，也將是未來人類社會生活不可或缺的重要部分。落實道德引導人工智能的發(fā)展就要從算法入手。將道德算法融入人工智能研發(fā)設計的算法之中，就是給人工智能系統(tǒng)的自主決策能力增加了技術(shù)保險和底線原則，確保其任何行為都會經(jīng)過道德準則的審視與引導。

第三，制定人工智能合倫理發(fā)展的相關(guān)制度。一是研發(fā)、設計融入倫理思想。要確保人工智能的發(fā)展遵守為人類服務和保障人類的安全與利益的倫理準則，而不是顛倒主次的錯位倫理;還要落實人工智能尊重人類主體地位，維護人類尊嚴的倫理要求。要將倫理觀念融入人工智能的底層設計，讓人工智能在實現(xiàn)其功能和價值的同時，時刻受到倫理準則的指導與約束。二是構(gòu)建、完善相關(guān)法律規(guī)范。為了預防未來人工智能可能引發(fā)的矛盾與沖突，需要提前著手建立專門針對人工智能的法律法規(guī)。具體來說，針對人工智能將會造成的失業(yè)問題、隱私安全爭論、知識產(chǎn)權(quán)糾紛等，要盡快著手完善補充相關(guān)領(lǐng)域的法律法規(guī)，讓人工智能的發(fā)展之路有法可依、有條不紊。針對人工智能的相關(guān)法律法規(guī)是落實倫理重塑的基本保障，只有從法律層面明確責任、提供規(guī)范，才能讓倫理約束切實可行。三是成立人工智能倫理委員會，監(jiān)督人工智能的發(fā)展方向。人工智能的向前推進涉及多個學科領(lǐng)域的前沿問題和相關(guān)爭論，需要成立相關(guān)組織機構(gòu)搭建溝通橋梁，實現(xiàn)多個學科領(lǐng)域?qū)＜摇⒐こ處熀凸俜綑?quán)威人士對人工智能的發(fā)展方向及前沿問題進行及時研討和協(xié)商。

歷史經(jīng)驗告訴我們，人類自身存在不少缺陷和局限，走過不少彎路，犯過不少錯誤。面對人工智能技術(shù)，希望人類可以吸取過往經(jīng)驗教訓，構(gòu)建一個人機和諧相處的倫理道德體系，讓全人類共享科技成果帶來的便利，讓人工智能更好地服務于人類社會。

注釋

①鞏永丹：《人工智能催生“無用階級”嗎？——赫拉利“無用階級”斷想引發(fā)的哲學審度》，《國外理論動態(tài)》2019年第6期。

②[美]約瑟夫·巴-科恩、大衛(wèi)·漢森：《機器人革命——即將到來的機器人時代》，潘俊譯，機械工業(yè)出版社，2015年，第235頁。

③[美]庫茲韋爾：《奇點臨近》，李慶誠等譯，機械工業(yè)出版社，2011年，前言。

④閆坤如：《人工智能機器具有道德主體地位嗎》，《自然辯證法研究》2019年第5期。

⑤Searle JR. Minds， Brains， and Programs.Behavioral & Brain Sciences， 1980， Vol.3， No.3， pp.417-457.

⑥[美]艾薩克·阿莫西夫：《銀河帝國8：我，“機器人”》，葉李華譯，江蘇文藝出版社，2013年，第13頁。

⑦[美]赫伯特·馬爾庫塞：《單向度的人——發(fā)達工業(yè)社會意識形態(tài)研究》，劉繼譯，上海譯文出版社，1989年，第143頁。

責任編輯：白 楊

Problems Brought About by the Development of Artificial Intelligence and

the Ethical Considerations

Wu Ge

Abstract：Artificial intelligence is playing an increasingly important role in the process of promoting human progress and social development. While artificial intelligence changes the way of human production and life， it also inevitably brings about many potential risks and social problems. The development of artificial intelligence may result in the lack of clarity of responsibility subjects， increase potential risk factors， intensify alienation of people and unclear ethical subjects. To ensure the safe use of AI and to achieve the healthy development of AI， it is necessary to establish the basic ethical principles for the development of AI， strengthen the value regulation and moral guidance for the development of AI， and formulate a related system for the ethics of AI.

Key words：artificial intelligence; ethical dilemma; responsibility; risk

收稿日期：2020-06-23

作者簡介：吳戈，男，吉林大學哲學社會學院博士生（長春 130001）。