文/伍敏敏（中國電子技術(shù)標準化研究院）

當前，人工智能正深深地影響著人類生活的方方面面，其不僅發(fā)揮著積極的正向作用，同時，也為人類社會的發(fā)展帶來了不確定性，體現(xiàn)為人工智能不斷模糊著物理世界和個人的界限，延伸出復(fù)雜的倫理、法律和安全問題。面對正在開啟的“人工智能紀元”，我們應(yīng)當堅持審慎、預(yù)見的眼光來看待，正視由此帶來的倫理問題，深入研究人工智能倫理問題的基礎(chǔ)理論，廓清內(nèi)涵，分析性質(zhì)，以期為解決人工智能倫理問題提供一定的啟示。

1 人工智能倫理的內(nèi)涵

1.1 人工智能

關(guān)于人工智能，目前學(xué)界尚無統(tǒng)一的定義，“下一個一般性的定義幾乎是不可能的，因為智能似乎是一個包含著許多的信息處理和信息表達技能的混合體”[1]。另外，人工智能的不斷發(fā)展和加速進步也使人們很難明確界定其內(nèi)涵。通過對人工智能的發(fā)展及相關(guān)研究文獻進行探索，發(fā)現(xiàn)早期大多學(xué)者以“智能”定義人工智能，后期則大都傾向以“智能體”（agents，智能主體、智能代理等）來定義。

以“智能”定義人工智能，可以在人工智能的起源上找到答案。人工智能的先驅(qū)之一圖靈在提出通用圖靈機的設(shè)想時，就希望它能成為“思考的機器”：一方面，能夠做通常需要智能才能完成的有意義的事情；另一方面，可以模擬以生理為基礎(chǔ)的心智過程[2]。1956年，被稱為人類歷史上第一次智能研討會在美國達特茅斯學(xué)院召開，約翰·麥卡錫、馬文·明斯基、納撒尼爾·羅徹斯特和克勞德·香農(nóng)等會議發(fā)起人指出，從學(xué)習(xí)與智能可以得到精確描述這一假定出發(fā)，人工智能的研究可以制造出模仿人類的機器，使其能讀懂語言，創(chuàng)建抽象概念，解決目前人們的各種問題，并自我完善[3]。在此會議上，約翰·麥卡錫提議用人工智能作為這一交叉學(xué)科的名稱，同時，也標志著人工智能學(xué)科的誕生。因此，有人把約翰·麥卡錫稱為“人工智能之父”。 從此伊始，“人工智能”不絕于耳，滲透進了人類社會的各個方面，推動了人工智能學(xué)科的發(fā)展，同時也促進了學(xué)者關(guān)于人工智能領(lǐng)域的研究。

“智能”的概念分為兩個部分——“智慧”和“能力”，從感知到記憶再到思維的過程，稱之為“智慧”，智慧的結(jié)果導(dǎo)致了語言和行為的產(chǎn)生，而將語言和行為的表達過程，稱之為“能力”。廣義地講，人工智能技術(shù)是關(guān)于人造物的智能行為，這種智能行為一般包括知覺、學(xué)習(xí)、推理、交流以及在復(fù)雜環(huán)境中的行為[4]，還包括與智能行為相關(guān)的各種腦力勞動，比如記憶、情感、判斷、證明、識別、設(shè)計、思考等思維活動，可用某種物化了的機器予以人工地實現(xiàn)[5]。從學(xué)科的角度而言，美國斯坦福大學(xué)人工智能研究中心尼爾遜教授認為，“人工智能是關(guān)于知識的學(xué)科——怎樣表示知識以及怎樣獲得知識并使用知識的科學(xué)”[6]，麻省理工學(xué)院的溫斯頓教授則認為，“人工智能就是研究如何使計算機去做過去只有人才能做的智能工作”[7]。一般認為，人工智能是在計算機科學(xué)、控制論、信息學(xué)、神經(jīng)心理學(xué)、哲學(xué)、語言學(xué)等多種學(xué)科研究的基礎(chǔ)上發(fā)展起來的一門綜合性的邊緣學(xué)科[8]，其本質(zhì)是計算，因為無論其研究方法還是成果形態(tài)都離不開計算[9]。從工程的角度來說，人工智能技術(shù)就是通過用人工的方法使機器具有與人類智慧有關(guān)的功能，它是人類智慧在機器上的實現(xiàn)[10]。

以“智能體”定義人工智能，可以追溯到羅素和諾維格發(fā)表的《人工智能——一種現(xiàn)代方法（第一版）》文章中，他們認為，人工智能是對能夠從環(huán)境中獲取感知并執(zhí)行行動的智能體的描述和構(gòu)建，每個這樣的智能體都實現(xiàn)了把一個感知序列映射到行動的函數(shù)[11]。文中還對人工智能分為四大類：一是像人一樣行動的系統(tǒng)（圖靈測試方法），二是像人一樣思考的系統(tǒng)（認知模型方法），三是理性地思考的系統(tǒng)（思維法則方法），四是理性地行動的系統(tǒng)（理性智能體方法）。如果將人工智能研究視為理性智能體的設(shè)計過程，則更具概括性并更經(jīng)得起科學(xué)檢驗。在內(nèi)涵上，智能體一詞源于拉丁文agere，意為“去做”，在日常生活中有施動者或能動者的意思；基于人工智能的智能體則可以在工程層面“正確地行動”或“理性地行動”，是遵循合理性的理性智能體。基于人工智能的理性智能體的設(shè)計目標是使機器通過自身的行動獲得最佳結(jié)果，或者在不確定的情況下，尋求最佳的期望值[11]。其中的合理性與理性主要指技術(shù)與工程上的合理性或理性，即一個系統(tǒng)或智能體能在其所知的范圍內(nèi)正確行事。而且，這種合理性或理性往往是有限的而非完美的，并可以通過人工實現(xiàn)，亦即西蒙在《人工科學(xué)》中所探討的有限理性?；谌斯ぶ悄艿闹悄荏w或理性智能體是理解人工智能的核心概念，亦應(yīng)是人工智能時代的價值審度與倫理調(diào)適的關(guān)鍵[12]。

綜上所述，本文認為，雖然人工智能目前尚未形成一個統(tǒng)一的、公認的定義，但依然達成了以下共識：其一，在人工智能大發(fā)展前的漫長歲月中，人工智能首先被定義為計算機科學(xué)的一個分支， 或者以計算機科學(xué)為主的交叉邊緣學(xué)科，這些概念解釋更加強調(diào)它的學(xué)科屬性；其二，定義均強調(diào)其具有利用計算機研究和模擬人類智力活動規(guī)律的性質(zhì)[13]。據(jù)此，可以給人工智能一個通俗的解釋，即人工智能是讓計算機系統(tǒng)具備類似于人類具有的推理能力、自主學(xué)習(xí)能力、自主解決問題的能力，是研究、開發(fā)用于模擬、延伸和擴展人的智能的理論、方法、技術(shù)及應(yīng)用系統(tǒng)的一門新的技術(shù)科學(xué)。

1.2 人工智能倫理

對人工智能倫理內(nèi)涵的界定，除了對人工智能內(nèi)涵的廓清外，還需對倫理進行深入研究，以便更好地了解和掌握人工智能倫理的概念和意旨。

“倫理”具有多層意思，通常指事物的條理，或指人倫道德之理。一方面反映客觀事物的本來之理；另一方面也寄托了人們對同類事物應(yīng)該具有的共同本質(zhì)的理想，這種理想付諸于人類社會的生產(chǎn)和生活實踐之中，產(chǎn)生出調(diào)節(jié)人類行為的行為規(guī)范。倫理學(xué)作為古老的學(xué)科存在，具有中方和西方倫理學(xué)之分。傳統(tǒng)的西方倫理學(xué)可區(qū)分為理性主義、經(jīng)驗主義和宗教倫理學(xué)等三大理論系統(tǒng)，各個系統(tǒng)遵循不同的道德原則。19世紀后期，西方倫理學(xué)由古典倫理學(xué)向現(xiàn)代倫理學(xué)轉(zhuǎn)變[14]?！爸袊鴤惱韺W(xué)”是一文化特殊性概念。它立足中華民族的生活世界，以中華民族的運思與認知方式，用中華民族的語言概念，圍繞普遍問題，揭示普遍之理[15]。中國倫理學(xué)同樣經(jīng)歷了一個從古至今的蛻變過程，形式上與西方倫理學(xué)具有一定的差別。古代的中國倫理學(xué)可以劃分為先秦創(chuàng)始時代、漢唐繼承時代和宋明理學(xué)時代等三個歷史階段，具有儒學(xué)倫理學(xué)、佛學(xué)倫理思想、道家倫理思想等三大學(xué)派之分。當前，在我國發(fā)展著的中國倫理學(xué)一個基于中國特色、問題導(dǎo)向和中國經(jīng)驗的新的倫理學(xué)范式，它有別于傳統(tǒng)的馬克思主義倫理學(xué)，也不是中國傳統(tǒng)倫理學(xué)的當代延續(xù)，更不是西方倫理學(xué)的中國化，而是立足于我國社會主義探索與實踐、與民族文化高度融合的產(chǎn)物[16]。中國倫理學(xué)植根于中國道德土壤，倡導(dǎo)人際與社會的和諧共生，兼顧個人主體性與社會實在性；是立足于當代中國實踐，結(jié)合自身的社會、文化特點，進行一系列的道德實踐，形成的豐富經(jīng)驗總結(jié)；是著眼于中國重大問題，對接中國重大需求、解決中國重大問題的內(nèi)在驅(qū)動力。

倫理學(xué)發(fā)展至今，一直被認為是人類的專屬，亦即只有“智人種”的人才符合“道德行為體”的適格主體。然而，隨著科學(xué)技術(shù)的不斷發(fā)展，機器人技術(shù)研發(fā)得到了飛速提升，具有自治型的人工智能體在人類的日常生活中隨處可見。由此，基于計算科學(xué)發(fā)展起來的人工智能對哲學(xué)領(lǐng)域尤其是倫理道德領(lǐng)域產(chǎn)生了革命性的影響，使人類不得不對現(xiàn)今的認知科學(xué)以及人工智能進行不斷地解構(gòu)和建構(gòu)。當前流行的“智能與精神要素不必囿于人類和其他自然物種”的新思想，正是人工智能對倫理道德進行重塑的真實寫照。19世紀初，英國哲學(xué)家杰里米·邊沁（Jeremy Bentham）認為，“當人類把語言能力和感受性的標準覆蓋到一切物時，偉大的時代就要來臨了……”[17]，預(yù)言人工智能的發(fā)展將對倫理學(xué)產(chǎn)生的重大影響。

研究人工智能倫理內(nèi)涵，不得不先研究機器人倫理。因為，一方面人工智能倫理專家在早期大都是先從研究機器人倫理開始的；另一方面，機器人內(nèi)在地包含于人工智能，人工智能屬于大的范疇，研究好機器人倫理將為人工智能倫理研究起到奠基的作用。2002年，機器人專家Gianmarco Veruggio認為，“機器人倫理學(xué)是一門應(yīng)用倫理學(xué)，其目標是發(fā)展可被不同的社會團體和信仰共享的科學(xué)、技術(shù)、文化的工具，這些工具能夠促進和鼓勵機器人學(xué)的發(fā)展，使機器有利于人類社會和個人，并且防止機器人的誤用對人類造成傷害”。當前學(xué)術(shù)界對機器人倫理尚未形成統(tǒng)一的概念界定，但普遍認為應(yīng)當包括三個方面：一是指該機器人的研發(fā)者和制造者本身的倫理，即機器人專家本身所具有的職業(yè)道德；二是指機器人本身所具有的道德編程代碼，這些編碼決定了機器人的行為是否超越了道德行為準則本身；三是指機器人通過學(xué)習(xí)推理從而形成自身的一套倫理規(guī)范，這種行為具有自發(fā)性和自我選擇性。亞倫·斯洛曼( Aaron Sloman) 認為，“未來機器人能夠思考和具有感知力”，號召人們關(guān)注機器（人）的倫理地位問題，并把機器人納入道德行為體的考察范疇內(nèi)。他在倫理學(xué)框架內(nèi)討論了感知性的倫理意義，認為感知性是判斷一個道德行為體的重要依據(jù)[18]。據(jù)此，我們認為人工智能倫理不僅包括機器人倫理的三個方面，而且更具抽象性、深層性，是包括所有具有自治型智能機器的倫理道德問題，其所研究主體最為關(guān)鍵的在于，該人工智能體具有感知能力和自覺道德推理能力。

2 人工智能倫理問題的性質(zhì)

“問題”通常有兩種含義，一是對某種現(xiàn)存社會現(xiàn)象的描述，諸如“分配問題”“國際”“社會發(fā)展問題”等；二是特指在社會發(fā)展過程中，存在與社會發(fā)展趨勢相背離的負面效應(yīng)，諸如“環(huán)境問題”“恐怖主義問題”“糧食安全問題”等。人工智能倫理問題不是對人工智能與倫理關(guān)系的社會現(xiàn)象描述，而是特指在人工智能發(fā)展過程中所產(chǎn)生的對人類社會倫理道德的負向影響，是有違現(xiàn)行人類社會倫理道德標準原則的問題。

首先，人工智能倫理問題是人工智能活動、發(fā)展過程中產(chǎn)生的倫理道德問題。人工智能活動、發(fā)展過程是一種特定的過程與結(jié)果的結(jié)合，是計算機學(xué)科下特定的計算法則、代碼等知識體系與人工智能體作為倫理道德主體行動過程的有機統(tǒng)一，既受人類社會文化價值觀的作用，又會對人類社會文化價值觀產(chǎn)生反作用的特殊活動形式。人工智能活動及其發(fā)展過程不僅包括科學(xué)技術(shù)的應(yīng)用與實踐，還事關(guān)人類的生存方式與倫理秩序，將會極大影響人類的責任、人道、和諧、正義等倫理價值追求。因此，人工智能倫理問題，既包括人類在研發(fā)人工智能技術(shù)活動過程中所產(chǎn)生的倫理問題，諸如研發(fā)人員的道德責任、計算代碼的倫理制約等；還包括人工智能技術(shù)衍生出來的人工智能體是否與人類具有同樣的“智人種”的倫理主體存在，兩類不同“體”共存于一個世界里而產(chǎn)生的倫理問題。前者是人工智能活動過程造成的倫理問題，后者則是人工智能發(fā)展結(jié)果所產(chǎn)生的倫理問題，二者在不同層面上存在著不一樣的倫理負載。

其次，人工智能倫理問題特指與人類社會倫理發(fā)展相沖突的問題。隨著科學(xué)技術(shù)的不斷進步，人類對于改造自身存在條件的愿望愈發(fā)強烈，人工智能技術(shù)的發(fā)展以及人工智能體的出現(xiàn)不僅是人類探索自然實踐活動的應(yīng)然，也是客觀世界發(fā)展的實然。作為應(yīng)然與實然統(tǒng)一體的人，突破了原有的架構(gòu)體系，形成了人與人工智能體相結(jié)合的“人”，一方面促進了人類社會倫理的進步，另一方面也與當下人類社會倫理的發(fā)展形成相沖突的局面。人工智能技術(shù)活動及其派生出來的人工智能體不是脫離人類社會的純粹活動與實踐，而是存在于人類社會生活中并對人類社會生活產(chǎn)生影響的活動與實踐。人類在從事人工智能技術(shù)活動行為時，同其他科學(xué)技術(shù)活動行為一樣，是一種關(guān)涉“責任”的行為。在談及人類同人工智能體的關(guān)系時，則區(qū)分為“主體說”和“客體說”兩種理論認識。持“主體說”的學(xué)者把人工智能體當作是同人類一樣具有社會倫理主體地位，目的在于彌補人類的不足與缺失；持“客體說”的學(xué)者則把人工智能體看成是人類探索自然的技術(shù)手段，目的在于更好地服務(wù)人類。然而，無論是“責任”行為，還是“主客體”不同理論分說，都必將對人類社會倫理的構(gòu)建產(chǎn)生莫大的影響，進而使人工智能發(fā)展違背其本質(zhì)，產(chǎn)生難以避免的倫理問題。

3 結(jié)語

人工智能倫理問題是人工智能技術(shù)負向效應(yīng)的一個方面。當前，越來越多的人把下一次生產(chǎn)力飛躍的突破口寄希望于人工智能。究其原因，主要在于人工智能不僅可極大提高生產(chǎn)力，節(jié)省人力資源成本，而且還可提高能源利用率，節(jié)省自然資源成本，促進社會的不斷進步，實現(xiàn)人類的進一步解放。然而，事事均有利弊，更何況科學(xué)技術(shù)本身就是把“雙刃劍”，我們在看到人工智能給人類帶來的極大便利之外，還要認真探究其產(chǎn)生的諸多問題，以便更好地規(guī)避問題，推動人類社會發(fā)展。具體而言，人工智能可能引發(fā)的問題有如：軍事戰(zhàn)爭頻發(fā)且無法控制、失業(yè)率劇增且無法避免、人才爭奪白熱化并趨于壟斷、人類精神文化生活退化、貧富分化加劇、社會動蕩不安等，其中很重要的一個方面就是人工智能所產(chǎn)生的倫理問題，而這一問題是人類社會發(fā)展無法回避，且必須給予足夠重視，搶抓時間重構(gòu)社會倫理體系的重大問題。