趙志遠(yuǎn)

（北京交通大學(xué)馬克思主義學(xué)院，北京 100044）

人工智能技術(shù)作為未來科技領(lǐng)域的指南針，對(duì)人類社會(huì)的發(fā)展具有重要的意義，人工智能的發(fā)展在帶來可喜成就的同時(shí)同樣也產(chǎn)生了一些難以回避的問題。比如，隨著未來強(qiáng)人工智能時(shí)代的到來，人工智能是否會(huì)像人類一樣面臨著“倫理道德問題”。人工智能前景如潮，不能因?yàn)槲窇诛L(fēng)險(xiǎn)就拋棄未來，社會(huì)發(fā)展事關(guān)全體，面對(duì)人工智能的發(fā)展我們必須建立起全社會(huì)一體的行動(dòng)者網(wǎng)絡(luò)。

1 不斷前行的人工智能

1.1 人工智能發(fā)展歷程回顧

從1956年開始，人工智能一詞開始正式使用，進(jìn)入理論研究階段。20世紀(jì)80年代中后期，神經(jīng)元網(wǎng)絡(luò)相關(guān)的研究技術(shù)取得巨大突破，對(duì)人工智能領(lǐng)域的建設(shè)有里程碑式的意義。20世紀(jì)90年代期間，反向算法橫空出世，致使多層的人工型神經(jīng)元網(wǎng)絡(luò)學(xué)習(xí)問題的解決成為可能，使人工智能研究更上一層樓。2019年，人工智能技術(shù)已經(jīng)63 周歲，人工智能科學(xué)取得重大進(jìn)展。迄今為止，人工智能的應(yīng)用領(lǐng)域非常廣泛，為交通、能源、醫(yī)療等社會(huì)各行各業(yè)的發(fā)展做出了巨大貢獻(xiàn)。

1.2 人工智能的階段性發(fā)展探析

根據(jù)目前普遍適用的劃分階段，人工智能可以劃分為“弱人工智能”“強(qiáng)人工智能”以及“超人工智能”。“弱人工智能”只專注于機(jī)械的指令執(zhí)行，如語翻譯等工作，他們雖然高效快捷，但無法真正理解信息。而“強(qiáng)人工智能”系統(tǒng)包括了學(xué)習(xí)、語言、推理，實(shí)現(xiàn)非人類操縱下的獨(dú)立處理能力，這標(biāo)志著人工智能達(dá)到或者接近了人類的思維狀態(tài)?！八^超人工智能，是指在強(qiáng)人工智能的基礎(chǔ)上，通過海量的數(shù)據(jù)整合和高度的學(xué)習(xí)與自我進(jìn)化能力，具有的遠(yuǎn)遠(yuǎn)超越人類智慧水平的人工智能?！盵1]“2014年牛津大學(xué)人工智能領(lǐng)域?qū)＜夷峥恕げ┧固貍?，將超?jí)智能定義為在幾乎所有領(lǐng)域都比最聰明的人類大腦都聰明很多，包括科學(xué)創(chuàng)新、通識(shí)和社交技能?！盵2]就當(dāng)下的人工智能發(fā)展層次來講，“強(qiáng)人工智能”階段還未實(shí)現(xiàn)，但隨著“強(qiáng)人工智能”甚至“超人工智能”越來越逼近的腳步，我們首先想到的可能就是未來的人工智能與人類的區(qū)別在哪里？ 而這一焦點(diǎn)的關(guān)注顯然首先要被放到人工智是能否產(chǎn)生意識(shí)的問題上。

從馬克思唯物主義角度上我們認(rèn)識(shí)到，意識(shí)首先是自然界長(zhǎng)期發(fā)展的產(chǎn)物。意識(shí)的產(chǎn)生首先歷經(jīng)3 次時(shí)間極其漫長(zhǎng)的生物性演變。而且意識(shí)是社會(huì)的產(chǎn)物，人的類本質(zhì)是勞動(dòng)，在勞動(dòng)實(shí)踐和交往的過程中大腦不斷被刺激最終產(chǎn)生了意識(shí)。因此，基于上述的理論分析以及基于目前的科學(xué)進(jìn)程，患者認(rèn)為未來很長(zhǎng)一段是時(shí)間內(nèi)人工智能仍不具備產(chǎn)生意識(shí)的基礎(chǔ)。但是從意識(shí)產(chǎn)生的過程性來看，隨著人類認(rèn)識(shí)能力的發(fā)展，科技的進(jìn)步，情況將會(huì)發(fā)生變化。在《奇點(diǎn)臨近》書里Ray Kurzweil 討論了3 種非生物智能方案，全方位地展示生物人顯現(xiàn)出來的情感豐富的行為。其中第三個(gè)方案是使人類自身從生物過渡到非生物，納米機(jī)器人進(jìn)入我們體內(nèi)與身體“重新組合”。

2 關(guān)于未來人工智能的倫理問題分析

2.1 人工智能發(fā)展中可能存在的問題

人工智能可能出現(xiàn)的消極影響也同樣不容忽視。首先，人工智能可能導(dǎo)致社會(huì)的貧富差距的進(jìn)一步擴(kuò)大。對(duì)人工智能技術(shù)的掌握將創(chuàng)造更大的財(cái)富，反之，沒有掌握人工智能技術(shù)的行業(yè)會(huì)逐漸離軌，導(dǎo)致貧者越貧，富者越富。其次，技術(shù)失控的風(fēng)險(xiǎn)，在網(wǎng)絡(luò)信息時(shí)代，任何人都無法完全隱藏自己，私人信息很有可能盡被他人掌握。一旦被濫用，將會(huì)使個(gè)人的財(cái)產(chǎn)安全、信息安全甚至是生命安全都受到嚴(yán)重的威脅。最后，人工智能可能導(dǎo)致人—機(jī)關(guān)系的去主體化危機(jī)。人類對(duì)人工智能領(lǐng)域探索的出發(fā)點(diǎn)是為了擺脫自然的束縛尋求自由的發(fā)展，但未來的情況可能會(huì)超出人類預(yù)期，人—機(jī)關(guān)系可能在某一時(shí)期出現(xiàn)逆轉(zhuǎn)，威脅人類的主體地位。

2.2 未來人工智能道德地位分析

隨著人工智能“人化”程度越來越高的客觀現(xiàn)實(shí)，一系列倫理問題也緊隨其后。如人工智能是否具有“道德地位”。

馬克思主義認(rèn)為,道德是由一定社會(huì)經(jīng)濟(jì)關(guān)系決定的社會(huì)意識(shí)形態(tài)的一個(gè)組成部分。作為一種意識(shí)形態(tài),道德依靠社會(huì)輿論、傳統(tǒng)習(xí)俗和人們內(nèi)心信念來維系的，表現(xiàn)為社會(huì)特定規(guī)范下精神和行為活動(dòng)的總和。顯然意識(shí)是作為人類擁有道德的首要因素，那么，我們進(jìn)一步追問將來可能具備意識(shí)的人工智能是否可以作為道德圈的一員。

對(duì)于機(jī)器人是否具有道德地位，我們可以把動(dòng)物的生存狀態(tài)作為參照。美國生學(xué)家利奧波德認(rèn)為，整個(gè)生態(tài)系統(tǒng)都應(yīng)該具有道德地位，具有生存和發(fā)展的機(jī)會(huì)。人類對(duì)待人類之外的生物需要尊重和關(guān)懷。人類站在食物鏈的頂端，對(duì)其他生物具有絕對(duì)的支配力。從“叢林法則”來看，弱肉強(qiáng)食似乎并沒有太大分歧，但是，關(guān)鍵是度的問題。那么，對(duì)非人物種的支配地位及其支配方式的倫理約束在什么地方？彼得·辛格其在動(dòng)物解放論中強(qiáng)調(diào)，動(dòng)物也能感受痛苦，因此他們具有道德地位，他把感受痛苦作為擁有道德標(biāo)準(zhǔn)。隨著人類文明的發(fā)展以及認(rèn)識(shí)水平的不斷提高, 這一理念得到相當(dāng)范圍的支持。如“小草也有生命”“沒有買賣就沒有殺害”的聲浪都凸顯了動(dòng)物的“道德地位”不斷加強(qiáng)。雖然目前可能還沒有建立十分完備的制度體系，但是，這也體現(xiàn)了人類意識(shí)的能動(dòng)性、實(shí)踐的反思性與未來發(fā)展的無限可能性。當(dāng)人工智能越來越接近人的時(shí)候，甚至在一定程度上擁有人的情感，能夠感知幸福和痛苦，我們必須采取手段為他們爭(zhēng)取更高的地位。當(dāng)然這必須有一個(gè)前提，不能凌駕于人之上。也可以說應(yīng)該符合阿西莫夫的“機(jī)器人三定律”?？偨Y(jié)起來就是，機(jī)器人必須完全聽從人類的指揮，不能傷害人類，在此基礎(chǔ)上可以保證機(jī)器人自身的安全，也就是說，作為仆人的人工智能可以被納入“道德圈”但是其道德地位應(yīng)該低于人類而存在，人工智能作為人類認(rèn)識(shí)實(shí)踐活動(dòng)的產(chǎn)物，為人所創(chuàng)造，理應(yīng)受到人的管理。所以牢牢把握住人類的“最主體”地位是我們研究一切科技問題的出發(fā)點(diǎn)。

3 構(gòu)建關(guān)系互聯(lián)條件下的行動(dòng)者網(wǎng)絡(luò)

行動(dòng)者網(wǎng)絡(luò)理論是20世紀(jì)80年代中期由巴黎學(xué)派提出的理論。行動(dòng)者網(wǎng)絡(luò)主張科學(xué)技術(shù)活動(dòng)應(yīng)該組建“不同質(zhì)的”行動(dòng)者網(wǎng)絡(luò)，這個(gè)網(wǎng)絡(luò)由自然、社會(huì)、技術(shù)、人共同編制的一張無縫之網(wǎng)，行動(dòng)者通過“問題化”“引起興趣”“招募成員”“動(dòng)員”4 個(gè)部分使網(wǎng)絡(luò)中行動(dòng)者的利益趨于一致，逐漸構(gòu)建一個(gè)包括人和非人的強(qiáng)大的動(dòng)態(tài)行動(dòng)者網(wǎng)絡(luò)，使異質(zhì)的行動(dòng)者不斷交互作用，使網(wǎng)絡(luò)不斷更新和構(gòu)建。行動(dòng)者網(wǎng)絡(luò)理論的基本規(guī)則是“追隨行動(dòng)者”，即在“不同質(zhì)”的行動(dòng)者中選擇一個(gè)，以此為中心搭建行動(dòng)者網(wǎng)絡(luò)。在人工智能倫理道德問題中，“用戶”“人工智能技術(shù)”“技術(shù)開發(fā)者”“政府”“倫理學(xué)家”等都是作為行動(dòng)者而存在。

3.1 堅(jiān)持倫理學(xué)家理論指引

堅(jiān)持馬克思科技觀的基本原則，堅(jiān)持人的主體性地位不動(dòng)搖。我們要相信人工智能技術(shù)無論如何發(fā)展，終究只是技術(shù)而已，終究要為人而服務(wù)，在技術(shù)發(fā)展的過程中如果混淆了主體和客體地位是非常危險(xiǎn)的，即使是到了人工智能階段，人工智能擁有了人類意識(shí)乃至人類情感的部分功能，我們?nèi)匀槐仨殘?jiān)持以人為主體。在堅(jiān)持馬克思主義倫理觀的原則下，需要有系統(tǒng)、有方法、有目的、有規(guī)律地用倫理去約束，即建立一套行之有效的倫理制度。

3.2 增強(qiáng)技術(shù)開發(fā)者社會(huì)責(zé)任感

愛因斯坦曾經(jīng)說過：“前幾代的人給我們高度發(fā)展的科學(xué)技術(shù)，這是一份寶貴的禮物，它使我們有可能生活得比以前無論哪一代人都要自由和美好。但是這份禮物也帶來了從未有過的巨大危險(xiǎn)，它威脅著我們的生存。”[3]科學(xué)無國界但是科學(xué)家有祖國，科學(xué)家的任務(wù)不僅是科學(xué)研究，更要對(duì)國家負(fù)責(zé)，對(duì)社會(huì)負(fù)責(zé)、對(duì)人類負(fù)責(zé)。首先，當(dāng)前的智能技術(shù)主要是通過計(jì)算機(jī)技術(shù)去實(shí)現(xiàn)，編程技術(shù)中的各種漏洞都是人工智能的未來安全隱患。所以科學(xué)家們應(yīng)該認(rèn)清楚自己所做的每一項(xiàng)科學(xué)研究、科技發(fā)明背后隱藏的潛在影響，時(shí)刻清楚自己身上承擔(dān)的責(zé)任，加強(qiáng)自身的思想道德素質(zhì)、增強(qiáng)人文道德情操與民族國家意識(shí)。

3.3 提高民眾知識(shí)素養(yǎng)

對(duì)于人工智能未來最大的受用者，社會(huì)大眾，是行動(dòng)者網(wǎng)絡(luò)中極為重要的一環(huán)。人工智能技術(shù)需要健康發(fā)展就必須建立在人民大眾充分了解的基礎(chǔ)上，人工智能技術(shù)的出發(fā)點(diǎn)是善，落腳點(diǎn)也應(yīng)該是為了社會(huì)的發(fā)展、人民的幸福。那么對(duì)于人工智能技術(shù)的發(fā)展?fàn)顩r的認(rèn)識(shí)人們有理由充分享有。當(dāng)然這需要政府、科研人員以及民眾廣泛配合。只有這樣，即使是在人工智能出現(xiàn)問題的時(shí)候，全社會(huì)才能從容應(yīng)對(duì)。

3.4 加強(qiáng)政府監(jiān)督管理

政府為人民服務(wù)，在人工智能的監(jiān)督中負(fù)有主導(dǎo)作用。人工智能發(fā)展具體走向仍不明確，人工智能在發(fā)展過程中可能會(huì)因?yàn)樘囟ōh(huán)境、利益狀況的影響下發(fā)生一定狀況的“越軌”現(xiàn)象，政府對(duì)人工智能的走向具有根本性的控制力。在政府監(jiān)督中，首先要規(guī)定人工智能的發(fā)展方向和發(fā)展原則等問題，制定相關(guān)政策法規(guī)，對(duì)人工智能技術(shù)和產(chǎn)品的各個(gè)方面的行為都要做到有法可依，有章可循。比如，責(zé)任問責(zé)條例。這不僅需要對(duì)科研人員，設(shè)計(jì)企業(yè)制定具體的規(guī)章制度把控其制造和銷售行為，同時(shí)還需對(duì)使用者進(jìn)行明確行為規(guī)范。對(duì)待人工智能可能出現(xiàn)的問題，全社會(huì)不僅要做好事前防御機(jī)制，更要做好事后反思研究。讓每一個(gè)步驟，涉及的每一個(gè)個(gè)體都能權(quán)責(zé)明晰，讓人工智能技術(shù)越走越遠(yuǎn)，越走越穩(wěn)。讓科學(xué)技術(shù)惠及每一個(gè)人。

我們想要達(dá)到的一個(gè)方向是自然科技與社會(huì)的結(jié)合，真理與價(jià)值的統(tǒng)一。在“社會(huì)善”的總領(lǐng)下，從知識(shí)、交往、利益等多角度出發(fā)，在實(shí)踐中構(gòu)建動(dòng)態(tài)的多元主體的行動(dòng)者網(wǎng)絡(luò)，社會(huì)發(fā)展事關(guān)每個(gè)個(gè)體的現(xiàn)在和未來，因此行動(dòng)者網(wǎng)絡(luò)的構(gòu)建是最好的選擇。