嚴(yán)衛(wèi) 錢振江

摘要：隨著人類科技的提高，人工智能在現(xiàn)代經(jīng)濟(jì)社會(huì)中發(fā)揮著越來越重要的作用。在某種程度上來說，人工智能的發(fā)展可以大幅度提高人們的生活質(zhì)量，促進(jìn)社會(huì)發(fā)展，甚至可以推動(dòng)人類社會(huì)的變革。人工智能的不斷發(fā)展也意味著隨之而來的問題，其中在社會(huì)中引起最大爭(zhēng)議的就是人工智能可能帶來的倫理問題，本文列舉了人工智能發(fā)展主要面臨的八種倫理風(fēng)險(xiǎn)情形。根據(jù)研究人工智能可能出現(xiàn)的倫理風(fēng)險(xiǎn)，從而提出了人工智能倫理風(fēng)險(xiǎn)的應(yīng)對(duì)措施，以促進(jìn)人工智能技術(shù)的健康發(fā)展。

關(guān)鍵詞：人工智能;倫理;風(fēng)險(xiǎn)

中圖分類號(hào)：TP311? ? 文獻(xiàn)標(biāo)識(shí)碼：A

文章編號(hào)：1009-3044（2019）18-0221-02

1 引言

從2001年的斯皮爾伯格所制作的《人工智能》到如今的《阿麗塔》，都代表一種趨勢(shì)——人工智能受到了全世界人廣泛的關(guān)注，從電影中我們也可以窺探出人工智能技術(shù)的興起和成熟，作為一個(gè)緊隨世界潮流，全面參與全球化經(jīng)濟(jì)的國(guó)家，我國(guó)對(duì)于人工智能的研究當(dāng)然不甘落后。國(guó)務(wù)院于2016年7月在北京隆重發(fā)布《“十三五”國(guó)家社會(huì)發(fā)展科技創(chuàng)新規(guī)劃》，自此開始人工智能正式被納入國(guó)家規(guī)劃中。[1]緊接著在2017年3月，政府工作報(bào)告中首次提到人工智能技術(shù)。從種種跡象中可以看出，國(guó)家對(duì)人工智能越來越重視，也將投入更多的資源給予人工智能，因此在未來，我國(guó)的人工智能產(chǎn)業(yè)必將走入一個(gè)大的跨越式發(fā)展階段。但科技的發(fā)展總是伴隨著不確定的因素，因此我們對(duì)待人工智能技術(shù)也必須抱有理性而謹(jǐn)慎的態(tài)度去觀察與研究。政府及相關(guān)部門應(yīng)該盡快出臺(tái)一套科學(xué)的法律法規(guī)來規(guī)范人工智能倫理風(fēng)險(xiǎn)和過程監(jiān)管。人工智能這項(xiàng)新技術(shù)的出現(xiàn)必然會(huì)給我們的生活提供很多便利之處，但這也意味倫理、法律和安全問題也接踵而至，因此目前人工智能對(duì)社會(huì)發(fā)展的影響和挑戰(zhàn)已經(jīng)逐漸成為我國(guó)哲學(xué)社會(huì)科學(xué)研究不容刻緩的研究話題。

2 人工智能發(fā)展主要面臨的倫理風(fēng)險(xiǎn)

2.1 道德風(fēng)險(xiǎn)

未來，隨著人工智能道德自主性的突破，人工智能的道德觀念將從完全由人類設(shè)計(jì)轉(zhuǎn)變?yōu)橥耆蓹C(jī)器決定。如何賦予人工智能道德判斷能力是一個(gè)重要的現(xiàn)實(shí)問題。將人類道德寫入人工智能程序或許是解決問題的方法。早期，人工智能的道德判斷行為是可控的。隨著技術(shù)的進(jìn)一步發(fā)展，人工智能的道德判斷行為可以完全獨(dú)立。穆爾教授認(rèn)為，這種情況的標(biāo)準(zhǔn)是，人工智能程序具有成年人的平均道德水平。[2]在這個(gè)階段，人工智能會(huì)做出自己的行動(dòng)策略和道德選擇，它的行為不會(huì)被人類控制。這將對(duì)現(xiàn)有的社會(huì)秩序和道德規(guī)范產(chǎn)生重大影響。為了避免這種情況，人工智能的道德自主性應(yīng)該被限制在一個(gè)合理的范圍內(nèi)，使其行為能夠被人類所期待。

2.2 失業(yè)風(fēng)險(xiǎn)

當(dāng)人工智能取代一個(gè)又一個(gè)產(chǎn)業(yè)時(shí)，社會(huì)財(cái)富將逐漸集中在擁有先進(jìn)人工智能技術(shù)的發(fā)達(dá)國(guó)家或科技巨頭身上。而發(fā)展中國(guó)家的勞動(dòng)密集型產(chǎn)業(yè)往往被人工智能所取代，這些國(guó)家勞動(dòng)力成本較低的優(yōu)勢(shì)將不復(fù)存在，就業(yè)受到嚴(yán)重影響。[3]人工智能的應(yīng)用在很大程度上對(duì)這些地區(qū)的就業(yè)穩(wěn)定提出了挑戰(zhàn)。如何讓每個(gè)人都從人工智能創(chuàng)造的財(cái)富中受益，防止貧富差距擴(kuò)大，這是我們需要思考的問題。

2.3 隱私風(fēng)險(xiǎn)

隨著人工智能的發(fā)展，大數(shù)據(jù)的運(yùn)用將無處不在。通過深度學(xué)習(xí)和大數(shù)據(jù)算法，人工智能可以更有效地解決問題，但這將涉及隱私問題。許多重要的個(gè)人隱私信息，如收入，家庭狀況和健康等，可以實(shí)時(shí)收集和保存。通過數(shù)據(jù)挖掘技術(shù)，數(shù)據(jù)控制器可以從大量不完整或模糊的數(shù)據(jù)中提取有用的個(gè)人信息。這樣，人類就失去了對(duì)自己隱私的控制，甚至一些私人信息也被實(shí)時(shí)監(jiān)控了很長(zhǎng)一段時(shí)間。因此，在人工智能發(fā)展的過程中，如何加強(qiáng)對(duì)隱私的保護(hù)成為一個(gè)必須關(guān)注的問題。

2.4 算法偏見風(fēng)險(xiǎn)

雖然人工智能的倫理判斷本質(zhì)上是算法，但在現(xiàn)實(shí)生活中可能會(huì)存在主觀偏見。這種偏見有多個(gè)方面的因素，可能是數(shù)據(jù)源的輸入也可能是程序員的世界觀和價(jià)值觀。如果算法中已經(jīng)存在偏差，經(jīng)過深度學(xué)習(xí)，可以進(jìn)一步加強(qiáng)算法中的偏差。例如，在車禍現(xiàn)場(chǎng)，中國(guó)人和外國(guó)人都受了重傷。人工智能機(jī)器應(yīng)該先拯救哪一個(gè)？是否存在種族、意識(shí)形態(tài)和算法上的偏見？這表明，機(jī)器處理各種類型數(shù)據(jù)時(shí)，可能會(huì)存在偏差。當(dāng)然，與人類決策相比，人工智能的決策能排除人類情感因素而做出更為客觀理性的決策。但是，我們更要注意的是一旦人工智能算法出現(xiàn)偏見問題，那么就會(huì)形成廣泛的影響。因此，在算法中去除社會(huì)共識(shí)和法律規(guī)范偏見的工作任重而道遠(yuǎn)。

2.5 人身安全風(fēng)險(xiǎn)

人工智能機(jī)器對(duì)任務(wù)的理解可能存在偏差，這將導(dǎo)致人工智能機(jī)器根據(jù)錯(cuò)誤的理解來完成任務(wù)。比如，我們?cè)O(shè)置人工智能機(jī)器的任務(wù)是讓主人微笑，其可能通過饒癢癢的方式來實(shí)現(xiàn)。當(dāng)人工智能機(jī)器將在特定環(huán)境中學(xué)習(xí)到的行動(dòng)策略應(yīng)用到新環(huán)境中時(shí)，可能會(huì)產(chǎn)生安全風(fēng)險(xiǎn)。又比如，機(jī)器人將成人牛奶給嬰兒喝等生活問題。人工智能技術(shù)還可以用來開發(fā)武器?；艚鹪?015年，就公開表示擔(dān)心人工智能技術(shù)遲早會(huì)強(qiáng)大到無意中殺死人類的地步。[4]

2.6 權(quán)利風(fēng)險(xiǎn)

從某種意義而言，人工智能擁有一定的思考能力以及學(xué)習(xí)能力，因此如果我們僅僅將人工智能看作工具或許有失偏頗。作為未來社會(huì)將與我們朝夕相伴的智能人，人工智能在一定程度上也需要獲得相關(guān)法律法規(guī)的保護(hù)，在法律上給予人工智能道德地位以及相應(yīng)的權(quán)利，并嚴(yán)格禁止隨意處置、虐待與遺棄人工智能機(jī)器人的行為存在，使人工智能在未來社會(huì)的權(quán)益受到合理的保障。[5]

2.7 媒介風(fēng)險(xiǎn)

人工智能在給新聞媒介便利的同時(shí)，媒介風(fēng)險(xiǎn)也日益突出。比如，大型商業(yè)公司以商業(yè)利益為宗旨，其研究和開發(fā)的人工智能媒介易受公司營(yíng)利的自然傾向。此外，像微軟、谷歌、阿里巴巴、百度等成熟的公司都有自己獨(dú)特的價(jià)值追求和企業(yè)文化，有意識(shí)或無意識(shí)地影響著基于人工智能的媒介發(fā)展。比如，谷歌的媒介算法偏向“新聞價(jià)值”的核心地位，而臉書的媒介算法偏向“家庭和朋友”的核心關(guān)系，有著明顯的社交風(fēng)格。[6]

2.8 “奇點(diǎn)”風(fēng)險(xiǎn)

幾年前，美國(guó)未來學(xué)家?guī)炱濏f爾根據(jù)其所提出的加速回報(bào)定理提出了著名的“奇點(diǎn)理論”。也正是在這個(gè)理論中他提出了一個(gè)預(yù)測(cè)——純?nèi)祟愇拿鲗⒔K止于2045年?；蛟S我們會(huì)覺得這是無稽之談，但庫(kù)茲韋爾卻提出科技的發(fā)展迅速，甚至?xí)?dǎo)致“失控效應(yīng)”。[7]但這也意味著人類的智慧將逐漸衰退，隨著科技的發(fā)展，人類只需要在網(wǎng)上搜索就能獲得知識(shí)，從而失去了深入探索知識(shí)的能力與自主性，人類對(duì)機(jī)器的依賴程度越來越高，而人工智能奇點(diǎn)卻足以讓機(jī)器人完全獨(dú)立自主地進(jìn)行升級(jí)，因此人工智能在未來或許將擁有改變?nèi)祟愇拿鞯哪芰?。這也意味著我們必須時(shí)刻關(guān)注人工智能的發(fā)展情況，防止奇點(diǎn)的失控，從而影響人類與人工智能之間的關(guān)系混亂，斷絕人工智能奴役甚至消滅人類的可能性。綜上所述，對(duì)于在未來如何適應(yīng)和引導(dǎo)人類與人工智能共存已經(jīng)成了值得我們著重研究的問題。

3 人工智能倫理風(fēng)險(xiǎn)的應(yīng)對(duì)措施

3.1 健全規(guī)范的法律法規(guī)

之所以人工智能會(huì)引發(fā)這么多的倫理風(fēng)險(xiǎn)，一切的根源都在于目前社會(huì)與政府對(duì)人工智能的法律法規(guī)的空缺?！皼]有規(guī)矩，不成方圓”，政府應(yīng)該制定相關(guān)的法律法規(guī)來規(guī)范人工智能的應(yīng)用。積極承擔(dān)人工智能倫理法律法規(guī)的責(zé)任，引導(dǎo)和推動(dòng)人工智能走上理性科學(xué)的正確軌道。文中提到的八大倫理風(fēng)險(xiǎn)造成的人工智能的負(fù)面社會(huì)影響，時(shí)刻提醒我們需要開發(fā)更完善，符合新時(shí)代的法律法規(guī)，具體到人工智能的作品界定、責(zé)任和限制使用做出更詳細(xì)明確的闡釋，同時(shí)可以根據(jù)相關(guān)法律查處違法行為。[8]

3.2 加強(qiáng)倫理制度建設(shè)

對(duì)于人工智能引發(fā)的倫理問題，倫理制度的建設(shè)是不可或缺的，將人工智能研究與倫理制度建設(shè)相結(jié)合是解決人工智能倫理問題的有效途徑。倫理制度建設(shè)至少應(yīng)包括設(shè)計(jì)倫理和應(yīng)用規(guī)范倫理。設(shè)計(jì)倫理應(yīng)確保人工智能產(chǎn)品的安全性，應(yīng)用倫理則強(qiáng)調(diào)人工智能應(yīng)用過程中的安全性[9]。當(dāng)人工智能沒有道德主體時(shí)，人工智能的使用者就是一種道德主體。因此，有必要為人工智能用戶制定合理的倫理制度規(guī)范。尤其應(yīng)該禁止人工智能被用于可能對(duì)人類和整個(gè)社會(huì)造成危害的領(lǐng)域。此外，人工智能用戶還應(yīng)注重自身倫理責(zé)任感的培養(yǎng)，將倫理制度規(guī)范內(nèi)化為自己的主體信念和責(zé)任意識(shí)。

3.3 人與人工智能的和諧發(fā)展

隨著人工智能的不斷發(fā)展，人本身與人工智能的關(guān)系已經(jīng)越發(fā)密切，已經(jīng)逐漸成了相互融合的發(fā)展模式，也正是因?yàn)檫@種模式的存在，對(duì)我們?nèi)祟愖怨乓詠硭鶊?jiān)持的倫理產(chǎn)生了巨大的挑戰(zhàn)。人工智能與人類相互融合代表著我們產(chǎn)生了新的和諧人機(jī)關(guān)系，但不論人類智能與人類融合的何其緊密，我們?cè)趯?duì)待人工智能技術(shù)時(shí)都必須始終堅(jiān)持以人為本的原則，時(shí)刻牢記人工智能只是一種工具，歸其根本還是用來推動(dòng)人自身的全面發(fā)展的工具。因此我們應(yīng)該樹立正確的科學(xué)觀和發(fā)展觀，利用合適的渠道普及人工智能知識(shí)，讓公眾正確認(rèn)識(shí)人工智能，意識(shí)到人工智能技術(shù)只是計(jì)算機(jī)科學(xué)的分支的同時(shí)也要明確在我們使用人工智能技術(shù)的時(shí)候必須把握分寸，盡管目前人工智能技術(shù)發(fā)展尚存在于模仿人類行為的階段上，但我們必須理智對(duì)待人工智能，防止自身被人工智能所束縛和控制，時(shí)刻保持我們作為人類的自主性和尊嚴(yán)。作為科研人員而言，在研究過程中應(yīng)該適當(dāng)增加倫理關(guān)懷和人文精神。作為我們普通人，我們?cè)诿鎸?duì)關(guān)于人工智能的危險(xiǎn)言論時(shí)，切記不要盲目跟風(fēng)，綜合考慮各類因素之后做出準(zhǔn)確的判斷。

3.4 加強(qiáng)監(jiān)管與持續(xù)性改進(jìn)

人工智能引發(fā)的一些倫理問題與該領(lǐng)域的監(jiān)管松懈或空白密切相關(guān)。人工智能的價(jià)值就是為人類服務(wù)，因此人類在使用過程中必然會(huì)意識(shí)到人工智能所存在的問題與潛在風(fēng)險(xiǎn)。通過消費(fèi)者的反饋，人工智能才能得以快速的完善與發(fā)展。同時(shí)通過科學(xué)家和倫理學(xué)家的專業(yè)知識(shí)進(jìn)行人工智能現(xiàn)存問題的分析也是人工智能發(fā)展和監(jiān)督的重要推力，以專業(yè)角度理智看待人工智能，從而推測(cè)出人工智能發(fā)展趨勢(shì)，提出有利于人工智能可持續(xù)發(fā)展的改進(jìn)措施。

4 結(jié)論

人工智能已被提升到國(guó)家戰(zhàn)略層面。人工智能的迅猛發(fā)展需要從法律法規(guī)、倫理制度、人與人工智能的關(guān)系、監(jiān)管等方面進(jìn)行規(guī)制。只有這樣，才能在可控范圍內(nèi)降低人工智能倫理的風(fēng)險(xiǎn)，才能更好地為人類服務(wù)。

參考文獻(xiàn)：

[1] 馬治國(guó)，徐濟(jì)寬.人工智能發(fā)展的潛在風(fēng)險(xiǎn)及法律防控監(jiān)管[J].北京工業(yè)大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2018，18（06）：65-71.

[2] 周程，和鴻鵬.人工智能帶來的倫理與社會(huì)挑戰(zhàn)[J].人民論壇，2018（2）：26-28.

[3] 陳偉光，袁靜.人工智能全球治理：基于治理主體、結(jié)構(gòu)和機(jī)制的分析[J].國(guó)際觀察，2018（4）：23-37.

[4] 張立文.和合倫理道德論——中華傳統(tǒng)道德精髓與人工智能[J].社會(huì)科學(xué)戰(zhàn)線，2018（8）：34-48+281.

[5] 劉憲權(quán).人工智能時(shí)代機(jī)器人行為道德倫理與刑法規(guī)制[J].比較法研究，2018（4）：40-54.

[6] 趙瑜.人工智能時(shí)代的新聞倫理：行動(dòng)與治理[J].人民論壇·學(xué)術(shù)前沿，2018（24）：6-15.

[7] 雷·庫(kù)茲韋爾.奇點(diǎn)臨近 [M].北京：機(jī)械工業(yè)出版社，2011

[8] 劉茂錦.人工智能用于新聞業(yè)的法律、倫理問題及對(duì)策[J].青年記者，2018（6）：96-97.

[9] 王軍.人工智能的倫理問題：挑戰(zhàn)與應(yīng)對(duì)[J].倫理學(xué)研究，2018（4）：79-83.

【通聯(lián)編輯：梁書】