殷佳章 房樂憲

【內(nèi)容提要】近年來，人工智能技術(shù)不斷發(fā)展，對人類生活產(chǎn)生了巨大影響。人工智能已經(jīng)成為新時期國際競爭的重點領(lǐng)域之一。在此背景下，歐盟意識到人工智能的重要意義，為此先后出臺了《歐洲人工智能》與《人工智能協(xié)調(diào)計劃》等重要政策文件，相關(guān)戰(zhàn)略框架初步成型。在此基礎(chǔ)上，2019年4月歐盟發(fā)布了《可信人工智能倫理準則》與《建立以人為本的可信人工智能》兩個政策文件，明確提出七條關(guān)鍵倫理要求，對歐盟的人工智能戰(zhàn)略框架做了補充與細化。本文在簡要回溯歐盟人工智能戰(zhàn)略框架的基礎(chǔ)上，具體闡釋了歐盟人工智能倫理準則的核心內(nèi)涵，分析了其出臺動因及國際含義。本文認為該準則的出臺可以視為歐盟把握戰(zhàn)略機遇、應(yīng)對多重發(fā)展挑戰(zhàn)、發(fā)揮自身機制優(yōu)勢而做出的重要戰(zhàn)略調(diào)整。結(jié)合歐盟在此方面的舉措，本文進一步思考了其對中國人工智能發(fā)展的相關(guān)啟示，提出中國應(yīng)保持既有發(fā)展優(yōu)勢，建立并完善官方倫理監(jiān)管體系，積極參與并推動國際人工智能倫理標準的制定。

近年來，人工智能發(fā)展迅猛，已成為21世紀最為重要的戰(zhàn)略核心技術(shù)之一。除了為日常生活提供便利，人工智能在解決人類面臨的共同挑戰(zhàn)方面也發(fā)揮著日益重要的作用。正如前兩次工業(yè)革命時期的蒸汽機與電力，人工智能的研發(fā)與利用將直接影響甚至塑造未來的世界格局。為抓住這一重要戰(zhàn)略機遇，歐盟自2018年以來先后出臺《歐洲人工智能》與《人工智能協(xié)調(diào)計劃》兩個重要政策文件，初步勾勒出歐盟人工智能的發(fā)展戰(zhàn)略框架。2019年4月，歐盟在此基礎(chǔ)上發(fā)布了歐盟版人工智能倫理準則，進一步完善并細化了相關(guān)戰(zhàn)略。歐盟此舉是其適應(yīng)人工智能發(fā)展新態(tài)勢、發(fā)揮自身規(guī)范性力量優(yōu)勢做出的重要戰(zhàn)略回應(yīng)。在歐盟人工智能戰(zhàn)略框架下審視其倫理準則的核心內(nèi)涵，探究其出臺動因，有利于更好理解歐盟新時期的發(fā)展戰(zhàn)略。歐盟相關(guān)舉措對于目前同樣致力于發(fā)展人工智能技術(shù)的中國具有重要啟示意義。

一、歐盟人工智能戰(zhàn)略框架的目標追求及行動計劃

（一）《歐洲人工智能》政策文件的出臺

2018年4月25日，歐盟委員會發(fā)布了題為《歐洲人工智能》的政策文件，①European Commission,Artificial Intelligence for Europe,Brussels,24.4.2018,COM(2018) 237 final.首次系統(tǒng)地提出了歐盟版的人工智能發(fā)展戰(zhàn)略規(guī)劃。這為歐盟人工智能技術(shù)的研發(fā)與應(yīng)用奠定了總體基調(diào)，明確提出歐盟各國應(yīng)協(xié)同一致，把握人工智能的發(fā)展機遇、應(yīng)對相應(yīng)挑戰(zhàn)。歐盟強調(diào)將結(jié)合自身價值觀與技術(shù)優(yōu)勢，主導人工智能技術(shù)向造福全人類的方向發(fā)展。②European Commission,Artificial Intelligence for Europe,Brussels,24.4.2018,COM(2018) 237 final.為此，歐盟在該政策文件中提出了首個歐洲人工智能倡議，并確定了歐洲人工智能發(fā)展的三大目標：（1）提升歐盟技術(shù)、產(chǎn)業(yè)能力，推進人工智能的廣泛應(yīng)用，主要包括：加大投資力度、鼓勵人工智能研發(fā)、推廣相應(yīng)技術(shù)應(yīng)用、便利數(shù)據(jù)收集與獲取。（2）為應(yīng)對人工智能技術(shù)可能帶來的社會經(jīng)濟變革做好準備：推進教育培訓系統(tǒng)現(xiàn)代化、培養(yǎng)專業(yè)人才、支持勞動力市場轉(zhuǎn)型、及時調(diào)整社會保障體系。（3）在歐盟現(xiàn)有價值觀與《歐盟基本權(quán)利憲章》的基礎(chǔ)上，確立合適的人工智能倫理與法律框架。這需要對現(xiàn)有人工智能產(chǎn)品的權(quán)責進行規(guī)范，深入分析面臨的各項挑戰(zhàn)，也需要相關(guān)各方通力合作，并通過歐洲人工智能聯(lián)盟（European AI Alliance）出臺具體的人工智能倫理準則。③European Commission,Artificial Intelligence for Europe,Brussels,24.4.2018,COM(2018) 237 final,Chapter 1 and 3.作為該政策文件的核心內(nèi)容，三大目標明確了歐盟人工智能發(fā)展的總體原則，為后續(xù)政策文件的出臺提供了指導方針。

除三大目標之外，《歐洲人工智能》政策文件也初步闡述了歐盟后續(xù)的行動規(guī)劃。不僅如此，歐盟委員會再次強調(diào)了各成員國協(xié)調(diào)合作的重要性，并提出在2018年底出臺歐盟《人工智能協(xié)調(diào)計劃》，最大限度利用歐盟投資資源、促進交流合作，為歐盟實現(xiàn)人工智能技術(shù)下的全面轉(zhuǎn)型、處理相關(guān)法律與倫理問題做好準備。①European Commission,Artificial Intelligence for Europe,Brussels,24.4.2018,COM(2018) 237 final,Chapter 3.同年4月10日，歐盟成員國與挪威共同簽署了人工智能合作宣言，表達了在人工智能方面加強合作的意愿，為后來歐盟人工智能協(xié)調(diào)計劃的提出作了鋪墊。②European Commission Digital Single Market,“EU Member States Sign up to Cooperate on Artificial Intelligence,”https://ec.europa.eu/digital-single-market/en/news/eu-member-states-sign-cooperate-artificialintelligence.

（二）歐盟《人工智能協(xié)調(diào)計劃》及行動要點

2018年12月7日，歐盟委員會正式發(fā)布了《人工智能協(xié)調(diào)計劃》（以下簡稱《協(xié)調(diào)計劃》）。③European Commission,Coordinated Plan on Artificial Intelligence,Brussels,7.12.2018,COM(2018) 795 final.該計劃指出，要發(fā)展符合倫理規(guī)范、安全可靠、技術(shù)先進的“歐洲制造”人工智能技術(shù)，確保歐盟人工智能戰(zhàn)略的順利實施，歐盟層面的協(xié)調(diào)與統(tǒng)一必不可少。④European Commission,Coordinated Plan on Artificial Intelligence,Brussels,7.12.2018,COM(2018) 795 final,Chapter 1,p.1.為此，《協(xié)調(diào)計劃》在三大總體目標的基礎(chǔ)上，提出了八項具體目標與動議：

第一，完善戰(zhàn)略布局，促進戰(zhàn)略協(xié)調(diào)。歐盟強調(diào)將以三大目標為指導，制定配套的制度準則，確定投資范圍與投資重點，通過現(xiàn)有政策框架加大投資力度，推進一體化市場整合，并鼓勵各成員國出臺國家層面的人工智能戰(zhàn)略。⑤European Commission,Annex to Coordinated Plan on Artificial Intelligence,Brussels,7.12.2018,COM(2018) 795 final ANNEX,pp.4-5.第二，多方合作，最大限度增加投資。歐盟將通過政府與社會資本合作，統(tǒng)籌歐盟、成員國、私營部門三方的項目與投資，制定共同的人工智能研發(fā)議程。此外，歐盟還將通過歐洲創(chuàng)新理事會（European Innovation Council）對尖端研發(fā)項目進行投資支持，并鼓勵各成員國通過多種方式加大對中小型企業(yè)與互聯(lián)網(wǎng)初創(chuàng)公司的扶持力度。⑥European Commission,Annex to Coordinated Plan on Artificial Intelligence,Brussels,7.12.2018,COM(2018) 795 final ANNEX,pp.6-7.第三，產(chǎn)研結(jié)合，提升科研能力，加速人工智能技術(shù)的推廣與應(yīng)用。歐盟鼓勵各成員國建設(shè)國家人工智能高水平研究中心，建立覆蓋歐盟的研發(fā)中心網(wǎng)絡(luò)；建立世界級人工智能測試體系，完善相關(guān)硬件、軟件設(shè)施；強化各國數(shù)字創(chuàng)新中心（Digital Innovation Hubs）的聯(lián)系與合作，推動人工智能技術(shù)在歐盟內(nèi)部的區(qū)域均衡發(fā)展。①European Commission,Annex to Coordinated Plan on Artificial Intelligence,Brussels,7.12.2018,COM(2018) 795 final ANNEX,pp.7-11.第四，培養(yǎng)專業(yè)人才，提升全民技能。這既包括完善對尖端專業(yè)人才的培養(yǎng)體系，建立健全人才保障機制，也包括對全社會勞動力相關(guān)技能的培訓與提升，推動人工智能解決方案在社會范圍內(nèi)的廣泛運用。②European Commission,Annex to Coordinated Plan on Artificial Intelligence,Brussels,7.12.2018,COM(2018) 795 final ANNEX,pp.11-13.第五，數(shù)據(jù)共享，創(chuàng)建歐盟共同數(shù)據(jù)空間。開放公共數(shù)據(jù)資源，完善相應(yīng)工具與基礎(chǔ)設(shè)施建設(shè)，維護數(shù)據(jù)使用的完整性與安全性，建立歐洲開放科學云（European Open Science Cloud），便捷數(shù)據(jù)獲取與分享。③European Commission,Annex to Coordinated Plan on Artificial Intelligence,Brussels,7.12.2018,COM(2018) 795 final ANNEX,pp.13-17.第六，建立人工智能倫理監(jiān)管框架。歐盟將推動人工智能倫理準則的盡快面世，重視在設(shè)計與研發(fā)過程中的倫理問題，對各成員國現(xiàn)有相關(guān)法律制度進行評估與調(diào)整，大力創(chuàng)建符合規(guī)范、適宜創(chuàng)新的研發(fā)環(huán)境。④European Commission,Annex to Coordinated Plan on Artificial Intelligence,Brussels,7.12.2018,COM(2018) 795 final ANNEX,pp.17-19.第七，鼓勵人工智能在公共部門的廣泛應(yīng)用。通過在政府與公共部門引進人工智能解決方案，改善服務(wù)質(zhì)量、提高工作效率、提升管理水平。成員國將交流與分享自身的先進經(jīng)驗，確定人工智能解決方案的重點應(yīng)用領(lǐng)域，并通過人工智能分析技術(shù)為部分領(lǐng)域的政策產(chǎn)出提供參考。⑤European Commission,Annex to Coordinated Plan on Artificial Intelligence,Brussels,7.12.2018,COM(2018) 795 final ANNEX,pp.19-21.第八，加強人工智能國際合作。歐盟強調(diào)將加強與第三方國家的合作與交流，推動人工智能在全球范圍內(nèi)的廣泛應(yīng)用；加強與國際伙伴的聯(lián)系，組織召開人工智能國際部長級會議，就人工智能倫理準則尋求共識；利用自身發(fā)展經(jīng)驗，以人工智能手段輔助其對外援助與發(fā)展項目。⑥European Commission,Annex to Coordinated Plan on Artificial Intelligence,Brussels,7.12.2018,COM(2018) 795 final ANNEX,pp.21-22.

簡言之，《歐洲人工智能》政策文件明確了歐盟人工智能發(fā)展的三項重要任務(wù)，構(gòu)建起歐盟人工智能戰(zhàn)略的核心框架?！秴f(xié)調(diào)計劃》八項動議的提出則進一步細化了歐盟在2019—2020年的階段性政策措施，在許多重要方面對歐盟人工智能發(fā)展做出了具體規(guī)劃。作為歐盟人工智能戰(zhàn)略框架的重要組成部分，上述政策文件均強調(diào)了人工智能倫理問題的重要性。其中，《歐洲人工智能》政策文件將“確立合適的人工智能倫理與法律框架”作為三大目標之一，《協(xié)調(diào)計劃》也在第六條動議中明確提出要建立人工智能倫理監(jiān)管框架。在此基礎(chǔ)上，歐盟人工智能倫理準則出臺，實現(xiàn)了對其人工智能戰(zhàn)略框架的補充與細化。

二、歐盟人工智能倫理準則的出臺及其核心內(nèi)涵

2018年12月，歐盟人工智能高級專家組起草了歐盟人工智能倫理準則的初稿。隨后，歐洲人工智能聯(lián)盟（European AI Alliance）針對這一草案公開征詢了各相關(guān)方的意見建議共506 份。經(jīng)高級專家組與歐盟委員會商討完善后，2019年4月8日《倫理準則》的最終版本《可信人工智能倫理準則》（以下簡稱《倫理準則》）①Independent High-Level Expert Group on AI Set up by the European Commission,Ethics Guidelines for Trustworthy AI,https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai.與歐盟委員會的相應(yīng)政策文件《建立以人為本的可信人工智能》（以下簡稱《倫理政策文件》）②European Commission,Building Trust in Human-Centric Artificial Intelligence,Brussels,8.4.2019,COM(2019) 168 final.同時發(fā)布，歐盟版的人工智能倫理準則終于面世。

《倫理準則》與歐盟此前出臺的兩大重要文件一脈相承，將“以人為本”（human-centric）作為發(fā)展人工智能技術(shù)的核心要義?；诖?，歐盟結(jié)合自身的價值觀，將尊重人類尊嚴、自由、民主、平等、法治以及人權(quán)的觀念融入準則之中，③European Commission,Building Trust in Human-Centric Artificial Intelligence,Brussels,8.4.2019,COM(2019) 168 final,Chapter 2,p.2.并提出了實現(xiàn)可信人工智能的三大要素：（1）人工智能應(yīng)遵守相關(guān)法律法規(guī)；（2）人工智能應(yīng)符合相應(yīng)倫理準則與價值觀要求；（3）人工智能應(yīng)在技術(shù)與社會層面具有穩(wěn)健性。④Independent High-Level Expert Group on AI Set up by the European Commission,Ethics Guidelines for Trustworthy AI,p.2.三大要素明確了發(fā)展的總體目標與要求，是實現(xiàn)可信人工智能的充分必要條件，以此為基礎(chǔ)，歐盟初步形成了人工智能倫理準則的核心框架，主要包含可信人工智能的基礎(chǔ)原則、可信人工智能的要求及實現(xiàn)手段、可信人工智能的評估機制三個部分。

（一）可信人工智能的基礎(chǔ)原則

核心框架的第一部分闡述了人工智能系統(tǒng)在發(fā)展、部署以及使用過程中必須遵守的倫理原則與價值觀，包括發(fā)展可信人工智能的基本權(quán)利要求，以及由此引申出的四條倫理原則。⑤Independent High-Level Expert Group on AI Set up by the European Commission,Ethics Guidelines for Trustworthy AI,p.9.

就基本權(quán)利要求而言，歐盟根據(jù)《歐洲聯(lián)盟條約》《歐盟基本權(quán)利憲章》以及國際人權(quán)法的相關(guān)規(guī)定，提出了針對人工智能系統(tǒng)的五點基本權(quán)利要求：（1）尊重人的尊嚴；（2）維護個人自由；（3）尊重民主、正義與法治；（4）促進平等、非歧視與團結(jié)；（5）保障公民權(quán)利。①Independent High-Level Expert Group on AI Set up by the European Commission,Ethics Guidelines for Trustworthy AI,pp.10-11.在此基礎(chǔ)上，歐盟進一步提出了四條倫理原則：第一，人類自治原則。保障人類在使用人工智能時充分、有效的自決權(quán)利，確保人類對人工智能系統(tǒng)工作程序的監(jiān)管。人工智能不應(yīng)成為不合理地限制、欺騙、操縱人類的工具，而應(yīng)成為提升和完善人類認知與社交能力的手段。第二，避免傷害原則。要確保人工智能系統(tǒng)以及使用環(huán)境的安全可靠，確保人工智能技術(shù)的穩(wěn)健性，防止惡意利用，維護人類尊嚴、保護其身心健康。第三，公平原則。這既包括在實質(zhì)公平層面合理分配收益與成本，確保個人與團體不受偏見、歧視和侮辱，也包括在程序公平層面建立對人工智能系統(tǒng)產(chǎn)出成果的合理質(zhì)詢渠道和有效補救措施。第四，可解釋性原則。這意味著程序透明，公開相關(guān)系統(tǒng)的功能與目的，保證人工智能產(chǎn)出成果的可解釋性。②Independent High-Level Expert Group on AI Set up by the European Commission,Ethics Guidelines for Trustworthy AI,pp.12-13.

此外，本部分還強調(diào)要特別關(guān)注兒童、殘疾人等弱勢群體，并注意處理好雇主與雇員、企業(yè)與消費者等群體之間的權(quán)力不對稱關(guān)系。在承認人工智能技術(shù)給個人與社會帶來切實益處的同時，也要充分意識到人工智能對民主、法治甚至人類心靈本身帶來的風險與負面影響，并采取適當措施減少此類風險的產(chǎn)生。③Independent High-Level Expert Group on AI Set up by the European Commission,Ethics Guidelines for Trustworthy AI,pp.13-14.

（二）可信人工智能的要求及實現(xiàn)手段

核心框架的第二部分以五項基本權(quán)利與四條倫理原則為中心，進一步細化并擴展出實現(xiàn)可信人工智能的七條具體要求，以及用以實施的技術(shù)性與非技術(shù)性手段，這也是整個《倫理準則》最為重要的部分。

就具體要求而言，歐盟提出了適用于人工智能系統(tǒng)整個生命周期，覆蓋研發(fā)者、操作者、終端用戶以及社會大眾各類群體的七條關(guān)鍵要求：第一，堅持人的自主和監(jiān)管。人工智能系統(tǒng)應(yīng)促進社會繁榮與平等，確保人的自主性，保護人的基本權(quán)利，將維護用戶福祉作為系統(tǒng)功能的核心。此外，還應(yīng)確保對人工智能系統(tǒng)的適當人為管控，通過相應(yīng)治理機制進行監(jiān)管。第二，保持技術(shù)穩(wěn)健與安全。確保人工智能系統(tǒng)安全可靠，防止外部攻擊與操縱，針對可能產(chǎn)生的問題制定相關(guān)補救計劃。保證計算結(jié)果的準確性與可復(fù)制性，建立安全機制，實現(xiàn)可驗證的安全。第三，重視隱私與數(shù)據(jù)治理。保障人工智能系統(tǒng)生命周期內(nèi)各個階段的隱私與數(shù)據(jù)安全，確保人類對所用數(shù)據(jù)的完全控制，避免傷害與歧視。保障所用數(shù)據(jù)的質(zhì)量與完整性，嚴格管控數(shù)據(jù)訪問。第四，維護透明性原則。確保人工智能系統(tǒng)的可追溯性及決策程序的可解釋性，保障各相關(guān)方對人工智能系統(tǒng)功能與局限性的知情權(quán)。第五，堅持多樣性、非歧視與公平原則。建立多樣性的研發(fā)設(shè)計團隊，建立適當機制保障民眾能夠參與設(shè)計過程。人工智能系統(tǒng)的研發(fā)過程需要與各相關(guān)方保持密切聯(lián)系，考慮不同群體的能力與訴求差異，確保弱勢群體享有平等的使用權(quán)利。第六，維護社會與環(huán)境福祉。關(guān)注人工智能系統(tǒng)對環(huán)境以及其他生物可能產(chǎn)生的影響，大力發(fā)展可持續(xù)的、生態(tài)友好的人工智能系統(tǒng)。此外，還應(yīng)重視人工智能系統(tǒng)的社會影響，避免其對民主程序、政治決策以及選舉結(jié)果可能產(chǎn)生的負面影響。第七，堅持可追責性原則。建立適當機制確保人工智能系統(tǒng)及其產(chǎn)出結(jié)果的可追責性。這需要識別、評估、記錄并減小人工智能系統(tǒng)的潛在負面影響，平衡現(xiàn)有各項要求規(guī)定，并防患于未然，出臺充分的補救措施。①European Commission,Building Trust in Human-Centric Artificial Intelligence,Brussels,8.4.2019,COM(2019) 168 final,Chapter 2,pp.4-6.

就實施手段而言，歐盟提出了十三條具體措施，按其性質(zhì)不同可分為技術(shù)性手段和非技術(shù)性手段兩大類。其中，技術(shù)性手段主要側(cè)重人工智能系統(tǒng)的設(shè)計與研發(fā)階段，包含建立可信人工智能框架、堅持倫理與法治的設(shè)計原則、保證人工智能系統(tǒng)的可解釋性、加強對人工智能系統(tǒng)的測試和驗證、建立服務(wù)質(zhì)量指標體系五項內(nèi)容。非技術(shù)性手段相對更加關(guān)注人工智能系統(tǒng)的使用與監(jiān)管，主要涉及健全監(jiān)管法規(guī)、出臺相應(yīng)行為準則、設(shè)定行業(yè)標準、建立資質(zhì)審核機制、以治理框架實現(xiàn)問責制、通過教育提升倫理意識、確保各方的廣泛參與和溝通、維護設(shè)計團隊的多樣性和包容性。②Independent High-Level Expert Group on AI Set up by the European Commission,Ethics Guidelines for Trustworthy AI,pp.20-23.

（三）可信人工智能的評估機制

核心框架的第三部分提供了可信人工智能的評估清單，旨在更好實現(xiàn)此前部分提出的相關(guān)要求。③Independent High-Level Expert Group on AI Set up by the European Commission,Ethics Guidelines for Trustworthy AI,p.3.評估清單共分為七個方面，分別對應(yīng)實現(xiàn)可信人工智能的七條關(guān)鍵倫理要求。該清單將應(yīng)用于人工智能系統(tǒng)開發(fā)、部署以及使用的各個階段，歐盟鼓勵各相關(guān)方在實踐中依據(jù)實際情況，反饋清單在實用性、完整性以及適切性方面的相關(guān)問題。高級專家組將根據(jù)反饋對評估清單進行修改，并于2020年初出臺修訂版的評估清單。①Independent High-Level Expert Group on AI Set up by the European Commission,Ethics Guidelines for Trustworthy AI,pp.24-31.

在核心框架之外，歐盟還擬定了《倫理準則》未來的完善與推廣規(guī)劃，包括準則在歐盟內(nèi)部的試點與完善規(guī)劃及其在國際社會的推廣規(guī)劃等內(nèi)容。其中，內(nèi)部試點階段，歐盟將面向人工智能系統(tǒng)的研發(fā)與使用各相關(guān)方征求意見反饋，并同成員國內(nèi)部的不同群體深入?yún)f(xié)商、加深認識。高級專家組計劃于2020年初綜合各方反饋意見對現(xiàn)有《倫理準則》進行修改與更新，同時歐盟委員會也將以此為基礎(chǔ)制定后續(xù)人工智能戰(zhàn)略規(guī)劃。②European Commission,Building Trust in Human-Centric Artificial Intelligence,Brussels,8.4.2019,COM(2019) 168 final,Chapter 2.3,pp.7-8.國際推廣階段，歐盟將致力于推動國際社會達成共識，發(fā)展“以人為本”的人工智能，并在國際人工智能準則以及相應(yīng)評估機制的制定過程中發(fā)揮主導作用。為此，歐盟表示將繼續(xù)加強同伙伴國家的合作關(guān)系，并積極參與相關(guān)國際討論與倡議。③European Commission,Building Trust in Human-Centric Artificial Intelligence,Brussels,8.4.2019,COM(2019) 168 final,Chapter 2.4,pp.8-9.

三、歐盟人工智能倫理準則出臺的動因及其國際含義

《倫理準則》的提出對歐盟的人工智能戰(zhàn)略框架做了補充與細化，是歐盟適應(yīng)新時期科技發(fā)展要求、維護自身國際競爭地位的重要戰(zhàn)略舉措，歐盟人工智能倫理準則出臺有其深刻原因，其蘊含的國際政治經(jīng)濟含義值得關(guān)注。

首先，歐盟已充分意識到人工智能技術(shù)的重要作用與巨大潛力，認定規(guī)范人工智能技術(shù)發(fā)展有利于歐盟把握當前難得的發(fā)展機遇，提升自身國際競爭力。隨著科技的不斷發(fā)展，人工智能在醫(yī)療衛(wèi)生、節(jié)能減排、智能汽車以及智能農(nóng)業(yè)等不同領(lǐng)域都發(fā)揮著越來越重要的作用。不僅如此，人工智能技術(shù)也幫助人類解決氣候變化、金融管理風險等諸多問題，成為提高生產(chǎn)效率、預(yù)防和防止網(wǎng)絡(luò)犯罪的重要工具。④European Commission,Building Trust in Human-Centric Artificial Intelligence,Brussels,8.4.2019,COM(2019) 168 final,Chapter 1,p.1.在此背景下，歐盟非常重視人工智能的決定性作用，試圖在激烈的國際競爭中保持優(yōu)勢，強調(diào)需要建立堅實可靠的人工智能戰(zhàn)略框架，大力發(fā)展人工智能技術(shù)。⑤European Commission,Artificial Intelligence for Europe,Brussels,24.4.2018,COM(2018) 237 final,Chapter 1.這不僅需要強有力的資金支持、先進的技術(shù)設(shè)備、優(yōu)秀的研發(fā)團隊，也需要與之配套的制度與規(guī)則設(shè)計。因此，出臺《倫理準則》等一系列人工智能制度準則有利于規(guī)范歐盟人工智能發(fā)展，保護數(shù)據(jù)與隱私安全，維護數(shù)據(jù)在歐盟內(nèi)部的自由流通，從而推動建立歐盟單一數(shù)據(jù)市場。①European Commission,Artificial Intelligence for Europe,Brussels,24.4.2018,COM(2018) 237 final,Chapter 1.這對歐盟自身發(fā)展而言具有重大意義。自2008年全球金融危機及隨后爆發(fā)的歐債危機以來，歐洲經(jīng)濟一度持續(xù)低迷，加上其他長期積累的社會矛盾和問題凸現(xiàn)，促使歐盟必須加快社會改革和創(chuàng)新發(fā)展，其中在發(fā)展數(shù)字經(jīng)濟和創(chuàng)新聯(lián)盟建設(shè)方面近年來已取得許多新進展。在此進程中，歐盟越來越清醒地認識到，加快發(fā)展人工智能技術(shù)與其積極推進的數(shù)字經(jīng)濟建設(shè)密不可分。而要確保數(shù)字經(jīng)濟建設(shè)長期健康穩(wěn)定發(fā)展，不僅要在技術(shù)層面爭取領(lǐng)先地位，也需要在規(guī)范層面盡早占領(lǐng)道義制高點，某種意義上，這也是全面提高歐洲自身競爭力的重要制度保障之一。

其次，《倫理準則》是歐盟人工智能戰(zhàn)略框架體系的重要組成部分，符合歐盟的發(fā)展戰(zhàn)略需要。早在2017年10月，歐洲理事會就提出歐盟迫切需要在發(fā)展新興人工智能技術(shù)的同時，“確保高水平的數(shù)據(jù)與數(shù)字版權(quán)保護，設(shè)立相應(yīng)的倫理標準”。②European Council,“European Council meeting (19 October 2017)-Conclusions”,Brussels,19 October 2017,http://data.consilium.europa.eu/doc/document/ST-14-2017-INIT/en/pdf.在次年出臺的《歐洲人工智能》政策文件中，歐盟委員會也聲稱新興科技的發(fā)展要遵循歐盟尊重人權(quán)與法治的多元價值觀念，并將“建立適當?shù)娜斯ぶ悄軅惱砼c法律框架體系”作為歐洲人工智能發(fā)展的三大目標之一。歐盟承認人工智能技術(shù)的發(fā)展與應(yīng)用將會帶來新的倫理與合法性問題，因而需要盡快出臺相應(yīng)的監(jiān)管框架，在促進技術(shù)創(chuàng)新的同時維護歐盟一貫堅持的價值觀與基本權(quán)利觀念，堅持可解釋與透明的倫理原則。③European Commission,Artificial Intelligence for Europe,Brussels,24.4.2018,COM(2018) 237 final,Chapter 1.因此，《倫理準則》的出臺有利于規(guī)范歐盟整個人工智能行業(yè)的發(fā)展，維護歐盟自身產(chǎn)品安全、高質(zhì)的國際聲譽，保持歐盟經(jīng)濟的核心競爭力。④Independent High-Level Expert Group on AI Set up by the European Commission,Ethics Guidelines for Trustworthy AI,Chapter 1,p.1.同時，這也有利于進一步補充和完善歐盟的人工智能戰(zhàn)略體系框架，為歐盟發(fā)展“以人為本”的人工智能提供規(guī)則保障，符合歐盟的戰(zhàn)略規(guī)劃需求。

再次，歐盟意識到人工智能技術(shù)的快速發(fā)展在促進社會進步與經(jīng)濟發(fā)展的同時，也帶來了諸多法律、倫理方面的挑戰(zhàn)，⑤European Commission,Building Trust in Human-Centric Artificial Intelligence,Chapter 1,p.1.歐盟迫切需要以政策手段進行預(yù)防與應(yīng)對。人工智能技術(shù)的產(chǎn)生使得現(xiàn)有社會環(huán)境更為復(fù)雜，其發(fā)展不可避免地涉及到社會公平、數(shù)據(jù)安全、隱私保護、消費者權(quán)益保護以及非歧視性原則等敏感議題，引起了公眾對人工智能技術(shù)安全性與可靠性的關(guān)切。①European Commission,Artificial Intelligence for Europe,Brussels,24.4.2018,COM(2018) 237 final,Chapter 3.3.同時，人工智能將人決策中的自由意志賦予機器，②清華大學戰(zhàn)略與安全研究中心：《中國青年視角下的人工智能風險與治理》，《國際戰(zhàn)略與安全調(diào)研報告》2019年第2 期，第1 頁。傳統(tǒng)的歐盟價值觀念與倫理準則規(guī)范也不再能準確適用于當下“機器學習”的新形勢，這使得出臺專門針對人工智能技術(shù)的倫理準則成為必然。因此，歐盟人工智能倫理準則的出臺不僅有助于規(guī)范人工智能系統(tǒng)的設(shè)計與研發(fā)過程，預(yù)防潛在風險，也便于歐盟對已有人工智能系統(tǒng)進行審核與監(jiān)管，為解決人工智能帶來的倫理問題與挑戰(zhàn)提供指導原則。

最后，中美兩國在人工智能研發(fā)與應(yīng)用方面的發(fā)展給歐盟帶來巨大壓力，《倫理準則》的出臺與推廣體現(xiàn)了歐盟增強自身規(guī)范性力量，進而爭取國際規(guī)則制定權(quán)的重要考量。麥肯錫全球研究所（McKinsey Global Institute）的調(diào)查數(shù)據(jù)顯示，在歐盟人工智能戰(zhàn)略出臺之前，2016年歐洲在人工智能領(lǐng)域的投資僅為24—36 億歐元，而由中美兩國主導的亞洲和美洲人工智能投資則分別達到65—97 億歐元與121—186 億歐元。③McKinsey Global Institute,“10 Imperatives for Europe in the Age of AI and Automation,”O(jiān)ctober 2017,https://www.mckinsey.com/featured-insights/europe/ten-imperatives-for-europe-in-the-age-of-ai-andautomation#section%202.人工智能戰(zhàn)略出臺后，歐盟取得的進展依然較為有限。2018年，僅有四家歐洲公司進入全球人工智能初創(chuàng)公司100 強，全球風險投資和企業(yè)融資的一半以上依然被中美兩國把控。④McKinsey Global Institute,“Tackling Europe’s gap in digital and AI,”February 2019,https://www.mckinsey.com/featured-insights/artificial-intelligence/tackling-europes-gap-in-digital-and-ai.另外，根據(jù)數(shù)據(jù)創(chuàng)新中心（Center for Data Innovation）2019年的調(diào)研報告顯示，在對中美歐三方人工智能發(fā)展的六個關(guān)鍵指標的評估中，目前歐盟沒有一項指標排名第一（見表1）。具體來看，美國在大部分指標上都居領(lǐng)先地位，中國則在人工智能技術(shù)的推廣應(yīng)用與數(shù)據(jù)資源方面占有優(yōu)勢。與中美兩國相比，歐盟盡管在人才數(shù)量與基礎(chǔ)研究方面并不算落后，但是受政策扶持力度不足與研發(fā)資金相對短缺的限制，其發(fā)展勢頭并不理想。與此同時，中國近年來在人工智能人才培養(yǎng)、基礎(chǔ)研究方面加大了投資與扶持力度，發(fā)展速度較快，對歐盟現(xiàn)有地位造成了沖擊。⑤Center for Data Innovation,“Who Is Winning the AI Race: China,the EU or the United States?” https://www.datainnovation.org/2019/08/who-is-winning-the-ai-race-china-the-eu-or-the-united-states/#_edn3.

表1 中、歐、美三方在六項關(guān)鍵指標上的排名情況

由于在當今的國際競爭中，技術(shù)標準正成為國際規(guī)則制定權(quán)之爭的重點，而所有國際規(guī)則又都是依據(jù)相關(guān)事物的最優(yōu)水平制定的，①參閱閻學通：《美國遏制華為反映的國際競爭趨勢》，《國際政治科學》2019年第2 期，第III-IV 頁。歐盟在人工智能技術(shù)研發(fā)與投資方面優(yōu)勢正在逐漸喪失，因此其技術(shù)規(guī)則制定的話語權(quán)也受到了影響。在此背景下，歐盟要想把握人工智能這一發(fā)展機遇，只能另辟蹊徑，以自身擅長的規(guī)范領(lǐng)域——倫理準則作為突破口。一方面，相較于技術(shù)標準的制定，倫理準則的制定對資金與技術(shù)的要求相對較低。另一方面，歐盟已經(jīng)出臺了不少關(guān)于數(shù)據(jù)保護、網(wǎng)絡(luò)安全的規(guī)章制度，②歐盟的此類政策包括：《通用數(shù)據(jù)保護條例》（The General Data Protection Regulation）、《非個人數(shù)據(jù)自由流動條例》（The Free Flow of Non-Personal Data Regulation）、《歐盟網(wǎng)絡(luò)安全法案》 （Cybersecurity Act）、《電子隱私條例》（ePrivacy Regulation）等。形成了較為完備的政策框架體系，為人工智能倫理準則的提出奠定了基礎(chǔ)。此外，歐盟在《倫理政策文件》中也明確表示出在國際倫理準則以及相應(yīng)評估機制的制定過程中發(fā)揮主導作用的意圖。③European Commission,Building Trust in Human-Centric Artificial Intelligence,Brussels,8.4.2019,COM(2019) 168 final,Chapter 2.4,p.8.可見歐盟已將制定人工智能國際倫理標準作為維護自身國際話語權(quán)的重要手段。因此，《倫理準則》的出臺可被視為歐盟適應(yīng)人工智能發(fā)展新態(tài)勢、發(fā)揮自身機制優(yōu)勢做出的戰(zhàn)略舉措。

四、結(jié)語：對中國的啟示

歐盟人工智能倫理準則是歐盟人工智能戰(zhàn)略框架的重要組成部分，是歐盟把握當前發(fā)展機遇，適應(yīng)發(fā)展新態(tài)勢、應(yīng)對發(fā)展新挑戰(zhàn)做出的重要舉措。歐盟為此做出的努力對于同樣致力于發(fā)展人工智能技術(shù)的中國有重要啟示意義。

首先，保持相對優(yōu)勢，大力推動人工智能技術(shù)的發(fā)展，不斷完善政策體系框架。從其人工智能整體戰(zhàn)略框架的構(gòu)建看，歐盟的起步并不算早。在《歐洲人工智能》政策文件出臺之前，中國國務(wù)院已于2017年7月發(fā)布了《新一代人工智能發(fā)展規(guī)劃》，從戰(zhàn)略態(tài)勢、總體要求、重點任務(wù)、資源配置以及保障措施五個重要方面系統(tǒng)論述了中國人工智能發(fā)展的相關(guān)戰(zhàn)略規(guī)劃，提出了“三步走”的戰(zhàn)略發(fā)展目標。①《新一代人工智能發(fā)展規(guī)劃》，中華人民共和國中央人民政府網(wǎng)，http://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm。同年12月，工業(yè)信息化部也發(fā)布了《促進新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計劃（2018-2020年）》，細化了三年內(nèi)中國在智能產(chǎn)品、核心基礎(chǔ)、智能制造、支撐體系以及保障措施幾個重點領(lǐng)域的具體行動計劃。②《促進新一代人工智能產(chǎn)業(yè)發(fā)展三年行動計劃（2018—2020年）》，中華人民共和國國家互聯(lián)網(wǎng)信息辦公室，http://www.cac.gov.cn/2017-12/15/c_1122114520.htm。與歐盟的相應(yīng)戰(zhàn)略文件③即本文第一部分提到的《歐洲人工智能》與《人工智能協(xié)調(diào)計劃》兩個文件。相比，中國的人工智能戰(zhàn)略成型早先一步，對具體產(chǎn)業(yè)、技術(shù)以及產(chǎn)品的發(fā)展目標相對更加具體。這得益于中國在數(shù)據(jù)資源龐大、應(yīng)用場景豐富、人才積累迅速方面的相對優(yōu)勢。④參考高文院士2019年5月22日于中國人民大學所做的題為《人工智能的發(fā)展現(xiàn)狀和趨勢》的主題報告。就此而言，中國在人工智能技術(shù)的研發(fā)與應(yīng)用方面初步占據(jù)了相對領(lǐng)先的優(yōu)勢。當然，中國也不能據(jù)此自滿。雖然歐盟在相關(guān)戰(zhàn)略文件及政策框架發(fā)布略遲一步，但從前面相關(guān)分析可見，其目標追求和行動計劃還是展現(xiàn)了不少前瞻性的構(gòu)想和理念，因此，未來中國應(yīng)積極借鑒包括歐洲在內(nèi)的國外同行的先進理念，繼續(xù)保持這一優(yōu)勢，持續(xù)推動人工智能產(chǎn)業(yè)的不斷發(fā)展，并依據(jù)實際情況對相關(guān)政策體系，特別是具體行動計劃進行適時調(diào)整與完善。

其次，重視人工智能的倫理挑戰(zhàn)，抓緊建立并完善官方倫理監(jiān)管體系。歐盟盡管在人工智能戰(zhàn)略框架的建立方面相對落后，但是在官方倫理規(guī)范的制定上掌握了主動權(quán)。相比之下，中國雖然在2017年《新一代人工智能發(fā)展規(guī)劃》發(fā)布之時就注意到了研發(fā)與應(yīng)用過程中潛在的倫理風險，⑤《新一代人工智能發(fā)展規(guī)劃》在開篇就已明確表示對人工智能倫理問題的重視，文件指出“人工智能是影響面廣的顛覆性技術(shù)，可能帶來改變就業(yè)結(jié)構(gòu)、沖擊法律與社會倫理、侵犯個人隱私、挑戰(zhàn)國際關(guān)系準則等問題，將對政府管理、經(jīng)濟安全和社會穩(wěn)定乃至全球治理產(chǎn)生深遠影響。在大力發(fā)展人工智能的同時，必須高度重視可能帶來的安全風險挑戰(zhàn)，加強前瞻預(yù)防與約束引導，最大限度降低風險，確保人工智能安全、可靠、可控發(fā)展。”但官方層面的倫理準則規(guī)范一直未能出臺。目前已有的、較為權(quán)威的人工智能倫理政策文件是由中國電子信息產(chǎn)業(yè)發(fā)展研究院人工智能產(chǎn)業(yè)創(chuàng)新聯(lián)盟在2018 機器人與人工智能大會上提出的《人工智能創(chuàng)新發(fā)展道德倫理宣言》。①《〈人工智能創(chuàng)新發(fā)展道德倫理宣言〉全文》，《人工智能》2019年第4 期，第130—132 頁。因此，中國人工智能倫理監(jiān)管體系的建設(shè)還有待加強。同時，中國人工智能技術(shù)的高速發(fā)展衍生出的諸多問題也迫切需要官方出臺相關(guān)準則進行規(guī)范。值得肯定的是，為應(yīng)對這一狀況，中國已經(jīng)展開了相應(yīng)行動。2019年7月中央全面深化改革委員會第九次會議審議通過了《國家科技倫理委員會組建方案》，批準組建國家科技倫理委員會，標志著中國官方“推動構(gòu)建覆蓋全面、導向明確、規(guī)范有序、協(xié)調(diào)一致的科技倫理治理體系”的開端。②《習近平主持召開中央全面深化改革委員會第九次會議》，中華人民共和國中央人民政府網(wǎng)，http://www.gov.cn/xinwen/2019-07/24/content_5414669.htm。未來中國也應(yīng)盡快出臺相應(yīng)的倫理規(guī)范及政策指南，建立健全治理機制，完善相關(guān)法律法規(guī)，強化監(jiān)管與審查制度，推動完備人工智能倫理體系的構(gòu)建。

最后，積極參與并推動國際人工智能倫理標準的制定。歐盟在《倫理政策文件》中提到將會在G7、G20 等多邊場合推動國際人工智能倫理標準的建立，并同非歐盟國家與組織展開雙邊或多邊會晤，就發(fā)展“以人為本”的人工智能達成共識。③European Commission,Building Trust in Human-Centric Artificial Intelligence,Brussels,8.4.2019,COM(2019) 168 final,Chapter 2.4,p.8.在《倫理準則》公布之后，2019年5月，經(jīng)濟合作與發(fā)展組織成員國批準了經(jīng)合組織理事會《關(guān)于人工智能的建議》，提出了發(fā)展人工智能的五項原則。④“OECD Principles on AI,”O(jiān)ECD,https://www.oecd.org/going-digital/ai/principles/.2019年6月，G20 國家也通過了“以人為本”的人工智能發(fā)展理念。⑤“G20 Ministerial Statement on Trade and Digital Economy,”https://www.mofa.go.jp/files/000486596.pdf.可以看出在制定人工智能基本規(guī)范方面，包括歐盟國家在內(nèi)的許多發(fā)達國家已經(jīng)開始行動，歐盟所倡導的“以人為本”的人工智能發(fā)展理念已經(jīng)得到越來越多的國際回應(yīng)，其中蘊涵的國際政治經(jīng)濟含義如前所述，值得我們高度重視和思考。因此，中國也應(yīng)重視并積極參與人工智能國際標準，特別是人工智能倫理準則的討論和制定，力爭掌握相應(yīng)國際競爭的主動權(quán)。