傅瑩

【關(guān)鍵詞】人工智能? 國際機制? 治理問題? ? 【中圖分類號】D630? ? 【文獻標識碼】A

當前，由人工智能引領(lǐng)的新一輪科技革命和產(chǎn)業(yè)變革方興未艾，正在對經(jīng)濟發(fā)展、社會進步、全球治理產(chǎn)生重大影響，未來的潛力更是有可能帶來顛覆性的影響。與此同時，其風險和挑戰(zhàn)也引起全球范圍的擔憂。2015年1月，包括著名物理學家霍金在內(nèi)的全球數(shù)百名人工智能專家和企業(yè)家簽發(fā)了一封公開信警告說，如果不對人工智能技術(shù)進行有效限制，“人類將迎來一個黑暗的未來”。由此引發(fā)的擔憂和恐懼，成為媒體和社會輿論的熱門話題，很多國家和組織開始研究如何構(gòu)建人工智能技術(shù)應用的安全治理和相關(guān)機制。

人工智能的治理問題引發(fā)廣泛關(guān)注

目前已有20多個國家和地區(qū)推出了國家級人工智能發(fā)展規(guī)劃。2017年1月，全球行業(yè)領(lǐng)袖制定的《阿西洛馬人工智能原則》，提出了技術(shù)發(fā)展“有益于人類”的守則;2019年4月，歐盟委員會發(fā)布了人工智能道德準則，提出包括透明性、公平性、安全性和人類監(jiān)督在內(nèi)的七大條件;2019年5月，經(jīng)濟合作與發(fā)展組織（OECD）正式通過了首部人工智能政府間政策指導方針，確保人工智能的系統(tǒng)設(shè)計符合公正、安全、公平和值得信賴的國際標準;2019年6月，二十國集團（G20）也出臺了倡導人工智能使用和研發(fā)“尊重法律原則、人權(quán)和民主價值觀”的《G20人工智能原則》;中國于同月由國家新一代人工智能治理專業(yè)委員會發(fā)布《新一代人工智能治理原則》，提出和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放協(xié)作、敏捷治理等八項原則，要求發(fā)展負責任的人工智能。

在我國，黨中央、國務院高度重視人工智能發(fā)展及治理。習近平總書記在中共中央政治局第九次集體學習時強調(diào)，“人工智能是新一輪科技革命和產(chǎn)業(yè)變革的重要驅(qū)動力量，加快發(fā)展新一代人工智能是事關(guān)我國能否抓住新一輪科技革命和產(chǎn)業(yè)變革機遇的戰(zhàn)略問題”。習近平總書記明確要求，“要加強人工智能發(fā)展的潛在風險研判和防范”，“要確保人工智能安全、可靠、可控”，“要整合多學科力量，加強人工智能相關(guān)法律、倫理、社會問題研究，建立健全保障人工智能健康發(fā)展的法律法規(guī)、制度體系、倫理道德”。2019年7月，中央全面深化改革委員會第九次會議審議通過了《國家科技倫理委員會組建方案》等文件。會議還指出，科技倫理是科技活動必須遵守的價值準則。組建國家科技倫理委員會，目的就是加強統(tǒng)籌規(guī)范和指導協(xié)調(diào)，推動構(gòu)建覆蓋全面、導向明確、規(guī)范有序、協(xié)調(diào)一致的科技倫理治理體系。

中國在人工智能治理相關(guān)的法律法規(guī)制定上走在世界前列。按照十九屆四中全會推進國家治理體系和治理能力現(xiàn)代化的要求，為保障我國新一代人工智能健康發(fā)展，全國人大常委會加強了這方面的研究，并且在立法過程中納入一些比較有社會共識和相對成熟的內(nèi)容。2019年8月，全國人大常委會審議通過民法典人格權(quán)編草案，其中針對收集、處理自然人個人信息作出明確規(guī)定，要求必須“征得該自然人或者其監(jiān)護人同意”等，而且把個人生物識別信息也納入保護范圍。另一項重要進展是國家網(wǎng)信辦發(fā)布的《兒童個人信息網(wǎng)絡(luò)保護規(guī)定》，自2019年10月1日起生效。

國務院在2017年7月8日發(fā)布的《新一代人工智能發(fā)展規(guī)劃》【國發(fā)〔2017〕35號】中，既提出了技術(shù)和產(chǎn)業(yè)體系的發(fā)展策略，又提出了倫理和治理體系的構(gòu)建思路。在規(guī)劃中提出了三步走戰(zhàn)略：第一步，到2020年，部分領(lǐng)域的人工智能倫理規(guī)范和政策法規(guī)初步建立。第二步，到2025年，初步建立人工智能法律法規(guī)、倫理規(guī)范和政策體系，形成人工智能安全評估和管控能力。第三步，到2030年，建成更加完善的人工智能法律法規(guī)、倫理規(guī)范和政策體系。在規(guī)劃“保障措施”中第一條就提到：要制定促進人工智能發(fā)展的法律法規(guī)和倫理規(guī)范。

到2023年，政府將在全國布局建設(shè)20個新一代人工智能創(chuàng)新發(fā)展試驗區(qū)，檢驗八項原則的實施和收集反饋。其他措施還包括提供開放平臺，鼓勵企業(yè)制定自己的標準，人工智能研發(fā)項目也需要遵守這八項原則。此外，目前中國的科學界和企業(yè)界在積極探索自律和監(jiān)管手段，例如，成立人工智能治理研究院;在產(chǎn)品程序中加入“禁飛策略”來規(guī)范無人機的使用;在醫(yī)療和交通業(yè)界通過數(shù)據(jù)脫敏保護個人隱私信息;對收集數(shù)據(jù)的企業(yè)和機構(gòu)提出承擔保護數(shù)據(jù)的責任等要求。

人工智能技術(shù)的成長依靠的是世界各國科研人員分享思想、相互借鑒，是全球協(xié)作的產(chǎn)物，跨國企業(yè)構(gòu)建的人工智能平臺也在快速擴展。要想規(guī)范這個進程，各國需要制定互通的道德規(guī)范和行業(yè)規(guī)則。中國30多年來一直處于高速工業(yè)化的進程中，在立法和立規(guī)過程中廣泛地參考了兩個世紀以來世界上陸續(xù)出現(xiàn)的基本規(guī)則。今天，中國第一次躋身新技術(shù)進步的第一梯隊，除了盡己所能地向前邁進，中國人也逐漸意識到自身肩負的參與國際制訂新規(guī)則的責任。因此，中國在人工智能治理方面的努力，需要與世界其他國家和地區(qū)、包括在技術(shù)研發(fā)上領(lǐng)先的美國的努力，相互聯(lián)通和協(xié)調(diào)。為此，中國對與各國探討擴大共識、縮小差異，秉持開放態(tài)度。

清華大學戰(zhàn)略與安全研究中心的人工智能治理項目小組著眼于國際共同規(guī)則，2018年7月，在世界和平論壇上提出“人工智能六點原則”，探討人工智能綜合性治理的宏觀框架：一是福祉原則。人工智能的發(fā)展應服務于人類共同福祉和利益，其設(shè)計與應用須遵循人類社會基本倫理道德，符合人類的尊嚴和權(quán)利。二是安全原則。人工智能不得傷害人類，要保證人工智能系統(tǒng)的安全性、可適用性與可控性，保護個人隱私，防止數(shù)據(jù)泄露與濫用。保證人工智能算法的可追溯性與透明性，防止算法歧視。三是共享原則。人工智能創(chuàng)造的經(jīng)濟繁榮應服務于全體人類，構(gòu)建合理機制，使更多人受益于人工智能技術(shù)的發(fā)展、享受便利，避免數(shù)字鴻溝的出現(xiàn)。四是和平原則。人工智能技術(shù)須用于和平目的，致力于提升透明度和建立信任措施，倡導和平利用人工智能，防止開展致命性自主武器軍備競賽。五是法治原則。人工智能技術(shù)的運用，應符合《聯(lián)合國憲章》的宗旨以及各國主權(quán)平等、和平解決爭端、禁止使用武力、不干涉內(nèi)政等現(xiàn)代國際法基本原則。六是合作原則。世界各國應促進人工智能的技術(shù)交流和人才交流，在開放的環(huán)境下推動和規(guī)范技術(shù)的提升。

這六項原則為人工智能國際治理的討論和共識構(gòu)建提供了一種可能，在2018年底的世界互聯(lián)網(wǎng)大會和2019年的世界和平論壇上，國際上不少學者和企業(yè)家對此表達興趣和重視，有機構(gòu)希望進一步合作研討。

人工智能國際治理機制的關(guān)鍵要素

國際治理機制不僅意味著共識和規(guī)則，也應包括構(gòu)建能夠確保規(guī)則落地的組織機構(gòu)和行動能力，需要有相應的社會政治和文化環(huán)境。清華大學戰(zhàn)略與安全研究中心正在與一些國家的學者專家、前政要和企業(yè)家一道，對這些問題進行探討。從現(xiàn)實來看，人工智能國際治理的有效機制至少應包括如下五個關(guān)鍵：

一是動態(tài)的更新能力。人工智能技術(shù)的研發(fā)和應用進入快速發(fā)展的階段，但是人們對未來的很多應用場景乃至安全挑戰(zhàn)還缺乏了解和明確的認識。因而對其治理時，須充分考慮到技術(shù)及其應用還處于變化的過程中，需要建立一種動態(tài)開放的、具備自我更新能力的治理機制。

例如，當向社會提供人工智能“惡意應用”的具體界定和表述時，應該是在生產(chǎn)和生活實踐中可觀測、可區(qū)分的，在技術(shù)上可度量、可標定的。同時，更為重要的是，它應當持續(xù)更新。只有具備動態(tài)更新能力的治理機制，才能在人工智能技術(shù)保持快速發(fā)展的情況下發(fā)揮作用。

這就意味著，在推進國際治理的同時，要承認和主動適應人工智能技術(shù)的不確定性特征，做好不斷調(diào)整的準備。愛因斯坦曾說，“我們不能用制造問題時的思維來解決問題”。顛覆性創(chuàng)新技術(shù)與固有思維之間的沖突與激蕩，必將伴隨人工智能技術(shù)發(fā)展的過程。此種情景下的治理機制在面對各種思潮和意見的交織與反復時，也應該具備足夠的包容之心和適應能力。如此，國際治理機制才能幫助人類攜手應對人工智能層出不窮的新挑戰(zhàn)。從這個意義上講，建立一個能夠適應技術(shù)不斷發(fā)展的動態(tài)治理機制，也許比直接給出治理的法則更有意義。

二是技術(shù)的源頭治理。人工智能的應用本質(zhì)是技術(shù)應用，對其治理須緊緊抓住其技術(shù)本質(zhì)，特別是在安全治理上，從源頭抓起更容易取得效果。例如，當前大放異彩的深度學習技術(shù)，其關(guān)鍵要素是數(shù)據(jù)、算法和計算力。針對這些要素的治理可以從數(shù)據(jù)控流、算法審計、計算力管控等方面尋找切入點。隨著人工智能技術(shù)的飛速發(fā)展，今后可能會出現(xiàn)迥然不同的智能技術(shù)，例如小樣本學習、無監(jiān)督學習、生成式對抗網(wǎng)絡(luò)，乃至腦機技術(shù)等。不同的技術(shù)機理意味著，需要不斷從技術(shù)源頭尋找最新、最關(guān)鍵的治理節(jié)點和工具，并將其納入治理機制之中，以實現(xiàn)治理的可持續(xù)性。另外，技術(shù)治理還有一個重要內(nèi)容，就是在技術(shù)底層賦予人工智能“善用”的基因。例如在人工智能武器化的問題上，似可采用阿西莫夫制定“機器人三原則”的思維，從技術(shù)底層約束人工智能的行為，將武裝沖突法則和國際人道主義法則中的“區(qū)分性”原則納入代碼，禁止任何對民用設(shè)施的攻擊。誠然，實現(xiàn)這一點對國際治理來說是一個艱巨的挑戰(zhàn)。曾在美國國防部長辦公室工作、深度參與自主系統(tǒng)政策制定的保羅·沙瑞爾認為：“對于今天的機器而言，要達到這些標準（區(qū)分性、相稱性和避免無謂痛苦）是很難的。能否實現(xiàn)要取決于追求的目標、周圍的環(huán)境以及未來的技術(shù)預測?！?/p>

三是多角度的細節(jié)刻劃。人工智能的國際治理須構(gòu)建一種多元參與的治理生態(tài)，將所有利益相關(guān)方納入其中。科學家和學者專家是推動技術(shù)發(fā)展的主力，政治家是國家決策的主體，民眾的消費需求是推動技術(shù)應用的激勵因素。這些群體之間的充分溝通是人工智能治理取得成功的基礎(chǔ)。企業(yè)是技術(shù)轉(zhuǎn)化應用的平臺，社會組織是行業(yè)自律的推動者，政府和軍隊是人工智能安全治理的操作者，這些主體之間的充分協(xié)調(diào)則是人工智能治理機制有效發(fā)揮作用的關(guān)鍵。

在這個過程中，不同的群體應該以自身視角對人工智能的治理細則進行深入刻化。例如，2019年8月，亨利·基辛格、埃里克·施密特、丹尼爾·胡滕洛赫爾三人聯(lián)合撰文提出，從人工智能沖擊哲學認知的角度看，可能應該禁止智能助理回答哲學類問題，在有重大影響的模式識別（Pattern recognition）活動中，須強制要求人類的參與，由人類對人工智能進行“審計”，并在其違反人類價值觀時進行糾正，等等。

如果能將來自不同群體的治理主張細則集聚在一起，將形成反映人類多元文化的智慧結(jié)晶，對人類共同應對人工智能挑戰(zhàn)發(fā)揮引領(lǐng)的作用。面對未知，哲學家的擔憂與普羅大眾的恐懼一樣重要，只有盡可能細致地刻劃人工智能治理的各種細節(jié)，才能增強人類對未來的把控，讓迷茫和恐懼轉(zhuǎn)變?yōu)楹闷媾c希望。

四是有效的歸因機制。在人工智能的國際治理中，歸因和歸責發(fā)揮著“托底”的作用。如果不能解決“誰負責”的問題，那么所有的治理努力最終都將毫無意義。當前人工智能治理的歸因困難主要源自以下一些問題：從人機關(guān)系的角度看，是否人擔負的責任越大，對惡意使用的威懾作用就越大，有效治理的可能性也就越大？從社會關(guān)系的角度看，程序“自我進化”導致的后果該由誰負責？是“誰制造誰負責”、“誰擁有誰負責”，還是“誰使用誰負責”？

世界上沒有不出故障的機器，如同世上沒有完美的人，人工智能發(fā)生故障造成財產(chǎn)損失、乃至人員傷亡是遲早會出現(xiàn)的。我們是否需要賦予機器以“人格”，讓機器承擔責任？如果讓機器承擔最后的責任，是否意味著人類在一定范圍內(nèi)將終審權(quán)拱手讓給了機器？目前對這些問題還沒有答案，需要在實踐中探索和印證歸因的恰當路徑。

五是場景的合理劃分?，F(xiàn)階段對人工智能的技術(shù)應用實施治理需要針對不同場景逐一細分處理。在2019年7月的世界和平論壇上，很多學者主張從當前的應用中選擇幾個具體場景入手，由點及面地實驗治理，由易到難地積累經(jīng)驗。場景至少應該從物理場景、社會場景和數(shù)據(jù)場景三個維度加以區(qū)分?？紤]到人工智能技術(shù)對數(shù)據(jù)的高度依賴性，有效的場景劃分有利于關(guān)注數(shù)據(jù)的影響。

劃分場景也可以幫助我們更好地理解人工智能在什么情況下能做什么，一方面可以避免對人工智能不求甚解的恐懼，另一方面也可以消除一些夸大其詞的判斷。美國國防部前副部長羅伯特·沃克一直是人工智能武器化的積極倡導者，但是，具體到核武器指揮控制的場景上，他也不得不承認，人工智能不應擴展到核武器，以免引發(fā)災難性后果。

對血肉之軀的人類而言，任何一項新技術(shù)的出現(xiàn)和擴展都是雙刃劍，幾乎每一次重大的技術(shù)突破和創(chuàng)新都會給人們帶來不適與陣痛。但是，人類今日科學之昌明，生活之富足，足以讓我們有信心、有智慧對新技術(shù)善加利用、科學治理，妥善應對風險和挑戰(zhàn)。本著構(gòu)建人類命運共同體的思維，國際社會應該努力構(gòu)建共識，一同探索良性治理，使得人工智能技術(shù)更好地完善文明，創(chuàng)建更加繁榮和更加安全的世界。

（清華大學戰(zhàn)略與安全研究中心客座研究員李睿深對此文提供學術(shù)支持，特此致謝）

責編/趙博藝? ? 美編/宋揚