孫成昊 王葉湑
【內(nèi)容提要】 北大西洋公約組織的人工智能戰(zhàn)略包含強(qiáng)化北約防務(wù)和技術(shù)實(shí)力、引領(lǐng)人工智能治理標(biāo)準(zhǔn)這兩大戰(zhàn)略意圖。為此,北約將通過調(diào)配之前積累的數(shù)據(jù),利用新型基金項(xiàng)目并依托跨國聯(lián)通、官民結(jié)合的組織機(jī)制,以人工智能技術(shù)賦能其防務(wù)功能,以先行標(biāo)準(zhǔn)打造利于北約的人工智能治理體系。北約人工智能戰(zhàn)略的形成有三方面動因,一是人工智能合作有益于強(qiáng)化北約同盟認(rèn)同,二是人工智能的軍用價值有助于北約“戰(zhàn)略再轉(zhuǎn)型”,三是美國的“科技競贏”思維引領(lǐng)戰(zhàn)略形成。目前,北約推進(jìn)該戰(zhàn)略主要面臨四方面挑戰(zhàn):第一,軍用人工智能缺陷尚存,戰(zhàn)略實(shí)踐存在風(fēng)險;第二,北約規(guī)劃合作的時間點(diǎn)相對靠后,戰(zhàn)略位置不占優(yōu)勢;第三,同盟可支配預(yù)算有限,戰(zhàn)略部署資源不足;第四,盟國間認(rèn)知與實(shí)力差距較大,短期內(nèi)難以協(xié)調(diào)。未來,在北約向“印太”地區(qū)投入更多資源和將中國視為“挑戰(zhàn)”的背景下,北約推動人工智能軍事化和同盟化的動向值得密切關(guān)注。
人工智能是新一輪科技革命的關(guān)鍵技術(shù),其應(yīng)用范圍廣泛。在新一輪技術(shù)發(fā)展中,機(jī)器學(xué)習(xí)作為人工智能的核心,引領(lǐng)人工智能技術(shù)發(fā)展并推動對各行各業(yè)的賦能。人工智能技術(shù)最初多為商用和民用,而后國家與國際組織開始關(guān)注其對軍事、信息和經(jīng)濟(jì)等多方面的影響,人工智能是“一種變革性的國家安全技術(shù)”①Greg Allen, Taniel Chan, Artificial Intelligence and National Security, Cambridge, MA: Belfer Center for Science and International Affairs, 2017, p.3.已得到普遍認(rèn)同。各國與國際組織紛紛出臺人工智能戰(zhàn)略,制定人工智能相關(guān)政策。目前,全球已有超過700 份與人工智能相關(guān)的戰(zhàn)略或政策文件。②數(shù)據(jù)來自經(jīng)濟(jì)合作與發(fā)展組織:“National AI policies & Strategies,”https://oecd.ai/en/dashboards。
北約也緊跟技術(shù)革新浪潮,加入推動人工智能應(yīng)用、發(fā)展與合作的行列。北約正式推出人工智能戰(zhàn)略前,已多次提及、討論甚至部署此項(xiàng)技術(shù)。2019年,北約議會發(fā)布《人工智能:對北約的軍事力量影響》報告,③Sub-Committee on Technology Trends and Security of Science and Technology Committee of NATO Parliamentary Assembly, Artificial Intelligence: Implications for NATO’s Armed Forces, October 13, 2019.分析人工智能技術(shù)在軍事上應(yīng)用于北約的機(jī)遇、挑戰(zhàn)和不確定性。2020年5月,北約科學(xué)與技術(shù)組織(NATO Science and Technology Organization)發(fā)布《科技趨勢:2020~2040》研究報告,④NATO Science & Technology Organization, Science & Technology Trends 2020-2040: Exploring the S&T Edge, March 2020, https://www.nato.int/nato_static_fl2014/assets/pdf/2020/4/pdf/190422-ST_Tech_Trends_Report_2020-2040.pdf.列舉并分析包括人工智能在內(nèi)的八項(xiàng)新興顛覆性技術(shù)⑤報告提出的八項(xiàng)新興和顛覆性技術(shù)分別為大數(shù)據(jù)與高級分析技術(shù)、人工智能、自主性、太空技術(shù)、高超音速(武器系統(tǒng))、量子技術(shù)、生物科技與人類增強(qiáng)技術(shù)、新型材料與制造技術(shù)。的未來發(fā)展方向及其潛在影響,提出人工智能技術(shù)具有提升自動化指揮、武器系統(tǒng)等領(lǐng)域能力的作用,并能與其他新興顛覆性技術(shù)協(xié)同、融合,從而對未來的軍事能力發(fā)展產(chǎn)生重要影響。在實(shí)際應(yīng)用層面,包括北約科學(xué)與技術(shù)組織、盟軍轉(zhuǎn)型司令部(Allied Command Transformation)等在內(nèi)的北約下設(shè)部門也已開展諸多與人工智能相關(guān)的活動與計劃?;诖饲把芯颗c實(shí)踐積累,2021年10月,北約國防部長會議通過了北約首項(xiàng)人工智能戰(zhàn)略,旨在支持同盟聯(lián)合防務(wù)、危機(jī)管理以及合作安全的北約三大基礎(chǔ)任務(wù)。⑥North Atlantic Treaty Organization, Summary of the NATO Artificial Intelligence Strategy, October 22, 2021, https://www.nato.int/cps/en/natohq/official_texts_187617.htm.
人工智能與國際關(guān)系的交叉研究已有較多成果,1987年出版的斯蒂芬·辛巴拉(Stephen J. Cimbala)的《人工智能和國際安全》(Artificial Intelligence and National Security)是這一領(lǐng)域的“開山之作”。此后,這一新技術(shù)為國際關(guān)系學(xué)科的研究方法和理論引入新視角,也推動了各國科技政策與安全戰(zhàn)略的新發(fā)展。但是,針對具體人工智能部署及其戰(zhàn)略或政策文件的研究多聚焦美國、中國和俄羅斯,將其他國際行為體的人工智能戰(zhàn)略或政策作為研究對象的研究成果并不多見,許多小國更是遭到忽視。北約作為具有一定規(guī)模的國際組織,其人工智能戰(zhàn)略的出臺更晚,應(yīng)用與實(shí)踐技術(shù)的效力在短期內(nèi)相對弱于國家行為體,加之“大型同盟”影響力在近年來出現(xiàn)過下降趨勢,因而學(xué)界對北約人工智能戰(zhàn)略的關(guān)注不多。實(shí)際上,作為冷戰(zhàn)后最具影響力的軍事同盟組織,北約人工智能戰(zhàn)略的出臺具有“轉(zhuǎn)折點(diǎn)”式的意涵,對國際安全形勢能夠產(chǎn)生深遠(yuǎn)影響:其一,這意味著人工智能議題由國家安全層面上升至軍事同盟安全層面;其二,人工智能技術(shù)應(yīng)用于同盟的軍事合作與行動將被機(jī)制化部署。而且,北約人工智能戰(zhàn)略雖未明確指向中國,但北約借助新技術(shù)聯(lián)手遏制“競爭對手”的目標(biāo)是明確的。鑒此,本文將基于北約人工智能戰(zhàn)略文件、北約及其盟國人工智能發(fā)展現(xiàn)狀及人工智能技術(shù)本身,剖析這一戰(zhàn)略的內(nèi)涵、出臺動因和面臨的挑戰(zhàn)。
戰(zhàn)略是調(diào)動一切力量與資源以實(shí)現(xiàn)既定目標(biāo)的藝術(shù)與科學(xué)。①李少軍:《探討國際戰(zhàn)略的研究框架》,《國際政治研究》2007年第4 期,第14 頁。學(xué)界對于一項(xiàng)國際戰(zhàn)略所涵蓋的具體要素說法不一,不同行為體制定的戰(zhàn)略亦有不同特點(diǎn)。整體而言,除戰(zhàn)略文化、戰(zhàn)略認(rèn)知等形而上的戰(zhàn)略思想基礎(chǔ)外,國際戰(zhàn)略一般包含意圖、資源和路徑三大要素。北約人工智能戰(zhàn)略的意圖為強(qiáng)化同盟防務(wù)與技術(shù)實(shí)力以及引領(lǐng)人工智能治理標(biāo)準(zhǔn)。在具體實(shí)施中,北約將調(diào)動現(xiàn)已掌握的數(shù)據(jù)、融資機(jī)制以及合作平臺等戰(zhàn)略資源,并將通過以人工智能技術(shù)全方位賦能北約防務(wù)功能、以先行標(biāo)準(zhǔn)打造利于北約的人工智能治理體系這兩條路徑推進(jìn)戰(zhàn)略。
北約將集體防御、危機(jī)管理和合作安全作為其三項(xiàng)核心任務(wù),為實(shí)現(xiàn)這三項(xiàng)總目標(biāo)而推出各項(xiàng)戰(zhàn)略、方針、政策,人工智能戰(zhàn)略即其中之一。在這一戰(zhàn)略之下,北約又提出了四方面目標(biāo):一是以負(fù)責(zé)任的態(tài)度開發(fā)與使用人工智能,維護(hù)同盟防御與安全,為北約和盟友發(fā)揮模范引領(lǐng)作用提供基礎(chǔ);二是在能力開發(fā)與交付中加速采用人工智能并將其納入主流,加強(qiáng)同盟內(nèi)的互操作性;三是保護(hù)和監(jiān)管人工智能科技和創(chuàng)新能力,考慮相關(guān)安全政策,如負(fù)責(zé)任使用的操作原則等;四是識別和防御來自國家或非國家行為體因惡意使用人工智能而產(chǎn)生的威脅。①North Atlantic Treaty Organization, Summary of the NATO Artificial Intelligence Strategy, October 22, 2021, https://www.nato.int/cps/en/natohq/official_texts_187617.htm.
北約提出的這四方面目標(biāo)較為復(fù)雜和模糊,是因?yàn)槠洹澳繕?biāo)”不僅包含該戰(zhàn)略希望達(dá)成的結(jié)果,還簡要描繪了通向最終目標(biāo)和結(jié)果的計劃,并以同盟戰(zhàn)略敘事方式加以包裝。實(shí)際上,行為體極可能會為了獲得較大的回旋空間,或使其他行為體無法獲得其真實(shí)意圖而不公開或模糊化其目標(biāo)。結(jié)合北約其他戰(zhàn)略情況以及北約在人工智能領(lǐng)域的行為和部署,可以從這四項(xiàng)具體目標(biāo)中歸納出兩個最主要的戰(zhàn)略意圖。
一是強(qiáng)化北約的防務(wù)和技術(shù)實(shí)力。北約自成立以來,始終致力于提升集體安全與防務(wù)能力,以保證在國際競爭中占據(jù)和保持優(yōu)勢,而新興科技能夠加強(qiáng)同盟的產(chǎn)業(yè)基礎(chǔ)和科技優(yōu)勢。北約人工智能戰(zhàn)略概要文件提出,人工智能正在改變?nèi)蚍绖?wù)和安全環(huán)境,為強(qiáng)化北約科技優(yōu)勢提供了前所未有的機(jī)會,但也加快了北約面臨威脅的速度。因此,同盟推出這一戰(zhàn)略的重要目標(biāo)之一是通過加速建設(shè)人工智能強(qiáng)化北約防務(wù)與技術(shù)實(shí)力,從而保持北約科技優(yōu)勢,最大限度減少一些國家和非國家行為體利用人工智能對北約產(chǎn)生威脅。
二是引領(lǐng)人工智能治理標(biāo)準(zhǔn)。作為一個規(guī)模較大的軍事集團(tuán),北約作為關(guān)鍵力量推動盟國人工智能技術(shù)發(fā)展的能力會遭到其規(guī)模的稀釋,但在技術(shù)監(jiān)管和治理領(lǐng)域卻能發(fā)揮出組織協(xié)調(diào)和領(lǐng)導(dǎo)作用。北約人工智能戰(zhàn)略概要文件將發(fā)揮北約和盟友模范引領(lǐng)作用作為目標(biāo)之一,全文12 次提及“負(fù)責(zé)任地使用”人工智能,還提出北約將進(jìn)一步與相關(guān)的國際人工智能標(biāo)準(zhǔn)制定機(jī)構(gòu)合作。②North Atlantic Treaty Organization, Summary of the NATO Artificial Intelligence Strategy, October 22, 2021, https://www.nato.int/cps/en/natohq/official_texts_187617.htm.因此,從治理方面看,北約推出該戰(zhàn)略不僅意在以同盟標(biāo)準(zhǔn)統(tǒng)一各盟國的人工智能治理標(biāo)準(zhǔn),還希望作為一個整體向國際社會推廣人工智能治理的“北約標(biāo)準(zhǔn)”。
行為體進(jìn)行戰(zhàn)略決策時,必須考慮自己擁有怎樣的資源和怎樣運(yùn)用這些資源,③李少軍:《國際戰(zhàn)略學(xué)》,北京:中國社會科學(xué)出版社,2009年,第48 頁。戰(zhàn)略資源是行為體得以實(shí)現(xiàn)其戰(zhàn)略意圖的必要條件。北約實(shí)現(xiàn)上述兩重戰(zhàn)略意圖離不開三方面的戰(zhàn)略資源。
第一,聯(lián)盟此前積累的數(shù)據(jù)能夠?yàn)槿斯ぶ悄苣P陀?xùn)練和軍事應(yīng)用提供重要基礎(chǔ)。北約“作戰(zhàn)拱頂石”概念(NATO Warfighting Capstone Concept, NWCC)中列出的第一項(xiàng)戰(zhàn)爭要素即認(rèn)知優(yōu)勢,①Rear Admiral John W. Tammen, “NATO’s Warfighting Capstone Concept Anticipating the Changing Character of the War,” July 9, 2021, https://www.nato.int/docu/review/articles/2021/07/09/natos-warfightingcapstone-concept-anticipating-the-changing-character-of-war/index.html.而數(shù)據(jù)是北約獲取這一要素的重要戰(zhàn)略資源。通過聯(lián)合情報、監(jiān)視和偵察系統(tǒng)(JISR),北約匯集了來自此前任務(wù)和成員國的數(shù)據(jù),北約通信與信息局(NATO Communications and Information Agency)目前已形成可供大數(shù)據(jù)分析的數(shù)據(jù)湖,而且北約還在開發(fā)新的云計算技術(shù),②Vivienne Machi, “Cloudy Vision: Can NATO’s New Deployable Combat System Focus the Field?”April 14, 2021, https://www.c4isrnet.com/battlefield-tech/it-networks/2021/04/14/cloudy-vision-can-natosnew-deployable-combat-system-focus-the-field/.并批準(zhǔn)數(shù)據(jù)利用框架政策(Data Exploitation Framework Policy),為人工智能應(yīng)用提供“燃料”。③Peter Burt, “NATO’s New AI Strategy: Lacking in Substance and Lacking in Leadership,” NATO Watch, Briefing Paper No.88, November 8, 2021, https://natowatch.org/sites/default/files/2021-11/briefing_88_nato_ai_strategy.pdf.
第二,同盟新設(shè)立的基金項(xiàng)目能向戰(zhàn)略運(yùn)轉(zhuǎn)提供支撐資金。為促進(jìn)新興和顛覆性技術(shù)發(fā)展,北約啟動了預(yù)估達(dá)10 億歐元的北約創(chuàng)新基金(NATO Innovation Fund),將投資于有助國防和安全的軍民兩用技術(shù),并推動與深度技術(shù)創(chuàng)新者更密切合作,④“NATO Allies Take the Lead on the Development of NATO’s Innovation Fund,” North Atlantic Treaty Organization, October 22, 2021, https://www.nato.int/cps/en/natohq/news_187607.htm.該基金會體現(xiàn)出北約對前沿科技的重視,不僅將直接助力企業(yè)創(chuàng)新,還能帶動國家和私營部門對人工智能等新興科技創(chuàng)新的投資。
第三,跨國聯(lián)通、官民結(jié)合的組織機(jī)制為人工智能合作提供溝通平臺。在人工智能進(jìn)入北約戰(zhàn)略視野前,北約就已為防務(wù)和安全合作建立起北約科學(xué)與技術(shù)組織、北約標(biāo)準(zhǔn)化委員會(NATO Committee for Standardization)、防務(wù)政策和計劃委員會(Defence Policy and Planning Committee)、北約工業(yè)咨詢小組(NATO Industrial Advisory Group)、北約通信和信息局等緊密而正式的協(xié)調(diào)機(jī)制網(wǎng)絡(luò),為推進(jìn)人工智能項(xiàng)目、政策和活動提供了平臺。近年來,為進(jìn)一步服務(wù)同盟和盟友、公共和私營部門在新興技術(shù)方面的對話交流,北約又設(shè)立許多專門性的組織機(jī)制。2019年,北約國際秘書處新興安全挑戰(zhàn)部(Emerging Security Challenges Division, ESC)下設(shè)創(chuàng)新單位(Innovation Unit)和數(shù)據(jù)政策單位(Data Policy Unit),為加速技術(shù)采用和數(shù)據(jù)資源使用提供思想引領(lǐng)和具體舉措。①Edward Hunter Christie, “Defence Cooperation in Artificial Intelligence: Bridging the Transatlantic Gap for a Stronger Europe,” European View, March 31, 2022, p.14.在2021年的布魯塞爾峰會上,北約啟動“北大西洋國防創(chuàng)新加速器”項(xiàng)目(Defence Innovation Accelerator for the North Atlantic,DIANA),該項(xiàng)目將通過創(chuàng)新征集方式,為入選企業(yè)家提供融資、專家指導(dǎo)、測試機(jī)會等,②“Emerging and Disruptive Technologies,” North Atlantic Treaty Organization, https://www.nato.int/cps/en/natohq/topics_184303.htm.這一新項(xiàng)目與北約創(chuàng)新基金共同組成支撐北約新興和顛覆性技術(shù)研發(fā)的兩大支柱。
在評估實(shí)力與資源的基礎(chǔ)上,為了實(shí)現(xiàn)戰(zhàn)略目標(biāo)還需要選擇適宜的手段與途徑,才能將計劃付諸行動。③李少軍:《國際戰(zhàn)略學(xué)》,北京:中國社會科學(xué)出版社,2009年,第86 頁。基于上述戰(zhàn)略基礎(chǔ),北約為實(shí)現(xiàn)其戰(zhàn)略意圖努力從兩條戰(zhàn)略路徑入手,分別服務(wù)于強(qiáng)化防務(wù)和技術(shù)實(shí)力與引領(lǐng)治理規(guī)則的意圖。
一方面,為實(shí)現(xiàn)強(qiáng)化同盟防務(wù)和技術(shù)實(shí)力的意圖,北約積極嘗試以人工智能技術(shù)賦能北約防務(wù)功能。第一,北約在深化各國信息互通的基礎(chǔ)上,希望以人工智能提升同盟軍隊的分析和決策能力。機(jī)器學(xué)習(xí)與深度學(xué)習(xí)能夠在訓(xùn)練后幫助北約實(shí)現(xiàn)戰(zhàn)場上不具備完整元數(shù)據(jù)的信息預(yù)測、戰(zhàn)場中的實(shí)體識別與提取、異常情況檢測等。④Peter lenk, Marc Richter, Ivana Mestric, Michael David Street, “Lessons Learned from Initial Exploitation of Big Data and AI to Support NATO Decision Making,” paper presented at STO experts meeting on “Big Data and AI to Support Military Decision Making,” France, January 2018.盡管目前人工智能技術(shù)尚未用于直接決策,但將來這一技術(shù)很可能對北約武器系統(tǒng)觀察、調(diào)整、決策和行動的“博伊德循環(huán)”(OODA loop)⑤“博伊德循環(huán)”(OODA loop)由美國空軍上校約翰·博伊德(John Boyd)提出,認(rèn)為在武裝沖突中掌握觀察(Observation)、判斷(Orientation)、決策(Decision)和執(zhí)行(Action)四個步驟循環(huán)優(yōu)勢的一方能夠在較量中占優(yōu)勢。產(chǎn)生深遠(yuǎn)影響,幫助決策者做出更加高效的決定,大幅減小從監(jiān)測至行動的時間成本。
第二,北約謀求以人工智能技術(shù)賦能開發(fā)現(xiàn)代化武器和打造現(xiàn)代化軍隊。北約科學(xué)與技術(shù)組織2020年發(fā)布的《科技趨勢:2020~2040》報告認(rèn)為,人工智能可用于自主武器開發(fā)。對防守方而言,人工智能在交叉信號提示、彈道規(guī)劃、防撞系統(tǒng)、蜂群作戰(zhàn)、武器選擇等方面有應(yīng)用潛能;對進(jìn)攻方而言,智能化與學(xué)習(xí)型系統(tǒng)將有助于開發(fā)不易受到傳統(tǒng)反爆系統(tǒng)影響的簡易爆炸裝置。①NATO Science & Technology Organization, Science & Technology Trends 2020-2040: Exploring the S&T Edge, March 2020, p.55.2020年,北約20 個盟友啟動了“下一代旋翼機(jī)能力”(Next Generation Rotorcraft Capability)新跨國合作項(xiàng)目,其中就包括利用人工智能和機(jī)器學(xué)習(xí)協(xié)助飛行人員,提升北約飛行器垂直起降能力。②North Atlantic Treaty Organization, The Secretary General’s Annual Report 2020, March 16, 2021, p.58.2022年北約國防部長會議中,法英等國又為這一項(xiàng)目投入2670 萬歐元,以進(jìn)一步推進(jìn)與行業(yè)的合作研發(fā)。③“Six Allies to Explore Innovative Solutions for Their Future Helicopters,” North Atlantic Treaty Organization, June 16, 2022, https://www.nato.int/cps/en/natohq/news_196492.htm?selectedLocale=en.
第三,北約將人工智能技術(shù)用于非真實(shí)戰(zhàn)場的軍事和后勤支撐。2021年的北約“春季風(fēng)暴”(Spring Storm)演習(xí)中,英國陸軍首次使用了人工智能技術(shù),其第20 裝甲步兵旅士兵利用人工智能引擎掌握了周圍環(huán)境和地形的相關(guān)信息;④“Artificial Intelligence Used on Army Operation for the First Time,” U.K. Ministry of Defence, July 2021, https://www.gov.uk/government/news/artificial-intelligence-used-on-army-operation-for-the-first-time.同年11月,北約通信和信息局在“強(qiáng)大盾牌”(Formidable Shield)演習(xí)中組織了首次北約反無人機(jī)演習(xí)。⑤“UK Navy Trials AI against Missile Threats during Formidable Shield Exercise,” May 31, 2021,https://www.naval-technology.com/news/uk-navy-trials-ai-against-missile-threats-during-formidable-shieldexercise/.這些演習(xí)都為北約于2021年推出人工智能戰(zhàn)略提供經(jīng)驗(yàn)積累,北約未來也將繼續(xù)在非戰(zhàn)時訓(xùn)練及演習(xí)中應(yīng)用人工智能技術(shù)。此外,北約還會將人工智能應(yīng)用于提升醫(yī)療救護(hù)、物流庫存等軍事保障能力。
另一方面,為實(shí)現(xiàn)其引領(lǐng)人工智能治理標(biāo)準(zhǔn)的意圖,北約將以先行標(biāo)準(zhǔn)打造利于北約的人工智能治理體系。北約人工智能戰(zhàn)略概要文件基于現(xiàn)存的、廣泛接受的道德、法律和政策提出六點(diǎn)原則,主要涉及三大領(lǐng)域。一是法律領(lǐng)域的合法性原則、責(zé)任和問責(zé)原則。北約及其盟國將遵循各國法律和國際法開發(fā)并使用人工智能,尤其是遵循國家人道主義法和國際人權(quán)法,同時明確人工智能出現(xiàn)錯誤或造成損害屬于人為責(zé)任的原則。二是技術(shù)領(lǐng)域的可解釋性和可追溯性原則、可靠性原則和可治理性原則,這些原則旨在克服人工智能技術(shù)本身的黑箱特征、定義不明確和非預(yù)期后果。三是倫理領(lǐng)域的偏見緩解原則。這一原則是為了減少技術(shù)運(yùn)作受到研發(fā)人員主觀偏見的影響,包括尋求最大限度減少對性別、種族等個人特征的偏見。
在同盟內(nèi)部,新戰(zhàn)略并不尋求改變盟國業(yè)已采用的標(biāo)準(zhǔn),也不尋求影響、取代現(xiàn)有的國家或國際義務(wù)和承諾,而是通過六項(xiàng)原則的設(shè)定,劃定盟國開發(fā)應(yīng)用人工智能戰(zhàn)略的“基線標(biāo)準(zhǔn)”,為之后更高層次的標(biāo)準(zhǔn)化合作奠定原則性基礎(chǔ)。北約計劃克服不同技術(shù)標(biāo)準(zhǔn),努力構(gòu)建共同標(biāo)準(zhǔn),包括促成盟友武器系統(tǒng)、通信架構(gòu)等多方面的合作兼容;同時以高標(biāo)準(zhǔn)帶動低標(biāo)準(zhǔn),保證同盟內(nèi)部的合作安全,確保數(shù)據(jù)標(biāo)記、人工智能使用過程、輸出結(jié)果等均符合共同價值觀。
在組織外部,北約將作為一個整體,提升盟國在聯(lián)合國、國際標(biāo)準(zhǔn)化組織(International Organization for Standardization)、國際電信聯(lián)盟(International Telecommunication Union)等國際組織有關(guān)人工智能治理的話語權(quán),打造一套有利于盟國的標(biāo)準(zhǔn)體系,通過標(biāo)準(zhǔn)先行設(shè)定人工智能發(fā)展與應(yīng)用的路徑,既形成吸引力,又形成路徑依賴,使其他國家通過主動和被動的方式向有利于盟友的北約標(biāo)準(zhǔn)靠攏。
戰(zhàn)略的形成離不開內(nèi)外條件的推動。一方面,北約人工智能戰(zhàn)略是根據(jù)國際環(huán)境變化,基于北約同盟自身定位認(rèn)知調(diào)整的結(jié)果。人工智能合作既能強(qiáng)化北約盟國對同盟的認(rèn)同,也能以其獨(dú)特而前沿的軍用價值幫助北約提升同盟安全、保持軍事優(yōu)勢等“戰(zhàn)略再轉(zhuǎn)型”目標(biāo)。另一方面,美國在科技領(lǐng)域的競爭思維、在人工智能領(lǐng)域的雙多邊合作均對北約產(chǎn)生重要影響,推動北約最終出爐人工智能戰(zhàn)略。
冷戰(zhàn)結(jié)束后,外部敵人蘇聯(lián)的消失讓北約失去團(tuán)結(jié)同盟的重要抓手。兩極格局的結(jié)束讓北約無法像在冷戰(zhàn)時期那樣服務(wù)于美國追求霸權(quán)地位的目標(biāo),美國對跨大西洋關(guān)系以及北約的消極態(tài)度在特朗普執(zhí)政時期得到明顯體現(xiàn)。俄烏危機(jī)升級前,隨著外部戰(zhàn)略環(huán)境相對穩(wěn)定,北約這一軍事同盟對歐洲各國的吸引力一度有所下降。北約一直尋找能夠在新環(huán)境中喚醒舊同盟、凝聚成員國認(rèn)同的方式,人工智能合作成為強(qiáng)化各國對同盟認(rèn)同的新抓手。
一是通過強(qiáng)調(diào)在人工智能領(lǐng)域面臨共同的外部威脅,北約能夠凝聚各國在這一領(lǐng)域的同盟意識?!侗奔s2030 倡議》指出,俄羅斯和中國挑戰(zhàn)了“基于規(guī)則的國際秩序”,中國的崛起“根本改變了均勢”。①North Atlantic Treaty Organization, NATO 2030 Factsheet, June 2021, p.3, https://www.nato.int/nato_static_fl2014/assets/pdf/2021/6/pdf/2106-factsheet-nato2030-en.pdf.北約在《2022年戰(zhàn)略概念》文件中也分別將俄羅斯和中國列為“威脅”和“挑戰(zhàn)”。①North Atlantic Treaty Organization, NATO 2022 Strategic Concept, June 29, 2022, p.5.在人工智能領(lǐng)域,北約同樣提出,“中國和俄羅斯對軍事人工智能系統(tǒng)的投資是北約盟友必須解決的地緣政治挑戰(zhàn)”。②Sub-Committee on Technology Trends and Security of Science and Technology Committee of NATO Parliamentary Assembly, Artificial Intelligence: Implications for NATO’s Armed Forces, October 13, 2019, p.13.具體而言,北約認(rèn)為對手可能通過制造虛假信息,干擾、操縱或破壞同盟人工智能技術(shù)應(yīng)用等方法影響北約安全。通過不斷向其成員強(qiáng)調(diào)共同威脅認(rèn)知,北約意在鼓勵盟友采取聯(lián)合行動,協(xié)同發(fā)揮人工智能潛力,抵御國家或非國家行為體惡意使用人工智能而威脅集體安全的行為。
二是北約能夠通過從國家到企業(yè)再到個人的人工智能戰(zhàn)略文件發(fā)布以及一系列機(jī)制化安排,鞏固盟國及各國民眾在這一領(lǐng)域?qū)ν撕献鞯募w認(rèn)同。北約人工智能戰(zhàn)略概要文件承諾,北約將在任何人工智能相關(guān)問題上進(jìn)行內(nèi)部協(xié)調(diào)與合作,③North Atlantic Treaty Organization, Summary of the NATO Artificial Intelligence Strategy, October 22, 2021,https://www.nato.int/cps/en/natohq/official_texts_187617.htm.包括各國人工智能測試中心將在北約“國防創(chuàng)新加速器”下展開提升盟友互操作性和信息安全的工作,將高層級對話機(jī)制化,定期召開跨大西洋人工智能論壇等。而且,北約的人工智能合作并非僅在各國官方之間橫向開展,而是包含了政府與非政府以及民間的對話和合作。與其他幾乎所有國家的人工智能戰(zhàn)略一樣,北約也認(rèn)為民間私營部門和學(xué)術(shù)界在人工智能發(fā)展中扮演重要角色,因此其戰(zhàn)略也注重與私營部門和學(xué)術(shù)界的合作。比如,涉及戰(zhàn)略政治領(lǐng)域的科技公司將可以獲取高層級對話信息,幫助塑造北約人工智能領(lǐng)域科技的發(fā)展。在北約推出人工智能戰(zhàn)略后,北約科學(xué)與技術(shù)組織、北約通信和信息局于2022年5月聯(lián)合發(fā)起一項(xiàng)人工智能“地平線掃描”項(xiàng)目,延攬了來自北約盟國防務(wù)研究機(jī)構(gòu)、產(chǎn)業(yè)界和學(xué)界的80 多名人工智能專家參與其中,旨在更好地理解人工智能及其對軍事的潛在意義。④“NATO Launches Artificial Intelligence Strategic Initiative,” NATO Communications and Information Agency, May 12, 2022, https://www.ncia.nato.int/about-us/newsroom/nato-launches-artificialintelligence-strategic-initiative.html.
冷戰(zhàn)結(jié)束后,根據(jù)全球安全環(huán)境的變化,北約每十年左右更新一次戰(zhàn)略概念。蘇聯(lián)解體后,北約的主要關(guān)注議題一度由傳統(tǒng)安全轉(zhuǎn)向非傳統(tǒng)安全,而在進(jìn)入21世紀(jì)的第二個十年后,北約戰(zhàn)略環(huán)境迅速改變,克里米亞危機(jī)和敘利亞戰(zhàn)爭等事件相繼爆發(fā),大國競爭態(tài)勢日趨顯著。北約戰(zhàn)略觀再受沖擊,北約近年來正經(jīng)歷有史以來最緊迫的一次組織轉(zhuǎn)型。①Imre Porkolárb, An AI Enabled NATO Strategic Vision for Twenty-First-Century, Yvonne R.Masakowski, ed., Artificial Intelligence and Global Security, Emerald Publishing Limited, 2020, p.157.經(jīng)過內(nèi)部討論和對外部戰(zhàn)略關(guān)系的重新校準(zhǔn),如何確保同盟安全、維持軍事優(yōu)勢重新回到北約議程的優(yōu)先位置。在“戰(zhàn)略再轉(zhuǎn)型”的目標(biāo)背景下,北約逐漸認(rèn)識到科技優(yōu)勢的重要性,認(rèn)為新興和顛覆性技術(shù)對實(shí)現(xiàn)北約集體防御、危機(jī)管理和合作安全三項(xiàng)核心任務(wù)既是挑戰(zhàn)又是機(jī)遇。②Analysis and Recommendations of the Reflection Group Appointed by the NATO Secretary General,NATO 2030: United for a New Era, November 25, 2021, p.13.
作為備受關(guān)注的新興和顛覆性技術(shù)之一,人工智能技術(shù)能夠直接強(qiáng)化北約軍事能力、確保北約軍事優(yōu)勢,從而助力北約“戰(zhàn)略再轉(zhuǎn)型”。具體而言,人工智能在戰(zhàn)場上能夠大幅提升軍事管理、分析大數(shù)據(jù)集以及決策能力。在處理海量圖片、視頻和文字時引入人工智能,能夠?qū)崿F(xiàn)抓取和分析信息自動化,在一定程度上解決戰(zhàn)事領(lǐng)導(dǎo)者信息掌握不足、分析難以全面的“戰(zhàn)爭迷霧”(fog of war)問題。人工智能賦能的大數(shù)據(jù)分析將大幅縮短戰(zhàn)場決策和準(zhǔn)備行動的時間,甚至使“極速戰(zhàn)”(hyperwar)這一新戰(zhàn)爭形態(tài)成為可能,而決策和執(zhí)行更快的一方就能取得戰(zhàn)事優(yōu)勢。③Darrell M. West, John R. B, “How Artificial Intelligence is Transforming the World,” Brookings Institution, April 24, 2018, https://www.brookings.edu/research/how-artificial-intelligence-is-transformingthe-world/.2022年2月烏克蘭危機(jī)升級后,美國國防部利用人工智能和機(jī)器學(xué)習(xí)分析數(shù)據(jù),生成有用的戰(zhàn)場情報支持烏克蘭。④Patrick Tucker, “AI is Already Learning from Russia’s War in Ukraine, DOD Says,” April 21, 2022,https://www.defenseone.com/technology/2022/04/ai-already-learning-russias-war-ukraine-dod-says/365978/.在未來,以算法和數(shù)據(jù)為核心的智能化、自動化武器裝備將逐步取代地面部隊和傳統(tǒng)武器,成為國家軍事實(shí)力的核心要素。⑤劉國柱、尹楠楠:《美國國家安全認(rèn)知的新視閾:人工智能與國家安全》,《國際安全研究》2020年第2 期,第144 頁。
除了在戰(zhàn)場上的直接效用外,人工智能還能服務(wù)于軍隊訓(xùn)練和演習(xí)、作戰(zhàn)保障,并應(yīng)用于信息戰(zhàn)、輿論戰(zhàn)。在軍隊訓(xùn)練中,人工智能可被用于開發(fā)模擬仿真訓(xùn)練系統(tǒng),將訓(xùn)練中搜集的數(shù)據(jù)再分析可幫助演習(xí)復(fù)盤,從而提升軍隊素質(zhì),形成有利循環(huán)。在后方支援中,醫(yī)療、武器預(yù)測性維護(hù)、物流管理都能受益于此項(xiàng)技術(shù)。2022年2月升級的烏克蘭危機(jī)中,人工智能放大了信息戰(zhàn)、輿論戰(zhàn)的效果,例如機(jī)器學(xué)習(xí)算法被用于偽造和識別社交媒體平臺上的誤導(dǎo)性和虛假信息。
因此,隨著北約推進(jìn)“戰(zhàn)略再轉(zhuǎn)型”,其對人工智能的重視程度不斷提升。自2010年北約里斯本峰會提出三項(xiàng)核心任務(wù)以來,北約發(fā)布了大量推動軍用人工智能的評論、政策、白皮書報告等,各下設(shè)組織也舉辦了一系列涉及各類技術(shù)議題的討論和實(shí)踐活動。①如,在人工智能戰(zhàn)略文件出臺前,北約科學(xué)與技術(shù)組織曾就人工智能支持的網(wǎng)絡(luò)防御、人工智能對信息環(huán)境的貢獻(xiàn)等問題召開專家會議或論壇;2018年的北約信息保障專題討論會曾將人工智能作為中心議題;北約工業(yè)咨詢小組曾發(fā)布有關(guān)大數(shù)據(jù)、自動化等主題的諸多研究成果,等等。2022年6月底的馬德里峰會上,北約為下一個十年的同盟定位和發(fā)展推出“戰(zhàn)略概念”文件,再次強(qiáng)調(diào)新興和顛覆性技術(shù)正在改變沖突的特征,科技優(yōu)勢將日益對戰(zhàn)場上的勝利產(chǎn)生影響。②North Atlantic Treaty Organization, NATO 2022 Strategic Concept, June 29, 2022, p.5.峰會前,一些盟友已經(jīng)率先開展引領(lǐng)性合作,如美國與英國在5月簽署了一份人工智能合作意向聲明,設(shè)定了與人工智能準(zhǔn)備程度(AI readiness)相關(guān)的共同戰(zhàn)略目標(biāo)。③United States Department of Defense, “Deputy Secretary of Defense Dr. Kathleen H. Hicks Visits the United Kingdom,” May 26, 2022, https://www.defense.gov/News/Releases/Release/Article/3045921/deputysecretary-of-defense-dr-kathleen-h-hicks-visits-the-united-kingdom/.隨著歐亞大陸再現(xiàn)戰(zhàn)火,北約在這份新戰(zhàn)略概念文件中對威脅上升、安全感不足的認(rèn)知只增不減。北約力求利用包括人工智能在內(nèi)的技術(shù)保證同盟安全,確保其在戰(zhàn)場上決定性優(yōu)勢的態(tài)勢也進(jìn)一步加強(qiáng)。未來,北約還將繼續(xù)鼓勵其盟國加大對開發(fā)和應(yīng)用人工智能技術(shù)的投資,加速實(shí)施人工智能戰(zhàn)略,建設(shè)合作機(jī)制和平臺。
自北約成立以來,美國在北約的發(fā)展和各個關(guān)鍵議題上都發(fā)揮了引領(lǐng)作用,是對北約投入力度最大的成員。在人工智能議題上,美國也扮演了同樣的領(lǐng)銜角色,尤其隨著美國近年來對人工智能技術(shù)的關(guān)注度持續(xù)提升以及拜登執(zhí)政后“大西洋主義精神”的回歸,④孫成昊:《跨大西洋關(guān)系的變化與前景》,《現(xiàn)代國際關(guān)系》2021年第3 期,第26 頁。美國與北約盟友在這一領(lǐng)域合作加深,成為北約人工智能戰(zhàn)略出臺的一大動因。
在美國看來,人工智能技術(shù)優(yōu)勢關(guān)乎國家安全,對外可以服務(wù)于大國科技競爭,對內(nèi)可以賦能社會治理,因此對人工智能開發(fā)與應(yīng)用的關(guān)注度極高。近年來,美國在這一領(lǐng)域的投入顯著提升。2019年至2021年任期的第116 屆國會是迄今為止最關(guān)注人工智能的一屆國會,該屆國會所發(fā)布的人工智能相關(guān)立法、國會及其下屬機(jī)構(gòu)編寫的相關(guān)文件和國會研究服務(wù)局所發(fā)布報告的總數(shù)約為上屆國會發(fā)布數(shù)量的三倍,各類文件中共提及“人工智能”506 次。沿承這一趨勢,僅2021年一年,該屆國會就已在相關(guān)立法文件中提及“人工智能”295 次。①Stanford University Human-Centered Artificial Intelligence, Artificial Intelligence Index Report 2022, March 2022, p.183.正因如此,即使美國發(fā)布國家人工智能計劃的時間稍晚于加拿大、歐盟、法國、德國和英國,美國對人工智能的投資在北約中還是遙遙領(lǐng)先。從2018 財年到2020 財年,美國聯(lián)邦政府在人工智能方面的支出增長50%,人工智能成為增長最快的投資領(lǐng)域。②Summer Myatt, “New Deltek Report Shows Increase in AI Spending & Implementation in Federal Agencies; Christine Fritsch Quoted,” October 1, 2021, https://executivegov.com/2021/10/new-deltek-reportshows-increase-in-ai-spending-and-implementation-in-federal-gov/.據(jù)估計,美國國防部在2021 財年將92.6億美元用于500 個人工智能研發(fā)項(xiàng)目,并將在2022 財年投入100 億美元。③Stanford University Human-Centered Artificial Intelligence, Artificial Intelligence Index Report 2022, March 2022, p.189.美國政府也致力于資助公共部門開展人工智能研發(fā),2021 財年非國防的政府部門將15.3 億美元用于這一領(lǐng)域,而2022 財年該領(lǐng)域預(yù)算則達(dá)到16.7 億。④The Networking & Information Technology R&D Program and the National Artificial Intelligence Initiative Office, Supplement to the President’s FY 2022 Budget, December 2021, p.18, https://www.nitrd.gov/pubs/FY2022-NITRD-NAIIO-Supplement.pdf.
不僅如此,相比于其他北約國家已公布的戰(zhàn)略文件,美國的人工智能戰(zhàn)略對人工智能軍用的傾向性更大,其戰(zhàn)略規(guī)定更詳盡,近年來也已啟動諸多實(shí)踐應(yīng)用項(xiàng)目,因而在北約中更能發(fā)揮引領(lǐng)作用。武器方面,美國國防部早在2012年就已發(fā)布“武器系統(tǒng)中的自動化”(Autonomy in Weapon System)指令文件,探索在美軍武器系統(tǒng)中開發(fā)和使用自主功能。⑤U.S. Department of Defense, “Autonomy in Weapon Systems,” November 21, 2012, https://irp.fas.org/doddir/dod/d3000_09.pdf.情報方面,國防部于2017年4月啟動“Maven”項(xiàng)目,通過開發(fā)人工智能分析算法,將國防部已掌握的大量數(shù)據(jù)迅速轉(zhuǎn)化為有助于作戰(zhàn)決策的情報。⑥“Establishment of an Algorithmic Warfare Cross-Function Team (Project Maven),” United States Department of Defense, April 26, 2017, https://www.govexec.com/media/gbc/docs/pdfs_edit/establishment_of_the_awcft_project_maven.pdf.指揮控制方面,國防高級研究計劃局提出“馬賽克戰(zhàn)”(Mosaic Warfare)項(xiàng)目,尋求利用人工智能協(xié)調(diào)自主部隊,賦能多域指揮控制。⑦“Strategic Technology Office Outlines Vision for ‘Mosaic Warfare’,” U.S. Defense Advanced Research Projects Agency, April 8, 2017, https://www.darpa.mil/news-events/2017-08-04.治理方面,美國國防部不斷更新相關(guān)政策和戰(zhàn)略指導(dǎo)文件,2022年6月發(fā)布的《“負(fù)責(zé)任的人工智能”戰(zhàn)略與實(shí)施路徑文件》提出六項(xiàng)有關(guān)人工智能設(shè)計、開發(fā)和使用的基本原則,旨在建立一個可信賴的軍事生態(tài)系統(tǒng)。①U.S. Department of Defense, Responsible Artificial Intelligence Strategy and Implementation Pathway, June 2022, https://www.ai.mil/docs/RAI_Strategy_and_Implementation_Pathway_6-21-22.pdf.近期,美國還將烏克蘭危機(jī)作為諸多人工智能項(xiàng)目的試驗(yàn)田,將人工智能應(yīng)用于數(shù)據(jù)搜集、戰(zhàn)況監(jiān)測、情報分析、網(wǎng)絡(luò)防御等多個方面。
在人工智能領(lǐng)域,“美國優(yōu)先”和競贏中美科技競爭是美國發(fā)展技術(shù)、布局政策的“主旋律”,美國也致力于打造有利于美國及其盟友的科技同盟,通過調(diào)動盟友及伙伴力量實(shí)現(xiàn)自身目標(biāo)。美國政府與軍方利用其層層嵌套的同盟體系,從包括美英澳同盟、“五眼同盟”在內(nèi)的核心盟國,向北約推進(jìn)人工智能合作。②孫海泳:《美國人工智能軍事化的發(fā)展態(tài)勢、風(fēng)險與應(yīng)對路徑》,《國際論壇》2022年第2 期,第42 頁。北約不僅能夠?yàn)槊绹c其盟友合作提供良好機(jī)制和平臺,還匯聚30 個國家的公共、私營部門人才,集合盟友協(xié)同力量,能夠擴(kuò)大美國可用數(shù)據(jù),幫助美國軍隊提升人工智能指揮和作戰(zhàn)等能力。一方面,美國積極與北約盟國建立人工智能雙邊的機(jī)制,與不同的國家展開不同方面、不同層次的對話與合作,助力各國人工智能發(fā)展。如在2020年9月,美國和英國發(fā)表“合作研發(fā)人工智能宣言”,宣布將共同打造人工智能研發(fā)生態(tài)系統(tǒng)。③“Declaration of the United States of America and the United Kingdom of Great Britain and North Ireland on Cooperation in Artificial Intelligence Research and Development,” U.S. Department of State,September 25, 2020, https://www.state.gov/declaration-of-the-united-states-of-america-and-the-unitedkingdom-of-great-britain-and-northern-ireland-on-cooperation-in-artificial-intelligence-research-anddevelopment-a-shared-vision-for-driving/.另一方面,美國將北約作為更廣泛平臺,甚至在同盟人工智能戰(zhàn)略正式推出前,就已領(lǐng)頭在北約推行多個相關(guān)項(xiàng)目。目前,北約最大的軍用人工智能項(xiàng)目“防務(wù)人工智能伙伴”(AI Partnership for Defense)就是由美國國防部聯(lián)合人工智能中心(Joint AI Center)領(lǐng)導(dǎo)建立。
基于美國的人工智能觀和歷經(jīng)數(shù)年的對外行動,北約各國對人工智能的關(guān)注度持續(xù)上升,認(rèn)識到人工智能在軍事方面的重要意義。加之源于美國的“安全”“威脅”“競爭”敘事被推廣至歐洲各國,北約亦開始追求人工智能領(lǐng)域的相對優(yōu)勢。
在《科技趨勢:2020~2040》報告提出的八項(xiàng)新興和顛覆性技術(shù)中,北約率先推出了“人工智能戰(zhàn)略”,足見推進(jìn)這一技術(shù)的決心和緊迫性,人工智能戰(zhàn)略也將為北約發(fā)展其他新興和顛覆性技術(shù)奠定基礎(chǔ)。人工智能技術(shù)除單獨(dú)被搭載于同盟各項(xiàng)任務(wù)職能發(fā)揮效益外,還將和大數(shù)據(jù)、自主性技術(shù)等相互協(xié)同,對北約未來軍事能力發(fā)展產(chǎn)生重要影響。然而,北約的人工智能戰(zhàn)略剛剛起步,新推出的戰(zhàn)略文件也只是建立起各國討論和共識的起點(diǎn),無法在短期內(nèi)展現(xiàn)顯著結(jié)果。在推進(jìn)人工智能戰(zhàn)略的過程中,北約仍面臨重重挑戰(zhàn)。人工智能技術(shù)從商用、民用轉(zhuǎn)向軍用仍有諸多暫時無法克服的技術(shù)困難,使北約戰(zhàn)略實(shí)踐存在風(fēng)險,而且北約可用于部署人工智能戰(zhàn)略的資源不足,未能占據(jù)戰(zhàn)略規(guī)劃先機(jī)。在這個龐大的軍事同盟之下,30 個國家對人工智能發(fā)展的認(rèn)知及現(xiàn)有實(shí)力也不均衡,北約與通過人工智能實(shí)現(xiàn)強(qiáng)化防務(wù)和技術(shù)實(shí)力、引領(lǐng)人工智能治理標(biāo)準(zhǔn)的戰(zhàn)略意圖仍有距離。
人工智能商用已比較成熟,但軍用人工智能技術(shù)本身仍不成熟,實(shí)現(xiàn)從商用到軍用的適應(yīng)性轉(zhuǎn)化仍存較大挑戰(zhàn)。在數(shù)據(jù)輸入端,“數(shù)據(jù)食譜”脆弱性(data diet vulnerability)將在人工智能被軍用時遭到放大。①Osonde A. Osoba, William Welser IV, “Risks of Artificial Intelligence to Security and the Future of Work,” RAND Corporation, 2017, https://www.rand.org/content/dam/rand/pubs/perspectives/PE200/PE237/RAND_PE237.pdf.相比于龐大的社會數(shù)據(jù)湖,北約軍隊缺乏從現(xiàn)代化戰(zhàn)場搜集的軍事數(shù)據(jù),其輸入數(shù)據(jù)不完善將使人工智能無法完美仿真現(xiàn)實(shí)情況,更傾向于以此前已經(jīng)出現(xiàn)過的情形進(jìn)行推演,在新形勢出現(xiàn)時偏誤可能性增大。而且,北約各盟國訓(xùn)練本國軍用人工智能系統(tǒng)時所基于的數(shù)據(jù)不同,可能導(dǎo)致聯(lián)合行動時出現(xiàn)非預(yù)期結(jié)果,從而產(chǎn)生軍事危機(jī)。即使北約同盟自身掌握的數(shù)據(jù)完好并得到良好訓(xùn)練,輸入型的數(shù)據(jù)污染仍極易發(fā)生。比如,在兩個軍事陣營對抗時,數(shù)據(jù)污染會在互動后由于兩方智能部隊所基于的數(shù)據(jù)不同而產(chǎn)生。
在算法層面,人工智能算法具有黑箱特征,透明度存在問題。即使是目前人工智能技術(shù)最為前沿的算法——深度學(xué)習(xí)算法模型,都仍然存在難以解釋的問題,即研究人員僅能獲得輸入和輸出數(shù)據(jù),而無法得知其內(nèi)部計算過程,因此無法對算法作出解釋。在民用或商用時,為得到更高生產(chǎn)效率,其容錯率一般更高;而一旦將這樣“黑箱化”的算法投入軍用,由于戰(zhàn)場環(huán)境瞬息萬變,決策一旦做出,所有結(jié)果均不可逆,因此要求其容錯率相應(yīng)更低。盡管經(jīng)過充分測試,失誤率能盡可能降低,但各國并不會投入足夠測試資金,或是不足以充分調(diào)動官僚組織測試這些復(fù)雜的系統(tǒng)。②[美]保羅·沙瑞爾著,朱啟超、王姝、龍坤譯,《無人軍隊:自主武器與未來戰(zhàn)爭》,北京:世界知識出版社,2018年,第307 頁。
在操作層面,雖然人工智能技術(shù)以“智能”為名,自主武器也以“自主”為其根本特征,但實(shí)際操作中仍然離不開人機(jī)協(xié)同。當(dāng)“智能”武器系統(tǒng)投入使用,不可否認(rèn)將提供一定戰(zhàn)術(shù)優(yōu)勢,但這也將為武器操作者和決策者創(chuàng)造出“道德緩沖”(moral buffer),使他們更容易未充分考慮其后果就采取行動,①M(fèi)ary Cummings, “Creating Moral Buffers in Weapon Control Interface Design,” IEEE Technology and Society Magazine, February 2004, pp.28-29.這不僅可能帶來戰(zhàn)術(shù)決策失誤,還可能造成更多傷亡。一方面,人工智能支持下的遠(yuǎn)程打擊精準(zhǔn)度進(jìn)一步提升,從而能夠幫助人類遠(yuǎn)離戰(zhàn)場,減少本方傷亡,但這也使士兵不必直面對彼方的殺戮。根據(jù)軍事心理學(xué)家戴夫·格羅斯曼(Dave Grossman)的實(shí)驗(yàn)統(tǒng)計,從徒手搏斗的短距離到狙擊、炮轟的遠(yuǎn)距離,士兵拒絕執(zhí)行攻擊的情況越來越少,道德負(fù)罪感也越來越低。②Lieutenant Colonel Dave Grossman, On Killing: The Psychological Cost of Learning to Kill in War and Society, New York: Back Bay Books/Little, Brown and Company, 1996, pp.107-133.另一方面,“智能”武器的操作面板均為虛擬畫面,從而模糊了現(xiàn)實(shí)與虛擬的界限,使操作者的決策過程變得抽象。
除了存在包括上述問題在內(nèi)的技術(shù)缺陷外,人工智能治理歸責(zé)問題仍是一大難題。任何罪責(zé)成立均包含行動和意圖兩方面,一旦因技術(shù)應(yīng)用產(chǎn)生不良結(jié)果或損失,客觀的技術(shù)本身卻因?yàn)椴淮嬖谥饔^意圖而難以被歸責(zé),人工智能尚無社會規(guī)范意識,同時更無風(fēng)險質(zhì)押,③董青嶺:《人工智能時代的道德風(fēng)險與機(jī)器倫理》,《云夢學(xué)刊》2018年第5 期,第41 頁。因此無法承擔(dān)或彌補(bǔ)后果,在事后懲罰“機(jī)器人”并無意義。北約人工智能戰(zhàn)略承諾明晰人為責(zé)任以確保歸責(zé),但這樣的原則暫時僅是盟國美好的愿景。因?yàn)槿祟愔笓]者或操作者通常都不能被指認(rèn)為對自主武器的錯誤行為負(fù)直接責(zé)任,展現(xiàn)出人為特定意圖的情況更屬罕見。而且,要從編程人員、操作者、指揮者和生產(chǎn)者等一系列流程中確定導(dǎo)致錯誤產(chǎn)生的關(guān)鍵環(huán)節(jié)和人員,難度和成本極高。
在人工智能技術(shù)應(yīng)用于戰(zhàn)略領(lǐng)域的早期階段,少數(shù)掌握相關(guān)技術(shù)的國家會利用技術(shù)進(jìn)步在博弈過程中獲得巨大的比較優(yōu)勢,即“先發(fā)優(yōu)勢”。④封帥、周亦奇:《人工智能時代國家戰(zhàn)略行為的模式變遷——走向數(shù)據(jù)與算法的競爭》,《國際展望》2018年第4 期,第52—53 頁。美歐科技創(chuàng)新水平在全球范圍內(nèi)具有領(lǐng)先優(yōu)勢,但從同盟層面看,北約規(guī)劃其人工智能合作的時間點(diǎn)與各大國相比相對靠后,存在后發(fā)劣勢。
一方面,在北約開始部署人工智能戰(zhàn)略之前,被北約視為“挑戰(zhàn)”的中國和俄羅斯已分別在2017年和2019年推出人工智能規(guī)劃和戰(zhàn)略,對這一領(lǐng)域已有較大投入,不僅政府對產(chǎn)業(yè)支持力度極大,而且已通過從企業(yè)、學(xué)界到政府間的國際合作產(chǎn)生了廣泛國際影響力。
另一方面,同為國際組織,歐盟對人工智能的關(guān)注和部署遠(yuǎn)先于北約,目前歐盟所有成員國均已推出人工智能戰(zhàn)略,在人工智能治理領(lǐng)域的影響力也大于北約。在歐盟謀求“戰(zhàn)略自主”的影響下,北約的后發(fā)位置不利于其與歐盟協(xié)作發(fā)力,這將尤其體現(xiàn)在人工智能的治理方面。歐盟是國際社會重要的“規(guī)范性力量”,在人工智能領(lǐng)域,歐盟亦推出一系列道德倫理、技術(shù)規(guī)范的詳細(xì)頂層設(shè)計,是全球人工智能變革性技術(shù)治理規(guī)范的先驅(qū)者和示范者。①關(guān)皓元、高杰:《新時期中歐人工智能發(fā)展戰(zhàn)略與政策環(huán)境的比較研究》,《組織與戰(zhàn)略》2021年第3 期,第59 頁。比如,2019年4月,歐盟人工智能高級別專家組發(fā)布《可信任的人工智能倫理準(zhǔn)則》,提出七項(xiàng)可信任的人工智能的具體標(biāo)準(zhǔn)要求,強(qiáng)調(diào)人工智能發(fā)展和應(yīng)用需遵循倫理規(guī)范性和技術(shù)魯棒性。②High-Level Expert Group on Artificial Intelligence Set Up by the European Commission, Ethics Guidelines for Trustworthy AI, April 8, 2019.2021年4月,歐盟委員會提交了關(guān)于歐盟人工智能監(jiān)管框架的法案,這一法案的域外適用及其可能產(chǎn)生的示范效應(yīng)(“布魯塞爾效應(yīng)”),代表了全球范圍內(nèi)對人工智能進(jìn)行橫向監(jiān)管的首次嘗試。③Josh Meltzer and Aaron Tielemans, The European Union AI Act: Next Steps and Issues for Building International Cooperation, Brookings, May, 2022, p.1.而相比于歐盟已十分詳細(xì)的監(jiān)管和治理規(guī)則,北約對人工智能治理的協(xié)調(diào)工作才剛剛起步,具體內(nèi)容仍比較模糊。雖然歐盟承諾將在北約框架下實(shí)施其“戰(zhàn)略自主”和防務(wù)能力建設(shè),雙方也已開始進(jìn)行人工智能相關(guān)的對話交流,比如2018年發(fā)布的“歐盟—北約合作聯(lián)合聲明”④North Atlantic Treaty Organization, Press Release (2018) 095, Joint Declaration on EU-NATO Cooperation, July 10, 2018, https://www.consilium.europa.eu/media/36096/nato_eu_final_eng.pdf.強(qiáng)調(diào)了兩個組織合作提高應(yīng)對混合威脅的能力,但是基于北約的后發(fā)位置,其要超越歐盟的“布魯塞爾效應(yīng)”而建立“北約標(biāo)準(zhǔn)”并在同盟內(nèi)外推廣存在一定障礙。
北約為推進(jìn)戰(zhàn)略開創(chuàng)性地設(shè)立了北約創(chuàng)新基金,從而能夠一定程度調(diào)動來自各國的私人投資,而各盟國自身對于防務(wù)和新興技術(shù)的投資也是戰(zhàn)略能否順利推進(jìn)的重要指標(biāo)。由于北約各盟國經(jīng)濟(jì)發(fā)展情況、國家發(fā)展戰(zhàn)略目標(biāo)不同,大部分北約國家對防務(wù)和新興技術(shù)的投資力度尚低,因而同盟可用于投資人工智能技術(shù)的預(yù)算依然有限。
2006年召開的北約里加峰會上,各盟國就間接資助①為保證北約機(jī)構(gòu)正常運(yùn)作和其政策、活動的執(zhí)行,盟國需每年通過直接和間接資助為北約提供費(fèi)用。盟國的直接資助將服務(wù)于北約永久性軍事指揮結(jié)構(gòu)和同盟軍事基礎(chǔ)設(shè)施等,應(yīng)約占其年國防總開支的0.3%,該部分的資金需求基本得以滿足。而間接資助則是盟國通過確保本國防務(wù)開支預(yù)算,間接服務(wù)于北約實(shí)力。份額達(dá)成協(xié)議,每個成員國應(yīng)把每年國內(nèi)生產(chǎn)總值中2%的資金用于國防開支,其中應(yīng)包含20%的裝備采購和開發(fā)。然而,這兩個目標(biāo)自被設(shè)定以來就始終難以達(dá)成。在目標(biāo)設(shè)立的次年,全球經(jīng)濟(jì)危機(jī)的爆發(fā)嚴(yán)重影響各國履行承諾,許多盟友用于防務(wù)開支的資金份額縮水。2014年,隨著克里米亞危機(jī)爆發(fā),北約對外部環(huán)境的認(rèn)知評估發(fā)生變化,盟友在威爾士峰會中又批準(zhǔn)了新的《國防投資承諾》,呼吁各盟國致力于在十年內(nèi)達(dá)成兩個間接資助目標(biāo)。②North Atlantic Treaty Organization, Press Release (2014)120, Wales Summit Declaration, September 5, 2014, https://www.nato.int/cps/en/natohq/official_texts_112964.htm.數(shù)年以來,北約盟國的國防開支有所提升,但漲幅并不明顯,仍有許多國家并未達(dá)到兩個目標(biāo)。根據(jù)北約估算數(shù)據(jù),直至2021年,除冰島(不設(shè)常備軍)外的29 個北約國家中僅有8個國家達(dá)到2%目標(biāo),同時有8 個國家未達(dá)到20%目標(biāo)(見圖1)。
圖1 北約盟國2021年國防投入估算情況
北約認(rèn)為,用于采購和開發(fā)裝備的資金是實(shí)現(xiàn)現(xiàn)代化軍隊的關(guān)鍵指標(biāo),如果其支出未能達(dá)到國防開支的20%,設(shè)備過時的風(fēng)險就較大,這將使盟友之間的能力差距越來越大,互操作性差距也將拉大。①“Funding NATO,” North Atlantic Treaty Organization, https://www.nato.int/cps/en/natohq/topics_67655.htm.當(dāng)前的防務(wù)支出情況已基本顯示出對新技術(shù)在短期內(nèi)的投資額度無法滿足其發(fā)展需求,而人工智能僅是新興裝備中的一個部分,其投資力度更難保證。2022年烏克蘭危機(jī)的升級使北約各國再一次認(rèn)識到提升防務(wù)投入的重要性,以德國為代表的許多盟國已經(jīng)承諾將以更快速度提升其國防投入,但北約對2022年開支情況的預(yù)測數(shù)據(jù)顯示,將有14 個國家的國防開支占國內(nèi)生產(chǎn)總值比率相較于2021年出現(xiàn)下降。②14 個國家分別為加拿大、捷克、法國、匈牙利、意大利、拉脫維亞、挪威、斯洛文尼亞、西班牙、土耳其、英國、美國、德國和葡萄牙。North Atlantic Treaty Organization, Press Release (2022)105,Defence Expenditures of NATO Countries (2014-2022),June 27,2022,p.8。根據(jù)目前的投入情況和北約盟國歷史承諾的兌現(xiàn)率看,無論是在人工智能軍事應(yīng)用方面,還是其他防務(wù)投入方面,距離盟國都達(dá)到北約設(shè)定的兩個目標(biāo)仍然遙遠(yuǎn)。
北約各盟國對人工智能的定義和看法不同,因而其發(fā)展目標(biāo)不同,希望從北約人工智能聯(lián)合中所汲取的收獲也不同,這是北約聯(lián)合行動的第一重障礙。一方面,各國對將人工智能用于軍事領(lǐng)域的態(tài)度不一致。除美國、法國和英國外,目前北約其余國家均未出臺專門的軍用人工智能戰(zhàn)略。顯然,北約人工智能戰(zhàn)略更多關(guān)注其軍用價值,但人工智能軍事化合作存在著盟友信任問題,缺乏政治互信的人工智能軍事化合作會放大被盟友拋棄的恐懼。③朱榮生、楊濱伊:《北約推進(jìn)人工智能戰(zhàn)略:挑戰(zhàn)與任務(wù)》,清華大學(xué)戰(zhàn)略與安全研究中心國際戰(zhàn)略與安全研究報告2022年第1 期,第11 頁。另一方面,各國對人工智能治理的立場存在“溫差”。比較歐盟與美國的人工智能戰(zhàn)略可以發(fā)現(xiàn),歐盟更加注重倫理標(biāo)準(zhǔn)而非科技標(biāo)準(zhǔn),美國則基于大國競爭視閾,為防止嚴(yán)苛標(biāo)準(zhǔn)阻礙創(chuàng)新研發(fā)速度,更傾向于采用寬松的治理標(biāo)準(zhǔn)。另外,基于不同的文化、族裔情況,各國對人工智能倫理問題的看法也不同。而在大集團(tuán)內(nèi)部,各國需要達(dá)成統(tǒng)一認(rèn)知、共同目標(biāo),故而在具體問題上形成一致決策和部署較為困難。
即使各盟國能夠在認(rèn)知和目標(biāo)上達(dá)成一致,北約盟國本身人工智能發(fā)展水平和施策力度仍存在差距,這成為北約聯(lián)合行動的第二重阻礙。雖然人工智能是一項(xiàng)關(guān)鍵新興技術(shù)已成為全球共識,但各國開始關(guān)注、研發(fā)和重點(diǎn)投資這項(xiàng)技術(shù)的時間點(diǎn)存在先后,且新技術(shù)的誕生總是依賴于此前的經(jīng)濟(jì)積累、技術(shù)經(jīng)驗(yàn)等,因此“馬太效應(yīng)”在科技發(fā)展中十分顯著。美國、英國以及法德等大國在人工智能方面的領(lǐng)先地位明顯,一些小國則相對滯后。
在創(chuàng)新層面,各國人工智能創(chuàng)新能力可從其發(fā)表的論文和專利數(shù)量和質(zhì)量得以觀察。根據(jù)Statista 全球統(tǒng)計數(shù)據(jù)庫,從2016年至2020年,美國是北約各國中產(chǎn)出人工智能論文或?qū)@疃嗟膰?,約有44400 份成果;英國位居北約第二位,其成果數(shù)量則遠(yuǎn)低于美國,僅有約16000 份成果,為美國成果數(shù)量的36%。①數(shù)據(jù)來自Statista:“AI-related Publications Worldwide 2016-2020, by Country,”May 17, 2020,https://www.statista.com/statistics/939627/ai-publications-worldwide-by-country/。此外,牛津洞察中心2019年根據(jù)治理、基礎(chǔ)設(shè)施與數(shù)據(jù)、技能與教育以及政府與公共服務(wù)提出了一項(xiàng)政府人工智能準(zhǔn)備程度指數(shù)。②數(shù)據(jù)來自牛津洞察中心(Oxford Insights):“Government Artificial Intelligence Readiness Index 2019,”https://www.oxfordinsights.com/ai-readiness2019。根據(jù)這項(xiàng)指數(shù)排名,北約30 個國家的指數(shù)排名都在世界平均水平之上,但不均勻地分布于第2 名至第83 名之間,由此可見其前沿國家與末端國家的潛在發(fā)展能力差距顯著。
在政策層面,政府對這項(xiàng)技術(shù)的重視程度可以從其是否推出相關(guān)發(fā)展戰(zhàn)略、政策及其投資力度觀察。北約目前已有25 個國家公布了本國國家人工智能戰(zhàn)略或計劃(見表1),美國、英國、法國、德國在戰(zhàn)略部署隊伍中位于“第一梯隊”,而冰島、阿爾巴尼亞、黑山、斯洛伐克和北馬其頓至今仍未公布人工智能發(fā)展戰(zhàn)略。同時,根據(jù)各國已公布的戰(zhàn)略或文件,可以發(fā)現(xiàn)資金投入力度相差較大。
表1 北約盟國人工智能戰(zhàn)略與政策文件情況(按相關(guān)文件數(shù)排序)
續(xù)表
續(xù)表
北約要實(shí)現(xiàn)其戰(zhàn)略意圖,必須首先協(xié)調(diào)上述分歧和差異,但各國短期內(nèi)能夠用以協(xié)調(diào)的外交資源較為有限,對人工智能議題的協(xié)調(diào)可能被其他更緊迫的議題掣肘。2022年烏克蘭危機(jī)升級后,歐洲經(jīng)濟(jì)受到嚴(yán)重打擊,能源、糧食、金融市場都出現(xiàn)較大震蕩,歐洲各國主要關(guān)注點(diǎn)明顯向如何保障國內(nèi)市場穩(wěn)定轉(zhuǎn)移,而非將外交資源投注于協(xié)調(diào)新技術(shù)上的分歧。而且在地緣政治博弈尤其是烏克蘭危機(jī)的背景下,北約更多關(guān)注如何及時應(yīng)對眼前危機(jī),規(guī)劃和推進(jìn)內(nèi)部具體領(lǐng)域發(fā)展的精力將有所分散。
北約人工智能戰(zhàn)略的出臺再次體現(xiàn)北約正在網(wǎng)絡(luò)空間奉行進(jìn)攻性戰(zhàn)略,努力搶占人工智能的戰(zhàn)略制高點(diǎn)。①高望來:《北約人工智能反恐新態(tài)勢及其困局》,《歐洲研究》2021年第2 期,第143 頁。目前,該戰(zhàn)略的效果尚不明顯,人工智能賦能同盟的效果仍需時間檢驗(yàn)。如果北約能夠克服挑戰(zhàn),同盟的防務(wù)和技術(shù)實(shí)力以及治理影響力將顯著受益于此項(xiàng)技術(shù),極可能以新一輪技術(shù)競賽為牽引,對國際格局和國際安全形勢產(chǎn)生新沖擊。值得注意的是,這一戰(zhàn)略也充分體現(xiàn)出以美歐為主體的西方國家力推人工智能軍事化和同盟化的兩大趨勢,謀求維持同盟科技和軍事實(shí)力的相對優(yōu)勢,確保地緣政治競爭中的絕對安全。
從長遠(yuǎn)看,北約人工智能戰(zhàn)略走向也將繼續(xù)受到中美戰(zhàn)略博弈的深刻影響。在烏克蘭危機(jī)升級的背景下,美國并未改變其戰(zhàn)略東移態(tài)勢,也沒有改變以戰(zhàn)略競爭為主線的對華政策,反而試圖綁定歐亞和“印太”兩大地緣板塊、綁定俄羅斯與中國兩大“競爭對手”。2022年6月的北約峰會甚至邀請日本、韓國參會,足見美國推動北約“印太化”的態(tài)勢將日益清晰,北約人工智能戰(zhàn)略所涉及的技術(shù)和標(biāo)準(zhǔn)合作可能擴(kuò)散至美日、美韓等美國在“印太”的軍事同盟體系,人工智能可能成為美國打造“北約+”的重要抓手之一。例如,韓國國家情報院已經(jīng)加入北約合作網(wǎng)絡(luò)防御卓越中心(NATO Cooperative Cyber Defence Centre of Excellence),①“S. Korea’s Spy Agency Joins NATO Cyber Defense Group,” Yonhap News Agency, May 5, 2022,https://en.yna.co.kr/view/AEN20220505001500315.該中心旨在為北約成員國及合作伙伴在網(wǎng)絡(luò)防御研究、培訓(xùn)和演習(xí)領(lǐng)域提供專業(yè)信息,加強(qiáng)北約成員國及合作伙伴網(wǎng)絡(luò)防御能力、合作及信息共享。上述動向既是利用北約發(fā)展人工智能的機(jī)遇投資美國自身創(chuàng)新能力、增強(qiáng)與中國的全面競爭能力,也是為了提升盟友的軍事和互操作能力、調(diào)動歐洲和“印太”盟友共同塑造中國戰(zhàn)略環(huán)境,而這種趨勢將導(dǎo)致中國面臨更加嚴(yán)峻復(fù)雜的周邊環(huán)境和科技挑戰(zhàn)。
北約推動人工智能軍事化的關(guān)鍵問題還在于,如果北約走向“印太化”,中國應(yīng)當(dāng)如何應(yīng)對。技術(shù)方面,中國要牢牢把握既有數(shù)據(jù)和應(yīng)用優(yōu)勢,利用國家力量集中創(chuàng)新資源,繼續(xù)加大對人工智能發(fā)展的投入,激發(fā)科研機(jī)構(gòu)的活力;同時繼續(xù)利用在國際交往方面的紅利,在市場、技術(shù)、人才、標(biāo)準(zhǔn)等方面保持開放的交流心態(tài),吸引全球科技人才。治理方面,中國應(yīng)警惕北約為首的西方陣營打造不利于中國或旨在遏制中國發(fā)展的標(biāo)準(zhǔn)和規(guī)則體系,應(yīng)充分利用國際法和國際平臺,掌握制定人工智能治理國際規(guī)則的主動性,根據(jù)自身需求與國際社會普遍關(guān)切主動提出具有全局觀的治理倡議。此外,人工智能軍事化可能沖擊全球戰(zhàn)略穩(wěn)定,此項(xiàng)技術(shù)的特點(diǎn)也讓建立相關(guān)國際軍控和防擴(kuò)散機(jī)制變得困難。②傅瑩:《人工智能對國際關(guān)系的影響初析》,《國際政治科學(xué)》2019年第1 期,第12 頁。因此,中國也應(yīng)擇機(jī)加強(qiáng)與北約在軍用人工智能定義、測試標(biāo)準(zhǔn)、監(jiān)管規(guī)則等方面的接觸與溝通,防止雙方出現(xiàn)誤解誤判,探索與北約及其成員國建立相關(guān)危機(jī)管控機(jī)制。