張紀(jì)騰

（復(fù)旦大學(xué) 國(guó)際關(guān)系與公共事務(wù)學(xué)院，上海200433）

0 引 言

第四次工業(yè)革命是一場(chǎng)集信息技術(shù)、新能源、新材料、生物技術(shù)等諸多技術(shù)領(lǐng)域于一體的革新運(yùn)動(dòng)。其中，作為一項(xiàng)具有通用性和使能性的技術(shù)，人工智能具備嵌套及主導(dǎo)其他技術(shù)發(fā)展的包容度與統(tǒng)攝力，因此被視作推動(dòng)第四次工業(yè)革命的關(guān)鍵要素。與此同時(shí)，作為國(guó)家安全的重要組成部分，技術(shù)安全被視為保障其他國(guó)家安全領(lǐng)域的重要支柱。然而，人工智能的特殊性，使其對(duì)國(guó)家安全的影響存在著一種“技術(shù)悖論”的困境，即人工智能在國(guó)家安全領(lǐng)域的應(yīng)用有助于提升安全治理的水平與效能，但同時(shí)也造成了國(guó)家安全向度和維度的深化，繼而使國(guó)家安全面臨一系列新挑戰(zhàn)[1]。

1 新局：人工智能賦能國(guó)家安全治理

從應(yīng)用領(lǐng)域來看，人工智能主要從傳統(tǒng)安全與非傳統(tǒng)安全兩方面賦能國(guó)家安全。前者主要為人工智能在軍事與戰(zhàn)略層面的使用，后者則主要為人工智能在社會(huì)治理層面的應(yīng)用。

第一，人工智能賦能傳統(tǒng)國(guó)家安全。最初對(duì)于人工智能軍事化應(yīng)用的討論集中在無人機(jī)、機(jī)器人、戰(zhàn)略決策和網(wǎng)絡(luò)安全等常規(guī)軍事領(lǐng)域，而后逐步拓展至核威懾等非常規(guī)軍事領(lǐng)域。但作為一項(xiàng)通用性技術(shù)，人工智能具有在各個(gè)軍事領(lǐng)域?qū)崿F(xiàn)“全面滲透”式應(yīng)用的特性，而不僅局限于單一的軍事領(lǐng)域。目前，人工智能軍事化應(yīng)用的主要成果集中在武器自動(dòng)化、情報(bào)、監(jiān)視和偵察（ISR）與戰(zhàn)略決策等方面，為“馬賽克戰(zhàn)”“多域作戰(zhàn)”等作戰(zhàn)方式提供了有力的支撐，并催生了諸如“影響力機(jī)器”等新型對(duì)抗方式[2]。 需要說明的是，在當(dāng)下的軍事化應(yīng)用中，人工智能尚處于提升作戰(zhàn)的信息化水平和打擊精確度的“初智”階段，但伴隨其技術(shù)突破，人工智能將逐步實(shí)現(xiàn)作戰(zhàn)對(duì)抗的“無人化”與“智能化”，并使之躍升為廣泛整合多項(xiàng)技術(shù)與統(tǒng)籌整體作戰(zhàn)安排的“高智”階段。

第二，人工智能賦能非傳統(tǒng)國(guó)家安全。在非傳統(tǒng)安全領(lǐng)域，人工智能的應(yīng)用集中在為各類社會(huì)風(fēng)險(xiǎn)的處理提供更為精準(zhǔn)的預(yù)測(cè)和糾錯(cuò)機(jī)制。其作用機(jī)制主要基于對(duì)多源數(shù)據(jù)進(jìn)行全方位的挖掘、聚合與清洗，并構(gòu)建相應(yīng)的模型來演算各類風(fēng)險(xiǎn)因子的作用路徑及其發(fā)生的概率，從而實(shí)現(xiàn)安全態(tài)勢(shì)感知與預(yù)測(cè)的智能化，并推動(dòng)防御機(jī)制的優(yōu)化。目前，人工智能技術(shù)已被應(yīng)用于網(wǎng)絡(luò)安全、反恐與安防、經(jīng)濟(jì)與金融安全、醫(yī)療衛(wèi)生、環(huán)境與能源安全等多個(gè)領(lǐng)域，簡(jiǎn)要列舉如下：

危機(jī)預(yù)測(cè)與管理方面，通過擴(kuò)大數(shù)據(jù)收集、減少信息未知性以及建立相關(guān)分析模型，人工智能可以應(yīng)用于針對(duì)戰(zhàn)爭(zhēng)沖突、傳染病擴(kuò)散、氣象災(zāi)害等危機(jī)事件的預(yù)測(cè)與分析，繼而提前介入其中以阻止危機(jī)的發(fā)生或者減緩危機(jī)所造成的破壞[3]。

反恐與安防方面，基于對(duì)已有恐怖主義活動(dòng)的案例以及其他犯罪數(shù)據(jù)的分析，人工智能可以對(duì)潛在的恐怖活動(dòng)或犯罪活動(dòng)的目標(biāo)、組織及其可能的行徑進(jìn)行預(yù)判，并據(jù)此制訂相應(yīng)的反恐方案。與此同時(shí)，人工智能可以用于輔助公安部門及其他安全部門進(jìn)行嫌疑人辨別與追蹤、犯罪現(xiàn)場(chǎng)搜索、城市交通管理、開展救援活動(dòng)、排列警務(wù)任務(wù)及分配警力資源，繼而提升安防活動(dòng)的整體運(yùn)行效率[4]。

網(wǎng)絡(luò)安全方面，人工智能通過推動(dòng)端點(diǎn)檢測(cè)響應(yīng)和網(wǎng)絡(luò)檢測(cè)響應(yīng)，能夠在信息交互的過程中識(shí)別和防止勒索軟件、惡意軟件、DDS 攻擊等惡意在線威脅，提前對(duì)潛在的風(fēng)險(xiǎn)進(jìn)行及時(shí)阻斷，為網(wǎng)絡(luò)安全提供更為有效的防護(hù)手段[5]。

金融安全方面，通過構(gòu)建多維度、全方位的交易檢測(cè)與驗(yàn)證模型，人工智能可以為風(fēng)控等金融業(yè)務(wù)提供高效的反洗錢、反欺詐以及信用評(píng)估機(jī)制。

總的來看，人工智能的應(yīng)用有助于提升國(guó)家在傳統(tǒng)安全領(lǐng)域的防護(hù)能力與非傳統(tǒng)安全領(lǐng)域的治理水平。同時(shí)，由于國(guó)家安全本身由諸多交叉的議題和治理機(jī)制組成，人工智能在傳統(tǒng)安全與非傳統(tǒng)安全的應(yīng)用上存在著一定交叉。例如，無人機(jī)既可用于情報(bào)偵察、軍事打擊、物資運(yùn)輸?shù)葌鹘y(tǒng)安全領(lǐng)域，又可用于電力巡線、搜索救援、城市管理、遙感測(cè)繪等非傳統(tǒng)安全領(lǐng)域。此外，盡管人工智能之于非傳統(tǒng)安全領(lǐng)域應(yīng)用的邏輯相對(duì)簡(jiǎn)單，但由于非傳統(tǒng)安全在當(dāng)下所涉及的領(lǐng)域更為多樣，因此人工智能在非傳統(tǒng)安全領(lǐng)域的應(yīng)用更為廣泛與頻繁。

2 危局：人工智能加劇國(guó)家安全風(fēng)險(xiǎn)

從技術(shù)悖論的視角來看，盡管人工智能蘊(yùn)涵了廣泛的應(yīng)用前景和高度的戰(zhàn)略價(jià)值，但這一技術(shù)的應(yīng)用與發(fā)展也造成了國(guó)家安全向度與維度的深化，對(duì)于國(guó)家安全也帶來了諸多挑戰(zhàn)：

第一，技術(shù)的不對(duì)稱發(fā)展或?qū)⒓せ斯ぶ悄苘娛骂I(lǐng)域的戰(zhàn)略競(jìng)爭(zhēng)。出于對(duì)技術(shù)安全性的考慮，各國(guó)對(duì)于人工智能的軍事化應(yīng)用較為審慎。然而，由于國(guó)家間技術(shù)水平本身就存在不對(duì)稱性，并且相對(duì)于其他技術(shù)，國(guó)家更難以直觀地判斷人工智能的技術(shù)不對(duì)稱性的程度。當(dāng)然，人工智能軍事化應(yīng)用所具備的“全面滲透”特性還將導(dǎo)致國(guó)家間競(jìng)爭(zhēng)領(lǐng)域的擴(kuò)展。因此，對(duì)于技術(shù)優(yōu)勢(shì)的爭(zhēng)奪以及對(duì)技術(shù)差距的猜疑會(huì)擴(kuò)大國(guó)家間對(duì)于國(guó)家安全偏好的差異性，而由技術(shù)差距所導(dǎo)致的“生存性焦慮”也就存在被放大為“生存性威脅”的可能。與此同時(shí)，人工智能軍事化應(yīng)用的無人化、智能化特性將削弱作戰(zhàn)傷亡、作戰(zhàn)周期及規(guī)模等傳統(tǒng)因素對(duì)于戰(zhàn)爭(zhēng)決斷及其進(jìn)程的限制，并且人工智能應(yīng)用所催生的一系列新型戰(zhàn)法還將進(jìn)一步模糊戰(zhàn)爭(zhēng)與沖突的界限。換言之，人工智能軍事化應(yīng)用所帶來的作戰(zhàn)預(yù)期成本的下降會(huì)拉低發(fā)動(dòng)戰(zhàn)爭(zhēng)或者直接進(jìn)行軍事對(duì)抗的門檻，并且由于誤判所導(dǎo)致沖突加劇的可能性也同樣將被放大[6]。

第二，人工智能或?qū)⒓觿“l(fā)展中國(guó)家所面臨的“技術(shù)邊緣化”風(fēng)險(xiǎn)。人工智能可以助推經(jīng)濟(jì)的整體增長(zhǎng)，但其所帶來的收益并不會(huì)如預(yù)期那樣得到均衡的分布，而是可能出現(xiàn)巨大的失衡與落差。正如聯(lián)合國(guó)貿(mào)易和發(fā)展會(huì)議（UNCTAD）發(fā)布的《2021 年技術(shù)和創(chuàng)新報(bào)告》所言，技術(shù)變革將極大地加劇發(fā)達(dá)國(guó)家與發(fā)展中國(guó)家間的差距，后者面臨技術(shù)創(chuàng)新能力低、融資機(jī)制薄弱、技術(shù)轉(zhuǎn)讓受限、數(shù)字鴻溝以及收入能力不足等諸多挑戰(zhàn)[7]。人工智能所推動(dòng)的自動(dòng)化、智能化生產(chǎn)變革將稀釋發(fā)展中國(guó)家在勞動(dòng)力資源上所具備的比較優(yōu)勢(shì)。這意味著，發(fā)展中國(guó)家通過承接全球化所帶來的“現(xiàn)代性擴(kuò)散”所獲得的產(chǎn)品轉(zhuǎn)型與升級(jí)可能難以延續(xù)，并且其現(xiàn)有獲得的外資紅利與全球技術(shù)知識(shí)外溢的紅利也可能縮減。與此同時(shí)，具備人工智能技術(shù)優(yōu)勢(shì)的發(fā)達(dá)國(guó)家將在全球價(jià)值鏈躍升的過程中取得并保持更顯著的領(lǐng)先地位，并基于這一絕對(duì)的先發(fā)優(yōu)勢(shì)，主導(dǎo)人工智能的技術(shù)標(biāo)準(zhǔn)、產(chǎn)業(yè)劃分與治理規(guī)則的制定，繼而塑造新的技術(shù)圍墻和獲得新的不對(duì)稱技術(shù)權(quán)力[8]。對(duì)此，日本經(jīng)濟(jì)學(xué)家井上智洋就指出，提前應(yīng)用強(qiáng)人工智能的國(guó)家與其他未能實(shí)現(xiàn)此目標(biāo)的國(guó)家之間將形成“第二次大分流”[9]。

第三，人工智能或?qū)?qiáng)化甚至惡化國(guó)家在科技地緣政治中的競(jìng)爭(zhēng)關(guān)系。作為國(guó)家競(jìng)爭(zhēng)的重要技術(shù)基礎(chǔ)，人工智能同經(jīng)濟(jì)、政治等議題之間存在緊密的關(guān)系。然而，人工智能所具備的技術(shù)組合性與目的通用性使得國(guó)家間競(jìng)爭(zhēng)形成疊加效應(yīng)和全域式競(jìng)爭(zhēng)的趨勢(shì)。然而，當(dāng)國(guó)家間的競(jìng)爭(zhēng)涉及多領(lǐng)域、多議題時(shí)，相互間的敵對(duì)認(rèn)知往往會(huì)得到強(qiáng)化。同時(shí)，人工智能是一種典型的軍民兩用技術(shù)，具有鮮明的“技術(shù)糾纏”（Technological Entanglement）的特征。為了防止本國(guó)所出口的民用人工智能技術(shù)助推他國(guó)軍事能力的提升，以及規(guī)避因在關(guān)鍵領(lǐng)域使用他國(guó)人工智能技術(shù)所帶來的潛在風(fēng)險(xiǎn)，國(guó)家之間就不得不對(duì)現(xiàn)有的經(jīng)貿(mào)關(guān)系進(jìn)行切割，進(jìn)而對(duì)正常技術(shù)合作形成了擠壓?？萍純?yōu)勢(shì)的同質(zhì)化所催生的“技術(shù)民族主義”將惡化國(guó)家間正常的競(jìng)爭(zhēng)關(guān)系，即后發(fā)國(guó)家在人工智能領(lǐng)域的進(jìn)步將削弱先發(fā)國(guó)家的技術(shù)優(yōu)勢(shì)，而先發(fā)國(guó)家為了保持原有技術(shù)壟斷所帶來的優(yōu)勢(shì)地位，就極易會(huì)對(duì)后者進(jìn)行打壓。當(dāng)然，部分技術(shù)強(qiáng)國(guó)還能夠憑借不對(duì)稱的技術(shù)優(yōu)勢(shì)以及部分技術(shù)弱國(guó)對(duì)自身的依賴，采取組建技術(shù)聯(lián)盟的方式來對(duì)競(jìng)爭(zhēng)對(duì)手實(shí)施打壓。這一過程中，兩國(guó)競(jìng)爭(zhēng)關(guān)系的激化將使得國(guó)家間的局部競(jìng)爭(zhēng)逐步升級(jí)為不同技術(shù)聯(lián)盟間的競(jìng)爭(zhēng)，繼而導(dǎo)致這一惡化的競(jìng)爭(zhēng)關(guān)系在更大范圍內(nèi)得到擴(kuò)散。

第四，人工智能所導(dǎo)致的大國(guó)競(jìng)爭(zhēng)加劇或?qū)⑼癸@治理缺失的風(fēng)險(xiǎn)。盡管各國(guó)愈發(fā)重視對(duì)人工智能發(fā)展與應(yīng)用的監(jiān)管，并主張施加限制性監(jiān)管措施來規(guī)避潛在的風(fēng)險(xiǎn)，但鑒于人工智能的重要性以及大國(guó)競(jìng)爭(zhēng)加劇的客觀現(xiàn)實(shí)，多數(shù)國(guó)家往往更強(qiáng)調(diào)滿足人工智能的發(fā)展需求，繼而弱化了對(duì)人工智能的監(jiān)管需求。良性的國(guó)家間競(jìng)爭(zhēng)在一定程度上能夠提升國(guó)際社會(huì)的整體技術(shù)水平，但是當(dāng)國(guó)家間競(jìng)爭(zhēng)超出了正常的范疇時(shí)，就會(huì)導(dǎo)致出現(xiàn)以技術(shù)封鎖、對(duì)抗和割裂為表征的“科技脫鉤”。實(shí)際上，在全球性規(guī)則和制度缺失的情況下，現(xiàn)有的國(guó)際秩序本就難以對(duì)新興技術(shù)及其威脅進(jìn)行有效規(guī)制。而在“科技脫鉤”的狀態(tài)下，各國(guó)在技術(shù)及其標(biāo)準(zhǔn)體系上的高度分化不僅會(huì)抬高人工智能應(yīng)用與發(fā)展的成本，阻礙其進(jìn)步，也難以在全球?qū)用鎸?duì)潛在風(fēng)險(xiǎn)進(jìn)行有效管控，繼而加劇人工智能的無序發(fā)展?fàn)顟B(tài)[10]。

第五，人工智能或?qū)⑼苿?dòng)資本權(quán)力的擴(kuò)張與惡化技術(shù)紅利的分配。目前，人工智能的發(fā)展成果多數(shù)體現(xiàn)在跨國(guó)科技公司所開創(chuàng)的技術(shù)與產(chǎn)品上，并且跨國(guó)科技公司的擴(kuò)張將進(jìn)一步提升人工智能的要素集中度。因此，資本在人工智能的研發(fā)與部署上的作用將得到提高?？萍季揞^們的技術(shù)優(yōu)勢(shì)還使其能夠在人工智能的技術(shù)標(biāo)準(zhǔn)及其治理準(zhǔn)則的制定與實(shí)施中擁有相當(dāng)大的話語權(quán)。數(shù)據(jù)、算法等人工智能技術(shù)的組成要素在一定程度上能夠脫離主權(quán)和地理空間的限制，這也為資本規(guī)避政府部門的監(jiān)管提供了便利[11]。與此同時(shí)，人工智能技術(shù)的介入將重塑現(xiàn)有的社會(huì)整體利益再分配機(jī)制。人工智能可以通過提高社會(huì)整體生產(chǎn)力和創(chuàng)造新的產(chǎn)品及需求，帶來新的就業(yè)機(jī)會(huì)和經(jīng)濟(jì)增長(zhǎng)，但是人工智能的應(yīng)用將不可避免地對(duì)現(xiàn)有社會(huì)就業(yè)結(jié)構(gòu)產(chǎn)生一系列的負(fù)面影響。最為突出的表現(xiàn)便是人工智能應(yīng)用所可能導(dǎo)致的結(jié)構(gòu)性失業(yè)。其中，從事“事務(wù)性勞動(dòng)”的低信息化水平的勞動(dòng)者可能面臨被“出清”的風(fēng)險(xiǎn)。

第六，人工智能技術(shù)濫用及其演進(jìn)路徑不確定存在誘發(fā)“技術(shù)恐怖”的可能。就技術(shù)層面而言，人工智能主要存在因技術(shù)濫用而導(dǎo)致的外溢風(fēng)險(xiǎn)與因技術(shù)自身缺陷而產(chǎn)生的內(nèi)生風(fēng)險(xiǎn)。前者主要是指人工智能技術(shù)的拓展應(yīng)用所衍生出的被動(dòng)技術(shù)風(fēng)險(xiǎn)。例如，犯罪分子同樣可以利用人工智能從事更為便捷、隱蔽的犯罪活動(dòng)。后者則是指因不確定的技術(shù)缺陷與安全防護(hù)措施不完善所帶來的風(fēng)險(xiǎn)。其中，因數(shù)據(jù)質(zhì)量缺陷和平衡機(jī)制缺失所引起的潛在算法歧視就是較為典型的內(nèi)生風(fēng)險(xiǎn)[12]。當(dāng)然，人工智能的通用性也意味著，人工智能與其他技術(shù)的聚合及其在廣泛場(chǎng)景中的應(yīng)用，會(huì)擴(kuò)大其技術(shù)隱患所波及的范圍。

3 危局中育新機(jī)：發(fā)展與安全的平衡

人工智能是提升我國(guó)國(guó)家競(jìng)爭(zhēng)力的關(guān)鍵性要素，也是保障我國(guó)國(guó)家安全的重要技術(shù)支柱。正如習(xí)近平總書記在中央政治局集體學(xué)習(xí)會(huì)議上所指出的，加快發(fā)展新一代人工智能是我國(guó)贏得全球科技競(jìng)爭(zhēng)主動(dòng)權(quán)的重要戰(zhàn)略抓手，是推動(dòng)我國(guó)科技跨越發(fā)展、產(chǎn)業(yè)優(yōu)化升級(jí)、生產(chǎn)力整體躍升的重要戰(zhàn)略資源[13]。為此，我們更應(yīng)處理好人工智能對(duì)國(guó)家安全所帶來的一系列挑戰(zhàn)?；谏鲜龇治?，并結(jié)合當(dāng)前我國(guó)人工智能技術(shù)的發(fā)展現(xiàn)況，本文有以下三方面的建議：

第一，以戰(zhàn)略布局的持續(xù)完善與發(fā)力打破技術(shù)高墻。我國(guó)已將推進(jìn)人工智能的發(fā)展上升至國(guó)家戰(zhàn)略的高度，也已初步構(gòu)建了支持其發(fā)展的政策框架。然而，我國(guó)現(xiàn)階段的人工智能發(fā)展主要集中在技術(shù)相對(duì)成熟、應(yīng)用場(chǎng)景清晰的橫向領(lǐng)域，但在基礎(chǔ)理論、底層技術(shù)等縱向領(lǐng)域相對(duì)乏力。為此，我們應(yīng)繼續(xù)強(qiáng)化對(duì)人工智能技術(shù)的敏感性與理解力，制定以基線和指標(biāo)為支撐的、更為具體的發(fā)展戰(zhàn)略路線圖。與此同時(shí)，我們還應(yīng)加快構(gòu)建自主可控的技術(shù)創(chuàng)新體系和產(chǎn)業(yè)體系，采用滲透性和開放性方法促進(jìn)人工智能相關(guān)人才的培養(yǎng)與吸收，促進(jìn)技術(shù)與產(chǎn)業(yè)緊密結(jié)合的相互增益，提高人工智能發(fā)展的靈活性[14]。

第二，以風(fēng)險(xiǎn)評(píng)估與防范機(jī)制的設(shè)立弱化風(fēng)險(xiǎn)危害。對(duì)于人工智能應(yīng)用可能帶來的技術(shù)、法律、倫理等問題，設(shè)立系統(tǒng)、完整的風(fēng)險(xiǎn)評(píng)估與防范機(jī)制尤為必要。我們應(yīng)在保持與產(chǎn)業(yè)界、學(xué)術(shù)界密切合作的基礎(chǔ)上，由相關(guān)部門牽頭組織開展人工智能投資和應(yīng)用審查，加快構(gòu)建技術(shù)風(fēng)險(xiǎn)評(píng)估機(jī)制與災(zāi)難性風(fēng)險(xiǎn)預(yù)防機(jī)制等安全管理體系，并設(shè)置容錯(cuò)機(jī)制、漏洞檢測(cè)和技術(shù)錯(cuò)誤糾正機(jī)制等技術(shù)配置機(jī)制來提升人工智能的安全性。

第三，以推進(jìn)國(guó)際合作和參與全球治理為契機(jī)提升技術(shù)安全。全球科技的進(jìn)步本身需要各國(guó)的積極參與，而技術(shù)風(fēng)險(xiǎn)的防范更是需要各國(guó)的充分合作。有鑒于此，我們應(yīng)秉承構(gòu)建人類命運(yùn)共同體和推動(dòng)科技向善的理念，積極推動(dòng)國(guó)際社會(huì)就人工智能開展常態(tài)化的多邊溝通，并在此基礎(chǔ)上，綜合參考各國(guó)的人工智能原則，推動(dòng)建立一套普適的技術(shù)標(biāo)準(zhǔn)規(guī)范體系和較為一致的人工智能監(jiān)管框架，為人工智能的發(fā)展搭建更為廣泛的國(guó)際合作網(wǎng)絡(luò)與治理平臺(tái)。

4 結(jié) 語

在百年未有之大變局之下，國(guó)家科技競(jìng)爭(zhēng)逐步激化，如何把握人工智能的發(fā)展主動(dòng)權(quán)與處理好相應(yīng)的風(fēng)險(xiǎn)，并實(shí)現(xiàn)良性、合理的國(guó)際合作與競(jìng)爭(zhēng)，已經(jīng)成為我國(guó)國(guó)家安全治理亟需解決的議題。我們應(yīng)在充分維護(hù)自身戰(zhàn)略利益的基礎(chǔ)上，推動(dòng)、容納和接受人工智能的突破和創(chuàng)新，保持自身在這一技術(shù)領(lǐng)域的領(lǐng)先性與自主性，并自覺關(guān)注該技術(shù)對(duì)國(guó)家安全可能造成的風(fēng)險(xiǎn)，對(duì)潛在風(fēng)險(xiǎn)進(jìn)行研判與預(yù)防。當(dāng)然，我們還需著眼于人工智能相關(guān)技術(shù)規(guī)范的構(gòu)建，積極提升我國(guó)在人工智能治理領(lǐng)域的議程設(shè)置能力。