祁昊天北京大學(xué)國際安全與和平研究中心副主任

人工智能（AI）的軍事應(yīng)用尚處在初級階段，但影響已嵌入指揮、情報(bào)、攻防、后勤、訓(xùn)練等諸多領(lǐng)域，覆蓋戰(zhàn)略、戰(zhàn)役、戰(zhàn)術(shù)不同層面。

AI作為一種通用和賦能技術(shù)，在提高軍事效能的同時(shí)，也帶來諸多風(fēng)險(xiǎn)，主要包括：本體性風(fēng)險(xiǎn)，即人類在機(jī)器面前失去主導(dǎo)地位；能動性風(fēng)險(xiǎn)，即AI在攻防平衡、威懾平衡、危機(jī)穩(wěn)定等場景下誘發(fā)主動沖突或升級可能；意外性風(fēng)險(xiǎn)，即AI系統(tǒng)因誤操作或系統(tǒng)故障所帶來的傷害。

相關(guān)國際治理亦面臨多重挑戰(zhàn)，比如：規(guī)則機(jī)制發(fā)展與技術(shù)發(fā)展不匹配；對于如何將AI軍事應(yīng)用進(jìn)行界定和分類，存在分歧；國際信任赤字疊加AI軍用利益訴求差異，加大了不信任和誤解；AI軍備競賽與擴(kuò)散風(fēng)險(xiǎn)；AI疊加信息和網(wǎng)絡(luò)安全，使得廣義數(shù)字化軍事安全場域愈加復(fù)雜，等等。

國際社會需要通過加強(qiáng)多邊合作來應(yīng)對AI軍事化風(fēng)險(xiǎn)，但相關(guān)全球治理仍處在醞釀期，學(xué)術(shù)和智庫在此時(shí)的積極參與至關(guān)重要。目前，AI軍事應(yīng)用治理的國際學(xué)術(shù)共同體呈現(xiàn)松散狀態(tài)，但也已形成幾種初步的樣式和特點(diǎn)：跨地域、跨領(lǐng)域、跨形式，就軍用AI的倫理、法律、技術(shù)、軍事和治理機(jī)制問題進(jìn)行不同形式的對話與合作研究；學(xué)術(shù)機(jī)構(gòu)和智庫合作往往嵌入政府、國際組織、非政府組織和業(yè)界，而非單純紙上談兵；合作平臺逐漸機(jī)制化，包括定期舉行國際研討會，開展中長期的雙多邊聯(lián)合項(xiàng)目，進(jìn)行共同成果倡議和宣言發(fā)布；跨領(lǐng)域?qū)W術(shù)“基建”得到重視，特別是針對AI軍事應(yīng)用的定性、范疇及互動過程；教育與培訓(xùn)提上日程，通過國際平臺幫助相關(guān)研究和實(shí)踐者提升對AI軍事應(yīng)用復(fù)雜性的認(rèn)知……

過去一年，比較典型的合作包括清華大學(xué)戰(zhàn)略與安全研究中心與美國布魯金斯學(xué)會合辦的雙邊二軌研討，新加坡南洋理工大學(xué)舉辦的年度多邊AI與戰(zhàn)略穩(wěn)定研討會，日內(nèi)瓦安全政策中心舉辦的年度五常智庫會議，海牙阿瑟研究所舉辦的“困境2023”會議。另有官方多邊場合為學(xué)術(shù)和智庫交流搭臺，如荷蘭政府舉辦的首屆“負(fù)責(zé)任軍事人工智能”峰會（REAIM2023），英國政府舉辦的AI安全峰會，等等。這些活動雖由不同的主辦方發(fā)起，但所依托的機(jī)構(gòu)和人員網(wǎng)絡(luò)存在廣泛交集，議題互補(bǔ)，整體呈現(xiàn)出共同體式的聚合力。這一共同體包含不同的子網(wǎng)絡(luò)，子網(wǎng)絡(luò)的范圍、緊密程度、科研水平和政策支持能力固然存在差異，但共同塑造著全球軍事AI治理體系。

通過對過去十年相關(guān)數(shù)據(jù)的收集與分析，可以發(fā)現(xiàn)中國的清華大學(xué)、中國科學(xué)院、北京大學(xué)，美國的布魯金斯學(xué)會、卡內(nèi)基和平研究所、人道主義對話中心，歐洲的日內(nèi)瓦安全政策中心、斯德哥爾摩國際和平研究所，以及新加坡的南洋理工大學(xué)，擁有相對更為廣泛的合作網(wǎng)絡(luò)和更加中心化的地位，在掌握合作資源方面占據(jù)著較高排名。而在它們之外，哈佛大學(xué)、美國對外關(guān)系委員會等機(jī)構(gòu)并非最為活躍，但也承擔(dān)著共同體網(wǎng)絡(luò)的中介調(diào)節(jié)和向外延展通道功能。

目前這些機(jī)構(gòu)和相關(guān)研究群體已在一些重大問題上達(dá)成較廣泛共識，涉及：軍用AI系統(tǒng)安全可靠的必要性，避免意外或未經(jīng)授權(quán)行動發(fā)生的重要性，測試和驗(yàn)證的重要性，不同環(huán)境和條件下穩(wěn)定性和可預(yù)測性的重要性與局限性，倫理和法律標(biāo)準(zhǔn)的重要性，等等。近幾年，它們圍繞AI軍事應(yīng)用術(shù)語、治理原則框架、跨學(xué)科復(fù)雜性、軍事與非軍事領(lǐng)域關(guān)聯(lián)、AI與核導(dǎo)關(guān)聯(lián)、AI與其他新軍事技術(shù)集成、既有軍控機(jī)制與AI治理等議題，開展了廣泛的學(xué)術(shù)研討、知識積累、報(bào)告發(fā)布和咨政管道疏通工作。在此過程中，共同體內(nèi)存在不同程度的分歧，比如：AI系統(tǒng)多大程度上可擁有自主性，特別是決策方面；人在回路中的具體位置、作用、控制程度，以及如何定義“有意義的控制”；如何針對透明度、責(zé)任和倫理等問題，制定和實(shí)施國際標(biāo)準(zhǔn)和規(guī)范；如何明確有效部署的技術(shù)標(biāo)準(zhǔn)和成熟度；如何界定和規(guī)制致命性自主武器系統(tǒng)，等等。

AI軍事應(yīng)用尚處在高度不確定的萌芽期，但在新技術(shù)沖擊下維護(hù)全球和平與穩(wěn)定的任務(wù)又是緊迫的，未來相關(guān)學(xué)術(shù)共同體如要進(jìn)一步發(fā)展，需要繼續(xù)降低跨學(xué)科跨領(lǐng)域?qū)υ掗T檻，降低科研—政策對接成本，并努力破除信息繭房。