以大模型為代表的生成式人工智能技術(shù)不斷發(fā)展,展現(xiàn)出前所未有的戰(zhàn)爭應(yīng)用潛力。智能化時代,以大數(shù)據(jù)、巨模型和超算力為標志的新型作戰(zhàn)能力建設(shè),成為大國博弈和軍事競爭的重要疆域,引發(fā)軍備控制領(lǐng)域技術(shù)發(fā)展前瞻應(yīng)對的新課題和新思考。
大模型是指具有大量參數(shù)和復(fù)雜結(jié)構(gòu)的機器學(xué)習(xí)模型,能夠處理海量數(shù)據(jù),完成自然語言處理、計算機視覺、語音識別等各種復(fù)雜任務(wù)。大模型具有的強大泛化能力,能夠從原始訓(xùn)練數(shù)據(jù)中自動學(xué)習(xí)并發(fā)現(xiàn)新的、更高層次的特征和模式,這種“涌現(xiàn)”能力對于快速突破專業(yè)準入門檻、實現(xiàn)知識增值具有劃時代意義,也給突破大規(guī)模殺傷武器反擴散約束體制帶來較大風(fēng)險。
算力優(yōu)勢曾在核導(dǎo)技術(shù)研發(fā)中發(fā)揮重要作用。第二次世界大戰(zhàn)中,美國發(fā)現(xiàn)計算炮彈和導(dǎo)彈彈道太復(fù)雜,為此專門組建了一支計算機制造團隊,研制出世界上第一款電子計算機ENIAC。以計算機為代表的新的計算方式的出現(xiàn),極大加快了核武器研發(fā)和試驗進程,美國氫彈的模擬計算耗時從40小時縮短到了20秒,后來蘇聯(lián)、英國和中國在核武器研制速度也因算力突破而明顯加快。
在電視劇《功勛》中可以看到,無論是研制氫彈的于敏、還是研制核潛艇的黃旭華,都有在大型計算機房里沒日沒夜排隊計算數(shù)據(jù)的場景。當時大型計算機運算速度每秒一萬次,而現(xiàn)在一部老款小米11手機上的驍龍888處理器,運算速度就可以達到每秒26萬億次。算力的指數(shù)級增長帶來了武器系統(tǒng)的代際躍升,也深刻地影響了軍控領(lǐng)域的技術(shù)發(fā)展和理念更新。
今年2月,美國智庫詹姆斯·馬丁不擴散研究中心發(fā)布報告,探討了大型語言模型助推化學(xué)、生物、放射性和核(CBRN)擴散進程的風(fēng)險,指出大模型可以在研制過程頭腦風(fēng)暴、技術(shù)支持、生產(chǎn)仿真腳本和代碼編寫、協(xié)助部件設(shè)計和高效聯(lián)創(chuàng)制造服務(wù)等五方面為核生化武器擴散提供潛在幫助。而這種技術(shù)反向賦能作用一旦擴散并應(yīng)用于致命性武器仿制研制,必將加速高端戰(zhàn)爭環(huán)境下的軍備競賽,改變國際戰(zhàn)略力量對比,影響全球戰(zhàn)略穩(wěn)定,增加武裝沖突的風(fēng)險。
人工智能技術(shù)快速迭代更新,不斷拓展延伸生產(chǎn)力發(fā)展的各個領(lǐng)域,構(gòu)建起具有超級算力、巨量數(shù)據(jù)、大型模型和泛在網(wǎng)絡(luò)支撐的新型戰(zhàn)略競爭能力,新的力量控制體系必將深刻沖擊傳統(tǒng)國家安全和發(fā)展利益。如深度造假生成技術(shù)發(fā)展迅速,以假亂真的文字、圖像、聲音等可以“一鍵生成”,已在烏克蘭危機認知對抗中嶄露頭角,成為大國競爭的戰(zhàn)略性工具,給全球網(wǎng)絡(luò)和安全治理帶來新難題。美國歐亞集團在其2023年全球風(fēng)險評估報告中,將“生成式人工智能”稱為“大規(guī)模擾亂性武器”。
掌握大模型研發(fā)能力的強國,可以依托其壟斷資源優(yōu)勢和技術(shù)支配地位,構(gòu)建發(fā)展壁壘形成非對稱“卡脖子”優(yōu)勢。生成式人工智能核心技術(shù)和相關(guān)產(chǎn)業(yè)已被視為相關(guān)國家戰(zhàn)略競爭重要資產(chǎn),美國商務(wù)部今年5月就啟動新的監(jiān)管措施,限制中國、俄羅斯、朝鮮、伊朗等國使用美國企業(yè)開發(fā)的人工智能軟件,旨在與此前針對芯片的出口管制措施形成互補,實施對先進大模型閉源限制,為人工智能模型技術(shù)擴散應(yīng)用設(shè)置防護欄。
技術(shù)發(fā)展與應(yīng)用都有雙刃效應(yīng),AI算法雖異軍突起,但也存在內(nèi)部機制不可控、數(shù)據(jù)投毒風(fēng)險大等短板,仍離不開“人工+智能”的運行模式。核大國為保證核反擊速度,通常建立了基于預(yù)警的發(fā)射聯(lián)動體制,連接整合所有作戰(zhàn)領(lǐng)域的傳感器和通信系統(tǒng),將核常系統(tǒng)融為一體,大大提升戰(zhàn)略指揮控制系統(tǒng)的自主性。如果將人工智能引入戰(zhàn)略指揮預(yù)警控制系統(tǒng),會給戰(zhàn)略安全與穩(wěn)定帶來新隱患,給傳統(tǒng)戰(zhàn)略安全穩(wěn)定和常規(guī)軍控態(tài)勢帶來新的不確定因素。
應(yīng)對數(shù)據(jù)安全風(fēng)險挑戰(zhàn)也已成為各國共識。對于涉及國家安全重要事件、涉及軍事敏感信息以及關(guān)鍵核心產(chǎn)業(yè)、科研高校學(xué)情、語言文化心理和公共衛(wèi)生環(huán)境等方面的數(shù)據(jù)具備重要標簽價值,是大模型武器化部署應(yīng)用必備的學(xué)習(xí)訓(xùn)練樣本,應(yīng)納入國家信息安全范疇加強防護。中國2023年發(fā)起《全球數(shù)據(jù)安全倡議》,呼吁各國采取措施防范制止利用信息技術(shù)破壞或竊取他國關(guān)鍵基礎(chǔ)設(shè)施重要數(shù)據(jù)、侵害個人信息,反對濫用信息技術(shù)從事針對他國進行數(shù)據(jù)竊取,為維護全球數(shù)據(jù)安全所作出的莊嚴承諾。
人工智能不同于核武器,各國應(yīng)在這一領(lǐng)域加強合作,避免其無限制發(fā)展引發(fā)災(zāi)難性后果。