[摘要] 人工智能是新一輪科技革命和產業(yè)變革的重要驅動力量，加快發(fā)展新一代人工智能是我國抓住新一輪科技革命和產業(yè)變革機遇的戰(zhàn)略問題。人工智能在為各行各業(yè)賦能的同時，也帶來了系統(tǒng)性的安全風險，主要體現(xiàn)在倫理和軍事安全風險方面。堅持發(fā)展和安全并重，抓住人工智能帶來的戰(zhàn)略機遇，加快形成新質生產力。同時，深入貫徹總體國家安全觀，以大安全理念為指引，加快構建涵蓋人工智能安全等于一體的國家安全體系，提升維護國家安全的能力。

[關鍵詞] 人工智能；? 發(fā)展與安全；? 總體國家安全觀；? 安全治理

[中圖分類號] D616； D630.8? ? ? ?[文獻標識碼] A? ? ? ?[文章編號] 0529-1445（2024）05-0040-04

人工智能的迅猛發(fā)展將對經濟社會發(fā)展和人類文明進步產生深遠影響，同時也帶來各種難以預知的風險和復雜挑戰(zhàn)。2022年末生成型預訓練變換模型（ChatGPT）橫空出世，人工智能技術在文生圖、文生視頻等領域飛速迭代，展現(xiàn)出廣闊的商業(yè)化應用前景。國家主席習近平在第三屆“一帶一路”國際合作高峰論壇開幕式上的主旨演講中指出：“愿同各國加強交流和對話，共同促進全球人工智能健康有序安全發(fā)展。”必須以總體國家安全觀為指引，堅持發(fā)展和安全并重，構筑人工智能安全屏障，擁抱智能時代的到來。

人工智能治理的重要性日益凸顯

人工智能特別是生成式人工智能取得重大突破，標志著人工智能技術正在實現(xiàn)從弱人工智能向強人工智能的飛躍。人工智能所蘊含的對各行各業(yè)的強大賦能力量表明，人工智能已經成為新一輪科技革命和產業(yè)變革的重要驅動力量。人工智能是未來世界經濟和高端制造的主導技術，發(fā)展人工智能是支撐科技自立自強、加快發(fā)展新質生產力、實現(xiàn)高質量發(fā)展的重要戰(zhàn)略抓手。我國要搶抓人工智能發(fā)展的重大戰(zhàn)略機遇，構筑人工智能發(fā)展的先發(fā)優(yōu)勢，發(fā)揮人工智能對我國現(xiàn)代化產業(yè)體系建設的賦能作用，加快建設創(chuàng)新型國家和世界科技強國。

人工智能技術所具有的通用性、智能性和不可解釋性等特點在給社會帶來非凡增長機遇的同時，其所蘊含的安全風險也引發(fā)高度關注?！吨腥A人民共和國國民經濟和社會發(fā)展第十四個五年規(guī)劃和2035年遠景目標綱要》提出：“加強網(wǎng)絡安全關鍵技術研發(fā)，加快人工智能安全技術創(chuàng)新，提升網(wǎng)絡安全產業(yè)綜合競爭力?！泵鎸σ訡hatGPT、Sora等為代表的人工智能技術的迅速發(fā)展及其在金融、醫(yī)療、交通、制造業(yè)等領域的廣泛應用，人類社會日益面臨著更復雜的人工智能安全挑戰(zhàn)，包括數(shù)據(jù)竊取風險、網(wǎng)絡攻擊風險、經濟安全風險、“數(shù)據(jù)投毒”風險、軍事安全風險等。1

人工智能治理的本質是統(tǒng)籌人工智能發(fā)展和安全，既要充分發(fā)揮人工智能技術對國家經濟社會發(fā)展的創(chuàng)新引領作用，又要對其所帶來的安全外部性進行必要的監(jiān)管。維護網(wǎng)絡安全，確保人工智能安全、可靠、可控，切實保障國家數(shù)據(jù)安全，統(tǒng)籌高質量發(fā)展和高水平安全，這已成為數(shù)字時代國家安全的必然要求。為進一步統(tǒng)籌人工智能發(fā)展與安全，2019年6月，我國新一代人工智能治理專業(yè)委員會發(fā)布了《新一代人工智能治理原則——發(fā)展負責任的人工智能》，創(chuàng)造性地提出了“敏捷治理”模式，即尊重人工智能發(fā)展規(guī)律，在推動人工智能創(chuàng)新發(fā)展、有序發(fā)展的同時，及時發(fā)現(xiàn)和化解可能引發(fā)的風險。要對未來更高級人工智能可能存在的潛在風險開展研究和預判，確保人工智能始終朝著有利于社會的方向發(fā)展。在通用人工智能呼之欲出的當下，這些前瞻性的戰(zhàn)略布局為我國的人工智能治理指明了前進的方向和路徑。

科學評估人工智能對國家安全的影響

當前，人工智能治理面臨的重要挑戰(zhàn)之一是評估其對國家安全的影響。在移動互聯(lián)網(wǎng)、大數(shù)據(jù)、超級計算、傳感網(wǎng)、腦科學等新理論新技術的驅動下，人工智能加速發(fā)展，呈現(xiàn)出深度學習、跨界融合、人機協(xié)同、群智開放、自主操控等新特征。人工智能正在對經濟發(fā)展、社會進步等產生重大而深遠的影響。由于人工智能具有多學科綜合、高度復雜的特征，其對國家安全的影響也不再局限于某個行業(yè)或者某個領域，而是會對國家經濟、政治、社會、軍事等各領域帶來系統(tǒng)性的影響。一方面，人工智能技術可以被用來維護與保障國家安全。另一方面，人工智能的通用性、智能性和不可解釋性等特點也會給國家安全帶來潛在的風險和挑戰(zhàn)。如何應對人工智能的安全風險并把握好發(fā)展的戰(zhàn)略主動，這既是我國國家安全治理的重要內容，也是推進國家安全體系和能力現(xiàn)代化、以新安全格局保障新發(fā)展格局的必然要求。

伴隨著人工智能技術向國家經濟、政治和社會生活各領域的不斷滲透和擴展，人工智能這項通用使能技術（enabling technology）所帶來的安全風險將出現(xiàn)在技術應用的各個節(jié)點。按照安全風險的意圖分類，人工智能的國家安全風險可以分為兩類：一類是源于技術本身的倫理道德風險，這種風險屬于無意安全風險。人工智能不僅是在模擬人類的智能，而且可以用自己的邏輯在紛繁復雜的眾多可能性中識別出那些人類智能還無法理解或識別的規(guī)律。它所具有的智能性和不可解釋性，都將加劇人工智能應用的倫理風險，例如自動駕駛汽車的道德和倫理問題、隱私保護和知識產權問題、失業(yè)和就業(yè)問題等。另一類是人工智能的武器化和軍事化應用，屬于人為有意安全風險。人工智能不僅可以在不同軍事領域快速形成衍生技術，而且能夠推動一個國家整體軍事能力發(fā)生根本性變化。特別是自主性武器的出現(xiàn)，讓戰(zhàn)場態(tài)勢變得更加容易失控，責任更容易被推卸。傳統(tǒng)武裝沖突中調停、斡旋等預防沖突升級的空間將會急劇縮小，戰(zhàn)場形勢一旦失控，往往會給沖突各方帶來意想不到的災難性后果。

鑒于人工智能對人類未來發(fā)展的重大影響，世界主要國家和經濟體紛紛出臺有關人工智能監(jiān)管的立法和治理倡議，以降低人工智能帶來的安全風險。我國近年來先后出臺了多項政策文件，包括《新一代人工智能治理原則——發(fā)展負責任的人工智能》《新一代人工智能發(fā)展規(guī)劃》《人工智能標準化白皮書》等，發(fā)布了一系列具體的人工智能治理措施。2023年10月，美國發(fā)布一項名為《關于安全、可靠和值得信賴的人工智能的相關行政令》，為涉及人工智能安全的事項制定了新標準。2024年3月，歐洲委員會敲定《人工智能、人權、民主和法治框架公約》最終草案，預計這將是第一個國際人工智能條約。2024年3月21日，聯(lián)合國大會通過首個有關人工智能的全球決議，該決議題為《抓住安全、可靠、值得信賴的人工智能系統(tǒng)帶來的機遇，促進可持續(xù)發(fā)展》。

人工智能治理是世界各國面臨的共同課題，攸關全人類命運，離不開全球合作。2021年12月，我國向聯(lián)合國《特定常規(guī)武器公約》第六次審議大會提交了《中國關于規(guī)范人工智能軍事應用的立場文件》，呼吁各國要秉持共同、綜合、合作、可持續(xù)的安全觀，通過對話與合作，就如何規(guī)范人工智能軍事應用尋求共識，構建有效的治理機制，避免人工智能軍事應用給人類帶來重大損害甚至災難。2022年11月，我國外交部發(fā)布了《中國關于加強人工智能倫理治理的立場文件》，倡導“以人為本”和“智能向善”理念，主張增進各國對人工智能倫理問題的理解，確保人工智能安全、可靠、可控，更好賦能全球可持續(xù)發(fā)展，增進全人類共同福祉，構建人類命運共同體。2023年10月18日，中央網(wǎng)信辦發(fā)布《全球人工智能治理倡議》，聚焦人工智能治理的倫理和軍事安全風險，呼吁各國應在人工智能治理中加強信息交流和技術合作，共同做好風險防范，形成具有廣泛共識的人工智能治理框架和標準規(guī)范，不斷提升人工智能技術的安全性、可靠性、可控性、公平性。2024年4月3日，中非互聯(lián)網(wǎng)發(fā)展與合作論壇發(fā)表關于中非人工智能合作的主席聲明，提出“共同加強人工智能領域合作，攜手構建更加緊密的中非網(wǎng)絡空間命運共同體”。

以總體國家安全觀為指導做好人工智能安全治理

通用人工智能技術的發(fā)展推動人工智能治理進入新階段。如何堅持發(fā)展和安全并重、在加強監(jiān)管的同時盡可能發(fā)揮人工智能技術的賦能作用，這已經成為實現(xiàn)新時代國家治理能力現(xiàn)代化的重要命題。鑒于人工智能的全局性和系統(tǒng)性影響，將總體國家安全觀的大安全理念貫徹于人工智能治理全過程，對于做好人工智能安全治理具有重要的現(xiàn)實指導意義。

總體國家安全觀的“總體性”是人工智能治理的指導性原則?？傮w國家安全觀是新時代國家安全工作的根本遵循和行動指南，人工智能治理也不例外?？傮w國家安全觀的關鍵是“總體”，強調大安全理念，強調堅持國家安全工作的系統(tǒng)思維和方法，強調國家安全要貫穿到黨和國家工作全局各方面、各環(huán)節(jié)，強調打總體戰(zhàn)，用全社會全政府全體系全手段應對重大國家安全風險挑戰(zhàn)。由于人工智能技術的通用性、智能性和創(chuàng)新性，人工智能技術應用所帶來的安全風險將會出現(xiàn)在國家經濟、政治、社會、軍事等領域的各個環(huán)節(jié)。一方面，原有的安全風險出現(xiàn)了新的變化和形式，例如網(wǎng)絡安全、數(shù)據(jù)安全、內容安全等。另一方面，新的安全風險開始出現(xiàn)，如倫理道德風險和自主性軍事武器的使用所帶來的風險等。在進行人工智能安全治理頂層戰(zhàn)略設計時，必須全盤考慮各領域各層面的安全風險。要從國家的總體利益出發(fā)，制定相應的治理方略，避免因某個領域的治理規(guī)制措施對其他領域產生消極影響。

總體國家安全觀的“重點性”對集人工智能安全等于一體的國家安全體系和能力建設提出了更高的要求。鑒于人工智能所蘊含的巨大安全風險，總體國家安全觀強調大安全理念，涵蓋政治、軍事、國土、經濟、金融、文化、社會、科技、網(wǎng)絡、糧食、生態(tài)、資源、核、海外利益、太空、深海、極地、生物、人工智能、數(shù)據(jù)等重點領域，并且將隨著社會發(fā)展不斷動態(tài)調整。人工智能安全被列入國家安全重點領域，凸顯出在新興的人工智能領域推進國家安全體系和國家安全能力現(xiàn)代化的迫切性，必須統(tǒng)籌謀劃、協(xié)同創(chuàng)新、穩(wěn)步推進。就目前而言，我國在關鍵核心技術創(chuàng)新領域距離國際領先水平還有一定差距，技術深度應用和動能轉換方面的潛力還有待挖掘。我們要充分利用好人工智能這把“雙刃劍”：一方面要把握戰(zhàn)略主動，讓人工智能成為國家安全體系和能力現(xiàn)代化的重要賦能者。另一方面也要系統(tǒng)應對國家、社會、企業(yè)和個人層面的安全風險，有效維護和保障國家安全。

總體國家安全觀的“統(tǒng)籌性”是人工智能治理實踐的指導原則和政策目標?？傮w國家安全觀強調科學統(tǒng)籌，做到統(tǒng)籌發(fā)展和安全、開放和安全、傳統(tǒng)安全和非傳統(tǒng)安全、自身安全和共同安全、維護國家安全和塑造國家安全，著力解決國家安全工作不平衡、不充分的問題。在人工智能技術突飛猛進、大國競爭博弈加劇的大變局下，人工智能治理中的統(tǒng)籌問題就顯得尤為重要。統(tǒng)籌問題產生的前提是由于矛盾各方內在的沖突和張力。如果一味地推動人工智能技術突飛猛進而忽視安全監(jiān)管，那么可能會帶來嚴重的社會后果；如果過于重視軍事安全風險而忽視倫理道德風險，也會帶來國家安全的不平衡發(fā)展；如果僅僅單方面強調本國的安全而不重視共同安全，外部安全環(huán)境的惡化最終也會損害本國安全；如果只是被動地應對安全風險而忽視了主動塑造國家安全，片面追求近期安全利益就可能導致長期利益受損。因此，在世界和平與發(fā)展面臨多元挑戰(zhàn)的背景下，人工智能治理只能是共同的、綜合的、合作的、可持續(xù)的治理。必須堅持發(fā)展和安全并重的原則，通過對話與合作凝聚共識，建立開放、公正、有效的治理機制，真正讓人工智能技術造福于人類，推動構建人類命運共同體。

人工智能技術創(chuàng)新應用的飛速迭代，帶來巨大發(fā)展機遇的同時，技術發(fā)展的不可知性和風險的不確定性也將帶來諸多安全挑戰(zhàn)。就目前的態(tài)勢看，或許跨過通用人工智能技術的門檻還存在很多不確定因素，但人工智能對國家經濟、政治、社會生活等革命性影響已經徐徐開啟，而人類將迎來一個什么樣的人工智能時代，取決于我們現(xiàn)在如何采取行動。我們要在機遇與安全之間尋求平衡，盡快筑牢安全屏障，充分發(fā)揮人工智能的“頭雁”效應，加快形成新質生產力，助力以中國式現(xiàn)代化全面推進中華民族偉大復興。

（本文是中國社會科學院重大創(chuàng)新項目“推進國家安全體系和能力現(xiàn)代化研究”〈項目編號：2023YZD025〉階段性成果）

[參考文獻]

[1]習近平著作選讀（第一卷）（第二卷）[M].北京：人民出版社，2023.

[2]習近平關于總體國家安全觀論述摘編[M].北京：中央文獻出版社，2018.

（作者簡介：郎平，中國社會科學院世界經濟與政治研究所研究員）

責任編輯 / 高海濤