文/彭紅梅 劉忠

自1956年達(dá)特茅斯會(huì)議上首次提出人工智能的概念以來(lái)，人工智能的發(fā)展幾經(jīng)沉浮。近年來(lái)，隨著機(jī)器深度學(xué)習(xí)和大數(shù)據(jù)等領(lǐng)域的突破，人工智能再次得到快速發(fā)展，其對(duì)國(guó)家安全的多重影響也日趨顯現(xiàn)。對(duì)此，美國(guó)的主要智庫(kù)密集開(kāi)展跟蹤研究，推出了一系列研究成果。

本文從防務(wù)與國(guó)家安全領(lǐng)域的美國(guó)知名智庫(kù)中，選取了蘭德公司、貝爾弗科學(xué)與國(guó)際事務(wù)中心、新美國(guó)安全中心和戰(zhàn)略與國(guó)際問(wèn)題研究中心等四家智庫(kù)，對(duì)他們有關(guān)人工智能與國(guó)家安全研究的基本觀點(diǎn)、主要認(rèn)識(shí)和行動(dòng)建議作系統(tǒng)梳理和分析。這對(duì)于了解美國(guó)學(xué)界的理論觀點(diǎn)，洞悉美國(guó)相關(guān)的政策和行動(dòng)，思考在推進(jìn)中國(guó)人工智能發(fā)展的同時(shí)如何維護(hù)國(guó)家安全，無(wú)疑具有一定的意義和價(jià)值。

美國(guó)智庫(kù)積極為國(guó)家人工智能戰(zhàn)略建言獻(xiàn)策

1.成立專門(mén)組織展開(kāi)專題研究

對(duì)于當(dāng)前人工智能的大發(fā)展大應(yīng)用，美國(guó)智庫(kù)非常重視，多從大國(guó)競(jìng)爭(zhēng)的角度和國(guó)家戰(zhàn)略安全的高度，組織研究團(tuán)隊(duì)展開(kāi)專題研究。其中，蘭德公司是以“全球風(fēng)險(xiǎn)與安全中心”為依托，建立了“安全2040項(xiàng)目”，設(shè)想2040年世界可能面臨的重大安全挑戰(zhàn)，研究具體的解決方案，“人工智能與國(guó)家安全”是該項(xiàng)目的重要研究議題；為統(tǒng)合研究力量，新美國(guó)安全中心也成立了“人工智能與國(guó)家安全工作隊(duì)”，由前美國(guó)國(guó)防部副部長(zhǎng)羅伯特·沃克和谷歌云人工智能主管安德魯·摩爾博士總負(fù)責(zé)，成員包括前政府高官、大型私企主管和學(xué)術(shù)專家，主要任務(wù)是探討美國(guó)如何應(yīng)對(duì)人工智能革命帶來(lái)的挑戰(zhàn)；2018年以來(lái)，貝爾弗科學(xué)與國(guó)際事務(wù)中心在其“國(guó)際安全項(xiàng)目”專題下，先后組織召開(kāi)了“人工智能的公共政策挑戰(zhàn)”和“人工智能：軍事行動(dòng)與決策的利與弊”多場(chǎng)研討會(huì)；戰(zhàn)略與國(guó)際問(wèn)題研究中心在2016年發(fā)起了“中國(guó)創(chuàng)新政策系列”研究項(xiàng)目，目的是了解中國(guó)在以人工智能為代表的創(chuàng)新技術(shù)和政策方面的實(shí)際情況，評(píng)估其對(duì)工業(yè)、中國(guó)貿(mào)易伙伴和全球經(jīng)濟(jì)的影響等。

2.密集推出研究報(bào)告為政府建言獻(xiàn)策

以研究軍事尖端科技和重大戰(zhàn)略為主的蘭德公司，數(shù)十年堅(jiān)持對(duì)人工智能展開(kāi)跟蹤研究，并把研究重點(diǎn)放在人工智能對(duì)作戰(zhàn)樣式、武器裝備、核武器和網(wǎng)絡(luò)安全等的影響方面。另外三家智庫(kù)主要是從2017年開(kāi)始對(duì)相關(guān)議題展開(kāi)密集研究，這也符合大多數(shù)智庫(kù)熱衷于跟蹤前沿?zé)狳c(diǎn)的特征。貝爾弗科學(xué)與國(guó)際事務(wù)中心的分析研究更為敏感一些，該中心在2017年7月率先推出研究報(bào)告《人工智能與國(guó)家安全》，并在2019年8月再次發(fā)布報(bào)告，探討技術(shù)本身的脆弱性對(duì)國(guó)家安全的負(fù)面影響。新美國(guó)安全中心和戰(zhàn)略與國(guó)際問(wèn)題研究中心則側(cè)重于從美國(guó)國(guó)家戰(zhàn)略安全、中美大國(guó)競(jìng)爭(zhēng)和軍事防務(wù)安全的視角展開(kāi)研究。

在本輪人工智能革命中，美國(guó)智庫(kù)起到了理論研究、分析預(yù)測(cè)和呼吁推動(dòng)的重要作用。正是在包括智庫(kù)在內(nèi)的各界大力推動(dòng)下，美國(guó)政府對(duì)人工智能的態(tài)度經(jīng)歷了一個(gè)大的轉(zhuǎn)變，特別是在2019年2月推出了《美國(guó)人工智能倡議》，正式將人工智能上升到美國(guó)國(guó)家戰(zhàn)略的高度。

對(duì)人工智能影響國(guó)家戰(zhàn)略安全的觀點(diǎn)分析

1.對(duì)維持美國(guó)技術(shù)領(lǐng)先地位的影響

智庫(kù)將人工智能領(lǐng)域的大國(guó)競(jìng)爭(zhēng)看作是領(lǐng)導(dǎo)力之爭(zhēng)，提出“從軍事角度來(lái)看，人工智能領(lǐng)導(dǎo)力對(duì)于建立和部署有效的軍事力量可能越來(lái)越必要。從經(jīng)濟(jì)角度來(lái)看，人工智能的領(lǐng)導(dǎo)力對(duì)整體經(jīng)濟(jì)領(lǐng)導(dǎo)力至關(guān)重要，這意味著在人工智能領(lǐng)域領(lǐng)先的國(guó)家將在全球經(jīng)濟(jì)中占據(jù)一席之地。貝爾弗科學(xué)與國(guó)際事務(wù)中心的研究報(bào)告認(rèn)為，過(guò)去幾年內(nèi)人工智能的進(jìn)步遠(yuǎn)超預(yù)期，相信這種快速的進(jìn)步未來(lái)將持續(xù)甚至?xí)铀伲M(jìn)而將在國(guó)家技術(shù)安全領(lǐng)域發(fā)揮變革性的潛力。建議政府將保持美國(guó)的技術(shù)優(yōu)勢(shì)作為首要目標(biāo)，同時(shí)要對(duì)人工智能在和平和商業(yè)領(lǐng)域的應(yīng)用提供政策支持，以及減少人工智能可能給國(guó)家安全帶來(lái)的災(zāi)難性風(fēng)險(xiǎn)。戰(zhàn)略與國(guó)際問(wèn)題研究中心的報(bào)告從生態(tài)系統(tǒng)組成、當(dāng)前的投資和在國(guó)家安全領(lǐng)域的應(yīng)用等方面，對(duì)當(dāng)前人工智能發(fā)展?fàn)顩r進(jìn)行了分析，提出美國(guó)要在人工智能領(lǐng)域取得世界領(lǐng)導(dǎo)地位，必須在投資、管理和政策方面采取行動(dòng)。強(qiáng)調(diào)“在世界上其他國(guó)家都在大力投資人工智能的背景下，美國(guó)政府要付出重大努力才能擁有技術(shù)上的優(yōu)勢(shì)，這就要與私營(yíng)科技公司合作，并廣泛開(kāi)展與西方伙伴國(guó)及盟國(guó)間的合作”。

近年來(lái)，中國(guó)的快速崛起和在新興技術(shù)領(lǐng)域不斷取得突破，引起了美國(guó)越來(lái)越大的警惕和抵制。美國(guó)智庫(kù)方面認(rèn)為，中國(guó)在人工智能領(lǐng)域的巨額投資對(duì)美國(guó)構(gòu)成了非常大的挑戰(zhàn)和壓力，人工智能等領(lǐng)域的競(jìng)爭(zhēng)是中美競(jìng)爭(zhēng)的核心，關(guān)乎美國(guó)能否保持住前沿技術(shù)優(yōu)勢(shì)這一核心問(wèn)題。如戰(zhàn)略與國(guó)際問(wèn)題研究中心的報(bào)告《與中國(guó)的技術(shù)競(jìng)爭(zhēng)》，認(rèn)為在當(dāng)前國(guó)際政治力量分化調(diào)整、大國(guó)競(jìng)爭(zhēng)日益激烈的總趨向下，“對(duì)新技術(shù)的創(chuàng)新能力，特別是數(shù)字技術(shù)(賦予他們以政治、安全和經(jīng)濟(jì)增長(zhǎng)方面的重要意義)已經(jīng)成為中美關(guān)系的核心要素”。2019年6月，新美國(guó)安全中心召開(kāi)了以國(guó)家安全為主題的研討會(huì)議，主要是探討在大國(guó)競(jìng)爭(zhēng)時(shí)代如何提高美國(guó)的戰(zhàn)略優(yōu)勢(shì)，各分會(huì)主題包括維持美國(guó)的軍事優(yōu)勢(shì)、對(duì)抗高科技時(shí)代的非自由主義，以及以新的方式來(lái)展示美國(guó)經(jīng)濟(jì)實(shí)力等內(nèi)容。“美國(guó)在人工智能時(shí)代的領(lǐng)導(dǎo)力”作為一個(gè)分會(huì)研討主題，聚集了約翰·霍普金斯智能系統(tǒng)中心主任艾希禮·略倫斯和新美國(guó)安全中心的邁克爾·霍洛維茨、卡拉·弗雷德里克和艾爾莎·卡尼亞等人工智能和國(guó)家安全領(lǐng)域的專家，顯示“中國(guó)議題”已經(jīng)成為智庫(kù)熱議的焦點(diǎn)。

2.對(duì)現(xiàn)有國(guó)際體系和規(guī)則的沖擊

智庫(kù)方面認(rèn)為，人工智能革命在國(guó)際政治領(lǐng)域?qū)a(chǎn)生深刻影響，中國(guó)等新興國(guó)家通過(guò)拓展人工智能網(wǎng)絡(luò)，將擴(kuò)大全球影響范圍，進(jìn)而對(duì)現(xiàn)有國(guó)際體系和國(guó)際規(guī)則帶來(lái)巨大的沖擊和挑戰(zhàn)。對(duì)于中國(guó)在國(guó)際人工智能領(lǐng)域的政策、投資和對(duì)外合作，美國(guó)智庫(kù)保持了非常高的警惕。戰(zhàn)略與國(guó)際問(wèn)題研究中心的報(bào)告就認(rèn)為，當(dāng)前不斷加劇的中美競(jìng)爭(zhēng)不同于19世紀(jì)控制領(lǐng)土和資源的帝國(guó)競(jìng)爭(zhēng)，關(guān)鍵點(diǎn)不在于軍事力量和領(lǐng)土擴(kuò)張，而是對(duì)全球規(guī)則、秩序、標(biāo)準(zhǔn)、貿(mào)易和技術(shù)的競(jìng)爭(zhēng)，人工智能因此成了中美技術(shù)競(jìng)爭(zhēng)的重要方面。特別是針對(duì)中國(guó)在推進(jìn)“一帶一路”倡議中，提出加強(qiáng)人工智能領(lǐng)域的國(guó)際合作議題，智庫(kù)方面的觀點(diǎn)比較消極。新美國(guó)安全中心的資深研究員丹尼·克里曼等就認(rèn)為，中美大國(guó)競(jìng)爭(zhēng)決定了21世紀(jì)的發(fā)展進(jìn)程，中國(guó)通過(guò)“一帶一路”倡議下的經(jīng)濟(jì)活動(dòng)“正在追求一個(gè)以大國(guó)勢(shì)力范圍、國(guó)家主導(dǎo)的經(jīng)濟(jì)互動(dòng)和逐漸蔓延的威權(quán)主義為特征的21世紀(jì)愿景”。美國(guó)智庫(kù)認(rèn)為這是中國(guó)在“一帶一路”的布局下，通過(guò)投資實(shí)體和數(shù)字基礎(chǔ)設(shè)施網(wǎng)絡(luò)，重塑世界秩序和世界體系，包括破壞美國(guó)與盟友間的網(wǎng)絡(luò)體系，弱化歐洲在中國(guó)政策上的凝聚力，以及促使中國(guó)成為世界領(lǐng)先的信息技術(shù)強(qiáng)國(guó)。2019年2月，新美國(guó)安全中心在分析中國(guó)人工智能戰(zhàn)略的報(bào)告中，特別強(qiáng)調(diào)“除了在軍事應(yīng)用領(lǐng)域的競(jìng)爭(zhēng)外，人工智能技術(shù)的前沿越來(lái)越依賴于計(jì)算機(jī)芯片，未來(lái)國(guó)家人工智能戰(zhàn)略競(jìng)爭(zhēng)的焦點(diǎn)可能是半導(dǎo)體行業(yè)，而中國(guó)在人工智能商業(yè)領(lǐng)域和半導(dǎo)體市場(chǎng)上的成功有助于增強(qiáng)中國(guó)的地緣政治實(shí)力。

3.對(duì)美國(guó)軍事優(yōu)勢(shì)的挑戰(zhàn)

對(duì)于人工智能在軍事領(lǐng)域的應(yīng)用及影響，以新美國(guó)安全中心和蘭德公司的研究最為深入和具體。在2018年的研究報(bào)告中，新美國(guó)安全中心認(rèn)為人工智能將在軍事領(lǐng)域產(chǎn)生五個(gè)方面的影響：一是戰(zhàn)場(chǎng)態(tài)勢(shì)感知上，人工智能技術(shù)增強(qiáng)了小型機(jī)器人傳感器的信息搜集能力，并有助于更好地理解這些信息；二是電磁頻譜上，人工智能可以生成新的干擾和通信方法，以對(duì)戰(zhàn)場(chǎng)的電磁頻譜產(chǎn)生影響；三是欺騙和偽裝上，人工智能生成的對(duì)抗網(wǎng)絡(luò)可用于偽裝和生成誘餌，針對(duì)人工智能系統(tǒng)的欺騙性攻擊也將越來(lái)越重要；四是戰(zhàn)術(shù)上，不斷優(yōu)化的機(jī)器學(xué)習(xí)技術(shù)可用于模擬環(huán)境，使得戰(zhàn)爭(zhēng)背景更趨復(fù)雜，戰(zhàn)術(shù)選擇更趨靈活；五是指揮控制上，人工智能系統(tǒng)有助于指揮官更快地處理信息，更好地理解作戰(zhàn)空間，更快速準(zhǔn)確地下達(dá)決策命令。蘭德公司將關(guān)注的重點(diǎn)放在了核安全領(lǐng)域，其在2018年4月發(fā)布報(bào)告提出，人工智能正在賦予機(jī)器人學(xué)習(xí)和思考的能力，對(duì)未來(lái)智能機(jī)器人的爭(zhēng)奪將在大國(guó)間引起新一輪的軍備競(jìng)賽，人工智能技術(shù)的進(jìn)步、智能機(jī)器人的出現(xiàn)很可能打破一直以來(lái)“相互確保摧毀”的核威懾平衡，進(jìn)而鼓勵(lì)人類作出災(zāi)難性的決策。

美國(guó)智庫(kù)認(rèn)為，近年來(lái)中國(guó)在軍事現(xiàn)代化進(jìn)程中對(duì)人工智能的開(kāi)發(fā)運(yùn)用，給美國(guó)軍事優(yōu)勢(shì)帶來(lái)了巨大挑戰(zhàn)，需要對(duì)此進(jìn)行全面評(píng)估。如“人工智能與國(guó)家安全工作隊(duì)”成員、新美國(guó)安全中心客座研究員艾爾莎·卡尼亞認(rèn)為，中國(guó)在謀求應(yīng)用人工智能來(lái)實(shí)現(xiàn)軍事現(xiàn)代化，進(jìn)而形成對(duì)美國(guó)的軍事優(yōu)勢(shì)。在這份名為“人工智能、軍事革命和中國(guó)的未來(lái)軍力”的報(bào)告中，卡尼亞提出美國(guó)必須將中國(guó)軍隊(duì)視為旗鼓相當(dāng)?shù)膶?duì)手，重新評(píng)估中美技術(shù)競(jìng)爭(zhēng)和軍事競(jìng)爭(zhēng)的本質(zhì)，評(píng)估中國(guó)推進(jìn)人工智能軍事化對(duì)軍事革命的影響，以及對(duì)美國(guó)的戰(zhàn)略挑戰(zhàn)。建議美國(guó)一方面要制定一項(xiàng)長(zhǎng)期的國(guó)家戰(zhàn)略，在減少“非法”技術(shù)轉(zhuǎn)讓的同時(shí)，增加研發(fā)預(yù)算。另一方面要制定培養(yǎng)和吸引頂尖人才的政策，維護(hù)美國(guó)在人力資本上的競(jìng)爭(zhēng)優(yōu)勢(shì)。要把人力和組織能力作為國(guó)防創(chuàng)新的決定性要素，為迎接人工智能引發(fā)的軍事競(jìng)爭(zhēng)和軍備競(jìng)賽做準(zhǔn)備。2019年6月，卡尼亞在中美經(jīng)濟(jì)和安全審查委員會(huì)聽(tīng)證會(huì)上發(fā)表演講，稱人工智能為中國(guó)提供了軍事創(chuàng)新的契機(jī)，但也認(rèn)為中國(guó)在人工智能的軍事創(chuàng)新方面存在一定的問(wèn)題和短板，包括軍隊(duì)的創(chuàng)新能力不足，人才和人力資本持續(xù)短缺，在適應(yīng)未來(lái)作戰(zhàn)水平方面存在差距，不能將智能化方面的作戰(zhàn)理論和概念運(yùn)用于實(shí)踐，管理和整合復(fù)雜數(shù)據(jù)上存在困難，以及缺乏實(shí)戰(zhàn)經(jīng)驗(yàn)和軍民融合戰(zhàn)略效果不佳等。

對(duì)人工智能潛在消極影響的評(píng)估

1.系統(tǒng)平臺(tái)的不確定性和人機(jī)協(xié)同故障

智庫(kù)方面認(rèn)為，當(dāng)前的人工智能系統(tǒng)只是一種“經(jīng)驗(yàn)智能”，其智能水平僅限于設(shè)計(jì)參數(shù)下的數(shù)據(jù)經(jīng)驗(yàn)，遠(yuǎn)不能理解行為體的意圖并進(jìn)行提前預(yù)判。例如，人工智能的圖像識(shí)別系統(tǒng)可以準(zhǔn)確地識(shí)別場(chǎng)景中的對(duì)象，但很難理解場(chǎng)景中人物和事件的復(fù)雜聯(lián)系；可以準(zhǔn)確地識(shí)別人的面部情緒變化，精確地跟蹤位置運(yùn)動(dòng)，但卻無(wú)法理解行為背后的動(dòng)機(jī)。因此，智庫(kù)的學(xué)者稱當(dāng)前的人工智能是一種“白癡學(xué)者”式的智能，不具備對(duì)突發(fā)事件和故障的臨機(jī)處置能力。由此提出，在國(guó)家安全環(huán)境中，人工智能系統(tǒng)間為尋求建立競(jìng)爭(zhēng)優(yōu)勢(shì)，可能發(fā)生意外的博弈或?qū)梗M(jìn)而采取破壞性的行動(dòng)。例如在網(wǎng)絡(luò)空間或電子戰(zhàn)中，機(jī)器系統(tǒng)間的相互對(duì)抗和交互作用可能超出人的控制和預(yù)料，產(chǎn)生混亂甚至釀成災(zāi)難。

除此之外，人機(jī)協(xié)同故障是又一個(gè)潛在隱患。智庫(kù)學(xué)者認(rèn)為，在高度復(fù)雜的自動(dòng)化系統(tǒng)中，系統(tǒng)用戶因不能正確理解系統(tǒng)設(shè)計(jì)者的初衷，進(jìn)而對(duì)接收的信息處理不當(dāng)，也會(huì)引發(fā)故障造成事故?！霸谠S多國(guó)家安全環(huán)境中都可能出現(xiàn)這種情況，例如軍事系統(tǒng)、邊境安全系統(tǒng)、交通運(yùn)輸系統(tǒng)和執(zhí)法系統(tǒng)等應(yīng)用程序”。特別是在敵對(duì)環(huán)境中，人工智能系統(tǒng)的這一弱點(diǎn)可能被惡意操縱和利用時(shí)，更會(huì)造成嚴(yán)重的安全問(wèn)題。當(dāng)前這些安全問(wèn)題主要存在于機(jī)器學(xué)習(xí)技術(shù)領(lǐng)域，而隨著深層神經(jīng)網(wǎng)絡(luò)的發(fā)展，后者更容易受到欺騙(如虛假數(shù)據(jù)輸入)攻擊。另外，黑客也往往會(huì)利用人工智能在學(xué)習(xí)、處理數(shù)據(jù)和決策方面的弱點(diǎn)，展開(kāi)破壞和攻擊行動(dòng)。針對(duì)以上這些問(wèn)題，智庫(kù)方面提醒美國(guó)政府“必須意識(shí)到這些風(fēng)險(xiǎn)，并在設(shè)計(jì)和使用人工智能系統(tǒng)時(shí)盡可能減少這些脆弱性”。

2.社會(huì)治理和社會(huì)倫理方面

在國(guó)內(nèi)社會(huì)層面，人工智能也將帶來(lái)一系列的全新問(wèn)題?？偨Y(jié)美國(guó)智庫(kù)的觀點(diǎn)，社會(huì)治理上的沖擊和挑戰(zhàn)主要來(lái)自兩個(gè)方面。一是信息安全，包括個(gè)人隱私和國(guó)家戰(zhàn)略信息等。智能設(shè)備、物聯(lián)網(wǎng)和互聯(lián)網(wǎng)的廣泛應(yīng)用制造了海量數(shù)據(jù)信息。面部識(shí)別技術(shù)、生物特征識(shí)別技術(shù)與大型監(jiān)視系統(tǒng)相結(jié)合，在增強(qiáng)公共安全管理效能的同時(shí)，也從個(gè)人隱私到國(guó)家戰(zhàn)略信息層面帶來(lái)了廣泛的安全隱患。對(duì)此，貝爾弗科學(xué)與國(guó)際事務(wù)中心的報(bào)告就特別強(qiáng)調(diào)，一方面需要信息收集方承擔(dān)起保障數(shù)據(jù)安全的義務(wù)，貫徹《網(wǎng)絡(luò)安全法》中“誰(shuí)收集，誰(shuí)負(fù)責(zé)”的原則，防止用戶隱私數(shù)據(jù)信息的泄露；另一方面，用戶自身也要提高安全意識(shí)，在社交媒體采取安全防范措施，注意保護(hù)自己。同時(shí)，政府也要對(duì)信息進(jìn)行分類管理，注重對(duì)可能涉密信息的保護(hù)。二是對(duì)人工智能系統(tǒng)的惡意攻擊。人工智能技術(shù)本身的弱點(diǎn)和技術(shù)擴(kuò)散，使得技術(shù)很容易被掌握，并對(duì)其漏洞加以攻擊。由此，未來(lái)的社會(huì)治安和反恐怖襲擊可能面臨新的挑戰(zhàn)。蘭德公司的研究人員針對(duì)人工智能引發(fā)的社會(huì)風(fēng)險(xiǎn)，向美國(guó)政府提出了四點(diǎn)建議：一是鑒于人工智能處理的海量數(shù)據(jù)遠(yuǎn)超出人類極限，政府的決策必須預(yù)先考慮各種可能的意外風(fēng)險(xiǎn)；二是需要制定適當(dāng)?shù)氖ПＷo(hù)措施，納入非自動(dòng)化流程，減少對(duì)人工智能的過(guò)度依賴，防止一旦發(fā)生錯(cuò)誤可能造成的破壞性后果；三是人工智能對(duì)經(jīng)濟(jì)社會(huì)影響巨大，要及時(shí)調(diào)整政策以應(yīng)對(duì)各種可能變化；四是針對(duì)中國(guó)等在人才和創(chuàng)新方面對(duì)美國(guó)主導(dǎo)地位的威脅，美國(guó)應(yīng)當(dāng)加強(qiáng)數(shù)學(xué)和科學(xué)的基礎(chǔ)教育，并通過(guò)移民政策吸引全球人才。

在社會(huì)倫理層面，當(dāng)前人工智能的發(fā)展引發(fā)三個(gè)方面的問(wèn)題。首先是人工智能取代人，會(huì)造成整個(gè)社會(huì)產(chǎn)業(yè)重塑和工作崗位重組，隨之而來(lái)社會(huì)將面臨大量的失業(yè)問(wèn)題，造成社會(huì)不穩(wěn)定；其次，從商品購(gòu)買(mǎi)、娛樂(lè)誘惑到政治傾向誘導(dǎo)，人工智能可能引導(dǎo)甚至操控人，使人的思想和行為被技術(shù)控制；最后，機(jī)器之間、人機(jī)之間的協(xié)作關(guān)系，對(duì)信賴、團(tuán)結(jié)、包容和互助等傳統(tǒng)工作關(guān)系也帶來(lái)了挑戰(zhàn)。機(jī)器與人之間是否需要互相信任，法律應(yīng)如何界定機(jī)器犯罪，及機(jī)器人失控后對(duì)人類的反控制問(wèn)題，都成為智庫(kù)討論的重要內(nèi)容。戰(zhàn)略與國(guó)際問(wèn)題研究中心的報(bào)告指出，人工智能引發(fā)的相關(guān)倫理問(wèn)題是未來(lái)需要研究的一個(gè)重要問(wèn)題，包括如何確保人工智能的使用不違反戰(zhàn)爭(zhēng)法、尊重人權(quán)，還包括如何保護(hù)個(gè)人隱私及人的自主權(quán)。在政策建議中，認(rèn)為首要的是必須制定倫理方面的政策和標(biāo)準(zhǔn)，指導(dǎo)人工智能技術(shù)的應(yīng)用。

對(duì)中國(guó)的幾點(diǎn)啟示

1.推進(jìn)人工智能發(fā)展要優(yōu)先補(bǔ)齊國(guó)家戰(zhàn)略安全短板

當(dāng)前中國(guó)的人工智能發(fā)展在總體向好的同時(shí)，在國(guó)家安全層面也有比較突出的問(wèn)題和短板，包括行業(yè)領(lǐng)域的高端人才匱乏，行業(yè)發(fā)展受市場(chǎng)的過(guò)度裹挾，以及國(guó)家戰(zhàn)略層面的前瞻性、對(duì)策性研究不足等，需要高度重視和集力解決。首先，專業(yè)建設(shè)上要大力培養(yǎng)行業(yè)頂尖人才群體。中國(guó)在人工智能領(lǐng)域的技術(shù)與應(yīng)用已進(jìn)入前沿發(fā)展國(guó)家行列，“但從發(fā)展質(zhì)量上看還遠(yuǎn)未達(dá)到樂(lè)觀的地步，主要表現(xiàn)是在硬件和算法這樣的人工智能核心技術(shù)領(lǐng)域力量仍很薄弱，頂尖人才數(shù)量不足，且很大程度上依賴于具有海外學(xué)習(xí)工作經(jīng)歷的歸國(guó)人才”。人才培養(yǎng)上有賴于西方、受制于人的現(xiàn)實(shí)，構(gòu)成嚴(yán)重的安全隱患和發(fā)展瓶頸。因此，需要改革人才培養(yǎng)的結(jié)構(gòu)、模式和體系，支持和引導(dǎo)基礎(chǔ)性、長(zhǎng)期性的冷板凳研究，并通過(guò)政策、待遇和條件來(lái)吸引人才，建立中國(guó)的人工智能頂端人才高地。其次是產(chǎn)業(yè)發(fā)展上要加強(qiáng)科學(xué)引導(dǎo)。從國(guó)家戰(zhàn)略安全的全局來(lái)看，要重視當(dāng)前人工智能領(lǐng)域的全國(guó)上下運(yùn)動(dòng)式發(fā)展和市場(chǎng)過(guò)熱的問(wèn)題，前者容易產(chǎn)生盲目上、一窩蜂的現(xiàn)象，重?cái)?shù)量不求質(zhì)量，后者則“突出了私營(yíng)部門(mén)公司推動(dòng)該領(lǐng)域發(fā)展的巨大能力，但也掩蓋了政府的投資和參與及其應(yīng)用于國(guó)家安全領(lǐng)域的重要性”。要把人工智能發(fā)展放在國(guó)家安全戰(zhàn)略的全局中，理性看待商業(yè)因素在其中所起的作用，防止受市場(chǎng)過(guò)熱或過(guò)冷的過(guò)度裹挾，偏離了科學(xué)的發(fā)展方向。同時(shí)，“無(wú)論是軍事還是產(chǎn)業(yè)上的規(guī)劃，都應(yīng)防止盲目性、避免投資泡沫”。最后是要加強(qiáng)對(duì)策性、前瞻性研究。與美國(guó)智庫(kù)相比，中國(guó)智庫(kù)對(duì)人工智能等前沿技術(shù)的研究側(cè)重于技術(shù)層面和產(chǎn)業(yè)研發(fā)層面，戰(zhàn)略性、前瞻性和對(duì)策性研究不足，高水平的專家和成果都非常短缺，難以為國(guó)家安全層面的戰(zhàn)略決策提供智力支持。亟需圍繞國(guó)家總體安全觀的現(xiàn)實(shí)需求，大力建設(shè)和發(fā)展高端智庫(kù)體系，加強(qiáng)對(duì)人工智能等前沿性、顛覆性技術(shù)的戰(zhàn)略研判，加強(qiáng)對(duì)象國(guó)跟蹤研究的持續(xù)性和精細(xì)化，以此為國(guó)家戰(zhàn)略決策提供智力支持。

2.破解外部打壓要有長(zhǎng)期準(zhǔn)備和積極應(yīng)對(duì)

在當(dāng)前人工智能領(lǐng)域，中美兩國(guó)處于引領(lǐng)的地位，相互間的競(jìng)爭(zhēng)不斷加劇。一方面，對(duì)來(lái)自美國(guó)的競(jìng)爭(zhēng)和壓力要有長(zhǎng)期準(zhǔn)備。從2018 年上半年開(kāi)始，美國(guó)陸續(xù)對(duì)中國(guó)商品加征關(guān)稅，引發(fā)了中美間的貿(mào)易戰(zhàn)，并先后對(duì)中國(guó)高科技通訊公司中興和華為實(shí)施制裁，在中美人才交流上也開(kāi)始踩剎車、開(kāi)倒車，中美關(guān)系出現(xiàn)重大轉(zhuǎn)折。而通過(guò)對(duì)美國(guó)智庫(kù)的報(bào)告分析發(fā)現(xiàn)，其觀點(diǎn)也幾乎一致指向與中國(guó)的大國(guó)競(jìng)爭(zhēng)，認(rèn)為在人工智能發(fā)展深刻影響國(guó)家安全的趨勢(shì)下，“美國(guó)不僅必須預(yù)見(jiàn)到這些發(fā)展，而且必須采取果斷行動(dòng)，為競(jìng)爭(zhēng)做好準(zhǔn)備，并充分利用人工智能帶來(lái)的機(jī)遇”；“美國(guó)應(yīng)采取適當(dāng)?shù)母母锎胧?，保護(hù)美國(guó)在人工智能領(lǐng)域的主要優(yōu)勢(shì)，包括保護(hù)知識(shí)產(chǎn)權(quán)，限制出口敏感技術(shù)，以及對(duì)外國(guó)投資委員會(huì)進(jìn)行立法改革”。由此可見(jiàn)，美國(guó)將人工智能上升到國(guó)家安全的戰(zhàn)略軌道，對(duì)中國(guó)的一系列限制和打壓是有目的、有計(jì)劃和有步驟的，也將是戰(zhàn)略性的和長(zhǎng)期性的。未來(lái)中國(guó)人工智能戰(zhàn)略的推進(jìn)過(guò)程中，對(duì)美國(guó)方面的壓力和干擾要保持足夠的清醒認(rèn)識(shí)，要有長(zhǎng)期的抗壓和斗爭(zhēng)準(zhǔn)備。另一方面，人工智能發(fā)展要堅(jiān)持自主可控。抗擊外來(lái)壓力最根本、最有效的手段就是獨(dú)立自主。長(zhǎng)期以來(lái)，中國(guó)在尖端技術(shù)領(lǐng)域落后于西方，在關(guān)系國(guó)家安全的核心技術(shù)上受制于人，造成了非常嚴(yán)重的隱患和制約。改革開(kāi)放以來(lái)，得益于基礎(chǔ)研究領(lǐng)域的巨額投資和長(zhǎng)期積累，中國(guó)終于站在了以人工智能為主導(dǎo)的新一輪科技革命前沿，迎來(lái)了實(shí)現(xiàn)尖端技術(shù)自主研發(fā)，破解“卡脖子”問(wèn)題的歷史性契機(jī)。而隨著核心技術(shù)競(jìng)爭(zhēng)成為大國(guó)競(jìng)爭(zhēng)的焦點(diǎn)，中國(guó)開(kāi)放式發(fā)展的外部環(huán)境不斷惡化，甚至未來(lái)可能出現(xiàn)惡性競(jìng)爭(zhēng)和被西方聯(lián)合打壓的局面。因此，在人工智能戰(zhàn)略上，特別要把握住創(chuàng)新和發(fā)展的主動(dòng)權(quán)，確保技術(shù)研發(fā)和應(yīng)用上的自主和可控，以此構(gòu)建和打造國(guó)家政治、經(jīng)濟(jì)、軍事、社會(huì)和核等的綜合安全體系。

3.發(fā)揮人工智能在國(guó)家治理中的作用同時(shí)要防范安全風(fēng)險(xiǎn)

在推進(jìn)國(guó)家治理體系和治理能力現(xiàn)代化方面，隨著智聯(lián)網(wǎng)、物聯(lián)網(wǎng)和智慧城市等的普及，人工智能技術(shù)在政府機(jī)構(gòu)改革和提高辦事效率，在城市治理和社會(huì)治安等方面都提供了新的思路和手段。如在城市治理中，搜集和監(jiān)測(cè)人流車流的定向數(shù)據(jù)，采取干預(yù)措施，可有效減少城市交通擁堵和交通事故；在社會(huì)治安中，利用人臉識(shí)別和大數(shù)據(jù)比對(duì)技術(shù)，對(duì)案件遺留線索進(jìn)行偵查追蹤，近年來(lái)先后破獲了多起長(zhǎng)期積壓的重特大刑事案件，充分顯示了人工智能的巨大潛力。特別是在應(yīng)對(duì)當(dāng)前的新冠肺炎疫情過(guò)程中，人工智能在疫情數(shù)據(jù)搜集分析、機(jī)器人輔助治療、尋找病毒宿主和對(duì)人員場(chǎng)所定位跟蹤等方面，發(fā)揮了不可替代的作用，體現(xiàn)了其在加強(qiáng)國(guó)家應(yīng)急管控體系和提高社會(huì)管理能力方面的潛力和前景。同時(shí)，面對(duì)人工智能對(duì)社會(huì)秩序、倫理和思想等帶來(lái)的沖擊，要加強(qiáng)相關(guān)的研究、立法和管理，確保良性安全發(fā)展。首先是要完善人工智能相關(guān)的法律法規(guī)，在責(zé)任確認(rèn)、個(gè)人隱私、產(chǎn)權(quán)保護(hù)和信息安全等方面加強(qiáng)立法，對(duì)于人工智能系統(tǒng)可以做什么，不可以做什么，要從法律上把它規(guī)定好、約束好；其次是要建立健全安全監(jiān)管和評(píng)估體系，圍繞人工智能產(chǎn)品在設(shè)計(jì)和使用過(guò)程中的新問(wèn)題和新風(fēng)險(xiǎn)，加強(qiáng)技術(shù)偵測(cè)和安全防范，確保人工智能產(chǎn)品的開(kāi)發(fā)和使用安全可控；最后是要堅(jiān)持人工智能不能操控人，人工智能不能完全取代人這一普遍共識(shí)。在人工智能的發(fā)展應(yīng)用過(guò)程中要尊重基本人權(quán)、基本規(guī)章制度和核心價(jià)值觀，從社會(huì)學(xué)、倫理學(xué)和未來(lái)學(xué)等角度加強(qiáng)教育引導(dǎo)，在社會(huì)上樹(shù)立一個(gè)正確的觀念和科學(xué)的態(tài)度，減小其對(duì)思想層面的沖擊和干擾。