傅瑜 陳定定

【內(nèi)容摘要】 隨著反恐形勢(shì)的日益嚴(yán)峻與人工智能技術(shù)的日趨成熟，人工智能在反恐領(lǐng)域已經(jīng)部分應(yīng)用到反恐活動(dòng)中。具體而言，人工智能輔助控制了恐怖組織信息的傳播，促進(jìn)了反恐信息的開發(fā)和利用，提升了對(duì)恐怖活動(dòng)的預(yù)測(cè)能力，也促進(jìn)了智能武器的開發(fā)。此外，人工智能技術(shù)已經(jīng)成為國(guó)家反恐戰(zhàn)略的重要組成部分，在反恐資源融合、反恐活動(dòng)主體及反恐合作方式方面革新了傳統(tǒng)反恐領(lǐng)域的基本規(guī)則，也從法律、道德和心理角度影響了人類反恐活動(dòng)的展開。但與此同時(shí)，反恐視野下人工智能手段的開發(fā)和利用在準(zhǔn)確性、公平性和倫理道德方面仍面臨風(fēng)險(xiǎn)。未來(lái)人工智能技術(shù)在計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理等方面可能迎來(lái)速度和質(zhì)量上的飛躍，人工智能武器的開發(fā)也將繼續(xù)，人工智能領(lǐng)域很可能成為未來(lái)反恐力量與恐怖組織的角逐場(chǎng)。

【關(guān)鍵詞】 人工智能 深度學(xué)習(xí) 反恐 系統(tǒng)性影響 潛在風(fēng)險(xiǎn)

【作者簡(jiǎn)介】 傅瑜，暨南大學(xué)21世紀(jì)絲綢之路研究院研究助理；海國(guó)圖智研究院助理研究員（廣州 郵編：510000）；陳定定，暨南大學(xué)國(guó)際關(guān)系學(xué)院教授（廣州 郵編：510000）

【中圖分類號(hào)】 D815.5 TP18 【文獻(xiàn)標(biāo)識(shí)碼】 A

【文章編號(hào)】 1006-1568-（2018）04-0119-19

【DOI編號(hào)】 10.13851/j.cnki.gjzw.201804007

自1956年達(dá)特茅斯會(huì)議首次提出人工智能的概念以來(lái)，學(xué)術(shù)界對(duì)此尚未有統(tǒng)一和明確的定義。 總的來(lái)說(shuō)，目前對(duì)人工智能的定義主要從“像人一樣思考和行動(dòng)”和“合理地思考和行動(dòng)”兩個(gè)維度進(jìn)行分析。 鑒于人工智能與智慧及計(jì)算機(jī)的密切關(guān)系，本文中人工智能指利用計(jì)算機(jī)算法和其他前沿科技研究、創(chuàng)建和模仿人類解決問(wèn)題的方式的技術(shù)手段，比如語(yǔ)音識(shí)別、視覺(jué)感知和決策等?！?·11”恐怖襲擊事件發(fā)生以來(lái)，恐怖主義活動(dòng)對(duì)國(guó)家和公民安全造成日益嚴(yán)重的威脅。恐怖襲擊遍布美國(guó)、法國(guó)、英國(guó)、中國(guó)、印度、澳大利亞等許多國(guó)家。以卡車和自制炸彈等為手段的自殺式爆炸襲擊屢屢發(fā)生。目前的反恐投入大、消耗多，但效果有限。 如何運(yùn)用科技高效反恐成為各國(guó)反恐的核心需求。

人工智能在反恐中的應(yīng)用可以劃入人工智能與國(guó)際關(guān)系的范疇，廣義上則屬于對(duì)科技與安全關(guān)系的討論?，F(xiàn)代對(duì)人工智能的研究最早可以追溯到圖靈（A. M. Turing）發(fā)表的《計(jì)算機(jī)器與智能》一文。 對(duì)人工智能的研究隨后主要停留在技術(shù)及概念的探討上。直到20世紀(jì)80年代，西方學(xué)者開始圍繞計(jì)算機(jī)與武器控制、人工智能與國(guó)土安全等話題進(jìn)行討論。 進(jìn)入21世紀(jì)，隨著大數(shù)據(jù)、云計(jì)算和認(rèn)知技術(shù)等的出現(xiàn)，人工智能在學(xué)界引發(fā)廣泛關(guān)注，產(chǎn)生了更多關(guān)于人工智能研究模型、機(jī)器學(xué)習(xí)、人工智能帶來(lái)的社會(huì)變化及問(wèn)題與挑戰(zhàn)等主題的研究。 就中國(guó)而言，人文領(lǐng)域早期鮮有對(duì)人工智能的直接研究，更多是探討科技對(duì)國(guó)際關(guān)系的影響，這一研究話題曾在20世紀(jì)末的中國(guó)引發(fā)一股研究熱潮，代表人物是王逸舟和張?bào)K。 進(jìn)入21世紀(jì)以后，人工智能對(duì)國(guó)際關(guān)系產(chǎn)生影響的話題引起國(guó)內(nèi)學(xué)者的極大關(guān)注。董青嶺等學(xué)者在相關(guān)文章中深入探討了科技對(duì)國(guó)家安全的影響。

探尋人工智能在反恐活動(dòng)中的應(yīng)用、影響和風(fēng)險(xiǎn)，不僅有利于反恐工作的提升，也是對(duì)科技與安全這一重大問(wèn)題的探索，是當(dāng)前和未來(lái)全球安全維護(hù)的重點(diǎn)方向之一。囿于研究材料和信息保密性等問(wèn)題，本研究存在缺陷和不足，希望能夠拋磚引玉，推動(dòng)學(xué)界對(duì)此話題做更為深入的研究。

一、人工智能參與反恐活動(dòng)的技術(shù)基礎(chǔ)

進(jìn)入21世紀(jì)，大數(shù)據(jù)、高性能芯片與深度算法推動(dòng)了人工智能走向跨越式發(fā)展，人工智能在自然語(yǔ)言處理、計(jì)算機(jī)視覺(jué)、智能決策等方面的發(fā)展為人工智能的反恐應(yīng)用奠定了技術(shù)基礎(chǔ)。

（一）大數(shù)據(jù)和計(jì)算芯片的發(fā)展提升了人工智能的數(shù)據(jù)處理能力

21世紀(jì)以來(lái)，亞馬遜（Amazon）、谷歌（Google）、雅虎（Yahoo）、推特（Twitter）、臉書（Facebook）等積累了大量的用戶信息。到2020年，數(shù)據(jù)總量將達(dá)到40萬(wàn)億G，較2011年提升21倍。 通過(guò)挖掘數(shù)據(jù)背后的規(guī)律，大數(shù)據(jù)為人工智能和智能決策提供了數(shù)據(jù)基礎(chǔ)，也為機(jī)器學(xué)習(xí)提供了訓(xùn)練數(shù)據(jù)庫(kù)。圍繞神經(jīng)網(wǎng)絡(luò)開發(fā)的新型高性能計(jì)算芯片及架構(gòu)不斷涌現(xiàn)。隨著英特爾處理器由CPU為主轉(zhuǎn)變?yōu)镚PU為主CPU為輔的結(jié)構(gòu)，計(jì)算機(jī)運(yùn)行速度提升了近70倍。 Google的機(jī)器學(xué)習(xí)定制芯片TPU、Altera公司和IBM使用的芯片F(xiàn)PGA，分別在分析、預(yù)判效率和靈活性上有突出優(yōu)勢(shì)。 這些新型高性能計(jì)算芯片及架構(gòu)為人工智能處理和分析恐怖主義相關(guān)信息奠定了技術(shù)基礎(chǔ)。

（二）深度算法提升了人工智能對(duì)恐怖分子的語(yǔ)音和圖像處理能力

深度學(xué)習(xí)可以識(shí)別非結(jié)構(gòu)化數(shù)據(jù)，模擬人腦神經(jīng)元多層深度傳遞的過(guò)程，通過(guò)多隱層的神經(jīng)網(wǎng)絡(luò)模型的構(gòu)建和海量數(shù)據(jù)的訓(xùn)練，極大提升數(shù)據(jù)的表征學(xué)習(xí)能力。通過(guò)在并行計(jì)算平臺(tái)的訓(xùn)練，“谷歌大腦”（Google Brain）語(yǔ)音識(shí)別準(zhǔn)確度從2012年的84%上升到2014年的98%。 在深度神經(jīng)網(wǎng)絡(luò)技術(shù)的基礎(chǔ)上，F(xiàn)acebook的研究小組創(chuàng)建的深度學(xué)習(xí)面部識(shí)別系統(tǒng)“深度辨臉” （Deep Face）以用戶上傳的400萬(wàn)張圖片為基礎(chǔ)進(jìn)行了訓(xùn)練，將面部識(shí)別算法精度提升到97%。 基于卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Network ， CNN），湯曉鷗開發(fā)的“深度識(shí)別”（Deep ID）深度學(xué)習(xí)模型識(shí)別率達(dá)到了99.15%。 2016年9月，谷歌旗下的“深度思維”（Deep Mind）利用深度神經(jīng)網(wǎng)絡(luò)對(duì)原始音頻波形建立模型，研發(fā)能夠自動(dòng)辨別語(yǔ)言和語(yǔ)音的“波網(wǎng)”（Wave Net），促發(fā)了圖像和語(yǔ)音識(shí)別的又一次飛躍。

（三）人工智能在武器中的應(yīng)用促進(jìn)了自主武器的研發(fā)

武器自主化是自主將環(huán)境中的數(shù)據(jù)轉(zhuǎn)化為有目的的計(jì)劃和行動(dòng)的過(guò)程。從技術(shù)角度而言，自主武器（autonomous weapons）的研發(fā)依賴于圖像和語(yǔ)音識(shí)別、反射控制系統(tǒng)（reactive control systems）、傳統(tǒng)控制系統(tǒng)（deliberative control systems）以及行動(dòng)指令等。 而反射控制系統(tǒng)又包括簡(jiǎn)單的反射控制系統(tǒng)和基于模型的反射控制系統(tǒng)。自然語(yǔ)言處理和計(jì)算機(jī)視覺(jué)的發(fā)展從速度和準(zhǔn)確度上提升了自主武器獲取外界信息的能力。大數(shù)據(jù)基礎(chǔ)上的算法訓(xùn)練推動(dòng)了智能決策的研究。蒙特卡洛決策樹與深度神經(jīng)網(wǎng)絡(luò)的結(jié)合使得阿爾法狗（AlphaGo）在棋類游戲中所向披靡。自主武器需要明確運(yùn)作程序、規(guī)則和目的，這一過(guò)程需要在大量模型基礎(chǔ)上進(jìn)行訓(xùn)練。在每一個(gè)訓(xùn)練模型都需要人類設(shè)定時(shí)，會(huì)出現(xiàn)因操作環(huán)境復(fù)雜以至于人類無(wú)法建立模型的情況，制約了自主武器的發(fā)展。 計(jì)算機(jī)性能和深度學(xué)習(xí)的發(fā)展使得機(jī)器可以在訓(xùn)練數(shù)據(jù)的基礎(chǔ)上自主學(xué)習(xí)，通過(guò)經(jīng)驗(yàn)來(lái)提高知識(shí)，而不依賴于人類定義的有限模型。

總而言之，人工智能在數(shù)據(jù)處理、自然語(yǔ)言處理、計(jì)算機(jī)視覺(jué)和深度學(xué)習(xí)等方面正逐步走向更加高效的發(fā)展階段，將為今后人工智能的反恐應(yīng)用提供更為有效的技術(shù)支持。

二、人工智能技術(shù)在反恐活動(dòng)中的初步應(yīng)用

人工智能在計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理和智能決策等方面的迅速發(fā)展為人工智能在反恐活動(dòng)中的實(shí)際應(yīng)用提供了基礎(chǔ)條件?？偟膩?lái)說(shuō)，充分利用持續(xù)進(jìn)步的人工智能技術(shù)，可以在控制恐怖組織信息傳播、解讀反恐情報(bào)、預(yù)防恐怖事件方面發(fā)揮更大的作用。

（一）通過(guò)人工智能技術(shù)輔助控制恐怖組織信息的傳播

利用推特、臉書、優(yōu)兔網(wǎng)（YouTube）、圖享（Instagram）等社交媒體招募潛在恐怖行為支持者，已經(jīng)成為“伊斯蘭國(guó)”（ISIS）等極端恐怖組織影響力擴(kuò)張的重要途徑。僅在2014年9月至12月期間，“伊斯蘭國(guó)”的支持者就使用了約46 000個(gè)推特帳號(hào)。 恐怖組織利用推特宣揚(yáng)“圣戰(zhàn)”，對(duì)個(gè)人賬戶、機(jī)構(gòu)賬戶及整個(gè)社交網(wǎng)絡(luò)都進(jìn)行充分的內(nèi)容控制。 恐怖主義的支持者們關(guān)注并轉(zhuǎn)發(fā)此類信息，使得極端意識(shí)形態(tài)從有關(guān)機(jī)構(gòu)賬戶流向更廣泛的傳播網(wǎng)絡(luò)。此外，恐怖組織發(fā)布的內(nèi)容以視頻形式為主，相較于文字更難控制。

隨著深度學(xué)習(xí)算法的不斷完善，人工智能技術(shù)在視頻、語(yǔ)音和圖像識(shí)別方面的能力不斷增強(qiáng)。目前，科技手段已經(jīng)能夠有效參與到反恐行動(dòng)中：YouTube的“變革創(chuàng)造者”（Creators for Change）以及Facebook的“點(diǎn)對(duì)點(diǎn)”（Person-to-person， P2P）和“線上公民勇氣倡議”（Online Civil Courage Initiative， OCCI）正加入到“反擊演講”（counter speech）的操作中。 人工智能手段在反恐活動(dòng)的作用也開始引發(fā)更廣泛的關(guān)注。

人工智能可以通過(guò)圖像匹配技術(shù)控制之前被標(biāo)記為恐怖主義的宣傳圖像或視頻的上傳。 系統(tǒng)可以將用戶上傳的照片或視頻與已知恐怖信息數(shù)據(jù)庫(kù)比對(duì)，以此來(lái)決定上傳行為是否被拒絕。 Facebook、微軟、Twitter和YouTube已經(jīng)著手共建歐盟互聯(lián)網(wǎng)論壇和共享行業(yè)數(shù)據(jù)庫(kù)，改進(jìn)現(xiàn)有的聯(lián)合工作技術(shù)，利用機(jī)器學(xué)習(xí)，開發(fā)和實(shí)施新的內(nèi)容檢測(cè)和分類技術(shù)，交流實(shí)踐經(jīng)驗(yàn)，并確定恐怖主義相關(guān)內(nèi)容的刪除標(biāo)準(zhǔn)。 事實(shí)上，YouTube的“重定向方法”（redirect method）已經(jīng)部分實(shí)現(xiàn)了定位和消除社交媒體網(wǎng)絡(luò)極端主義宣傳的智能化?！爸囟ㄏ蚍椒ā睍?huì)在檢測(cè)到“伊斯蘭國(guó)”相關(guān)搜索、材料、廣告和“相關(guān)內(nèi)容”后破壞這些宣傳信息；在YouTube上搜索與“伊斯蘭國(guó)”相關(guān)的內(nèi)容時(shí)，該平臺(tái)也將搜索到與這一極端恐怖組織有關(guān)的視頻，并加以“攻擊”。 利用人工智能控制恐怖組織的信息傳播目前已經(jīng)取得了良好效果。通過(guò)利用人工智能算法工具，僅2017年上半年，推特就減少了近30萬(wàn)個(gè)恐怖分子的賬戶，清除效率提升了約20%。 人工智能也輔助Facebook刪除了99%的基地組織和“伊斯蘭國(guó)”的材料。 隨著人工智能繼續(xù)向前發(fā)展，社交媒體對(duì)恐怖主義信息的控制能力還將進(jìn)一步增強(qiáng)。

（二）依靠人工智能技術(shù)促進(jìn)反恐情報(bào)的開發(fā)和利用

人工智能在機(jī)器翻譯和圖像、語(yǔ)音識(shí)別等方面的發(fā)展使得高效開發(fā)和利用現(xiàn)有的反恐情報(bào)成為可能。現(xiàn)代技術(shù)的進(jìn)步帶動(dòng)了反恐情報(bào)數(shù)量的急劇增長(zhǎng)。無(wú)人機(jī)平臺(tái)及其全運(yùn)動(dòng)視頻傳感器收集了海量反恐情報(bào)。 受制于有限的人力資源，這些傳感器平臺(tái)和監(jiān)控設(shè)備收獲的大量視頻數(shù)據(jù)過(guò)去并沒(méi)有得到及時(shí)解析。

隨著計(jì)算機(jī)芯片的不斷進(jìn)化，人工智能對(duì)數(shù)據(jù)的高速處理能力可以實(shí)現(xiàn)低層次計(jì)算活動(dòng)的完全自動(dòng)化，進(jìn)一步發(fā)展和有效利用現(xiàn)有數(shù)據(jù)的價(jià)值。例如，人工智能在語(yǔ)言識(shí)別上的技術(shù)優(yōu)勢(shì)能夠節(jié)省培養(yǎng)新語(yǔ)言學(xué)家所需要的時(shí)間，大大提升了語(yǔ)言處理速度和準(zhǔn)確度。通過(guò)深度算法，人工智能還可以抓取恐怖組織成員及其支持者的文字和圖片。早在2013年，為探查潛在的自殺式爆炸襲擊者等恐怖分子，美國(guó)國(guó)土安全部已經(jīng)把深度學(xué)習(xí)技術(shù)應(yīng)用于“生物特征識(shí)別視覺(jué)監(jiān)控系統(tǒng)”（Biometric Optical Surveillance System， BOSS），通過(guò)鏈接計(jì)算機(jī)與攝像頭，在掃描人群后根據(jù)面孔自動(dòng)識(shí)別和定位目標(biāo)。 2017年4月，為將國(guó)防部的大量數(shù)據(jù)快速轉(zhuǎn)換為具有實(shí)際價(jià)值的情報(bào)，美國(guó)國(guó)防部啟動(dòng)了“算法戰(zhàn)跨職能小組”（Algorithmic Warfare Cross-Functional Team， AWCFT）。 目前該小組正在利用人工智能解析MQ-9和MQ-19無(wú)人機(jī)平臺(tái)上的全運(yùn)動(dòng)視頻傳感器數(shù)據(jù)，首批4套智能算法已經(jīng)進(jìn)入測(cè)試階段。

（三）利用人工智能技術(shù)預(yù)測(cè)以防范恐怖活動(dòng)的發(fā)生

人工智能系統(tǒng)可以根據(jù)現(xiàn)有恐怖活動(dòng)案例數(shù)據(jù)庫(kù)和各類政府?dāng)?shù)據(jù)庫(kù)及社交媒體數(shù)據(jù)庫(kù)，利用人工智能預(yù)測(cè)恐怖活動(dòng)嫌疑人和恐怖行為，從而在必要時(shí)對(duì)嫌疑人進(jìn)行防范和監(jiān)督，在可能發(fā)生恐怖襲擊的地點(diǎn)做好防范和應(yīng)急準(zhǔn)備工作。目前馬里蘭大學(xué)開發(fā)的全球恐怖主義數(shù)據(jù)庫(kù)（Global Terrorism Database）涵蓋了近17萬(wàn)起恐襲案例，隨著人工智能技術(shù)對(duì)人力的解放，以大數(shù)據(jù)為基礎(chǔ)的恐怖行為分析預(yù)測(cè)將得到顯著提升。

目前，已經(jīng)有利用大數(shù)據(jù)和人工智能算法來(lái)模擬和分析“伊斯蘭國(guó)”的案例。 2015年，安德魯·斯坦頓（Andrew Stanton）等人評(píng)估了2 200多起涉及“伊斯蘭國(guó)”的交戰(zhàn)案例，通過(guò)挖掘這些事件來(lái)推導(dǎo)“伊斯蘭國(guó)”的車載簡(jiǎn)易爆炸活動(dòng)與伊拉克的軍事行動(dòng)、聯(lián)軍空襲、“伊斯蘭國(guó)”簡(jiǎn)易爆炸活動(dòng)之間的關(guān)系，以及間接打擊、自殺式襲擊和逮捕行動(dòng)的發(fā)生規(guī)律。通過(guò)分析“伊斯蘭國(guó)”的行為，研究人員判斷出恐怖組織的優(yōu)先目標(biāo)，發(fā)現(xiàn)了以前未被認(rèn)識(shí)到的戰(zhàn)術(shù)之間的相關(guān)性。

此外，人工智能技術(shù)正逐步被應(yīng)用到對(duì)恐怖襲擊嫌疑人的預(yù)測(cè)之中。以色列公司Faception以人物性格為分類，利用算法對(duì)一個(gè)人在分類項(xiàng)中的匹配度打分，預(yù)測(cè)雖未列入官方數(shù)據(jù)但有可能發(fā)動(dòng)襲擊的人員。截至2016年，該公司已經(jīng)開發(fā)了15個(gè)分類數(shù)據(jù)庫(kù)，其首席執(zhí)行官稱，F(xiàn)aception識(shí)別人格特征的準(zhǔn)確率已經(jīng)達(dá)到80%。 Faception的面部分析技術(shù)也可以預(yù)測(cè)潛在的恐怖分子。在2015年11月巴黎恐怖襲擊涉及的11名恐怖分子中，只有3人有犯罪記錄，而Faception的面部分析技術(shù)在沒(méi)有檔案的情況下可以將其中的9人都標(biāo)記為潛在恐怖分子。 美國(guó)國(guó)家安全局開發(fā)的“天網(wǎng)”（SKYNET）也可以利用機(jī)器學(xué)習(xí)在555萬(wàn)人的蜂窩網(wǎng)絡(luò)元數(shù)據(jù)基礎(chǔ)上評(píng)估可能成為恐怖分子的潛在對(duì)象。

（四）人工智能技術(shù)推動(dòng)了自主武器的研發(fā)和運(yùn)用

自主武器按照人類在其執(zhí)行任務(wù)過(guò)程中的角色可以分為遙控階段、半自主階段和全自主階段。目前自主武器智能化水平不高，尚且處于遙控階段和半自主階段。

當(dāng)前，無(wú)人機(jī)是自主武器研發(fā)和使用的典型代表。隨著智能化的發(fā)展，世界上已有70多個(gè)國(guó)家軍隊(duì)在發(fā)展無(wú)人化系統(tǒng)平臺(tái)。截至2017年，美軍已裝備7 000多架無(wú)人機(jī)，在伊拉克、阿富汗戰(zhàn)場(chǎng)上投入運(yùn)用的履帶式機(jī)器人超過(guò)12 000個(gè)。 俄羅斯也測(cè)試了包括“巨蜥-9”（Uran-9）、索拉特尼克（Soratnik）、“平臺(tái)-M”（Platforma-M） 等多種無(wú)人地面車輛（Unmanned Ground Vehicle）。 無(wú)人機(jī)“掃描鷹”（Scan Eagle）、“灰鷹MQ – 1C”（MQ-1C Gray Eagle）和“MQ - 9收割機(jī)”（MQ-9 Reaper）在全球抗擊“伊斯蘭國(guó)”的戰(zhàn)斗中發(fā)揮了重要作用。 俄羅斯聯(lián)邦安全局在其國(guó)內(nèi)有關(guān)地區(qū)利用反恐機(jī)器人引爆，消滅了11名恐怖分子。

人工智能的發(fā)展促使各國(guó)更加重視自主化武器的研發(fā)。美國(guó)辛辛那提大學(xué)研發(fā)的ALPHA系統(tǒng)擊敗前美國(guó)空軍上校李·吉恩（Gene Lee）的事件促使美國(guó)對(duì)自主武器、無(wú)人機(jī)和深度學(xué)習(xí)投入更多資金。 美國(guó)海軍陸戰(zhàn)隊(duì)的持槍機(jī)器人、以色列的“多戈”（DOGO）自動(dòng)武裝戰(zhàn)術(shù)作戰(zhàn)機(jī)器人都部分利用人工智能嘗試實(shí)現(xiàn)機(jī)器人的自主化行動(dòng)。俄羅斯的“涅列赫塔”（Nerehta）機(jī)器人嘗試將無(wú)人戰(zhàn)車與人工智能技術(shù)結(jié)合，目前在偵察、運(yùn)輸和地面保護(hù)等方面表現(xiàn)良好。 2018年3月，俄羅斯宣布戰(zhàn)斗機(jī)器人最早將在年內(nèi)開始批量生產(chǎn)。 全自主化武器的研發(fā)需要機(jī)器具有獨(dú)立的知識(shí)和專家推理能力，如何攻克這兩個(gè)難題有賴于人工智能在機(jī)器學(xué)習(xí)和智能決策上的進(jìn)一步推進(jìn)。

目前，自主武器的研制已經(jīng)取得一些成果。俄羅斯聯(lián)合儀表制造公司的Unikum機(jī)器人能在控制過(guò)程中完全排除人工工作。 三星公司研發(fā)的機(jī)器人哨兵SGR-A1通過(guò)內(nèi)置的攝像頭、熱量及運(yùn)動(dòng)傳感器來(lái)檢測(cè)入侵者，已經(jīng)實(shí)現(xiàn)了自主發(fā)射。

三、人工智能對(duì)反恐領(lǐng)域的系統(tǒng)性影響

人工智能不僅在具體應(yīng)用上提升了反恐能力，也對(duì)反恐領(lǐng)域產(chǎn)生了系統(tǒng)性影響。各國(guó)普遍提升對(duì)人工智能技術(shù)的重視程度，甚至將其視為國(guó)家反恐戰(zhàn)略的重要組成部分。在反恐行動(dòng)上，人工智能促進(jìn)了反恐資源的融合、豐富了反恐活動(dòng)主體，加強(qiáng)了反恐合作，也在法律、道德和心理上影響了人類反恐活動(dòng)的展開。

（一）人工智能技術(shù)已經(jīng)成為各國(guó)反恐戰(zhàn)略的重要組成部分

隨著人工智能在新世紀(jì)的迅速發(fā)展，技術(shù)在安全領(lǐng)域的作用也逐漸顯現(xiàn)，人工智能開始參與到反恐活動(dòng)的方方面面，并逐漸影響到反恐活動(dòng)的頂層設(shè)計(jì)，成為各國(guó)反恐活動(dòng)的重要組成部分。中美等國(guó)在反恐形勢(shì)日益嚴(yán)峻的背景下都將利用人工智能反恐納入國(guó)家發(fā)展戰(zhàn)略。

中國(guó)已經(jīng)將發(fā)展人工智能作為一項(xiàng)基本國(guó)策，在戰(zhàn)略層面多次強(qiáng)調(diào)發(fā)揮人工智能在反恐中的作用?！缎乱淮斯ぶ悄馨l(fā)展規(guī)劃》《促進(jìn)新一代人工智能產(chǎn)業(yè)發(fā)展三年行動(dòng)計(jì)劃（2018—2020年）》《人工智能標(biāo)準(zhǔn)化白皮書》都重視利用人工智能提升公共安全保障能力。 把現(xiàn)代信息技術(shù)與反恐維穩(wěn)工作有機(jī)融合，推進(jìn)大數(shù)據(jù)、人工智能等新技術(shù)的深度應(yīng)用，不斷提高信息化、智能化水平，已經(jīng)成為有關(guān)地區(qū)維穩(wěn)工作的指導(dǎo)原則。

作為五角大樓“第三次抵消戰(zhàn)略”（Third Offset Strategy）的核心邏輯，美國(guó)早在2007年就將人工智能作為反恐所需的核心技術(shù)之一。 2016年發(fā)布的《為人工智能的未來(lái)做好準(zhǔn)備》和《國(guó)家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》提出，將人工智能技術(shù)的研發(fā)確定為國(guó)家戰(zhàn)略中的重點(diǎn)發(fā)展對(duì)象，建議在國(guó)際人道主義基礎(chǔ)上推進(jìn)自動(dòng)和半自動(dòng)武器的發(fā)展。 美國(guó)陸軍部則將機(jī)器學(xué)習(xí)、傳感器與控制系統(tǒng)、人機(jī)交互列為最值得關(guān)注的科技發(fā)展趨勢(shì)之一。 目前，美國(guó)在國(guó)家層面愈加重視人工智能的發(fā)展，將加強(qiáng)對(duì)自主武器、人工智能、機(jī)器學(xué)習(xí)等的投入視為防范和打擊恐襲的戰(zhàn)略途徑之一。

日本和俄羅斯也不斷提升對(duì)人工智能的重視程度。日本內(nèi)閣召開“人工智能技術(shù)戰(zhàn)略會(huì)議”，將發(fā)展人工智能納入了《第5期科學(xué)技術(shù)基本計(jì)劃》和《科學(xué)技術(shù)創(chuàng)新綜合戰(zhàn)略2016》，強(qiáng)調(diào)人工智能關(guān)系到國(guó)家工業(yè)和軍事的發(fā)展，將人工智能視為提升國(guó)家競(jìng)爭(zhēng)力的手段。 俄羅斯外交和國(guó)防政策委員會(huì)也認(rèn)為人工智能是維護(hù)主權(quán)和保持國(guó)防能力的關(guān)鍵。

（二）人工智能技術(shù)正在改變傳統(tǒng)反恐領(lǐng)域的基本規(guī)則

在人工智能納入國(guó)家頂層設(shè)計(jì)的背景下，傳統(tǒng)的反恐領(lǐng)域的很多基本規(guī)則——例如反恐資源融合，反恐活動(dòng)主體、反恐合作方式等也正一一發(fā)生微妙的變化。

第一，人工智能的介入促進(jìn)了國(guó)家組織機(jī)構(gòu)的資源融合和共享。美國(guó)國(guó)防部?jī)?nèi)部復(fù)雜的職位設(shè)置和分工一定程度上干擾了反恐行動(dòng)的策劃和有效實(shí)施。利用人工智能反恐涉及多個(gè)組織部門的協(xié)調(diào)與合作，在一定程度上促進(jìn)了國(guó)防資源的整合。2017年4月啟動(dòng)的“算法戰(zhàn)跨職能小組”（AWCFT）將聯(lián)合參謀部、國(guó)防部顧問(wèn)辦公室（the Office of the DoD General Counsel）、國(guó)防部分管情報(bào)的副部長(zhǎng)等國(guó)防部成員組合在一起，在組織結(jié)構(gòu)上實(shí)現(xiàn)了國(guó)防部?jī)?nèi)部的資源整合。 此外，人工智能在反恐領(lǐng)域的介入也促進(jìn)了國(guó)家職能機(jī)構(gòu)間的資源重組，促進(jìn)專業(yè)化機(jī)構(gòu)的產(chǎn)生。2018年3月，美國(guó)國(guó)會(huì)建議成立“國(guó)家人工智能安全委員會(huì)”，號(hào)召組建主管人工智能建設(shè)的獨(dú)立政府部門，探究軍事上應(yīng)用人工智能和機(jī)器學(xué)習(xí)的風(fēng)險(xiǎn)，促進(jìn)美國(guó)人工智能、機(jī)器學(xué)習(xí)和相關(guān)技術(shù)的發(fā)展， 全面解決國(guó)家安全需要。

第二，人工智能的介入也使得反恐活動(dòng)組織方式發(fā)生了變化。在國(guó)家安全部門的領(lǐng)導(dǎo)下，科技公司逐步成為反恐活動(dòng)的主要參與者，政府與企業(yè)的合作成為反恐合作的重要方向。作為反恐行動(dòng)的主導(dǎo)，美國(guó)政府已經(jīng)在開展“深綠”（Deep Green）計(jì)劃。 人工智能自適應(yīng)無(wú)線電技術(shù)和人機(jī)協(xié)作項(xiàng)目等多個(gè)以人工智能為核心的反恐項(xiàng)目也在推進(jìn)。 目前，在美國(guó)國(guó)防部主導(dǎo)人工智能反恐活動(dòng)的同時(shí)，越來(lái)越多的科技企業(yè)也融入其中。美國(guó)人工智能公司帕蘭提爾（Palantir）開發(fā)的“帕蘭提爾科技”（Palantir Technologies）被用于追捕“基地”組織頭目本·拉登（Osama Bin Laden）。 “算法戰(zhàn)跨職能小組”也整合了機(jī)器學(xué)習(xí)、自動(dòng)化、計(jì)算機(jī)視覺(jué)算法等方面的國(guó)防情報(bào)企業(yè)資源。

第三，人工智能也加強(qiáng)了國(guó)家間的反恐合作，智能武器和情報(bào)共享可能成為未來(lái)反恐國(guó)際合作的主流。在人工智能的幫助下，未來(lái)國(guó)家間情報(bào)共享程度有望得到進(jìn)一步提升，反恐情報(bào)可能從人工智能技術(shù)發(fā)達(dá)的國(guó)家和地區(qū)流向技術(shù)落后的國(guó)家和地區(qū)。與此同時(shí)，智能武器可能成為反恐國(guó)際合作的重點(diǎn)。由于“彩虹—4”無(wú)人機(jī)在執(zhí)行反恐任務(wù)時(shí)表現(xiàn)出色，沙特于2017年確定引進(jìn)中國(guó)無(wú)人機(jī)生產(chǎn)線，服務(wù)國(guó)內(nèi)反恐需要。 埃及也從中國(guó)引進(jìn)了翼龍偵察打擊一體化無(wú)人機(jī)，用于提高埃及作戰(zhàn)能力。 由于智能武器引進(jìn)便捷、打擊高效、耗資較少等特點(diǎn)，未來(lái)可能會(huì)有更多傳統(tǒng)軍事力量薄弱但面臨恐怖威脅的國(guó)家或地區(qū)引進(jìn)智能武器。

（三）人工智能對(duì)開展反恐活動(dòng)的法律、道德和心理影響

對(duì)于智能武器的應(yīng)用是否符合現(xiàn)有的國(guó)際法，目前存在爭(zhēng)議，國(guó)際社會(huì)就智能武器的使用規(guī)范尚未達(dá)成共識(shí)。1983年生效的《特定常規(guī)武器公約》規(guī)定禁止或限制使用某些被認(rèn)為具有過(guò)分傷害力或?yàn)E殺濫傷作用的常規(guī)武器。1977年《日內(nèi)瓦四公約第一附加議定書》禁止附帶使平民生命受損失、平民受傷害、平民物體受損害。在實(shí)際應(yīng)用中，自主武器在行動(dòng)中容易造成大量平民傷亡。巴基斯坦“基本權(quán)利基金會(huì)”主席沙赫扎德·阿克巴爾表示，在過(guò)去12年中，至少有3 000名巴基斯坦平民死于美國(guó)無(wú)人機(jī)空襲，其中至少包括200名兒童。 聯(lián)合國(guó)全球反恐戰(zhàn)略提出，確保尊重所有人的人權(quán)和法治是打擊恐怖主義的根本基礎(chǔ)，規(guī)定各國(guó)必須確保其打擊恐怖主義所采取的任何措施符合人權(quán)法、難民法和國(guó)際人道主義法。 從反恐的角度看，智能武器的濫殺行為一定程度上削弱了反恐的法律和道德基礎(chǔ)。

自由意志和道德責(zé)任控制著人類對(duì)一般武器的使用，而自動(dòng)武器依據(jù)固定程序做出判斷，既沒(méi)有責(zé)任主體，也不會(huì)對(duì)殺戮產(chǎn)生道德反思。 所以利用缺乏道德和法律約束的智能武器殺人的行為一定程度上沖擊了大眾對(duì)反恐的心理認(rèn)識(shí)。美籍俄羅斯裔科幻作家艾薩克·阿西莫夫（Isaac Asimov）提出機(jī)器人倫理問(wèn)題的三定律，認(rèn)為機(jī)器人不得傷害人類族群，或坐視人類族群受到傷害，以三定律來(lái)約束人工智能機(jī)器的行為，賦予它們服從和保護(hù)人類的強(qiáng)制性道德準(zhǔn)則。 但人工智能擁有自主性或自我意識(shí)后，將不可能服從機(jī)器人定律或任何人類法律的約束，對(duì)機(jī)器人的道德要求很難實(shí)現(xiàn)。

當(dāng)前人工智能的直接行動(dòng)方尚未成為法律和倫理主體，無(wú)法為其行為負(fù)責(zé)。目前聯(lián)合國(guó)教科文組織和歐盟等都將人類代理人（如制造商、經(jīng)營(yíng)者、所有者或使用者）作為人工智能行為責(zé)任的承擔(dān)者，主張讓機(jī)器人的行為及決策全程處于監(jiān)管之下。 但此種倡議也僅適用于弱人工智能階段。從技術(shù)的角度出發(fā)，目前有兩種規(guī)范機(jī)器人行為的設(shè)想。其一是自上而下，在人工智能機(jī)器中預(yù)設(shè)一套可操作性的倫理準(zhǔn)則；其二是自下而上，通過(guò)研究人類現(xiàn)實(shí)和模擬場(chǎng)景讓機(jī)器學(xué)習(xí)人類在實(shí)際情況中的行為，使其樹立與人類相似的價(jià)值觀。 這兩種設(shè)想在現(xiàn)階段都還難以實(shí)現(xiàn)。

四、人工智能技術(shù)參與反恐活動(dòng)的潛在風(fēng)險(xiǎn)

作為一項(xiàng)正在高速發(fā)展進(jìn)程中的新技術(shù)，人工智能技術(shù)的發(fā)展還遠(yuǎn)未成熟，這也就意味著人工智能在反恐領(lǐng)域的應(yīng)用必然伴隨著一定的風(fēng)險(xiǎn)。

第一，在反恐領(lǐng)域應(yīng)用人工智能需要以人工智能技術(shù)的穩(wěn)定性和可操控性為基礎(chǔ)，但目前人類尚未實(shí)現(xiàn)對(duì)人工智能體系及相關(guān)設(shè)施的完全控制，人工智能的發(fā)展存在失控的風(fēng)險(xiǎn)。目前，已經(jīng)出現(xiàn)了人工智能失控的情況。Facebook兩個(gè)昵稱為Alice和Bob的程序使用了研究人員無(wú)法解讀的交流方式，亞馬遜人工智能程序Alexa隨意發(fā)出了“令人毛骨悚然”的笑聲。 英國(guó)巴斯大學(xué)的一個(gè)編程團(tuán)隊(duì)曾透露，就連設(shè)計(jì)者僅憑觀察來(lái)破譯他們所研發(fā)的機(jī)器人的行為也有困難。 這意味著利用人工智能進(jìn)行反恐活動(dòng)時(shí)很可能失控，可能會(huì)錯(cuò)誤地刪除用戶信息，也可能隨意將普通民眾識(shí)別為恐怖分子。在涉及自主武器時(shí)，人工智能的失控將導(dǎo)致自主武器失控，造成重大傷亡。

第二，人工智能的預(yù)測(cè)功能尚無(wú)法保證準(zhǔn)確性和公平性。伊斯蘭堡半島電視臺(tái)記者艾哈邁德·穆法克·扎伊丹（Ahmad Muaffaq Zaidan）工作中曾與恐怖組織有多次接觸，美國(guó)政府“天網(wǎng)”程序根據(jù)對(duì)扎伊丹社交網(wǎng)絡(luò)的分析將其列為“基地”組織及穆斯林兄弟會(huì)成員。 即便系統(tǒng)做出了準(zhǔn)確預(yù)測(cè)的結(jié)果，也不一定是出于正確的原因。在訓(xùn)練計(jì)算機(jī)系統(tǒng)區(qū)分狗和狼的實(shí)驗(yàn)中，計(jì)算機(jī)系統(tǒng)準(zhǔn)確率幾乎達(dá)到100%。但事實(shí)證明，計(jì)算機(jī)學(xué)會(huì)的并非是識(shí)別狼與狗的圖像差異，而是識(shí)別照片中的雪，所有的狼的照片都是在雪地里拍的，狗的照片卻不是。 所以人工智能在少數(shù)案例中的準(zhǔn)確性并不能成為其廣泛可靠應(yīng)用的保證。此外，計(jì)算機(jī)系統(tǒng)很難保障公平性。美國(guó)《科學(xué)》雜志曾指出，當(dāng)智能算法通過(guò)分析處理人類書寫的文本來(lái)學(xué)習(xí)詞句的含義時(shí)，可能獲得類似于人類偏見(jiàn)那樣的刻板印象，所以計(jì)算機(jī)向人類學(xué)習(xí)時(shí)可能會(huì)產(chǎn)生偏見(jiàn)。 例如，某些以算法為基礎(chǔ)的廣告會(huì)出現(xiàn)向女性推薦低薪工作及向非裔美國(guó)人推薦低檔社區(qū)的現(xiàn)象。 這意味著數(shù)據(jù)庫(kù)的性質(zhì)會(huì)影響人工智能的判斷，人工智能很可能會(huì)將具有某一膚色、種族特征的人識(shí)別為恐怖分子。

第三，人工智能在反恐領(lǐng)域的應(yīng)用可能侵犯民眾的隱私。從某種意義上說(shuō)，以大數(shù)據(jù)為基礎(chǔ)的研究是建立在侵犯用戶隱私權(quán)基礎(chǔ)上的，即使對(duì)信息來(lái)源進(jìn)行特殊處理，也難以控制用戶信息的泄露。2006年，網(wǎng)絡(luò)視頻公司奈飛公司（Netflix）放出上億條匿名處理的電影評(píng)分?jǐn)?shù)據(jù)，有研究人員通過(guò)對(duì)比匿名數(shù)據(jù)與公開獲取的IMDB數(shù)據(jù)，將匿名數(shù)據(jù)與具體的用戶對(duì)應(yīng)了起來(lái)。 在反恐視野內(nèi)，有些國(guó)家政府對(duì)數(shù)據(jù)的搜集和使用本身涉及了隱私侵犯問(wèn)題。美國(guó)國(guó)家安全局開發(fā)的“天網(wǎng)”（SKYNET）項(xiàng)目可以獲取巴基斯坦境內(nèi)5 500萬(wàn)個(gè)手機(jī)用戶的信號(hào)來(lái)源、移動(dòng)軌跡、通話對(duì)象、通話時(shí)長(zhǎng)等信息。 部分政府和組織出臺(tái)了數(shù)據(jù)使用的相關(guān)條例，如《英國(guó)數(shù)據(jù)保護(hù)法案》（1998）和《歐盟一般數(shù)據(jù)保護(hù)條例》（2016）規(guī)定了政府分析人士使用公民數(shù)據(jù)的方式，推動(dòng)保護(hù)隱私權(quán)，但是在數(shù)據(jù)開源的網(wǎng)絡(luò)環(huán)境中，個(gè)人隱私能否得到切實(shí)保護(hù)尚難以預(yù)料。

五、簡(jiǎn)短展望

鑒于人工智能技術(shù)的現(xiàn)有發(fā)展水平，結(jié)合當(dāng)前恐怖主義的發(fā)展?fàn)顟B(tài)和近期人工智能技術(shù)的發(fā)展趨勢(shì)，未來(lái)人工智能在反恐領(lǐng)域的運(yùn)用有三個(gè)可以預(yù)見(jiàn)的發(fā)展趨勢(shì)應(yīng)當(dāng)引起重視。

首先，人工智能在計(jì)算機(jī)視覺(jué)和自然語(yǔ)言處理方面將很快迎來(lái)速度和質(zhì)量上的飛躍，帶動(dòng)反恐情報(bào)處理和恐怖事件防范的提升。在自然語(yǔ)言處理方面，當(dāng)前的機(jī)器翻譯嚴(yán)重依賴于大規(guī)模平行語(yǔ)料庫(kù)（large-scale parallel corpora）。反恐情報(bào)涉及的語(yǔ)言多樣，訓(xùn)練機(jī)器以單語(yǔ)語(yǔ)料庫(kù)（monolingual corpora）為基礎(chǔ)進(jìn)行自主學(xué)習(xí)才可能突破平行語(yǔ)料庫(kù)的局限。目前Facebook團(tuán)隊(duì)基于重構(gòu)損失迭代的新翻譯模型和FAIR研究自動(dòng)生成平行語(yǔ)料的實(shí)驗(yàn)，已經(jīng)表明人類在單語(yǔ)語(yǔ)料庫(kù)運(yùn)用方面取得突破。 在計(jì)算機(jī)視覺(jué)方面，反恐信息提取的準(zhǔn)確度和速度未來(lái)可能得到顯著提升。海康威視團(tuán)隊(duì)提出的卷積式共現(xiàn)特征學(xué)習(xí)框架和杰弗里·欣頓（Geoffrey Hinton）提出的膠囊網(wǎng)絡(luò)（capsule networks）有望克服當(dāng)前卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的層次少，圖像識(shí)別不準(zhǔn)確的硬傷。 阿里巴巴團(tuán)隊(duì)提出的基于交替方向法的多比特量化方案也克服了循環(huán)神經(jīng)網(wǎng)絡(luò)（Recurrent Neural Networks）的延時(shí)缺陷，提升了人工智能的推斷速度。

其次，未來(lái)人工智能很可能成為恐怖組織的發(fā)動(dòng)恐襲的工具，反恐力量與恐怖組織可能面臨在人工智能領(lǐng)域的博弈。主要軍事力量的自主武器可能通過(guò)非法途徑落入激進(jìn)組織手中。隨著數(shù)字資源越來(lái)越面向全世界開放，恐怖組織可以進(jìn)行簡(jiǎn)單人工智能武器的自主研發(fā)，也可以較為容易地獲取和使用微型和小型無(wú)人系統(tǒng)。 事實(shí)上，很難阻止恐怖組織將人工智能納入恐襲計(jì)劃。“伊斯蘭國(guó)”也已經(jīng)開始嘗試使用商業(yè)無(wú)人機(jī)投擲爆炸物。 此外，反恐力量很難發(fā)現(xiàn)并摧毀恐怖分子的人工智能武器生產(chǎn)點(diǎn)，恐怖組織可以用看似正常的工業(yè)和研究活動(dòng)來(lái)掩蓋人工智能武器的開發(fā)。 由于武器的自主性，恐怖組織利用自主化武器屠殺平民也將不再受到組織內(nèi)部的反對(duì)。 這是對(duì)反恐事業(yè)的巨大威脅。

最后，雖然遭受廣泛質(zhì)疑，自主性武器的研發(fā)還將繼續(xù)，所以自主武器未來(lái)可能會(huì)應(yīng)用到反恐等安全領(lǐng)域。埃隆·馬斯克（Elon Musk）和穆斯塔法·蘇萊曼（Mustafa Suleyman）等多國(guó)專家呼吁禁止自主性武器研發(fā)，認(rèn)為目前正在進(jìn)行的殺手機(jī)器人研發(fā)競(jìng)賽是“潘多拉的盒子”。 2018年4月，也有多國(guó)人工智能研究人員聯(lián)名抵制韓國(guó)科學(xué)技術(shù)院設(shè)立人工智能武器實(shí)驗(yàn)室的舉動(dòng)。 但目前美國(guó)、英國(guó)、俄羅斯、以色列等國(guó)已經(jīng)卷入一場(chǎng)打造殺人機(jī)器人軍團(tuán)的競(jìng)賽，倫理并不能阻礙自主性武器的研制。 正如美國(guó)戰(zhàn)略與國(guó)際研究中心最新報(bào)告所指出的，當(dāng)前最重要的不是考慮全自主武器帶來(lái)的倫理問(wèn)題，對(duì)于國(guó)防部而言，重要的是不能在機(jī)器智能的使用和開發(fā)領(lǐng)域滯后于他國(guó)。 這樣一種競(jìng)賽，對(duì)各國(guó)的反恐活動(dòng)和正常生活，究竟是禍?zhǔn)歉＃灿写M(jìn)一步觀察。

[收稿日期：2018-03-23]

[修回日期：2018-06-09]

[責(zé)任編輯：孫震海]