曾輝

近日，英國(guó)防務(wù)智庫(kù)皇家聯(lián)合軍種國(guó)防研究所（RUSI）發(fā)布報(bào)告，系統(tǒng)研究了人工智能對(duì)國(guó)家安全的威脅以及應(yīng)用。報(bào)告指出，隨著數(shù)據(jù)量不斷呈指數(shù)級(jí)增長(zhǎng)，使用更先進(jìn)的分析工具已成必要。但人工智能的惡意使用已經(jīng)對(duì)國(guó)家安全構(gòu)成了“切實(shí)威脅”，因此，安全機(jī)關(guān)迫切需要采用更先進(jìn)的數(shù)據(jù)科學(xué)技術(shù)，以應(yīng)對(duì)人工智能帶來的潛在威脅。IPP評(píng)論組織翻譯了這一報(bào)告的關(guān)鍵部分，供讀者參考。

一、背景

雖然人工智能可以增進(jìn)現(xiàn)有安全機(jī)制的效率和有效性，但同時(shí)也會(huì)帶來新的問題，這些問題需要在現(xiàn)有法律和監(jiān)管框架內(nèi)進(jìn)行評(píng)估。最近，一些分析人士稱，人工智能和高級(jí)分析技術(shù)在監(jiān)管方面有潛在的風(fēng)險(xiǎn)，可能會(huì)產(chǎn)生隱私或人權(quán)問題?？萍及l(fā)展帶來的安全挑戰(zhàn)是英國(guó)的高度優(yōu)先事項(xiàng)之一。根據(jù)英國(guó)政府通信總部（GCHQ）的說法，有必要開展有關(guān)國(guó)家安全與人工智能的辯論，這樣有利于更快地獲得應(yīng)對(duì)方案，也能給公眾一個(gè)交代。

GCHQ進(jìn)一步指出，“人工智能的應(yīng)用必須符合倫理規(guī)范，并接受有效的監(jiān)管”。英國(guó)軍情五處總干事安德魯·帕克（Andrew Parker）表示，雖然人工智能能夠讓我們實(shí)時(shí)地了解成千上萬人的生活細(xì)節(jié)，但是我們?nèi)詿o法通過數(shù)據(jù)了解人類的思想。

令人擔(dān)憂的是，許多不成熟的人工智能技術(shù)在商業(yè)界開始流行。英國(guó)安全機(jī)關(guān)在數(shù)據(jù)的獲取和使用方面需要接受額外的審查，而私營(yíng)部門卻并非如此。

因此，人工智能的國(guó)家安全應(yīng)用需要比商業(yè)應(yīng)用有更高程度的魯棒性、彈性和獨(dú)立性。

此外，英國(guó)安全機(jī)關(guān)需要在不損害社會(huì)和倫理價(jià)值觀，以及公眾信任的前提下，充分利用人工智能帶來的機(jī)遇，制定明確、科學(xué)的決策。

二、何為人工智能？?

人工智能現(xiàn)在仍沒有廣泛接受的定義。人工智能大致可分為兩大類：強(qiáng)人工智能（General AI）和弱人工智能（Narrow AI）。強(qiáng)人工智能具備與人類同等智慧或超越人類的人工智能，能表現(xiàn)正常人類所具有的所有智能行為。弱人工智能不具備人類完整的認(rèn)知能力，只處理特定的問題，例如語(yǔ)音識(shí)別、圖像識(shí)別和翻譯。幾乎目前所有的人工智能都屬于弱人工智能的范疇?？茖W(xué)界普遍認(rèn)為，強(qiáng)人工智能的普及還需要幾十年的時(shí)間才能實(shí)現(xiàn)。

弱人工智能可以理解為“使機(jī)器能夠有效地執(zhí)行高度復(fù)雜任務(wù)的通用數(shù)字技術(shù)”。人工智能通常定義為“執(zhí)行通常需要人類智能的任務(wù)”，主要由六個(gè)關(guān)鍵要素組成，即自動(dòng)推理、自然語(yǔ)言處理、知識(shí)表示、計(jì)算機(jī)視覺、機(jī)器人學(xué)以及機(jī)器學(xué)習(xí)。

弱人工智能的發(fā)展與機(jī)器學(xué)習(xí)的發(fā)展息息相關(guān)。機(jī)器學(xué)習(xí)能通過經(jīng)驗(yàn)自動(dòng)改進(jìn)計(jì)算機(jī)算法，其特點(diǎn)是使用統(tǒng)計(jì)算法進(jìn)行建模、理解和預(yù)測(cè)。算法可以定義為“為解決一個(gè)特定的問題而精心設(shè)計(jì)的一組數(shù)學(xué)指令或規(guī)則”，而機(jī)器學(xué)習(xí)是一種特殊算法，使用新數(shù)據(jù)可以優(yōu)化計(jì)算機(jī)程序的性能標(biāo)準(zhǔn)。機(jī)器學(xué)習(xí)可以大致分為四種類別：監(jiān)督學(xué)習(xí)、半監(jiān)督學(xué)習(xí)、無監(jiān)督學(xué)習(xí)和增強(qiáng)學(xué)習(xí)。

監(jiān)督學(xué)習(xí)：從給定的訓(xùn)練數(shù)據(jù)集中學(xué)習(xí)出一個(gè)函數(shù)，當(dāng)新的數(shù)據(jù)到來時(shí)，可以根據(jù)這個(gè)函數(shù)預(yù)測(cè)結(jié)果。監(jiān)督學(xué)習(xí)的訓(xùn)練集要求包括輸入和輸出，也可以說是特征和目標(biāo)。訓(xùn)練集中的目標(biāo)是由人標(biāo)注的。例如，在物體識(shí)別方面，機(jī)器可以根據(jù)訓(xùn)練數(shù)據(jù)中有關(guān)水果的照片和描述正確識(shí)別不同類型的水果。

無監(jiān)督學(xué)習(xí)：與監(jiān)督學(xué)習(xí)相比，訓(xùn)練集沒有人為標(biāo)注的結(jié)果。例如，在圖像識(shí)別方面，機(jī)器可以根據(jù)訓(xùn)練數(shù)據(jù)中有關(guān)動(dòng)物的照片，但在缺乏相關(guān)描述的情況下，對(duì)不同類型的動(dòng)物進(jìn)行正確分類。

半監(jiān)督學(xué)習(xí)：介于監(jiān)督學(xué)習(xí)與無監(jiān)督學(xué)習(xí)之間。訓(xùn)練集一半為人為標(biāo)注，另一半則為無人為標(biāo)注。機(jī)器可以根據(jù)這種訓(xùn)練集進(jìn)行預(yù)訓(xùn)練，然后通過人為標(biāo)注集進(jìn)行調(diào)整。

增強(qiáng)學(xué)習(xí)：機(jī)器為了達(dá)成目標(biāo)，隨著環(huán)境的變動(dòng)，而逐步調(diào)整其行為，并評(píng)估每一個(gè)行動(dòng)之后所得到的回饋是正向的還是負(fù)向的。例如，使用者可以對(duì)機(jī)器推薦的音樂進(jìn)行反饋，以便讓機(jī)器學(xué)習(xí)使用者的音樂喜好。隨著反饋的增多，推薦結(jié)果將越來越貼合使用者的音樂喜好。

近年來，大型數(shù)據(jù)集的普及使機(jī)器學(xué)習(xí)的應(yīng)用日益廣泛。在醫(yī)療領(lǐng)域，機(jī)器學(xué)習(xí)的圖像識(shí)別技術(shù)可用于預(yù)測(cè)嬰兒患自閉癥的風(fēng)險(xiǎn)和檢測(cè)皮膚癌。地方議會(huì)目前正在大力推廣機(jī)器學(xué)習(xí)在社區(qū)事務(wù)中的應(yīng)用。在治安管理方面，機(jī)器學(xué)習(xí)可用于預(yù)測(cè)在押案犯再次犯罪的可能性，根據(jù)“破案成功率”對(duì)案件進(jìn)行優(yōu)先排序。隨著“智慧城市”概念的不斷深入，機(jī)器學(xué)習(xí)越多越多地被用于垃圾處理、交通管理、污水處理等民政工作。根據(jù)英國(guó)政府人工智能辦公室的預(yù)測(cè)，人工智能可在2030年為英國(guó)經(jīng)濟(jì)創(chuàng)造約2320億英鎊的價(jià)值。

然而，值得注意的是，英國(guó)大多數(shù)人工智能的發(fā)展成就都是由私營(yíng)部門和學(xué)術(shù)機(jī)構(gòu)創(chuàng)造的。英國(guó)公共生活標(biāo)準(zhǔn)委員會(huì)（Committee on Standards in Public Life）的調(diào)查顯示，盡管人工智能引起了不少官員的重視，但人工智能在英國(guó)政府的普及程度并不高，而且英國(guó)政府的人工智能項(xiàng)目仍處于計(jì)劃階段。因此，如何在未來充分利用人工智能帶來的機(jī)遇，應(yīng)當(dāng)成為英國(guó)政府的高度優(yōu)先事項(xiàng)。

三、AI在國(guó)家安全中的應(yīng)用?

“信息過載”給英國(guó)安全機(jī)關(guān)帶來了嚴(yán)峻挑戰(zhàn)，正如美國(guó)貝爾弗科學(xué)與國(guó)際事務(wù)中心（BCSIA）格雷格·艾倫（Greg Allen）和塔尼爾·陳（Taniel Chan）所說：“隨著數(shù)據(jù)量的激增，情報(bào)工作的難度也隨之加大，想要找出有價(jià)值的信息猶如大海撈針?！?/p>

“信息過載”只是一方面。英國(guó)上議院議員大衛(wèi)·安德森（David Anderson）在2015年的政府工作報(bào)告中指出，通信方式的變革、電信供應(yīng)商的分散化、通信權(quán)歸屬的爭(zhēng)議，加密技術(shù)的升級(jí)和新數(shù)據(jù)源的出現(xiàn)，加大了英國(guó)安全機(jī)關(guān)的工作難度。為了應(yīng)對(duì)這些挑戰(zhàn)，英國(guó)政府需要開發(fā)更高級(jí)的數(shù)據(jù)分析工具，而人工智能將是實(shí)現(xiàn)這一目的重要途徑之一。英國(guó)政府通信總部（GCHQ）曾公開表示：“許多類似GCHQ的機(jī)構(gòu)將考慮使用機(jī)器學(xué)習(xí)和人工智能，這有利于提高英國(guó)安全機(jī)關(guān)的工作效率和有效性，英國(guó)的國(guó)家安全也將得到更有效的保障?！?/p>

1. 人工智能在商業(yè)和行政領(lǐng)域中的優(yōu)勢(shì)

對(duì)于任何大型行政機(jī)構(gòu)而言，重復(fù)性工作占總工作量的很大一部分。使用人工智能最直接的優(yōu)勢(shì)是行政管理自動(dòng)化。2016年美國(guó)政府發(fā)布的人工智能報(bào)告稱：“人工智能帶來的主要經(jīng)濟(jì)效應(yīng)是行政管理自動(dòng)化。”

人工智能在商業(yè)領(lǐng)域中的運(yùn)用也具有重要的價(jià)值和意義。人工智能可在前臺(tái)和后臺(tái)使用：在前臺(tái)，基于計(jì)算機(jī)視覺和自然語(yǔ)言處理的人工智能系統(tǒng)可根據(jù)圖像信息，用語(yǔ)音引導(dǎo)用戶完成電子商務(wù)交易;在后臺(tái)，人工智能系統(tǒng)可通過圖像掃描，對(duì)發(fā)票進(jìn)行全自動(dòng)化的數(shù)據(jù)轉(zhuǎn)換，在貸款業(yè)務(wù)中進(jìn)行交叉引用數(shù)據(jù)，整理巨量信息，例如行業(yè)公告、財(cái)務(wù)數(shù)據(jù)等。同樣，使用人工智能可大大減少政府的工作量。

監(jiān)管自動(dòng)化也可提高政府的工作效率。德國(guó)新責(zé)任基金會(huì)（SNV）最近的一份報(bào)告提出了七種以數(shù)據(jù)驅(qū)動(dòng)的監(jiān)管工具，這些工具可使監(jiān)管機(jī)構(gòu)進(jìn)行未經(jīng)宣布的檢查和審計(jì)，人工智能便是其中之一。本報(bào)告建議將簡(jiǎn)單描述法、高級(jí)機(jī)器學(xué)習(xí)和統(tǒng)計(jì)分析技術(shù)相結(jié)合，開發(fā)一種可用于識(shí)別數(shù)據(jù)不正當(dāng)使用和非法活動(dòng)的“行為檢測(cè)系統(tǒng)”。監(jiān)管自動(dòng)化不僅有助于督促被監(jiān)管機(jī)構(gòu)遵守國(guó)家法律，而且還能給監(jiān)管機(jī)構(gòu)的員工騰出時(shí)間處理更復(fù)雜的技術(shù)問題。

2. 人工智能對(duì)網(wǎng)絡(luò)安全的重要性

當(dāng)今網(wǎng)絡(luò)威脅的增長(zhǎng)速度已遠(yuǎn)遠(yuǎn)超過了人類應(yīng)對(duì)的速度。鑒于網(wǎng)絡(luò)攻擊頻率的迅速上升，越來越多的人工智能網(wǎng)絡(luò)防御系統(tǒng)被用于檢測(cè)和防御網(wǎng)絡(luò)威脅。傳統(tǒng)的防病毒技術(shù)是基于病毒特征碼和特征庫(kù)的，而基于人工智能的防病毒技術(shù)無需借助病毒數(shù)據(jù)庫(kù)就能識(shí)別潛在的網(wǎng)絡(luò)威脅。

英國(guó)人工智能網(wǎng)絡(luò)安全公司Darktrace最近的一份報(bào)告稱：“傳統(tǒng)的網(wǎng)絡(luò)安全工具可識(shí)別已知的威脅，而人工智能卻可識(shí)別未知的網(wǎng)絡(luò)威脅。隨著網(wǎng)絡(luò)犯罪分子創(chuàng)新能力的不斷增強(qiáng)，提升網(wǎng)絡(luò)安全能力已變得十分必要。”

基于人工智能的網(wǎng)絡(luò)檢測(cè)系統(tǒng)可對(duì)各種網(wǎng)絡(luò)活動(dòng)進(jìn)行分析，對(duì)異?；顒?dòng)做出實(shí)時(shí)響應(yīng)。用戶認(rèn)證也是一個(gè)值得關(guān)注的方向。最近有研究提出了一種“行為的生物測(cè)定法”，即根據(jù)用戶數(shù)字活動(dòng)的特征判斷用戶的安全性，例如用戶使用鼠標(biāo)的習(xí)慣、輸入的字詞、語(yǔ)言特征等。這也是一種增強(qiáng)網(wǎng)絡(luò)安全的有效手段。

3. 人工智能在情報(bào)領(lǐng)域的應(yīng)用

人工智能可對(duì)非結(jié)構(gòu)化或繁雜的數(shù)據(jù)集進(jìn)行分析，并找出有價(jià)值的信息，提高情報(bào)工作的效率。人工智能在情報(bào)領(lǐng)域的應(yīng)用可大致分為三個(gè)方面：（1）認(rèn)知自動(dòng)化;（2）數(shù)據(jù)篩選、標(biāo)記、分類;（3）行為的生物測(cè)定法。

（1）認(rèn)知自動(dòng)化

人工智能最明顯的優(yōu)勢(shì)是“認(rèn)知自動(dòng)化”，即人類感官數(shù)據(jù)化（如自然語(yǔ)言處理和視聽分析）。這項(xiàng)技術(shù)可大大減少人工分析數(shù)據(jù)的時(shí)間，同時(shí)還可降低情報(bào)外泄的風(fēng)險(xiǎn)。

使用語(yǔ)音到文本的轉(zhuǎn)換可減少處理音頻數(shù)據(jù)的人力。機(jī)器翻譯也有明顯的優(yōu)勢(shì)，可用于文本的轉(zhuǎn)錄，也可直接應(yīng)用于音頻數(shù)據(jù)。最近，語(yǔ)言分析技術(shù)取得了長(zhǎng)足的進(jìn)步?！罢f話者識(shí)別”的應(yīng)用可提高搜索語(yǔ)音數(shù)據(jù)的效率。2019年2月，美國(guó)人工智能研究組織OpenAI公布了一個(gè)大規(guī)模無監(jiān)督語(yǔ)言模型GPT-2。該模型可生成連貫的文本段落，并能夠執(zhí)行基本的閱讀理解、機(jī)器翻譯、問答和總結(jié)，在許多語(yǔ)言建模基準(zhǔn)上表現(xiàn)出色。最近研究表明，受過機(jī)器學(xué)習(xí)訓(xùn)練的模型可根據(jù)語(yǔ)言風(fēng)格識(shí)別作者的身份。

人工智能還可提高視頻數(shù)據(jù)處理的效率，物體分類和面部匹配技術(shù)的應(yīng)用也可以大幅度減少搜索視頻的時(shí)間。另一個(gè)優(yōu)勢(shì)是對(duì)不同的視頻進(jìn)行分類，防止有害內(nèi)容對(duì)用戶造成不良影響，例如涉及暴力或性虐待的視頻。視頻摘要在視頻分析和基于內(nèi)容的視頻檢索中扮演著重要角色，例如，機(jī)器學(xué)習(xí)算法在視頻摘要中的應(yīng)用，即采用“關(guān)鍵幀捕獲”技術(shù)捕獲原始視頻的內(nèi)容，生成視頻摘要。這項(xiàng)技術(shù)可用來記錄某一時(shí)間段內(nèi)視頻所發(fā)生的變化。

美國(guó)軟件工程研究所（SEI）正在開發(fā)多視頻摘要技術(shù)，其最終目標(biāo)是通過識(shí)別和搜索多個(gè)視頻中的行為模式，預(yù)測(cè)未來可能發(fā)生的事件。

（2）數(shù)據(jù)篩選、標(biāo)記、分類

英國(guó)安全機(jī)關(guān)采集的數(shù)據(jù)主要是通過體積縮減系統(tǒng)進(jìn)行處理的，這個(gè)系統(tǒng)能夠?qū)?shù)據(jù)進(jìn)行過濾、搜索和篩選。如果在這一過程中使用人工智能，就可提高體積縮減系統(tǒng)的效率，確保情報(bào)分析人員只接觸到與手頭任務(wù)相關(guān)的數(shù)據(jù)，最大限度地減少間接入侵。美國(guó)國(guó)家研究委員會(huì)（UNRC）在2015年的一份報(bào)告中稱：“雖然目前仍沒有可完全取代大規(guī)模信號(hào)情報(bào)采集的技術(shù)，但可提高情報(bào)采集的針對(duì)性及控制所采集情報(bào)的使用。英國(guó)需要開發(fā)一種可限制對(duì)情報(bào)的訪問、審核和使用的系統(tǒng)以加強(qiáng)隱私保護(hù)?！?/p>

大衛(wèi)·安德森在2016年撰寫的一份審查報(bào)告闡述了英國(guó)政府通信總部是如何批量攔截信號(hào)情報(bào)的。這項(xiàng)技術(shù)可分為三個(gè)步驟，即“采集”、“篩選”和“核查”。首先，評(píng)估通信的情報(bào)價(jià)值，選擇承載。然后，對(duì)選定承載的通信量進(jìn)行一定的過濾，篩選出有潛在情報(bào)價(jià)值的通信，同時(shí)丟棄無情報(bào)價(jià)值的通信。最后，將剩余的通信輸入數(shù)據(jù)庫(kù)進(jìn)行有針對(duì)性和非針對(duì)性的搜索，以獲得有情報(bào)價(jià)值的通信。由于數(shù)據(jù)量巨大，情報(bào)分析人員通常會(huì)采取應(yīng)用分類法來確定哪些情報(bào)最有價(jià)值，然后對(duì)篩選出的搜索結(jié)果進(jìn)行核查。

英國(guó)調(diào)查權(quán)利專員辦公室（IPCO）最近的年度報(bào)告指出：“絕大多數(shù)通過批量采集獲得的情報(bào)并未經(jīng)過情報(bào)分析人員的審查，但會(huì)根據(jù)特定標(biāo)準(zhǔn)進(jìn)行自動(dòng)篩選審查，使我們盡可能地獲得有價(jià)值的情報(bào)?！?/p>

如果使用得當(dāng)，人工智能可比人工操作更有效地識(shí)別多個(gè)海量數(shù)據(jù)集內(nèi)部和之間的關(guān)聯(lián)，進(jìn)而提高篩選和過濾的準(zhǔn)確性。然而，使用人工智能識(shí)別重要情報(bào)與使用行為分析法檢測(cè)（預(yù)測(cè)）可疑活動(dòng)不能相提并論。為了有效地從海量數(shù)據(jù)中提取有用的信息，人工智能可作為人機(jī)交互工作流的一部分。當(dāng)搜索或過濾通過批量采集獲得的情報(bào)時(shí)，使用人工智能可最低限度地減少人工審查內(nèi)容，以此降低間接入侵的風(fēng)險(xiǎn)。

（3）行為分析法

行為分析法可定義為將復(fù)雜算法應(yīng)用于分析和預(yù)測(cè)人類行為的一種分析方法。安全機(jī)關(guān)可通過基于行為分析法的人工智能預(yù)測(cè)各種對(duì)國(guó)家和個(gè)人的威脅。

人工智能用于反恐情報(bào)分析已成為目前關(guān)注的焦點(diǎn)。2017年倫敦和曼徹斯特恐怖襲擊事件發(fā)生后，就有官員提出改良英國(guó)安全機(jī)關(guān)的數(shù)據(jù)使用方式，以提高其反恐能力。

大衛(wèi)·安德森最近撰寫的報(bào)告描述了開發(fā)相關(guān)技術(shù)所需的能力和數(shù)據(jù)，其中提到：“隨著人工智能提取信息能力的不斷增強(qiáng)，行為分析法在人工智能中的應(yīng)用也越來越成熟，屆時(shí)現(xiàn)有的技術(shù)難題將會(huì)迎刃而解?！?/p>

大衛(wèi)·安德森指出，行為分析法永遠(yuǎn)不會(huì)過時(shí)，不僅可用于完善現(xiàn)有的反恐風(fēng)險(xiǎn)評(píng)估機(jī)制，而且還可用于偵測(cè)可疑目標(biāo)，例如分析個(gè)人心理變化、犯罪分子進(jìn)行犯罪活動(dòng)前的行為等。目前有大量的學(xué)術(shù)文獻(xiàn)研究臨床（自主）決策與統(tǒng)計(jì)（非自主）決策的相對(duì)優(yōu)勢(shì)，但學(xué)術(shù)界對(duì)它們的理解和評(píng)價(jià)仍存在巨大爭(zhēng)議。上世紀(jì)50年代的一些實(shí)證研究顯示，無論在學(xué)術(shù)或?qū)嵺`上，統(tǒng)計(jì)預(yù)測(cè)都比非結(jié)構(gòu)化臨床判斷更準(zhǔn)確。

有專家認(rèn)為，在評(píng)估個(gè)人層面的風(fēng)險(xiǎn)時(shí)，綜合預(yù)測(cè)準(zhǔn)確率從根本上是有誤導(dǎo)性的，而且有證據(jù)表明，基于專業(yè)判斷的風(fēng)險(xiǎn)評(píng)估機(jī)制優(yōu)于基于統(tǒng)計(jì)法的風(fēng)險(xiǎn)評(píng)估機(jī)制。

此外，由于恐怖暴力事件的發(fā)生頻率較低，統(tǒng)計(jì)風(fēng)險(xiǎn)模型的歷史數(shù)據(jù)集通常較小。根據(jù)學(xué)術(shù)文獻(xiàn)中的案例分析，恐怖分子的個(gè)人背景、行為模式、犯罪動(dòng)機(jī)，以及犯罪誘因等方面皆存在巨大差異。因此，恐怖分子之間的共同點(diǎn)很少。正如美國(guó)弗吉尼亞大學(xué)法學(xué)教授約翰·莫納漢（John Monahan）總結(jié)的那樣：“大多數(shù)現(xiàn)有研究未能從統(tǒng)計(jì)學(xué)的角度明確地找出誘發(fā)恐怖主義的因素，難以進(jìn)行微觀化的風(fēng)險(xiǎn)評(píng)估?！睂⒔y(tǒng)計(jì)法納入風(fēng)險(xiǎn)評(píng)估機(jī)制的另一個(gè)問題是使用行為分析法可能會(huì)導(dǎo)致個(gè)人背景信息的丟失。

考慮到行為分析法的局限性，本報(bào)告建議開發(fā)增強(qiáng)智能系統(tǒng)。這種系統(tǒng)能夠整理來自多個(gè)來源的信息，并可對(duì)重要的數(shù)據(jù)項(xiàng)進(jìn)行標(biāo)記以供人工核查。盡管如此，在評(píng)估個(gè)人行為模式或心理狀態(tài)的變化仍需要一定的人為判斷。美國(guó)軟件和服務(wù)公司Palantir最近發(fā)表的一篇文章指出：“人工智能被過分夸大了。機(jī)器的作用并不是取代人類，而是服務(wù)人類。在數(shù)據(jù)泛濫的今天，增強(qiáng)智能使安全機(jī)關(guān)能夠以更加透明的方式做出數(shù)據(jù)驅(qū)動(dòng)的決策?！?/p>

倫敦警察局局長(zhǎng)克雷西達(dá)·迪克（Cressida Dick）在2020年的RUSI年度講座上強(qiáng)調(diào)：“雖然我們需要借助各種先進(jìn)技術(shù)開展工作，但我們不會(huì)把所有的希望都寄托在人工智能上。人工智能的目的是增強(qiáng)人類智能，而不是取代人類智能，這也是公眾所期望的?！?h3>四、惡意人工智能的潛在風(fēng)險(xiǎn)?

人工智能可以帶來好處，但它也有其黑暗面，黑客利用人工智能制作惡意軟件攻擊的做法早已屢見不鮮。更讓人不安的是，一些不受同等法律框架約束的敵對(duì)國(guó)家正在大力開發(fā)惡意人工智能。網(wǎng)絡(luò)犯罪集團(tuán)在未來也會(huì)通過科技的高速發(fā)展，使用更高級(jí)的惡意人工智能進(jìn)行犯罪活動(dòng)。

1. 數(shù)字安全

人工智能惡意軟件給英國(guó)國(guó)家安全造成的威脅在未來將成為常態(tài)。具體地說，許多傳統(tǒng)的惡意軟件防御措施幾乎無法檢測(cè)到使用無限數(shù)量的加密算法的多態(tài)惡意軟件。這些軟件可主動(dòng)確定攻擊目標(biāo)，對(duì)攻擊目標(biāo)進(jìn)行優(yōu)先排序，環(huán)境適應(yīng)力強(qiáng)，可在無人為操控的情況下傳播。另一個(gè)值得關(guān)注的問題是域生成算法的惡意使用。域生成算法在惡意軟件中用于生成大量的域名，這些域名可用于與惡意軟件的命令和控制服務(wù)器的通信，例如，受感染的計(jì)算機(jī)可創(chuàng)建數(shù)千個(gè)域名，這無疑加大了反制僵尸網(wǎng)絡(luò)的難度。

近年來，更多的黑客轉(zhuǎn)向利用人的弱點(diǎn)即社會(huì)工程學(xué)法來實(shí)施網(wǎng)絡(luò)攻擊，這通常被認(rèn)為是一種欺詐他人以收集信息、行騙和入侵計(jì)算機(jī)系統(tǒng)的行為。社會(huì)工程學(xué)攻擊以不同形式，通過多樣的攻擊向量進(jìn)行傳播，例如，在大多數(shù)情況下，攻擊者利用受害者賬戶發(fā)送電子郵件，由于人們通常更容易相信來自熟人的郵件附件或鏈接，從而讓攻擊者輕松得手。

人工智能在商業(yè)領(lǐng)域的應(yīng)用也存在著不小的風(fēng)險(xiǎn)，而這些風(fēng)險(xiǎn)很可能會(huì)被黑客利用。針對(duì)訓(xùn)練數(shù)據(jù)的供應(yīng)鏈攻擊可能會(huì)導(dǎo)致人工智能系統(tǒng)無法正常運(yùn)行。攻擊者還可通過訓(xùn)練算法將惡意軟件偽裝成合法軟件在人工智能系統(tǒng)中安裝后門程序。

2. 政治安全

隨著人工智能的發(fā)展，造假技術(shù)也越來越高級(jí)。深度偽造技術(shù)是人工智能的另一種形式，可用于歪曲事實(shí)，甚至可對(duì)政治秩序構(gòu)成威脅。這項(xiàng)技術(shù)利用生成對(duì)抗網(wǎng)絡(luò)（GAN）的機(jī)器學(xué)習(xí)技術(shù)，將現(xiàn)有的圖像和影片添加到目標(biāo)圖像或影片上，例如換臉、像傀儡般的同步動(dòng)作、偽造聲帶、唇形同步等。2019年5月，三星電子（Samsung）的研究人員展示了一個(gè)人工智能系統(tǒng)，該系統(tǒng)可根據(jù)照片生成“會(huì)說話”的視頻。英國(guó)2019年大選前夕，一位名叫比爾·波斯特（Bill Posters）的藝術(shù)家公布了一段以深度偽造技術(shù)制作的視頻。在該視頻中，首相候選人鮑里斯·約翰遜（Boris Johnson）和杰里米·科爾賓（Jeremy Corbyn）相互支持對(duì)方競(jìng)選首相。他想以此告誡公眾：人工智能是一把“雙刃劍”，既能助力社會(huì)發(fā)展，也能對(duì)社會(huì)帶來危害。

假視頻很容易被識(shí)破，但由于數(shù)字內(nèi)容在網(wǎng)上傳播的速度很快，決策者有可能會(huì)被虛假信息誤導(dǎo)，給國(guó)家?guī)頌?zāi)難性的后果。

3. 實(shí)體安全

盡管目前人工智能武器化的案例很少，但恐怖分子可利用商業(yè)人工智能系統(tǒng)進(jìn)行犯罪活動(dòng)，例如，使用無人機(jī)或自動(dòng)駕駛車進(jìn)行恐怖襲擊?？梢钥隙?，這些風(fēng)險(xiǎn)會(huì)隨著人工智能的高速發(fā)展而進(jìn)一步加大。

據(jù)預(yù)測(cè)，到2035年，自動(dòng)駕駛車在歐洲的銷量將達(dá)到世界汽車總銷量的31%。此外，人類還可借助人工智能輕而易舉地完成需要專業(yè)技術(shù)的任務(wù)，例如軍事無人機(jī)的“集群攻擊”，即利用分布式人工智能網(wǎng)絡(luò)，使無人機(jī)具備持續(xù)監(jiān)視、大區(qū)域預(yù)警、對(duì)特定目標(biāo)執(zhí)行快速協(xié)調(diào)攻擊等能力。

物聯(lián)網(wǎng)、“智慧城市”和基礎(chǔ)設(shè)施互聯(lián)互通暴露出的問題讓黑客找到了可乘之機(jī)。雖然這些威脅尚未明確，但威脅仍無處不在。因此，英國(guó)政府需要制定積極、主動(dòng)的政策，應(yīng)對(duì)人工智能對(duì)國(guó)家安全的威脅。

責(zé)任編輯：趙宇然

zhaoyr@staff.ccidnet.com