Scot Finnie Charles

安全好比是一場(chǎng)軍備競(jìng)賽。而人工智能的加入就像是戰(zhàn)爭(zhēng)從冷兵器戰(zhàn)斧跨越到了戰(zhàn)斧式巡航導(dǎo)彈。

一提到人工智能（AI）和安全問題，信息安全和IT部門就覺得這不過是一種藝術(shù)形式。畢竟，上世紀(jì)80年代以來(lái)，我們就一直聽說人工智能即將到來(lái)。很多供應(yīng)商已經(jīng)把人工智能和機(jī)器學(xué)習(xí)（ML）術(shù)語(yǔ)引入到他們的營(yíng)銷用語(yǔ)中，看起來(lái)都差不多：他們賣的是未來(lái)，而不是現(xiàn)在。

但這其中可能孕育著真理的萌芽。但是，在撰寫本文之際，我們很難找到不相信人工智能會(huì)對(duì)信息安全產(chǎn)生深遠(yuǎn)影響的專家。受訪的專家們只是在時(shí)間上有不同的意見。有的專家質(zhì)疑為什么我們還沒有見過網(wǎng)絡(luò)犯罪份子以強(qiáng)有力的方式操縱人工智能。還有專家則認(rèn)為這更像是三到五年之后的事情。但無(wú)一例外的是，所有人都將其視為安全面臨的下一重大挑戰(zhàn)。

Tom Koulopoulos是Delphi集團(tuán)主席，也是Wasabi技術(shù)公司的顧問，他評(píng)論說，展望未來(lái)三年，“我們將能看到人工智能用于自動(dòng)實(shí)施高度個(gè)性化的攻擊，這些攻擊將行為數(shù)據(jù)和網(wǎng)絡(luò)交互模式結(jié)合起來(lái)用于精準(zhǔn)地攻擊個(gè)體目標(biāo)?！毕胂肽悻F(xiàn)在收到的釣魚電子郵件，而幾年后會(huì)是什么樣子。他給出了一個(gè)人工智能推動(dòng)的釣魚攻擊實(shí)例：“想象一下，釣魚攻擊會(huì)借用與你認(rèn)識(shí)的人和你進(jìn)行實(shí)際交互：‘嘿，很高興昨天在星巴克見到您！我知道您去年夏天去過克里特島旅游之后，還想再去地中海玩一次。您想不想看看我們公司的最新優(yōu)惠……”

是不是很恐怖？Koulopoulos警告說，“人工智能不但能從我們行為的數(shù)字模式中進(jìn)行挖掘，還能從連接到物聯(lián)網(wǎng)（IoT）的越來(lái)越多的設(shè)備和應(yīng)用程序所產(chǎn)生的交互數(shù)據(jù)中進(jìn)行挖掘，由此帶來(lái)了嚴(yán)重的威脅，而上面的例子只是其牛刀小試而已?！?/p>

自動(dòng)攻擊與規(guī)避檢測(cè)

Ganesh Krishnan是Avid Secure公司的聯(lián)合創(chuàng)始人兼首席技術(shù)官，還曾是雅虎和Atlassian等公司的高級(jí)信息安全官，他舉了一個(gè)不同的例子：“更聰明的攻擊包括安裝惡意軟件，這些惡意軟件能了解它所運(yùn)行的環(huán)境，知道怎樣躲避，避開檢測(cè)，并通過難以與正常行為區(qū)分的方式去竊取數(shù)據(jù)，從而擊敗檢測(cè)和監(jiān)控工具?！?/p>

Umesh Yerram是制藥公司AmerisourceBergen的首席數(shù)據(jù)保護(hù)官，他對(duì)此表示同意。他認(rèn)為，“一旦人工智能技術(shù)得到了廣泛應(yīng)用，網(wǎng)絡(luò)犯罪份子將能夠發(fā)起新一輪非常老練的攻擊，這些攻擊可能會(huì)避開大部分傳統(tǒng)的安全檢測(cè)和監(jiān)控工具?！?/p>

然后就是規(guī)模問題。當(dāng)今復(fù)雜的安全泄露事件通常不是自動(dòng)進(jìn)行的，攻擊者需要付出巨大的努力，而且非常老練才能實(shí)現(xiàn)入侵并竊取數(shù)據(jù)。但是人需要吃飯和睡覺，他們不能24小時(shí)工作。Domo公司的首席信息安全官兼可信和安全高級(jí)副總裁Niall Browne評(píng)論說：“快速前進(jìn)到人工智能時(shí)代，我們正在研究智能的機(jī)器對(duì)機(jī)器攻擊，這類攻擊能夠一年365天24小時(shí)毫不停歇地運(yùn)行。網(wǎng)絡(luò)犯罪人工智能系統(tǒng)每秒能做出數(shù)百萬(wàn)個(gè)直覺性的決定，以確定滲透和攻破數(shù)據(jù)的最佳方式?！盉rowne補(bǔ)充說，令人恐懼的是，未來(lái)的非法人工智能系統(tǒng)“將不僅能攻擊一家公司，而且可以同時(shí)攻擊成百上千家企業(yè)。這是非?？膳碌木跋??！?/p>

接受我們采訪的大多數(shù)專家都不相信當(dāng)人工智能察覺到自己被發(fā)現(xiàn)后，會(huì)去改變攻擊目標(biāo)。然而，Browne預(yù)測(cè)，網(wǎng)絡(luò)攻擊的重點(diǎn)將從“簡(jiǎn)單地竊取數(shù)據(jù)和關(guān)閉系統(tǒng)轉(zhuǎn)向更復(fù)雜的目標(biāo)，包括操縱?！睋Q句話說，通過改變系統(tǒng)、個(gè)人或者企業(yè)所看到的數(shù)據(jù)，從而誘使他們以某種方式去行事。Browne補(bǔ)充說，“人工智能可能被用來(lái)操縱股票價(jià)格，引起貨幣波動(dòng)，擾亂核反應(yīng)堆測(cè)試結(jié)果，甚至影響選舉結(jié)果。”

展望未來(lái)三年，Radware公司的EMEA安全拓展專員Pascal Geenens說：“我可以想象，一些組織很好的或者民族國(guó)家的網(wǎng)絡(luò)犯罪集團(tuán)使用人工智能來(lái)綜合生成和創(chuàng)建新的攻擊途徑?！彼a(bǔ)充說，人工智能的整個(gè)領(lǐng)域都會(huì)參與進(jìn)來(lái)?！耙郧埃瑱C(jī)器學(xué)習(xí)一直是自動(dòng)攻擊所利用的主要領(lǐng)域，遺傳算法和強(qiáng)化學(xué)習(xí)等人工智能系統(tǒng)將被用于生成新的攻擊途徑，并系統(tǒng)性地去破壞各種系統(tǒng)——無(wú)論是云、物聯(lián)網(wǎng)還是工業(yè)物聯(lián)網(wǎng)/SCADA。當(dāng)網(wǎng)絡(luò)犯罪分子把這些與自動(dòng)化結(jié)合使用時(shí)，我們將遇到一個(gè)完全自動(dòng)化的生態(tài)系統(tǒng)，它能隨著時(shí)間的推移而進(jìn)行自我攻擊、破壞和改進(jìn)，在規(guī)模和持久性上幾乎沒有限制?！边@將是一個(gè)不斷進(jìn)化的攻擊系統(tǒng)。

Geenens看到網(wǎng)絡(luò)罪犯分子改變了角色，從執(zhí)行真正的攻擊轉(zhuǎn)而成為人工智能自動(dòng)黑客攻擊機(jī)器的維護(hù)者和開發(fā)者。機(jī)器將進(jìn)行黑客攻擊;人將提高機(jī)器的效率。

給首席安全官和首席信息安全官的忠告

安全專家們都認(rèn)為信息安全官們應(yīng)該以牙還牙，意味著人工智能至少在防御人工智能推動(dòng)的攻擊方面同樣重要，人們相信它能擔(dān)起此重任。即便如此，很少有實(shí)例說明人工智能在這方面是如何發(fā)揮作用的。一些公司一直在密切關(guān)注這個(gè)問題。

安全領(lǐng)導(dǎo)們應(yīng)該做些什么準(zhǔn)備呢？AmerisourceBergen公司的Yerram指出，“首席安全官和首席信息安全官們應(yīng)迅速采用基于人工智能的技術(shù)。我們遲早會(huì)看到基于人工智能的威脅?，F(xiàn)在是時(shí)候讓首席安全官和首席信息安全官們領(lǐng)導(dǎo)邁向基于人工智能的安全控制，從而保護(hù)他們的企業(yè)?！?/p>

Geenens評(píng)論說：“整個(gè)過程將涉及自動(dòng)檢測(cè)日益復(fù)雜和不斷能自適應(yīng)的新威脅。你無(wú)法阻止自己察覺不到的東西?！蔽磥?lái)兩年內(nèi)可能出現(xiàn)人工智能增強(qiáng)威脅的新一波浪潮，最初的重點(diǎn)應(yīng)該是使用人工智能來(lái)確保檢測(cè)出基于人工智能的威脅。購(gòu)買和/或開發(fā)這樣的系統(tǒng)應(yīng)是當(dāng)務(wù)之急。

遲早，你的公司將被迫投資于人工智能技術(shù)，為的是防范基于人工智能的威脅。如果不是等到迫不得已時(shí)才去采取行動(dòng)，那么情況會(huì)變得更好，因?yàn)槭褂萌斯ぶ悄懿幌翊蜷_黑匣子的開關(guān)那么簡(jiǎn)單。這將需要時(shí)間和資金去研究和學(xué)習(xí)。Yerram指出，網(wǎng)絡(luò)安全專業(yè)人員應(yīng)提高他們的技能，努力研究人工智能。

Geenens則指出，“對(duì)于那些已經(jīng)經(jīng)歷了數(shù)字化轉(zhuǎn)型的環(huán)境，更可能成為自動(dòng)攻擊和人工智能攻擊的目標(biāo)，是非常容易受到攻擊的環(huán)境?！?/p>

在世界各地的企業(yè)中，人工智能將在幫助解決網(wǎng)絡(luò)安全專業(yè)人員短缺問題和網(wǎng)絡(luò)安全技能差距方面發(fā)揮關(guān)鍵作用。基于人工智能的技術(shù)和機(jī)器人過程自動(dòng)化技術(shù)將幫助信息安全部門應(yīng)對(duì)較低級(jí)別的安全威脅（例如，勒索軟件、惡意軟件和加密貨幣挖礦等），從而使得高級(jí)網(wǎng)絡(luò)安全專業(yè)人員能夠集中精力去處理新型的復(fù)雜威脅。

密切注意源代碼漏洞，并確保云供應(yīng)商也是如此。Geenens知道有人使用深度學(xué)習(xí)（機(jī)器學(xué)習(xí)的子集）來(lái)發(fā)現(xiàn)新的代碼漏洞。他說：“運(yùn)行開源軟件的云平臺(tái)將成為漏洞掃描的主要目標(biāo)。封閉的源碼軟件也難以逃過自動(dòng)攻擊?！?/p>

Koulopoulos建議我們應(yīng)該“為人類建立普遍的身份機(jī)制。在人工智能興起之際，最大的一種風(fēng)險(xiǎn)就是無(wú)法分辨它和人類。如果沒有萬(wàn)無(wú)一失的身份驗(yàn)證機(jī)制，我們不可避免地會(huì)出現(xiàn)人工智能網(wǎng)絡(luò)犯罪漏洞?！?/p>

跌宕起伏

殘酷的事實(shí)是，沒有人能預(yù)測(cè)未來(lái)。有兩種觀點(diǎn)說明了對(duì)人工智能輔助威脅的極端反應(yīng)。

國(guó)際數(shù)據(jù)公司（IDC）全球安全產(chǎn)品研究總監(jiān)Chris Kissel表示：“好的企業(yè)擁有更多的員工，更好的計(jì)算能力，能更好地理解網(wǎng)絡(luò)和硬件，與內(nèi)容交付網(wǎng)絡(luò)和云主機(jī)也有著良好的關(guān)系……但是這種‘間諜與間諜的游戲永遠(yuǎn)不會(huì)改變;改變的只是參與手段?！?/p>

Niall Browne則表示：“人類交互的許多方面現(xiàn)在都是依賴于技術(shù)。人工智能智慧的增長(zhǎng)遠(yuǎn)遠(yuǎn)快于人類，它永遠(yuǎn)不會(huì)睡覺，自然地進(jìn)行自我保護(hù)，最可怕的是它沒有道德。一旦人工智能出現(xiàn)，它將擁有巨大的能力，但卻沒有道德約束。它可以很容易地使用我們的技術(shù)來(lái)破壞我們的現(xiàn)代生活結(jié)構(gòu)?！?/p>

要點(diǎn)——不管你是否相信剛讀到的所有預(yù)測(cè)，都不如以下這一點(diǎn)重要：注意自己的情緒。這些不同觀點(diǎn)的總體基調(diào)可以概括為“這是一個(gè)可怕的局面”。不要忽視它，更不要將它束之高閣。