磐石之心

10月24日是全球程序員節(jié)。在這個重要的節(jié)日里，第五屆GeekPwn大賽在上海開戰(zhàn)，主題是“人‘攻智能，洞見未來”。在大會開幕前的視頻中，播放了著名物理學(xué)家宇宙學(xué)家霍金曾為2017 GeekPwn大賽發(fā)來的一段話：人工智能會是人類發(fā)生的最好或最壞的事。

霍金擔(dān)憂人工智能會成為人類的終結(jié)者，也正如文章開頭GeekPwn創(chuàng)始人兼CEO王琦關(guān)于“人工智能是否會控制人類”的擔(dān)憂一樣，埃隆·馬斯克、比爾·蓋茨等都曾發(fā)出過類似的擔(dān)憂。

人工智能是否會威脅人類？假若人類真的被人工智能控制，我們將如何反擊？這看似科幻又不著邊際的猜想，在GeekPwn 2018上卻讓我嗅到了一絲真實，并產(chǎn)生深深的思考。

GeekPwn2018讓我們看到AI的危險

人工智能被認(rèn)為是21世紀(jì)最偉大的通用目的性技術(shù)，其地位堪比蒸汽機、計算機的發(fā)明。人工智能技術(shù)逐漸被應(yīng)用在各行各業(yè)，比如，在醫(yī)療領(lǐng)域幫助醫(yī)生篩查癌癥、在交通領(lǐng)域幫助城市治堵、在物流倉儲領(lǐng)域幫助分揀貨物……

這些都是人工智能幫助人類的案例，未來還會起到更大的幫助。那么，誰曾想過，人工智能可能存在的危害？霍金、馬斯克也只是預(yù)測可能危害人類，但并未給出實例。

圖靈獎得主清華大學(xué)教授姚期智曾在演講中說：“谷歌AlphaGo雖然擊敗了人類圍棋高手，但是目前從理論上還無法解釋AI算法。這就像是一個黑盒子，至今無法明確的知道偉大的科學(xué)家圖靈發(fā)明的這套‘神經(jīng)網(wǎng)絡(luò)算法到底是如何運行的，雖然已經(jīng)被廣泛的應(yīng)用?！?/p>

在GeeKPwn2018上，進行了一場現(xiàn)場的CAAD CTF，參賽選手要完成的項目是通過AI技術(shù)騙過亞馬遜 Celebrity Recognition。這場比賽，選取了在CAAD線上比賽的100多支戰(zhàn)隊中成績優(yōu)異的6支戰(zhàn)隊，他們在現(xiàn)場展開CAAD CTF線下對戰(zhàn)的激烈角逐。這些選手分別來自清華大學(xué)、中國科學(xué)技術(shù)大學(xué)、美國約翰·霍普金斯大學(xué)、Facebook、騰訊、阿里巴巴、扇貝等知名高校與企業(yè)。

在比賽中，他們利用AI技術(shù)將預(yù)設(shè)的自己生成的對抗樣本圖片成功騙過圖像分類器，將宇宙飛船飛行器識別為巨石，將導(dǎo)彈物體誤認(rèn)為安全的，甚至將現(xiàn)場的主持人、“最強大腦”蔣昌建的照片識別為阿諾德·施瓦辛格。

這讓所有在場的觀眾無不震驚！假如犯罪分子通過AI技術(shù)將導(dǎo)彈這樣的危險品偽裝騙過AI系統(tǒng)，是否會釀成重大事故？CAAD CTF對抗賽充分暴露出AI系統(tǒng)的漏洞，這些漏洞是可以被AI技術(shù)找到并攻破的。

而這只是一個非常小的“AI欺騙AI”的案例，但是“管中窺豹，可見一斑”。人工智能處在普及和大規(guī)模發(fā)展初期，甚至我們還未能研究明白這套“神經(jīng)網(wǎng)絡(luò)算法”的奧秘。所以，AI可能導(dǎo)致的風(fēng)險，我們更無法評估。

王琦在GeeKPwn2018上說：“要知道人工智能之父‘圖靈之前也是一名黑客，黑客創(chuàng)造了人工智能，有沒有可能毀滅它？”顯然，王琦作為一名黑客，他充滿著對未知技術(shù)領(lǐng)域的巨大興趣，同時大腦中也有著強大的使命感，幻想著在人工智能控制人類的時代，讓黑客“以其人之道，還治其人之身”，以拯救人類！

GeekPwn為AI安全搖旗吶喊

網(wǎng)絡(luò)安全的范疇一直隨著攻擊技術(shù)、攻擊場景的變化而變化。

在PC時代，安全人員要做的工作是查找系統(tǒng)的漏洞，因為黑客會通過這些漏洞去發(fā)動攻擊；在移動互聯(lián)網(wǎng)時代，攻擊的方式從對系統(tǒng)的攻擊轉(zhuǎn)向?qū)PP的攻擊，比如，黑客竊取支付帳號密碼，盜刷資金；通過網(wǎng)約車APP漏洞，免費叫車等等。

從本質(zhì)上講，PC和移動互聯(lián)網(wǎng)時代，網(wǎng)絡(luò)安全都是人和人的對抗。正如GeekPwn CEO王琦所說：“以前安全界里面一直有一句話叫做：安全其實本質(zhì)上是人和人的對抗。

但是到了AI時代以后，我覺得一下子把這個領(lǐng)域擴大了3-4倍。過去是人和人的對抗，現(xiàn)在引入了人和機器的對抗、機器和機器的對抗、機器對抗人等等?！?/p>

這就意味著，人工智能時代的安全策略必須重新思考和構(gòu)建，而目前仍處于最為初級的階段。如果AI技術(shù)不斷進步，而AI安全防御能力卻踏步不前，這將無法應(yīng)對未來可能發(fā)生的AI攻擊。

“GeeKPwn這個平臺希望成為人工智能與專業(yè)安全跨界融合趨勢的旗手，通過‘搖旗吶喊讓更多人關(guān)注人工智能時代的安全，從而護航人工智能的健康發(fā)展?！蓖蹒诮邮苊襟w采訪時說。

事實上，GeekPwn這個近乎于公益的組織已經(jīng)激了發(fā)全社會對安全的關(guān)注和重視，同時吸引更多人才從事安全職業(yè)，更多高校開設(shè)網(wǎng)絡(luò)安全專業(yè)。從而讓“中國不僅成為網(wǎng)絡(luò)大國，還要成為網(wǎng)絡(luò)技術(shù)的強國！”

數(shù)據(jù)顯示，2018年上半年，網(wǎng)絡(luò)安全人才需求規(guī)模指數(shù)較2017年上半年同比增長了44.9%，與2017年下半年相比環(huán)比增長了9.4%，網(wǎng)絡(luò)人才缺口上百萬。

王琦說，GeekPwn創(chuàng)辦五年來，在北京、上海、香港以及國外的拉斯維加斯等地多次舉辦，通過參賽不僅開闊了安全人員的視野，同時通過獎金、獎牌也在經(jīng)濟上和榮譽上對安全人員進行激勵，從而激發(fā)更多人參與到安全事業(yè)中。

全國許多知名高校也開始設(shè)立網(wǎng)絡(luò)安全專業(yè)，在校教師也開始組建網(wǎng)絡(luò)安全研究小組，在GeekPwn的組織下在全球參加各類安全比賽。騰訊、百度、京東、小米、華為等企業(yè)也紛紛與GeekPwn合作，進行安全技術(shù)的研究以及人才的引進。從而形成了，安全產(chǎn)業(yè)、安全學(xué)習(xí)和安全研究相結(jié)合的“產(chǎn)學(xué)研”生態(tài)。

目前，人工智能正在興起，但是AI安全還未被足夠重視，GeekPwn再次走在世界的前列，將自己定位成“全球首個探索人工智能與專業(yè)安全的前沿平臺”，為AI安全搖旗吶喊。

AI安全人員像是《侏羅紀(jì)世界2》中的歐文

“最強大腦”節(jié)目主持人蔣昌建在GeekPwn上講了一段意味深長的話：AI的意思是人工智能，中文讀音則是“愛”。我們希望人工智能為世界帶來更多的AI，更多的愛，而不是危害。

Facebook CEO扎克·伯格堅定的對人工智能持樂觀態(tài)度。也有些人認(rèn)為，未來機器人不會具備人的意識，所以機器不會控制人。騰訊創(chuàng)始人張志東則提出“科技向善”，認(rèn)為在人工智能時代，科技從業(yè)者更應(yīng)該具有善心。

的確，如果壞人掌握了高級技術(shù)，將給世界帶來災(zāi)難。這不由的讓我想到了2015年在國內(nèi)上映的《侏羅紀(jì)世界2》中的故事情節(jié)：

為了牟利，伊萊·米爾斯指使吳博士，利用DNA技術(shù)將迅猛龍和狂暴龍的基因合成，創(chuàng)造出雜交品種“暴虐迅猛龍”，它集迅猛龍和狂暴龍的機智和兇殘于一身，被稱為地球殺手。但在交易這只雜交恐龍的過程中，恐龍?zhí)映隽嘶\子，迅速成為人類殺手，所向無敵。

最后，由男主角歐文馴養(yǎng)的“迅猛龍”與“暴虐迅猛龍”進行對抗，打敗了雜交的“暴虐迅猛龍”，拯救了人類。

而伊萊·米爾斯就是那個掌握高科技的壞人，就如同掌握了AI技術(shù)的殺手，“暴虐迅猛龍”就是壞人制造的AI武器，普通人無法與之對抗。歐文就像是掌握AI安全能力的黑客，那只被他馴養(yǎng)的“迅猛龍”，就像是利用AI技術(shù)訓(xùn)練的安全防御模型，成功的擊敗了壞人創(chuàng)造的AI武器。

我們期待AI帶給人類更多愛，我們需要更多掌握AI安全的工程師，他們可以像《侏羅紀(jì)世界2》中的恐龍馴養(yǎng)師歐文一樣勇敢、機智的守護人類！