（聯(lián)合國犯罪司法所）

我很高興與大家一起分享我的一些人工智能重塑國家安全的想法、我們可采取的行動(dòng)和步驟。

當(dāng)今的人們比以往任何時(shí)候都更加富有、聰慧，彼此之間也建立了更廣泛的鏈接，我認(rèn)為這非常重要，能夠帶給我們前所未有的機(jī)會(huì)，快速找到之前無法解決的問題的應(yīng)對(duì)之道，AI即是如此。AI本身是一種工具，可以用于好的事物，也可以用于壞的事物，但我們應(yīng)該對(duì)人工智能技術(shù)（AI）抱有更為樂觀的態(tài)度?；氐?003年伊拉克戰(zhàn)爭期間，當(dāng)時(shí)我在聯(lián)合國武器檢查團(tuán)伊拉克調(diào)查小組工作，主要協(xié)調(diào)保護(hù)及援助禁止化學(xué)武器組織成員，那時(shí)，無人機(jī)數(shù)量寥寥可數(shù)，沒有AI或者自動(dòng)機(jī)器人，甚至也沒有智能電話。僅僅15年之后，世界完全改變了，我們擁有了虛擬現(xiàn)實(shí)系統(tǒng)（VR）、自動(dòng)駕駛汽車、虛擬化系統(tǒng)、無人機(jī)以及其他許許多多的新生事物。當(dāng)然再往后20或者30、40年后，我們的世界可能變得更加不同，人類和AI可能共同存在，我想強(qiáng)調(diào)的是這是一種趨勢(shì)，而非預(yù)測(cè)。

值得注意的是，現(xiàn)在主要由私營部門在引領(lǐng)人工智能的發(fā)展，而不是政府公共部門，很顯然政府在人工智能領(lǐng)域已經(jīng)落后了。直至2017年，才有國家開始制定人工智能國家戰(zhàn)略，中國便是其中之一。而歐盟及其他一些其他國家則通過投資或者進(jìn)行產(chǎn)業(yè)合作，作為自己國家的人工智能戰(zhàn)略。

到2015年，聯(lián)合國安理會(huì)才第一次真正地討論了AI，當(dāng)時(shí)由我主持這個(gè)討論會(huì)，與會(huì)的絕大多數(shù)聯(lián)合國代表頑固地認(rèn)為AI只存在于科幻小說，有些“卓越的”演講者甚至質(zhì)問為什么要在聯(lián)合國這樣的場(chǎng)合來討論AI。顯然，短短幾年的時(shí)間，一切都發(fā)生了改變。就在去年（2017年）的聯(lián)合國安理會(huì)上，古特雷斯秘書長在致辭中指出：“人工智能技術(shù)改變世界, 可以促進(jìn)發(fā)展和讓生活更多姿多彩，但它也會(huì)對(duì)勞動(dòng)力市場(chǎng)，甚至是全球安全和社會(huì)結(jié)構(gòu)產(chǎn)生深遠(yuǎn)的影響，我們呼吁所有的聯(lián)合國機(jī)構(gòu)和成員國都思考如何使用這項(xiàng)技術(shù)?！甭?lián)合國的許多機(jī)構(gòu)各自開展了AI項(xiàng)目和活動(dòng)，我們與聯(lián)合國犯罪司法所（UNICRI）開展了一項(xiàng)特別項(xiàng)目—UNICRI人工智能和機(jī)器人中心，總部設(shè)在荷蘭海牙，旨在提高公眾對(duì)于人工智能和機(jī)器人技術(shù)風(fēng)險(xiǎn)與利益并存的理解，從而提高協(xié)調(diào)能力，加快知識(shí)收集和傳播，提高安全意識(shí)并拓展活動(dòng)領(lǐng)域。當(dāng)前主要開展的內(nèi)容共四個(gè)項(xiàng)目：全球教育項(xiàng)目、與國際刑警合作研究在執(zhí)法過程中應(yīng)用AI技術(shù)及使用機(jī)器人的機(jī)遇及風(fēng)險(xiǎn)、AI政策與治理、消減人工智能引發(fā)的自動(dòng)化對(duì)發(fā)展中國家及轉(zhuǎn)型經(jīng)濟(jì)體社會(huì)穩(wěn)定的沖擊。

目前聯(lián)合國193個(gè)會(huì)員國的代表已經(jīng)就2015年后的發(fā)展議程達(dá)成一致，發(fā)布了題為“變革我們的世界——2030年可持續(xù)發(fā)展議程”的文件，標(biāo)志著人類社會(huì)第一次就發(fā)展的概念達(dá)成共識(shí)，提出了17個(gè)可持續(xù)發(fā)展目標(biāo)及169個(gè)子目標(biāo)，總共230個(gè)指標(biāo)，其內(nèi)容可以歸結(jié)為五大類，即人、地球、繁榮、和平和合作伙伴，是一張旨在結(jié)束全球貧困、為所有人構(gòu)建尊嚴(yán)生活且不讓一個(gè)人被落下的路線圖。當(dāng)然AI不是唯一的目標(biāo)，也不是唯一的工具，但AI是非常強(qiáng)大的工具，可能幫助實(shí)現(xiàn)上述所有的目標(biāo)。例如在協(xié)助完成消除貧困的首位目標(biāo)時(shí)，使用AI技術(shù)可以從太空中拍攝貧困地圖，使實(shí)時(shí)資源調(diào)配成為可能，等等。這也是為什么從2017年起，聯(lián)合國組織召開以AI造福全人類為主題的峰會(huì)，嘗試將AI定義為能夠?qū)崿F(xiàn)聯(lián)合國可持續(xù)發(fā)展目標(biāo)的特別項(xiàng)目。

AI將重塑國家安全。首先AI對(duì)國家安全有非常大的影響，其次AI給國家安全既帶來了收益，同時(shí)也帶來了風(fēng)險(xiǎn)，但影響程度如何并未深入討論過。這次人工智能安全高峰論壇恰逢其時(shí)，每一個(gè)觀點(diǎn)的碰撞都有助于我們實(shí)現(xiàn)目標(biāo)。首先分析AI技術(shù)應(yīng)用于安全的好處，這類例子有很多，如國際司法援助的自動(dòng)研究分析及響應(yīng)、虛擬尸檢確定死因、自主機(jī)器人巡邏系統(tǒng)、被盜汽車的視覺識(shí)別、偷盜的行為檢測(cè)、在線欺詐的自動(dòng)識(shí)別和跟蹤工具等等，這類科技的確效果明顯。其次分析AI給安全帶來的風(fēng)險(xiǎn)，在可預(yù)見的未來，AI會(huì)增強(qiáng)犯罪，被用于致命性自動(dòng)武器系統(tǒng)，帶來技術(shù)性失業(yè)，當(dāng)然還存在超級(jí)智能這類關(guān)乎人類生存的問題，這可能非常遙遠(yuǎn)，但是應(yīng)當(dāng)做到未雨綢繆。

2018年7月，我們和國際刑警合作在新加坡舉辦了首屆“執(zhí)法中應(yīng)用人工智能及機(jī)器人的機(jī)遇與風(fēng)險(xiǎn)”的全球會(huì)議，在會(huì)議上，我們研討了一些新的基于人工智能的犯罪或恐怖分子使用的工具，主要有數(shù)字攻擊、政治攻擊和物理攻擊。首先，AI用于數(shù)字襲擊將增強(qiáng)網(wǎng)絡(luò)攻擊范圍的效果，其次在政治攻擊方面，常見的形式包括利用AI擴(kuò)散假新聞，以及針對(duì)政治或公眾人物的面部交換和視頻操作工具。最后在物理攻擊方面，世界各地都存在此類情況，但使用無人機(jī)結(jié)合復(fù)雜的AI技術(shù)，襲擊極具破壞性。新加坡會(huì)議后，我們?cè)诩~約的總部介紹了會(huì)議成果，將最新的科技向聯(lián)合國成員國做了介紹，并提出了相應(yīng)的建議。

另一個(gè)大的話題——在AI領(lǐng)域各國是競(jìng)爭合作還是軍備競(jìng)賽，我本人比較樂觀。其實(shí)就在9月17日，習(xí)主席向大會(huì)發(fā)的賀信很好說明了中國對(duì)于合作和競(jìng)爭的態(tài)度，并鼓勵(lì)成果分享和國際合作。

關(guān)于AI導(dǎo)致技術(shù)性失業(yè)，聯(lián)合國已經(jīng)在日內(nèi)瓦開展了一個(gè)全球的項(xiàng)目，旨在減小人工智能引發(fā)的自動(dòng)化對(duì)發(fā)展中國家和轉(zhuǎn)型經(jīng)濟(jì)體社會(huì)穩(wěn)定的影響。

最后，我提議所有的人向前看，通過綜合分析預(yù)測(cè)和評(píng)估，認(rèn)識(shí)到合作對(duì)于解決問題的必要性，最終促成政府間、國際組織間、私營部門、學(xué)術(shù)界多元利益相關(guān)方之間的緊密合作。