人工智能是一種理論、方法、技術(shù)和應(yīng)用系統(tǒng)，它使用數(shù)字計(jì)算機(jī)或由數(shù)字計(jì)算機(jī)控制的機(jī)器來(lái)模擬和擴(kuò)展人類智能，從而感知環(huán)境，獲取知識(shí)并利用知識(shí)獲得最佳結(jié)果。 隨著人工智能技術(shù)現(xiàn)在正得到越來(lái)越多的應(yīng)用，其風(fēng)險(xiǎn)也越來(lái)越受到人們的關(guān)注。

一、人工智能發(fā)展相關(guān)風(fēng)險(xiǎn)分析

（一）警惕人工智能等新興技術(shù)帶來(lái)的系統(tǒng)性安全風(fēng)險(xiǎn)。世界經(jīng)濟(jì)論壇官方網(wǎng)站曾發(fā)布《未來(lái)系列：網(wǎng)絡(luò)安全、新興技術(shù)和系統(tǒng)風(fēng)險(xiǎn)》報(bào)告，稱第一代基于人工智能（AI）的網(wǎng)絡(luò)攻擊工具已經(jīng)出現(xiàn)，并且越來(lái)越多的證據(jù)表明攻擊者正在使用AI。深度偽造已被用來(lái)制造新的網(wǎng)絡(luò)攻擊載體，語(yǔ)音模擬軟件已經(jīng)被用于大型網(wǎng)絡(luò)盜竊中。

（三）警惕西方國(guó)家主導(dǎo)人工智能相關(guān)國(guó)際規(guī)范制定中的話語(yǔ)權(quán)。美國(guó)政府在制定人工智能發(fā)展戰(zhàn)略時(shí)，一直把中國(guó)當(dāng)作首要的比較和防范對(duì)象，把中國(guó)在人工智能領(lǐng)域里的競(jìng)爭(zhēng)視為爭(zhēng)奪世界領(lǐng)導(dǎo)權(quán)的戰(zhàn)略競(jìng)爭(zhēng)，嚴(yán)密關(guān)注中國(guó)在發(fā)展人工智能方面的動(dòng)向，竭力防止中國(guó)獲得人工智能領(lǐng)域的領(lǐng)先地位。歐盟委員會(huì)近期也宣布啟動(dòng)人工智能道德準(zhǔn)則的試行階段，盡管歐盟在人工智能投資和尖端研究上無(wú)法與中美比肩，但希望借助其在AI道德準(zhǔn)則上的優(yōu)勢(shì)，構(gòu)建AI全球監(jiān)管框架。

（四）警惕我國(guó)人工智能產(chǎn)業(yè)應(yīng)用和技術(shù)突破可能受阻。全球高校人工智能學(xué)術(shù)聯(lián)盟秘書處上海蓋亞人工智能中心理事長(zhǎng)王延峰認(rèn)為，無(wú)論應(yīng)用層，還是在核心技術(shù)層，中國(guó)人工智能發(fā)展都處于國(guó)際第一梯隊(duì)。但我們的基礎(chǔ)研究確實(shí)較弱，主要是“一軟一硬”兩個(gè)方面。硬件在通用GPU方面，有很大的短板，特別是現(xiàn)在華為海思被美國(guó)打壓。軟件方面主要是開源開放平臺(tái)。目前，中國(guó)尚未形成自主可控、具有國(guó)際影響力的人工智能開源開放平臺(tái)。

（五）警惕人工智能的軍事化和實(shí)戰(zhàn)化應(yīng)用。近年來(lái)，伴隨著人工智能第三次發(fā)展浪潮的來(lái)臨，軍事領(lǐng)域的人工智能應(yīng)用也迎來(lái)了大發(fā)展階段，而這又尤其體現(xiàn)在人工智能武器的研制與應(yīng)用方面?！峨娮诱?wù)》稱，就目前的發(fā)展現(xiàn)狀而言，人工智能在海軍、陸軍、空軍以及網(wǎng)絡(luò)攻擊等相關(guān)軍事領(lǐng)域都已經(jīng)有所應(yīng)用。在新形勢(shì)新背景下，各國(guó)圍繞人工智能的激烈競(jìng)爭(zhēng)已然開始。具體到人工智能武器而言，以此為核心的新一輪軍備競(jìng)賽同樣正在悄然發(fā)生。

（六）人工智能的發(fā)展將進(jìn)一步加劇個(gè)人隱私泄露的風(fēng)險(xiǎn)。中科院院士、清華大學(xué)人工智能研究院院長(zhǎng)張鈸表示，目前大數(shù)據(jù)等領(lǐng)域還欠缺一定安全性，而人工智能理應(yīng)更好的保護(hù)用戶隱私。但是隨著技術(shù)的發(fā)展應(yīng)用，由此引起的數(shù)據(jù)偽造、算法瓶頸、隱私安全、倫理困境等問題也日益凸顯，人工智能亟需發(fā)展出安全、可信、可靠與可擴(kuò)展的第三代人工智能技術(shù)。

二、相關(guān)建議

（一）加快數(shù)據(jù)的開放和大力整合，實(shí)現(xiàn)數(shù)據(jù)準(zhǔn)確與有效聯(lián)通，防范安全風(fēng)險(xiǎn)。中國(guó)機(jī)器人網(wǎng)稱，在規(guī)范數(shù)據(jù)使用、保護(hù)隱私等前提下，借助區(qū)塊鏈等技術(shù)，建設(shè)數(shù)據(jù)中臺(tái)，匯聚多種來(lái)源數(shù)據(jù)，形成統(tǒng)一標(biāo)準(zhǔn)和體系。在此基礎(chǔ)上，根據(jù)用戶的各種需求， 快速響應(yīng)，及時(shí)提供可視化、智能化、便捷化的數(shù)據(jù)服務(wù)方案。一是完善細(xì)化法律法規(guī)，保護(hù)數(shù)據(jù)安全。二是使用“聯(lián)邦學(xué)習(xí)”策略，保護(hù)數(shù)據(jù)安全。三是借助大數(shù)據(jù)和人工智能等技術(shù)，保障網(wǎng)絡(luò)安全。此外，加強(qiáng)政府、科研院所、企業(yè)和行業(yè)等各方緊密合作，共建有利于網(wǎng)絡(luò)安全的大生態(tài)。

（二）構(gòu)建人工智能治理的全球協(xié)調(diào)機(jī)制。騰訊網(wǎng)稱，在自我保護(hù)與相互協(xié)作之間尋求平衡的“數(shù)字主權(quán)”需求可能會(huì)破壞多邊主義并轉(zhuǎn)變?yōu)榧夹g(shù)民族主義，進(jìn)而可能導(dǎo)致國(guó)際治理機(jī)制復(fù)合體功能失調(diào)，破壞地方和區(qū)域治理，削弱其作用或有效性。因此，只有在全球范圍內(nèi)進(jìn)行全面協(xié)調(diào)，才能有效應(yīng)對(duì)、化解未來(lái)的威脅與失衡狀態(tài)。需要建立正式的磋商機(jī)制，將利益攸關(guān)方入其中，推動(dòng)官方政策的討論。公共磋商機(jī)制應(yīng)當(dāng)推動(dòng)實(shí)現(xiàn)包容性協(xié)調(diào)進(jìn)程、促進(jìn)自組織和治理網(wǎng)絡(luò)發(fā)展、并幫助適應(yīng)治理的多層次、多學(xué)科和多中心環(huán)境。

（三）我國(guó)要在人工智能領(lǐng)域取得應(yīng)有的話語(yǔ)權(quán)，就必須在人工智能基礎(chǔ)理論和前沿技術(shù)方面加強(qiáng)引領(lǐng)性原創(chuàng)科學(xué)研究并率先取得重大突破。中國(guó)電子網(wǎng)稱，相對(duì)于歐美國(guó)家，我國(guó)人工智能研究起步晚，又長(zhǎng)期處于低門檻，具有國(guó)際影響力的人才稀缺，掌握“撒手锏”技術(shù)的高水平人才更十分匱乏，尚需建設(shè)完備的人工智能人才體系。高端技術(shù)必須與產(chǎn)業(yè)對(duì)接，形成龐大的應(yīng)用市場(chǎng)，人工智能必須與產(chǎn)業(yè)緊密融合。這意味著需要抓緊助推人工智能應(yīng)用場(chǎng)景的落地，爭(zhēng)取基礎(chǔ)數(shù)據(jù)和平臺(tái)技術(shù)的突破，搭建好與傳統(tǒng)行業(yè)生態(tài)有效銜接的橋梁。

（四）要在基礎(chǔ)研究的“一軟一硬”兩方面要加大力度發(fā)展。全球高校人工智能學(xué)術(shù)聯(lián)盟秘書處上海蓋亞人工智能中心理事長(zhǎng)王延峰認(rèn)為，只有形成生態(tài)，我們自己生產(chǎn)的東西才能運(yùn)用到整個(gè)產(chǎn)業(yè)鏈。所以，基礎(chǔ)研究的“一軟一硬”兩方面要加大力度發(fā)展。美國(guó)斷供其實(shí)也在倒逼我們發(fā)展。還是要把自己生產(chǎn)的產(chǎn)品用起來(lái)，形成生態(tài)后迭代升級(jí)。

（五）積極配置資源參與人工智能軍事化發(fā)展，推動(dòng)武器領(lǐng)域具有約束性的國(guó)際法律條約。就人工智能武器風(fēng)險(xiǎn)規(guī)制而言，中國(guó)尚未出臺(tái)專門的相關(guān)政策，而是表現(xiàn)在《新一代人工智能發(fā)展規(guī)劃》中，針對(duì)一般性人工智能的發(fā)展，提出了建設(shè)倫理規(guī)范和政策法規(guī)的總要求。因此建議：第一，應(yīng)積極配置資源參與人工智能武器的全球治理工作，推動(dòng)國(guó)際安全治理體系的進(jìn)一步完善。第二，應(yīng)積極推進(jìn)政府間合作協(xié)議的簽訂，以推動(dòng)建立人工智能武器領(lǐng)域具有約束性的、多種形式的法律條約。第三，恰當(dāng)、適時(shí)地推進(jìn)致命性人工智能武器的軍備控制。

（六）我國(guó)需要建立系統(tǒng)的個(gè)人信息數(shù)據(jù)保護(hù)機(jī)制，整合民法、刑法等規(guī)范，為個(gè)人信息安全保駕護(hù)航。百家號(hào)“眷誠(chéng)法務(wù)”稱，首先，需要明確個(gè)人信息權(quán)。應(yīng)該區(qū)分個(gè)人信息被使用的知情權(quán)、更改權(quán)、刪除權(quán)等，明確人工智能收集個(gè)人信息的界限，讓個(gè)人信息成為一個(gè)有價(jià)值、受保護(hù)的權(quán)利。其次，要為人工智能領(lǐng)域收集個(gè)人數(shù)據(jù)建立科學(xué)的原則?？茖W(xué)的原則主要體現(xiàn)在收集個(gè)人信息的合法、必要、正當(dāng)性上。最后，對(duì)于人工智能的領(lǐng)域內(nèi)的個(gè)人信息安全，應(yīng)該制定專門的法律，明確侵權(quán)的救濟(jì)方式。

作者簡(jiǎn)介：

張弛，女，漢族，江蘇江陰，1979年10月出生，碩士學(xué)位，工程師。。研究方向：網(wǎng)絡(luò)輿情傳播規(guī)律;網(wǎng)絡(luò)空間治理;互聯(lián)網(wǎng)領(lǐng)域前沿科技研究。