霍煒
摘 要:以智能化為核心的新一波信息革命正在席卷全球,人機(jī)物融合、萬物互聯(lián),現(xiàn)實(shí)與數(shù)字世界邊界日趨模糊,安全和信任問題依然是時(shí)代主題。智能時(shí)代,機(jī)遇與挑戰(zhàn)并存。文章通過分析智能時(shí)代本質(zhì)特征,提出構(gòu)筑以密碼為基石的智能時(shí)代新安全,推動(dòng)密碼深度融合應(yīng)用,實(shí)現(xiàn)主動(dòng)防御、自主免疫,護(hù)航智能時(shí)代健康快速發(fā)展。
關(guān)鍵詞:智能時(shí)代;密碼;安全;信任
中圖分類號(hào):TP18 文獻(xiàn)標(biāo)識(shí)碼:C
1 引言
智能技術(shù)是把“雙刃劍”,智能時(shí)代是機(jī)遇也是挑戰(zhàn)。智能時(shí)代,網(wǎng)絡(luò)、數(shù)據(jù)、計(jì)算深度耦合,針對(duì)網(wǎng)絡(luò)、數(shù)據(jù)、計(jì)算的安全威脅將在智能時(shí)代匯聚、交織、放大,產(chǎn)生比傳統(tǒng)網(wǎng)絡(luò)信息時(shí)代更深遠(yuǎn)、更難以預(yù)料的破壞力。形勢(shì)逼人,挑戰(zhàn)逼人。必須推動(dòng)密碼與智能時(shí)代融合發(fā)展,構(gòu)筑以密碼為基石的智能時(shí)代新安全。
2 智能時(shí)代發(fā)展趨勢(shì)和基本特征
智能時(shí)代,萬物互聯(lián)、人機(jī)物融合,數(shù)字、物理、生物等技術(shù)深度交織,現(xiàn)實(shí)與數(shù)字世界邊界日趨模糊,呈現(xiàn)出深度學(xué)習(xí)、跨界融合、人機(jī)協(xié)同、群智開放、自主操控等新特征。
從歷史沿革看,智能技術(shù)的突破和大數(shù)據(jù)的發(fā)展是催生智能時(shí)代的強(qiáng)勁動(dòng)力。1950年,圖靈提出“人工智能”判定標(biāo)準(zhǔn);1956年,美國(guó)達(dá)特茅斯會(huì)議首次提出人工智能概念。2016年,AlphaGo戰(zhàn)勝圍棋世界冠軍,人類智能化發(fā)展又掀起了一個(gè)新的高潮。
從發(fā)展階段看,智能經(jīng)濟(jì)已成為拉動(dòng)經(jīng)濟(jì)增長(zhǎng)的重要一個(gè)方面。2013年,歐盟啟動(dòng)“人腦工程”;2016年,美國(guó)發(fā)布《國(guó)家人工智能研究與開發(fā)戰(zhàn)略規(guī)劃》。2017年,我國(guó)首次將人工智能寫入《政府工作報(bào)告》[1],明確提出加快培育壯大包括人工智能在內(nèi)的新興產(chǎn)業(yè)。2016年,美國(guó)人工智能市場(chǎng)規(guī)模562億元,年增速18.1%;我國(guó)人工智能市場(chǎng)規(guī)模103.5億元,年增速24.2%。研究[2]顯示,到2035年,人工智能有望拉動(dòng)我國(guó)經(jīng)濟(jì)增長(zhǎng)1.6個(gè)百分點(diǎn),推動(dòng)勞動(dòng)生產(chǎn)率提升27%。
從發(fā)展趨勢(shì)看[3],智能技術(shù)是把“雙刃劍”,智能時(shí)代既是機(jī)遇也是挑戰(zhàn)。一是人工智能發(fā)展進(jìn)入新階段,正在引發(fā)鏈?zhǔn)酵黄?,推?dòng)經(jīng)濟(jì)社會(huì)各領(lǐng)域從數(shù)字化、網(wǎng)絡(luò)化向智能化加速躍升。二是人工智能成為國(guó)際競(jìng)爭(zhēng)新焦點(diǎn),世界主要發(fā)達(dá)國(guó)家加緊出臺(tái)規(guī)劃和政策,力爭(zhēng)在新一輪國(guó)際科技競(jìng)爭(zhēng)中掌握主導(dǎo)權(quán)。三是人工智能成為經(jīng)濟(jì)發(fā)展新引擎,重構(gòu)生產(chǎn)、分配、交換、消費(fèi)等經(jīng)濟(jì)活動(dòng)各環(huán)節(jié),引發(fā)經(jīng)濟(jì)結(jié)構(gòu)重大變革。四是人工智能為社會(huì)治理提供新機(jī)遇,可準(zhǔn)確感知預(yù)警基礎(chǔ)設(shè)施和社會(huì)運(yùn)行態(tài)勢(shì),提高社會(huì)治理智能化水平。五是人工智能發(fā)展的不確定性帶來新挑戰(zhàn)。
從基本特征看,智能時(shí)代是將信息技術(shù)全面深度融入物理世界的結(jié)果。通過數(shù)據(jù)的全面采集(感知技術(shù))、深度的數(shù)學(xué)化分析(計(jì)算技術(shù))和快捷的精準(zhǔn)反饋(通信技術(shù)),形成各種自適應(yīng)反饋控制系統(tǒng),最終連接形成智慧城市、智慧國(guó)家乃至整個(gè)智慧世界的復(fù)雜巨系統(tǒng)?;咎卣饔兴膫€(gè)。
(1)網(wǎng)絡(luò)是基礎(chǔ)。網(wǎng)絡(luò)是實(shí)現(xiàn)廣泛連接和數(shù)據(jù)融通的前提條件。特別是隨著IPv6、物聯(lián)網(wǎng)等的發(fā)展,網(wǎng)絡(luò)規(guī)模不斷壯大,人機(jī)物互聯(lián)不斷加深,這些網(wǎng)絡(luò)和基礎(chǔ)設(shè)施是智能時(shí)代發(fā)展的基礎(chǔ)。
(2)數(shù)據(jù)是資源。數(shù)據(jù)以及基于數(shù)據(jù)的技術(shù)創(chuàng)新,是智能時(shí)代的核心要素。伴隨著大數(shù)據(jù)、云計(jì)算的快速發(fā)展,數(shù)據(jù)規(guī)模呈爆炸式增長(zhǎng),海量數(shù)據(jù)進(jìn)一步推動(dòng)智能技術(shù)發(fā)展,極大增強(qiáng)了人類以數(shù)字感知世界的能力。
(3)計(jì)算是能力。數(shù)據(jù)的計(jì)算分析挖掘是推動(dòng)數(shù)據(jù)由偶然向必然、由局部向整體、由量變向質(zhì)變發(fā)展的基礎(chǔ)。數(shù)據(jù)計(jì)算關(guān)鍵是算力和算法。從算力看,集成電路技術(shù)的快速進(jìn)步和各種大規(guī)模并行計(jì)算架構(gòu)的部署促進(jìn)了計(jì)算能力的大幅提升。為進(jìn)一步提升人工智能的計(jì)算能力,谷歌等企業(yè)還研發(fā)了人工智能專用芯片。從算法看,好的算法可以“點(diǎn)數(shù)成金”,大幅提升數(shù)據(jù)處理分析效率,加大數(shù)據(jù)挖掘廣度深度。
(4)密碼是基因。密碼是網(wǎng)絡(luò)安全的核心技術(shù)和基礎(chǔ)支撐,是智能時(shí)代主動(dòng)防御、自主免疫的內(nèi)置基因,能有效實(shí)現(xiàn)網(wǎng)絡(luò)空間人機(jī)物的安全互聯(lián)、可信互認(rèn),保護(hù)數(shù)據(jù)的真實(shí)性、機(jī)密性和完整性,支撐計(jì)算資源的安全控制和智能協(xié)同。
3 密碼是智能時(shí)代新安全的基石
密碼是國(guó)之重器。利用密碼在安全認(rèn)證、加密保護(hù)、信任傳遞等方面的重要作用,能夠有效消除或控制潛在的“智能安全危機(jī)”,實(shí)現(xiàn)被動(dòng)防御向主動(dòng)防御的戰(zhàn)略轉(zhuǎn)變。2016年,谷歌大腦[4]撇開人類,自主設(shè)計(jì)了密碼通信協(xié)議,在兩個(gè)實(shí)體間進(jìn)行安全通信。機(jī)器智能已經(jīng)自己主動(dòng)設(shè)計(jì)密碼來保護(hù)自身安全,可見密碼是智能安全的必然選擇,是智能發(fā)展的必由之路。智能時(shí)代密碼的重要作用可以概括為三個(gè)方面。
第一,密碼支撐構(gòu)建智能時(shí)代網(wǎng)絡(luò)安全生態(tài)圈[5]。
智能時(shí)代最直接的安全威脅,依然是網(wǎng)絡(luò)基礎(chǔ)設(shè)施和設(shè)備安全。密碼在這方面要發(fā)揮保底作用,是最后一道防線。通過合規(guī)正確使用密碼,能夠有效解決網(wǎng)絡(luò)基礎(chǔ)資源、信息設(shè)施、計(jì)算分析、應(yīng)用服務(wù)、網(wǎng)絡(luò)通道、接入終端、設(shè)備控制等的全體系平臺(tái)安全。網(wǎng)絡(luò)安全是體系安全、全域安全,只有用了密碼,才能從底層構(gòu)建起可控有效的網(wǎng)絡(luò)安全生態(tài)圈。例如,在智能制造方面,我國(guó)高端制造領(lǐng)域生產(chǎn)控制基本沒有采取安全措施,一旦指令被惡意篡改,那么整個(gè)產(chǎn)業(yè)線或者控制線都將混亂或崩潰。目前,重慶正在組織有關(guān)單位試點(diǎn),研究使用SM2算法對(duì)智能終端設(shè)備進(jìn)行認(rèn)證,使用SM3算法對(duì)控制指令進(jìn)行完整性保護(hù),使用SM4算法對(duì)必要通信數(shù)據(jù)進(jìn)行加密保護(hù)。在智能決策方面,智能決策除了在數(shù)據(jù)中心集中計(jì)算外,大量采用智能終端在本地進(jìn)行邊緣計(jì)算,而智能終端往往防護(hù)能力較弱,使用密碼可以為本地計(jì)算提供安全環(huán)境,以及安全認(rèn)證和來源數(shù)據(jù)的真實(shí)性、完整性保護(hù),實(shí)現(xiàn)邊緣計(jì)算的可靠與安全。
第二,密碼助力打造智能時(shí)代數(shù)據(jù)共享價(jià)值鏈。
一是數(shù)據(jù)鏈安全。利用基于密碼技術(shù)的身份鑒別、信任管理、訪問控制、數(shù)據(jù)加密、密文計(jì)算、數(shù)據(jù)脫敏等措施,可有效解決數(shù)據(jù)產(chǎn)生、傳輸、存儲(chǔ)、處理、分析、使用、銷毀、備份等全生命周期的安全,同時(shí)在數(shù)據(jù)提供者、使用者、應(yīng)用服務(wù)者、框架提供者、系統(tǒng)協(xié)調(diào)者等不同角色之間建立基于密碼的安全通道。例如,在智慧醫(yī)療領(lǐng)域,2018年8月,DeepMind公司公布了首款醫(yī)療AI系統(tǒng)[6],能診斷50多種眼疾,精度超越人類醫(yī)生。為了訓(xùn)練這個(gè)系統(tǒng),用了近1.5萬個(gè)人工標(biāo)注數(shù)據(jù)。試想,如果訓(xùn)練的醫(yī)療數(shù)據(jù)被惡意篡改,抑或是診斷中的數(shù)據(jù)被修改,那么智慧醫(yī)療就會(huì)變成智能殺手。而密碼就可以很好地實(shí)現(xiàn)數(shù)據(jù)完整性保護(hù)功能,有效防止醫(yī)療助手變殺手。
二是信任鏈構(gòu)建。數(shù)據(jù)的核心在于融合與挖掘,政務(wù)數(shù)據(jù)的價(jià)值在于共享與開放,而數(shù)據(jù)共享、交換的基礎(chǔ)在信任。利用基于密碼的數(shù)據(jù)標(biāo)識(shí)、數(shù)字簽名、數(shù)字內(nèi)容和產(chǎn)權(quán)保護(hù)等技術(shù),可以構(gòu)建真實(shí)不可抵賴的“數(shù)字契約”,打通數(shù)據(jù)融通的信任瓶頸,實(shí)現(xiàn)數(shù)據(jù)資源開放共享、安全交互。通過數(shù)據(jù)鏈、信任鏈的安全融合,助力“三融五跨”,實(shí)現(xiàn)數(shù)字化、網(wǎng)絡(luò)化、智能化的價(jià)值傳遞,真正構(gòu)筑起智能時(shí)代數(shù)據(jù)共享價(jià)值鏈。例如,在社會(huì)智能治理過程中,許多地方把當(dāng)?shù)氐牡乩頂?shù)據(jù)、資源數(shù)據(jù)、氣象數(shù)據(jù)、環(huán)保數(shù)據(jù)等基礎(chǔ)數(shù)據(jù)和公民個(gè)人數(shù)據(jù)疊加,為“互聯(lián)網(wǎng)+政務(wù)服務(wù)”和智能決策提供支撐。當(dāng)前政務(wù)數(shù)據(jù)共享有兩大亂象,大量數(shù)據(jù)在云上裸奔,以及各部門不愿共享原始數(shù)據(jù)。使用密碼可以解決數(shù)據(jù)安全防護(hù)、精準(zhǔn)訪問控制、可用不可見等問題,助力消滅隱患、消除梗阻。
第三,密碼與智能時(shí)代計(jì)算演進(jìn)新方向雙向促進(jìn)。
一是密碼護(hù)航智能算法安全迭代和算力合法使用。一方面,密碼可有效保證算法自身的正確性,同時(shí)也能有效防止惡意攻擊,保證算法執(zhí)行正確。比如,基于密碼協(xié)議分析技術(shù)從理論上證明算法的正確性;基于密碼技術(shù)保證提供給算法的數(shù)據(jù)資源的正確性;基于密碼技術(shù)保證計(jì)算程序的完整性;基于密碼技術(shù)防止計(jì)算結(jié)果被篡改,保證計(jì)算結(jié)果正確應(yīng)用等。另一方面,密碼保證算力被合法使用。密碼可通過建立信任體系,保證算力被正確的實(shí)體、以正確的方式使用,并為應(yīng)用結(jié)果負(fù)責(zé)。算力的安全主要是指計(jì)算能力的合法使用,在智能時(shí)代,計(jì)算能力是一種強(qiáng)力工具,可能成為攻擊性武器。例如,前兩年在美國(guó)發(fā)生的利用數(shù)以萬計(jì)攝像頭的計(jì)算能力進(jìn)行拒絕服務(wù)攻擊就是典型的案例。智能時(shí)代滲透到社會(huì)各個(gè)領(lǐng)域的算力,包括超強(qiáng)的云計(jì)算中心、大量的邊緣計(jì)算設(shè)備和無處不在的智能終端等,如果不能得到有效管理、合法利用,后果將難以想象。
二是密碼分析為計(jì)算變革提供源動(dòng)力。二戰(zhàn)時(shí)期,為破解德軍恩尼格瑪機(jī)械密碼機(jī)而設(shè)計(jì)的圖靈機(jī),成為現(xiàn)代計(jì)算機(jī)的原型;20世紀(jì)90年代,為破解RSA密碼算法而提出的量子大整數(shù)分解,推動(dòng)了量子計(jì)算應(yīng)用由理論變?yōu)楝F(xiàn)實(shí)。
三是計(jì)算能力提升倒逼密碼創(chuàng)新。未來新型計(jì)算模式尚未定型,目前專家普遍認(rèn)為有兩大方向,可能是處于初期摸索階段的類腦計(jì)算,也可能是理論相對(duì)成熟的量子計(jì)算。量子計(jì)算的快速發(fā)展,使得抗量子密碼算法設(shè)計(jì)成為密碼研究新方向,不斷推動(dòng)密碼理論研究進(jìn)入新時(shí)代。
4 推動(dòng)密碼與智能時(shí)代融合發(fā)展
黨的十八大以來,我國(guó)商用密碼事業(yè)快速發(fā)展,基礎(chǔ)理論研究取得系列成果,SM2、SM9等算法成為ISO/IEC國(guó)際標(biāo)準(zhǔn)[7],密碼產(chǎn)品種類不斷豐富,供給質(zhì)量顯著提升,金融和重要領(lǐng)域密碼應(yīng)用成效明顯,有力保障了國(guó)家網(wǎng)絡(luò)空間安全。未來二三十年,是智能化重新定義變革、重塑全球發(fā)展競(jìng)爭(zhēng)格局的新時(shí)代,唯有全面推動(dòng)密碼與智能時(shí)代深度融合發(fā)展,才能構(gòu)建起適應(yīng)時(shí)代需要的新安全。
4.1 以應(yīng)用促融合
應(yīng)用是密碼的發(fā)展之基、生存之要,必須要堅(jiān)持以應(yīng)用為先導(dǎo)、以應(yīng)用促創(chuàng)新、以應(yīng)用促融合。密碼要緊盯國(guó)家戰(zhàn)略,特別是主動(dòng)融入智能產(chǎn)業(yè)發(fā)展的戰(zhàn)略布局。密碼要立足網(wǎng)絡(luò)設(shè)施,在承載智能化應(yīng)用的信息網(wǎng)絡(luò)、能源網(wǎng)絡(luò)、交通網(wǎng)絡(luò)、資源網(wǎng)絡(luò)、城市網(wǎng)絡(luò)、政務(wù)網(wǎng)絡(luò)等方面,全面構(gòu)建密碼支撐體系。密碼要瞄準(zhǔn)應(yīng)用發(fā)展,密切跟蹤智能技術(shù)在各行各業(yè)和社會(huì)生活中的新應(yīng)用新模式,加強(qiáng)密碼支撐單位與用戶單位、應(yīng)用服務(wù)提供單位的協(xié)同。
4.2 以強(qiáng)力推融合
使用合規(guī)的密碼,不僅是戰(zhàn)略部署,更是法定責(zé)任。要落實(shí)依法管理,已經(jīng)出臺(tái)的《網(wǎng)絡(luò)安全法》[8],正在制定的《密碼法》[9]《關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)條例》[10]《網(wǎng)絡(luò)安全等級(jí)保護(hù)條例》[11]都對(duì)密碼應(yīng)用和管理提出明確要求;《政務(wù)信息系統(tǒng)政府采購(gòu)管理暫行辦法》[12]明確政府采購(gòu)應(yīng)當(dāng)落實(shí)國(guó)家密碼管理要求。要強(qiáng)化責(zé)任意識(shí),確保智能時(shí)代密碼應(yīng)用安全是義不容辭的責(zé)任。主管部門和網(wǎng)絡(luò)運(yùn)營(yíng)者對(duì)密碼應(yīng)用負(fù)有主體責(zé)任。要重視標(biāo)準(zhǔn)化工作,促進(jìn)智能化技術(shù)及底層支撐標(biāo)準(zhǔn)的制定和統(tǒng)一,促進(jìn)智能技術(shù)的規(guī)模化應(yīng)用。要嚴(yán)格源頭控制,把住采購(gòu)的源頭,把住立項(xiàng)審批的源頭,把住等級(jí)保護(hù)備案等工作的源頭,從源頭上落實(shí)“三同步”要求,同步規(guī)劃、同步建設(shè)、同步運(yùn)行密碼保障系統(tǒng)。
4.3 以創(chuàng)新強(qiáng)融合
一方面,要加強(qiáng)面向智能時(shí)代安全和發(fā)展需求的密碼基礎(chǔ)理論、關(guān)鍵技術(shù)、交叉技術(shù)和應(yīng)用技術(shù)研究,完善通用基礎(chǔ)和行業(yè)領(lǐng)域相結(jié)合的密碼標(biāo)準(zhǔn)體系,深度參與國(guó)際標(biāo)準(zhǔn)化工作等。另一方面,要推動(dòng)采用密碼技術(shù)的基礎(chǔ)軟硬件產(chǎn)品供給,形成支持密碼應(yīng)用的產(chǎn)業(yè)生態(tài);通用處理器、操作系統(tǒng)、數(shù)據(jù)庫(kù)、中間件、瀏覽器等基礎(chǔ)軟硬件和工業(yè)控制設(shè)備要在產(chǎn)品研制之初,強(qiáng)化安全體系設(shè)計(jì),特別是密碼使用的設(shè)計(jì),在提供計(jì)算和智能服務(wù)能力的同時(shí),也要提供基于密碼的安全支撐能力。
4.4 以機(jī)制保融合
要嚴(yán)格落實(shí)密碼應(yīng)用安全性評(píng)估機(jī)制,注重密碼防護(hù)的系統(tǒng)性、整體性、動(dòng)態(tài)性,注重密碼應(yīng)用的合規(guī)性、正確性、有效性,構(gòu)建以密碼技術(shù)為核心、多種技術(shù)相互融合的新網(wǎng)絡(luò)安全體系。要建立完善密碼通報(bào)預(yù)警和監(jiān)督檢查協(xié)作機(jī)制,把密碼應(yīng)用安全性,作為智能預(yù)警監(jiān)測(cè)和安全評(píng)估的必選項(xiàng)。建設(shè)密碼基礎(chǔ)設(shè)施、態(tài)勢(shì)感知平臺(tái),加強(qiáng)網(wǎng)絡(luò)安全聯(lián)合檢查,壓實(shí)網(wǎng)絡(luò)運(yùn)營(yíng)者和信息技術(shù)產(chǎn)品提供者密碼應(yīng)用的主體責(zé)任,形成以密碼基礎(chǔ)設(shè)施為支撐的新網(wǎng)絡(luò)安全環(huán)境。要建立實(shí)施推動(dòng)密碼應(yīng)用的長(zhǎng)效機(jī)制。完善密碼應(yīng)用推進(jìn)機(jī)制,加強(qiáng)密碼知識(shí)和政策的科學(xué)普及,提升智能技術(shù)研究者、智能應(yīng)用從業(yè)者等各方的密碼意識(shí),實(shí)現(xiàn)安全互信、開放共享的新網(wǎng)絡(luò)安全文明。
5 結(jié)束語
得智能者得天下,贏安全者贏未來。智能就是力量,互聯(lián)才有基礎(chǔ);數(shù)據(jù)就是財(cái)富,安全才有價(jià)值;融合就是機(jī)遇,信任才有保障。密碼就像空氣一樣,無所不在,滋潤(rùn)著智能時(shí)代健康發(fā)展;密碼就像衛(wèi)士一樣,無所不至,保護(hù)著智能時(shí)代安全發(fā)展;密碼就像信使一樣,無所不通,推動(dòng)著智能時(shí)代快速發(fā)展。密碼,也只有密碼,會(huì)為智能時(shí)代安全發(fā)展注入最強(qiáng)基因。
參考文獻(xiàn)
[1] Http://www.mod.gov.cn/shouye/2017-03/05/content_4774492.htm(《2017年政府工作報(bào)告》).
[2] Http://b2b.toocle.com/detail--6403802.html(《人工智能:助力中國(guó)經(jīng)濟(jì)增長(zhǎng)》).
[3] Http://www.gov.cn/zhengce/content/2017-07/20/content_5211996.htm(國(guó)務(wù)院關(guān)于印發(fā)新一代人工智能發(fā)展規(guī)劃的通知).
[4] Https://en.wikipedia.org/wiki/Google_Brain(谷歌大腦).
[5] 大數(shù)據(jù)戰(zhàn)略重點(diǎn)實(shí)驗(yàn)室.數(shù)智未來[M].北京:當(dāng)代中國(guó)出版社,2018. 423-431.
[6] De Fauw J, Ledsam J R, Romera-Paredes B, et al. Clinically applicable deep learning for diagnosis and referral in retinal disease[J]. Nature medicine, 2018: 1.
[7] Http://www.oscca.gov.cn/sca/xwdt/2017-11/17/content_1019960.shtml(我國(guó)SM2和SM9數(shù)字簽名算法正式成為ISO/IEC國(guó)際標(biāo)準(zhǔn)).
[8] Http://www.cac.gov.cn/2016-11/07/c_1119867116.htm(中華人民共和國(guó)網(wǎng)絡(luò)安全法).
[9] Http://www.oscca.gov.cn/sca/hdjl/2017-04/28/content_1011759.shtml(關(guān)于《中華人民共和國(guó)密碼法(草案征求意見稿)》公開征求意見的通知).
[10] Http://www.cac.gov.cn/2017-07/11/c_1121294220.htm(國(guó)家互聯(lián)網(wǎng)信息辦公室關(guān)于《關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)條例(征求意見稿)》公開征求意見的通知).
[11] Http://www.mps.gov.cn/n2254536/n4904355/c6159136/content.html?from=timeline(公安部關(guān)于《網(wǎng)絡(luò)安全等級(jí)保護(hù)條例(征求意見稿)》公開征求意見的公告).
[12] Http://www.ccgp.gov.cn/zcfg/mof/201801/t20180102_9425012.htm(財(cái)政部關(guān)于印發(fā)《政務(wù)信息系統(tǒng)政府采購(gòu)管理暫行辦法》的通知).