當(dāng)前，網(wǎng)絡(luò)新技術(shù)新應(yīng)用的快速變革和蓬勃創(chuàng)新在為經(jīng)濟社會創(chuàng)造無限潛能和驅(qū)動力的同時，也在持續(xù)深刻誘發(fā)諸多安全風(fēng)險隱患。著眼于前沿技術(shù)應(yīng)用演進(jìn)的趨勢把握和實例跟蹤，重點梳理分析其對互聯(lián)網(wǎng)內(nèi)容生產(chǎn)、分發(fā)、傳播等方面的作用、機理和影響，正視技術(shù)應(yīng)用創(chuàng)新發(fā)展雙刃劍作用，著眼于制度機制、技術(shù)能力、基礎(chǔ)研究、國際合作四個面向，通過發(fā)展贏得主動,對癥解決網(wǎng)絡(luò)新技術(shù)信用帶來內(nèi)容生態(tài)安全問題。

1 網(wǎng)絡(luò)新技術(shù)新應(yīng)用發(fā)展動向

1.1 泛在化

繼三網(wǎng)融合、4G大規(guī)模商用后，5G通信網(wǎng)絡(luò)研發(fā)已經(jīng)進(jìn)入實質(zhì)推進(jìn)階段，在國際電信聯(lián)盟的統(tǒng)籌下，各國圍繞5G愿景、需求、路線、策略、技術(shù)、標(biāo)準(zhǔn)、頻率、研發(fā)、試驗等開展全方位、全生命周期的研究；明確5G的三大應(yīng)用場景和八大關(guān)鍵能力指標(biāo)，發(fā)布IMT-2020工作計劃；我國IMT-2020(5G)推進(jìn)組也已發(fā)布《5G網(wǎng)絡(luò)架構(gòu)設(shè)計》白皮書及5G無線關(guān)鍵技術(shù)測試結(jié)果，并在工業(yè)互聯(lián)網(wǎng)、車聯(lián)網(wǎng)、物聯(lián)網(wǎng)等應(yīng)用場景開始試驗性落地。5G是“萬物互聯(lián)”的基礎(chǔ)網(wǎng)絡(luò)設(shè)施，“信息隨心至、萬物觸手及”是5G的可期愿景。一方面5G超高速傳輸、低時延低損耗①相對4G網(wǎng)絡(luò)，傳輸速率提升10～100倍，峰值傳輸速率達(dá)到10 Gbit/s，端到端時延達(dá)到ms級，連接設(shè)備密度增加10～100倍，流量密度提升1000倍，頻譜效率提升5～10倍，能夠在500 km/h的速度下保證用戶體驗。助推虛擬現(xiàn)實、增強現(xiàn)實、云端信息交互、音視頻流媒體等業(yè)務(wù)進(jìn)一步精益融合，帶來身臨其境、時空瞬息流暢切換的優(yōu)質(zhì)用戶體驗；云+端融合架構(gòu)支撐下移動音視頻直播/點播、視頻會議、視頻通話、無線視頻監(jiān)控、虛擬現(xiàn)實設(shè)備及應(yīng)用迎來爆發(fā)式增長，內(nèi)容傳播載體高度集中于流音視頻和三維立體圖像，輿情分發(fā)渠道無所不在，輿情擴散瞬時性導(dǎo)致動員力幾何倍增。另一方面，5G助推物聯(lián)網(wǎng)高度滲透汽車、工業(yè)設(shè)施、無人機、醫(yī)療、家居等領(lǐng)域，實現(xiàn)多點多終端實時信息交互和數(shù)據(jù)匯聚采集處理分析。

1.2 智能化

不僅僅是用戶終端,應(yīng)用服務(wù)、通信網(wǎng)絡(luò)、基礎(chǔ)設(shè)施各個層面在云計算、物聯(lián)網(wǎng)的支撐下實現(xiàn)資源應(yīng)需智能調(diào)度、數(shù)據(jù)流暢通交織、業(yè)務(wù)系統(tǒng)軟件模塊高度集成自由組合;近期大數(shù)據(jù)與人工智能的深度融合應(yīng)用，推動算法從規(guī)則型算法向?qū)W習(xí)型（機器學(xué)習(xí)算法）突破升級，社會生產(chǎn)生活的決策越來越依賴算法?；诖笠?guī)模數(shù)據(jù)和云計算算力，人類將從逐漸重視算法的建議愈發(fā)深入轉(zhuǎn)向直接接受算法的指令。通過機器學(xué)習(xí)、計算機視覺處理、語義分析與推理、自然語言分析交互等人工智能技術(shù)，算法日臻自學(xué)習(xí)化智能化，在互聯(lián)網(wǎng)內(nèi)容源生產(chǎn)、內(nèi)容分發(fā)路徑和內(nèi)容生態(tài)三大方面帶來重大變革影響。

一是算法生成UGC成為互聯(lián)網(wǎng)新的內(nèi)容來源，集中體現(xiàn)在大型內(nèi)容平臺生產(chǎn)機制方面；內(nèi)容生產(chǎn)速度、效率和質(zhì)量都極大提升。一方面克服用戶原創(chuàng)內(nèi)容水平參差不齊、難以進(jìn)行人工審核、缺少持久創(chuàng)作機制等問題；另一方面伴隨人工智能和物聯(lián)網(wǎng)縱深普及，內(nèi)容生成算法將在海量豐富、源源不斷的非結(jié)構(gòu)化數(shù)據(jù)訓(xùn)練下更加精益智能。此外，內(nèi)容生成算法充分挖掘整合了此前人類經(jīng)驗積累的標(biāo)準(zhǔn)化模板，并以此為基礎(chǔ)進(jìn)一步優(yōu)化完善。然而，算法和人工智能技術(shù)也帶來內(nèi)容生成被操縱控制的風(fēng)險隱患。首先是UGC內(nèi)容生產(chǎn)在智能化同時更有欺騙性，如華盛頓大學(xué)的研究人員用神經(jīng)網(wǎng)絡(luò)來觀看視頻，并將不同的音頻聲音轉(zhuǎn)換為基本的嘴形，根據(jù)音頻剪輯生成逼真的視頻，讓嘴巴的運動和音頻同步。近期網(wǎng)絡(luò)盛行的將新聞人物公開場合講話視頻圖像的音頻置換進(jìn)行惡搞就是運用開源的一種機器學(xué)習(xí)算法來實現(xiàn)的，同樣技術(shù)原理可以制作一系列色情、仇恨、暴恐等視頻內(nèi)容，并將原視頻的人物“換臉”。其次是人工智能技術(shù)支持的語音轉(zhuǎn)文字存在被惡意操縱的風(fēng)險。近日谷歌研發(fā)成功Tacotron2系統(tǒng)，是文字語言轉(zhuǎn)換TTS（Text-to-Speech）系統(tǒng)的一種，特點是不需要使用復(fù)雜的語言和聲學(xué)特征作為輸入，而是僅使用語音示例和相應(yīng)文本記錄訓(xùn)練的神經(jīng)網(wǎng)絡(luò)，從文本中生成類人語言。Tacotron2系統(tǒng)目前主要的應(yīng)用主體是谷歌智能語音助手，目前網(wǎng)絡(luò)超聲波攻擊技術(shù)可利用語音助手麥克風(fēng)的硬件漏洞，使語音助手接收并執(zhí)行超聲波指令，實現(xiàn)對語音助手設(shè)備的控制。語音助手一旦被惡意控制，則實施網(wǎng)絡(luò)犯罪欺詐活動，或增加發(fā)布傳播違法有害信息的風(fēng)險。

二是算法干預(yù)或主導(dǎo)內(nèi)容分發(fā)路徑，基于用戶畫像、社交關(guān)系、業(yè)務(wù)場景、行為軌跡等多維大數(shù)據(jù)分析的智能偏好推薦和精準(zhǔn)匹配成為主流；算法推薦帶來的內(nèi)容精準(zhǔn)分發(fā)提升內(nèi)容傳播擴散效率，進(jìn)一步活躍繁榮互聯(lián)網(wǎng)內(nèi)容生態(tài)，帶動更多用戶進(jìn)入并互動參與，反向訓(xùn)練提升算法性能，形成良性循環(huán)。當(dāng)下網(wǎng)絡(luò)編輯分發(fā)、智能推薦分發(fā)、社交關(guān)系轉(zhuǎn)發(fā)等內(nèi)容分發(fā)路徑均是在借助算法進(jìn)行效率性精準(zhǔn)度優(yōu)化提升，從而加強用戶對內(nèi)容平臺的黏性，進(jìn)而鞏固算法主導(dǎo)分發(fā)的主流模式，主流的內(nèi)容分發(fā)方式。

三是人工智能的高度發(fā)展帶來定制化擬人態(tài)算法將深入嵌入人類工作生活決策過程，算法更深程度上替代人進(jìn)行信息內(nèi)容的檢索甄別、分析處理并直接觸發(fā)決策；從內(nèi)容標(biāo)準(zhǔn)化生產(chǎn)到內(nèi)容精準(zhǔn)化分發(fā)到內(nèi)容選擇性接收，定制化算法間的數(shù)據(jù)交互逐漸形塑并主導(dǎo)互聯(lián)網(wǎng)內(nèi)容生態(tài)。

隨著內(nèi)容生產(chǎn)分發(fā)產(chǎn)業(yè)生態(tài)發(fā)育成熟和分工細(xì)化，首先是在內(nèi)容服務(wù)商之外衍生出獨立的算法中間商，提供用戶畫像、精準(zhǔn)推送的算法算力。如浙江個推，其系統(tǒng)平臺接入內(nèi)容服務(wù)商提供的數(shù)據(jù)源，以SDK數(shù)據(jù)包的方式提供算法模型及能力，輸出決定內(nèi)容分發(fā)方式、渠道、頻次、方向的技術(shù)規(guī)則，如標(biāo)簽化數(shù)據(jù)產(chǎn)品、場景推送服務(wù)，市場覆蓋國內(nèi)90%的互聯(lián)網(wǎng)內(nèi)容平臺。其次，在內(nèi)容生產(chǎn)、內(nèi)容分發(fā)商、廣告商三者獨立細(xì)分基礎(chǔ)上，衍生出勾聯(lián)撮合廣告商與內(nèi)容商交易的競價平臺服務(wù)商。這一類競價交易平臺商著眼于內(nèi)容源端，開發(fā)有內(nèi)容商數(shù)據(jù)分析評價系統(tǒng)，對內(nèi)容商作類型細(xì)分、影響力排行和目標(biāo)用戶群體特征分析，基于多維大數(shù)據(jù)的統(tǒng)計分析和持續(xù)的算法優(yōu)化，對接廣告商偏好為其自動匹配信息傳播效果最佳的內(nèi)容分發(fā)渠道，包括最低價自動匹配和競價匹配兩種交易形式。目前國內(nèi)已涌現(xiàn)出成都云堆，獵豹分發(fā)平臺等基于大數(shù)據(jù)分析的供需對接平臺。以上兩類內(nèi)容服務(wù)模式具有共性特點：提供算法能力，精準(zhǔn)定位用戶需求，指導(dǎo)內(nèi)容；本身并不生產(chǎn)信息內(nèi)容，也僅僅是發(fā)揮輔助優(yōu)化內(nèi)容分發(fā)路徑的功能。

1.3 開放化

開放性、普及性和無國界性是互聯(lián)網(wǎng)與生俱來的本性。一是量子通信、衛(wèi)星互聯(lián)網(wǎng)等新型網(wǎng)絡(luò)接入方式使得互聯(lián)網(wǎng)信息服務(wù)和內(nèi)容傳播的邊界、通道和效率前所未有的普適、深遠(yuǎn)和開闊，可以不受地形或國境的限制實現(xiàn)普遍應(yīng)急通信服務(wù)，對制網(wǎng)權(quán)爭奪的戰(zhàn)略意義凸顯。量子通信尚處在研究試驗階段，但衛(wèi)星互聯(lián)網(wǎng)近期已經(jīng)是相當(dāng)成熟穩(wěn)定的應(yīng)用突破，技術(shù)升級帶來成本降低和性能提升。①如國外Ob3公司在中軌12顆小衛(wèi)星組網(wǎng)實現(xiàn)固定通信，Oneweb公司計劃2018年建成包括648顆中低軌衛(wèi)星的通信網(wǎng)絡(luò)、衛(wèi)星信號終端接收設(shè)備技術(shù)性能也在持續(xù)優(yōu)化提升。各國政策鼓勵傾斜和產(chǎn)業(yè)資本青睞②美國奧巴馬政府出臺“先進(jìn)無線通信研究計劃”，政府投資5000萬美元鼓勵產(chǎn)業(yè)發(fā)展。Oneweb、SpaceX、Ob3等衛(wèi)星通信企業(yè)布局頻譜資源、研發(fā)衛(wèi)星發(fā)射通信技術(shù)，與大型互聯(lián)網(wǎng)企業(yè)資本合作等方式加速產(chǎn)業(yè)升級演進(jìn)。有力推動了衛(wèi)星互聯(lián)網(wǎng)接入技術(shù)和應(yīng)用的蓬勃發(fā)展。二是開源軟件和技術(shù)推動信息內(nèi)容傳播快速廣泛的同時也面臨過于開放而被濫用的可能。境內(nèi)外網(wǎng)絡(luò)犯罪集團(tuán)和間諜機構(gòu)大量利用開源軟件技術(shù)，利用零日漏洞研制網(wǎng)絡(luò)攻擊工具，注入惡意代碼并竊取目標(biāo)信息；甚至開源技術(shù)可以幫助篡改時間戳，隱匿犯罪行為，消除溯源標(biāo)識軌跡。

1.4 隱匿化

加密算法、加密協(xié)議的持續(xù)演進(jìn)，以及下一代互聯(lián)網(wǎng)、IPv6為代表的新技術(shù)普遍提供了匿名通信功能,加密郵件,加密即時通信等普遍應(yīng)用,網(wǎng)絡(luò)行為的隱匿性越來越強。加強用戶保護(hù)通信隱私的同時,也為互聯(lián)網(wǎng)內(nèi)容監(jiān)測審查帶來難度，給違法有害信息傳播和網(wǎng)絡(luò)欺詐犯罪以可乘之機?；ヂ?lián)網(wǎng)的開放性疊加隱匿性為加劇不良內(nèi)容輿論傳播擴散，逃避管控處置和追蹤溯源推波助瀾，為網(wǎng)絡(luò)違法犯罪、極端暴恐、民族分裂仇恨活動提供了化整為零、隱蔽勾連的重要依托。Twitter、Facebook、Youtube等社交媒體平臺作為信息內(nèi)容聚合交互的中心節(jié)點，主導(dǎo)著全球輿論生態(tài)的生成分發(fā)環(huán)節(jié)，結(jié)合其他加密社交軟件、虛擬專用網(wǎng)、閱后即焚應(yīng)用軟件等網(wǎng)絡(luò)通訊工具通過社交分發(fā)和定向智能推薦分發(fā)模式，實現(xiàn)跨地區(qū)跨國界輿情生態(tài)的影響干預(yù)，并支撐起網(wǎng)絡(luò)間諜、暴恐分裂和欺詐犯罪活動的行動勾聯(lián)和信息溝通。

1.5 不對稱

一是技術(shù)、資本和路徑依賴下的國別不對稱：美國等發(fā)達(dá)國家利用對互聯(lián)網(wǎng)關(guān)鍵基礎(chǔ)資源設(shè)施、核心技術(shù)、信息內(nèi)容和用戶數(shù)據(jù)的壟斷優(yōu)勢,結(jié)合民主、自由、人權(quán)等話語體系進(jìn)行綁架，不斷鞏固其網(wǎng)絡(luò)霸權(quán),加大對其他國家進(jìn)行信息滲透、技術(shù)控制和產(chǎn)品傾銷力度；憑借信息技術(shù)和產(chǎn)業(yè)絕對優(yōu)勢，通過跨國條約、雙邊合作、貿(mào)易調(diào)查和安全審查籌劃把控技術(shù)、數(shù)據(jù)核心戰(zhàn)略資源，惡化加劇網(wǎng)絡(luò)世界“強者更強、弱者更弱”的態(tài)勢格局。二是技術(shù)、資本和路徑依賴下的主體不對稱：人工智能和大數(shù)據(jù)技術(shù)支持下，互聯(lián)網(wǎng)平臺企業(yè)愈發(fā)實質(zhì)性具備干預(yù)主導(dǎo)著互聯(lián)網(wǎng)信息內(nèi)容的能力；依托規(guī)模效應(yīng)、長尾效應(yīng)、雙邊市場等特征，構(gòu)建起多邊主體匯聚、撮合交互組織生態(tài)，具有網(wǎng)絡(luò)正效應(yīng)和跨界融合的突出競爭優(yōu)勢，持續(xù)擴張吸納演化成超級巨無霸公司；能夠充分匯聚中轉(zhuǎn)雙向交互信息內(nèi)容，在內(nèi)容源、分發(fā)路徑、傳播中轉(zhuǎn)、信息接收關(guān)鍵環(huán)節(jié)施加制作發(fā)布、過濾審查、定向推送等影響，形塑互聯(lián)網(wǎng)內(nèi)容生態(tài)。快速崛起的互聯(lián)網(wǎng)超級平臺，全面向文化傳媒內(nèi)容領(lǐng)域持續(xù)滲透，一方面受商業(yè)模式和算法影響，成為傳播虛假信息、暴恐色情信息的主渠道；另一方面，其資本構(gòu)成相對復(fù)雜，甚至受制于外國資本。受資本逐利性、和平演變目的，采取在法律灰色地帶對內(nèi)容傳播和輿情方向進(jìn)行負(fù)面干預(yù)，放任或有意擴散虛假不實和煽動不良信息等內(nèi)容。各國政府日益重視對平臺企業(yè)內(nèi)容安全治理責(zé)任的強化督導(dǎo)，尤其是在美國大選通俄門，英國脫歐民意被操縱，烏克蘭、土耳其、德國、法國監(jiān)測發(fā)現(xiàn)關(guān)于政黨選舉和政治議題的輿情被誘導(dǎo)等事件爆發(fā)后，歐盟、印度、澳大利亞等接連出臺指導(dǎo)性法規(guī)政策①相對4G網(wǎng)絡(luò)，傳輸速率提升10～100倍，峰值傳輸速率達(dá)到10 Gbit/s，端到端時延達(dá)到ms級，連接設(shè)備密度增加10～100倍，流量密區(qū)塊鏈融合分布式架構(gòu)、p2p網(wǎng)絡(luò)協(xié)議、共識算法、加密算法、數(shù)據(jù)驗證、智能合約、身份認(rèn)證等技術(shù)，實現(xiàn)基于時間順序的區(qū)塊和鏈數(shù)據(jù)存儲，確保各節(jié)點數(shù)據(jù)一致性和數(shù)據(jù)傳輸存儲加密，構(gòu)建自動化腳本運行智能合約，實現(xiàn)交易的自動判斷和處理。，要求即時通信和社交平臺加強用戶舉報投訴處理，加大執(zhí)法協(xié)助，采取信息標(biāo)簽追蹤、非法內(nèi)容主動檢測、技術(shù)屏蔽、引入第三方監(jiān)控等方式進(jìn)行內(nèi)容治理，消除仇恨暴恐色情信息。

1.6 去中心化

多極化和去中心化是互聯(lián)網(wǎng)的本質(zhì)屬性，區(qū)塊鏈在其基礎(chǔ)上進(jìn)一步強化數(shù)據(jù)驗證、共識更新、傳輸存儲加密和智能合約自動執(zhí)行，成為防數(shù)據(jù)篡改，留存行為痕跡，創(chuàng)造匿名互信生態(tài)的關(guān)鍵技術(shù)支撐。目前區(qū)塊鏈在內(nèi)容生產(chǎn)、分發(fā)領(lǐng)域的主要應(yīng)用較為點狀零星，有通過區(qū)塊鏈的數(shù)據(jù)共識更新、智能合約執(zhí)行機制來創(chuàng)建一項內(nèi)容創(chuàng)作眾包項目，實現(xiàn)多節(jié)點協(xié)作和精準(zhǔn)計酬；有通過傳輸存儲端到端加密、不可篡改來確保數(shù)據(jù)互驗和信息分發(fā)的精準(zhǔn)性和可溯源，創(chuàng)建真實防偽可追溯的信息內(nèi)容生態(tài)，并實現(xiàn)多極各節(jié)點快速流轉(zhuǎn)分發(fā)。當(dāng)然，由于區(qū)塊鏈最普遍的應(yīng)用是比特幣融資交易，能夠為大量干預(yù)誘導(dǎo)負(fù)面輿情，傳播不良極端分裂仇視、虛假欺詐信息，為從事網(wǎng)絡(luò)間諜、暴恐、犯罪活動的組織或個人提供轉(zhuǎn)賬、交易的資金鏈，協(xié)助匿名化移轉(zhuǎn)犯罪資產(chǎn)逃避追蹤監(jiān)管。

2 對互聯(lián)網(wǎng)內(nèi)容生態(tài)治理的影響

網(wǎng)絡(luò)新技術(shù)新應(yīng)用深刻影響著互聯(lián)網(wǎng)信息內(nèi)容的生產(chǎn)、分發(fā)、接收、載體、路徑、形式等方方面面，有機遇也有挑戰(zhàn)，有可積極利用、因勢利導(dǎo)也需重點研判分析，加強應(yīng)對。

2.1 改變信息內(nèi)容生成分發(fā)的流動模式，信息內(nèi)容監(jiān)管工作面臨考驗

一方面，UGC信息源和互聯(lián)網(wǎng)內(nèi)容平臺的強勢崛起，信息傳播渠道更加隱匿多樣，再加上互聯(lián)網(wǎng)開放接入和信息無國界跨境傳播，終端接收獲取的即時性、智能化，信息生成、傳播分發(fā)路徑去中心化、無序化、跨平臺化、多屬性和放射狀，帶來信息識別監(jiān)測、內(nèi)容篩查過濾、溯源追責(zé)處置的巨大壓力。另一方面，人工智能、大數(shù)據(jù)、云計算技術(shù)推動算法對信息內(nèi)容生態(tài)的滲透性應(yīng)用，加上算法的內(nèi)容審查效應(yīng)，存在被出于資本利益、政治意圖、商業(yè)目的，施加人為的操縱干預(yù)，結(jié)合互聯(lián)網(wǎng)內(nèi)容平臺立體化多級化網(wǎng)絡(luò)化的宣傳能力，極易引發(fā)信息內(nèi)容生態(tài)亂象。

2.2 增強互聯(lián)網(wǎng)輿論動員、政治動員和組織動員能力，極易被不法人士利用

用新技術(shù)來制造暴恐事件、社會混亂、極端行動、不良思潮和政治危機，重大活動重要時期安全保障工作難度倍增。一是微博客、即時通信、社交軟件、搜索引擎、網(wǎng)絡(luò)直播、公眾賬號等互聯(lián)網(wǎng)內(nèi)容平臺強化虛擬社會和現(xiàn)實社會的耦合,線上線下交流互動更加頻繁有效,即時通信功能持續(xù)強化；新技術(shù)的智能化、泛在化、開放化、隱匿化進(jìn)一步便利了線上組織策劃,宣傳煽動,信息擴散等違法活動，極大增加了突發(fā)安全事件監(jiān)測預(yù)警、應(yīng)急響應(yīng)、內(nèi)容干預(yù)、信息調(diào)控、追蹤測源、輿情疏導(dǎo)的難度若未能及時有效的糾偏處突,將可能引發(fā)嚴(yán)重的社會事件和安全事件,危及政權(quán)穩(wěn)定和穩(wěn)定和諧大局。如近年發(fā)生在埃及、突尼斯等國的民族分裂政權(quán)顛覆事件中,即時通信和社交媒體策應(yīng)輔助,通過話題制造、內(nèi)容剪裁、定向分發(fā)、片面宣傳、民意欺騙、輿情誘導(dǎo)等手段，發(fā)揮事態(tài)演化的“導(dǎo)火索”、“催化劑”和“放大器”。二是人工智能算法+大數(shù)據(jù)，與政黨政治主題關(guān)聯(lián)綁架，在內(nèi)容自動生成和內(nèi)容精準(zhǔn)分發(fā)環(huán)節(jié)發(fā)揮作用，導(dǎo)致強大的政治誘導(dǎo)和宣傳動員能力。算法技術(shù)服務(wù)商、主流媒體、互聯(lián)網(wǎng)內(nèi)容平臺商聯(lián)動構(gòu)建起龐大的內(nèi)容制造宣傳網(wǎng)絡(luò)，前端以行為追蹤識別技術(shù)實現(xiàn)數(shù)據(jù)采集，以人工智能技術(shù)和數(shù)據(jù)挖掘分析技術(shù)為底層支撐，構(gòu)建心理行為分析預(yù)測、廣告定向投放模型算法，實現(xiàn)網(wǎng)絡(luò)虛假新聞信息的精準(zhǔn)分發(fā)，形成強大的輿論動員、情緒煽動、觀點引導(dǎo)、社會動員影響力。牛津大學(xué)互聯(lián)網(wǎng)研究所計算宣傳研究項目（COMPROP ，Computational Propaganda Research Project）通過分析如何利用社交媒體機器人等工具，通過放大或壓制政治內(nèi)容、假情報、仇恨言論和垃圾新聞來操縱公眾輿論，確認(rèn)了算法、人工智能和政治選舉之間的密切關(guān)聯(lián)。

2.3 擴展并改變信息內(nèi)容形式和信息保護(hù)的范圍方式，被竊取、泄露的安全風(fēng)險加大

一是“互聯(lián)網(wǎng)+”加速融合滲透趨勢下，信息內(nèi)容形態(tài)和信息保護(hù)范圍在政治、經(jīng)濟、軍事、外交等領(lǐng)域持續(xù)擴散，信息流通環(huán)節(jié)和主體愈發(fā)多元復(fù)雜，信息交互共享和分析應(yīng)用程度加深，信息保護(hù)的可控性、防竊取性降低,信息隔離和訪問控制亟待增強；二是物聯(lián)網(wǎng)、智能終端、泛在接入、云化資源虛擬調(diào)度等新技術(shù)，電商、直播、游戲、交通、醫(yī)療等民生服務(wù)的互聯(lián)網(wǎng)化應(yīng)用普及帶來事關(guān)國計民生重要敏感數(shù)據(jù)、社會關(guān)系數(shù)據(jù)和隱私數(shù)據(jù)被廣泛采集匯聚，開放共享和動態(tài)跨境調(diào)度，引發(fā)泄露風(fēng)險。

2.4 帶來互聯(lián)網(wǎng)內(nèi)容安全治理的新模式新契機

一是在輿論引導(dǎo)、輿情環(huán)境調(diào)控干預(yù)方面，人工智能、大數(shù)據(jù)和算法的技術(shù)性能優(yōu)勢能夠發(fā)揮正向積極作用，服務(wù)于核心價值觀、正能量、理性真實思想思潮等內(nèi)容的宣傳鼓舞；二是內(nèi)容治理、違法信息監(jiān)測處置方面，人工智能與大數(shù)據(jù)結(jié)合下訓(xùn)練優(yōu)化的算法模型可充分發(fā)揮監(jiān)測預(yù)警、智能化識別發(fā)現(xiàn)和應(yīng)急處置的作用。當(dāng)下Google、Facebook、Twitter等以用戶舉報投訴、樣本匹配、人工審查等方式為基礎(chǔ)，結(jié)合人工智能算法模型，對極端暴恐仇恨內(nèi)容進(jìn)行標(biāo)記、識別、追蹤和移除。國外部分知名大學(xué)和科研機構(gòu)構(gòu)建暴恐仇恨信息數(shù)據(jù)庫，匯總暴恐行為、暴恐組織、暴恐事件結(jié)構(gòu)化、非結(jié)構(gòu)化數(shù)據(jù)，梳理提煉并標(biāo)簽化屬性，設(shè)計預(yù)警算法和模型，加強對暴恐活動的監(jiān)測防御能力。我國在防范打擊網(wǎng)絡(luò)犯罪和通訊信息詐騙專項治理中，積極運用大數(shù)據(jù)挖掘分析技術(shù)，結(jié)合眾多詐騙典型案例、涉案要素和行為特征數(shù)據(jù)，構(gòu)建態(tài)勢感知和監(jiān)測預(yù)警模型，最大限度提升違法信息傳播被識別發(fā)現(xiàn)的概率和效果。

3 對策建議

技術(shù)是雙刃劍，技術(shù)變革升級帶來的安全風(fēng)險隱患常變常新，互聯(lián)網(wǎng)內(nèi)容生態(tài)調(diào)控管理任重道遠(yuǎn)，宜動態(tài)跟蹤、全面把握、穩(wěn)中有序、常抓不懈。通過發(fā)展贏得主動,是解決網(wǎng)絡(luò)新技術(shù)新應(yīng)用帶來內(nèi)容生態(tài)安全問題的根本舉措。面對網(wǎng)絡(luò)新技術(shù)新應(yīng)用帶來的互聯(lián)網(wǎng)內(nèi)容生態(tài)治理新問題新契機，考慮著眼于制度機制、技術(shù)能力、基礎(chǔ)研究、國際合作四個面向，按照責(zé)任明晰、科學(xué)管理，協(xié)同聯(lián)動、綜合治理的基本思路，統(tǒng)籌提升互聯(lián)網(wǎng)內(nèi)容生態(tài)治理綜合實力。

3.1 頂層設(shè)計、責(zé)任督導(dǎo)

一是推動科技體制的創(chuàng)新調(diào)整，加強對重大前瞻技術(shù)趨勢動向的跟蹤研究,傾向重大專項的資金人才支持，鼓勵創(chuàng)新豐富互聯(lián)網(wǎng)信息服務(wù)創(chuàng)新應(yīng)用，推動信息安全產(chǎn)業(yè)培育健全,加大對信息通信技術(shù)領(lǐng)域重大自主創(chuàng)新項目政策支持和金融財稅杠桿投入,引導(dǎo)大型互聯(lián)網(wǎng)企業(yè)加強安全自主可控技術(shù)系統(tǒng)設(shè)備研發(fā)應(yīng)用，逐步減少關(guān)鍵信息基礎(chǔ)設(shè)施對國外技術(shù)，產(chǎn)品和服務(wù)的依賴,為互聯(lián)網(wǎng)內(nèi)容安全治理贏得主動,爭取空間，夯實保障。

二是以《網(wǎng)絡(luò)安全法》落地為契機，健全完善內(nèi)容安全治理規(guī)范體系，明確細(xì)化電信運營商、互聯(lián)網(wǎng)接入服務(wù)平臺企業(yè)、互聯(lián)網(wǎng)內(nèi)容服務(wù)平臺企業(yè)的內(nèi)容安全保障責(zé)任、數(shù)據(jù)安全責(zé)任和用戶隱私保護(hù)責(zé)任；從內(nèi)容審查過濾、用戶實名管理、應(yīng)急響應(yīng)處置、日志留存和行為審計溯源、第三方審查評估、執(zhí)法協(xié)助配合、舉報投訴機制、合作方督促、平臺自律執(zhí)行和平臺替代責(zé)任等方面強化過程與結(jié)果約束。

三是構(gòu)建N+1監(jiān)管機制，明晰權(quán)責(zé)邊界，強化專項協(xié)同治理。按照體系統(tǒng)籌、齊抓共管的思路，結(jié)合具體的輿情專項治理領(lǐng)域，明確統(tǒng)籌管理、內(nèi)容治理、防范打擊、技術(shù)配合等有關(guān)單位的職責(zé)邊界，建立推動國家內(nèi)容安全的跨部門情報共享、監(jiān)測巡查、日常聯(lián)動、應(yīng)急處置、通報約談、協(xié)同查處等機制運行和執(zhí)行實施。

四是準(zhǔn)入評估、問題巡查、執(zhí)法檢查、信用公示等監(jiān)管措施合力，加強平臺企業(yè)主體責(zé)任督導(dǎo)。緊扣內(nèi)容生產(chǎn)分發(fā)的形式載體、傳播源頭、傳播渠道，明確源頭治理和渠道管控的策略思路，把控搜索引擎、即時通信和社交平臺、自媒體社區(qū)和公眾賬號、網(wǎng)絡(luò)直播平臺等關(guān)鍵企業(yè)，嚴(yán)格準(zhǔn)入階段的主體能力審查和新技術(shù)新應(yīng)用的事前事中評估審查；依托安全評估巡查監(jiān)測機制，組織開展責(zé)任落實專項督導(dǎo)，持續(xù)跟蹤鎖定問題隱患、督促整改，加強行政處罰和監(jiān)督問責(zé)；研究建立重點平臺互聯(lián)網(wǎng)企業(yè)聯(lián)席機制和責(zé)任信譽評價機制，將主流媒體平臺和內(nèi)容平臺打造為公眾與政府溝通交流的紐帶和政府信息傳播發(fā)聲主陣地，以政府權(quán)威公信力提升帶動正向輿論。

3.2 技術(shù)監(jiān)測、應(yīng)急調(diào)控

一是加快健全安全評估工作體系和覆蓋全網(wǎng)重點平臺企業(yè)、業(yè)務(wù)系統(tǒng)的技術(shù)監(jiān)測分析處置技術(shù)能力，加強內(nèi)容安全風(fēng)險的監(jiān)測發(fā)現(xiàn)和研判處置，強化對重大敏感時間節(jié)點的輿情跟蹤，深入開展內(nèi)容生態(tài)的態(tài)勢研判和規(guī)律分析。

二是以《國家網(wǎng)絡(luò)安全應(yīng)急預(yù)案》為指導(dǎo)，研究建立應(yīng)急指揮聯(lián)動系統(tǒng)和協(xié)同管理平臺，加強關(guān)鍵環(huán)節(jié)、重點主體、特殊地域、重要時期的風(fēng)險預(yù)判和處理應(yīng)對能力，針對違法不良信息擴散、敏感熱點輿情、暴恐極端活動事件的線索表征做到及時發(fā)現(xiàn)，積極疏導(dǎo)，應(yīng)急響應(yīng)。

三是按照統(tǒng)籌規(guī)劃、統(tǒng)一建設(shè)、資源共享、標(biāo)準(zhǔn)配套的思路，建立技術(shù)能力的跨部門共享合作機制，避免重復(fù)建設(shè)和資金浪費；推動有關(guān)標(biāo)準(zhǔn)制定頒布，標(biāo)準(zhǔn)引導(dǎo)推動國家、行業(yè)技術(shù)平臺建設(shè)和內(nèi)容安全管理水平提升。

四是指導(dǎo)互聯(lián)網(wǎng)平臺企業(yè)健全內(nèi)容安全管理和輿情監(jiān)測預(yù)警工作體系和技術(shù)手段，提升輿情正向干預(yù)和危機處置技術(shù)能力。

3.3 前瞻布局、為我所用

一是緊密結(jié)合信息技術(shù)發(fā)展趨勢,加強頂層設(shè)計和長遠(yuǎn)研究，加大研發(fā)力度，開展科技攻關(guān)，研發(fā)應(yīng)用內(nèi)容安全和輿情監(jiān)測核心技術(shù)，努力突破暗網(wǎng)、區(qū)塊鏈、加密通信等關(guān)鍵技術(shù)，為保障國家安全和促進(jìn)經(jīng)濟社會發(fā)展提供堅實的技術(shù)保障。

二是堅持抓當(dāng)下和謀長遠(yuǎn)相結(jié)合，積極布局大數(shù)據(jù)、人工智能、區(qū)塊鏈等技術(shù)突破，運用機器學(xué)習(xí)、模式識別、圖像識別、自動分析決策等技術(shù)能力、研發(fā)智能化自動化感知觸發(fā)，主動防御技術(shù)能力，提升信息推送、輿情引導(dǎo)、信息管控的自動化感知觸發(fā)和精準(zhǔn)化水平。

3.4 國際合作，對話共贏

互聯(lián)網(wǎng)本質(zhì)上是開放互聯(lián)、無國界的，當(dāng)下互聯(lián)網(wǎng)內(nèi)容安全治理日益受到各國政府重視，成為全球關(guān)切焦點和外交關(guān)系敏感點。制定和推進(jìn)信息安全領(lǐng)域的外交戰(zhàn)略，積極參與和引導(dǎo)國際規(guī)則制定,廣泛依托一帶一路戰(zhàn)略、互聯(lián)網(wǎng)大會、中國-東盟、聯(lián)合國、上海合作組織等組織形式參與互聯(lián)網(wǎng)治理議題發(fā)聲討論，利用ITU、IETF、ISO/ITEC、ICANN等國際技術(shù)標(biāo)準(zhǔn)聯(lián)合開展對人工智能、區(qū)塊鏈、5G、物聯(lián)網(wǎng)、IPv6等前沿技術(shù)應(yīng)用研究和標(biāo)準(zhǔn)研制，努力克服技術(shù)、資本和信息霸權(quán)帶來的負(fù)面影響，加速追趕。加大同美俄英法等國家的高層交流溝通，推動形成網(wǎng)信息安全事件處置合作機制，加強預(yù)警通報,提高危機管理力，共同應(yīng)對跨境網(wǎng)絡(luò)信息安全問題。