趙 陽 李京旭 廉 藺

內(nèi)容提要：深度偽造技術(shù)，是具有極高欺騙性的人工智能技術(shù)。值得警惕的是，這種技術(shù)可能被某些敵對勢力所利用，威脅我軍政治安全。警惕和防范深度偽造技術(shù)威脅，必須加強(qiáng)人員、設(shè)施和裝備信息保護(hù)，抓緊偽造信息識別技術(shù)研發(fā)，嚴(yán)格網(wǎng)絡(luò)平臺涉軍視頻圖像管理，強(qiáng)化信息發(fā)布的統(tǒng)一和權(quán)威性，完善網(wǎng)絡(luò)信息安全保障法規(guī)。

人工智能技術(shù)的強(qiáng)大和普及，無疑將促進(jìn)相關(guān)領(lǐng)域科研及社會經(jīng)濟(jì)的發(fā)展，但人工智能技術(shù)發(fā)展帶來的負(fù)面影響也不容忽視。近期，美歐多國開發(fā)出多種基于人工智能的深度偽造技術(shù)，偽裝性強(qiáng)、欺騙性高、難以監(jiān)管，極有可能成為敵對勢力在意識形態(tài)和思想政治領(lǐng)域?qū)ξ臆姲l(fā)動攻擊的重要工具，對此須格外警惕、做好防范。

一、深度偽造技術(shù)可以假亂真

“深度偽造”（DeepFake）技術(shù)，是基于生成對抗網(wǎng)絡(luò)，借助機(jī)器學(xué)習(xí)系統(tǒng)、神經(jīng)網(wǎng)絡(luò)技術(shù)和海量數(shù)據(jù)，將圖片或視頻合并疊加逼真換臉植入源圖片或視頻上，把個人的聲音、表情及動作拼接合成肉眼難以辨識的虛假內(nèi)容的人工智能技術(shù)。此項技術(shù)的出現(xiàn)，徹底顛覆了人們“眼見為實”的傳統(tǒng)認(rèn)知。從理論層面看，“深度偽造”技術(shù)采用了深度神經(jīng)網(wǎng)絡(luò)生成虛假圖像，由于深度學(xué)習(xí)的不可解釋性，我們對于虛假圖像的生成過程的本質(zhì)機(jī)理無法完全進(jìn)行解析，只能通過生成結(jié)果存在的“瑕疵”進(jìn)行識別（例如：色彩分布、線條特征、細(xì)節(jié)表情、視覺區(qū)域的光影關(guān)系、像素尺度上過度不連續(xù)、偽造區(qū)域與真實區(qū)域清晰度不匹配）。這些“瑕疵”，一是通過視覺特征統(tǒng)計得到，二是通過機(jī)器自主學(xué)習(xí)得到，但有效性相對有限。從工程實踐層面看，一方面，由于深度學(xué)習(xí)方法不斷發(fā)展，“深度偽造”技術(shù)也在不斷改進(jìn)，呈現(xiàn)出“道高一尺魔高一丈”的態(tài)勢，能夠用于檢測的“瑕疵”，很快就會被改進(jìn)的“深度偽造”技術(shù)克服；另一方面，由于算力成本不斷下降，“深度偽造”技術(shù)使用門檻不斷降低，該項技術(shù)不斷在應(yīng)用中優(yōu)化完善，生成的虛假圖像越來越真實，在某種程度上已經(jīng)超過了人類認(rèn)知識別能力。這也給識別帶來了極大的挑戰(zhàn)。

深度偽造技術(shù)已經(jīng)走進(jìn)大眾，并被濫用。從2017年Deepfakes在網(wǎng)絡(luò)論壇上公布“換臉”代碼以來，各種深度偽造技術(shù)被廣泛開發(fā)、傳播和利用。由于深度偽造技術(shù)充分利用深度學(xué)習(xí)模型的自主學(xué)習(xí)能力和計算機(jī)算力優(yōu)勢，大大降低了偽造視頻圖像的制作門檻和成本，使得普通民眾也能在短時間內(nèi)大批量偽造出逼真的視頻和圖像。目前，從軟件開發(fā)到數(shù)據(jù)搜集，到包裝制作，到販賣傳播已經(jīng)形成黑色產(chǎn)業(yè)鏈，因其引發(fā)的“深度假象”傳播浪潮已經(jīng)成為一個亟待解決的全球性問題。谷歌開發(fā)的人工智能軟件促使偽造視頻在互聯(lián)網(wǎng)上成倍增長，大量基于谷歌人工智能庫的偽造工具都是公開且免費(fèi)使用。用戶已經(jīng)在未經(jīng)人們同意或不被知情的情況下，利用深度仿冒技術(shù)將其臉部圖像插入色情音像之中，更有不法之徒將眾多影星名人的不雅換臉視頻在網(wǎng)絡(luò)上兜售，以獲取暴利。許多歐美政要被偽造視頻惡搞，特朗普、奧巴馬、希拉里、普京、特雷莎·梅、默克爾等均未能幸免。最近走紅網(wǎng)絡(luò)的一種名為DeepNude的新型深度偽造軟件，更是可以一鍵生成裸照，只要輸入一張完整的女性圖片，就可自動生成相應(yīng)的全裸照片。非法制作假冒音像內(nèi)容越來越容易，因而將為敲詐、恐嚇和破壞創(chuàng)造大量機(jī)會。然而，深度偽造技術(shù)最可怕的應(yīng)用很可能是在政治和國際事務(wù)領(lǐng)域。在這些領(lǐng)域，“深度贗品”可能會被用來制造異常有效的謊言，從而煽動暴力活動，令領(lǐng)導(dǎo)人和組織機(jī)構(gòu)名譽(yù)掃地，甚至使選舉結(jié)果發(fā)生逆轉(zhuǎn)。

二、深度偽造技術(shù)引起世界大國高度警覺

美國是深度偽造技術(shù)的發(fā)源地，也是最先意識到深度偽造技術(shù)具有嚴(yán)重潛在風(fēng)險的國家之一。2018年9月，美國立法人員要求情報界評估人工智能偽造技術(shù)對選舉的危害，并表示：“我們非常關(guān)注這種人工智能偽造技術(shù)是否不久會被惡意外國人員所利用，通過發(fā)動虛假宣傳活動等手段加劇政治和社會分裂以削弱我們國家的安全?！?019年6月13日，美國眾議院情報委員會召開關(guān)于人工智能深度偽造的聽證會，公開談?wù)摿松疃葌卧旒夹g(shù)對國家、社會和個人的風(fēng)險及防范和應(yīng)對措施。這是美國眾議院首次舉辦專門討論深度偽造及其他類型的AI合成技術(shù)的聽證會，系統(tǒng)介紹深度偽造技術(shù)及解答議員的疑惑，共同探討深度偽造技術(shù)所導(dǎo)致的個體人身損害、企業(yè)信譽(yù)及經(jīng)濟(jì)的損失、國家和公共安全受到威脅、新聞媒體行業(yè)的社會信任衰退等4類風(fēng)險，提出實施深度偽造的主體限制、深度偽造的內(nèi)容審核、網(wǎng)絡(luò)平臺的法律責(zé)任、信息真實性的檢測、對外國人實施深度偽造行為的制裁、批判性思維的教育等6條應(yīng)對之策。

俄羅斯是較早開發(fā)使用深度偽造技術(shù)的國家。近日一款名為FaceApp的軟件在國外掀起熱潮，這款由俄羅斯團(tuán)隊開發(fā)的軟件可以通過你提供的照片，使用AI技術(shù)來改變你的頭發(fā)、性別、年齡等特征并生成新的照片。然而，一些程序開發(fā)人員對其隱私條款提出擔(dān)憂，質(zhì)疑該軟件私自上傳用戶其他照片，并濫用照片數(shù)據(jù)，為此引發(fā)了英國和美國對隱私安全的恐慌。俄羅斯外交部外交學(xué)院國際熱點(diǎn)問題研究所主任研究員、莫斯科國立大學(xué)教授葉夫根尼·帕申采夫在接受俄羅斯衛(wèi)星通訊社采訪時也直言不諱：“深度偽造技術(shù)可以合成一個人的形象和聲音。它已經(jīng)開始用于制作各國領(lǐng)導(dǎo)人的視頻圖像，包括美國總統(tǒng)唐納德·特朗普和俄羅斯總統(tǒng)弗拉基米爾·普京的圖像?！疃葌卧臁曨l能夠操縱大型目標(biāo)群體的行為，并可用于信息和心理對抗，以引發(fā)金融恐慌或戰(zhàn)爭?！?/p>

中國對深度偽造技術(shù)風(fēng)險的反應(yīng)十分迅速。2019年4月20日，《民法典人格權(quán)編（草案）》二審稿提請十三屆全國人大常委會第十次會議審議。此次的草案二審稿針對技術(shù)“換臉”侵犯自然人肖像權(quán)的問題，專門增加規(guī)定：任何組織和個人不得以利用信息技術(shù)手段偽造的方式侵害他人的肖像權(quán)。同時，將草案第八百零三條修改為：其他人格權(quán)的許可使用和自然人聲音的保護(hù)，參照適用本章的有關(guān)規(guī)定。也就是說，聲音也將納入公民的法律保護(hù)范圍。4月28日，中國中央電視臺《世界周刊》欄目專門針對“深度偽造”制作了一期節(jié)目，全面系統(tǒng)地向公眾介紹了深度偽造技術(shù)的原理、危害和防護(hù)方法，對提高社會防范意識發(fā)揮了重要作用。9月3日，工信部網(wǎng)絡(luò)安全局對AI變臉軟件ZAO所屬公司負(fù)責(zé)人進(jìn)行了問詢約談，要求其開展自查整改，強(qiáng)化網(wǎng)絡(luò)數(shù)據(jù)和用戶個人信息安全保護(hù)，積極防范自有業(yè)務(wù)平臺被利用實施電信網(wǎng)絡(luò)詐騙等風(fēng)險隱患。

三、深度偽造技術(shù)可能威脅我軍政治安全

當(dāng)前，意識形態(tài)領(lǐng)域斗爭形勢尖銳復(fù)雜，特別是各種敵對勢力對我軍滲透破壞指向愈加明確，活動愈加猖獗。意識形態(tài)領(lǐng)域斗爭是一場持久戰(zhàn)，敵對勢力在這個問題上很有耐力，一刻沒有放松行動，正在著力研發(fā)應(yīng)用新的技術(shù)，尋求突破我思想陣地的新方法、新手段。深度偽造技術(shù)極有可能被敵對勢力利用，對我軍思想政治領(lǐng)域?qū)嵤┕簟?/p>

偽造黨和軍隊高級領(lǐng)導(dǎo)的負(fù)面言行，動搖廣大官兵對黨的信念和對軍隊的信心。軍人理想信念的養(yǎng)成與鞏固，除了源自于對黨的理論路線方針政策的高度認(rèn)同，更為直接、更為樸素的來源便是對黨的領(lǐng)袖、軍隊統(tǒng)帥的真摯情感和精神崇拜。以往，敵對勢力常以編造故事、修改照片等方式，中傷丑化我們黨、國家和軍隊的領(lǐng)導(dǎo)人，但由于手段拙劣、易于識破，并未在官兵中產(chǎn)生嚴(yán)重影響。然而，如果利用深度偽造技術(shù)，惡意偽造黨和軍隊高級領(lǐng)導(dǎo)的所謂“內(nèi)部講話”“秘密會晤”以及“不雅視頻”等，達(dá)到以假亂真、難辨真?zhèn)蔚男Ч?，必將?yán)重?fù)p害領(lǐng)導(dǎo)人的個人威信和組織形象，在官兵中引起思想混亂，甚至產(chǎn)生認(rèn)知顛覆，后果難以估計。

捏造軍人和軍隊負(fù)面新聞，挑撥軍民矛盾，削弱人民軍隊的群眾基礎(chǔ)。人民是我黨我軍的血脈根基所在，只有和人民站在一起，緊緊依靠人民，我們這支軍隊才能不斷發(fā)展壯大，才能無往不勝。近年來，敵對勢力編造和炒作涉軍負(fù)面新聞時有發(fā)生，諸如部隊沖擊政府機(jī)關(guān)、部隊打砸地方娛樂場所、軍人騙財騙色騙婚、軍人毆打老百姓等，由于相關(guān)部門及時澄清，很快得到平息。但是，如果“有圖有真相”的假新聞，配以利用深度偽造技術(shù)制作的音視頻作為“證據(jù)”，一般群眾可能會對此深信不疑，給辟謠、澄清和解釋工作帶來極大困難，必將對軍人榮譽(yù)和軍隊形象造成極大損害，對軍政軍民關(guān)系構(gòu)成巨大威脅。

利用敏感涉軍事件，制造假場景、假人物、假活動，煽風(fēng)點(diǎn)火、操控輿情。當(dāng)前，我國正處于發(fā)展關(guān)鍵期和改革攻堅期，同時也是社會環(huán)境敏感期和社會矛盾凸顯期。近年來，由房屋拆遷、醫(yī)患糾紛、P2P暴雷以及各種維權(quán)所引發(fā)的社會群體性事件明顯增多，給各地維穩(wěn)工作帶來很大壓力。敵對勢力一旦利用深度偽造技術(shù)制作軍人參與事件或是軍隊暴力維穩(wěn)的視頻圖像，并利用互聯(lián)網(wǎng)進(jìn)行快速傳播，勢必將社會輿情的矛頭引向黨和軍隊，將普通的群眾維權(quán)事件演變?yōu)閻毫拥纳鐣问录?，甚至產(chǎn)生國際影響。例如，香港“占中”事件中，“學(xué)運(yùn)”分子利用“警察開槍、警察打人”等虛假消息，配上很多血腥暴力的虛假圖片，激發(fā)觀者的負(fù)面情緒，加劇了“占中”事件的擴(kuò)大升級。

在戰(zhàn)時對我實施心理戰(zhàn)，散布假消息、炮制假文件、鼓吹假戰(zhàn)況，以動搖軍心、打擊士氣。心理戰(zhàn)歷來是軍事斗爭的重要手段，而深度偽造技術(shù)的出現(xiàn)給心理戰(zhàn)的實施提供了新的利器。據(jù)悉，美軍正在抓緊時間為心理戰(zhàn)部隊研制一批包括無人駕駛心理戰(zhàn)宣傳飛機(jī)在內(nèi)的智能化設(shè)備，并逐步將語言模擬技術(shù)、虛擬現(xiàn)實技術(shù)、仿形技術(shù)和隱形技術(shù)引入實戰(zhàn)，以提高心理戰(zhàn)效果。由此看來，戰(zhàn)時敵對勢力很可能利用深度偽造技術(shù)，偽造我方將領(lǐng)統(tǒng)帥視頻，發(fā)布假消息、假命令、假戰(zhàn)報，擾亂我軍心士氣，激發(fā)民眾恐慌，引發(fā)社會動蕩，以達(dá)到瓦解我軍意志、摧毀勝利信心的目的。

四、我軍應(yīng)對深度偽造技術(shù)威脅的對策提要

敵對勢力利用深度偽造技術(shù)對我軍思想政治領(lǐng)域?qū)嵤┕?，手段是無所不用其極的，必須采取有效措施，全面加強(qiáng)防范。

加強(qiáng)人員、設(shè)施和裝備信息保護(hù)。偽造對象的真實信息是人工智能偽造技術(shù)的基本“原料”。因此，應(yīng)加大對軍隊人員、軍事設(shè)施和武器裝備的視頻、音頻、圖像等信息發(fā)布的審查力度，降低信息暴露程度，并利用數(shù)據(jù)水印等信息保護(hù)手段，防止相關(guān)公開信息被惡意使用、合成或偽造，從數(shù)據(jù)源上提高其偽造難度。

抓緊偽造信息識別技術(shù)研發(fā)。要加強(qiáng)數(shù)字簽名技術(shù)研究，對新產(chǎn)生的數(shù)據(jù)從源頭上進(jìn)行確權(quán)，支持?jǐn)?shù)據(jù)溯源，拒絕流通環(huán)節(jié)的篡改；要加強(qiáng)信息鑒偽技術(shù)研究，在音調(diào)、表情、頻率等技術(shù)細(xì)節(jié)上發(fā)現(xiàn)深度偽造信息存在的破綻；要大規(guī)模開發(fā)和共享檢測工具，互換共享技術(shù)信息；要增加對檢測技術(shù)研發(fā)資金的投入，激發(fā)技術(shù)創(chuàng)新；要發(fā)展偽造信息危害評估和測量業(yè)務(wù)，通過研究相關(guān)科學(xué)文獻(xiàn)和發(fā)展知識儲備庫，決定對偽造信息的人應(yīng)采取的行動。

嚴(yán)格網(wǎng)絡(luò)平臺涉軍視頻圖像管理。網(wǎng)絡(luò)服務(wù)平臺應(yīng)針對合成內(nèi)容進(jìn)行標(biāo)記和分類，標(biāo)記的事件和內(nèi)容類別應(yīng)跨平臺達(dá)成行業(yè)共識。視頻網(wǎng)站要承擔(dān)起檢查用戶視頻內(nèi)容職責(zé)，對涉軍視頻內(nèi)容的真?zhèn)渭昂戏ㄐ赃M(jìn)行審核，把好偽造涉軍信息進(jìn)入網(wǎng)絡(luò)的第一入口；網(wǎng)絡(luò)社交平臺要能及時發(fā)現(xiàn)網(wǎng)絡(luò)信息傳播異常，并對相關(guān)信息進(jìn)行內(nèi)容審核，迅速阻斷偽造涉軍信息傳播途徑，防止涉軍虛假有害信息快速擴(kuò)散。

強(qiáng)化信息發(fā)布的統(tǒng)一和權(quán)威性。要建立軍隊信息發(fā)布的統(tǒng)一出口，樹立軍隊信息發(fā)布機(jī)構(gòu)的權(quán)威性，禁止任何其他媒體非法制作和發(fā)布涉軍信息。有限授權(quán)資質(zhì)背景較好的媒體開展涉軍信息傳播業(yè)務(wù)，管控好軍隊信息源頭和傳播途徑，嚴(yán)防涉軍虛假信息進(jìn)入官方“主渠道”。以路徑規(guī)制來識別和破除各種偽造信息，牢牢掌握判定信息真?zhèn)蔚墓帕蜎Q定權(quán)。

完善網(wǎng)絡(luò)信息安全保障法規(guī)。完善《互聯(lián)網(wǎng)新聞信息服務(wù)管理規(guī)定》相關(guān)條款，明確將涉軍信息偽造及傳播行為納入網(wǎng)絡(luò)安全法規(guī)體系重點(diǎn)打擊對象，細(xì)化違規(guī)違法懲處措施；研究制定《軍隊信息安全保護(hù)條例》，規(guī)范軍隊人員正確使用帶有拍照、錄音、錄像等信息采集功能的網(wǎng)絡(luò)終端設(shè)備，重視軍事信息保護(hù)；加強(qiáng)相關(guān)技術(shù)科普教育，使廣大官兵增強(qiáng)偽造信息識別能力、提高偽造信息防范意識，做到不看不信不傳。