鄭子亨 王哲

近年來，Deepfakes技術不斷進化，使用門檻不斷降低，一些不法分子將其應用于制造假視頻和假新聞、煽動網絡暴力、破壞政治選舉、擾亂外交關系、偽造虛假證據、降低民眾對政府和媒體的信任度，帶來極大負面影響。對此，我國應予以高度重視，并提前布局、積極應對。

“Deepfakes”是“deep machine learning”（深度學習）和“fake”（造假）的英文組合詞，又被稱作“深度偽造”，是一種基于深度學習的人物圖像合成技術，由于Deepfakes最常見的方式就是在視頻中把一張臉替換成另一張臉，因此也被稱作“人臉交換”（Face Swap）技術。Deepfakes算法常常被運用在圖片和視頻制作過程中合成新的視頻或圖像，目前，其技術門檻正在不斷降低，非專業(yè)人員已經可以利用簡單開源代碼快速制作出以假亂真的視頻和圖像，使用Deepfakes技術制作的音視頻很難被肉眼辨別真?zhèn)巍eepfakes技術正被濫用于網絡暴力、破壞政治選舉、擾亂外交關系等方面，給社會和國家?guī)順O大風險，對此，我國應予以高度重視，并提前布局積極應對。

Deepfakes技術濫用引發(fā)社會風險

Deepfakes技術正在不斷演進。Deepfakes是一套基于生成對抗網絡的深度學習算法模型，可以實現(xiàn)模擬真人聲音、圖像視頻內容替換、圖像生成等內容。目前，Deepfakes被越來越多地使用在視頻領域，使用者利用Deepfakes技術可嫁接和重構視頻內容特性，將視頻中人臉進行替換。Deepfakes視頻人臉替換實質是將視頻進行逐幀處理，達到換臉的效果，整個處理流程主要包括三個步驟：一是圖像預處理，二是模型訓練，三是圖像融合。在生成視頻前，神經網絡需要大量目標任務圖像數(shù)據進行學習，圖像的數(shù)量、質量和多元性決定了神經網絡的學習效果，即學習數(shù)據越多，模擬效果越逼真。換臉技術曾長期被大型數(shù)字特效公司用于視頻的制作，然而，使用傳統(tǒng)技術進行換臉需要耗費大量時間和計算資源，隨著Deepfakes技術的發(fā)展，這一過程得到極大簡化。近年來，Deepfakes技術自身也在不斷迭代更新，基于新型無監(jiān)督視頻重定向方法（Recycle-GAN）的Deepfakes算法，不僅實現(xiàn)了對音視頻材料空間信息和時間信息的抽取，也改進了Deepfakes偽造視頻的真實度，不過，該技術的應用目前尚不成熟。

Deepfakes技術濫用愈發(fā)嚴重。近年來，Deepfakes技術門檻不斷降低，部分人將Deepfakes技術用于煽動網絡暴力、破壞政治選舉、擾亂外交關系、偽造虛假證據等不法用途，在“所見即真實”的認知定律下，虛假視頻及新聞在社交媒體的加持下加速傳播，使得Deepfakes技術濫用的后果不斷加劇。例如，2018年4月，網絡黑客運用Deepfakes技術偽造了美國前總統(tǒng)奧巴馬語言侮辱特朗普的視頻，該視頻在推特上短時間被點擊200多萬次，對美國政府形象造成了極大的不良影響。今年以來，利用Deepfakes偽造的美國眾議院議長佩洛西、美國總統(tǒng)特朗普等政要的虛假談話視頻紛紛出現(xiàn)在社交媒體上，并被廣泛快速傳播。Deepfakes技術的惡意應用還極大影響了個人生活，2019年6月，基于Deepfakes技術開發(fā)的應用程序DeepNude“走紅”網絡，該應用可以自動消除圖片中女性衣物，被應用于制作名人的虛假色情視頻，對女性隱私以及日常生活造成嚴重影響，引發(fā)了全社會對于人工智能技術不正當利用的擔憂，目前該應用已被開發(fā)者禁用。此外，Deepfakes還可被用來提供虛假證據，一些不法分子可以制作出關于企業(yè)負責人行為不當?shù)奶摷僖曨l，以此來要挾和敲詐企業(yè)。

Deepfakes將帶來一系列社會風險。Deepfakes技術的濫用會給國家、社會和個人帶來極大危害。首先，Deepfakes存在降低國家信譽、威脅國家安全、損害國際形象的隱患。深度偽造技術可以讓虛假信息以高度可信的方式呈現(xiàn)給社會公眾，從而操縱觀眾的情緒反應，引發(fā)社會廣泛的不信任。此外，Deepfakes可能被敵對國家和勢力利用，作為詆毀政黨、煽動恐怖和暴力活動、挑撥國家矛盾的工具。美國外交政策研究所認為，Deepfakes技術正被濫用于制作抹黑美國國家元首的視頻，其在社交媒體上的大肆傳播可能對美國2020年大選存在威脅。其次，Deepfakes技術的濫用將對社會媒體的公信力產生動搖，加劇社會公眾對記者和媒體的不信任，阻礙證據的呈現(xiàn)和對真相的報道，進而引發(fā)全社會的信任危機。最后，Deepfakes技術將對個人權益造成嚴重損害。目前，DeepNude等應用對女性惡意污化，使受害人名譽、隱私嚴重受損，并使其承受著極大的精神折磨。同時，人臉識別技術已經在上班打卡、刷臉購物、支付、手機解鎖等場景得到廣泛應用，如果Deepfakes技術被應用于上述領域，則將對公民個人隱私、財產安全、生命安全等產生重大威脅。

技術創(chuàng)新和立法監(jiān)管雙管齊下，積極應對Deepfakes帶來的挑戰(zhàn)

從算法角度看，對抗Deepfakes造假的新型AI視頻識別技術逐步成熟。目前，研究者正在利用Deepfakes的算法漏洞研制對抗識別算法，準確度已經達到90%以上。例如，美國南加州大學的研究人員發(fā)現(xiàn)，用于生成Deepfakes偽造視頻的主流方法都忽視了視頻的連貫性，使得生成視頻中的人物移動不流暢并且出現(xiàn)抖動情況。他們利用該漏洞，訓練出基于遞歸卷積神經網絡的深度學習模型，該模型以人類說話時的面部移動特征為學習數(shù)據，能夠自動檢測視頻的抖動和連貫性情況，判斷Deepfakes偽造視頻的準確率超過90%。加州大學伯克利分校的研究者構建了高度個人化的“軟生物識別指標”，并利用這些指標來區(qū)分真實和虛假視頻。他們發(fā)現(xiàn)，人類講話時會以微妙但獨特的方式來移動身體，每個人都有特定的運動軌跡，現(xiàn)有的Deepfakes視頻偽造技術并沒有考慮該因素，而以該特征訓練神經網絡模型能以92%的準確率識別Deepfakes偽造的視頻。此外，IBM基于Debater項目研發(fā)了AI造假探測器，并已投入使用，其客戶可以利用IBM Watson Studio等各類解決方案開發(fā)高質量模型，防范包括Deepfakes在內的AI造假威脅和欺詐活動。不過，雖然基于深度學習的Deepfakes識別技術的發(fā)展勢頭良好，但現(xiàn)有檢測方法的準確率仍不能充分滿足現(xiàn)實需求。與此同時，區(qū)塊鏈技術作為一種可能的溯源解決方案被提出。區(qū)塊鏈是一種全新的分布式基礎架構，具有分布式、開放性、獨立性、安全性、匿名性等特點，在視頻真?zhèn)舞b定領域有很大優(yōu)勢，不僅可以對視頻發(fā)布者進行標記，并將標記值使用區(qū)塊鏈進行存放，也可保證視頻哈希值既可公開查詢又無法被篡改，為用戶進行視頻真假校驗提供了極大便利，可以作為甄別偽造視頻技術的未來發(fā)展方向加以探索。

從立法角度看，各國政府積極推動建立Deepfakes的立法鑒定系統(tǒng)。Deepfakes的技術濫用正引起美歐各國政府監(jiān)管層的重視，許多國家正在醞釀出臺法律條文應對技術濫用隱患。歐盟在打擊Deepfakes產生的虛假新聞方面采取了有效的措施。2019年年初，歐盟發(fā)布了一項打擊虛假新聞的戰(zhàn)略，包括應對Deepfakes的指南。該指南強調公眾參與的必要性，幫助人們更容易分辨出某條信息的來源以及可信度。歐盟委員會還要求建立一個獨立的歐洲事實核查機構，幫助分析網絡內容的來源、創(chuàng)建和創(chuàng)建過程。美國政府高度重視反Deepfakes濫用的立法進程。2019年7月，三位美國參議員撰寫公開信，呼吁國家情報局局長深入調查外國政府、情報機構和個人如何利用Deepfakes來損害美國的利益，并加以提前應對。2019年7月1日，美國弗吉尼亞州政府正式宣布擴大化的復仇色情法生效，嚴禁制造和傳播經過“深度偽造”的內容。該法律條文覆蓋了利用Deepfakes等技術制作或操縱的視頻和圖像等，違法者最高可被判處12個月的監(jiān)禁并罰款2500美元。英國政府正在醞釀出臺濫用數(shù)字技術和產品的法律，專門涉及制作和分享非自愿的親密圖像，英國立法機構將重點關注復仇性質的色情視頻，以及利用Deepfakes算法生成的色情內容。

對策建議

制定標準，明確Deepfakes的使用范圍和不正當使用及其后果。Deepfakes算法正被廣泛運用于不同領域，亟須推動全社會對Deepfakes接受范圍的大討論，明確規(guī)定Deepfakes的使用范疇，幫助社交媒體規(guī)范平臺管理，對內容進行合規(guī)審核。在此基礎上，可借鑒歐盟打擊Deepfakes等AI造假指南文件的制定過程，加強Deepfakes概念界定和監(jiān)管標準研制，增強AI算法的安全可控、透明可釋、保護隱私、多元包容等倫理原則的可衡量性，同步建設相應的測評能力，對Deepfakes技術的侵權問題和法律界限進行約束和界定。

加強與社交媒體、新聞機構、非政府監(jiān)管機構共享Deepfakes信息?？山梃b歐美等國家和地區(qū)的做法，在Deepfakes來源方面加強與社交媒體、新聞機構等平臺組織的信息共享，在Deepfakes虛假新聞形成規(guī)模傳播前向上述平臺發(fā)出警告，并同步共享給主流新聞機構，做到事前管理、事前預警，減少虛假新聞的波及范圍。例如，美國2015年通過的網絡安全信息共享法案就允許平臺在虛假信息傳播至其他平臺之前進行警告，并在虛假新聞傳播至主流新聞圈前提醒新聞機構。

積極推動AI造假溯源和Deepfakes對抗技術的探索研究。目前，區(qū)塊鏈技術在虛假視頻信息溯源中的應用尚在發(fā)展早期，沒有成熟應用，而Deepfakes對抗算法的創(chuàng)新研究成果也主要出現(xiàn)在美國。例如，美國國防部高級研究計劃局（DARPA）正在大力投資“反AI變臉計劃”，確保偵測到最先進的AI造假技術。我國應積極參與并推動上述技術的研究實踐，尤其要重視將國內區(qū)塊鏈技術的創(chuàng)新引導向AI造假的偵測、溯源和取證等方面，從而實現(xiàn)多主體間的信息共享和一致決策，確保信息的不可篡改和公開透明。