賈章范

清華大學(xué)，北京 100084

一、問(wèn)題的提出

2019年8月30日，陌陌公司旗下的“換臉”軟件ZAO正式發(fā)布。該軟件利用深度偽造技術(shù)將網(wǎng)絡(luò)用戶的面部特征替換至影視片段中的相關(guān)角色，從而實(shí)現(xiàn)具有高度相似性的“一鍵換臉”。隨后，該軟件因《用戶使用協(xié)議》涉嫌過(guò)度索取個(gè)人信息、存在數(shù)據(jù)泄露風(fēng)險(xiǎn)等問(wèn)題而引起社會(huì)輿論高度關(guān)注。2019年9月3日，工業(yè)和信息化部網(wǎng)絡(luò)安全管理局就網(wǎng)絡(luò)數(shù)據(jù)安全問(wèn)題約談陌陌公司負(fù)責(zé)人，并對(duì)個(gè)人信息安全保護(hù)、新技術(shù)安全評(píng)估和風(fēng)險(xiǎn)防范等問(wèn)題作出相應(yīng)要求[1]。其實(shí)，早在2017年11月，匿名網(wǎng)絡(luò)用戶u/deepfakes就在社交門戶網(wǎng)站Reddit上傳了與影視明星相關(guān)的偽造視頻，深度偽造技術(shù)進(jìn)入社會(huì)公眾視野，并呈現(xiàn)出快速發(fā)展趨勢(shì)，諸多社會(huì)公眾人物成為深度偽造技術(shù)的受害者。

“深度偽造”（deepfake）是深度學(xué)習(xí)（deep learn-ing）和偽造（fake）的合成詞，是一種基于深度學(xué)習(xí)和機(jī)器學(xué)習(xí)而生的新興技術(shù)，能應(yīng)用于視頻偽造、語(yǔ)音合成、圖像替換、筆跡模仿等領(lǐng)域，并產(chǎn)生具有高度相似性的逼真效果[2]。雖然利用計(jì)算機(jī)技術(shù)對(duì)視頻或圖片進(jìn)行編輯的現(xiàn)象已屢見(jiàn)不鮮，但直接將不相關(guān)言語(yǔ)和行為與特定個(gè)人相聯(lián)系，并產(chǎn)生以假亂真效果的應(yīng)用程序仍屬罕見(jiàn)。隨著深度偽造技術(shù)的發(fā)展和“一鍵換臉”等類似應(yīng)用的普及，非專業(yè)人員也能快速制作出具有高度相似性且難以識(shí)別的圖片和視頻。

在傳統(tǒng)社會(huì)語(yǔ)境下，視頻和音頻曾是對(duì)現(xiàn)實(shí)的可靠記錄，但深度偽造技術(shù)有可能改變這一傳統(tǒng)認(rèn)知觀念，并對(duì)個(gè)人認(rèn)知、社會(huì)秩序和國(guó)家安全產(chǎn)生影響。由于深度偽造技術(shù)引發(fā)社會(huì)公眾關(guān)注的時(shí)間較短，我國(guó)學(xué)界對(duì)該技術(shù)引發(fā)法律問(wèn)題的研究剛剛起步，因此，筆者嘗試從深度偽造技術(shù)的應(yīng)用原理和適用現(xiàn)狀入手，分析深度偽造技術(shù)在不同維度上可能引發(fā)的法律風(fēng)險(xiǎn)，并提出相應(yīng)風(fēng)險(xiǎn)規(guī)避措施和應(yīng)對(duì)方法，以期為深度偽造技術(shù)的正確使用提供參考。

二、深度偽造技術(shù)的應(yīng)用原理及適用現(xiàn)狀

（一）深度偽造技術(shù)的應(yīng)用原理

深度偽造技術(shù)依托于多個(gè)節(jié)點(diǎn)組成的神經(jīng)網(wǎng)絡(luò)，通過(guò)數(shù)據(jù)供給方式訓(xùn)練出相應(yīng)算法模型，并以新的數(shù)據(jù)模型取代原有數(shù)據(jù)模型。與傳統(tǒng)數(shù)據(jù)生成方式相比，由Goodfellow團(tuán)隊(duì)在2014年提出的生成對(duì)抗網(wǎng)絡(luò)（GAN，Generative Adversarial Networks）為深度偽造技術(shù)的產(chǎn)生提供了無(wú)監(jiān)督學(xué)習(xí)的理論模型，生成模型（Generative Model）和判別模型（Discriminative Model）組成了生成對(duì)抗網(wǎng)絡(luò)的主要模塊，并在互相博弈的過(guò)程中提升彼此訓(xùn)練速度[3]。具體而言，生成模型的任務(wù)是在深度學(xué)習(xí)大量數(shù)據(jù)的基礎(chǔ)上生成新數(shù)據(jù)，而判別模型的任務(wù)在于識(shí)別其中修飾成分，并重新修改識(shí)別出來(lái)的數(shù)據(jù)發(fā)回生成模型，直至判別模型無(wú)法識(shí)別出修飾部分時(shí)，生成的數(shù)據(jù)才能成為下一步技術(shù)處理的“原材料”。在這場(chǎng)類似于零和博弈的模型訓(xùn)練中，生成模型和判別模型通過(guò)交替優(yōu)化方式達(dá)到無(wú)法區(qū)分修飾部分的目的，這也是深度偽造視頻具有高度相似性和難以識(shí)別性的重要原因。

以面部替換的深度偽造算法為例，技術(shù)設(shè)計(jì)者先從網(wǎng)絡(luò)空間內(nèi)獲取大量被替換者視頻或圖片，并用生成對(duì)抗網(wǎng)絡(luò)中的生成模型偽造出替換者面部特征數(shù)據(jù)，再通過(guò)對(duì)抗模型對(duì)比被替換者與替換者的面部特征數(shù)據(jù)，挑選出判定為“真”的面部數(shù)據(jù)作為人臉替換新“材料”，繼而借助新的靜態(tài)影像材料合成動(dòng)態(tài)深度偽造視頻，判定為“假”的面部數(shù)據(jù)將發(fā)回生成模型重新修飾，直至對(duì)抗模型無(wú)法識(shí)別而判定為“真”。從理論方面推演，只要有足夠多的人臉數(shù)據(jù)和實(shí)驗(yàn)樣本，深度偽造技術(shù)總能把任意對(duì)象的面部數(shù)據(jù)更換為被替換者的面部數(shù)據(jù)。

（二）深度偽造技術(shù)適用現(xiàn)狀及特征

荷蘭網(wǎng)絡(luò)安全公司Deeptrace在2019年9月發(fā)布了全球第一份深度偽造技術(shù)應(yīng)用情況調(diào)查報(bào)告《深度偽造的狀況：范圍、威脅和影響》（The State of Deepfakes:Landscape，Threat，and Impact）。通過(guò)具體案例分析和數(shù)據(jù)對(duì)比方式，分析深度偽造技術(shù)的應(yīng)用現(xiàn)狀和潛在風(fēng)險(xiǎn)，以此管窺深度偽造技術(shù)的應(yīng)用現(xiàn)狀及特征①本部分主要數(shù)據(jù)均來(lái)源于此報(bào)告。。

1.視頻數(shù)量快速增長(zhǎng)，技術(shù)應(yīng)用門檻降低。根據(jù)報(bào)告顯示，截至2019年9月，以英語(yǔ)為語(yǔ)言載體的深度偽造視頻數(shù)量接近1.5萬(wàn)個(gè)，而在2018年12月，該種類視頻數(shù)量?jī)H為7 964個(gè)。在不到九個(gè)月的時(shí)間里，深度偽造視頻數(shù)量近乎翻倍。這種趨勢(shì)與非專業(yè)人員能夠利用簡(jiǎn)單開(kāi)源代碼制作深度偽造視頻緊密相關(guān)。從技術(shù)發(fā)展歷程來(lái)看，深度偽造技術(shù)作為專業(yè)復(fù)雜的計(jì)算機(jī)算法，其應(yīng)用需要以海量計(jì)算機(jī)數(shù)據(jù)和專業(yè)人員的人為干預(yù)為前提，一般社會(huì)公眾并不具備對(duì)數(shù)據(jù)進(jìn)行精準(zhǔn)標(biāo)注和訓(xùn)練的能力。但隨著算法模型日益成熟，尤其是2017年11月匿名網(wǎng)絡(luò)用戶u/deepfakes上傳深度偽造技術(shù)的開(kāi)源算法后，非專業(yè)人士在計(jì)算機(jī)系統(tǒng)輔助下可簡(jiǎn)單生成相關(guān)偽造視頻。與之相類似，陌陌公司的軟件ZAO能夠輕易實(shí)現(xiàn)“一鍵換臉”，其原因也在于大型互聯(lián)網(wǎng)公司將業(yè)已成熟的計(jì)算機(jī)算法應(yīng)用于日常生活場(chǎng)景，不斷提升的精準(zhǔn)度和趣味性使所有人均可能成為深度偽造技術(shù)的應(yīng)用者和受害者。甚至在軟件ZAO上線當(dāng)晚，服務(wù)器消耗當(dāng)月三分之一儲(chǔ)存量，陌陌公司不得不因訪問(wèn)人數(shù)過(guò)多而采取相應(yīng)限制措施，“換臉軟件”的民眾參與度可見(jiàn)一斑。

2.對(duì)特定群體的風(fēng)險(xiǎn)。從職業(yè)分布來(lái)看，被侵權(quán)者中絕大多數(shù)為娛樂(lè)行業(yè)和新聞傳媒領(lǐng)域從業(yè)人員，還包括少部分政治人物和企業(yè)家。深度偽造技術(shù)對(duì)娛樂(lè)行業(yè)和新聞行業(yè)人員的侵害多體現(xiàn)在人身權(quán)利侵害，而對(duì)政治人物和企業(yè)家的侵害多體現(xiàn)在散布虛假信息，從而影響企業(yè)運(yùn)營(yíng)、社會(huì)秩序和國(guó)家安全。美國(guó)戰(zhàn)略與國(guó)際研究中心在2019年10月發(fā)布了《相信你的眼睛？深度偽造政策簡(jiǎn)介》的研究報(bào)告，指出深度偽造技術(shù)對(duì)社會(huì)秩序、個(gè)人權(quán)利和國(guó)家的威脅。

3.技術(shù)快速發(fā)展，偽造產(chǎn)物具有高度相似性。根據(jù)Deeptrace報(bào)告顯示，在生成對(duì)抗網(wǎng)絡(luò)引起公眾關(guān)注之前，該領(lǐng)域研究成果不足百篇，但僅在2017年，便有469篇相關(guān)論文問(wèn)世。至2019年9月，該領(lǐng)域新的研究成果已達(dá)到1 207篇，足見(jiàn)深度偽造技術(shù)研發(fā)之快速。與技術(shù)研發(fā)相適應(yīng)的是，深度偽造技術(shù)生成結(jié)果真實(shí)度越來(lái)越高，大多數(shù)人無(wú)從分辨。來(lái)自斯坦福大學(xué)、普林斯頓大學(xué)、德國(guó)馬克斯普朗克信息學(xué)院和Adobe研究院的多名研究者運(yùn)用深度偽造技術(shù)，將財(cái)經(jīng)電視臺(tái)的原報(bào)道“蘋果股價(jià)收盤于191.45美元”更改為“蘋果股價(jià)收盤于182.25美元”。研究者邀請(qǐng)了138名用戶參與關(guān)于“視頻編輯”的調(diào)研，并事先告知受試者視頻有深度偽造可能。最終結(jié)果顯示，仍然有59.6%的受試者認(rèn)為被這項(xiàng)技術(shù)編輯過(guò)的視頻是真實(shí)的視頻，20%的受試者認(rèn)為未經(jīng)編輯過(guò)的視頻反而為假[4]。

三、深度偽造技術(shù)的法律風(fēng)險(xiǎn)及其法經(jīng)濟(jì)學(xué)分析

從表面來(lái)看，深度偽造技術(shù)是將他人生物特征移轉(zhuǎn)給其他主體或虛構(gòu)他人行為和言論，這些并非因深度偽造技術(shù)而生的新事物，只是將技術(shù)難度降低至社會(huì)公眾亦可操作的程度。但與傳統(tǒng)偽造方式相比，深度偽造技術(shù)通過(guò)數(shù)據(jù)積累和算法設(shè)計(jì)合成虛假視頻，其高度真實(shí)性和難以證偽性易使其他社會(huì)主體產(chǎn)生錯(cuò)誤認(rèn)知，整體社會(huì)信任機(jī)制可能會(huì)受到嚴(yán)重影響。因此，深度偽造技術(shù)的法律風(fēng)險(xiǎn)源于其作為侵權(quán)手段、虛假信息和先進(jìn)算法所引發(fā)的社會(huì)風(fēng)險(xiǎn)，從法經(jīng)濟(jì)學(xué)角度分析深度偽造技術(shù)應(yīng)用機(jī)制，能夠?yàn)樯疃葌卧旒夹g(shù)的規(guī)制和應(yīng)用提供不同方法進(jìn)路，為深度偽造技術(shù)利用提供法律借鑒和思考。

（一）作為侵權(quán)手段的成本收益分析

從應(yīng)用現(xiàn)狀來(lái)看，深度偽造技術(shù)有可能催生出侵害個(gè)人人身或財(cái)產(chǎn)的黑色交易鏈條。

隨著大數(shù)據(jù)產(chǎn)業(yè)和人工智能技術(shù)發(fā)展，深度偽造技術(shù)將使得針對(duì)特定個(gè)人的精準(zhǔn)詐騙更為猖獗，法國(guó)保險(xiǎn)公司Euler Hermes曾發(fā)布相關(guān)客戶因深度偽造技術(shù)而受騙的報(bào)告。網(wǎng)絡(luò)詐騙分子模仿并合成了德國(guó)母公司首席執(zhí)行官的語(yǔ)音音頻，對(duì)該公司下屬一家未具名的英國(guó)能源公司進(jìn)行詐騙。子公司首席執(zhí)行官誤判該音頻真實(shí)性，并向相關(guān)匈牙利供應(yīng)商支付了24.3萬(wàn)美元。隨后，該費(fèi)用被轉(zhuǎn)移，Euler Hermes將這些損失作為公司欺詐保險(xiǎn)政策的一部分給予賠償[5]。

深度偽造技術(shù)能夠?yàn)楹谏灰祖湕l提供更為便捷和隱蔽的交易機(jī)會(huì)，針對(duì)特定個(gè)人的精準(zhǔn)詐騙和網(wǎng)絡(luò)攻擊成本顯著降低，而相關(guān)行為的成功率和收益將獲得提升。對(duì)于受害人而言，他們甚至無(wú)法得知自己是否被侵權(quán)、被誰(shuí)侵權(quán)、侵權(quán)視頻的傳播范圍等基本事實(shí)。若受害人希望證明深度偽造視頻為假，記錄所有生活細(xì)節(jié)的不在場(chǎng)服務(wù)（alibi service）可以成為一項(xiàng)選擇[6]，但這種以犧牲隱私為代價(jià)的維權(quán)成本亦是受害人無(wú)法承受之重。簡(jiǎn)而言之，深度偽造技術(shù)有可能為相關(guān)侵權(quán)行為打開(kāi)便捷的通道，侵權(quán)人的侵權(quán)成本降低，收益顯著提升，而受害人卻深陷于權(quán)益遭受侵害而不知和維護(hù)權(quán)利而不能的尷尬局面。

（二）虛假信息傳播的負(fù)外部性考量

深度偽造技術(shù)生成的圖像、語(yǔ)音和視頻等除自身非真實(shí)性外，其社會(huì)危害性的考量還來(lái)源于因傳播行為而生的負(fù)外部性。雖然深度偽造的圖像或視頻本身即有侵害他人權(quán)利的可能，但其負(fù)外部性的溢出卻與這些圖像或視頻傳播密不可分。從負(fù)外部性角度分析，行為人對(duì)他人和社會(huì)利益產(chǎn)生影響，而受影響的個(gè)人或社會(huì)卻無(wú)法獲得相應(yīng)補(bǔ)償，恢復(fù)原有秩序的費(fèi)用也得不到相關(guān)生產(chǎn)者的考量。因此，負(fù)外部性效應(yīng)的解決需要綜合考量社會(huì)資源使用方式，由雙方互相妥協(xié)或規(guī)定資源使用范圍和方式。在深度偽造視頻傳播過(guò)程中，由于網(wǎng)絡(luò)空間非直接接觸性，難以實(shí)現(xiàn)偽造視頻制作者和受害人協(xié)商，因此規(guī)定資源使用范圍和方式更為可行。美國(guó)參議院情報(bào)委員會(huì)在2019年1月發(fā)布的《全球威脅評(píng)估》指出，競(jìng)爭(zhēng)對(duì)手可能嘗試使用深度偽造技術(shù)或類似機(jī)器學(xué)習(xí)技術(shù)以制作令人信服但非真實(shí)的圖像、音頻和視頻文件，從而影響美國(guó)及其盟友與合作伙伴，也可能利用信息網(wǎng)絡(luò)直接操縱或干擾選舉系統(tǒng)。

以美國(guó)眾議院議長(zhǎng)南?！づ迓逦鳎∟ancy Pelosi）“醉酒案”為例，在一段偽造視頻中，佩洛西說(shuō)話結(jié)巴、舉止怪異，如同醉酒一般。該視頻被美國(guó)前總統(tǒng)特朗普轉(zhuǎn)載于“臉譜網(wǎng)”上，引發(fā)社會(huì)公眾對(duì)佩洛西身體健康狀況的擔(dān)憂，該視頻獲得了250萬(wàn)次點(diǎn)擊量，佩洛西不得不反復(fù)向公眾證明自身并不存在身體健康問(wèn)題，并對(duì)相關(guān)視頻真實(shí)性進(jìn)行調(diào)查和分析。因此，深度偽造技術(shù)在政治領(lǐng)域的不當(dāng)應(yīng)用可能引發(fā)國(guó)家秩序混亂。即使在真實(shí)信息傳播過(guò)程中，深度偽造技術(shù)也有可能被反對(duì)者利用，從而擾亂社會(huì)秩序。因此，應(yīng)嘗試將深度偽造技術(shù)限定于特定應(yīng)用領(lǐng)域，或禁止在某些領(lǐng)域內(nèi)使用，并將該領(lǐng)域相關(guān)視頻推定為真實(shí)，從而減少虛假信息傳播過(guò)程中的負(fù)外部性。

（三）先進(jìn)算法加劇信息不對(duì)稱

“算法”一詞最早由波斯數(shù)學(xué)家Al-Khwarizmi在公元9世紀(jì)提出，本意為阿拉伯?dāng)?shù)字的運(yùn)算法則，并在20世紀(jì)中葉發(fā)展成為計(jì)算機(jī)科學(xué)核心概念[7]。作為深度偽造技術(shù)的核心算法，生成對(duì)抗網(wǎng)絡(luò)的產(chǎn)生推動(dòng)了計(jì)算機(jī)科學(xué)發(fā)展。技術(shù)研發(fā)者常以技術(shù)中立和科學(xué)發(fā)展作為對(duì)抗輿論質(zhì)疑的理論工具，但技術(shù)中立本質(zhì)在于應(yīng)用領(lǐng)域及是否會(huì)給他人和社會(huì)帶來(lái)?yè)p害，技術(shù)中立不能作為侵權(quán)人的免責(zé)理由，也不能以技術(shù)中立為由回避人工智能發(fā)展的商業(yè)偏好、善惡價(jià)值和社會(huì)風(fēng)險(xiǎn)[8]。深度偽造技術(shù)的工具屬性不會(huì)受到法律的否定性評(píng)價(jià)，但技術(shù)不當(dāng)利用加劇了受害人因不知侵權(quán)行為而生的信息不對(duì)稱風(fēng)險(xiǎn)，濫用該技術(shù)帶來(lái)的人身或財(cái)產(chǎn)損害需要受到法律否定性評(píng)價(jià)。從傳播受眾角度分析，互聯(lián)網(wǎng)上早已存在通過(guò)視頻剪輯或修改配音的方式改編影視作品中的經(jīng)典片段，但這種行為只是借助影視作品中角色發(fā)表對(duì)當(dāng)前社會(huì)的評(píng)論或利用其他方式對(duì)影視片段重新解讀，觀看者能夠區(qū)分出原有視頻和經(jīng)過(guò)編輯的視頻，后者不足以讓社會(huì)公眾產(chǎn)生不合理信賴，在特定視頻場(chǎng)景內(nèi)并不存在信息不對(duì)稱情形。即使這種視頻有可能產(chǎn)生侵害保護(hù)作品完整權(quán)的風(fēng)險(xiǎn)，但可以從原有視頻的合理使用、現(xiàn)有視頻的獨(dú)創(chuàng)性等角度規(guī)避，通常不會(huì)引發(fā)社會(huì)公眾信任風(fēng)險(xiǎn)。

在傳統(tǒng)侵權(quán)行為中，受害人通常會(huì)知悉自己的人身或財(cái)產(chǎn)受到損害，并能夠及時(shí)確定侵權(quán)主體，保存侵權(quán)行為證據(jù)，尋求法律途徑救濟(jì)。而深度偽造技術(shù)的不當(dāng)應(yīng)用改變了大多數(shù)傳統(tǒng)侵權(quán)行為的直接接觸性，技術(shù)操作者可以在受害人完全不知情的情況下制作虛假影音視頻，因信息不對(duì)稱導(dǎo)致受害人不知損害存在的風(fēng)險(xiǎn)極高，遑論追究操作人的責(zé)任。有學(xué)者指出，否認(rèn)開(kāi)發(fā)者“全能性”和超越算法“工具性”特質(zhì)使得結(jié)果監(jiān)管往往不能達(dá)到預(yù)想目的[9]。因此，從信息不對(duì)稱角度來(lái)看，增加被侵權(quán)人知悉侵權(quán)行為的可能和機(jī)會(huì)，防止其他社會(huì)主體對(duì)信息真實(shí)性產(chǎn)生錯(cuò)誤認(rèn)知，能夠有效遏制深度偽造技術(shù)的不當(dāng)應(yīng)用，降低偽造視頻的社會(huì)危害性，并為受害人維權(quán)提供相應(yīng)證明材料。

四、法律救濟(jì)與規(guī)則應(yīng)對(duì)

2019年2月，嗶哩嗶哩網(wǎng)站用戶“換臉哥”用深度偽造技術(shù)將《射雕英雄傳》中出演黃蓉角色的朱茵更換成楊冪，該話題在微博平臺(tái)上產(chǎn)生1.2億次閱讀量和2.7萬(wàn)次討論。隨后，視頻制作者刪除了相關(guān)視頻，并聲明制作視頻只是用于技術(shù)交流，未從中盈利。以“楊冪換臉朱茵”視頻作為學(xué)術(shù)討論典型事例，并嘗試從權(quán)利救濟(jì)和規(guī)則應(yīng)對(duì)角度分析。

（一）現(xiàn)有法律救濟(jì)的可能途徑

1.肖像權(quán)保護(hù)路徑。從現(xiàn)有民事權(quán)利框架來(lái)看，肖像權(quán)和名譽(yù)權(quán)與“換臉視頻”直接相關(guān)。肖像權(quán)是自然人以自身肖像所體現(xiàn)的利益為內(nèi)容的權(quán)利，包含肖像享有權(quán)、肖像制作權(quán)、肖像使用權(quán)和禁止侵害權(quán)[10]。我國(guó)《民法典》第一千零一十九條第一款對(duì)深度偽造技術(shù)做出回應(yīng)，丑化、污損、利用信息技術(shù)手段偽造等均屬于侵害他人肖像權(quán)的行為，行為人應(yīng)當(dāng)承擔(dān)民事責(zé)任。雖然有學(xué)者認(rèn)為，利用信息技術(shù)手段偽造他人肖像的行為并不一定會(huì)導(dǎo)致丑化、污損他人肖像的結(jié)果，將上述三種并列作為侵害肖像權(quán)的方式并不妥當(dāng)，且深度偽造技術(shù)實(shí)質(zhì)上侵害了受害人的肖像自主權(quán)，而該部分內(nèi)容可為《民法典》第一千零一十九條第二款所涵蓋，無(wú)須將“利用信息技術(shù)手段偽造”單獨(dú)作為侵害肖像權(quán)的事由[11]。但筆者認(rèn)為，在《民法典》二審稿制定過(guò)程中，以軟件ZAO為代表的深度偽造技術(shù)引發(fā)了社會(huì)公眾對(duì)新興技術(shù)濫用和個(gè)人信息泄露的強(qiáng)烈擔(dān)憂，立法者將深度偽造技術(shù)納入《民法典》約束范圍反映了《民法典》與時(shí)俱進(jìn)、回應(yīng)社會(huì)實(shí)踐的品質(zhì)。值得注意的是，行為人不僅侵害了替換人的肖像權(quán)，同時(shí)也侵害了被替換人的肖像權(quán)，而后者肖像權(quán)常受到忽視。在“楊冪換臉朱茵”的視頻中，視頻制作人不僅侵害了楊冪的肖像權(quán)，還侵害了朱茵的肖像權(quán)，朱茵亦可基于肖像權(quán)受到侵害而要求視頻制作者刪除該視頻。

2.名譽(yù)權(quán)保護(hù)路徑。名譽(yù)負(fù)載社會(huì)整體對(duì)該主體的總體評(píng)價(jià)，因此具有表彰人格尊嚴(yán)的價(jià)值[12]，名譽(yù)權(quán)即為免除名譽(yù)遭受侵害之權(quán)利[13]。在我國(guó)立法和司法實(shí)踐中，侵害名譽(yù)權(quán)方式主要分為侮辱和誹謗兩種，“名譽(yù)權(quán)如何構(gòu)成”也常轉(zhuǎn)化為對(duì)侵害名譽(yù)權(quán)類型的總結(jié)，借助類型化思維對(duì)名譽(yù)權(quán)進(jìn)行保護(hù)。判斷利用深度偽造技術(shù)進(jìn)行視頻制作的行為是否侵害名譽(yù)權(quán)，應(yīng)主要判斷該行為是否構(gòu)成侮辱或誹謗他人，造成他人名譽(yù)損害。在“楊冪換臉朱茵”視頻中，朱茵飾演的黃蓉靈動(dòng)俏皮，備受稱贊，視頻制作者將朱茵的面部特征更換為楊冪后，眾多網(wǎng)友紛紛稱贊楊冪“演技”有所提升，并表示“毫無(wú)違和感”。從名譽(yù)權(quán)保護(hù)的客體來(lái)看，社會(huì)公眾對(duì)楊冪和朱茵的社會(huì)評(píng)價(jià)并未因該視頻而降低，因此該視頻并不構(gòu)成對(duì)楊冪和朱茵名譽(yù)權(quán)的侵犯。這與軟件ZAO上的“換臉視頻”類似。該軟件上存在眾多“換臉”素材，網(wǎng)絡(luò)用戶可以將影視片段中角色的臉換成自身面部特征。該行為的違法性體現(xiàn)在未經(jīng)他人同意而更改他人肖像，并非因該視頻制作帶來(lái)被替換人名譽(yù)的貶損。在一定程度上，類似視頻的真實(shí)性受到影視片段中特定場(chǎng)景約束，該軟件在操作程序中明確標(biāo)明制作人和制作軟件，相關(guān)視頻傳播通常不會(huì)導(dǎo)致社會(huì)公眾產(chǎn)生錯(cuò)誤信任。當(dāng)然這種情形并非適用于所有情況。如將他人面部特征應(yīng)用于帶有侮辱、誹謗、貶損性質(zhì)的視頻，倘若行為人制作了類似視頻但并未通過(guò)網(wǎng)絡(luò)傳播，受害人在得知后，是否一定無(wú)法通過(guò)名譽(yù)權(quán)獲得法律救濟(jì)？筆者認(rèn)為，視頻制作人將他人肖像應(yīng)用于貶損、侮辱他人的視頻中，行為本身侵害了他人肖像權(quán)，但就名譽(yù)權(quán)侵權(quán)而言，視頻制作行為增加了名譽(yù)受侵害風(fēng)險(xiǎn)，而受害人得知即意味著該視頻已進(jìn)入傳播領(lǐng)域，名譽(yù)受侵害風(fēng)險(xiǎn)已成為現(xiàn)實(shí)損害，除非視頻制作者能夠證明該視頻不存在被第三人知曉的可能性，否則，應(yīng)當(dāng)認(rèn)定該行為侵害了他人名譽(yù)權(quán)。

3.個(gè)人敏感信息保護(hù)路徑。面部特征是表明自然人身份最直接信息，也是自然人在社會(huì)交往中最直接的“名片”。在傳統(tǒng)社會(huì)語(yǔ)境中，人臉信息主要受到肖像權(quán)保護(hù)，目的在于防止未經(jīng)自然人同意而使用他人肖像或惡意丑化、污損他人肖像。隨著大數(shù)據(jù)和人工智能技術(shù)發(fā)展，面部特征信息被無(wú)處不在的攝像頭采集、識(shí)別和分析，圍繞社會(huì)治理和個(gè)人隱私保護(hù)的利益衡量也在不斷探索和博弈，過(guò)度采集和使用人臉信息越來(lái)越成為當(dāng)下亟待應(yīng)對(duì)的社會(huì)問(wèn)題。根據(jù)2018年5月生效的《信息安全技術(shù)個(gè)人信息安全規(guī)范》（GB/T 35273—2017），個(gè)人敏感信息（personal sensitive information）是指一旦泄露、非法提供或?yàn)E用可能危害人身和財(cái)產(chǎn)安全，易導(dǎo)致個(gè)人名譽(yù)、身心健康受到損害或歧視性待遇的個(gè)人信息，包括身份證件號(hào)碼、個(gè)人生物識(shí)別信息、銀行賬號(hào)、通信記錄和內(nèi)容、財(cái)產(chǎn)信息、征信信息等內(nèi)容。面部特征信息屬于自然人特有的個(gè)人生物識(shí)別信息，應(yīng)當(dāng)歸屬于個(gè)人敏感信息，不能被其他主體隨意收集、使用和存儲(chǔ)。未經(jīng)他人同意而收集、使用他人的人臉信息，或用深度偽造技術(shù)進(jìn)行“換臉”，該行為本身屬于對(duì)個(gè)人敏感信息的侵害，受害人有權(quán)要求行為人停止侵害、消除影響、賠禮道歉，并在造成精神損害時(shí)予以賠償。

4.知識(shí)產(chǎn)權(quán)保護(hù)路徑。從知識(shí)產(chǎn)權(quán)保護(hù)視角分析，深度偽造視頻的制作人還可能侵害原有視頻著作權(quán)人和表演者權(quán)利。原有視頻為完整作品的一部分，未經(jīng)著作權(quán)人的同意對(duì)原有部分進(jìn)行篡改，侵害原有視頻著作權(quán)人的修改權(quán)和保護(hù)作品完整權(quán)。人臉“更換”并不屬于改變?cè)幸曨l的創(chuàng)造性表達(dá)，偽造視頻無(wú)法得到《著作權(quán)法》保護(hù)。這也意味著，偽造視頻在傳播過(guò)程中可能會(huì)侵害著作權(quán)人的信息網(wǎng)絡(luò)傳播權(quán)和演員的表演者權(quán)。在“楊冪換臉朱茵”視頻中，偽造視頻的制作者侵害了《射雕英雄傳》著作權(quán)人的修改權(quán)和保護(hù)作品完整權(quán)，也在傳播過(guò)程中侵害了著作權(quán)人的網(wǎng)絡(luò)信息傳播權(quán)。同時(shí)，觀眾無(wú)法從偽造視頻中識(shí)別朱茵個(gè)人，其表演內(nèi)容也受到篡改和歪曲，偽造視頻制作者侵害了朱茵的表演者權(quán)。

（二）深度偽造技術(shù)的規(guī)則應(yīng)對(duì)

1.視頻制作者征求多重同意的義務(wù)。在深度偽造視頻的制作過(guò)程中，偽造視頻制作者應(yīng)當(dāng)考慮到該行為可能溢出的負(fù)外部性，而解決方式在于由制作者自行承擔(dān)該行為可能引發(fā)的社會(huì)風(fēng)險(xiǎn)。具體而言，制作偽造視頻的行為與替換人、被替換人和原有視頻的著作權(quán)人緊密相關(guān)，深度偽造視頻的制作者應(yīng)當(dāng)征求上述三位主體同意。多重同意機(jī)制看似過(guò)于嚴(yán)苛，在實(shí)踐中也會(huì)產(chǎn)生偽造視頻制作人負(fù)擔(dān)過(guò)重、多重同意機(jī)制難以實(shí)現(xiàn)等問(wèn)題，但該機(jī)制目的在于防范深度偽造視頻對(duì)肖像權(quán)和個(gè)人敏感信息的侵害，減少互聯(lián)網(wǎng)空間非直接接觸性帶來(lái)的信息不對(duì)稱，保障受害人知情權(quán)和同意權(quán)。換言之，只要受害人能夠證明偽造視頻由特定個(gè)人制作且未經(jīng)其同意，即可確認(rèn)行為違法，減輕受害人舉證負(fù)擔(dān)。

但行為具有違法性并不代表一定會(huì)承擔(dān)相應(yīng)法律責(zé)任，為達(dá)到權(quán)利人保護(hù)與促進(jìn)技術(shù)發(fā)展相平衡目的，在一些特殊情形下可以免除當(dāng)事人法律責(zé)任。例如，為實(shí)現(xiàn)科學(xué)研究、課堂教學(xué)、國(guó)家機(jī)關(guān)執(zhí)行公務(wù)、個(gè)人學(xué)習(xí)或欣賞等目的時(shí)，征求多重同意義務(wù)可以在一定情形下得到豁免。原因在于，深度偽造技術(shù)作為一項(xiàng)新興計(jì)算機(jī)算法，過(guò)于嚴(yán)苛的制度設(shè)置會(huì)限制技術(shù)發(fā)展空間，且該技術(shù)確實(shí)能滿足部分社會(huì)公眾的學(xué)習(xí)或娛樂(lè)需求。該需求并不因制度嚴(yán)苛而消失，與其設(shè)置過(guò)高條件致使使用者普遍違法，不如在制度設(shè)計(jì)時(shí)仔細(xì)考量相關(guān)價(jià)值需求和行為目的，在加強(qiáng)受害人核心利益保護(hù)的同時(shí)，為客觀存在的社會(huì)需求和技術(shù)發(fā)展保有一定空間。美國(guó)眾議院議員伊維特·克拉克（Yvette Clarke）在2019年6月提出《深度偽造責(zé)任法案》（Deepfakes Accountability Act），規(guī)定了較為嚴(yán)格的刑事處罰和民事救濟(jì)條款，旨在限制錯(cuò)誤信息傳播，保護(hù)國(guó)家信息安全和個(gè)人人身和財(cái)產(chǎn)權(quán)利。該法案同時(shí)規(guī)定了諸多免責(zé)情形，其中包括重大活動(dòng)虛假性的披露、最終成果符合相關(guān)規(guī)定、未進(jìn)行實(shí)質(zhì)性修改、不會(huì)導(dǎo)致公眾誤認(rèn)、為保護(hù)國(guó)家安全和公共安全等內(nèi)容。此外，我國(guó)《著作權(quán)法》第二十二條也規(guī)定了特定情形的豁免義務(wù)，包含個(gè)人學(xué)習(xí)或欣賞、課堂教學(xué)、科學(xué)研究等，旨在實(shí)現(xiàn)保護(hù)著作權(quán)和其他社會(huì)利益間的平衡?！皸顑鐡Q臉朱茵”視頻制作者確實(shí)侵害了相關(guān)主體權(quán)利，該行為的可免責(zé)性可以從個(gè)人學(xué)習(xí)或科學(xué)研究等角度論證，而非當(dāng)事人提出的“非以營(yíng)利為目的”。換言之，即使當(dāng)事人非以營(yíng)利為目的，將受害人面部特征替換至意在侮辱、誹謗、貶損他人的視頻之中，受害人亦可基于肖像權(quán)和名譽(yù)權(quán)受到侵犯為由，請(qǐng)求相應(yīng)法律救濟(jì)。

2.視頻制作者明確標(biāo)識(shí)和說(shuō)明義務(wù)。利用深度偽造技術(shù)制作的視頻，不僅應(yīng)當(dāng)在制作過(guò)程中征求相關(guān)主體多重同意，還應(yīng)注意偽造視頻在傳播過(guò)程中可能對(duì)不特定第三人的影響。具體而言，視頻制作人應(yīng)以顯著方式在視頻開(kāi)始部分添加“該視頻為深度偽造視頻”提示，表明該視頻的制作目的，并在視頻播放過(guò)程中，采用無(wú)法祛除的水印、標(biāo)志等方式明確標(biāo)識(shí)出制作者、制作軟件等信息，并在視頻末尾添加制作人聯(lián)系方式、制作時(shí)間和原有視頻相關(guān)鏈接。對(duì)專門提供深度偽造技術(shù)的軟件而言，類似標(biāo)識(shí)和說(shuō)明程序應(yīng)在用戶制作視頻過(guò)程中自動(dòng)生成，且采用技術(shù)手段使該標(biāo)識(shí)信息和說(shuō)明部分無(wú)法被刪改或剪輯。這種標(biāo)識(shí)和說(shuō)明義務(wù)可以成為相關(guān)軟件服務(wù)提供者減輕或免除責(zé)任的事由，目的在于防止不特定第三人因深度偽造視頻而產(chǎn)生不合理認(rèn)知或信賴。

有學(xué)者認(rèn)為，損害的非法性植根于社會(huì)能夠知悉的深度偽造產(chǎn)物[14]。從規(guī)范目的角度分析，深度偽造技術(shù)引發(fā)社會(huì)風(fēng)險(xiǎn)的原因在于對(duì)相關(guān)人員權(quán)利的侵害和在傳播過(guò)程中導(dǎo)致社會(huì)公眾信以為真。若不存在侵害當(dāng)事人民事權(quán)利和危害國(guó)家安全的情形，社會(huì)公眾也不會(huì)對(duì)具有高度相似性的視頻產(chǎn)生不合理信賴，深度偽造技術(shù)的社會(huì)危害性將大幅減少，視頻制作者的法律責(zé)任也將大幅減輕，從而達(dá)到平衡多方利益目的。

3.網(wǎng)絡(luò)服務(wù)提供者的提示說(shuō)明義務(wù)和“技術(shù)正當(dāng)程序”義務(wù)。在專門提供深度偽造技術(shù)以供網(wǎng)絡(luò)用戶娛樂(lè)的平臺(tái)上，網(wǎng)絡(luò)服務(wù)提供者提供的可供網(wǎng)絡(luò)用戶“換臉”的視頻素材，應(yīng)當(dāng)滿足多重同意要求，并承擔(dān)明確標(biāo)識(shí)和說(shuō)明義務(wù)，此時(shí)網(wǎng)絡(luò)服務(wù)提供者成為視頻上傳者和發(fā)布者，不適用“通知-刪除”規(guī)則。對(duì)于網(wǎng)絡(luò)用戶上傳的深度偽造視頻素材，網(wǎng)絡(luò)服務(wù)提供者只需明確告知用戶需要承擔(dān)征求多重同意、明確標(biāo)識(shí)和說(shuō)明義務(wù)，并以顯著提示方式告知上傳深度偽造視頻可能引發(fā)的法律風(fēng)險(xiǎn)。該風(fēng)險(xiǎn)不能簡(jiǎn)單地混合在《用戶使用協(xié)議》中，而是在用戶選擇上傳相關(guān)視頻時(shí)，明確地予以提示和說(shuō)明，并用視頻、圖片、文字、事例等方式告知其法律后果。當(dāng)然，網(wǎng)絡(luò)服務(wù)提供者通常會(huì)欠缺相應(yīng)動(dòng)力，但如果履行義務(wù)可成為網(wǎng)絡(luò)服務(wù)提供者免責(zé)事由之一，網(wǎng)絡(luò)服務(wù)提供者則會(huì)為規(guī)避風(fēng)險(xiǎn)而積極履行。若用戶選擇繼續(xù)上傳，網(wǎng)絡(luò)服務(wù)提供者應(yīng)當(dāng)自動(dòng)生成“該視頻為偽造視頻”相關(guān)信息，并在權(quán)利人主張侵權(quán)責(zé)任之時(shí)，刪除或下架相關(guān)視頻，將權(quán)利人主張告知網(wǎng)絡(luò)用戶。有學(xué)者提出“技術(shù)正當(dāng)程序”（Technological Due Process）可以作為新的法律原則，通過(guò)平臺(tái)企業(yè)的社會(huì)責(zé)任或者自我治理機(jī)制，可以達(dá)到有效遏制“深度偽造”負(fù)面影響的效果[15]。相關(guān)網(wǎng)絡(luò)服務(wù)者可以通過(guò)游戲測(cè)評(píng)、調(diào)查問(wèn)卷、積分獎(jiǎng)勵(lì)等方式增強(qiáng)用戶識(shí)別虛假信息和批判性接受信息能力。對(duì)相關(guān)視頻和信息的準(zhǔn)確性和客觀性予以全面思考和理解，不僅是生活在互聯(lián)網(wǎng)技術(shù)高度發(fā)達(dá)的現(xiàn)代社會(huì)的必備技能，也是網(wǎng)絡(luò)服務(wù)提供者承擔(dān)自身社會(huì)責(zé)任的體現(xiàn)?！凹夹g(shù)正當(dāng)程序”內(nèi)容還包括針對(duì)深度偽造技術(shù)制定特殊政策、開(kāi)發(fā)識(shí)別程序和增加相應(yīng)程序獲取信息難度[16]。

4.審慎包容的監(jiān)管政策。深度偽造技術(shù)的法律監(jiān)管，可以采用分級(jí)分類的審慎監(jiān)管思路。對(duì)于危害國(guó)家安全、破壞民主選舉、散布色情視頻、實(shí)施精準(zhǔn)詐騙等具有嚴(yán)重社會(huì)危害性和侵害公民人身權(quán)利和財(cái)產(chǎn)權(quán)利的行為，要采用綜合法律手段予以打擊，必要時(shí)追究行為人相應(yīng)刑事責(zé)任。而對(duì)于僅以?shī)蕵?lè)為目的的“換臉”軟件而言，該領(lǐng)域視頻通常不足以引發(fā)社會(huì)公眾誤信，且只要網(wǎng)絡(luò)平臺(tái)盡到相應(yīng)注意義務(wù)，對(duì)于該領(lǐng)域的法律監(jiān)管可采取較為寬松的監(jiān)管手段。值得注意的是，國(guó)家監(jiān)管手段的寬松是公權(quán)力自身謙抑性的要求，并不意味著對(duì)自然人權(quán)利侵害的賠償責(zé)任可以減輕，兩種類型的法律調(diào)整方式存在一定差別。

審慎包容的監(jiān)管政策還意味著鼓勵(lì)和支持識(shí)別、破解、標(biāo)注等相關(guān)技術(shù)的發(fā)展。美國(guó)國(guó)防部高級(jí)研究計(jì)劃局（Defense Advanced Research Pro-jects Agency）在認(rèn)識(shí)到“換臉”技術(shù)可能引發(fā)問(wèn)題的嚴(yán)重性后，發(fā)起了一項(xiàng)媒體取證（media forensics）項(xiàng)目來(lái)促進(jìn)自動(dòng)檢測(cè)和評(píng)估數(shù)字視覺(jué)媒體完整性的技術(shù)。Google公司引入事實(shí)核查標(biāo)簽（Fact Check Tag）功能，并與國(guó)際事實(shí)核查網(wǎng)絡(luò)（International Fact-Checking Network）建立新的伙伴關(guān)系，以幫助讀者更好地查證事實(shí)和理解新聞。有學(xué)者指出，政府應(yīng)加大對(duì)預(yù)警監(jiān)測(cè)技術(shù)的資助力度，建立政策與技術(shù)之間常態(tài)化交流機(jī)制，鼓勵(lì)反制深度偽造技術(shù)領(lǐng)域的科技創(chuàng)新[17]。2019年11月，國(guó)家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國(guó)家廣播電視總局聯(lián)合出臺(tái)《關(guān)于印發(fā)〈網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定〉的通知》，對(duì)利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等新技術(shù)制作的音頻和視頻服務(wù)作明確規(guī)定，其中包括安全評(píng)估、顯著標(biāo)識(shí)、禁止制作虛假新聞消息等措施。值得注意的是，未明確標(biāo)識(shí)的深度偽造視頻或音頻須由網(wǎng)絡(luò)服務(wù)提供者停止傳輸，但以顯著方式標(biāo)識(shí)后即可繼續(xù)傳輸。另外，深度偽造技術(shù)的產(chǎn)物與其他音頻和視頻一樣，除危害國(guó)家安全、社會(huì)秩序和個(gè)人權(quán)利的內(nèi)容外，并未對(duì)其他內(nèi)容作出特殊規(guī)定，體現(xiàn)了監(jiān)管機(jī)關(guān)相對(duì)寬松的態(tài)度。

五、結(jié)語(yǔ)

隨著信息技術(shù)和互聯(lián)網(wǎng)產(chǎn)業(yè)快速發(fā)展，深度偽造技術(shù)的興起是計(jì)算機(jī)技術(shù)發(fā)展的必然產(chǎn)物，也是現(xiàn)代信息社會(huì)面臨風(fēng)險(xiǎn)的冰山一角。與之相類似，人臉識(shí)別技術(shù)的濫用、利用差別定價(jià)算法進(jìn)行大數(shù)據(jù)殺熟、網(wǎng)絡(luò)服務(wù)提供者過(guò)度索取個(gè)人信息、大規(guī)模個(gè)人信息泄露等問(wèn)題均是現(xiàn)代信息社會(huì)不得不應(yīng)對(duì)的挑戰(zhàn)，如何在鼓勵(lì)技術(shù)、產(chǎn)業(yè)發(fā)展和自然人權(quán)利保護(hù)之間尋求平衡，是解決這些問(wèn)題的關(guān)鍵。與之相應(yīng)的理論創(chuàng)新和制度構(gòu)建大多圍繞雙方或多方利益權(quán)衡展開(kāi)。深度偽造技術(shù)本身即蘊(yùn)含侵害他人權(quán)利的重大風(fēng)險(xiǎn)，其負(fù)外部性的溢出也會(huì)對(duì)不特定第三人、社會(huì)秩序和國(guó)家安全產(chǎn)生一定影響。因此，深度偽造技術(shù)的規(guī)范應(yīng)用并非在于否定相關(guān)技術(shù)研發(fā)，而是在于限制該技術(shù)的應(yīng)用范圍，強(qiáng)化相關(guān)主體權(quán)利保護(hù)，打擊網(wǎng)絡(luò)犯罪活動(dòng)。進(jìn)入傳播領(lǐng)域的深度偽造產(chǎn)物應(yīng)當(dāng)明確標(biāo)識(shí)和說(shuō)明相關(guān)視頻的偽造性，采取分級(jí)分類的監(jiān)管手段，在技術(shù)發(fā)展與權(quán)利人保護(hù)之間尋求平衡。