章 琦

(北京師范大學(xué) 法學(xué)院，北京 100875)

數(shù)字化時代，新技術(shù)的賦能激發(fā)了社會新氣象，尤其是網(wǎng)絡(luò)化、數(shù)字化的發(fā)展便利且豐富了人們接受信息的渠道，與此同時也增多了虛假信息，人工智能、深度學(xué)習(xí)的數(shù)字社會中跨越時間和空間的復(fù)雜信息加劇了人們辨別虛假信息的困難程度。《民法典》通過保護(hù)個人肖像權(quán)能夠間接對深度偽造的濫用予以約束，但是極其有限；《數(shù)據(jù)安全管理辦法》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)安全法》《刑法修正案(九)》增加了對編造、故意傳播虛假信息的行為的打擊，但是深度偽造(Deepfakes)技術(shù)的發(fā)展為編造“真假難辨”的虛假信息提供了強(qiáng)有力的工具。目前對作為人工智能發(fā)展下的深度偽造技術(shù)的關(guān)注更多集中于發(fā)展科技的視野中，缺乏對技術(shù)本身可能造成的人身和財(cái)產(chǎn)損害、網(wǎng)絡(luò)秩序甚至是社會混亂等風(fēng)險(xiǎn)的評估。本文立足于現(xiàn)行監(jiān)管邏輯和法律體系，分析深度偽造技術(shù)濫用的風(fēng)險(xiǎn)及其特點(diǎn)，從深度偽造的現(xiàn)有規(guī)制所面對的難題出發(fā)，分析民法和行政法處理特定深度偽造情形的有限性，在積極刑法觀下深度偽造刑法規(guī)制的正當(dāng)性，并初步構(gòu)造深度偽造刑法規(guī)制的具體設(shè)想。

一、深度偽造技術(shù)濫用的社會風(fēng)險(xiǎn)

技術(shù)本身是中立的，中立技術(shù)被濫用時則可能意味著技術(shù)升級增加犯罪現(xiàn)實(shí)危險(xiǎn)性。利用深度偽造技術(shù)構(gòu)建虛擬現(xiàn)實(shí)場景打破了大眾對于“眼見為實(shí)”的普遍認(rèn)知，在網(wǎng)絡(luò)占據(jù)人們廣泛日?？臻g的當(dāng)下，對于個人數(shù)據(jù)隱私和安全保障不力與深度偽造技術(shù)野蠻生長并存，深度偽造技術(shù)猶如一把達(dá)摩克利斯之劍懸掛在網(wǎng)絡(luò)空間，對犯罪具有顛覆性影響效果。

(一)高度真實(shí)性下增加犯罪既遂的可能性

深度偽造技術(shù)的發(fā)展對“眼見為實(shí)”社會信任發(fā)起挑戰(zhàn)。深度偽造技術(shù)和精準(zhǔn)個人信息的結(jié)合，無論是針對公司、個人的詐騙還是利用個人的虛假色情音視頻以及其他對公司、個人名譽(yù)有損害的敲詐勒索類型的犯罪，都將提高犯罪行為人得手的可能性。因?yàn)槟壳皩ι疃葌卧煲舻拇驌魞H僅要求網(wǎng)絡(luò)平臺的打擊，只有在通過郵件、通信平臺進(jìn)行傳播構(gòu)成犯罪的情形下才能夠?qū)μ摷僖粢曨l進(jìn)行打擊，造成對于被偽造者保護(hù)乏力的困境，即要么讓行為人得逞，可構(gòu)成刑法上的犯罪，要么讓行為人掌握被偽造音者對其社會身份有影響的音視頻。而技術(shù)的快速迭代則意味著“虛假”越來越“真實(shí)”，以現(xiàn)行詐騙罪的構(gòu)成要件為例，是犯罪人以虛構(gòu)真實(shí)或隱瞞真相的方式讓被害人陷入錯誤認(rèn)識，處分自己的財(cái)產(chǎn)，因被害人的自我處分行為最終導(dǎo)致財(cái)產(chǎn)的損失，因此蘊(yùn)含有被害人過錯的因素。但是如果被害人完全沒有識別出虛假的可能性之下，是否仍然能夠稱其為存在被害人過錯，值得思考。

(二)深度偽造作為網(wǎng)絡(luò)行為的極端隱蔽性

網(wǎng)絡(luò)社會導(dǎo)致犯罪邊界被打破。[1]深度偽造技術(shù)的商業(yè)化泛濫，可以將使用深度偽造技術(shù)的人分為深度偽造技術(shù)的研發(fā)者和深度偽造技術(shù)的使用者。就深度偽造技術(shù)的研發(fā)者而言，其有能力研發(fā)深度偽造技術(shù)也就意味著能夠利用自身技術(shù)實(shí)現(xiàn)網(wǎng)絡(luò)瀏覽和網(wǎng)絡(luò)匿名化。利用深度偽造技術(shù)制造虛假音視頻的人，尤其是有意使用深度偽造音視頻來造成社會沖突或?qū)嵤┓缸飼r，相比于一般網(wǎng)民往往具有更強(qiáng)的利用計(jì)算機(jī)知識使自己的網(wǎng)絡(luò)行為匿名化及難以追蹤的能力。由此，在對深度偽造音視頻檢測還不甚成熟的前提下，想要探尋到深度偽音造技術(shù)的實(shí)際研發(fā)和使用者極其困難。

(三)深度偽造制造風(fēng)險(xiǎn)的多樣性

深度偽造技術(shù)本身的高度真實(shí)性對于“真實(shí)”概念的挑戰(zhàn)，導(dǎo)致深度偽造技術(shù)風(fēng)險(xiǎn)的多樣性。當(dāng)其被用作侵犯具體權(quán)益的工具時，則存在侵犯公民的人身權(quán)益、財(cái)產(chǎn)權(quán)益、社會公共秩序、國家安全等多方面的危險(xiǎn)。此外，深度偽造技術(shù)對社會信任基礎(chǔ)的顛覆作用也是一個不能避開的問題。當(dāng)深度偽造技術(shù)成為一個廣泛且日常適用的技術(shù)時，就會造成社會底色中“所見即所得”變色，甚至動搖，尤其是在個人信息保護(hù)不周全的背景下，可能顛覆人們的日常判斷。

二、深度偽造的現(xiàn)有規(guī)制及難題

信息化浪潮下，為把握住此次發(fā)展的機(jī)遇，國家在保障基本社會秩序的前提下采取“包容審慎”的監(jiān)管態(tài)度。對于人工智能技術(shù)的發(fā)展也主要持包容態(tài)度，因此對深度偽造技術(shù)更多的是一種防衛(wèi)性質(zhì)的規(guī)定，采取消極的立法和規(guī)制模式，出現(xiàn)在零星的法律和規(guī)范中。

(一)現(xiàn)有規(guī)制路徑

《民法典》第1019條表明利用信息技術(shù)手段偽造方式侵害他人的肖像權(quán)行為的侵權(quán)性?！毒W(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》規(guī)定，對利用如深度偽造技術(shù)制作、發(fā)布、傳播的音視頻信息應(yīng)當(dāng)以顯著方式予以標(biāo)識。使用深度偽造技術(shù)生成虛假音視頻并不標(biāo)識的，網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)當(dāng)立即停止傳輸該信息，以顯著方式標(biāo)識后可繼續(xù)傳輸。對于利用深度偽造技術(shù)產(chǎn)生的虛假音視頻的鑒別責(zé)任在網(wǎng)絡(luò)音視頻信息服務(wù)提供者，即平臺一方，并有權(quán)利且有責(zé)任對虛假音視頻進(jìn)行處置。《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》要求，網(wǎng)絡(luò)信息內(nèi)容服務(wù)使用者、生產(chǎn)者和平臺不得利用包括深度偽造技術(shù)在內(nèi)的新技術(shù)從事法律、行政法規(guī)禁止的活動，否則由網(wǎng)信等有關(guān)主管部門按照有關(guān)法律、行政法規(guī)的規(guī)定予以處理。

由此可見，目前我國并沒有專門約束深度偽造技術(shù)本身研發(fā)、利用和傳播的法律，而是從保護(hù)公民的肖像權(quán)、名譽(yù)權(quán)、著作權(quán)、維護(hù)國家安全、社會安全等角度，對深度偽造虛假信息的創(chuàng)作、發(fā)布和傳播進(jìn)行規(guī)范和約束。[2]

(二)現(xiàn)有規(guī)制的局限性

目前法律在面對新興技術(shù)時，顯然是站在企業(yè)和平臺一方，對于企業(yè)和平臺收集信息以及被收集信息的去向缺乏打擊力度，反而是在保護(hù)企業(yè)和平臺的收集行為。而深度偽造之下則造成了個體在面對被收集時的完全“裸奔”。[3]對于單純利用深度偽造技術(shù)制作音視頻的情況，現(xiàn)有的規(guī)制路徑要求音視頻發(fā)布者進(jìn)行顯著標(biāo)識，當(dāng)平臺發(fā)現(xiàn)深度偽造的音視頻沒有進(jìn)行標(biāo)識時，應(yīng)當(dāng)叫停該音視頻的傳播，在發(fā)布者進(jìn)行顯著標(biāo)識后仍能夠繼續(xù)發(fā)布該音視頻。也就是說，對于深度偽造音視頻的監(jiān)測的權(quán)利和義務(wù)均在平臺一方，而這一要求顯然是不合理的。

第一，深度偽造技術(shù)所產(chǎn)生的音視頻并不完全是通過狹義網(wǎng)絡(luò)平臺進(jìn)行傳播。此處所指的狹義網(wǎng)絡(luò)平臺有權(quán)對在其平臺傳播的音視頻進(jìn)行檢測并進(jìn)行技術(shù)分析。例如繞開網(wǎng)絡(luò)平臺利用電子郵件或者私人電話的方式傳播虛假音視頻的情況下，現(xiàn)有對于深度偽造技術(shù)的規(guī)定落空。

第二，要求平臺承擔(dān)起深度偽造技術(shù)的檢測本身并不現(xiàn)實(shí)。深度偽造技術(shù)的特性之一就在于其難以檢測性，就一般網(wǎng)絡(luò)平臺而言，往往依靠“技術(shù)+人工”的檢測方式，隨著深度偽造技術(shù)本身的完善，平臺并不一定能夠承擔(dān)起檢測的責(zé)任。從《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》來看，其對平臺的要求也只是發(fā)現(xiàn)之后應(yīng)當(dāng)叫停音視頻的傳播，如果平臺本身并沒有發(fā)現(xiàn)，似乎平臺就不需要承擔(dān)制止該音視頻傳播的責(zé)任。此外，深度偽造音視頻的傳播與網(wǎng)絡(luò)平臺本身的商業(yè)性追求并不相符。深度偽造技術(shù)的高度真實(shí)的虛假性，往往能夠更加引起音視頻點(diǎn)擊者的注意。虛假消息的傳播速度是真實(shí)消息傳播速度六倍的網(wǎng)絡(luò)環(huán)境和以點(diǎn)擊、點(diǎn)贊、評論、轉(zhuǎn)發(fā)為評價(jià)標(biāo)準(zhǔn)的網(wǎng)絡(luò)平臺模式，平臺本身并沒有減少自己流量分成而規(guī)制音視頻數(shù)量的動力。[4]隨著深度偽造技術(shù)的商業(yè)化和大眾化發(fā)展，其適用途徑將不僅僅是面向社會媒體和互聯(lián)網(wǎng)相關(guān)的領(lǐng)域，而是滲透進(jìn)個人生活中，科技商業(yè)化的特征表明僅僅要求科技去解決這些問題是不太現(xiàn)實(shí)的。

第三，缺乏對深度偽造技術(shù)增加犯罪既遂可能性的關(guān)注。如前所述，深度偽造本身所追求的即是其“以假亂真”，該項(xiàng)技術(shù)在詐騙、敲詐勒索等罪的適用中將極大提高犯罪的既遂可能性，尤其是該項(xiàng)技術(shù)的發(fā)展邏輯和迭代所追求的即是讓人不能判斷真假，作為一種具有隱蔽性的音頻、視頻插件更加容易讓人陷入錯誤認(rèn)識，但是目前對于深度偽造技術(shù)的關(guān)注則更多放在最終造成實(shí)害結(jié)果之上，而對其究竟在多大程度上容易使人陷入認(rèn)識錯誤，最終導(dǎo)致錯誤處分缺乏必要關(guān)注。

(三)深度偽造的治理困境

互聯(lián)網(wǎng)犯罪因網(wǎng)絡(luò)的虛擬性和匿名性，導(dǎo)致僅僅依靠與上傳音視頻相關(guān)的源數(shù)據(jù)追蹤到深度偽造音視頻的制作者是并不足夠的。此外，如果該項(xiàng)技術(shù)所使用的服務(wù)器本身屬于借用或盜用他人服務(wù)器的情況時，對于深度偽造制作者的追蹤將更加困難——那些能夠利用網(wǎng)絡(luò)進(jìn)行犯罪的行為人往往也有能力和技術(shù)對自己的行為進(jìn)行匿名化處理。而基于互聯(lián)網(wǎng)的全球性，深度偽造音視頻的制作者可能位于其所上傳平臺管轄國之外的地域。一旦深度偽造生成，法律往往缺少有效的方法制止其傳播，也即深度偽造濫用的危害性是和其行為本身同時存在的。

我國網(wǎng)絡(luò)信息監(jiān)管體系主要包括四個層次：行業(yè)監(jiān)管、平臺把關(guān)、社會監(jiān)督和網(wǎng)民自律。四個層次的賦權(quán)上，出于網(wǎng)絡(luò)發(fā)展的需要以及平臺中立觀念的原則，更多是依靠社會監(jiān)督和網(wǎng)民自律。這實(shí)際上是不科學(xué)也不可行的，行業(yè)內(nèi)部尚存在著深度偽造檢測的困境，要求社會和網(wǎng)民識別深度偽造音視頻自然不可能，而被深度偽造的對象發(fā)現(xiàn)時，危害結(jié)果已經(jīng)造成，再去進(jìn)行反向破解，就缺乏對深度偽造濫用的預(yù)防機(jī)制。

三、深度偽造的刑法規(guī)制合理性與設(shè)想

網(wǎng)絡(luò)時代的刑法理念需要堅(jiān)持刑法謙抑性為中心[5]，同時也需要以新理念進(jìn)行應(yīng)對。要求網(wǎng)絡(luò)平臺和科技公司自行監(jiān)督和監(jiān)管的現(xiàn)狀低估了對于技術(shù)濫用風(fēng)險(xiǎn)的評估，民事、行政規(guī)制的有限性和傳統(tǒng)犯罪借助網(wǎng)絡(luò)和人工智能進(jìn)行變異之下，需要以積極的刑法觀對深度偽造技術(shù)進(jìn)行規(guī)制。

(一)民事、行政規(guī)制的有限性

由于深度偽造技術(shù)的創(chuàng)建者往往采取的是匿名的方式實(shí)施違法的行為，且對深度偽造技術(shù)的檢測還處于發(fā)展階段，個人并沒有自主檢測的工具。而依據(jù)《民事訴訟法》規(guī)定符合起訴條件必須有明確的被告和“誰主張誰舉證”的舉證原則。網(wǎng)絡(luò)環(huán)境的開放性和無形性，侵權(quán)主體的分散性以及網(wǎng)絡(luò)空間的無形性，都成為個人在面對網(wǎng)絡(luò)侵權(quán)維權(quán)時的絆腳石。網(wǎng)絡(luò)侵權(quán)的救濟(jì)手段的單一性，且在維權(quán)過程中可能導(dǎo)致的侵權(quán)影響的二次發(fā)酵，司法訴訟的成本高和時間長等等一系列原因使得個人在網(wǎng)絡(luò)維權(quán)時的困難重重。[6]“誰受害、誰通知、誰服務(wù)、誰取下”的規(guī)定，過分要求受害者主動發(fā)現(xiàn)予以維權(quán)，導(dǎo)致平臺和政府監(jiān)管在此侵權(quán)鏈條中的缺失，網(wǎng)絡(luò)對于“附近性”的消解，個體在網(wǎng)絡(luò)空間“他者”概念的空缺，真實(shí)空間中的“道德感”和“秩序感”的減弱，都不斷降低網(wǎng)絡(luò)侵權(quán)的成本。隨著智能城市的建設(shè)，改變了原本個體參與網(wǎng)絡(luò)生活的可選擇性，人臉識別作為許多小區(qū)、單位的門禁系統(tǒng)，涉及肖像的信息在網(wǎng)絡(luò)系統(tǒng)上滲透。而目前對于網(wǎng)絡(luò)信息的監(jiān)管模式則更多是網(wǎng)絡(luò)平臺向監(jiān)管部門報(bào)告，通過計(jì)算機(jī)產(chǎn)生的深度偽造音視頻并不一定在網(wǎng)絡(luò)平臺上進(jìn)行傳播，導(dǎo)致行政監(jiān)管的落空，且在行政監(jiān)管更多是針對行業(yè)、商業(yè)主體而非自然人個體的現(xiàn)狀之下，對于個人面對深度偽造的侵權(quán)顯得無助。

由此可見，盡管民事補(bǔ)償途徑可以作為個人維權(quán)的途徑，但是在互聯(lián)網(wǎng)本身的跨國、跨省和匿名的背景下，要求作為深度偽造的受害人主動維權(quán)是過于沉重的負(fù)擔(dān)，訴訟程序的繁雜性和長期性可能導(dǎo)致即使收到道歉和賠償對于受害者而言也沒有太大意義。而行政手段的監(jiān)控，面對商業(yè)主體和行業(yè)的現(xiàn)狀，以及通過計(jì)算機(jī)產(chǎn)生的深度偽造音視頻不一定在網(wǎng)絡(luò)平臺上傳播的監(jiān)管乏力，讓深度偽造技術(shù)之下的個人權(quán)益保護(hù)落空。

(二)深度偽造刑法規(guī)制的正當(dāng)性

《關(guān)于辦理利用信息網(wǎng)絡(luò)實(shí)施誹謗等刑事案件適用法律若干問題的解釋》規(guī)定了編造虛假信息，或者明知是編造的虛假信息，在信息網(wǎng)絡(luò)上散布，或者組織、指使人員在信息網(wǎng)絡(luò)上散布，起哄鬧事，造成公共秩序嚴(yán)重混亂，以尋釁滋事定罪處罰。這確立了刑法對于網(wǎng)絡(luò)空間秩序與線下空間的統(tǒng)一對待的處理方式。截至2020年6月，我國網(wǎng)民規(guī)模達(dá)9.40億，在線教育用戶規(guī)模達(dá)3.81億，人均每周上網(wǎng)時長為28個小時，網(wǎng)絡(luò)已經(jīng)成為大多數(shù)人日常生活的必需，互聯(lián)網(wǎng)充當(dāng)著重要的社會職能，網(wǎng)絡(luò)秩序亟待重視。刑法的存在理由與機(jī)能是通過報(bào)應(yīng)刑內(nèi)的科刑預(yù)防將來的法益侵害或者危險(xiǎn)，但是隨著社會關(guān)系的變遷，越來越多的法益變得亟待保護(hù)。[7]深度偽造作為一項(xiàng)專門創(chuàng)設(shè)虛假的技術(shù)，雖然對于作為一些有益技術(shù)的中間技術(shù)具有價(jià)值，但是其欺騙性本身在檢測技術(shù)沒有達(dá)到，也不可能達(dá)到完美精度的情況下，就具有損害社會秩序的可能性。如果人們能夠利用虛假的技術(shù)來達(dá)成自己的目的，且不會受到有效及時的懲罰，那么自然會不斷擴(kuò)大其使用范圍，從而消解社會的信賴體系。

雖然從表面上看深度偽造只是在技術(shù)上為虛假消息、誹謗、敲詐勒索、詐騙等犯罪增添了一種新型手段，并不是一個獨(dú)特的問題，然而當(dāng)商業(yè)公司或平臺通過營利為目的提供給大眾一種增加社會虛假信息的工具，甚至是可能引發(fā)社會信任基礎(chǔ)和網(wǎng)絡(luò)秩序瓦解的工具時，自然應(yīng)當(dāng)特殊對待。此外，風(fēng)險(xiǎn)社會之下，尤其是網(wǎng)絡(luò)全面侵入公民生活之下，公民對于風(fēng)險(xiǎn)的感知通過媒體、社交網(wǎng)絡(luò)的傳播更加直接、強(qiáng)烈，由此產(chǎn)生對于國家治安形勢惡化的感知。基于“破窗理論”，在一個糟糕的環(huán)境中對于自身行為的規(guī)制感直線下降，而社會生活的復(fù)雜化、高度技術(shù)化，個體在其中對于自身主體性的控制愈發(fā)下降。一方面，深度偽造技術(shù)的異化消解了對于“眼見為實(shí)”的社會信任，尤其是針對政府工作人員、公眾人物、親屬之間的深度偽造，將導(dǎo)致社會基礎(chǔ)認(rèn)知體系的瓦解；另一方面，深度偽造一旦被利用，基于互聯(lián)網(wǎng)傳播的速度和廣度，法律難以控制和阻止其危害的彌散。因此，對深度偽造的規(guī)制應(yīng)盡可能在事前或事中，將其對社會秩序的影響遏制在源頭。尤其是在涉及國家安全與國際交往和國際合作的層面上，雖然目前在簡體中文媒體上很少對深度偽造技術(shù)的報(bào)道，但是深度偽造所造成的對個人生活的干預(yù)和國家安全的潛在影響已經(jīng)引起了英、美、俄等國家的關(guān)注，并且美國在其專門針對深度偽造技術(shù)的立法，即《2019年深度偽造報(bào)告法案》中特別強(qiáng)調(diào)國家情報(bào)局和美國情報(bào)部門負(fù)責(zé)人提交關(guān)于包括中國在內(nèi)的深度偽造技術(shù)的研發(fā)情況的報(bào)告，由此可見美國對于深度偽造技術(shù)的關(guān)注，也透露出對深度偽造技術(shù)濫用的擔(dān)憂?；诖?，對深度偽造技術(shù)進(jìn)行刑法規(guī)制具有正當(dāng)性。

1.域外深度偽造刑法規(guī)制情況

2019年，美國國會提出《深度偽造責(zé)任法案》和《2019年深度偽造報(bào)告法案》兩部法律草案，對深度偽造技術(shù)采用刑事犯罪視角的規(guī)制。其中《深度偽造責(zé)任法案》對三類行為規(guī)定了不超過5年的刑事處罰：(1)未對作品進(jìn)行水印標(biāo)記，且具有羞辱他人的主觀目的，提供含他人虛假的性行為或者裸體的視頻的；(2)意圖造成暴力或者身體傷害、引發(fā)武裝或者外交沖突，或者干擾政治運(yùn)作，包括選舉，威脅社會信任的；(3)受外國勢力或者代理人指示，意圖介入國內(nèi)政治爭議，影響聯(lián)邦、州或其他的選舉，以及實(shí)施其他不法行為的。法案還規(guī)定了深度偽造的被害人有權(quán)采用各種救濟(jì)措施。2019年2月和10月，加利福尼亞州州長分別簽署了《犯罪欺騙性記錄》(Crimes：DeceptiveRecordings)和《選舉：欺騙性的音頻和視覺媒體》(Elections:DeceptiveAudioorVisualMedia)，分別禁止“深度偽造”用于傳播色情內(nèi)容和幫助政治選舉。

歐盟雖然沒有出臺直接針對深度偽造的立法或者相關(guān)法規(guī)，但是其通過《歐盟不實(shí)信息實(shí)踐準(zhǔn)則》和《可信賴AI倫理指引》的方式將深度偽造納入規(guī)制范圍，并直接把深度偽造作為虛假信息進(jìn)行管理。[8]其中，2018年6月通過的《歐盟不實(shí)信息實(shí)踐準(zhǔn)則》附件中列出對不實(shí)信息的應(yīng)對做法，通過“行業(yè)—利害關(guān)系人—消費(fèi)者”的模式降低虛假信息可能帶來的危害。[9]

2.我國深度偽造刑法規(guī)制設(shè)想

對于深度偽造技術(shù)的刑法規(guī)制存在兩種選擇路徑。一是在利用深度偽造技術(shù)進(jìn)行傳播但不進(jìn)行顯著標(biāo)識，或者提供給大眾可以用來制作深度偽造的音視頻的工具/平臺但可通過購買等方式不進(jìn)行標(biāo)識時，情節(jié)嚴(yán)重或嚴(yán)重危害社會秩序和國家利益，刑法就進(jìn)行干預(yù)，以避免在不斷傳播中加劇虛假傳播的影響或者利用該音視頻實(shí)施下一步危害行為。二是對于僅是利用深度偽造技術(shù)進(jìn)行傳播或提供深度偽造技術(shù)的開發(fā)者/平臺，但不進(jìn)行顯著標(biāo)識的行為不進(jìn)行干預(yù)和處罰，等到實(shí)際危害后果發(fā)生后，按照具體的實(shí)害結(jié)果是否符合刑法的規(guī)定來定罪量刑。顯然后一種做法忽視了深度偽造技術(shù)本身的危害性，并且也沒有考慮利用此項(xiàng)技術(shù)對于網(wǎng)絡(luò)秩序所帶來的破壞力。深度偽造技術(shù)的風(fēng)險(xiǎn)多樣性、多元性和其產(chǎn)生的音視頻的難以檢測性，以及基于深度偽造技術(shù)可能引發(fā)的社會暴力和民意誘導(dǎo)，都將對社會的發(fā)展和社會的秩序產(chǎn)生巨大傷害。通過點(diǎn)擊和個人算法的網(wǎng)絡(luò)商業(yè)模式，社交媒體更多按照用戶的興趣和喜好來進(jìn)行推薦，深度偽造音視頻的獵奇性和新鮮性，以及通過深度偽造所營造出來的“熟悉感”和“附近性”，對于吸引用戶而言具有“良好”效果。誠然，深度偽造技術(shù)在一些領(lǐng)域具有潛在的價(jià)值，然而在尚未存在恰當(dāng)和有效的監(jiān)管方式的情況下，允許個人可隨意使用該項(xiàng)技術(shù)，則更像是在沒有防御武器之下的“引狼入室”。[10]

具體而言，最值得關(guān)注的深度偽造行為包括：(1)使用深度偽造技術(shù)破壞社會信任的行為，即深度偽造產(chǎn)生的虛假信息本身侵犯法益的行為；(2)利用深度偽造技術(shù)盜用他人身份的行為，即濫用他人身份性信息，捏造他人虛假行為。對于前者是深度偽造技術(shù)本身指向所帶來的負(fù)面效果，因此應(yīng)該強(qiáng)調(diào)規(guī)制性刑法。通過對技術(shù)本身的限制性規(guī)定，要求發(fā)布使用深度偽造技術(shù)的音視頻必須標(biāo)注該音視頻是利用深度偽造技術(shù)所合成，否則在嚴(yán)重影響社會秩序的情況下，如大范圍傳播、造成不良社會影響，就構(gòu)成犯罪。對于后者是借助深度偽造技術(shù)侵犯他人法益和社會法益的行為，因此應(yīng)該強(qiáng)調(diào)法益侵犯性，以借助深度偽造技術(shù)最終侵犯的法益確定性作為影響量刑的標(biāo)準(zhǔn)，尤其是針對在詐騙、敲詐勒索、危害國家安全類犯罪中使用深度偽造技術(shù)的情況，應(yīng)當(dāng)考慮深度偽造技術(shù)對被害人陷入認(rèn)識錯誤的可能性與必然性，予以定罪量刑。

四、結(jié)語

國家應(yīng)當(dāng)積極干預(yù)對于可能危害公民正常生活秩序的行為，不能夠?qū)⑵渫耆艚o受害者，讓受害者自行尋求民事救濟(jì)，尤其是針對網(wǎng)絡(luò)行為侵犯個人權(quán)益的行為，要求個人在現(xiàn)行民事訴訟體制之下尋求救濟(jì)并不可行。而放任深度偽造技術(shù)濫用的做法則只會讓互聯(lián)網(wǎng)重返叢林社會，并進(jìn)而消解個體對社會體系的信任。風(fēng)險(xiǎn)社會之下要求更多層次對于新興技術(shù)的治理，“科技向善”的希望之下蘊(yùn)含著對法律積極規(guī)制的需求。換驗(yàn)軟件ZAO被叫停之下，并不能夠完全制止技術(shù)的繼續(xù)蔓延，因此應(yīng)當(dāng)以更加前瞻性的思考來應(yīng)對新技術(shù)的發(fā)展，并以更加積極的刑法態(tài)度來維護(hù)公民的生活秩序。