張秋芳

摘要：“深度偽造”音視頻是基于深度學(xué)習(xí)的一種新型信息篡改與置換技術(shù)，是對(duì)視頻、音頻和其他內(nèi)容進(jìn)行數(shù)字化創(chuàng)作或修改的結(jié)果?！吧疃葌卧臁币粢曨l通過網(wǎng)絡(luò)社交媒體的漣漪效應(yīng)迅速傳播，導(dǎo)致法律風(fēng)險(xiǎn)逐漸增多。鑒于此，司法實(shí)踐中應(yīng)對(duì)深度偽造音視頻肖像權(quán)侵權(quán)標(biāo)準(zhǔn)區(qū)別對(duì)待；明確制作者傳播者的標(biāo)識(shí)義務(wù)；采用過錯(cuò)推定原則追究音視頻平臺(tái)民事責(zé)任；政府采取多元化的事前事中監(jiān)管措施，盡可能減少“深度偽造”音視頻傳播的負(fù)面效應(yīng)，進(jìn)而尋求技術(shù)革新與風(fēng)險(xiǎn)調(diào)控之間的最佳平衡。

關(guān)鍵詞：“深度偽造”音視頻 侵權(quán)認(rèn)定 網(wǎng)絡(luò)平臺(tái)責(zé)任 監(jiān)管義務(wù)

“深度偽造”音視頻是在人工智能發(fā)展基礎(chǔ)上衍生出來的一種合成技術(shù)，該技術(shù)使用一種深度學(xué)習(xí)的自動(dòng)編碼器，可以把一個(gè)人的面孔或語音轉(zhuǎn)換成任意其他人的音視頻，以迎合大眾獵奇心理。深度偽造技術(shù)主要應(yīng)用于娛樂視頻的創(chuàng)作，從2015年僅在美國(guó)程序員行業(yè)之間流行的搞笑“換頭”視頻，發(fā)展到被無限制地應(yīng)用于電影電視和社交娛樂網(wǎng)站。《深度合成應(yīng)用十大趨勢(shì)報(bào)告（2022）》顯示，2021年深度合成音視頻數(shù)量與2017年相比增長(zhǎng)了10倍以上，其迭代更新的內(nèi)容也已經(jīng)達(dá)到了連專業(yè)人員都難以憑肉眼辨別真?zhèn)蔚某潭?。高度逼真的深度偽造音視頻在社交網(wǎng)絡(luò)傳播中被濫用的可能性迅速提升，由此帶來的法律風(fēng)險(xiǎn)也隨之增多。面對(duì)顛覆性技術(shù)異化在網(wǎng)絡(luò)空間帶來的多維風(fēng)險(xiǎn)和挑戰(zhàn)，法律理應(yīng)進(jìn)行積極應(yīng)對(duì)。

一、深度偽造音視頻及其網(wǎng)絡(luò)傳播的法律風(fēng)險(xiǎn)

深度偽造視頻作為人工智能換臉技術(shù)的應(yīng)用，其核心原理是利用生成對(duì)抗網(wǎng)絡(luò)或者卷積神經(jīng)網(wǎng)絡(luò)等算法將某個(gè)視頻中的圖像替換為其他人物的面孔，并重新合成所謂的假視頻。音頻偽造是通過“語音克隆”技術(shù)，即說話者自適應(yīng)和說話者編碼的方式，將目標(biāo)對(duì)象的語速、語調(diào)等聲道信息表示成一個(gè)聲音模型，對(duì)標(biāo)準(zhǔn)聲道模型進(jìn)行微調(diào)，以模擬出該說話人的聲音。隨著音頻信息的訓(xùn)練樣本數(shù)量增加，經(jīng)過多輪的循環(huán)學(xué)習(xí)后，生成器生成的內(nèi)容極為逼真。從AI換臉到系統(tǒng)地偽造語音、圖像和視頻，當(dāng)虛擬化的個(gè)人形象在網(wǎng)絡(luò)傳播中被濫用，就可能涉及侵犯公民人格權(quán)、知識(shí)產(chǎn)權(quán)及社會(huì)秩序等。

（一）民事風(fēng)險(xiǎn)：侵犯肖像權(quán)、名譽(yù)權(quán)和知識(shí)產(chǎn)權(quán)

深度偽造音視頻在未經(jīng)許可的情況下，擅自利用某人的面部圖像、視頻和聲音素材逼真地移植到他人身上，侵害了他人的人格權(quán)益如肖像權(quán)、聲音權(quán)。現(xiàn)實(shí)中通過移花接木將一些明星的面孔替換到色情視頻中的演員身上，這種貶損受害人的方式涉嫌侵犯名譽(yù)權(quán)。另外，利用深度偽造技術(shù)將電影、電視劇原素材視頻進(jìn)行歪曲和篡改，可能存在盜版侵權(quán)風(fēng)險(xiǎn)。依照知識(shí)產(chǎn)權(quán)法相關(guān)規(guī)定，視頻作品的作者享有作品不受任意修改的權(quán)利，對(duì)影視劇中演員進(jìn)行惡搞、篡改原影視劇作品，作品完整性將遭受侵害；若擅自將換臉后的影視片段在網(wǎng)絡(luò)上傳播，也可能涉嫌侵害著作權(quán)人信息網(wǎng)絡(luò)傳播權(quán)。

（二）刑事風(fēng)險(xiǎn)：妨害社會(huì)管理秩序

美國(guó)德克薩斯大學(xué)法學(xué)教授羅伯特·切斯尼認(rèn)為，如果互聯(lián)網(wǎng)上的資訊環(huán)境以有害的方式與個(gè)體的認(rèn)識(shí)偏差發(fā)生交互碰撞，真相將在意識(shí)形態(tài)領(lǐng)域中慢慢消退，而深度偽造技術(shù)將使這個(gè)問題變得更嚴(yán)重。深度偽造音視頻具有兩種否認(rèn)或歪曲事實(shí)的方法：一是欺騙者可以利用網(wǎng)絡(luò)操縱和散布經(jīng)加工后的聲音和圖像來蒙蔽大眾；二是通過網(wǎng)絡(luò)譴責(zé)真實(shí)的信息是“偽造”的，使公眾意見產(chǎn)生偏差。若利用深度偽造音視頻誘導(dǎo)公眾生成錯(cuò)誤的“民意”，將會(huì)影響公眾、政府乃至司法機(jī)關(guān)對(duì)各類社會(huì)事件評(píng)估和判斷的公正性，造成社會(huì)政治危機(jī)，妨害社會(huì)管理秩序。如果利用深度偽造音視頻通過網(wǎng)絡(luò)煽動(dòng)民族分離，危及國(guó)家安全，則可能構(gòu)成犯罪。

二、深度偽造音視頻及其傳播對(duì)現(xiàn)有法律的挑戰(zhàn)

深度偽造技術(shù)的低門檻使侵權(quán)人的侵權(quán)成本降低，由此助長(zhǎng)了深度偽造音視頻侵權(quán)案件發(fā)生，盡管現(xiàn)有的法律規(guī)章在宏觀方面對(duì)此予以規(guī)制，但深度偽造音視頻侵權(quán)界限不明，再加上監(jiān)管不到位，音視頻平臺(tái)責(zé)任劃分模糊等問題都加劇了司法認(rèn)定的難度。

（一）深度偽造音視頻侵權(quán)認(rèn)定困難

對(duì)于深度偽造音視頻侵權(quán)行為，《民法典》第1019條予以積極回應(yīng)，規(guī)定不得利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)，但司法實(shí)踐中就肖像權(quán)的可識(shí)別性判斷、名譽(yù)權(quán)侵權(quán)認(rèn)定和舉證責(zé)任方面尚存難題。

1.肖像權(quán)侵權(quán)認(rèn)定困難。傳統(tǒng)的肖像權(quán)侵權(quán)行為要求公民肖像未經(jīng)許可而被適用，且該肖像具有可識(shí)別性，其中未經(jīng)許可使用的肖像和由該肖像識(shí)別的對(duì)象是一致的，而深度偽造音視頻中二者恰恰相分離。如果侵權(quán)人只滿足其中一個(gè)條件，能否認(rèn)定為深度偽造音視頻侵犯某人的肖像權(quán)？網(wǎng)絡(luò)傳播中深度偽造視頻侵犯肖像權(quán)對(duì)象的隨機(jī)性和多重性也使侵權(quán)認(rèn)定更復(fù)雜。另外，鑒于侵犯肖像權(quán)可能導(dǎo)致被侵權(quán)人名譽(yù)受損，而現(xiàn)行法律關(guān)于深度偽造對(duì)名譽(yù)權(quán)侵權(quán)的界定尚不明確?！睹穹ǖ洹酚嘘P(guān)侵害名譽(yù)權(quán)的規(guī)定適用于文學(xué)藝術(shù)作品，并未將深度偽造產(chǎn)物納入其中，如何判斷深度偽造音視頻的行為是否侵害名譽(yù)權(quán)也是司法認(rèn)定的難點(diǎn)。

2.著作權(quán)侵權(quán)舉證困難。深度偽造視頻對(duì)原始視頻進(jìn)行換臉編輯、修改，可能侵害原作者的知識(shí)產(chǎn)權(quán)，權(quán)利人能夠以著作權(quán)被侵害為由提起訴訟。然而，如何證明偽造視頻在網(wǎng)絡(luò)傳播中對(duì)權(quán)利人造成的實(shí)際損失卻相當(dāng)困難，從而導(dǎo)致被侵權(quán)人難以得到充分的法律救濟(jì)。另外，由于互聯(lián)網(wǎng)天然具有不受地域限制的屬性，深度偽造視頻能在網(wǎng)絡(luò)空間飛速傳播，其造成的危害范圍更廣。面對(duì)網(wǎng)絡(luò)中如此分散的、隨機(jī)的海量“偽造”視頻，著作權(quán)方的維權(quán)成本無疑不斷增加。

（二）音視頻平臺(tái)法律責(zé)任難以認(rèn)定

目前，法律在規(guī)制深度偽造技術(shù)行為時(shí)以過錯(cuò)責(zé)任原則追究民事責(zé)任容易縱容違法，同時(shí)，刑事定性過于嚴(yán)苛又難以收到應(yīng)有的效果。

1.過錯(cuò)責(zé)任認(rèn)定原則不利于保護(hù)被侵權(quán)人的權(quán)益。依照《網(wǎng)絡(luò)信息內(nèi)容生態(tài)管理規(guī)定》，網(wǎng)絡(luò)平臺(tái)服務(wù)商如果利用深度偽造音視頻進(jìn)行違法活動(dòng)，或不履行相應(yīng)監(jiān)管義務(wù)，應(yīng)承擔(dān)民事過錯(cuò)責(zé)任。依照《民法典》關(guān)于網(wǎng)絡(luò)侵權(quán)中的“避風(fēng)港”規(guī)則和“紅旗”規(guī)則，當(dāng)平臺(tái)服務(wù)商違反“通知-去掉”義務(wù)和“反通知”義務(wù)時(shí)都應(yīng)該承擔(dān)連帶責(zé)任。這些規(guī)定都表明對(duì)平臺(tái)服務(wù)商適用過錯(cuò)責(zé)任原則，但科技發(fā)展使網(wǎng)絡(luò)平臺(tái)對(duì)深度偽造音視頻甄別檢測(cè)能力逐步加強(qiáng)，如果依然適用傳統(tǒng)民事過錯(cuò)責(zé)任原則不利于保護(hù)被侵權(quán)人的權(quán)益。司法實(shí)踐中應(yīng)依平臺(tái)服務(wù)商在傳播深度偽造音視頻中所發(fā)揮的不同作用，使其有區(qū)別地承擔(dān)相應(yīng)的責(zé)任。

2.刑事責(zé)任追究過于嚴(yán)苛易流于形式。刑法規(guī)制網(wǎng)絡(luò)平臺(tái)傳播深度偽造音視頻的行為主要涉及拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪，即平臺(tái)不履行信息網(wǎng)絡(luò)安全管理義務(wù)，經(jīng)監(jiān)管部門責(zé)令采取改正措施而拒不改正的行為。但該罪在司法實(shí)踐中的適用率較低，原因是該罪名中的前置性法律對(duì)于網(wǎng)絡(luò)服務(wù)提供者的安全管理義務(wù)的規(guī)定并不具體，從而使司法實(shí)踐中對(duì)于網(wǎng)絡(luò)服務(wù)提供者的不作為行為是否構(gòu)成犯罪出現(xiàn)模糊性判斷。另外，該罪名中行政程序前置化的硬性規(guī)定會(huì)使刑事司法陷入另一種負(fù)面形態(tài)：由于事前行政程序正當(dāng)性的判斷對(duì)犯罪行為的定性具有決定性影響，但刑法又無法杜絕行政程序中各種形式的不作為主義，這將影響刑事司法的獨(dú)立性和公平性，導(dǎo)致遭受“深度偽造”技術(shù)侵害的權(quán)利相關(guān)人得不到及時(shí)、充分的救濟(jì)。

（三）行政監(jiān)管：義務(wù)不明，效果不佳

深度偽造技術(shù)的核心依然是算法，由于深度偽造音視頻的專業(yè)性和復(fù)雜性，用戶很難了解算法技術(shù)所隱藏的風(fēng)險(xiǎn)。而《數(shù)據(jù)安全管理辦法》對(duì)數(shù)據(jù)泄露的潛在風(fēng)險(xiǎn)并沒有設(shè)置政府的算法監(jiān)管職責(zé)，基于“深度偽造”音視頻自身特征通過網(wǎng)絡(luò)平臺(tái)傳播，其社會(huì)負(fù)面效應(yīng)會(huì)迅速擴(kuò)大，即使上述行政法規(guī)對(duì)深度偽造技術(shù)的規(guī)制發(fā)揮作用，但既有的社會(huì)影響已成定局，這種事后監(jiān)督很難保障用戶的合法權(quán)益?！峨娮由虅?wù)法》雖然對(duì)網(wǎng)絡(luò)平臺(tái)的算法責(zé)任進(jìn)行了規(guī)定，某種程度上說明我國(guó)立法在規(guī)制網(wǎng)絡(luò)平臺(tái)方面融入了風(fēng)險(xiǎn)預(yù)防，將對(duì)算法的監(jiān)管予以提前，以預(yù)防和減少風(fēng)險(xiǎn)的發(fā)生。然而，由于相關(guān)法條籠統(tǒng)導(dǎo)致實(shí)踐操作中執(zhí)法部門對(duì)于未履行算法監(jiān)管義務(wù)的網(wǎng)絡(luò)平臺(tái)也顯得捉襟見肘。《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》（以下簡(jiǎn)稱“規(guī)定”）中要求平臺(tái)服務(wù)商對(duì)深度偽造音視頻審查的義務(wù)，但并沒有對(duì)具體如何審查做出詳細(xì)的規(guī)定，因此難以收到預(yù)期的效果。

三、深度偽造視頻及其傳播風(fēng)險(xiǎn)的法律規(guī)制

針對(duì)上述法律規(guī)制深度偽造視頻中存在的問題，應(yīng)明確制作者、傳播者的標(biāo)識(shí)義務(wù)、強(qiáng)化音視頻平臺(tái)的審查義務(wù)并細(xì)化政府監(jiān)管措施。

（一）深度偽造音視頻民事侵權(quán)的認(rèn)定

深度偽造音視頻民事侵權(quán)主要圍繞肖像權(quán)、名譽(yù)權(quán)以及著作權(quán)的認(rèn)定，肖像權(quán)侵權(quán)的認(rèn)定因公眾人物和一般人物的肖像權(quán)可識(shí)別性判斷標(biāo)準(zhǔn)不同而有所區(qū)別，名譽(yù)權(quán)侵權(quán)關(guān)鍵看是否對(duì)肖像權(quán)人實(shí)施侮辱誹謗行為；至于知識(shí)產(chǎn)權(quán)方面，則需要通過明確深度偽造音視頻制作者、傳播者的標(biāo)識(shí)義務(wù)來加大著作權(quán)的保護(hù)力度。

1.區(qū)別肖像權(quán)可識(shí)別性的判斷標(biāo)準(zhǔn)?；谏鲜錾疃葌卧煲曨l侵犯肖像權(quán)與傳統(tǒng)肖像權(quán)侵權(quán)的差別，深度偽造視頻侵權(quán)認(rèn)定的難點(diǎn)是如何判斷肖像權(quán)的可識(shí)別性。通常情況下，只要我們從深度偽造視頻中可以辨別出某個(gè)人的形象，即當(dāng)看到一段深度偽造視頻，能聯(lián)系某個(gè)特定自然人，就可以推定其滿足了肖像權(quán)侵權(quán)的可識(shí)別性特征。深度偽造音視頻為了增加網(wǎng)上的點(diǎn)擊量，博人眼球，絕大多數(shù)牽涉到公眾人物的肖像，伊萬卡·特朗普、米歇爾·奧巴馬等換臉視頻都曾經(jīng)在網(wǎng)絡(luò)傳播，都是深度偽造技術(shù)的受害者。我國(guó)亦有相似案例，利用深度偽造技術(shù)將楊冪的面孔換到94版《射雕英雄傳》中演員朱茵身上。這種深度偽造行為不僅侵犯楊冪的肖像權(quán)，而且也侵犯受害人朱茵的肖像權(quán)。作為一線明星演員，她們的社會(huì)知名度相對(duì)較高，其肖像的可識(shí)別性非常明顯。然而“深度偽造”應(yīng)用APP并不需要很深的專業(yè)技術(shù)背景，一般人都可以利用該軟件制作換臉視頻，這就導(dǎo)致“換臉”的對(duì)象擴(kuò)大到身邊熟識(shí)的普通人。而普通人肖像權(quán)的可識(shí)別性的判斷標(biāo)準(zhǔn)往往局限于其社交朋友圈，能否構(gòu)成肖像權(quán)侵權(quán)需要由法官結(jié)合其具體的社交范圍而確定。

名譽(yù)侵權(quán)主要指文學(xué)作品、行為語言或其他形式等對(duì)他人名譽(yù)造成負(fù)面影響的行為。盡管表面上看不包含深度偽造音視頻的行為，但事實(shí)上可以將其作為其他形式的一種擴(kuò)大解釋。因此，深度偽造作為名譽(yù)侵權(quán)的行為方式之一是不違背立法原意的。依照《民法典》，判斷某個(gè)行為是否構(gòu)成名譽(yù)權(quán)侵權(quán)，關(guān)鍵是對(duì)肖像權(quán)人是否實(shí)施了侮辱或誹謗，是否對(duì)其名譽(yù)造成損害。司法實(shí)踐中通常采取推定的方法，只要有證據(jù)證明傳播中的深度偽造音視頻具有侮辱、誹謗性，并為公眾所知，基本就可以推定構(gòu)成名譽(yù)侵權(quán)。美國(guó)知名網(wǎng)站Reddit將深度偽造色情視頻中的角色替換為多位明星演員的面孔，這種以侮辱的方式貶損他人的聲譽(yù)就可能構(gòu)成名譽(yù)侵權(quán)。相反，在“楊冪換臉朱茵”的視頻中，二者的社會(huì)評(píng)價(jià)并未因該視頻的傳播而降低，其名譽(yù)沒有因此遭受損害，故不構(gòu)成名譽(yù)權(quán)侵權(quán)。

2.明確規(guī)定制作者、傳播者的標(biāo)識(shí)義務(wù)。由于深度偽造視頻的隨機(jī)性、傳播快、外溢的負(fù)面效應(yīng)強(qiáng)等特點(diǎn)，視頻內(nèi)容的制作者應(yīng)該預(yù)料到其行為可能帶來的潛在社會(huì)風(fēng)險(xiǎn)，在開始利用深度偽造技術(shù)編輯視頻之初，應(yīng)征得原視頻版權(quán)人和相關(guān)換臉視頻所涉肖像權(quán)人的同意。鑒于深度偽造視頻通常在網(wǎng)絡(luò)中傳播，對(duì)深度偽造音視頻應(yīng)通過嵌入數(shù)字水印、文字、語音標(biāo)識(shí)等方式顯示合成作品信息或在視頻的顯著位置標(biāo)明“深度偽造”字樣。網(wǎng)絡(luò)平臺(tái)也應(yīng)保證視頻在傳播過程中的信息標(biāo)志不能被去除，這種“自我披露”形式旨在使視頻創(chuàng)作者及傳播者對(duì)其制作、傳播的音視頻負(fù)責(zé)，并以此區(qū)分偽造視頻和原視頻，保護(hù)原視頻作者的著作權(quán)。

3.強(qiáng)化被侵權(quán)人知悉權(quán)以便提供證據(jù)。與傳統(tǒng)侵權(quán)行為不同，由于網(wǎng)絡(luò)非直接接觸性帶來的信息不對(duì)稱的特點(diǎn)，視頻偽造者在受害人完全不知情的情況下可以制作虛假音視頻，從而導(dǎo)致受害人無法及時(shí)確定侵權(quán)主體、收集證據(jù)來尋求法律救濟(jì)。因此，明確深度偽造視頻制作者的標(biāo)識(shí)義務(wù)除了避免涉嫌著作權(quán)侵權(quán)的風(fēng)險(xiǎn)外，還在一定程度上能夠防止他人對(duì)信息真實(shí)性產(chǎn)生錯(cuò)誤認(rèn)知的幾率，保障受害人知情權(quán)和同意權(quán)，從而可以減少深度偽造音視頻所帶來的社會(huì)危害。司法實(shí)踐中，只要受害人能夠證明偽造視頻未經(jīng)權(quán)利人許可，即可確認(rèn)其構(gòu)成侵權(quán)，由此能夠減輕受害人舉證負(fù)擔(dān)。

（二）明晰音視頻平臺(tái)義務(wù)及法律責(zé)任

為強(qiáng)化音視頻平臺(tái)的監(jiān)管審查義務(wù)，應(yīng)采用過錯(cuò)推定原則使平臺(tái)承擔(dān)連帶責(zé)任。同時(shí)，建議消除拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪中行政程序的硬性條款，適當(dāng)補(bǔ)充量刑情節(jié)。

1.平臺(tái)方面：侵權(quán)責(zé)任認(rèn)定采用推定過錯(cuò)責(zé)任原則。網(wǎng)絡(luò)平臺(tái)作為信息交互、數(shù)據(jù)存儲(chǔ)和秩序維護(hù)的核心場(chǎng)所，既有可能使深度偽造技術(shù)濫用的危害結(jié)果持續(xù)惡化，也可以將危害程度遏制在萌芽狀態(tài)，因此明確平臺(tái)服務(wù)商的法律責(zé)任是規(guī)范深度偽造技術(shù)行之有效的方式之一?？萍及l(fā)展使網(wǎng)絡(luò)平臺(tái)已由傳統(tǒng)中立者轉(zhuǎn)變?yōu)榧喙δ転橐惑w的復(fù)合型平臺(tái)服務(wù)提供者，地位變化使其很多情況下不能再以“技術(shù)中立”為由規(guī)避法律責(zé)任。鑒于此，《規(guī)定》明確了網(wǎng)絡(luò)音視頻平臺(tái)應(yīng)采用技術(shù)鑒別方案核查視頻內(nèi)容的真?zhèn)危员慵皶r(shí)發(fā)現(xiàn)未標(biāo)識(shí)的深度合成作品。該條款強(qiáng)化了音視頻平臺(tái)事前審查義務(wù)，排除“避風(fēng)港原則”的適用，網(wǎng)絡(luò)平臺(tái)由“通知—?jiǎng)h除”的被動(dòng)監(jiān)管處置模式，轉(zhuǎn)為對(duì)深度偽造音視頻進(jìn)行內(nèi)容和權(quán)限等方面的事先合法性審查。音視頻平臺(tái)通過開發(fā)鑒別偽造音視頻的預(yù)警軟件過濾刪除偽造“作品”，有效阻斷偽造音視頻的網(wǎng)絡(luò)傳播。若音視頻平臺(tái)沒有履行上述義務(wù)，就應(yīng)與制作者承擔(dān)連帶侵權(quán)責(zé)任。同時(shí)，侵權(quán)認(rèn)定應(yīng)采取過錯(cuò)責(zé)任推定原則，將受害人的舉證責(zé)任僅限于證明客觀的因果關(guān)系，主觀方面的舉證責(zé)任則由音視頻平臺(tái)自己承擔(dān)，當(dāng)平臺(tái)不能證明自身主觀無過錯(cuò)時(shí)，則推定其構(gòu)成民事侵權(quán)。

2.刑事方面：修改拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪。刑法在規(guī)制深度偽造技術(shù)方面應(yīng)在遵循謙抑性原則的前提下修改拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪，防止行政程序上的問題影響刑事司法的獨(dú)立。鑒于此，筆者建議該罪中增加網(wǎng)絡(luò)用戶相關(guān)主體的通知義務(wù)與監(jiān)管部門責(zé)令改正這一行政前置程序平行的私立救濟(jì)方式，以此賦予權(quán)利人更多選擇權(quán)利救濟(jì)的途徑，從而消除行政程序的硬性限制。同時(shí)，由于網(wǎng)絡(luò)運(yùn)營(yíng)商掌握海量個(gè)人生物識(shí)別信息數(shù)據(jù)，經(jīng)常通過“流氓”用戶協(xié)議輕而易舉地永久獲取個(gè)人信息，所以在司法程序中該罪應(yīng)實(shí)行舉證責(zé)任倒置才能更公平有效地保護(hù)公民權(quán)利。此外，司法解釋可以對(duì)該罪量刑情節(jié)進(jìn)行適當(dāng)補(bǔ)充，通過富有彈性的量刑情節(jié)對(duì)打擊犯罪和言論自由兩種價(jià)值進(jìn)行平衡，不僅可增加一些具體的加重情節(jié)進(jìn)行警示，還可以通過增加減免情節(jié)鼓勵(lì)網(wǎng)絡(luò)運(yùn)營(yíng)方積極履行安全管理義務(wù)，避免盲目加重網(wǎng)絡(luò)運(yùn)營(yíng)方的責(zé)任導(dǎo)致對(duì)用戶言論自由的過度限制，這樣既保障公民的信息安全，又有利于推動(dòng)“深度偽造”技術(shù)良性發(fā)展。

（三）細(xì)化政府事前事中監(jiān)管責(zé)任

政府應(yīng)設(shè)置算法監(jiān)督部門對(duì)音視頻平臺(tái)信息資源庫運(yùn)用的監(jiān)管，通過行政約談加強(qiáng)對(duì)音視頻平臺(tái)的事前事中監(jiān)督。

1.明確政府的算法系統(tǒng)監(jiān)管職責(zé)。人工智能技術(shù)算法本身是中立的，但技術(shù)畢竟由人操控，“技術(shù)中立”依然體現(xiàn)人的價(jià)值觀念導(dǎo)向。因此，政府應(yīng)設(shè)置算法監(jiān)督部門，通過增設(shè)平臺(tái)投訴功能對(duì)深度偽造技術(shù)所利用的資源庫的來源和運(yùn)用進(jìn)行監(jiān)管，指導(dǎo)音視頻平臺(tái)利用過濾技術(shù)優(yōu)化信息推薦機(jī)制，對(duì)平臺(tái)濫用個(gè)人生物信息的行為予以嚴(yán)厲打擊。通過規(guī)范平臺(tái)使用數(shù)據(jù)的行為，降低個(gè)人信息泄露的風(fēng)險(xiǎn)，從根源上減少深度偽造音視頻。同時(shí)，政府應(yīng)制定音視頻平臺(tái)行業(yè)標(biāo)準(zhǔn)，要求平臺(tái)通過向監(jiān)管部門自我申報(bào)等方式來實(shí)現(xiàn)監(jiān)管。網(wǎng)信部門可以定期就網(wǎng)絡(luò)平臺(tái)和社交媒體對(duì)深度偽造技術(shù)的應(yīng)用情況進(jìn)行排查，將惡意泄露個(gè)人用戶生物信息的平臺(tái)拉入黑名單予以警示。

2.利用行政約談進(jìn)行事中監(jiān)督。行政約談作為一種準(zhǔn)行政行為，是政府傳遞規(guī)制信息的一種柔性規(guī)制工具，其在規(guī)制網(wǎng)絡(luò)信息方面發(fā)揮著舉足輕重的作用。目前，行政約談已經(jīng)作為規(guī)制“深度偽造”技術(shù)行為的一種手段規(guī)制。《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》明確規(guī)定網(wǎng)絡(luò)信息服務(wù)商對(duì)輿情影響大的新技術(shù)應(yīng)用有進(jìn)行安全評(píng)估的義務(wù)，并對(duì)結(jié)果負(fù)責(zé)。據(jù)此，音視頻平臺(tái)需要對(duì)深度偽造音視頻的傳播安全性進(jìn)行評(píng)估，如果沒有履行相應(yīng)義務(wù)就會(huì)被政府約談?？焓帧⒆止?jié)跳動(dòng)等網(wǎng)絡(luò)平臺(tái)都曾因怠于履行安全評(píng)估義務(wù)而被國(guó)家網(wǎng)信辦和公安部門約談。政府部門通過事前事中監(jiān)管，對(duì)音視頻平臺(tái)可能的侵權(quán)行為進(jìn)行及時(shí)處置和有效應(yīng)對(duì)。

四、結(jié)語

“深度偽造”音視頻的影響逐漸擴(kuò)大，網(wǎng)絡(luò)傳播中所伴隨而生的一些技術(shù)風(fēng)險(xiǎn)自然無法避免，相關(guān)輔助檢測(cè)技術(shù)作為對(duì)此的回應(yīng)也在加速迭代，如采用溯源技術(shù)對(duì)音視頻上的水印進(jìn)行溯源防偽，通過神經(jīng)網(wǎng)絡(luò)檢測(cè)法、眨眼頻率分析法對(duì)換臉視頻進(jìn)行反向破解等。美國(guó)國(guó)防研究計(jì)劃局的“視頻鑒別”項(xiàng)目，推出全球首款“反換臉”人工智能刑偵工具。但技術(shù)層面的突破不能解決問題的根源，面對(duì)深度偽造音視頻傳播中的風(fēng)險(xiǎn)，更需要來自法律層面的強(qiáng)制力和政府、行業(yè)對(duì)音視頻平臺(tái)的有效監(jiān)管。

作者系中原工學(xué)院法學(xué)院副教授、美國(guó)波士頓學(xué)院訪問學(xué)者

參考文獻(xiàn)

[1]姜瀛.人工智能“深度偽造”技術(shù)風(fēng)險(xiǎn)刑法規(guī)制的向度與限度[J].南京社會(huì)科學(xué)，2021（09）.

[2]深度合成應(yīng)用趨勢(shì)報(bào)告發(fā)布.專家：未來一切都可能被偽造[EB/OL].（2022-02-19）[2022-07-06].https：//new.qq.com/ omn/20220219/20220219A0A64M00.html.

[3]喻國(guó)明，梁爽.重構(gòu)與挑戰(zhàn)：“深度合成”的傳播影響與技術(shù)反思[J].山西大學(xué)學(xué)報(bào)（哲學(xué)社會(huì)科學(xué)版），2021（02）.

[4]趙秉志，袁彬.《刑法修正案（十一）》理解與適用[M].北京：中國(guó)人民大學(xué)出版社，2021.

[5]黃旭東，林詩晴.深度偽造技術(shù)侵權(quán)的民事責(zé)任認(rèn)定[EB/ OL].（2022-02-19）[2022-07-06].http：//www.mzyfz.com/ html/1022/2021-04-07/content-1473624.html.

[6]毛寧，楊會(huì).深度偽造技術(shù)的監(jiān)管困境及其法律應(yīng)對(duì)[J].長(zhǎng)白學(xué)刊，2021（05）.

[7]王祿生.論“深度偽造”智能技術(shù)的一體化規(guī)制[J].東方法學(xué)，2019（06）.

[8]熊波.網(wǎng)絡(luò)服務(wù)提供者刑事責(zé)任“行政程序前置化”的消極性及其克服[J].政治與法律，2019（05）.

[9]章琦.深度偽造的刑法規(guī)制路徑[J].中州大學(xué)學(xué)報(bào)，2022（01）.

[10]賈章范.《民法典》視野下深度偽造技術(shù)的法律風(fēng)險(xiǎn)與規(guī)則應(yīng)對(duì)[J].東北農(nóng)業(yè)大學(xué)學(xué)報(bào)（社會(huì)科學(xué)版），2021（01）.

[11]石巍，黃家星.“深度偽造”的風(fēng)險(xiǎn)與法律規(guī)制——兼論《民法典》相關(guān)規(guī)則適用[J].天津法學(xué)，2020（04）.

【編輯：王秦】