儲宜彬

（大連海事大學(xué)，遼寧 大連 116023）

2020年12月，中共中央印發(fā)了《法治社會建設(shè)實施綱要（2020－2025年）》，強調(diào)要制定完善有關(guān)“算法推薦、深度偽造等新技術(shù)應(yīng)用”的規(guī)范管理辦法。事實上，針對人工智能“深度偽造”等新技術(shù)應(yīng)用于音視頻領(lǐng)域所具有的風(fēng)險，國家互聯(lián)網(wǎng)信息辦公室、文化和旅游部以及國家廣播電視總局于2019年11月18日聯(lián)合發(fā)布了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》以下簡稱《規(guī)定》），明確利用基于“深度偽造”等新技術(shù)新應(yīng)用制作、發(fā)布、傳播“非真實音視頻”的基本條件與違法類型［1］。以《規(guī)定》為切入點，我們可以發(fā)現(xiàn)我國在規(guī)制“深度偽造”技術(shù)所合成的“非真實音視頻”作品的基本立場與主要措施，明確其存在的不足之處，并尋求進一步的完善。

一、我國對“深度偽造”技術(shù)合成“非真實音視頻”的法律規(guī)制現(xiàn)狀

基于“深度偽造”技術(shù)合成的“非真實音視頻”，是指運用人工智能“深度偽造”等新興技術(shù)制作的“非真實音視頻”信息，其依托于大數(shù)據(jù)與人工智能“深度偽造”所形成的智能音視頻處理技術(shù)，該技術(shù)最為核心的特征就在于高度真實性，其在藝術(shù)（歷史圖片修復(fù)等）、教育以及自主學(xué)習(xí)等領(lǐng)域具有廣闊的應(yīng)用前景［2］。

從技術(shù)層面來看，“深度偽造”技術(shù)合成“非真實音視頻”的核心是“生成對抗網(wǎng)絡(luò)”（Generative Adversarial Neural Network）。所謂的“生成對抗網(wǎng)絡(luò)”，系透過生成器網(wǎng)絡(luò)與鑒別器網(wǎng)絡(luò)互相對抗，使生成器網(wǎng)絡(luò)所假造出來的影像貼近真正版本，同時也增強鑒別網(wǎng)絡(luò)判斷其真假之能力［3］。與傳統(tǒng)合成技術(shù)（如常見的PS等技術(shù)）相比，其依托算法自主的學(xué)習(xí)，偽造的行為脫離了人的參與，通過人工智能的計算機程序自動完成［4］。過程中“生成對抗網(wǎng)絡(luò)”會不斷修正偽造的視頻或照片與真實之間的差別，理論上來講，只要擁有足夠的源數(shù)據(jù)與訓(xùn)練時間，其可以生成任何“高逼真”的偽造。并且通過這一系列無監(jiān)督學(xué)習(xí)，“生成對抗網(wǎng)絡(luò)”會不斷發(fā)展、進化，實現(xiàn)自我優(yōu)化，乃至最后可以生成無法辨別真假的視頻或者照片。

由于目前尚未研發(fā)出能夠快速準確地檢測合成“非真實音視頻”的技術(shù)，同時目標對象大量的源數(shù)據(jù)可以通過網(wǎng)絡(luò)輕易、合法地獲取，整個偽造過程不僅操作簡便，效果還十分突出，正因如此該技術(shù)在多個領(lǐng)域的應(yīng)用出現(xiàn)“異化”的趨勢，危及個人合法權(quán)益、企業(yè)商業(yè)信譽以及社會公共安全［5］。以楊冪AI換臉視頻為例，“視頻中，楊冪的五官與朱茵的表情幾乎全部融合，難辨真假”［6］，沒有經(jīng)過專業(yè)訓(xùn)練以及相關(guān)專業(yè)技術(shù)輔助的民眾對此基本無法區(qū)分。同時，這一技術(shù)可能在某些西方國家選舉活動中被競爭對手利用，用于煽動民眾情緒或抹黑選舉人，破壞國家政治穩(wěn)定［7］。不僅如此，根據(jù)美國《財富》雜志在2019年12月的報道，美國Kneron公司通過使用“深度偽造”技術(shù)合成的人像視頻，成功地欺騙了支付寶和微信支付程序的人臉識別系統(tǒng)，并且順利通過機場、火車站等自助終端的檢驗［8］，對公民的個人隱私與財產(chǎn)權(quán)帶來較大隱患。綜上所述，基于“深度偽造”合成“非真實音視頻”在多個領(lǐng)域有著廣泛、明朗的應(yīng)用前景，但同時也伴隨著被濫用進而侵犯個人、社會、國家權(quán)益的現(xiàn)實風(fēng)險。

正因如此，在搶抓人工智能發(fā)展的重大戰(zhàn)略機遇，構(gòu)筑我國高新技術(shù)的先發(fā)優(yōu)勢的同時，為防止相關(guān)技術(shù)異化，更是為響應(yīng)黨中央建立健全網(wǎng)絡(luò)綜合治理體系的號召［9］、促進網(wǎng)絡(luò)音視頻信息服務(wù)健康有序發(fā)展，國家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國家廣播電視總局聯(lián)合印發(fā)《規(guī)定》，提出了多項針對“非真實音視頻”的專門化規(guī)制措施，可簡要概括為“兩義務(wù)、兩機制、一禁止”，涉及到適用、技術(shù)保障與危害預(yù)防等多個方面，具體內(nèi)容如下：

第一，標識“合成”義務(wù)。要求相關(guān)主體以顯著方式標識“合成”字樣，成為使用“深度偽造”技術(shù)合成“非真實音視頻”的基本前提，同時也是法律規(guī)制中的核心措施。《規(guī)定》第十一條第一款規(guī)定了標識“合成”字樣的義務(wù)。從條文表述可以看到，《規(guī)定》實際上要求“網(wǎng)絡(luò)音視頻信息服務(wù)提供者”與“網(wǎng)絡(luò)音視頻信息服務(wù)使用者”均負有對“非真實音視頻”作品的標識義務(wù)。

第二，停止傳輸義務(wù)。《規(guī)定》第十二條第一款后半部分與第十二條第二款規(guī)定了“網(wǎng)絡(luò)音視頻信息服務(wù)提供者”負有停止傳輸?shù)牧x務(wù)。本條規(guī)定所確立的“網(wǎng)絡(luò)音視頻信息服務(wù)提供者”的停止傳輸義務(wù)，其中又分為兩種情況。其一針對法律法規(guī)所禁止的信息，“網(wǎng)絡(luò)音視頻信息服務(wù)提供者”一經(jīng)發(fā)現(xiàn)立即停止其傳輸并向相關(guān)主管部門進行報告。本項規(guī)定從側(cè)面體現(xiàn)出，“深度偽造”技術(shù)合成“非真實音視頻”作品的行為本身并不具有違法性，技術(shù)本身是中立的。其二，針對應(yīng)履行標識義務(wù)而未履行相應(yīng)義務(wù)的“非真實音視頻”提供者或網(wǎng)絡(luò)音視頻平臺而言，《規(guī)定》要求其先停止傳輸，并且只有在標識后才能重新恢復(fù)傳輸。這一規(guī)定與標識“合成”義務(wù)相互映照，推動標識義務(wù)的體系化。

第三，鑒別機制。《規(guī)定》第十二條第一款前半部分規(guī)定規(guī)定了鑒別技術(shù)的部署應(yīng)用，即網(wǎng)絡(luò)音視頻信息服務(wù)提供者負有“部署深度偽造鑒別技術(shù)”的義務(wù)，并在發(fā)現(xiàn)存在違法內(nèi)容后停止傳輸信息。客觀而言，目前尚未研發(fā)出能夠快速準確地監(jiān)測“深度偽造”合成“非真實音視頻”的技術(shù)手段，從某種意義上說，作為防守方的“鑒真技術(shù)”在作為進攻方的“偽造技術(shù)”面前往往處于落后挨打的地位［10］。因此，《規(guī)定》鑒別機制的規(guī)定具有相當?shù)那罢靶?，在一定程度上是為相關(guān)技術(shù)的研發(fā)提供法律激勵與保障。

第四，辟謠機制?！兑?guī)定》第十三條規(guī)定了網(wǎng)絡(luò)音視頻服務(wù)提供者“應(yīng)當建立辟謠機制”，在發(fā)現(xiàn)虛假信息后及時辟謠。具體來說，網(wǎng)絡(luò)音視頻信息服務(wù)提供者應(yīng)著手建立一種有效針對行為人通過利用以“深度偽造”“虛擬現(xiàn)實”等技術(shù)為基礎(chǔ)，制作、傳播、發(fā)布的虛假圖像、音視頻謠言的辟謠機制。應(yīng)當看到，《規(guī)定》明確提出的建立辟謠機制是針對“非真實音視頻”內(nèi)容可能帶來的信任危機所作出的積極應(yīng)對，通過常規(guī)、系統(tǒng)、有效的辟謠機制，防范非真實內(nèi)容可能帶來的謠言傳播風(fēng)險，將其可能對各方主體合法權(quán)益以及公共利益造成的不良后果降到最低程度［11］。當未進行標識的“非真實音視頻”在網(wǎng)絡(luò)上傳播使民眾產(chǎn)生錯誤認知、侵害到相關(guān)利益時，平臺應(yīng)通過辟謠機制發(fā)布公告進行說明同時向相關(guān)部門進行備案，這樣可以在最大程度上消減負面影響。

第五，新聞類信息強制禁止。《規(guī)定》第十一條第二款規(guī)定對于新聞類信息，我國作出禁止“非真實音視頻”的強制性規(guī)定。正因如此，我國網(wǎng)信辦等有關(guān)部門通過出臺部門規(guī)章的方式明確禁止在新聞信息領(lǐng)域使用“深度偽造”“虛擬現(xiàn)實”等技術(shù)，維護新聞的真實性，保障民眾對于社會真相的知情，防止社會信任體系崩塌進而危害公共安全。

二、“深度偽造”技術(shù)合成“非真實音視頻”法律規(guī)制中的現(xiàn)存問題

盡管《規(guī)定》對于網(wǎng)絡(luò)音視頻信息服務(wù)提供者與網(wǎng)絡(luò)音視頻信息服務(wù)使用者確立了“兩義務(wù)、兩機制、一禁止”等規(guī)制措施，以期將“非真實音視頻”可能存在的風(fēng)險控制在理想的范圍之內(nèi)，從而最大限度地推動人工智能技術(shù)的發(fā)展。但整體來看，《規(guī)定》所確立的上述規(guī)制措施仍存在一定的局限性。

第一，《規(guī)定》明確規(guī)定了“非真實音視頻”制作者應(yīng)當履行“標識義務(wù)”，也即應(yīng)當以顯著方式標明音視頻屬于合成作品才能將其在網(wǎng)絡(luò)上公開發(fā)布。不過，應(yīng)當以“顯著方式”予以標識之標識義務(wù)，究竟包括哪些內(nèi)容以及如何具體履行，《規(guī)定》并沒有規(guī)定。同時，目前各網(wǎng)絡(luò)音視頻平臺對于如何在“非真實音視頻”作品上以顯著方式標識“合成”，也未作出具體規(guī)定，各大音視頻平臺尚未及時更新“創(chuàng)作公約”等協(xié)議來具體規(guī)定創(chuàng)作者履行標識義務(wù)的方式。作為“非真實音視頻”的核心規(guī)制措施的標識義務(wù)未能充分落實，導(dǎo)致規(guī)制體系無法充分發(fā)揮作用。因此，有必要對標識“合成”字樣的具體方式作進一步探討。

第二，《規(guī)定》對于網(wǎng)絡(luò)音視頻信息服務(wù)提供者的義務(wù)設(shè)置較高，有強人所難之嫌?！兑?guī)定》要求網(wǎng)絡(luò)音視頻信息服務(wù)提供者部署鑒別機制，建立辟謠機制，這無疑加重了網(wǎng)絡(luò)音視頻信息服務(wù)提供者的運營成本。如今，針對“非真實音視頻”快速有效鑒別的技術(shù)手段尚未研發(fā)成功，且相關(guān)檢測技術(shù)的主要研究人員集中在國外各研究機構(gòu)，我國相關(guān)算法和技術(shù)研究相對滯后［12］；相較于作為規(guī)制對象的“非真實音視頻”制作技術(shù)而言，識別“非真實音視頻”作品的技術(shù)必然具有相對的滯后性，如果要求網(wǎng)絡(luò)平臺負擔絕對化的技術(shù)保障義務(wù)，這一“緊箍咒”無疑會給網(wǎng)絡(luò)平臺帶來巨大的運營壓力，甚至可能出現(xiàn)鑒別技術(shù)制約網(wǎng)絡(luò)音視頻平臺生存發(fā)展的風(fēng)險。此外，一旦我們強行要求網(wǎng)絡(luò)平臺負擔起難以達到的部署鑒別技術(shù)義務(wù)，其出于生存需要，網(wǎng)絡(luò)平臺便可能針對合法的音視頻作品作出不當限制以規(guī)避風(fēng)險，由此便會對用戶的自由表達與創(chuàng)新積極性產(chǎn)生負面影響。

第三，《規(guī)定》對于法律責任的規(guī)定過于籠統(tǒng)，制裁措施缺乏體系性。具體來看，《規(guī)定》第十八條僅僅作出提示性規(guī)定，也即違反本規(guī)定的由網(wǎng)信、文旅、廣電等部門依照《中華人民共和國網(wǎng)絡(luò)安全法》（以下簡稱《網(wǎng)絡(luò)安全法》）以及其他相關(guān)法律法規(guī)規(guī)定處理。事實上，作為政府的部門規(guī)章，《規(guī)定》可以在法律、法規(guī)所規(guī)定的行政處罰的行為、種類和幅度的范圍內(nèi)作出具體規(guī)定；甚至對于尚未制定法律、行政法規(guī)的，規(guī)章也可以設(shè)定警告以及一定數(shù)額的罰款?！兑?guī)定》并未能明確規(guī)定違法行為的具體法律后果，導(dǎo)致前述對于“非真實音視頻”所設(shè)置的管理措施缺乏強制力。同時，《規(guī)定》未能重視個人征信等社會性治理措施，尚未形成針對“非真實音視頻”社會、行業(yè)、國家的三方綜合治理模式。

三、“深度偽造”技術(shù)合成“非真實音視頻”治理的完善建議

客觀而言，針對“深度偽造”技術(shù)合成“非真實音視頻”作品這一新生事物，我國應(yīng)當確立起以標識義務(wù)為中心的開放性治理對策。也即，圍繞著履行標識義務(wù)的具體方式、履行標識義務(wù)的監(jiān)管模式以及違反標識義務(wù)的補救措施與法律后果，尋求科學(xué)的制度建構(gòu)，才能克服《規(guī)定》的局限性，在科技創(chuàng)新與風(fēng)險規(guī)制之間實現(xiàn)平衡，以期達到最佳的開放性治理效果。因此，立足于《規(guī)定》的基本規(guī)定，對完善合成“非真實音視頻”的法律規(guī)制提出如下建議：

（一）明確標識“合成”的具體方式

首先，從標識的可識別程度來看，“以顯著方式”即要求合理運用足以引起音視頻觀眾注意的方式。從正面來看，“深度偽造”技術(shù)使用者應(yīng)當在音視頻的顯著位置、以普通人可以觀察到的字體尺寸與顏色標識“合成”。從反面來看，“深度偽造”技術(shù)使用者不得運用技術(shù)手段對標識義務(wù)予以規(guī)避，以達到“以假充真”誤導(dǎo)音視頻觀眾的目的。

其次，從標識形式來看，實踐中可能存在不同選擇?？梢圆扇　扒度霐?shù)字水印”方式在合成音視頻作品中全程標識“合成”，也可以選擇在合成音視頻的開頭、結(jié)尾或開頭與結(jié)尾處作出“提示性”標識。前者的優(yōu)勢在于標識的“全方位”，但可能影響合成作品的感官效果；后者雖具有更好的感官效果，卻可能存在部分觀眾未能注意“合成”標識的風(fēng)險隱患。

最后，就標識主體而言，可以是要求“非真實音視頻”作品的制作者直接在合成音視頻作品上予以標識，也可以是要求“非真實音視頻”制作者將音視頻的“合成”屬性告知音視頻平臺，后由平臺通過技術(shù)手段統(tǒng)一予以標識。前者的優(yōu)勢在于一定程度上節(jié)約平臺的成本，但可能存在標識方式不統(tǒng)一的問題；后者的優(yōu)勢在于標識方式的統(tǒng)一性。

就標識形式與標識主體而言，我們可以由網(wǎng)絡(luò)音視頻平臺自主決定并以“創(chuàng)作公約”等協(xié)議告知創(chuàng)作者；網(wǎng)絡(luò)音視頻信息服務(wù)行業(yè)組織可以確立各種“創(chuàng)作公約”范本，供網(wǎng)絡(luò)音視頻平臺選擇，并提供技術(shù)引導(dǎo)?！兑?guī)定》第五條前半部分也明確規(guī)定，“國家鼓勵和指導(dǎo)互聯(lián)網(wǎng)行業(yè)組織加強行業(yè)自律，建立健全網(wǎng)絡(luò)音視頻信息服務(wù)行業(yè)標準和行業(yè)準則”。簡言之，行業(yè)自律是我國在新興技術(shù)治理的基本立場，通過行業(yè)自律實現(xiàn)規(guī)制目的是互聯(lián)網(wǎng)領(lǐng)域治理的不二之選。

（二）優(yōu)化標識義務(wù)履行的監(jiān)管模式

考慮到實踐中可能存在“非真實音視頻”制作者未能在合成作品上以顯著方式予以標識的情形———未履行標識義務(wù)，為了預(yù)防這種未履行義務(wù)行為引發(fā)進一步的危害后果，有必要明確標識義務(wù)履行的監(jiān)管方式。從立法現(xiàn)狀來看，《規(guī)定》第十二條明確了網(wǎng)絡(luò)音視頻信息服務(wù)提供者所應(yīng)承擔的“部署非真實音視頻鑒別技術(shù)”的義務(wù)。直觀來看，網(wǎng)絡(luò)音視頻平臺需要主動采取技術(shù)措施，部署對“非真實音視頻”的鑒別方案，及時發(fā)現(xiàn)未標識的合成作品。當網(wǎng)絡(luò)音視頻平臺通過鑒別程序自動檢測出未進行標識（或未以顯著方式進行標識）的“非真實音視頻”時，應(yīng)及時停止傳播、刪除并按照《規(guī)定》向有關(guān)部門進行報備。

應(yīng)當看到，網(wǎng)絡(luò)音視頻平臺所負擔的部署鑒別技術(shù)的義務(wù)，實質(zhì)上是對長期以來針對網(wǎng)絡(luò)服務(wù)提供者所確立的“避風(fēng)港”原則的突破。易言之，針對“非真實音視頻”作品，網(wǎng)絡(luò)監(jiān)管已經(jīng)從“通知—刪除”的被動處置模式，轉(zhuǎn)變?yōu)椤白R別—刪除”的主動監(jiān)管模式。不可否認，對于網(wǎng)絡(luò)音視頻平臺提出部署鑒別技術(shù)的要求表明了網(wǎng)絡(luò)平臺在國家治理體系中扮演著重要角色，體現(xiàn)出“以網(wǎng)管網(wǎng)”的基本特征［13］。不過，也應(yīng)當看到，主動監(jiān)管模式可能將網(wǎng)絡(luò)平臺置于生存困境之中，有強人所難之嫌。

由行業(yè)組織牽頭并引導(dǎo)網(wǎng)絡(luò)平臺協(xié)作開發(fā)針對“非真實音視頻”技術(shù)的鑒別程序，在現(xiàn)行條件下確立一種可行的技術(shù)標準，是當前較為穩(wěn)妥的選擇。只要網(wǎng)絡(luò)音視頻平臺達到了行業(yè)組織確立的技術(shù)標準，便應(yīng)當認為其履行了部署鑒別機制這一技術(shù)保障義務(wù)，而無須要求網(wǎng)絡(luò)平臺自身去尋求鑒別技術(shù)的革新。在此基礎(chǔ)上，我們?nèi)匀灰瀼匾浴巴ㄖ獎h除”為基礎(chǔ)的避風(fēng)港原則，回歸到“通知—刪除”的被動處置模式；只要網(wǎng)絡(luò)音視頻平臺在接到通知后及時刪除未履行標識“合成”義務(wù)的“非真實音視頻”作品，便可以獲得豁免。

（三）細化違反標識義務(wù)的法律后果

目前，對于“非真實音視頻”技術(shù)使用者和網(wǎng)絡(luò)音視頻信息服務(wù)提供者違反其所承擔的義務(wù)，監(jiān)管部門如何采取行政處罰措施，《規(guī)定》并未作出明確回應(yīng)，這不利用執(zhí)法機關(guān)準確適用法律規(guī)制違法行為。事實上，作為國務(wù)院部委制定的規(guī)章，《規(guī)定》可以在法律、行政法規(guī)規(guī)定的范圍內(nèi)對于行政處罰的行為、種類和幅度作出具體規(guī)定。因此，有必要將《規(guī)定》關(guān)于違反標識義務(wù)等法律義務(wù)的后果進一步細化，增強執(zhí)法實踐的可操作性。

作為《規(guī)定》的上位法，《網(wǎng)絡(luò)安全法》要求網(wǎng)絡(luò)運營者應(yīng)當加強對其用戶發(fā)布的信息的管理，對于違法信息停止傳輸進行刪除并向主管部門報告，并于第五十六條、第六十八條第一款詳細規(guī)定了約談措施以及處罰事項。首先，可以參照《網(wǎng)絡(luò)安全法》的規(guī)定，當未標識“合成”字樣的非真實音視頻可能存在較大安全風(fēng)險或引發(fā)安全事件的情況下，要求省級以上主管部門進行約談。其次，《規(guī)定》可以以《網(wǎng)絡(luò)安全法》所確立的處罰范圍為基礎(chǔ)，明確規(guī)定相應(yīng)的處罰標準。例如，對于未能停止傳輸未標識“合成”字樣的非真實音視頻或未能采取辟謠等補救處置措施的網(wǎng)絡(luò)運營者，由國家網(wǎng)信辦責令改正，給予警告。對于拒不改正的，處十萬元以上三十萬元以下罰款；對于拒不改正并引發(fā)嚴重危害后果的，處三十萬元以上五十萬元以下罰款。存在上述兩種情形的，同時可以責令暫停網(wǎng)絡(luò)音視頻信息服務(wù)業(yè)務(wù)、關(guān)閉網(wǎng)站；情節(jié)嚴重的，同時可以吊銷相關(guān)業(yè)務(wù)許可證或者吊銷營業(yè)執(zhí)照，并對直接負責的主管人員和其他直接責任人員處一萬元以上十萬元以下罰款。

《規(guī)定》的出臺對于基于“深度偽造”合成“非真實音視頻”行為有效規(guī)制具有進步意義，其所確立的“兩義務(wù)、兩機制、一禁止”措施，表明國家對于新興技術(shù)的開放、積極、支持的態(tài)度，在不違反法律、法規(guī)以及公序良俗的前提下鼓勵相關(guān)技術(shù)發(fā)展、應(yīng)用。但算法、技術(shù)也存在異化的可能，其所表現(xiàn)的種種危險不能忽視。因此，應(yīng)在現(xiàn)有規(guī)定基礎(chǔ)上，通過明確標識“合成”的具體方式，優(yōu)化監(jiān)管模式、明確法律后果等方式完善《規(guī)定》，避免監(jiān)管缺位，法規(guī)名存實亡的窘境，為建立健全網(wǎng)絡(luò)綜合治理體系，促進網(wǎng)絡(luò)音視頻信息服務(wù)健康有序發(fā)展提供制度保障。