白 碩 紀(jì)澤坤

（北京物資學(xué)院法學(xué)院 北京 通州 10049）

在人工智能時(shí)代，大量新技術(shù)涌入我們生活中，帶來(lái)經(jīng)濟(jì)利益的同時(shí)，也伴生許多法律風(fēng)險(xiǎn)，傳統(tǒng)的規(guī)制模式亟需更新完善。“深度偽造”技術(shù)最初主要是應(yīng)用于影視領(lǐng)域制作，后來(lái)隨著“ZAO”“去演”等換臉APP的問世，一部手機(jī)、一張照片，點(diǎn)擊“一鍵換臉”就可以替換任意視頻素材中的人臉?！吧疃葌卧臁弊畛Ｒ姷膽?yīng)用就是“AI換臉”，大數(shù)據(jù)獲取的基礎(chǔ)上生產(chǎn)高度逼真的合成數(shù)據(jù)，如專業(yè)影視、圖像制作，短視頻、動(dòng)圖社交，此外還可應(yīng)用于語(yǔ)音合成、虛擬偶像、線上試衣等。不可否認(rèn)，其在諸多領(lǐng)域都能創(chuàng)造積極的價(jià)值。然而，在帶來(lái)廣泛應(yīng)用的同時(shí)，“深度偽造”技術(shù)的產(chǎn)物同時(shí)又具有極大迷惑性，讓人難辨真假。結(jié)合當(dāng)前社交網(wǎng)絡(luò)極其開放流動(dòng)、國(guó)際化的特性，使得大量虛假的信息，以“高度可信”的方式呈現(xiàn)給大眾，所帶來(lái)的法律風(fēng)險(xiǎn)是不可估量的。有人利用“深度偽造”侵害他人人格權(quán)益的現(xiàn)象愈加頻繁地發(fā)生，其中也涉及到技術(shù)平臺(tái)及相關(guān)產(chǎn)物制作者的責(zé)任承擔(dān)法律規(guī)制。新技術(shù)帶來(lái)新挑戰(zhàn)，給人們敲響了警鐘。

一、“深度偽造”技術(shù)應(yīng)用的法律風(fēng)險(xiǎn)

由于“深度偽造”和互聯(lián)網(wǎng)的特性，侵權(quán)現(xiàn)象很容易發(fā)生。本文將從民法領(lǐng)域，基于對(duì)“ZAO”“去演”等換臉APP平臺(tái)協(xié)議和實(shí)踐的探究，對(duì)“深度偽造”的法律風(fēng)險(xiǎn)加以分析。

（一）對(duì)肖像權(quán)、聲音權(quán)、名譽(yù)權(quán)等人格權(quán)侵權(quán)的風(fēng)險(xiǎn)

《民法典》頒布后，明確了構(gòu)成聲音、肖像侵權(quán)的構(gòu)成要件。通過“ZAO”的隱私協(xié)議可以看出，用戶使用換臉功能必須打開相機(jī)、相冊(cè)等設(shè)備應(yīng)用訪問權(quán)限，并選擇上傳照片。而選擇過程將會(huì)使相冊(cè)中其他授權(quán)外的面部信息，暴露在“ZAO”的檢測(cè)系統(tǒng)中，其肖像權(quán)侵權(quán)風(fēng)險(xiǎn)不言而喻。軟件對(duì)照片的識(shí)別技術(shù)依然存在疏漏，有些長(zhǎng)得像的非本人也能通過真人驗(yàn)證。此時(shí)，“深度偽造”替換樣本的獲取往往并沒有取得相應(yīng)權(quán)屬人的同意，這就給肖像權(quán)侵權(quán)提供了可能。聲音權(quán)侵權(quán)風(fēng)險(xiǎn)也是同理。

（二）在個(gè)人信息保護(hù)領(lǐng)域的風(fēng)險(xiǎn)

換臉APP中“深度偽造”技術(shù)的運(yùn)用，首先要進(jìn)行人臉識(shí)別，而人臉數(shù)據(jù)屬于通過生物特征識(shí)別技術(shù)獲取的個(gè)人生物識(shí)別信息?！睹穹ǖ洹返谝磺Я闳臈l規(guī)定，個(gè)人生物識(shí)別信息屬于個(gè)人信息，屬于法律的保護(hù)范圍。這些生物特征一旦被偽造、被濫用，將給權(quán)利人帶來(lái)極大的風(fēng)險(xiǎn)。對(duì)此，筆者認(rèn)為，可以從“深度偽造”技術(shù)運(yùn)用的動(dòng)態(tài)過程角度，進(jìn)一步分析潛在的法律風(fēng)險(xiǎn)。這一過程不僅涉及人臉信息的采集，還涉及人臉信息的儲(chǔ)存、使用、刪除等，結(jié)合“ZAO”和“去演”APP用戶協(xié)議和隱私條款，可能侵害諸多法益。

（三）“深度偽造”法律風(fēng)險(xiǎn)的特殊性

曾希望將這項(xiàng)技術(shù)大眾化、普遍化而誕生出的許多換臉APP，最終卻都落得個(gè)紅極一時(shí)、曇花一現(xiàn)。在觀察“深度偽造”市場(chǎng)化結(jié)果后，筆者發(fā)現(xiàn)，“深度偽造”的獨(dú)特性在于，一旦廣泛使用，它給我們現(xiàn)在所處的互聯(lián)網(wǎng)大數(shù)據(jù)社會(huì)實(shí)名認(rèn)證帶來(lái)的沖擊將是顛覆性的，故而引發(fā)了社會(huì)公眾對(duì)著作權(quán)、個(gè)人信息、肖像權(quán)、隱私權(quán)等領(lǐng)域保護(hù)的擔(dān)憂。

二、我國(guó)法律規(guī)制的現(xiàn)狀和不足

盡管我國(guó)對(duì)于“深度偽造”的風(fēng)險(xiǎn)規(guī)制處于初始階段，但是仍然建立起了相對(duì)完善的規(guī)制機(jī)制?！睹穹ǖ淙烁駲?quán)編》《個(gè)人信息保護(hù)法》《數(shù)據(jù)安全管理辦法》《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》等法律法規(guī)，均可作為 “深度偽造”的法律規(guī)制依據(jù)，在一定程度上可以被既有責(zé)任體系涵蓋。然而，我國(guó)對(duì)“深度偽造”規(guī)制雖有法可依，但現(xiàn)有規(guī)則是否能夠有效規(guī)制“深度偽造”風(fēng)險(xiǎn)還不確定。很多規(guī)制都尚不完善，且存在不足，有如下三點(diǎn)。

（一）我國(guó)目前沒有對(duì)“深度偽造”形成專門性立法

現(xiàn)有規(guī)制往往是從各領(lǐng)域法律條文中尋找依據(jù)，相對(duì)碎片化。對(duì)于規(guī)定了收集個(gè)人信息明示同意規(guī)則等生物信息保護(hù)條款的《個(gè)人信息安全規(guī)范》，其性質(zhì)屬于國(guó)家標(biāo)準(zhǔn)，不屬于“法律”，效力較低。缺乏一個(gè)整體的、系統(tǒng)的法律規(guī)制機(jī)制來(lái)應(yīng)對(duì)這樣一種科技創(chuàng)新，且沒有形成一個(gè)針對(duì)“深度偽造”產(chǎn)品制作者、數(shù)據(jù)平臺(tái)、使用者等不同主體相關(guān)權(quán)利、義務(wù)、責(zé)任的完整規(guī)制框架。

（二）大多數(shù)條文比較抽象

在法律具體實(shí)施上缺乏更為細(xì)致的規(guī)范，且現(xiàn)存收集處理個(gè)人生物信息的主體對(duì)于信息的控制和保護(hù)能力參差不齊。

（三）現(xiàn)有規(guī)則更多是一種事后規(guī)制

例如換臉軟件“ZAO”因?yàn)榘酝鯒l款、數(shù)據(jù)風(fēng)險(xiǎn)等安全問題爆出，相關(guān)監(jiān)管部門才對(duì)其進(jìn)行約談要求整改，對(duì)于軟件上架之前的審核不完善。不同主體代表著不同利益訴求，法律應(yīng)進(jìn)一步予以調(diào)和、平衡平臺(tái)責(zé)任。由于“深度偽造”產(chǎn)品的高度“真實(shí)性”，同時(shí)還應(yīng)當(dāng)促使相關(guān)“深度偽造”產(chǎn)品甄別技術(shù)標(biāo)準(zhǔn)逐步完善，加強(qiáng)行業(yè)自律，在事前和事中階段加強(qiáng)管理，避免因“深度偽造”形成嚴(yán)重的危害后果。

三、“深度偽造”風(fēng)險(xiǎn)的域外法律規(guī)制比較

隨著“深度偽造”不斷發(fā)展，相關(guān)換臉應(yīng)用層出不窮，由此引發(fā)的侵權(quán)風(fēng)險(xiǎn)逐步加劇，各國(guó)也紛紛出臺(tái)應(yīng)對(duì)措施，處理手段與實(shí)踐結(jié)果各有特色。

（一）美國(guó)的相關(guān)法律規(guī)制

“深度偽造”技術(shù)應(yīng)用最早出現(xiàn)于美國(guó)，隨著技術(shù)和應(yīng)用的不斷發(fā)展普及，其所帶來(lái)的風(fēng)險(xiǎn)和擔(dān)憂也在美國(guó)實(shí)踐中大量顯現(xiàn)。由此，美國(guó)在“深度偽造”的法律規(guī)制方面不得不加快步伐，以遏制這一新技術(shù)造成的不利影響，很早就開始進(jìn)行規(guī)制實(shí)踐。

1.從技術(shù)本身不當(dāng)應(yīng)用角度，對(duì)“深度偽造”進(jìn)行的法律規(guī)制

與中國(guó)的分散式規(guī)制不同，美國(guó)已經(jīng)有了直接對(duì)“深度偽造”本身不當(dāng)應(yīng)用進(jìn)行規(guī)制的相關(guān)措施。2019年6月，美國(guó)針對(duì)“深度偽造”的風(fēng)險(xiǎn)及防范措施召開聽證會(huì)。隨后議會(huì)提出《2019年深度偽造報(bào)告法案》。該法案將概念外延略大于“深度偽造”的“數(shù)字偽造”定義納入到規(guī)制體系中。2019年6月，美國(guó)眾議院提出《深度偽造責(zé)任法案》，該法案明確了“深度偽造”不當(dāng)使用行為的法律責(zé)任，要求“深度偽造”技術(shù)產(chǎn)物制作者，必須以水印或文本標(biāo)注等形式表明文件的“偽造”屬性及“偽造”程度，進(jìn)行信息披露，以實(shí)現(xiàn)與真實(shí)視頻的區(qū)分，否則將根據(jù)所造成的侵權(quán)后果受到相關(guān)責(zé)任追究。

2.從傳統(tǒng)個(gè)人信息保護(hù)角度，對(duì)“深度偽造”進(jìn)行的法律規(guī)制

“深度偽造”實(shí)際上是對(duì)生物識(shí)別數(shù)據(jù)進(jìn)行“偽造”，因此，通過對(duì)“生物識(shí)別數(shù)據(jù)”的保護(hù)，實(shí)現(xiàn)抑制“深度偽造”不當(dāng)使用帶來(lái)的負(fù)面效應(yīng)，也是一種可行的路徑。早在“深度偽造”技術(shù)廣泛應(yīng)用之前，就有了關(guān)于“個(gè)人信息保護(hù)”的相關(guān)法律規(guī)制，大致如下：2009年，得克薩斯州《生物識(shí)別信息獲取使用法》，按照信息收集、使用階段過程進(jìn)行規(guī)制；2017年，加利福尼亞州《加州生物信息隱私法案》進(jìn)一步具體化，規(guī)定了收集階段的知情授權(quán)原則；2019年，佛羅里達(dá)州《生物識(shí)別信息隱私法案》細(xì)化了信息使用和保管階段的規(guī)則；華盛頓州《華盛頓隱私法案》明確了數(shù)據(jù)權(quán)利主體對(duì)于個(gè)人信息的各項(xiàng)權(quán)利，如訪問權(quán)、更正權(quán)、刪除權(quán)等；2019年3月，美國(guó)聯(lián)邦人臉識(shí)別隱私保護(hù)第一部法案《2019年商業(yè)人臉識(shí)別隱私法案》還增加了投入市場(chǎng)應(yīng)用需第三方測(cè)試，人臉識(shí)別運(yùn)營(yíng)商“數(shù)據(jù)安全性、最小化、留存”等規(guī)定；2019年4月，美國(guó)聯(lián)邦《隱私權(quán)利法案》也從個(gè)人權(quán)利角度作出回應(yīng)。

（二）歐盟的相關(guān)法律規(guī)制

與中國(guó)、美國(guó)的“深度偽造”法律規(guī)制形成鮮明對(duì)比的是，歐盟主要是通過對(duì)個(gè)人信息的嚴(yán)格保護(hù)和虛假信息治理兩個(gè)方面限制“深度偽造”技術(shù)的應(yīng)用。

1.通過嚴(yán)格個(gè)人信息保護(hù)對(duì)“深度偽造”進(jìn)行的法律規(guī)制

歐盟非常注重個(gè)人信息保護(hù)，相關(guān)規(guī)制體系的建立已趨于成熟，并配套有對(duì)應(yīng)的網(wǎng)絡(luò)音視頻服務(wù)商信息利用標(biāo)準(zhǔn)，嚴(yán)格的信息收集者、處理者、控制者、運(yùn)營(yíng)者責(zé)任義務(wù)規(guī)定，以及個(gè)人信息泄漏后的救濟(jì)措施。2018年歐盟正式實(shí)施的《通用數(shù)據(jù)保護(hù)條例（GDPR）》就有所體現(xiàn)。此外還規(guī)定了可能被用于制作深度偽造內(nèi)容的人臉圖像屬于“生物特征數(shù)據(jù)”，對(duì)于這類具有隱私特征的特定個(gè)人信息也應(yīng)予以特殊保護(hù)。如收集目的按約合法，非經(jīng)同意不得處理，將換臉軟件納入了規(guī)制。在公民的基本人權(quán)與第三方信息匯總與收集之間尋求最佳平衡點(diǎn)。

2.通過嚴(yán)厲打擊虛假信息對(duì)“深度偽造”進(jìn)行的法律規(guī)制

“深度偽造”與虛假信息相似，均是偽造不真實(shí)信息，并試圖操縱信息以獲得利益或造成損害，因此可以將其歸到已有的關(guān)于虛假信息的規(guī)制框架中進(jìn)行處理。2018年4月末，歐盟委員會(huì)《應(yīng)對(duì)線上虛假信息：歐洲方案》提出各利害關(guān)系主體合作，建立評(píng)估審核機(jī)制，改進(jìn)信息來(lái)源，提高信息生產(chǎn)、傳播過程中的透明度，提高信息的可信度，以實(shí)現(xiàn)全面防范視頻、圖像和文字等虛假信息。2018年9月末，歐洲主要網(wǎng)絡(luò)服務(wù)商提出的《反虛假信息行為準(zhǔn)則》提倡平臺(tái)自律監(jiān)管，自覺限制、治理“深度偽造”違法內(nèi)容。

（三）域外法律規(guī)制經(jīng)驗(yàn)分析

根據(jù)美國(guó)及歐盟的規(guī)制經(jīng)驗(yàn)，并結(jié)合我國(guó)現(xiàn)有法律規(guī)制的不足，應(yīng)做出相應(yīng)借鑒和改進(jìn)，明確相關(guān)主體的權(quán)利、義務(wù)及法律責(zé)任，完善侵權(quán)救濟(jì)渠道，同時(shí)推動(dòng)辨別技術(shù)發(fā)展和機(jī)構(gòu)監(jiān)管，建立有效的針對(duì)“深度偽造”技術(shù)應(yīng)用風(fēng)險(xiǎn)的法律規(guī)制路徑。

四、“深度偽造”技術(shù)應(yīng)用的法律對(duì)策及建議

由于“深度偽造”自動(dòng)對(duì)抗式的技術(shù)邏輯，受害人可以依據(jù)《民法典》人格權(quán)編的相關(guān)規(guī)定維護(hù)自己的合法權(quán)益。我國(guó)民法領(lǐng)域“深度偽造”技術(shù)應(yīng)用的法律規(guī)制，還需結(jié)合我國(guó)國(guó)情以及社會(huì)經(jīng)濟(jì)發(fā)展?fàn)顩r進(jìn)行完善。

（一）統(tǒng)一規(guī)范平臺(tái)在信息保護(hù)動(dòng)態(tài)過程中的義務(wù)標(biāo)準(zhǔn)

結(jié)合相關(guān)法律規(guī)定，“深度偽造”技術(shù)平臺(tái)主體目前應(yīng)根據(jù)法律義務(wù)，履行更嚴(yán)格的收集使用說明義務(wù)，在信息權(quán)利人完全知情的條件下取得其授權(quán)同意。

采集的人臉識(shí)別信息僅在有限時(shí)間、為特定目的使用。為保障個(gè)人信息數(shù)據(jù)安全，在權(quán)利人收回授權(quán)或要求刪除、注銷后，應(yīng)立即刪除所有獲得的數(shù)據(jù)和個(gè)人信息。若“深度偽造”平臺(tái)違反上述義務(wù)，則可能在個(gè)人信息的采集、使用、儲(chǔ)存、階段發(fā)生侵權(quán)行為。此外，由于“深度偽造”風(fēng)險(xiǎn)的特殊性，平臺(tái)也應(yīng)自覺主動(dòng)加強(qiáng)行業(yè)自查并接受政府監(jiān)管，事前報(bào)備，事中定期報(bào)告及時(shí)反饋，事后積極配合補(bǔ)救。

（二）平臺(tái)侵權(quán)責(zé)任歸責(zé)原則的適用

盡管平臺(tái)在“深度偽造”信息管理過程中承擔(dān)較多義務(wù)，但也并不是無(wú)限制的。要認(rèn)定其最終構(gòu)成侵權(quán)，還需要具有“主觀過錯(cuò)”。在訴訟證明責(zé)任上，筆者認(rèn)為適用“過錯(cuò)推定”的歸責(zé)原則更為合適，平衡個(gè)人權(quán)利和技術(shù)推廣。相比個(gè)人信息權(quán)利人，信息處理者即平臺(tái)顯然占有更加有利的地位。其掌管信息數(shù)據(jù)并在后臺(tái)進(jìn)行“深度偽造”技術(shù)運(yùn)行，擁有更強(qiáng)的能力和便利條件，并可以更低的成本證明其行為與信息損害后果之間有無(wú)因果關(guān)系，倘若無(wú)法證明則可推定事實(shí)上的因果關(guān)系成立。“深度偽造”平臺(tái)是風(fēng)險(xiǎn)的帶來(lái)者。

（三）明確技術(shù)產(chǎn)物制作者主動(dòng)標(biāo)識(shí)義務(wù)

“深度偽造”技術(shù)產(chǎn)物制作者作為行為和傳播源頭，有必要對(duì)其提出相應(yīng)規(guī)制。控制住制作者這一源頭，將極大地減小對(duì)于后面環(huán)節(jié)法律監(jiān)管的壓力。其基本義務(wù)就是要在換臉視頻顯要位置明確與普通視頻的區(qū)分，并標(biāo)注視頻來(lái)源、原作品相關(guān)信息、有無(wú)授權(quán)等。在上傳網(wǎng)絡(luò)及平臺(tái)進(jìn)行傳播時(shí)，也應(yīng)再次作出清晰的聲明，告知平臺(tái)和平臺(tái)用戶其“深度偽造”性質(zhì)。如果制作者違反主動(dòng)標(biāo)識(shí)義務(wù)，則要承擔(dān)過錯(cuò)侵權(quán)責(zé)任。

（四）強(qiáng)化技術(shù)平臺(tái)審查責(zé)任

在當(dāng)前信息時(shí)代，平臺(tái)為信息傳播提供途徑和載體。如前所述，公民僅為個(gè)人學(xué)習(xí)欣賞研究制作“深度偽造”視頻并不會(huì)構(gòu)成侵權(quán)，而一旦上傳至網(wǎng)絡(luò)平臺(tái)進(jìn)行傳播，則使其具備了違法可能性。此時(shí)，平臺(tái)作為一個(gè)重要的中間媒介，具有一定的審查責(zé)任，防止虛假信息在社會(huì)公眾中大量擴(kuò)散，造成信息混亂、侵權(quán)亂象和社會(huì)信任危機(jī)。但是，由于現(xiàn)階段尚沒有能成熟完備識(shí)別篩選“深度偽造”產(chǎn)物的技術(shù)，不應(yīng)給平臺(tái)設(shè)定過重的義務(wù)要求。具體而言，可以根據(jù)《信息網(wǎng)絡(luò)傳播權(quán)保護(hù)條例》《民法典》《個(gè)人信息保護(hù)法》及《電子商務(wù)法》等相關(guān)規(guī)定，適用“避風(fēng)港”原則，即適用處理侵權(quán)糾紛的“通知與刪除”程序。平臺(tái)只要履行了一定義務(wù)即可被認(rèn)為履行了審查責(zé)任。若怠于履行上述義務(wù)，造成相應(yīng)后果，則需要承擔(dān)連帶責(zé)任。在“深度偽造”技術(shù)產(chǎn)物的制作和傳播過程中，起最主要作用的就是制作者和平臺(tái)。因此，為防止“深度偽造”技術(shù)的濫用，必須從不同主體權(quán)利義務(wù)規(guī)制角度，建立事前預(yù)防和事后救濟(jì)相結(jié)合的法律規(guī)制框架，有效降低法律風(fēng)險(xiǎn)的發(fā)生。

（五）加強(qiáng)有關(guān)部門互聯(lián)網(wǎng)新技術(shù)新應(yīng)用安全評(píng)估工作

目前，我國(guó)主要負(fù)責(zé)“深度偽造”技術(shù)應(yīng)用安全評(píng)估的監(jiān)管部門是網(wǎng)信辦及公安機(jī)關(guān)。這些部門應(yīng)依據(jù)《具有輿論屬性或社會(huì)動(dòng)員能力的互聯(lián)網(wǎng)信息服務(wù)安全評(píng)估規(guī)定》等法律法規(guī)作出相應(yīng)對(duì)策，不斷建立健全事前、事中及事后的監(jiān)督體系。在事前做好規(guī)定，要求“深度偽造”互聯(lián)網(wǎng)平臺(tái)及時(shí)實(shí)行自我監(jiān)督，定期評(píng)估，并向有關(guān)部門備案報(bào)告，有關(guān)部門也要及時(shí)作出回應(yīng)，必要時(shí)應(yīng)依據(jù)職責(zé)開展現(xiàn)場(chǎng)檢查。在事件中相關(guān)部門應(yīng)開展定期和不定期的巡查工作，把監(jiān)管落到實(shí)處，嚴(yán)格規(guī)范制度和程序。在事后及時(shí)采取有效整改措施，予以補(bǔ)救和懲戒，與社會(huì)各界共同維護(hù)網(wǎng)絡(luò)傳播秩序，營(yíng)造良好網(wǎng)絡(luò)生態(tài)。

結(jié)束語(yǔ)：

隨著人工智能的不斷發(fā)展，“深度偽造”技術(shù)將“換臉”“換聲”等變成了可能，不可避免地引發(fā)了一系列關(guān)于人格權(quán)保護(hù)方面的法律風(fēng)險(xiǎn)問題。從人格權(quán)保護(hù)角度，根據(jù)不同責(zé)任主體義務(wù)分析了法律規(guī)制的方向和路徑，旨在構(gòu)建一個(gè)較為完善、層次分明的法律規(guī)制體系，將零散的法律法規(guī)進(jìn)行整合，填補(bǔ)法律漏洞和空白。但是，對(duì)于“深度偽造”帶來(lái)的風(fēng)險(xiǎn)，除了要在法律層面予以完善，還應(yīng)在技術(shù)及公眾意識(shí)層面不斷加強(qiáng)，才能形成社會(huì)合力，有效避免侵權(quán)現(xiàn)象出現(xiàn)，在個(gè)人權(quán)利得到保障的前提下實(shí)現(xiàn)技術(shù)進(jìn)步。