張?jiān)娐∫μ鞗_

關(guān)鍵詞 換臉技術(shù) 深度偽造 法律風(fēng)險(xiǎn) 應(yīng)對措施

作者簡介：張?jiān)娐瑬|北大學(xué)文法學(xué)院法學(xué)系，研究方向：法學(xué);姚天沖，東北大學(xué)文法學(xué)院法學(xué)系副教授，法學(xué)博士，研究生導(dǎo)師，遼寧省政府法律顧問。

中圖分類號：D920.4 ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?文獻(xiàn)標(biāo)識碼：A ? ? ? ? ? ?? ? ? ? ? ?DOI：10.19387/j.cnki.1009-0592.2020.07.002

一、問題的提出

近日，一款名叫ZAO 的換臉軟件打著“僅需一張照片，出演天下好戲”的名號在各大應(yīng)用市場高分出道，上線伊始就受到了廣泛熱議，正如其所宣傳，用戶在下載該應(yīng)用后，僅僅需要上傳一張符合較低要求分辨率的照片，人工智能技術(shù)便可以完整識別并提取照片中的信息，例如人臉的面部表情、言語動態(tài)和視線聚焦角度等，便可以用照片中的人臉替換掉任意一個視頻素材中任何人的臉。然而這場換臉熱卻逐漸變味，憑借其迷惑性在諸多領(lǐng)域興風(fēng)作浪。

這樣的面部合成技術(shù)真的能做到天衣無縫嗎？實(shí)則不盡然，這些生成的圖片與視頻畢竟是算法拼湊的產(chǎn)物，技術(shù)師編寫的普適性技術(shù)應(yīng)用在具體的場景中，在各個細(xì)節(jié)都做到以假亂真，一時(shí)迷惑眾人的同時(shí)，難免會有一些疏忽，也存在著一些漏洞。一家西班牙公司REGIUM通過 this person does not exist.com 這個造臉網(wǎng)站，利用人工智能GAN技術(shù)以及英偉達(dá)的模型合成了四個虛擬工程師，作為網(wǎng)站的開發(fā)者，但由于在照片背景處理和人臉眼鏡附近的扭曲失真而被投資方發(fā)現(xiàn)，然而這并非僅憑人眼或算法可以及時(shí)洞察的，需要依托一定的技術(shù)手段與生活經(jīng)驗(yàn)與靈活的思維加以辨別。

此項(xiàng)技術(shù)問世后一度引發(fā)爭議，甚至出現(xiàn)了將明星照片代入色情視頻的產(chǎn)業(yè)鏈條，即便封閉相關(guān)搜索，技術(shù)的流失與源代碼泄露猶如潘多拉盒子被打開，以深度學(xué)習(xí)算法（生成式對抗網(wǎng)絡(luò)）為基礎(chǔ)的技術(shù)不斷被修正，自動演進(jìn)能力也出乎意料的演化。迫在眉睫的“真相危機(jī)”不斷涌現(xiàn)，不斷污染網(wǎng)絡(luò)空間，帶來視覺沖擊的同時(shí)，還有哪些潛在的社會危害？一系列違法與侵權(quán)代價(jià)、法律風(fēng)險(xiǎn)到底應(yīng)該由哪些主體對此類危害負(fù)責(zé)？各個國家的政府組織對此態(tài)度如何？當(dāng)下既問世的應(yīng)對法是否具有實(shí)際效力？我們是否能夠?qū)さ靡粭l更加完善、更加周全的應(yīng)對出路？

二、人工智能換臉技術(shù)概述

探求一項(xiàng)技術(shù)所引發(fā)的可能性社會問題，需要從技術(shù)本身入手，當(dāng)下人工智能技術(shù)發(fā)展正處于由弱人工智能向強(qiáng)人工智能過渡的階段，深度學(xué)習(xí)技術(shù)的廣泛應(yīng)用使人工智能的操作日趨自動化，換臉技術(shù)便是“深度學(xué)習(xí)+”的一種表現(xiàn)。

（一）換臉技術(shù)概念與原理

換臉技術(shù)，即所謂的“換臉術(shù)”主要是通過人工智能“深度偽造”技術(shù)實(shí)現(xiàn)的，“深度偽造”實(shí)質(zhì)上是一個合成詞項(xiàng)，是“深度學(xué)習(xí)”+“偽造”的結(jié)果。①“人工智能深度學(xué)習(xí)”能力近年來突飛猛進(jìn)，某種程度上來說已經(jīng)形成了多層聯(lián)結(jié)的神經(jīng)網(wǎng)，可以自動導(dǎo)入數(shù)據(jù)、自動計(jì)算并完成任務(wù)。技術(shù)的原理是通過一種密集光度一致性辦法（Dense Photometric Consistency measure），達(dá)到跟蹤源和目標(biāo)視頻中臉部表情的實(shí)時(shí)轉(zhuǎn)換，由于間隔的時(shí)間很短，使得“復(fù)制”面部表情成為可能。實(shí)質(zhì)上，就是通過深度學(xué)習(xí)識別“源數(shù)據(jù)”，提取素材中的面部特征、表情細(xì)節(jié)以及動態(tài)變化，在此基礎(chǔ)上經(jīng)過大量的經(jīng)驗(yàn)積累與數(shù)據(jù)分析，就可以由系統(tǒng)自動形成偽造的動態(tài)人臉并將其覆蓋疊加到原素材上，以實(shí)現(xiàn)更新變換，創(chuàng)建的圖像模型作為新數(shù)據(jù)就是人工智能的算法產(chǎn)物。換臉技術(shù)的發(fā)展是人工智能學(xué)習(xí)發(fā)展到更高階段的彰顯，具有雙鏈條能力的“對抗生成網(wǎng)絡(luò)”模型才是“換臉術(shù)”的核心，優(yōu)化與傳統(tǒng)的人工智能學(xué)習(xí)技術(shù)，對抗生成網(wǎng)絡(luò)模型具有雙鏈條，同時(shí)進(jìn)行的神經(jīng)網(wǎng)絡(luò)，各司其職，在生成新數(shù)據(jù)的同時(shí)又實(shí)現(xiàn)了對生成物的自動鑒別驗(yàn)證，從某種程度上說“對抗生成網(wǎng)絡(luò)”實(shí)現(xiàn)了幾近于由單純完成人類命題進(jìn)化到了自學(xué)自驗(yàn)的“無監(jiān)督學(xué)習(xí)模式”。

（二）換臉技術(shù)的流程

換臉技術(shù)涉及到兩個方面的操作。源數(shù)據(jù)開始輸入后，先從人臉的識別開始，從眾多元素中察覺檢測到需要更換的部分，即是對人臉信息的檢索與提取，圖像信息自然錄入系統(tǒng)數(shù)據(jù)庫之后再開啟，圖像信息進(jìn)行分析與運(yùn)算，換言之人臉識別是人臉轉(zhuǎn)換的第一階段。

接下來是對抗生成網(wǎng)絡(luò)（GAN）的運(yùn)作，兩組神經(jīng)網(wǎng)絡(luò)“生成器”與“鑒別器”是此項(xiàng)技術(shù)的靈魂所在，通過二者的對抗實(shí)現(xiàn)換臉任務(wù)的落實(shí)。所獲取的目標(biāo)人物的照片與視頻信息匯總而成的數(shù)據(jù)集在“生成器”神經(jīng)中制造出新的影像，又在“鑒別器”神經(jīng)中進(jìn)行新舊對比，檢測對比結(jié)果為真實(shí)時(shí)開展下一步的圖像替換。由單張的圖片到視頻轉(zhuǎn)換上，大體上需要經(jīng)過以下步驟，首先是把源視頻素材以幀為單位切分，提取其中的待轉(zhuǎn)換面部區(qū)間與信息，導(dǎo)入到訓(xùn)練模型中進(jìn)行替換整合并生成視頻，經(jīng)過系統(tǒng)后期制作，提高偽造視頻的清晰度與真實(shí)度。在整套系統(tǒng)運(yùn)行，基本無需人腦分析、人工剪輯和再校對，實(shí)現(xiàn)了人類角色的轉(zhuǎn)變。

（三）換臉技術(shù)的應(yīng)用

換臉技術(shù)的功能再強(qiáng)大，不過是人類思維概念的具象化與操作化，數(shù)據(jù)素材庫的填充離不開人類的資源提供，生成物用途也由人類意向主導(dǎo)。在技術(shù)實(shí)現(xiàn)途徑上，人工智能換臉技術(shù)常見的使用方式主要包括三種：一是將真人換臉成真人象;二是將真人換臉成尚可識別身份的虛擬形象;三是完全拋開真人形象設(shè)定把真人換臉后形成純虛擬形象，其他具體應(yīng)用都是依托此三種基礎(chǔ)變形而來。

三、人工智能換臉技術(shù)的安全隱患與法律風(fēng)險(xiǎn)

技術(shù)具有兩面性，人工智能的發(fā)展也難以脫離此定律。換臉技術(shù)的生成物最大特點(diǎn)就是虛構(gòu)性，虛構(gòu)內(nèi)容不同、利用手段不同、用途目的不同都會產(chǎn)生不同的法律后果。人工智能換臉技術(shù)當(dāng)下的三種應(yīng)用形式具有的一個共性就是以真人為載體，輸出形象可能變化萬千，根據(jù)輸出形式的不同還會造成不同的侵權(quán)可能。換臉技術(shù)本質(zhì)上是一種偽造手段，超脫娛樂功能，社會的危害程度不容小覷，濫用風(fēng)險(xiǎn)涉及方方面面，“深度偽造”的算法技術(shù)與學(xué)習(xí)能力加持應(yīng)用，相輔相成進(jìn)一步使得對其應(yīng)用可能產(chǎn)生不同于一般視頻偽造處理技術(shù)的風(fēng)險(xiǎn)。從換臉?biāo)惴ǖ募夹g(shù)來看，依據(jù)步驟設(shè)計(jì)可以把此項(xiàng)技術(shù)的安全風(fēng)險(xiǎn)分類成人臉信息提取信息的安全隱患、人臉變換時(shí)的法律責(zé)任以及生成物應(yīng)用不當(dāng)?shù)目赡苄燥L(fēng)險(xiǎn)三個方面綜合考慮。

（一）侵犯公民人身權(quán)利

1.個人信息泄露與身份偽造

面部識別是換臉的第一步，區(qū)別于其他生物識別方式，人臉識別方式具有自然性、不被察覺性和非強(qiáng)制性，大數(shù)據(jù)時(shí)代人臉信息具有的價(jià)值也越來越高，被泄露被交易的成本也越來越低，個人信息與數(shù)據(jù)的泄露可能性也大大提高。由于人臉識別技術(shù)與應(yīng)用的發(fā)達(dá)，此類信息的易得程度大大提升，據(jù)不完整統(tǒng)計(jì)，2019年網(wǎng)絡(luò)商城中公開售賣的人臉數(shù)據(jù)達(dá)到17萬條（北京青年報(bào)）。當(dāng)下網(wǎng)絡(luò)信息的互通，單張的照片中的面部信息背后將隱含著大量的身份信息。即便是合法的相關(guān)人臉數(shù)據(jù)庫開發(fā)的公司在收集前欠缺同意協(xié)議的簽訂，以“ZAO”的用戶協(xié)議為例② ，用戶在使用之前被強(qiáng)制簽訂換臉時(shí)同意或確保肖像權(quán)利人同意授予服務(wù)提供商肖像權(quán)的使用以及圖片視頻的使用和改造。換言之，在主動上傳照片的同時(shí)就是允許了應(yīng)用平臺對個人敏感信息的采集，加入了系統(tǒng)的數(shù)據(jù)庫，由此就面臨著個人身份的公開與身份結(jié)構(gòu)，個人信息被濫用后果的安全風(fēng)險(xiǎn)難以評估。面部識別已然成為身份認(rèn)證的重要方式，面部表情動圖的偽造相當(dāng)于身份盜用，通過對人臉識別的偽造，開啟惡性木馬算法的設(shè)備攻擊，入侵竊取使用者的個人信息的情況將一發(fā)不可收拾。除此之外，當(dāng)下的規(guī)制只停留于事后的救濟(jì)措施，只能是刪除與下架，已流失的信息具有不可追回性，隱形危害輻射范圍難以控制。

2.對個人肖像權(quán)、名譽(yù)權(quán)和著作權(quán)的侵犯

換臉過程中，擅自進(jìn)行利用他人的面部圖像或視頻素材時(shí)刻面臨著民事侵權(quán)責(zé)任。首先，在未經(jīng)許可的情況下，擅自在“換臉”技術(shù)中使用含有他人外在真實(shí)容貌特征的照片，且以營利為目的，則認(rèn)定構(gòu)成肖像權(quán)侵權(quán)。若存在將他人肖像“換臉”到某些不雅視頻等行為，以致可能造成受害人社會評價(jià)降低的，則侵權(quán)人還涉嫌侵犯受害者的名譽(yù)權(quán)。在名譽(yù)權(quán)的損害認(rèn)定上，一般采取推定的方法，只要能夠證明是虛假事實(shí)，且具有侮辱、誹謗性，并且該等事實(shí)可能為公眾所知，就可推導(dǎo)受害人的名譽(yù)遭受損害。其次，在未經(jīng)許可的情況下，擅自在“換臉”技術(shù)中使用純虛擬形象，因虛擬形象本身不涉及肖像權(quán)、名譽(yù)權(quán)的問題，則涉嫌侵犯該虛擬形象著作權(quán)人的著作權(quán)。被訴侵權(quán)行為的內(nèi)容、被告是否實(shí)施了被訴侵權(quán)行為、被告有無過錯、是否造成損害、被訴侵權(quán)行為與損害之間有無因果關(guān)系等均是審查范圍。同時(shí)，在未經(jīng)許可的情況下，擅自在“換臉”技術(shù)中使用含有他人肖像的角色圖片，此時(shí)，既涉嫌侵犯肖像權(quán)、名譽(yù)權(quán)，也涉嫌侵犯著作權(quán)人的著作權(quán)。

（二）威脅社會倫理價(jià)值觀

1.身份結(jié)構(gòu)與商品化

人類的面部與身份特征都被數(shù)字化，算法將人的身份拆解，傳統(tǒng)意義上的身份特質(zhì)分解并與他人的身份特質(zhì)再組合重構(gòu)，人工智能再造的虛擬形象以擬制主體身份展現(xiàn)在真實(shí)的人類面前，在倫理上必然造成社會的恐慌與倫理重構(gòu)。人的體貌特征融合后不再具體的某個人典型的身份，跨越了國界種族的限制，失去了辨識度，一方面容易造成社會角色混亂與身份特征混淆。另一方面，自然人的身份被商品化也并非當(dāng)下社會倫理所能接受，在相關(guān)人員不知情情況下，復(fù)制、改造他人的面孔，甚至惡意融合不雅內(nèi)容以謀求金錢利益，構(gòu)成對他人尊嚴(yán)的損害，被解構(gòu)整合身份特征的人淪為被消費(fèi)的商品。

2.真?zhèn)涡刨囄C(jī)

現(xiàn)階段深度偽造的生成物所依托的技術(shù)手段足以達(dá)到以假亂真的程度，“眼見為實(shí)”的一般真理不再適用，人類難以在日常的社會生活中區(qū)分?jǐn)?shù)字面孔與自然人，虛假內(nèi)容輕易取得信任，真?zhèn)沃骐y上加難，合理的猜測與過度猜忌的界限更加難以平衡，在新聞領(lǐng)域和司法領(lǐng)域必然造成更大的信賴難題，真?zhèn)谓缦薇粩?shù)字化操縱，娛樂的趣味性與真相的真實(shí)性在混淆視聽的人工智能生成物問世后更加模糊?！皧蕵分了馈钡呐で鷥r(jià)值沖擊著當(dāng)下倫理觀，進(jìn)而引發(fā)一場社會信任危機(jī)。

（三）危害社會秩序穩(wěn)定

1.輻射領(lǐng)域行業(yè)危機(jī)

模型建設(shè)能力已經(jīng)能夠達(dá)到令人信服的程度，換臉技術(shù)制造的“假人臉”基本達(dá)到了應(yīng)對人臉識別的要求，當(dāng)下人臉識別在很多身份認(rèn)證中已經(jīng)成為了實(shí)名制身份定位的輔助手段，由此輻射的領(lǐng)域涉及方方面面。特別是金融系統(tǒng)中對動態(tài)人臉的認(rèn)證承認(rèn)度與本人親臨的效力幾乎對等，換臉技術(shù)使此認(rèn)證邏輯徹底崩塌，高于照片認(rèn)證的活體動態(tài)監(jiān)測邏輯完全失效。顯然，當(dāng)下社會各界并沒有做好應(yīng)對措施，在自然人人臉的識別與擬制視頻的對比上，現(xiàn)有應(yīng)用于社會生活的設(shè)備尚未具備這樣的能力，這為包括金融界在內(nèi)的認(rèn)證必須行業(yè)造成了極大地身份識別困難，公安系統(tǒng)、門禁簽到等社會生活領(lǐng)域也都會受到顛覆性的影響。

2.公共信息污染

公共信息及市場參與者互聯(lián)互通的共享信息，公共信息安全在信息時(shí)代的重要性不容小覷，人工智能深度學(xué)習(xí)與偽造技術(shù)的快速成長，制造音視頻與圖像為入侵病毒盜用公共安全信息創(chuàng)造了便利條件。一些企業(yè)為了在技術(shù)新興階段盡早占領(lǐng)先機(jī)，奪得市場份額，在技術(shù)應(yīng)用上不能周全顧及安全隱患的規(guī)范，導(dǎo)致市場信息混亂，防治界定標(biāo)準(zhǔn)缺乏，現(xiàn)階段司法領(lǐng)域就涉嫌傳播、組織制作不雅視頻的行為給出了明確的懲治，以牟利為目的，制作、復(fù)制、出版、販賣、傳播淫穢物品的也將面臨刑事處罰，但除此之外的其他危害社會公共信息領(lǐng)域凈化安全的行為標(biāo)準(zhǔn)因市場準(zhǔn)入標(biāo)準(zhǔn)和判定體系的規(guī)范化缺失，威脅市場信息共享和競爭的良性循環(huán)。

3.政治穩(wěn)定與國際秩序破壞

宗教信仰、種族國籍、國際政治領(lǐng)域所涉及的問題具有敏感性，更加需要真實(shí)報(bào)道與平等人權(quán)的保護(hù)，肆意更換外貌特征與偽造具有特殊意義的視頻在這些領(lǐng)域的濫用，在社會穩(wěn)定上的破壞力可能直接引發(fā)難以控制的后果。利用偽造技術(shù)生成政治領(lǐng)袖發(fā)表不當(dāng)言論的音視頻，不符宗教信仰的行為，威脅國際關(guān)系的各種材料，將會大幅度增加社會關(guān)系復(fù)雜性，不利于社會穩(wěn)定局面與國家長治久安。

四、國外應(yīng)對人工智能換臉技術(shù)的現(xiàn)狀與啟示

換臉技術(shù)一經(jīng)問世在國際范圍內(nèi)引發(fā)了大量專家學(xué)者的思考，侵權(quán)行為與危害社會秩序的行為相繼發(fā)生，各國政府紛紛積極出臺應(yīng)對措施，處理手段與實(shí)踐結(jié)果各有特色，政府、應(yīng)用平臺與技術(shù)開發(fā)者都被賦予了相應(yīng)的義務(wù)。

（一）加拿大

加拿大在對換臉技術(shù)在司法上具有明確立場，且已經(jīng)確定了侵權(quán)責(zé)任問題的相關(guān)解釋。加拿大魁北克省《魁北克民法典》中規(guī)定了此類侵權(quán)的范圍和形式界定，有目的地使用他人姓名、圖像、肖像或聲音而非合法的公眾信息的行為均可視為侵犯他人隱私，以隱私侵犯為受人身權(quán)利侵犯的受害者提供司法保護(hù)，并且可依法獲得相應(yīng)的救濟(jì)賠償?！吨Z維奇命令》就換臉技術(shù)所涉及的調(diào)查問題給出了具體的措施，法律與媒體相輔相成，二者聯(lián)袂共同針對換臉應(yīng)用隱藏的違法違規(guī)行為進(jìn)行調(diào)查取證，社交平臺作為信息的擁有者與數(shù)據(jù)存儲平臺必須配合法院，強(qiáng)迫相關(guān)平臺調(diào)取平臺使用者的真實(shí)信息，匿名身份不再是違法的保護(hù)傘，追根溯源依法追究侵權(quán)者侵權(quán)責(zé)任。

加拿大的法院命令出臺之迅速值得贊嘆，能夠在問題出現(xiàn)的短時(shí)間內(nèi)及時(shí)出臺指導(dǎo)性命令，確定將媒體平臺在規(guī)制中的責(zé)任與義務(wù)，多主體聯(lián)動的治理局面構(gòu)建，為其他國家的應(yīng)對措施探索提供借鑒，具有啟示意義。

（二）歐盟

當(dāng)下歐盟各國未出臺關(guān)于針對換臉技術(shù)的法律法規(guī)，尚且還處于破壞性威脅處理的論證階段。但一向?qū)W(wǎng)絡(luò)安全相當(dāng)重視的歐盟國家不可能無動于衷，尤其是涉及個人隱私與權(quán)益的部分，以《關(guān)于涉及個人資料處理的個人保護(hù)以及此類資料自由流動的指令》為核心，形成了較為完整規(guī)范的個人信息保護(hù)法律體系。并且相當(dāng)重視對相關(guān)個人資料的掌握者的問題更加敏感，在法律中明確了這類群體的責(zé)任與義務(wù)，資源收集也有一系列規(guī)范，在公民的基本人權(quán)與第三方信息匯總與收集之間尋求最佳平衡點(diǎn)，否則構(gòu)成違法行為。行政機(jī)關(guān)也發(fā)揮了較大的作用，歐盟各成員國國內(nèi)都設(shè)有專門的數(shù)據(jù)信息安全保護(hù)部門與工作組，這類機(jī)構(gòu)不僅僅可以為國民提供咨詢服務(wù)，還通過法律授權(quán)的方式擁有調(diào)查與接入法律技術(shù)的權(quán)力，擁有較強(qiáng)的執(zhí)行力，以致力于為國民提供直接、專門的救濟(jì)渠道。

歐盟國家在網(wǎng)絡(luò)信息安全上基本形成了對個人信息保護(hù)的完整體系，對平臺的信息使用有一定的規(guī)制標(biāo)準(zhǔn)，個人信息泄漏后的救濟(jì)措施也很便民可行，為其他國家的網(wǎng)絡(luò)問題解決拓展了思路，起到了模范作用，網(wǎng)絡(luò)時(shí)代對個人信息的保護(hù)需要完備系統(tǒng)的法律規(guī)范。

（三）美國

美國的應(yīng)對行為具有技術(shù)監(jiān)管的顯著特征，以行業(yè)自律為主，但政府也發(fā)揮了一定的規(guī)制監(jiān)管作用。美國已經(jīng)明確認(rèn)識到“深度偽造”技術(shù)對國家安全造成負(fù)面影響的嚴(yán)峻形勢，國家情報(bào)總監(jiān)丹·科茨在《全球威脅評估報(bào)告》中表示“深度偽造”技術(shù)會生成虛假卻令人深信的影音產(chǎn)物，對美國以及其他國家安全都會造成不良威脅。2018 年，美國的技術(shù)開發(fā)者針對偽造人臉的算法創(chuàng)建了甄別分辨系統(tǒng)，通過構(gòu)建包容海量的偽造圖像的數(shù)據(jù)庫訓(xùn)練更強(qiáng)大的人工智能系統(tǒng)，以對抗現(xiàn)存的深度偽造算法③。2019年美國專就Deepfakes開展了聽證會，有學(xué)者建議國會對《通信規(guī)范法》中互聯(lián)網(wǎng)平臺無須為使用者的行為負(fù)責(zé)的規(guī)定進(jìn)行修改，此項(xiàng)提議目前尚未落實(shí)，在法律法規(guī)上美國沒有做出實(shí)質(zhì)性的應(yīng)對措施，仍然滯留在輿論探討與不斷在眾議院提出議案的層面。但是，就實(shí)踐操作上，迫于各界的壓力，換臉技術(shù)在美國境內(nèi)網(wǎng)站上已經(jīng)被封，討論版被清除，開源代碼也被清除。

由美國的應(yīng)對可見，用技術(shù)對抗技術(shù)，用更強(qiáng)大的技術(shù)約束技術(shù)，在人工智能時(shí)代的重要性與必要性，加快技術(shù)發(fā)展，研發(fā)一套能夠鑒別偽造視頻的新技術(shù)，人工智能時(shí)代需要創(chuàng)新規(guī)制手段，技術(shù)手段的應(yīng)用在當(dāng)今社會的治理中地位日趨重要。

五、我國應(yīng)對人工智能換臉技術(shù)法律風(fēng)險(xiǎn)的防范建議

按照當(dāng)下人工智能技術(shù)的發(fā)展速度，有效科學(xué)的風(fēng)險(xiǎn)防范措施極為重要，我國在換臉技術(shù)的可能性危害爆發(fā)前，要充分吸取其他國家的經(jīng)驗(yàn)，從完善立法、促進(jìn)防范技術(shù)發(fā)展、創(chuàng)新規(guī)制手段實(shí)現(xiàn)共治氛圍入手，積極應(yīng)對挑戰(zhàn)。

（一）完善現(xiàn)有法律法規(guī)，增設(shè)人工智能領(lǐng)域立法

新興領(lǐng)域的出現(xiàn)必然帶來立法沖擊，個人信息的公開化在信息時(shí)代缺乏限定，侵權(quán)的司法界定也具有一定難度，并且人工智能的侵權(quán)主體界定復(fù)雜多元，當(dāng)下對人工智能相關(guān)領(lǐng)域的人身權(quán)利保護(hù)缺乏足夠的法律法規(guī)規(guī)制，人工智能技術(shù)的開發(fā)者、平臺技術(shù)運(yùn)營商以及技術(shù)使用者的責(zé)任分配混亂混淆?！吨腥A人民共和國網(wǎng)絡(luò)安全法》和《互聯(lián)網(wǎng)電子公告服務(wù)管理規(guī)定》④是在司法技術(shù)中運(yùn)用的主要專門性法律法規(guī)，對于互聯(lián)網(wǎng)與人工智能時(shí)代科技的不斷進(jìn)步來說，一定程度上面對專業(yè)性問題具有立法空白。首先，應(yīng)該從立法角度界定人工智能領(lǐng)域個人的人身信息范圍，以便明確人身權(quán)利具體保護(hù)內(nèi)容。其次，建立人工智能產(chǎn)業(yè)鏈追責(zé)機(jī)制，應(yīng)該形成覆蓋從算法開發(fā)階段到產(chǎn)出生成物的傳播利用階段的安全與責(zé)任標(biāo)準(zhǔn)，真正實(shí)現(xiàn)環(huán)環(huán)相扣的制度規(guī)范，以免問題發(fā)生時(shí)的相互推諉與問責(zé)主體不清。當(dāng)下適用的《公共安全人臉識別應(yīng)用圖像技術(shù)要求》作為行政法規(guī)，已經(jīng)在對新問題的立法跟進(jìn)中做出了第一步突破，除此之外，更具有普適性的生物信息識別等相關(guān)問題還需進(jìn)一步強(qiáng)化立法規(guī)制，《中華人民共和國個人信息保護(hù)法》正在擬制，其中對此專題應(yīng)該有些涉及，以便化解技術(shù)邏輯的倫理價(jià)值矛盾與定義模糊問題，真正實(shí)現(xiàn)對個人信息的保護(hù)。

（二）技術(shù)打假，開發(fā)破解系統(tǒng)

兼顧救濟(jì)的前提是甄別偽造圖像，通過技術(shù)破解深度偽造的產(chǎn)物不僅能夠助力司法調(diào)查中的舉證問題，還能解決公眾的真相辨別之疑惑。借鑒美國的對抗甄別系統(tǒng)，用更強(qiáng)大的人工智能對抗人工智能。區(qū)塊鏈程度就可以在此領(lǐng)域發(fā)揮優(yōu)勢，區(qū)塊有公共密碼和設(shè)置私人密碼，密碼采用新函數(shù)編寫，幾乎不可破解，著重培養(yǎng)區(qū)塊鏈技術(shù)人才，利用其不可逆性進(jìn)行人工智能變臉生成物的辨別。同時(shí)，一些技術(shù)研發(fā)人員提出構(gòu)建以太坊智能合約技術(shù)出口和普適性思路，通過星際文件系統(tǒng)將所有的信息整合起來，復(fù)制全部數(shù)據(jù)，并跟蹤全部數(shù)據(jù)的使用情況，不斷對比分析原始數(shù)據(jù)的變換來尋找被偽造的成分。

（三）發(fā)揮媒介把關(guān)人作用，強(qiáng)化行業(yè)自律

根據(jù)“守門人”理論⑤，信息傳播同樣也設(shè)置了若干的“關(guān)卡”，信息傳播能否順利，主要取決于這些關(guān)卡之間的連結(jié)和彼此恪守的準(zhǔn)則。強(qiáng)化平臺責(zé)任，對生成物進(jìn)行篩選與衡量，做好把關(guān)，基于用戶個人的合理適度需求偽造的換臉結(jié)果可以得到認(rèn)可，行業(yè)自身在“技術(shù)正當(dāng)技術(shù)”層面約定自律規(guī)范，制定統(tǒng)一明確標(biāo)準(zhǔn)，在視頻的傳播、用戶信息采集、識別技術(shù)共同應(yīng)用和檢索偽造成果資料，甚至是用戶的準(zhǔn)入門檻等諸多方面約定行業(yè)規(guī)范，并增強(qiáng)行業(yè)規(guī)范的效力，在自我責(zé)任認(rèn)定與履行上強(qiáng)化行業(yè)內(nèi)部的規(guī)制，在行業(yè)內(nèi)部建立完善的監(jiān)督管理機(jī)制，用自我約束、自我監(jiān)督的手段優(yōu)化人工智能換臉技術(shù)的使用方式，搭建起人工智能領(lǐng)域，技術(shù)進(jìn)化至強(qiáng)人工智能時(shí)代里行業(yè)自律的具體實(shí)施準(zhǔn)則，凈化互聯(lián)網(wǎng)空間。

（四）剛?cè)岵?jì)，豐富規(guī)制手段

平臺責(zé)任的承擔(dān)現(xiàn)階段以行政處罰為主，一概而論通過硬性的罰款或強(qiáng)制性清理已發(fā)生的服務(wù)漏洞只能是在事后進(jìn)行補(bǔ)救，具有特事特辦色彩，不能從根源上形成具有一般性的規(guī)制措施。應(yīng)豐富行政規(guī)制的手段，根據(jù)具體情況進(jìn)行，如行政約談的柔性規(guī)制方式與硬性的行政處罰相結(jié)合。相關(guān)行政部門可以與技術(shù)開發(fā)方或應(yīng)用服務(wù)提供者相關(guān)負(fù)責(zé)人進(jìn)行定期行政約談，對階段性發(fā)生的或可能出現(xiàn)的安全風(fēng)險(xiǎn)加以整改要求限制，要求相關(guān)主體嚴(yán)格按照國家法律法規(guī)以及相關(guān)主管部門建議，組織進(jìn)行內(nèi)部自行調(diào)整，依法依規(guī)收集使用用戶個人信息，規(guī)范協(xié)議條款，強(qiáng)化網(wǎng)絡(luò)數(shù)據(jù)和用戶個人信息安全保護(hù)。更新條款與用戶協(xié)議，刪除具有漏洞的技術(shù)點(diǎn)或使用規(guī)則。剛?cè)岵⑿?，要求平臺方與使用者在用戶信息的收集與處理、素材庫的發(fā)布與使用標(biāo)準(zhǔn)、生成圖像視頻的導(dǎo)出等諸多方面，做出符合法律規(guī)范于一般社會倫理道德的約定規(guī)范。

六、結(jié)語

換臉技術(shù)的應(yīng)用不可避免的對人類社會生活呈現(xiàn)出了負(fù)面影響，不可從優(yōu)劣角度直接定義深度偽造的換臉技術(shù)作為人工智能領(lǐng)域的衍生品的屬性，正確合法的應(yīng)用技術(shù)尤為關(guān)鍵。應(yīng)該以人工智能技術(shù)為工具，充分發(fā)揮政府、公眾、平臺的各自優(yōu)勢，明確義務(wù)與責(zé)任，形成一體化的治理體系，降低換臉技術(shù)為社會造成的安全隱患，必須完善共治以著力破解真?zhèn)涡刨囄C(jī)，使換臉技術(shù)的應(yīng)用與演化在道德倫理與法律法規(guī)的控制內(nèi)，由此發(fā)揮人工智能時(shí)代的技術(shù)優(yōu)勢。

注釋：

①“深度偽造”的過程就是將原始的圖片和視頻素材等數(shù)據(jù)遞給換臉技術(shù)，此后僅僅依靠算法的自身運(yùn)算，在大量的訓(xùn)練與演算運(yùn)行基礎(chǔ)上自動完成換臉操作。

② ZAO的用戶協(xié)議顯示：用戶在使用“ZAO”的時(shí)候，如果把臉換成自己或其他人的臉，意味著同意或確保肖像權(quán)利人同意授予“ZAO”及其關(guān)聯(lián)公司全球范圍內(nèi)完全免費(fèi)、不可撤銷、永久、可轉(zhuǎn)授權(quán)和可再許可的權(quán)利，包括但不限于：人臉照片、圖片、視頻資料等肖像資料中所含的您或肖像權(quán)利人的肖像權(quán)，以及利用技術(shù)對您或肖像權(quán)利人的肖像進(jìn)行形式改動。

③美國國防高級研究計(jì)劃局則發(fā)起了一項(xiàng)重大的媒體取證研究計(jì)劃，它借助Media？Forensics 技術(shù)來自動檢測換臉操作，提供如何執(zhí)行這些操作的詳細(xì)信息，來確定視頻或圖像是否進(jìn)行了深度偽造。

④《互聯(lián)網(wǎng)電子公告服務(wù)管理規(guī)定》第 12 條：“電子公告服務(wù)提供者應(yīng)當(dāng)對上網(wǎng)用戶的個人信息保密，未經(jīng)上網(wǎng)用戶同意不得向他人泄露，但法律另有規(guī)定的除外?！薄痘ヂ?lián)網(wǎng)電子郵件服務(wù)管理辦法》第 9 條：“互聯(lián)網(wǎng)電子郵件服務(wù)提供者對用戶的個人注冊信息和互聯(lián)網(wǎng)電子郵件地址，負(fù)有保密的義務(wù)?；ヂ?lián)網(wǎng)電子郵件服務(wù)提供者及其工作人員不得非法使用用戶的個人注冊信息資料和互聯(lián)網(wǎng)電子郵件地址;未經(jīng)用戶同意，不得泄露用戶的個人注冊信息和互聯(lián)網(wǎng)電子郵件地址，但法律、行政法規(guī)另有規(guī)定的除外。”

⑤守門人是一種理論的代稱，它是盧因在1947年提出來的，信息總是沿著包含有門區(qū)的某些渠道流動，在那里，或是根據(jù)公正無私的規(guī)定，或是根據(jù)'守門人'的個人意見，對信息或是商品是否被允許進(jìn)入渠道或是繼續(xù)在渠道里流動作出決定。

參考文獻(xiàn)：

[1]陳盼.歐盟網(wǎng)絡(luò)隱私權(quán)保護(hù)模式研究——兼述歐盟對Facebook面部識別技術(shù)的調(diào)查[J].研究生法學(xué)，2013，28（4）：135-143.

[2]王祿生.論“深度偽造”智能技術(shù)的一體化規(guī)制[J].東方法學(xué)，2019（6）：58-68.

[3]王飛龍.人臉識別技術(shù)及其安全性綜述[J].信息記錄材料，2018，19（12）：229-230.

[4]黨家玉.人工智能的倫理與法律風(fēng)險(xiǎn)問題研究[J].信息安全研究，2017，3（12）：1080- 1090.