張愛軍，曹慧雅

(西北政法大學(xué) 新聞傳播學(xué)院，西安 710199)

技術(shù)與資本、政治所具有的天然聯(lián)結(jié)屬性使其會影響政治權(quán)力與資本勢力的運(yùn)作。深度偽造技術(shù)的誕生與應(yīng)用，在政治領(lǐng)域表現(xiàn)為具有偽造深度的信息的生成會遮蔽政治認(rèn)知、阻礙政治溝通，并分散政治共識；在經(jīng)濟(jì)領(lǐng)域表現(xiàn)為其應(yīng)用的開發(fā)具有加劇資本剝削的風(fēng)險；而對公眾心理的影響則表現(xiàn)為批判意識、隱私意識和倫理意識的淡化。目前，對于深度偽造技術(shù)所引發(fā)的風(fēng)險的研究主要包括宏觀和微觀兩個部分。其中，宏觀研究較多集中于探討深度偽造技術(shù)對國家安全和國際關(guān)系的威脅，忽略了宏觀上資本勢力的負(fù)面作用；微觀研究的焦點(diǎn)則較多集中于深度偽造技術(shù)對于個人隱私的侵犯，忽視了其對于個人心理的影響。具有偽造深度的信息產(chǎn)品需要利用技術(shù)力量進(jìn)行治理，而圍繞技術(shù)治理的研究則多聚焦于技術(shù)本身的設(shè)計和應(yīng)用，對技術(shù)治理的困境及邊界未有深入研究。探索技術(shù)治理的挑戰(zhàn)可以為治理技術(shù)指明前進(jìn)的方向，并構(gòu)建多方合力的治理框架，而分析技術(shù)治理的邊界則能夠限定技術(shù)治理所涉及的權(quán)力主體在行使治理功能時的職能范圍。

一、深度偽造和偽造深度的概念與關(guān)系

智能技術(shù)的快速發(fā)展表現(xiàn)為技術(shù)的更新迭代及新興智能技術(shù)的誕生，深度偽造技術(shù)是在生成對抗網(wǎng)絡(luò)、算法技術(shù)、深度學(xué)習(xí)技術(shù)等技術(shù)的交叉融合的基礎(chǔ)上被創(chuàng)建的。其誕生一方面拓寬了技術(shù)的應(yīng)用實(shí)踐范圍，另一方面則提高了虛假信息的逼真程度。

(一)深度偽造及其應(yīng)用實(shí)踐

深度偽造技術(shù)是深度學(xué)習(xí)和偽造的合成詞，是指借助機(jī)器學(xué)習(xí)合成音頻、圖像和視頻，從而形成內(nèi)容的技術(shù)，是人工智能技術(shù)發(fā)展到一定階段的產(chǎn)物。

視頻偽造結(jié)合了音頻偽造和圖像偽造，是深度偽造技術(shù)應(yīng)用最廣泛的代表，其應(yīng)用實(shí)踐包括互換身份的“換臉”、改變?nèi)宋锩娌勘砬?，以及?chuàng)建虛擬人物三大類型。事實(shí)上，從深度偽造技術(shù)的代碼在開源軟件的公開到各種換臉軟件的普及，臉部偽造的應(yīng)用門檻逐漸降低，專業(yè)技術(shù)人員和普通大眾皆可利用深度偽造技術(shù)生成臉部偽造的信息產(chǎn)品。改變?nèi)宋锩娌勘砬槭峭ㄟ^利用深度合成技術(shù)來改變?nèi)宋镂骞俚膭討B(tài)呈現(xiàn)，從而轉(zhuǎn)換視頻中人物的情緒表達(dá)和說話口型。在實(shí)際應(yīng)用中，可用于制作靜態(tài)藝術(shù)作品中人物的動態(tài)視頻、制作具有高度還原性的歷史人物的相關(guān)影像。而創(chuàng)建虛擬人物則是通過收集真實(shí)人物的聲音圖像作為原型，利用深度合成技術(shù)打造出虛擬人物。

深度偽造技術(shù)的更新升級使其產(chǎn)品的逼真度有了很大提高，但仍存在信息產(chǎn)品偽造深度不同的情況。雖然經(jīng)過機(jī)器的深度學(xué)習(xí)生成了偽造信息，但部分深度偽造技術(shù)生成的信息產(chǎn)品在本質(zhì)上仍舊屬于“淺偽”的范疇。

(二)偽造深度及其影響因素

偽造深度是指深度偽造產(chǎn)品內(nèi)容接近真實(shí)和客觀存在的程度，即深度合成產(chǎn)品的逼真程度。深度偽造的產(chǎn)品與真實(shí)的視頻、音頻無法達(dá)到完全一致，存在著不同程度的瑕疵，從而造成了利用深度偽造所生成的信息偽造深度不一的情況。具體而言，偽造深度的程度受兩種類型因素的影響，一是技術(shù)處理上的不自然和硬件設(shè)施的不適配降低了偽造的深度；二是深度偽造信息中的內(nèi)容邏輯與現(xiàn)實(shí)不符合，以及細(xì)節(jié)“露陷”影響了偽造的逼真度。

第一，技術(shù)處理和硬件設(shè)施。深度偽造的產(chǎn)品受技術(shù)處理和硬件設(shè)施的影響，其逼真程度有所不同。深度偽造的源代碼在網(wǎng)站的開放及換臉軟件的普及降低了深度偽造的技術(shù)門檻，偽造深度低的產(chǎn)品往往通過免費(fèi)下載的軟件就可生成，消費(fèi)者不需特殊的專業(yè)知識和技術(shù)能力即可實(shí)現(xiàn)換臉操作。相較于擁有專業(yè)處理技術(shù)和硬件設(shè)施的專業(yè)人員，普通用戶生成的深度偽造產(chǎn)品存在瑕疵，觀察者能夠通過肉眼分辨出其與真實(shí)音頻、視頻的區(qū)別，偽造深度不高。如視頻中人物臉部表情的扭曲生硬、臉部周圍光影的閃爍和模糊，音頻中語調(diào)的不自然和不連貫。而專業(yè)人員通過對源代碼的升級、對瑕疵的技術(shù)處理，以及適配的硬件設(shè)施，則會生成以假亂真、偽造深度極高的深偽產(chǎn)品。

第二，內(nèi)容邏輯和細(xì)節(jié)。深度偽造產(chǎn)品的主要生成動機(jī)包括娛樂消遣和政治目的，政治目的中包含了政治宣傳和政治動員等內(nèi)容。用于娛樂消遣的深度偽造技術(shù)生成的信息內(nèi)容多為某個個體與影視劇中演員的換臉，往往與現(xiàn)實(shí)邏輯和人物身份不符，偽造深度不高。而用于政治宣傳、政治動員的深度偽造產(chǎn)品，要煽動公眾情緒、達(dá)到特定的政治目的，其內(nèi)容通常符合邏輯和政治人物的形象與身份，偽造深度較高。此外，深度偽造技術(shù)生成的信息內(nèi)容的細(xì)節(jié)破綻也會影響其逼真度，在視頻中背景信息的前后不連貫，即某個物體和人物的突然出現(xiàn)或消失都會降低偽造的深度。

此外，偽造深度受技術(shù)硬件及內(nèi)容細(xì)節(jié)的影響而深度不一，最終依賴受眾做出主觀判斷，受眾信息素養(yǎng)是衡量偽造深度的標(biāo)準(zhǔn)。受眾信息素養(yǎng)包括判斷信息、鑒別信息和評價信息等方面的能力。面對同樣的深度偽造產(chǎn)品，具備信息素養(yǎng)的受眾在接收到視覺信息和聽覺信息后，就其內(nèi)容可辨別出是否符合現(xiàn)實(shí)邏輯、是否存在細(xì)節(jié)上的漏洞等。而不具備信息素養(yǎng)或者信息素養(yǎng)不高的受眾則難以辨別出深度偽造產(chǎn)品，同時也證明了該產(chǎn)品的偽造程度較深。

(三)深度偽造與偽造深度的關(guān)系

偽造深度是深度偽造的程度，深度偽造技術(shù)的直接目的是生成具有偽造深度的信息內(nèi)容，深度偽造與偽造深度表現(xiàn)為彼此融合促進(jìn)的關(guān)系。偽造深度的需要對深度偽造技術(shù)的產(chǎn)生、發(fā)展起促進(jìn)作用，而深度偽造技術(shù)的演進(jìn)升級則對偽造深度的程度起提升作用。在深度偽造技術(shù)出現(xiàn)之前，僅能使文本、圖像的篡改、偽造接近真實(shí)的程度，但對于音頻視頻的合成、修改則較為困難，達(dá)不到以假亂真的程度。依托于深度學(xué)習(xí)的深度偽造技術(shù)的孵化則實(shí)現(xiàn)了對聽覺信息的操控和對視覺信息的進(jìn)一步控制，讓音頻信息和視頻信息隨著人類的思維構(gòu)想生成或者更改，以接近真實(shí)的存在，滿足了人們對于信息偽造深度的要求。對偽造深度的需要促進(jìn)了深度偽造技術(shù)的發(fā)展，新技術(shù)的發(fā)明與使用本質(zhì)上是要反映人的意志，要為人類的社會生活與政治理想服務(wù)[1]。作為一種新興技術(shù)，深度偽造技術(shù)進(jìn)入政治領(lǐng)域，受政治驅(qū)動力的影響，就其運(yùn)用的目的而言是帶有政治性的，政治對偽造深度的需要無疑會推動深度偽造技術(shù)的發(fā)展。深度偽造技術(shù)出現(xiàn)之前，出于政治目的，編造事實(shí)的政治攻擊往往通過偽造文本信息，對敵對政黨進(jìn)行文字指控；而深度偽造技術(shù)的應(yīng)用則可在視覺認(rèn)知和聽覺認(rèn)知方面塑造真相，從對“事實(shí)”的陳述轉(zhuǎn)變?yōu)閷Α笆聦?shí)”的展示，為政治攻擊提供具有可信度的證據(jù)，政治對偽造深度的需要會有意無意地促進(jìn)深度偽造技術(shù)的發(fā)展。

深度偽造技術(shù)的演化和更新會提升偽造深度。深度偽造有使用技術(shù)的簡單性與復(fù)雜性之分，相較于簡單傳統(tǒng)的深度偽造技術(shù)與大眾可使用的深度偽造技術(shù)，復(fù)雜的偽造技術(shù)則是借助專業(yè)技能修飾造假信息的瑕疵，并升級深度偽造算法的技術(shù)。簡單來講，深度偽造技術(shù)從依托卷積神經(jīng)網(wǎng)絡(luò)到生成對抗網(wǎng)絡(luò)，其深度偽造工具的日臻完善不僅提高了偽造速度，而且也提高了偽造的深度。

利用深度偽造技術(shù)生成的具有偽造深度的信息除用于影視特效、藝術(shù)還原等特定領(lǐng)域外，其在大眾娛樂狂歡、政治傳播等領(lǐng)域的應(yīng)用則會引發(fā)一系列問題，甚至?xí)⒓夹g(shù)變成資本手中的利器，給社會和個人帶來災(zāi)難性的后果。

二、深度偽造與偽造深度的風(fēng)險

技術(shù)與資本、政治具有的天然聯(lián)結(jié)屬性使技術(shù)會影響政治權(quán)力與資本勢力的運(yùn)作，技術(shù)權(quán)力、政治權(quán)力和資本權(quán)力互相建構(gòu)，以維護(hù)和鞏固既有的權(quán)力結(jié)構(gòu)，在建構(gòu)的過程中或會出現(xiàn)對已有權(quán)力結(jié)構(gòu)的削弱和強(qiáng)化等不確定的風(fēng)險，當(dāng)然，個體權(quán)利和利益的損害亦在技術(shù)所引致的風(fēng)險樣態(tài)中。偽造深度的高低與深度偽造技術(shù)產(chǎn)生風(fēng)險的可能性呈正相關(guān)關(guān)系，偽造深度越高越容易引發(fā)深度偽造技術(shù)的風(fēng)險。

(一)深度偽造技術(shù)加深人的異化

深度偽造技術(shù)對人作為主體所擁有的意識的削弱。在技術(shù)面前，人的批判意識、隱私意識和道德倫理意識被削弱，表現(xiàn)出由人所創(chuàng)造的技術(shù)反過來束縛人，使人喪失了主體性和能動性，個性得不到全面發(fā)展并造成人的異化。

第一，批判意識的淡化。深度偽造技術(shù)在展現(xiàn)其功效時會引起人們對于技術(shù)的盲目崇拜。正如芒福德認(rèn)為，在巨型機(jī)器制造的不幸中，首要的就是當(dāng)今人們對科學(xué)技術(shù)界的無限崇拜[2]。對技術(shù)的崇拜會使人片面地認(rèn)為技術(shù)所具有的正向影響與功能會給人類帶來福音，并認(rèn)為任何技術(shù)都不應(yīng)該受到遏制，具體表現(xiàn)在大部分的深度偽造產(chǎn)品所具有娛樂消遣的價值取向上，其內(nèi)容大都是具有情緒的煽動性的。在后真相時代下，情緒價值高的信息產(chǎn)品無疑能收獲較高的滿意度，進(jìn)而使人們沉醉于深度偽造技術(shù)所造就的滿足個人幻想的情景中，享受著深度偽造技術(shù)所提供的精神層面的滿足，進(jìn)一步加深了人們對于技術(shù)的依賴與崇拜，相反，人們對于技術(shù)的批判意識則被削弱。此外，更有甚者，深度偽造技術(shù)創(chuàng)造出的具有較高偽造深度的信息產(chǎn)品會代替社會真實(shí)，而人們對于深度偽造技術(shù)所創(chuàng)造出的假象的迷戀則會降低對真實(shí)社會的關(guān)注度，從而使人們喪失對社會現(xiàn)實(shí)的批判，并導(dǎo)致技術(shù)對人的異化，即人被自己的創(chuàng)造物所控制、奴役、束縛。

第二，隱私意識的淡化。使用深度偽造技術(shù)創(chuàng)造出具有一定偽造深度的信息產(chǎn)品的前提是收集個人的面部信息、聲紋信息等個體生物數(shù)據(jù)，借助機(jī)器學(xué)習(xí)將采集到的個體聲音、面部五官對原本音頻和視頻中的人物進(jìn)行替換。依托深度偽造技術(shù)的“換臉”軟件，讓不具備專業(yè)技術(shù)知識和能力的普通用戶接觸、使用深度偽造技術(shù)并生成深度偽造產(chǎn)品。在“變身”主角的背后是個人生理信息的被采集、個人隱私的讓渡，利用個人聲紋、面部信息和深度偽造技術(shù)可生成出用以詐騙勒索的假音頻、假視頻信息。由于第三人效果感知定勢的存在，個體往往認(rèn)為偽造的敲詐信息會對他人具有較高欺騙性，而不會影響自身的認(rèn)知和判斷，從而愿意用個人生物信息換取娛樂，輕視了深度偽造技術(shù)對于自身隱私的威脅。

第三，倫理意識的淡化。20世紀(jì)60年代，格伯納等人提出“涵化理論”，認(rèn)為將大眾傳媒的內(nèi)容反復(fù)傳播給受眾會影響其認(rèn)知，進(jìn)而再塑其思維方式。深度偽造技術(shù)所塑造出的偽造現(xiàn)實(shí)不是對真實(shí)現(xiàn)狀的復(fù)制呈現(xiàn)，而是通過深度偽造技術(shù)展現(xiàn)編造過的情景。對深度偽造技術(shù)的惡意使用表現(xiàn)在生成突破道德倫理底線的信息產(chǎn)品上，使其吸引公眾的眼球和注意力、符合大眾的獵奇心理。尤其是在深度偽造放寬技術(shù)門檻與各種換臉軟件的普及后，涉及他人形象的格調(diào)低俗的信息產(chǎn)品可輕易被制作，經(jīng)過社交媒體的大規(guī)模傳播后，將潛移默化地淡化公眾的倫理意識、降低其道德底線，進(jìn)而對現(xiàn)存的社會道德倫理規(guī)范形成潛在性威脅。

深度偽造技術(shù)表面上實(shí)現(xiàn)了人類的想象力和思維意識的自由，但在實(shí)際的技術(shù)應(yīng)用中則會使個體形成對深度偽造產(chǎn)品的依賴和對深度偽造技術(shù)的沉迷，使本屬于人類的理性思維和底線思維受到技術(shù)的蠶食，從而只能順應(yīng)技術(shù)異化的邏輯。

(二)深度偽造技術(shù)阻礙政治傳播

深度偽造技術(shù)的惡意使用進(jìn)一步模糊了真相與假象之間的界限，使輿論場上的信息難以辨清真?zhèn)危瑢?dǎo)致政治傳播面臨政治認(rèn)知被遮蔽、政治溝通被阻塞，以及政治共識被分散的危機(jī)。

第一，深度偽造遮蔽政治認(rèn)知。政治認(rèn)知是政治主體對于政治事件、政治人物、政治規(guī)律等政治信息的看法、態(tài)度和評價。作為技術(shù)和表達(dá)手段的深度偽造，可以通過使用人工智能或者深度學(xué)習(xí)技術(shù)來創(chuàng)建扭曲政治人物、國家形象的圖像、音頻和視頻，并進(jìn)行議程設(shè)置。視覺層面的偽造具有較高可信度，深度偽造的信息被認(rèn)為是一種客觀現(xiàn)實(shí)而被受眾接受，從而使公眾認(rèn)知受到干擾。盡管深度偽造的政治信息會被調(diào)查核實(shí)，但其經(jīng)過偽造的事實(shí)也會公之于眾，同時由于首因效應(yīng)的影響，公眾對最先接觸的深度偽造政治信息先入為主地形成了認(rèn)知和記憶，從而影響、阻礙了真實(shí)政治信息的傳播和傳遞，造成公眾對政治信息的認(rèn)知窄化和片面化。

第二，深度偽造阻礙政治溝通。政治溝通是指政治信息、政治態(tài)度與政治思想交流與交換的全部活動。政治溝通的前提是公眾對公共事務(wù)的理性商討，而深度偽造技術(shù)則被各種政治力量所利用，生成具有偽造深度的視覺信息，用以在認(rèn)知層面上傳遞煽動性言論和誘導(dǎo)性信息。非理性的話語走向使政治交流和互動無法有序開展，情緒式宣泄使政府難以與公眾進(jìn)行溝通對話。政治溝通的理想狀態(tài)是政府與公眾間暢通的互動與對話，而這就需要營造出風(fēng)清氣正的網(wǎng)絡(luò)政治空間，創(chuàng)造出信息雙向流動的良好環(huán)境。政府的辟謠行為是政府權(quán)力的運(yùn)作方式，也是提升政治溝通效能的方式。以政務(wù)新媒體為代表的新型官方辟謠媒介憑借其即時性、交互性等特點(diǎn)成為政府進(jìn)行輿情管理的陣地。而深度偽造技術(shù)的運(yùn)用使具有高度可信性的虛假信息生成，給政務(wù)新媒體的辟謠帶來了挑戰(zhàn)，政府傳遞的信息難以被公眾接受、肯定，政府與公眾之間的信息交流與溝通就形成了阻塞，使兩者無法在公共問題上進(jìn)行有效的交流。

第三，深度偽造分散政治共識。政治共識是人們對于政治價值觀念、政治規(guī)則與程序意見的基本一致。達(dá)成政治共識需要對政治信息形成相通的意義空間，深度偽造所制造的假信息的泛濫會造成真相與假象共同充斥的網(wǎng)絡(luò)空間，真實(shí)的信息與虛假的信息都有各自的受眾。深度偽造技術(shù)還可以結(jié)合算法推薦技術(shù)，根據(jù)用戶的政治立場，有針對性地向其推送具有偽造深度的政治信息，固化用戶的政治態(tài)度，且由于證實(shí)性偏差的存在，受眾在面對深度偽造信息時首先判讀的不是信息真?zhèn)?，而是其是否與自身既有的認(rèn)知結(jié)構(gòu)相接近，個性化推送技術(shù)迎合個體的政治認(rèn)知，進(jìn)而將個體封閉在單一的政治信息環(huán)境中，造成個體政治信息環(huán)境的封閉與狹隘，并進(jìn)一步固化人們的政治觀點(diǎn)與政治立場。接收深度偽造信息推送的群體與接收官方信息推送的群體處于兩種意義空間之中，對政治規(guī)則、政治規(guī)律和政治事實(shí)存在不同的認(rèn)定，導(dǎo)致群際間產(chǎn)生間隙與裂痕，出現(xiàn)網(wǎng)絡(luò)巴爾干現(xiàn)象，也使得政治共識難以形成。

(三)深度偽造技術(shù)加劇資本剝削

資本是一種積累起來的勞動，“資本邏輯”的核心在于通過“榨取”和“剝削”來實(shí)現(xiàn)自身的擴(kuò)張，為再生產(chǎn)和趨利致富做好充分的準(zhǔn)備[3]。作為深度偽造技術(shù)軟件研發(fā)方的資本平臺可憑借換臉軟件的運(yùn)行收集公民的數(shù)據(jù)信息，并將收集到的公民信息數(shù)據(jù)轉(zhuǎn)化為數(shù)據(jù)資本，事實(shí)上，對用戶數(shù)據(jù)的二次利用的實(shí)質(zhì)是對用戶的剝削，以實(shí)現(xiàn)資本利益的最大化。

第一，勞動領(lǐng)域的資本剝削。智能經(jīng)濟(jì)新業(yè)態(tài)新模式不斷催生形態(tài)各異的數(shù)字勞動，從網(wǎng)絡(luò)眾包中的微勞動到平臺用戶的免費(fèi)勞動，資本不再滿足于雇傭勞動制下對人們體力勞動和智力勞動的吸納，而是憑借平臺壟斷和數(shù)據(jù)抓取，實(shí)現(xiàn)對大眾生命政治活動的吸納[4]。個體在深度偽造構(gòu)建的虛擬空間中以自身生理信息作為交換生成具有偽造深度的信息產(chǎn)品，這些數(shù)據(jù)可被開發(fā)軟件的資本平臺采集，個體也隨之喪失對數(shù)據(jù)的控制權(quán)。用戶的個人生理信息和深度偽造產(chǎn)品中含有的信息被平臺數(shù)據(jù)化為數(shù)據(jù)資本，基本信息則用來建立個人的數(shù)字畫像以精準(zhǔn)投放廣告；網(wǎng)絡(luò)行為中用戶的深度偽造內(nèi)容生產(chǎn)免費(fèi)為平臺方提供原創(chuàng)內(nèi)容，為其增加日活量和熱度。資本平臺可將用戶個人信息和原創(chuàng)作品作為與其他平臺數(shù)據(jù)交換和數(shù)據(jù)共享的資料，謀求共同利益。

第二，消費(fèi)領(lǐng)域的資本剝削。個體在技術(shù)構(gòu)建的虛擬空間中生產(chǎn)信息和數(shù)據(jù)，而這些數(shù)據(jù)可被資本平臺采集，基于消費(fèi)者的生理信息諸如性別、年齡有針對地進(jìn)行廣告推送，以刺激消費(fèi)。在廣告和服務(wù)推送的過程中，根據(jù)消費(fèi)者的年齡、性別可分析其消費(fèi)能力、消費(fèi)偏好，采用動態(tài)定價方案，針對不同消費(fèi)者的消費(fèi)水平等顯示出不同的商品或服務(wù)價格，以幫助企業(yè)實(shí)現(xiàn)利潤的最大化。利益驅(qū)使著企業(yè)采取算法進(jìn)行動態(tài)定價，在消費(fèi)市場進(jìn)行價格歧視、算法殺熟。

深度偽造技術(shù)造成的危害不僅在于其技術(shù)的復(fù)雜性，也在于其對于人為因素的放任。深度偽造技術(shù)自身漏洞所造成的產(chǎn)品偽造深度存在的偏差，給技術(shù)治理和攻破深度偽造指明了思路。

三、深度偽造與偽造深度的技術(shù)治理

深度偽造的偽造深度決定了其影響程度，對具有偽造深度的信息進(jìn)行治理，可通過一系列技術(shù)手段偵破深度偽造信息的瑕疵，以降低深度偽造的偽造深度，并最終輔助人類分辨出真實(shí)信息與偽造信息。治理技術(shù)包括基于區(qū)塊鏈的溯源技術(shù)追蹤信息鏈條上的信源、根據(jù)細(xì)節(jié)指標(biāo)的核查技術(shù)判斷音頻信息和視頻信息的真?zhèn)?、利用?biāo)簽技術(shù)對真實(shí)信息和偽造信息進(jìn)行標(biāo)記、利用信息屏蔽技術(shù)限制低俗的深度偽造信息在網(wǎng)絡(luò)空間的傳播。治理技術(shù)的應(yīng)用厘清了真相與假象的界限，使輿論場上原本具有偽造深度的政治信息可信度降低，從而削弱了其對政治傳播帶來的負(fù)面影響；切斷了突破道德倫理底線的深度偽造信息的傳播網(wǎng)絡(luò)，防止其進(jìn)一步且在更大范圍內(nèi)弱化公眾的倫理意識。

(一)深度偽造與偽造深度的技術(shù)治理

第一，溯源技術(shù)。信源的可信度是信息真?zhèn)闻袛嗪饬康臉?biāo)準(zhǔn)之一，通過追蹤信息的來源出處來衡量信源的可信度，而判斷信息真?zhèn)蔚乃菰醇夹g(shù)則是判定、治理深度偽造信息的技術(shù)之一。區(qū)塊鏈以鏈條的方式組成去中心化的共享賬本，記錄網(wǎng)絡(luò)空間中的數(shù)據(jù)并保證數(shù)據(jù)的不可篡改。如斯坦福的DRT小組探索開發(fā)的區(qū)塊鏈程序可追蹤視頻的多個編輯版本，如果無法追蹤到母視頻則無法信任該數(shù)字視頻的內(nèi)容。利用此程序可幫助用戶確定視頻是否可以追蹤到信譽(yù)良好的來源，從而打擊深度偽造。如果溯源技術(shù)檢測到傳播鏈條上的“深度偽造”信息沒有原型的存在，就可以證明該信息有經(jīng)過合成的可能。如果溯源技術(shù)將追蹤到的信息原型同傳播鏈條上的信息版本進(jìn)行比對，也可以檢測出原音頻和原視頻信息內(nèi)容是否被篡改，由此區(qū)分出真實(shí)內(nèi)容和偽造內(nèi)容。

第二，核查技術(shù)。對溯源技術(shù)檢測到的信息傳播鏈條上有深度合成可能的信息，可將數(shù)據(jù)庫中的信息原型與偽造的信息進(jìn)行比對，檢查音頻和視頻是否利用個體生理信息進(jìn)行偽造和冒用。對于檢測到有原型的多版本信息，核查技術(shù)可通過技術(shù)手段檢測信息是經(jīng)過偽造還是隨著事態(tài)發(fā)展的自然演變。溯源技術(shù)與核查技術(shù)所檢測出的真實(shí)信息與偽造信息，為下一步進(jìn)行標(biāo)簽技術(shù)提供了參考。

第三，標(biāo)簽與信息屏蔽技術(shù)。標(biāo)簽技術(shù)可對溯源技術(shù)追蹤到的源頭信息進(jìn)行標(biāo)記，如斯坦福大學(xué)計算機(jī)科學(xué)系的學(xué)生開發(fā)的Neural Hash就可以對生成指向的原始內(nèi)容標(biāo)簽數(shù)字水印，即即使惡意攻擊者可以修改視頻、扭曲音頻、交換他人的面部等，其數(shù)字簽名都無法被抹去。對元內(nèi)容的標(biāo)記方便了大部分用戶追蹤信源，通過對比原始內(nèi)容和接收到的信息辨別出其是否為深度合成的真相。同時，這也有助于提升公民對具有偽造深度信息的辨識能力。信息屏蔽技術(shù)即技術(shù)刪帖，對于利用深度偽造技術(shù)生成的突破道德倫理底線的信息產(chǎn)品，不論其偽造深淺，都應(yīng)限制信息在互聯(lián)網(wǎng)公共空間的流通，防止其對公眾的倫理意識造成不良影響，維護(hù)社會道德規(guī)范。

(二)深度偽造與偽造深度的技術(shù)治理困境

利用技術(shù)治理深度偽造存在的困境與挑戰(zhàn)：治理技術(shù)與偽造技術(shù)在設(shè)計和應(yīng)用上存在時差、偽造形式的多樣性與治理技術(shù)的規(guī)范性存在沖突、治理技術(shù)的程序化和“偽造”動機(jī)復(fù)雜化也存在矛盾。

第一，治理技術(shù)與偽造技術(shù)的時差。深度偽造技術(shù)與鑒別偽造技術(shù)的設(shè)計和應(yīng)用存在滯后性，針對深度偽造技術(shù)的特點(diǎn)及其漏洞而開發(fā)出的治理技術(shù)需要經(jīng)歷代碼設(shè)計、程序測試、軟件應(yīng)用等階段，造成治理技術(shù)在時間上延遲于偽造技術(shù)。而偽造技術(shù)會不斷地升級，治理技術(shù)需根據(jù)偽造技術(shù)的更新進(jìn)行技術(shù)上的不斷調(diào)適，造成其始終與偽造技術(shù)存在設(shè)計上的時差。在技術(shù)應(yīng)用上，利用深度偽造技術(shù)生成的產(chǎn)品在網(wǎng)絡(luò)空間中傳播后，一系列的鑒別技術(shù)才有了應(yīng)用的對象，但也造成了對偽造技術(shù)和偽造信息的滯后處理。

第二，核查技術(shù)規(guī)范性與偽造形式多元性的矛盾。核查技術(shù)內(nèi)設(shè)有特定的算法，在核查深度偽造產(chǎn)品時通過既定的程序判斷信息是否經(jīng)過深度偽造，而偽造形式可能不在核查技術(shù)所檢測的范圍內(nèi)，因此或帶來誤判。如深度偽造技術(shù)對眨眼模式進(jìn)行改進(jìn)，即通過查看眨眼模式來識別深度偽造的工具是否失效；對深度偽造技術(shù)進(jìn)行升級后，視頻中人物臉部周圍光影的閃爍、模糊，音頻中語調(diào)的不自然、不連貫等等瑕疵都被消除掉，這也導(dǎo)致識別此瑕疵的核查技術(shù)無法發(fā)揮作用。因此，偽造形式的多元性給核查深度偽造帶來了阻礙。

第三，技術(shù)程序化和“偽造”動機(jī)復(fù)雜化的沖突。深度偽造技術(shù)的低門檻應(yīng)用使社交媒體上生成的深度偽造產(chǎn)品主體泛化，在注意力經(jīng)濟(jì)模式下，或有部分用戶為博取眼球而聲稱其發(fā)布了深度偽造的信息。即使通過某種形式的身份驗(yàn)證證明了某些事物是真實(shí)的，但如果當(dāng)事人否認(rèn)其真實(shí)性，則依然會形成無法驗(yàn)證的怪圈[5]。技術(shù)的判定是程序化的，而“偽造”的動機(jī)則是多變復(fù)雜的，兩者的沖突是技術(shù)治理的困境之一。

持續(xù)加強(qiáng)對治理技術(shù)的探索開發(fā)，可以縮短其設(shè)計與應(yīng)用的時間，以實(shí)現(xiàn)技術(shù)治理的有效應(yīng)用，從而提升治理技術(shù)應(yīng)對多元化、復(fù)雜化的深度偽造形式與動機(jī)的能力。此外，建立技術(shù)預(yù)警機(jī)制是治理技術(shù)的方向。

(三)深度偽造與偽造深度的技術(shù)治理邊界與限度

治理技術(shù)依托科技公司搭建設(shè)計與運(yùn)營的框架，并作為政府治理社會的工具發(fā)揮其服務(wù)社會的功能，技術(shù)治理涉及三個主體即技術(shù)本身、政府和資本，因此，應(yīng)構(gòu)建技術(shù)倫理邊界、政治倫理邊界以及經(jīng)濟(jì)倫理邊界，以明確技術(shù)治理過程中的秩序與規(guī)則。

第一，技術(shù)倫理邊界。針對治理深度偽造技術(shù)所研發(fā)的溯源技術(shù)、核查技術(shù)與標(biāo)簽技術(shù)，可以在一定程度上應(yīng)對具有偽造深度的信息所帶來的負(fù)面影響。治理深度偽造的技術(shù)是從技術(shù)層面檢測、判定經(jīng)過合成的信息，從而使人類用戶根據(jù)技術(shù)判斷的結(jié)果認(rèn)定信息是否經(jīng)過深度偽造，以反映出自主意識和價值判斷對技術(shù)的讓渡。治理技術(shù)的開發(fā)研究和應(yīng)用發(fā)展的初衷是服務(wù)人類，而其所表現(xiàn)出的服務(wù)性存在則易滑向思想控制的存在，從而使人類的主體性地位受到威脅，有鑒于此，技術(shù)倫理邊界的建設(shè)應(yīng)受到關(guān)注。

工具理性和價值理性關(guān)系的融合共生構(gòu)成了技術(shù)倫理邊界。工具理性注重履行技術(shù)的使命，追求技術(shù)達(dá)到效率的最大化。當(dāng)以工具理性作為技術(shù)治理深度偽造的主導(dǎo)價值取向時，雖然能夠應(yīng)對深度偽造帶來的負(fù)面影響，但也會將技術(shù)引入野蠻發(fā)展的軌道而使個體形成對技術(shù)的依賴，深度偽造的信息會被技術(shù)核查并打上標(biāo)簽，人類用戶自身的判斷、分析與理解能力未必能識破深度偽造的信息，因此不如依靠技術(shù)的判斷與治理影響個體的價值認(rèn)知、價值選擇和價值判斷。另外，價值理性的人本主義展示出對人文精神的關(guān)懷，價值理性的過度強(qiáng)調(diào)或?qū)е缕湟晃兜刈非笕宋膬r值而限制技術(shù)的運(yùn)用與發(fā)展，進(jìn)而阻礙技術(shù)在深度偽造領(lǐng)域發(fā)揮治理的作用。因此，構(gòu)建價值理性與工具理性融合共生的關(guān)系，有利于技術(shù)最大限度地達(dá)到預(yù)期目標(biāo)，同時技術(shù)的設(shè)計也應(yīng)受到倫理道德和準(zhǔn)則的約束，為人類的自主性思考和理性思維留有一定空間。

第二，政治倫理邊界。技術(shù)與政治共同處于社會系統(tǒng)之中，技術(shù)影響政治系統(tǒng)運(yùn)作，在對政治認(rèn)知、政治溝通和政治共識的形成帶來阻礙的同時，政治也內(nèi)嵌于技術(shù)的運(yùn)作與應(yīng)用中，利用技術(shù)鞏固既定的政治體系。數(shù)字技術(shù)是政府治理變革的助推器和驅(qū)動力，數(shù)字技術(shù)嵌入治理體系可有效提升治理能力與治理效能[6]。利用技術(shù)治理深度偽造的本質(zhì)是加強(qiáng)國家的社會管控能力，若越過政治倫理邊界，作為管理和權(quán)力方的政府可利用新興治理技術(shù)構(gòu)建新型的控制網(wǎng)絡(luò)，將治理技術(shù)變成加強(qiáng)管控的利器。如通過標(biāo)簽技術(shù)認(rèn)定偽造信息，對個人發(fā)布的、用以攻擊政治話語、公共政策與現(xiàn)有權(quán)力體系的信息打上標(biāo)簽并限制其傳播，具體表現(xiàn)為技術(shù)刪帖和限制訪問等信息屏蔽行為。而針對用以政治攻擊的深度偽造信息，標(biāo)簽技術(shù)可以滯后處理甚至不處理。政府利用技術(shù)治理深度偽造，是將技術(shù)作為社會治理的工具和手段。政府對社會進(jìn)行治理時需要在政治倫理的邊界內(nèi)行使權(quán)力，以避免將技術(shù)治理轉(zhuǎn)變?yōu)榧夹g(shù)控制。

權(quán)力和權(quán)利關(guān)系的平衡構(gòu)成了政治倫理邊界。政治倫理學(xué)作為一門研究政治正當(dāng)性及其操作規(guī)范和方法論的學(xué)問[7]，它規(guī)定了權(quán)力主體在行使政治權(quán)力時應(yīng)具有的價值正當(dāng)性。即使治理深度偽造的技術(shù)賦予了政府追蹤、收集公民信息，進(jìn)而監(jiān)督與控制私人信息的可能性，但政府的責(zé)任仍然在于平衡自身權(quán)力與公民權(quán)利，即在實(shí)現(xiàn)輿論監(jiān)督的同時不以技術(shù)侵犯公民的私人領(lǐng)域，在實(shí)現(xiàn)維護(hù)公共空間秩序的同時不以技術(shù)限制公民政治參與，不以讓渡個人權(quán)利、侵蝕個體隱私與尊嚴(yán)的情況下延伸權(quán)力的范圍。此外，政府對公民的權(quán)利保護(hù)應(yīng)在倫理道德框架之內(nèi)，以避免過度保障權(quán)利而限制權(quán)力運(yùn)作，由此造成權(quán)利與權(quán)力關(guān)系陷入另一個極端。

第三，經(jīng)濟(jì)倫理邊界。治理深度偽造的技術(shù)設(shè)計研發(fā)和應(yīng)用由科技公司執(zhí)行，為防止治理技術(shù)被惡意修改和應(yīng)用，甚至被深度偽造技術(shù)用做技術(shù)升級的參考，治理技術(shù)往往不公之于眾，這也造成治理技術(shù)處于“黑箱”之中，資本平臺對數(shù)據(jù)資源進(jìn)行開采，掌控借助核查技術(shù)所建數(shù)據(jù)庫中公民的生理信息及借助溯源技術(shù)中的區(qū)塊鏈程序獲取公民發(fā)布在社交媒體上的思想信息，并以技術(shù)治理的名義規(guī)避政府和公眾監(jiān)督，資本具有的天然擴(kuò)張屬性使商業(yè)化運(yùn)作的企業(yè)利用網(wǎng)民數(shù)據(jù)獲取收益。因此，需構(gòu)建經(jīng)濟(jì)倫理邊界以規(guī)范經(jīng)濟(jì)主體的商業(yè)行為。

資本平臺利益與公民權(quán)益的關(guān)系構(gòu)成了經(jīng)濟(jì)倫理邊界。經(jīng)濟(jì)倫理既是激發(fā)經(jīng)濟(jì)行為的精神動力，又是評價人們經(jīng)濟(jì)活動是否合乎道義的標(biāo)尺，并以此影響人們對經(jīng)濟(jì)體制和經(jīng)濟(jì)行為的選擇[8]。在經(jīng)濟(jì)倫理邊界內(nèi)，企業(yè)獲得經(jīng)濟(jì)效益不以損害公民的權(quán)益為前提和交換，在以技術(shù)治理的形式服務(wù)社會時應(yīng)尊重個體權(quán)益。

技術(shù)治理的邊界是技術(shù)治理深度偽造過程中各主體應(yīng)遵守的規(guī)范和道德底線。只有在技術(shù)倫理邊界、政治倫理邊界和經(jīng)濟(jì)倫理邊界內(nèi)，技術(shù)才能發(fā)揮正向的治理作用。而技術(shù)治理的挑戰(zhàn)和其存在的越界風(fēng)險，則表明對于深度偽造的治理不能完全依賴于技術(shù)，社交媒體平臺、媒體從業(yè)者、公眾、政策和法律都應(yīng)共同作為治理深度偽造的主體，搭建起互相監(jiān)督、共同治理的有效治理框架。