劉 杰

（華東政法大學(xué)刑事法學(xué)院，上海 201620）

一、引言

深度偽造技術(shù)作為人工智能的重要分支，在給人類生活帶來便利和娛樂之時，潛在濫用風(fēng)險。就目前來看，其被濫用的領(lǐng)域主要集中在政治領(lǐng)域、社會領(lǐng)域和經(jīng)濟(jì)領(lǐng)域。比如通過宣傳和干預(yù)選舉等來威脅國家安全；故意制造虛假信息妨害社會公眾對政府的信任；引發(fā)網(wǎng)絡(luò)安全問題等等。考慮該項(xiàng)技術(shù)被濫用的危險性，美國國防部研究局甚至認(rèn)為該項(xiàng)技術(shù)在一定程度上已經(jīng)具備了高科技武器的性質(zhì)，如不加以規(guī)制，將給美國的政治傳統(tǒng)乃至國家安全帶來嚴(yán)重的威脅。[1]國外通過立法等諸多舉措對之進(jìn)行預(yù)防和規(guī)制，學(xué)者也多有探討和研究。從國內(nèi)的研究來看，深度偽造的相關(guān)研究主要集中在計(jì)算機(jī)、新聞傳播、法律和軍事等領(lǐng)域。遺憾的是，對這一與情報(bào)密切關(guān)聯(lián)的技術(shù)，情報(bào)學(xué)界相關(guān)研究卻幾乎付之闕如。基于此，筆者將重點(diǎn)圍繞深度偽造技術(shù)的情報(bào)風(fēng)險展開研究，期望起到拋磚引玉的作用。

一般來說，情報(bào)風(fēng)險包括兩個方面：一是“深度偽造”技術(shù)給情報(bào)工作帶來的風(fēng)險；二是利用該技術(shù)充當(dāng)情報(bào)工具，對目標(biāo)對象實(shí)施特定行為而產(chǎn)生的風(fēng)險。其中前者是技術(shù)本身的風(fēng)險，后者是濫用技術(shù)制造的風(fēng)險。兩者之間又具有一定的關(guān)聯(lián)性，具有一體兩面的特性。單純從深度偽造技術(shù)來看，因技術(shù)本身具有中立性，客觀上不存在對情報(bào)工作帶來直接的挑戰(zhàn)，但由于現(xiàn)今大數(shù)據(jù)時代，數(shù)據(jù)概念之內(nèi)涵與外延在逐步發(fā)展和泛化，[2]情報(bào)搜集范圍極大拓展，深度偽造技術(shù)制造的“數(shù)據(jù)”疊加，無疑給情報(bào)搜集、分析等工作帶來了新的挑戰(zhàn)。利用深度偽造技術(shù)充當(dāng)情報(bào)工具，則毫無疑問會極大地干擾情報(bào)工作的開展，造成不可估量的后果。

二、“深度偽造”技術(shù)的情報(bào)風(fēng)險類型

（一）“深度偽造”技術(shù)給情報(bào)工作帶來的風(fēng)險

1.情報(bào)規(guī)劃風(fēng)險：制造需求假象。情報(bào)規(guī)劃是開展情報(bào)工作的第一步。在情報(bào)規(guī)劃之中往往需要確定客戶的情報(bào)需求，依據(jù)需求擬定相應(yīng)的選題，選題的確定即意味著對后續(xù)情報(bào)工作的對象、目標(biāo)和方向有了較為清晰的描繪。有學(xué)者指出，情報(bào)規(guī)劃是“最為重要的，因?yàn)槠渌ぷ鞫既Q于所制定的規(guī)劃。”[3]規(guī)劃是行動的先導(dǎo)，同時也是資源配置的指南。前期規(guī)劃合理，則有利于最大化地配置情報(bào)資源，提高其利用效率，否則會導(dǎo)致情報(bào)資源的浪費(fèi)。從決策科學(xué)性的角度而言，所有領(lǐng)域的決策都需要情報(bào)先導(dǎo)，以提升決策的科學(xué)性和準(zhǔn)確性。但由于情報(bào)能力和情報(bào)資源等的有限性，必須確定情報(bào)資源使用的優(yōu)先等級。所以，情報(bào)需求的準(zhǔn)確判斷與轉(zhuǎn)換，情報(bào)資源的合理配置等是情報(bào)規(guī)劃的重中之重。

然而，情報(bào)規(guī)劃本身是一項(xiàng)復(fù)雜的工作，需求的識別、選題的擬定、人員的調(diào)配、時間和步驟的安排等等皆非輕而易舉。深度偽造技術(shù)的侵入加劇了情報(bào)規(guī)劃風(fēng)險。例如情報(bào)需求的準(zhǔn)確判定是開展情報(bào)工作基礎(chǔ)中的基礎(chǔ)，政府決策部門預(yù)購買特定種類的公共服務(wù)，則需要首先了解公民的需求，但公民的需求豐富多樣，政府購買服務(wù)過程中普遍存在著與公民需求不匹配的情形。[4]有學(xué)者認(rèn)為可以運(yùn)用大數(shù)據(jù)技術(shù)對公民日常的各種留痕數(shù)據(jù)進(jìn)行收集、整合、挖掘和分析等，準(zhǔn)確了解公民的需求。[5]然而，深度偽造技術(shù)的不良影響之下，所謂的“公民的需求痕跡”很容易被偽造，使得看似大規(guī)模的“需求表達(dá)數(shù)據(jù)”因缺乏真實(shí)性而失去效用。不僅如此，虛假的“需求表達(dá)數(shù)據(jù)”還可能不恰當(dāng)?shù)匚疀Q策部門的注意力，擾亂科學(xué)政策議題的形成和發(fā)展過程，最終影響決策乃至執(zhí)行，尤其如今注意力作為一種有限乃至稀缺的資源時更是如此。

2.情報(bào)搜集風(fēng)險：偽劣開源情報(bào)泛濫。情報(bào)搜集是開展情報(bào)工作中十分重要的基礎(chǔ)性工作。搜集而來的信息情報(bào)作為后續(xù)情報(bào)分析的原始材料，是情報(bào)分析活動的依據(jù)和基礎(chǔ)。一般來說，情報(bào)搜集需要把握針對性、全面性、系統(tǒng)性、新穎性、可靠性、科學(xué)性和計(jì)劃性等基本原則。[6]且筆者以為，可靠性作為情報(bào)搜集原則的重中之重，是確保信息情報(bào)客觀、真實(shí)的必然要求，也是確保情報(bào)分析質(zhì)量、情報(bào)產(chǎn)品優(yōu)良的第一道關(guān)口。故該項(xiàng)原則要求所搜集的情報(bào)信息必須是客觀、真實(shí)和準(zhǔn)確的，一方面要盡量做到信息來源的權(quán)威性，另一方面也要保持信息的原始性等。

可靠性原則對所搜集的情報(bào)信息真?zhèn)芜M(jìn)行了規(guī)定。但深度偽造技術(shù)首先即傳遞出“偽造”的特征，以虛假的無中生有的圖片、音頻、視頻等混淆視聽，誤導(dǎo)公眾乃至情報(bào)搜集人員。尤其需要警惕的是，大數(shù)據(jù)時代開源情報(bào)日益受到重視，有學(xué)者認(rèn)為，開源情報(bào)在實(shí)際工作中充當(dāng)了情報(bào)實(shí)踐的基石，具有基礎(chǔ)性價值。它貢獻(xiàn)了廣闊的資料來源、貢獻(xiàn)了情報(bào)產(chǎn)品的主要內(nèi)容、豐富了情報(bào)范疇內(nèi)高效的工具與技術(shù)，同時其主體基礎(chǔ)也更為廣泛。[7]與此同時，大數(shù)據(jù)時代的開源情報(bào)工作也發(fā)生了顯著的變革，情報(bào)搜集的范圍從限定情報(bào)到全范圍情報(bào)、斂散特性由封閉性變?yōu)殚_放性、分析人員由固定人員變?yōu)閷I(yè)人員、服務(wù)對象由特定人群變?yōu)槿w人員、處理流程由線性流程變?yōu)檠h(huán)流程等等。[8]在此背景之下，深度偽造技術(shù)使得開源情報(bào)獲取的風(fēng)險直線上升。一是廣泛的嵌入性。開源情報(bào)分布在各個領(lǐng)域，深度偽造皆可與之融合侵入。二是開放易得性。開源情報(bào)很大程度上突破了傳統(tǒng)情報(bào)的封閉性，使之變得共享和開放，深度偽造技術(shù)的平民化和普遍化趨勢使之獲取成本非常低廉。一方面部門深度偽造技術(shù)代碼被公開，模仿者、改變和進(jìn)步者隨之而來，另一方面相關(guān)的桌面軟件隨之問世，制造換臉視頻變得異常簡單且便捷，用戶即使缺乏知識也可以使用。[9]三是對象的不特定性。開源情報(bào)之服務(wù)對象不在限定于特定人群，而是全體民眾，深度偽造技術(shù)因其開放易得而指向不特定多數(shù)人群，外加新媒體、移動互聯(lián)網(wǎng)等技術(shù)的飛速發(fā)展，使得其傳播效率極大提升。

3.情報(bào)分析風(fēng)險：毒樹之果。情報(bào)分析是一項(xiàng)內(nèi)容廣泛的信息加工處理和情報(bào)提煉活動，它以大量相關(guān)的原生信息為處理對象，通過對原生信息內(nèi)容的分析、綜合或評價，以提煉出對管理、決策等活動有支持作用的情報(bào)，為管理、決策等活動服務(wù)。情報(bào)分析水平是情報(bào)學(xué)學(xué)術(shù)水平的重要標(biāo)志，是“智囊”的主要體現(xiàn)。情報(bào)分析水平和能力的高低直接影響著情報(bào)工作的質(zhì)量，繼而對決策的科學(xué)性和準(zhǔn)確性產(chǎn)生影響。

如果說情報(bào)搜集是原材料，情報(bào)分析則是加工材料的過程。顯然，受到污染或損壞的原材料是無法加工成為合格的情報(bào)產(chǎn)品的。即所謂的“毒樹之果”，原始材料或數(shù)據(jù)受到污染，很難再保障果實(shí)的品質(zhì)。深度偽造對情報(bào)分析不良影響是全方位的。從影響面來說，它波及范圍廣泛，這也由情報(bào)分析的廣泛性決定的。情報(bào)分析存在于各種領(lǐng)域，如國家安全、執(zhí)法和商業(yè)，以及跨國公司和恐怖組織等非國家行為體之中。[10]從影響“線”來說，它基本上貫穿于情報(bào)分析過程的始終，不論是對于搜集而來的原始信息的選擇還是整理，鑒別還是評析，分析還是綜合，也不論其采用的是定性的分析方法還是定量的分析方法，都將不可避免地受到不良影響。以2018 年發(fā)生的“昆山反殺案”為例，盡管最終的結(jié)果認(rèn)定于某明屬于正當(dāng)防衛(wèi)，無需承擔(dān)刑事責(zé)任，但也有人擔(dān)憂，“如果沒有那段砍人視頻引起強(qiáng)烈的輿論，沒有這么多人關(guān)注，還會是這種結(jié)果嗎？”[11]遺憾的是，作為定案關(guān)鍵證據(jù)的視頻，其來源問題至今仍不清楚。試想，如果若干年之后發(fā)現(xiàn)該視頻是基于深度偽造技術(shù)合成——盡管在該案之中，其可能性很低，但依賴此種合成視頻形成的虛假證據(jù)之危害卻是無窮的。時至今日，視頻監(jiān)控系統(tǒng)遍布各個角落，視頻偵查亦成為眾多案件偵破的重要甚至是主要途徑，一旦視頻偽造無障礙地流入刑事司法體系，其后果將不堪設(shè)想。

4.情報(bào)利用風(fēng)險：誤導(dǎo)決策。情報(bào)利用的核心即“輔助決策”，打通情報(bào)與決策之間的“最后一公里”。一般而言，情報(bào)機(jī)構(gòu)以及情報(bào)用戶評價情報(bào)產(chǎn)品的質(zhì)量往往依據(jù)決策所產(chǎn)生的結(jié)果。如某市公安局禁毒執(zhí)法系統(tǒng)對執(zhí)法質(zhì)量評價指標(biāo)之中，以結(jié)果為導(dǎo)向，重視打擊后形成的戰(zhàn)果，對單純的情報(bào)禁毒工作卻有所輕視。[12]筆者的研究亦指出，在情報(bào)產(chǎn)品質(zhì)量評估過程之中存在著一種結(jié)果邏輯。[13]如此，在深度偽造技術(shù)入侵情報(bào)領(lǐng)域之后，首當(dāng)其沖的即是“情報(bào)失察”或是“決策失誤”。前者是因?yàn)榍閳?bào)分析工作乃至情報(bào)源頭本身即為虛假或偽造，必然影響了情報(bào)工作的整個流程；而后者則是基于情報(bào)的輔助、支撐等形成的錯誤決定。

所以，深度偽造侵入之下情報(bào)利用的風(fēng)險主要可能在于：一是錯誤的“情報(bào)”所引致錯誤的決策；二是長期的錯誤決策“反饋”至情報(bào)機(jī)構(gòu)，將極大地?fù)p害情報(bào)機(jī)構(gòu)的聲譽(yù)和組織形象，不利于情報(bào)機(jī)構(gòu)和用戶之間公共關(guān)系之維護(hù)；[14]三是情報(bào)機(jī)構(gòu)與用戶之間基于“信任”紐帶所形成的關(guān)系狀態(tài)將受到?jīng)_擊，雙方之間正常關(guān)系維系成本增加，情報(bào)機(jī)構(gòu)需不遺余力地增強(qiáng)與用戶之間的溝通交流，以強(qiáng)化用戶對其情報(bào)產(chǎn)品質(zhì)量的認(rèn)可與信賴；四是為保障情報(bào)源以及情報(bào)產(chǎn)品的客觀性，需強(qiáng)化對情報(bào)源以及情報(bào)分析的鑒真措施，因此必然會犧牲一定的“及時性”。然而，特定領(lǐng)域情報(bào)及時性的喪失即意味著情報(bào)功效的喪失。

（二）充當(dāng)情報(bào)工具之風(fēng)險

深度偽造制品的逼真性、便宜性、易傳播性以及難以覺察性使之工具屬性價值凸顯。惡意使用深度偽造技術(shù)制造的風(fēng)險又因?yàn)樯鲜鎏匦允怪y以預(yù)防、難以察覺、難以控制、難以逆轉(zhuǎn)。同時由于深度偽造制品在移動互聯(lián)網(wǎng)時代嵌入的全方位性和深入性，使得其風(fēng)險廣為彌散，幾乎在任何層面都可能對既有的安定和秩序構(gòu)成挑戰(zhàn)和威脅。筆者以為以下幾方面尤為關(guān)鍵。

1.危害國家安全和社會公共安全之風(fēng)險。情報(bào)能夠?yàn)閲野踩珱Q策發(fā)揮重要的引領(lǐng)作用，可以幫助決策者分析戰(zhàn)略環(huán)境，消除環(huán)境中的諸多不確定因素。[15]但當(dāng)深度偽造被濫用為情報(bào)工具，將會給國家安全甚至國際局勢造成沖突和危機(jī)。深度偽造視頻已經(jīng)成為任何國度國家安全的主要挑戰(zhàn)之一，因?yàn)樗屓藗冋f了或做了他們從來沒有說過或做過的事情。[16]例如，本已存在緊張關(guān)系的兩國之間，因?yàn)橐欢慰雌饋砜尚诺?，顯示其中一國將對另一國某一區(qū)域發(fā)動襲擊的視頻或音頻流出，而使得兩國之間關(guān)系變得更為僵硬。或者這種情形發(fā)生在民族或種族局勢緊張的地區(qū)，同樣將可能引發(fā)沖突。深度偽造技術(shù)及其制品完全可能被武器化。[17]恐怖組織及其追隨者似乎更有可能對之加以利用，特別是網(wǎng)絡(luò)恐怖主義成為互聯(lián)網(wǎng)時代恐怖主義活動發(fā)展的新態(tài)勢之下，深度偽造技術(shù)將為“制造傳播暴恐音視頻”提供更為便利的條件。就其本身的資源擁有情況來看，極端分子和恐怖組織難以制造出具有欺騙性但看起來又真實(shí)的視頻或音頻材料，但利用深度偽造技術(shù)，恐怖分子將會針對特定目標(biāo)散布極具煽動性或挑撥離間性質(zhì)的音視頻，以此達(dá)到無中生有、煽風(fēng)點(diǎn)火的目的。如宣傳某國士兵屠殺平民或是商議銷毀某一宗教建筑等等，以此來激發(fā)矛盾，擴(kuò)大影響力，拓展其招募能力。[18]再如利用深度偽造技術(shù)操縱某一國內(nèi)的重要政治活動，如重要的戰(zhàn)略決策或人事安排等。在2020 年度美國總統(tǒng)選舉開始前期，即有大量的議員對可能存在的利用深入偽造視頻操控選舉表示擔(dān)憂，認(rèn)為這可能構(gòu)成一種新的信息戰(zhàn)。如現(xiàn)任眾議院情報(bào)委員會主席亞當(dāng)·希夫（Adam Schiff）在內(nèi)的三名眾議院議員9 月份致信美國國家情報(bào)總監(jiān)丹·科茨（Dan Coates），對深度偽造技術(shù)“可能很快就會被惡意的外國行為者使用”表示擔(dān)憂，認(rèn)為可能威脅到美國的公共話語權(quán)和國家安全。同樣對于危害社會公共安全而言，深度偽造技術(shù)可能在被濫用在大型群眾性活動之中，使得其破壞程度更為劇烈。例如大型體育賽事往往人數(shù)眾多、規(guī)模較大、涉及環(huán)節(jié)多且波及范圍廣，如使用深度偽造音頻故意引發(fā)騷亂，將極有可能導(dǎo)致重大人員傷亡。

2.危害社會經(jīng)濟(jì)秩序和社會管理秩序之風(fēng)險。市場經(jīng)濟(jì)活動主體需遵循一定的經(jīng)濟(jì)準(zhǔn)則和行為規(guī)范，唯有如此才能保持經(jīng)濟(jì)秩序的穩(wěn)定和持續(xù)的良性發(fā)展。但深度偽造技術(shù)的出現(xiàn)與濫用可能被別有用心的市場主體用來充當(dāng)競爭情報(bào)工具，因其企圖通過擾亂競爭對手的正常經(jīng)營而獲取非法利益。有學(xué)者對此表達(dá)了擔(dān)憂，如馬里蘭大學(xué)法學(xué)教授丹妮爾·西特倫（Danielle Citron）曾警告，深度造假可能對美國企業(yè)界構(gòu)成潛在威脅。如果某家公司在首次公開發(fā)行股票的前一天，突然出現(xiàn)了一段深度偽造的視頻，內(nèi)容是該公司的首席執(zhí)行官正在實(shí)施某種犯罪行為，假如這段視頻被廣泛傳播，該公司的股價則極有可能下跌，造成巨大的資金損失。盡管偽造的視頻可能會在短時間內(nèi)被揭穿，但彼時公司的損失已經(jīng)發(fā)生，難以挽回。[19]上述行為的法律實(shí)質(zhì)乃是損害競爭對手商業(yè)信譽(yù)的行為，而從其侵害的具體法益來看，深度偽造技術(shù)還可能被濫用于我國刑法所規(guī)定的編造并傳播證券、期貨交易虛假信息罪、虛假廣告罪、金融詐騙如集資詐騙罪、貸款詐騙罪、票據(jù)詐騙罪等等諸多的罪名和犯罪行為之中，對社會經(jīng)濟(jì)秩序構(gòu)成嚴(yán)重危害。深度偽造制品同樣可能對社會管理秩序造成重大威脅。一國因調(diào)整司法活動而形成良好司法秩序即屬于此處的社會管理秩序。但深度偽造制品可能對一國之司法活動構(gòu)成嚴(yán)重危害，從而導(dǎo)致社會公眾對于司法活動所秉持的公平、正義等基本價值觀念產(chǎn)生懷疑，進(jìn)而對法律乃至整個司法制度產(chǎn)生不信任感。例如深度偽造技術(shù)可能被訴訟參與人用來偽造某種證據(jù)形式，如視聽資料等可以混淆司法機(jī)關(guān)對案件事實(shí)的認(rèn)知，進(jìn)而可能導(dǎo)致冤假錯案的產(chǎn)生。對此，有學(xué)者警示，在人工智能和深度偽造時代，對視頻類證據(jù)的真實(shí)性必須予以審慎鑒定和采納適用。[20]更為關(guān)鍵的是，視頻類證據(jù)還具有言詞以及實(shí)物等其他類型的證據(jù)所不具備的“天然屬性”，因?yàn)槿藗兺酉嘈潘麄兯吹降模ǘ锹牭降模?。相關(guān)的研究也表明，相較于口頭的言詞證據(jù)，視頻證據(jù)本身即是一種強(qiáng)大的事實(shí)主張和證明形式，更能獲得人們的信任，[21]以此導(dǎo)致人們傾向于不再追問該視頻是否來源可疑或是被偽造而得。[22]

3.危害公民的人身權(quán)利和財(cái)產(chǎn)安全之風(fēng)險。公民的人身權(quán)利是公民最基本也是最重要的個人專屬性權(quán)利。法律尤其是憲法專門開辟章節(jié)對公民的基本權(quán)利進(jìn)行了特別的規(guī)定，以此彰顯其獨(dú)特價值和崇高的地位。一般來說，公民的人身權(quán)利包括生命權(quán)、健康權(quán)、性的決定權(quán)、人身自由權(quán)、名譽(yù)權(quán)以及隱私權(quán)等。深度偽造技術(shù)的濫用即始于對人身權(quán)益的侵害?！吧疃葌卧臁币辉~之由來即是一位Reddit 網(wǎng)絡(luò)用戶創(chuàng)造并用于制造色情視頻。在該視頻之中，主演《權(quán)力的游戲》的艾米莉亞·克拉克（Emilia Clarke）的臉被疊加在了一個成人電影明星的身體上，被打造成一部低級色情作品。同樣例子的是印度某女性記者因揭露官員的黑幕而遭遇“色情報(bào)復(fù)”和死亡威脅，最后不得不住院治療。[23]時至今日，色情活動仍然是深度偽造被濫用最為廣泛的領(lǐng)域之一，被稱之為深度偽造色情（deepfake pornography）的泛濫。雖然大多數(shù)深度造假作品本質(zhì)上是色情的，但該技術(shù)為任何人的圖像都提供了以各種方式被使用的機(jī)會。[24]正如邁阿密大學(xué)技術(shù)法學(xué)教授瑪麗·安妮·弗蘭克斯（Mary Anne Franks）所擔(dān)憂的，“到明年，我們都可能生活在這樣一個世界里，每個人都有自己的假性愛視頻”。而令人擔(dān)憂的是，該項(xiàng)技術(shù)不僅蔓延性強(qiáng)，且容易習(xí)得。在觀看深度偽造色情視頻之后，評論人士之間還會互相詢問有關(guān)“深度造假”技術(shù)的問題。一名評論者表示，他想要制作一段前女友的深度偽造性愛視頻，但他只有她的30 張照片。他想知道在臺式機(jī)上使用該項(xiàng)技術(shù)是否有效。評論人士之間還會相互引導(dǎo)對方在網(wǎng)絡(luò)上尋找教程，指導(dǎo)如何制作深度造假視頻。[25]所以上述行為可能構(gòu)成侮辱罪或是傳播淫穢物品罪等罪名，侵犯公民合法權(quán)益。深度偽造技術(shù)濫用使得公民財(cái)產(chǎn)面臨著更大的安全風(fēng)險，犯罪分子深度偽造技術(shù)制造合成某人的視頻或是音頻，模擬受害者熟悉的領(lǐng)導(dǎo)或是家人，實(shí)施錢財(cái)詐騙行為。如《華爾街日報(bào)》報(bào)道的一家總部位于英國的能源公司首席執(zhí)行官的被騙經(jīng)歷。他是在和他的老板——德國母公司的首席執(zhí)行官通電話時被騙的，他按照其命令將22 萬歐元款項(xiàng)立即匯入了一名匈牙利供應(yīng)商的銀行賬戶。期間詐騙犯一共打了三次電話，第一次發(fā)起轉(zhuǎn)賬，第二次謊稱已經(jīng)報(bào)銷，第三次要求后續(xù)付款。盡管他因?yàn)閼岩蓻]有發(fā)送第二筆款項(xiàng)，但第一筆款項(xiàng)已經(jīng)轉(zhuǎn)移，從匈牙利銀行賬戶轉(zhuǎn)移到墨西哥的一個賬戶，然后再轉(zhuǎn)移到其他地方。[26]可見，深度偽造技術(shù)極易被用來實(shí)施詐騙行為，損害公民個人或是公司的財(cái)產(chǎn)權(quán)益。

4.危害國防利益風(fēng)險。深度偽造技術(shù)從其產(chǎn)生之日起即引起了美國國家安全部門和情報(bào)部門的高度關(guān)注?！扒閳?bào)機(jī)構(gòu)極其關(guān)心深偽造技術(shù)的興起”，參議院情報(bào)委員會的民主黨領(lǐng)袖在一份聲明中說。美國國防部通過美國國防高級研究計(jì)劃局（DARPA），已經(jīng)委托美國各地的研究人員開始開發(fā)檢測視頻深度造假的方法，與此同時亦實(shí)施了一項(xiàng)有競爭力的獎勵措施，激勵科研人員將之軍事化，以便應(yīng)用于心理戰(zhàn)和輿論控制，這無疑是源于該項(xiàng)技術(shù)的高度潛在危險性及其強(qiáng)大的破壞性。深度偽造技術(shù)的濫用從其可能構(gòu)成的犯罪情形來看，包括冒充軍人招搖撞騙罪、煽動軍人逃離部隊(duì)罪、戰(zhàn)時故意提供虛假敵情罪以及戰(zhàn)時擾亂軍心罪等等，而更為隱蔽的則可能是如上所述的心理戰(zhàn)。心理戰(zhàn)被認(rèn)為是一種“實(shí)現(xiàn)戰(zhàn)略目標(biāo)的軟實(shí)力手段”，其在操作上被定義為有計(jì)劃的行動，向外國目標(biāo)受眾傳遞選定的信息和指標(biāo)，以影響他們的情緒、動機(jī)、客觀推理，并最終影響外國政府、組織、團(tuán)體和個人的行為。其目的在于降低敵人的士氣，從而幫助實(shí)現(xiàn)軍事目標(biāo)。目標(biāo)對象則包括敵方士兵、非戰(zhàn)斗的敵方平民以及最終的敵方政府或決策者。[27]選擇心理戰(zhàn)是因?yàn)椤罢Z言文字比子彈更加便宜”，即成本更加低廉，而且其效果可能較生理戰(zhàn)爭更能達(dá)到事半功倍的效果。如學(xué)者所述，心理戰(zhàn)之所以能持續(xù)下去，是因?yàn)檫@是一種廉價的選擇，有時可能會奏效，而且可能誘使對手投降，而不是繼續(xù)戰(zhàn)斗。[28]深度偽造技術(shù)日新月異且鑒別手段相對較為被動的情形下，其高度仿真性、便捷性以及快速演化性使得其完全可能發(fā)展成為心理戰(zhàn)工具。因?yàn)樯疃葌卧焱耆苤圃斐觥傲硪粋€你”，這個“你”不受你的意識控制，卻可以向你的社交、生活和工作圈發(fā)布本尊從未授意過的信息——不論你是士兵、營長、司令還是總統(tǒng)。[29]

三、應(yīng)對之策

（一）通過技術(shù)進(jìn)行源頭治理

本質(zhì)而言，深度偽造是人工智能技術(shù)發(fā)展進(jìn)步的產(chǎn)物，深度偽造技術(shù)帶來的情報(bào)風(fēng)險，歸根結(jié)底是一種“技術(shù)風(fēng)險”——盡管技術(shù)具有中立屬性，但技術(shù)的利用則完全可能因利用人價值觀的差異而發(fā)生變化，所以相較于“不穩(wěn)定”的價值觀之調(diào)控，對“客觀中立”的技術(shù)進(jìn)行治理則顯得更為貼合實(shí)際，更可能產(chǎn)生成效。也因此，對深度偽造技術(shù)之風(fēng)險防控仍然需要依靠技術(shù)來解決，可以說通過技術(shù)對之進(jìn)行源頭治理是稀釋和化解此類風(fēng)險的關(guān)鍵所在。如當(dāng)下“溯源防偽”和“反向破解”被認(rèn)為是應(yīng)對深度偽造的兩種基本技術(shù)思路和理念。而還有學(xué)者則提出由于區(qū)塊鏈技術(shù)所具有的高度抗偽造性能，以及可累積性、安全、透明、可追溯方式存儲數(shù)據(jù)的特征，完全可以利用該技術(shù)來應(yīng)對深度偽造風(fēng)險，因?yàn)樵擁?xiàng)技術(shù)本身正被探索作為一種可靠地證明特定產(chǎn)品起源和歷史的手段。[30]從這個角度而言，不斷提升人工智能等高新技術(shù)領(lǐng)域的戰(zhàn)略地位，加大該領(lǐng)域重要課題項(xiàng)目設(shè)立和經(jīng)費(fèi)支持，成為深度偽造技術(shù)風(fēng)險治理的必要之舉。此外，還可以通過稅收等優(yōu)惠政策鼓勵該領(lǐng)域優(yōu)勢企業(yè)強(qiáng)化研發(fā)力度，保持領(lǐng)先優(yōu)勢。

（二）通過法律進(jìn)行制度防控

通過法律的制度防控是有效防止深度偽造技術(shù)濫用強(qiáng)有力的保障措施。從目前世界主要國家和地區(qū)來看，都對之采取了不同程度的法律規(guī)制。例如歐盟適用的《歐盟不實(shí)信息實(shí)踐準(zhǔn)則》以及在既有的人工智能規(guī)制框架之下，納入對深度偽造技術(shù)的調(diào)整與控制。美國的規(guī)制法案則更加豐富，從聯(lián)邦層面的提案到州層面的法案簽署，如加利福尼亞州簽署了《選舉：欺騙性音頻和視覺媒體》等等。[31]我國目前對此尚無專門性的立法，相關(guān)的法律規(guī)范或是較為分散，或是位階較低。如《治安管理處罰法》《廣告法》《刑法》 等與傳播“虛假信息”相關(guān)的法律，此外《民法典》《個人信息保護(hù)法》《網(wǎng)絡(luò)安全法》等亦對部分情形可以適用。目前正處于征求意見階段的《數(shù)據(jù)安全法》待審議發(fā)布之后，亦將對其起到重要的規(guī)范作用。而2019 年由國家互聯(lián)網(wǎng)信息辦公室聯(lián)合相關(guān)部門發(fā)布的 《網(wǎng)絡(luò)視頻信息服務(wù)管理規(guī)定》，從性質(zhì)而言屬于部門規(guī)范性文件，其倡導(dǎo)性意味明顯，可操作性有所欠缺。筆者以為，在立法層面上，盡管尚無急需制定專門性法律的需要，但從適用的針對性和便宜性來看，仍有必要整合現(xiàn)有的相關(guān)法律規(guī)范體系，確保責(zé)任性質(zhì)的準(zhǔn)確區(qū)分與歸屬，避免過多地動用刑事法律，對既有的社會秩序造成新的沖擊。

（三）通過行業(yè)組織進(jìn)行自我約束

法律是國家以命令的方式提供的行為規(guī)范，以強(qiáng)制力為后盾保障規(guī)范的實(shí)施。行業(yè)組織則更多的是平等主體之間的協(xié)商共治，共同維護(hù)深度偽造技術(shù)及其產(chǎn)品的良好市場環(huán)境。比較而言后者的優(yōu)勢在于，從反應(yīng)的速度來看，立法的程序性要求更為嚴(yán)格，更為繁瑣，對深度偽造技術(shù)濫用情形的認(rèn)定以及懲罰也更為復(fù)雜。行業(yè)組織的自律則多了一些靈活性，專業(yè)技術(shù)組織及人員結(jié)成的聯(lián)合體更能保持對市場變化認(rèn)知的靈活性和準(zhǔn)確度。從治理成本來看，立法通常難以直接全面地干預(yù)所有的深度偽造技術(shù)濫用行為，且通常具有一定的潛在外部性，但行業(yè)組織及人員則可以利用其技術(shù)優(yōu)勢，將之轉(zhuǎn)化為經(jīng)營成本，以此顯現(xiàn)出低成本高收益之特征。所以從這個角度而言，挖掘和發(fā)揮行業(yè)組織及其人員在深度偽造濫用治理中的作用實(shí)有必要。例如可以利用行業(yè)組織的影響力，倡導(dǎo)制定行為準(zhǔn)則或是行動指南，鼓勵相關(guān)技術(shù)企業(yè)根據(jù)自身特點(diǎn)規(guī)范業(yè)務(wù)流程，強(qiáng)化職業(yè)倫理，促進(jìn)技術(shù)研發(fā)和利用過程中相關(guān)數(shù)據(jù)隱私和秘密的保護(hù)。由行業(yè)中代表性組織牽頭推進(jìn)標(biāo)準(zhǔn)化和規(guī)范化工作，確保技術(shù)利用的合規(guī)合法性。

（四）通過宣教提升公眾信息素養(yǎng)

深度偽造技術(shù)濫用所形成的新聞報(bào)道、音視頻等，本質(zhì)上是一種虛假信息。普通的社會公眾作為最大的信息接受主體，因不具備相應(yīng)的技術(shù)知識，難以識別。信息素養(yǎng)被認(rèn)為是治理虛假信息的核心工具，阻止謠言的根本途徑也在于提升公眾的信息素養(yǎng)。[32]所以在應(yīng)對深度偽造而形成的虛假信息之時，還應(yīng)著重提升社會公眾的信息素養(yǎng)。具體而言，可以從以下幾方面著手：一是制定以及落實(shí)信息素養(yǎng)政策。政策不同于立法，政策具有一定的靈活性和直觀性，通過一定的宣傳手段，更容易讓社會公眾理解和接受。我國信息素養(yǎng)政策尚不夠明朗，通過法律或是行政的手段治理意味仍較為濃厚，應(yīng)從更為宏觀的層面制定相關(guān)的政策或是國民信息素養(yǎng)培育計(jì)劃，明確培育目標(biāo)和分解培育任務(wù)，落實(shí)責(zé)任主體，細(xì)化相關(guān)步驟和措施等等，以此逐步推進(jìn)公眾信息素養(yǎng)水平的培育和提升。二是鼓勵多元主體廣泛參與到信息素養(yǎng)培育及普及工作中來，發(fā)動影響力大的知名媒體充分利用技術(shù)和經(jīng)驗(yàn)積極參與其中，發(fā)揮圖書館等組織和機(jī)構(gòu)信息優(yōu)勢，通過深入社區(qū)、深入課堂、深入一線等方式宣傳、引導(dǎo)公眾甄別虛假信息的方法，提升信息識別和處理能力。除此之外，社會公眾亦需強(qiáng)化批判性思維等能力的自我提升，強(qiáng)化獨(dú)立思考與分析判斷水平。

四、結(jié)語

深度偽造技術(shù)作為人工智能的分支，其迅猛發(fā)展是一柄雙刃劍，因而必須在合法合理的范圍之內(nèi)進(jìn)行發(fā)展。未來，深度偽造技術(shù)將在情報(bào)工作以及情報(bào)事業(yè)之中扮演更為重要的角色，由此帶來的情報(bào)風(fēng)險也將隨之增加。為了有效應(yīng)對此類風(fēng)險，必須從技術(shù)、制度、公眾信息素養(yǎng)等方面多管齊下，進(jìn)行源頭治理和防控，確保該項(xiàng)技術(shù)給情報(bào)工作帶來的風(fēng)險可控，其充當(dāng)情報(bào)工具的風(fēng)險可控。