張俊杰，張純琍

（中國人民公安大學，北京 100038）

電信網(wǎng)絡詐騙犯罪因其與信息技術關系緊密，信息技術領域中的每一次變革都會對電信網(wǎng)絡詐騙的手段、時空分布等產(chǎn)生重要影響。以深度偽造（Deepfake）技術為基礎的人工智能（Artificial Intelligence，簡稱AI）軟件的快速發(fā)展和普及大大促進了電信網(wǎng)絡詐騙犯罪的智能化轉型。犯罪分子通過使用各類先進軟硬件設備，對自身的詐騙工具進行了迭代，從使用傳統(tǒng)的電話與短信發(fā)展到使用最新的AI 軟件。同時，犯罪分子在詐騙對象的選擇方式上也發(fā)生了變化，從過去的“廣撒網(wǎng)多撈魚”式向“精準捕撈更具價值的個體”轉變。基于不斷演化的詐騙犯罪現(xiàn)狀，學術界和反詐工作者必須提前對其做出發(fā)展方向的預判、風險評定和方案預置。當前，AI 詐騙尚未在我國出現(xiàn)爆發(fā)式增長和普遍式發(fā)展，但已經(jīng)發(fā)生的零星AI 詐騙個案涉案金額巨大，因此，對基于深度偽造技術的AI 詐騙風險進行討論與研究，是做好未來反詐工作的重要課題。

一、深度偽造技術與AI 詐騙

美國在2018 年發(fā)布的《2018 年惡意偽造禁令法案》中將深度偽造定義為“以某種方式使觀察者錯誤地將其視為某人真實言語或行為的真實記錄的可自由創(chuàng)建或更改的音視頻記錄”，其中“音視頻記錄”包括圖像、視頻和語音等多種數(shù)字內(nèi)容[1]。深度偽造是基于深度學習的內(nèi)容合成技術，以利用生成對抗網(wǎng)絡（Generative Adversaria Network，以下簡稱GAN）的深度學習算法為主，來達到實現(xiàn)原初內(nèi)容和目標內(nèi)容的模擬、合成和替換的目的?！啊疃葌卧臁梢詣?chuàng)建全新的內(nèi)容或操縱現(xiàn)有的內(nèi)容，包括視頻、圖像、音頻和文本?！盵2]在以深度偽造技術為基礎的各類軟件中，發(fā)展最為迅猛、推廣最為迅速的正是各類“換臉”軟件，其通過人臉定位和人臉轉換等多個步驟實現(xiàn)對人臉的模擬與替換，生成作品具有高度的擬真性。在深度偽造技術的發(fā)展過程中，“換臉”軟件不僅取得了技術上的進步，還獲得了資本的支持，其獨特的娛樂特質(zhì)迎合了大眾與市場，帶來了可觀的經(jīng)濟效益與市場份額?！皳Q臉”軟件操作簡單的特點更是降低了深度偽造技術的使用門檻，使得更多的普通民眾得以隨時享用深度偽造技術成果。但與此同時，深度偽造技術的正面特點造成了一系列的負面效果，使用深度偽造技術的低門檻造成了此項技術不負責任的濫用，引發(fā)了個人隱私安全、國家安全、人身安全等眾多問題，同時該項技術產(chǎn)出的高度擬真作品也造成了“真相衰?。╰ruth decay）”問題。

關于我國電信網(wǎng)絡詐騙，2020 年立案95 萬件，全國公安機關共破獲電信網(wǎng)絡詐騙案件32.2萬件，累計挽回損失1876 億元 。2021 年，立案96萬件，破獲44.1 萬余件，抓獲罪犯69 萬余人，追繳返還人民群眾被騙資金120 億元[3]。從全國范圍來看，電信網(wǎng)絡詐騙犯罪依然是破壞人民群眾財產(chǎn)安全的首要犯罪形式，其犯罪收益大、犯罪風險低的特點導致了電信網(wǎng)絡詐騙犯罪分子不斷主動更新自身軟硬件技術，不斷升級詐騙話術與手段，這對公安機關的預警、定位、布控、抓捕等各項工作提出了巨大的挑戰(zhàn)。因此，以電信網(wǎng)絡詐騙犯罪為對象的學術研究必須具有足夠的警覺性、敏感性，要能提前發(fā)現(xiàn)電信網(wǎng)絡詐騙犯罪的演化路徑與方向，幫助公安機關實現(xiàn)對詐騙發(fā)展態(tài)勢的預先封堵。

本文討論的AI 詐騙犯罪是基于深度偽造技術提供的各類人工智能軟件，如“換臉”、聲紋模擬等智能軟件偽造他人信息，騙取被害人的信任，實現(xiàn)犯罪意圖的新型詐騙犯罪形式。2022 年5 月，有詐騙集團利用深度偽造技術冒充馬斯克生成了談話視頻，以騙取受害者投資其加密貨幣交易平臺[4]。2023 年5 月22 日，包頭警方發(fā)布了一起利用AI 實施電信詐騙的典型案例，引起了眾多網(wǎng)友的關注與討論。該案例中提到，福州市某科技公司的法人接到好友微信視頻后，其好友表示其在外地競標，需要430 萬保證金，且需要公對公賬戶過賬，想要借該法人公司的賬戶走賬，該公司法人因慣性思維而對微信視頻的真實性和實時性毫不懷疑，相信了犯罪分子的言辭，分兩筆將錢款轉到了其“好友”銀行卡上[5]。與以往網(wǎng)絡詐騙犯罪不同，AI 詐騙具有更強的真實性、可信性、不易識別性，打破了以往公眾識別詐騙犯罪時采用視頻通話、語音通話來確認真實身份信息的常規(guī)思路，換句話說，AI 詐騙恰恰是利用了大眾“眼見為實”“耳聽為實”的慣性思維提高了詐騙的成功率。

二、AI 詐騙問題生成的原因

隨著我國反詐工作的持續(xù)深入推進，截至2022 年11 月底，該年全國共破獲電信網(wǎng)絡詐騙案件39.1 萬件，同比上升5.7%[6]。在我國對電信網(wǎng)絡詐騙犯罪的打擊力度不斷加大、打擊精度不斷提高的形勢下，詐騙分子對自身詐騙活動進行了智能化轉型，嘗試使用各類新興技術降低犯罪風險和犯罪成本，在此客觀環(huán)境下，AI 詐騙成為詐騙犯罪未來發(fā)展變化的必經(jīng)之路。

詐騙手段是隨著時代技術的進步而不斷更新迭代的，然而無論是利用何種AI 軟件，其本質(zhì)都是為了騙取被害人的信任。在長期的反詐宣傳工作中，大眾逐漸生成了對電信網(wǎng)絡詐騙的警惕心理防線，這使得絕大部分傳統(tǒng)的詐騙方式無法保持穩(wěn)定增長的犯罪收益，但是大眾已有的警惕心理防線是建立在“眼見為實”“耳聽為實”的判別詐騙犯罪原理之上的。而基于深度偽造技術的各類AI 軟件可以實現(xiàn)人臉、人聲的自由變換，對詐騙分子來說，這無疑為其突破大眾警惕心理防線找到了合適的工具。通過利用各類AI 軟件，犯罪分子可以輕易制作與被害人具有親近關系者的視頻，或者利用聲紋模擬軟件制作被害人親屬的語音短信，騙取被害人的信任。

在Web3.0 時代背景下，各類人工智能換臉、擬聲軟件出現(xiàn)了爆炸式增長，各類人工智能軟件借助國家鼓勵發(fā)展各類信息技術的政策紅利，在各類互聯(lián)網(wǎng)平臺上得到推廣，大幅度降低了用戶的使用門檻。這一方面在一定程度上刺激了深度偽造技術的發(fā)展與普及，另一方面也為這一領域犯罪的滋生提供了土壤。傳統(tǒng)詐騙犯罪主要是通過文字或電話的形式與被害人寒暄，有意或無意透露被冒充者的個人隱私信息來構建與被害人之間的“真實”關系，騙取被害人的信任。此類傳統(tǒng)詐騙方式的最大缺陷在于懼怕實時人臉驗證，而深度偽造技術的運用為詐騙分子填補了這一缺陷。AI 詐騙犯罪雖然技術手段更先進，但是與傳統(tǒng)詐騙犯罪仍存在著一定的相似性，只不過其利用的是更加逼真的音視頻信息來騙取被害人的信任。

《網(wǎng)絡音視頻信息服務管理規(guī)定》（2019 年11月18 日頒布）第十條規(guī)定：“網(wǎng)絡音視頻信息服務提供者基于深度學習、虛擬現(xiàn)實等新技術新應用上線具有媒體屬性或者社會動員功能的音視頻信息服務，或者調(diào)整增設相關功能的，應當按照國家有關規(guī)定開展安全評估。”2022 年11 月3 日，國家互聯(lián)網(wǎng)信息辦公室2022 年第21 次室務會議審議通過了《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》，其中第二十一條規(guī)定：“網(wǎng)信部門和電信主管部門、公安部門依據(jù)職責對深度合成服務開展監(jiān)督檢查。深度合成服務提供者和技術支持者應當依法予以配合，并提供必要的技術、數(shù)據(jù)等支持和協(xié)助?！睆慕陙沓雠_的相關規(guī)定來看，我國對深度合成服務和深度偽造技術的相關管理在不斷收緊，相關行業(yè)在不斷精細的管理規(guī)定中，技術開發(fā)活動更加規(guī)范、產(chǎn)品功能更加齊全、市場競爭力更強。然而現(xiàn)有各類規(guī)定都是從行業(yè)管理的層面出發(fā)，對人工智能技術、深度偽造技術等相關行業(yè)單位進行管理。對于電信網(wǎng)絡詐騙犯罪分子來說，其不僅未受到相關行業(yè)規(guī)定的影響，反而在一定程度上利用了此類規(guī)定帶來的正面效果。

三、AI 詐騙演化方向預判

（一）精度不斷提高，廣度不斷擴大

AI 詐騙并非零成本，犯罪分子必須同時獲取同一個人的生物信息和一般個人信息，確定詐騙對象具有較高的“經(jīng)濟價值”，才能實現(xiàn)犯罪收益的最大化。為了達到這一目的，犯罪分子將會大規(guī)模竊取個人身份信息，包括個人生物信息、財務信息、社會關系信息、家庭成員信息等。從犯罪分子的角度看，制作AI 換臉視頻并不困難，難點在于偽造身份的選擇和話術的選用；從犯罪成本的角度考慮，其偽造的身份必須具有較高的經(jīng)濟收益、日常存在較多的轉賬支付行為等特征，而詐騙對象則需要具備與其偽造對象存在較親密的關系、較多的經(jīng)濟往來、較多的可用于支付的現(xiàn)金儲備等特征。在網(wǎng)羅和分析這一類信息后，犯罪分子才能實現(xiàn)金額巨大、效率極高的詐騙犯罪目的。

隨著詐騙精度提高而來的便是詐騙廣度的擴大，當越來越多的AI 詐騙被成功實施后，會有越來越多的詐騙分子加入AI 詐騙犯罪之中。在AI詐騙發(fā)展的初期，犯罪分子必然會通過調(diào)整詐騙對象來實現(xiàn)更高的犯罪收益，將AI 詐騙的矛頭對準辨別能力更低的老年人群體。在AI 詐騙發(fā)展的初期，受制于較高的犯罪成本和較高的技術門檻，詐騙分子將會按照“提高精度—擴大收益”的思路實施詐騙。而當AI 詐騙發(fā)展到一定階段后，犯罪成本降低，技術門檻下降，犯罪分子會更多地選擇“擴大廣度—提高收益”的思路實施詐騙。如此一來，AI 詐騙犯罪的涉案金額幅度將會擴大，從巨額案件到小額案件均有發(fā)生。涉案金額的變化也意味著被害人群體的改變，也就是說，AI 詐騙犯罪將會以高收入群體為突破口，向中低收入群體蔓延。

（二）“影”與“音”深度結合

為了獲得被害人的信任，回應被害人提出的聲音辨識要求，犯罪分子會將“影”與“音”深度結合，即將人臉偽造與聲紋偽造深度結合。聲紋深度偽造技術與人臉的深度偽造技術相類似，如果說人臉的深度偽造技術是通過AI 技術合成、轉換、替換他人肖像，那么聲音的深度偽造技術就是通過AI 技術來合成、模擬某種聲音，區(qū)別于人臉的深度偽造技術，對聲音的深度偽造可以脫高現(xiàn)實模仿對象的聲紋基礎，實現(xiàn)對不存在的聲音的合成與制作。斯坦福大學的Ohad Fried 等人使用基于聲碼器的深度語音偽造技術，將其嵌入到視頻的偽造中，使視頻中的人物發(fā)聲口型與篡改的語音口型基本一致，提高了深度偽造視頻的真實性和說服力[7]。在技術應用上，聲音與影像的結合水平已經(jīng)得到了進一步的提高，同時這種技術的使用門檻在不斷下降，這就意味著犯罪分子經(jīng)過信息的充分準備和騙術文本的有效設計后，可以通過偽造的視頻與音頻之間的自由切換和組合，突破更多的身份驗證防線。

從詐騙犯罪的宏觀角度來看，“影”與“音”的深度結合是深度偽造技術的又一突破，也是未來AI 詐騙的發(fā)展趨勢；從詐騙犯罪的微觀角度來看，二者的深度結合將會給社會公眾帶來巨大的詐騙風險。面對深度偽造技術日趨成熟完善的形勢，詐騙分子必定會選擇不斷突破自身的技術瓶頸，制作與被害人具有親近關系者的偽造音頻，將其嵌入實時視頻或制作完成的視頻中，同時更新詐騙文本，以新技術為矛，以新文本為盾，將偽造的音視頻作為攻克大眾警惕心理防線的強大武器。

（三）深度偽造與AIGC 相融合

2022 年9 月，中國信息通信研究院和京東探索研究院共同發(fā)布了《人工智能生成內(nèi)容（AIGC）白皮書》，將人工智能生成內(nèi)容（Artificial Intelligence Generated Content，簡稱AIGC）定義為“既是從內(nèi)容生產(chǎn)者視角進行分類的一類內(nèi)容，又是一種內(nèi)容生產(chǎn)方式，還是用于內(nèi)容自動化生成的一類技術集合”[8]。AIGC 具有更強的虛擬創(chuàng)造屬性，使虛擬信息更加真實，而GAN 的出現(xiàn)則進一步加強了AIGC 生成內(nèi)容的擬真度。GAN 包括兩個模型：生成模型和判別模型，生成模型產(chǎn)出與被模仿對象極為相似的模型，判別模型則對其真假性進行檢驗，兩個模型相互對抗，從而提升最后產(chǎn)出內(nèi)容的擬真度。GAN 是深度偽造技術最主要的算法，現(xiàn)在這一算法又融入AIGC 中，同時，視覺Transformer（一種神經(jīng)網(wǎng)絡模型）正在逐步成為視覺領域的基礎網(wǎng)絡構架，此類新型大模型架構的發(fā)展，將會使圖像分類等眾多圖像視覺領域實現(xiàn)關鍵性技術突破，反哺深度偽造技術。當技術的融合與突破實現(xiàn)了向應用式軟件的轉向時，深度偽造的生成速率和生成作品的擬真程度將會大幅提高，與此正面效果伴隨而來的將會是技術濫用風險的飆升。

AIGC 技術的飛速發(fā)展會大幅降低詐騙分子編輯處理虛擬圖像和生成文案的時間成本和人力成本，通過AIGC 技術大批量生成虛假信息，再通過其他軟硬件設備投放此類信息、圖像、影像、音頻等，將在短時間內(nèi)對廣大民眾造成巨大的損失。當AI 詐騙度過發(fā)展的初期后，詐騙犯罪分子必將選擇通過擴大覆蓋面來實現(xiàn)犯罪收益的增長，使用生成式人工智能軟件大批量生成詐騙文案、圖像甚至視頻將成為AI 詐騙在其發(fā)展中期的演變趨勢。AIGC 的開發(fā)、訓練等具有較高的技術門檻，同時需要更多真實信息作為基礎，詐騙分子基本無力涉足此項技術的上游區(qū)域，僅能通過AIGC技術的下沉來達到與詐騙犯罪的融合。因此，如何在AIGC 發(fā)展的上游就做好風險評估與安全防范是AIGC 和深度偽造技術未來發(fā)展過程中必須考慮的重要問題之一。

四、AI 詐騙風險預防路徑探索

雖然深度偽造技術與AIGC 的發(fā)展拓展了詐騙犯罪手段的有限邊界，使詐騙犯罪擁有了更多難以把控的風險形式，但是從詐騙犯罪的邏輯上看，使用此類技術的各類門檻是較高的，因此到目前為止AI 詐騙并未大面積爆發(fā)。雖然犯罪分子能利用人工智能技術大幅度提升信息的搜集和復制效率，使大眾受到更多的AI 詐騙的侵擾，提高了詐騙的成功率，但是AI 詐騙并非天衣無縫，對于一般的AI 詐騙，社會公眾可以通過下文提及的簡易識別方式進行防范。

預防AI 詐騙風險，必須牢牢抓住AI 詐騙黑灰產(chǎn)業(yè)鏈條和發(fā)展門檻的生成機理（如圖1 所示），從源頭入手，根據(jù)AI 詐騙演化路徑上的可能障礙增設防范壁壘。AI 詐騙的發(fā)展門檻包括偽造門檻、信息門檻、監(jiān)管門檻、技術門檻、警惕心理門檻。一方面，當犯罪分子不斷突破以上五道門檻后，AI 詐騙就會開始大面積流行；另一方面，正是以上五道門檻的存在，才使AI 詐騙犯罪風險有了可識別、可把控、可預防的切入口。

圖1 AI 詐騙產(chǎn)業(yè)鏈及發(fā)展門檻示意圖

（一）偽造門檻：根據(jù)人臉與聲紋的畸變漏洞進行預防

預防AI 詐騙，首先要尋找到社會大眾普遍可以采取的一般性預防手段。AI 換臉和聲紋模擬軟件在生成擬真圖像和音頻時，會存在一定的缺陷。以深度偽造技術為基礎的AI 軟件從宏觀上可以分為兩種：一種是“進行時”偽造軟件，如Swapface（指一種實時換臉的AI 工具），即在同他人進行視頻直播過程中，時刻保持使用者的臉部圖像或聲音與被模仿者一致；另一種是“完成時”偽造軟件，即輸入照片、聲紋等信息后，軟件自動生成一段有著固定內(nèi)容的視頻或音頻作品。從詐騙犯罪的角度分析，前者更易獲得被害人的信任，但難度較高，一旦視頻時間太長，就會出現(xiàn)破綻，容易被識別；后者需要搭配與視頻或音頻作品匹配的情景文案，但由于其文案是詐騙分子精心設計過的，所以破綻較少、不易被識別。

對“進行時”偽造軟件詐騙來說，我們可以要求對方將手掌劃過臉部或要求其眨眼，通過觀察其臉部圖像是否發(fā)生畸變來判斷是否為偽造影像，同時，在實時視頻通話過程中，犯罪分子會以“在開會，不便說話”等理由掩蓋實時視頻難以時刻保持與其換臉對象語音信息匹配的問題。而對于“完成時”偽造軟件詐騙來說，其背景、語音內(nèi)容、動作內(nèi)容等大部分是由其他視頻嫁接過來的，在偽造視頻過程中，輸入的人像視頻或人像照片素材一般都需要人物背景以純色為主，因此，我們可以向其提出更換雜亂背景的要求，以此驗證圖像或視頻中的人臉、肢體等邊緣部分是否發(fā)生畸變。有時，犯罪分子為了防止換臉視頻的破綻過多，會選擇通過聲紋模擬軟件來與被害人進行純粹的語音通話或者發(fā)送語音消息，相較于圖像，聲紋的模擬更不易識別，被害人很容易被犯罪分子模擬出的聲音所迷惑，因此，在與親近者進行大額轉賬交易時，最優(yōu)的防范AI 詐騙方式就是進行“共同經(jīng)驗認證”，即提出僅存在于兩人之間的共同私密問題或經(jīng)歷，由對方給出相關回復作為認證密鑰。通過人臉與聲紋的畸變漏洞，我們可以對一般性的AI 詐騙進行識別和預防，尤其在AI 詐騙尚未發(fā)生實質(zhì)性的技術進步和騙術演化之前。當然，偽造門檻以后必將伴隨著深度偽造技術的發(fā)展而降低，這也意味著以上預防措施可能會在AI 詐騙未來發(fā)展的某個階段被擊破。

（二）信息門檻：從詐騙犯罪上游控制AI 詐騙蔓延

詐騙犯罪的上游以盜取與售賣個人信息、售賣電話卡、惡意注冊和虛假認證等黑灰產(chǎn)業(yè)為主。在AI 詐騙的生成過程中，信息獲取是最為關鍵的一環(huán)，為實施精準、成功率高的AI 詐騙，犯罪分子需要盜取或購買個體的生物信息和一般個人信息。生物信息反映的是個人的生理屬性，包括人臉、指紋、聲紋、虹膜等；一般個人信息反映的是個人的社會屬性，包括姓名、身份證號、社會地位與身份等。目前生物信息已被廣泛應用于個人身份的確認、個人金融賬戶密碼的解鎖、社會身份的確認，與一般個人信息實現(xiàn)了相互勾連，可以說，兩種信息數(shù)據(jù)在某種層面上已融為了一體。在生物信息中，人臉與聲紋信息的應用最為廣泛，最易泄露也最易獲取，這兩類信息正是犯罪分子用來進行AI 詐騙犯罪的重要信息。

從正面看，生物信息與一般個人信息必須進行一體化保存，如此才能避免出現(xiàn)公民在使用信息過程中二者無法匹配的情況。這種信息的保存方式帶來的負面影響就是犯罪分子只要獲取了兩類信息中的一種，就能爬取該公民的全部信息。因此，在生物信息和一般個人信息進行一體化保護的同時，我們要采取隔斷式保護的策略，將生物信息與一般個人信息，以及兩類信息中的不同敏感類信息進行隔斷，在使用每一級信息時單獨設立信息密鑰，在各類信息認證平臺和手機軟件使用過程中更多使用動態(tài)身份認證系統(tǒng)，加強對個人生物信息和一般個人信息的保護，從AI 詐騙產(chǎn)業(yè)鏈條的源頭實現(xiàn)對整條詐騙產(chǎn)業(yè)運作空間的壓縮。

從個人信息保護的角度來看，面對日漸成熟的AI 詐騙犯罪，社會公眾應當更加注重對個人信息，尤其是個人生物信息的保護，應當盡量避免在公共平臺曝光個人信息，變被動泄露為主動保護，從自身層面盡可能地降低受到AI 詐騙的風險。

（三）監(jiān)管門檻：對深度偽造和AIGC 開展多元共治

當下，深度偽造技術已經(jīng)發(fā)展到了相對成熟的地步，而AIGC 的發(fā)展態(tài)勢較深度偽造來說更加迅猛，在二者共同發(fā)展和交叉融合過程中，引發(fā)了一系列社會問題，如詐騙犯罪、肖像權問題、隱私侵犯等，造成了法律界、社會學界、倫理學界等各界的熱烈討論，如何對二者進行合理規(guī)制成為學界的重要課題。深度偽造與AIGC 等技術涉及人工智能、大數(shù)據(jù)等前沿信息技術領域，其引發(fā)的問題是多方面的，因此在對兩項技術問題進行治理的過程中，不能只由一個部門操刀，其他部門旁觀，而需要多個部門攜手配合，實現(xiàn)多元 共治。首先，各部門治理力度需要尋找到一種平衡，使深度偽造與AIGC 的發(fā)展處于一個動態(tài)平衡的穩(wěn)定狀態(tài)中。其次，多元 共治要突出社會力量的作用，將社會批判力量轉化為抑制技術濫用的重要手段。最后，要加強不同治理主體之間的對話，公安機關、網(wǎng)信部門、企業(yè)等多個治理主體要積極合作，共同協(xié)商解決深度偽造和AIGC 造成的AI 詐騙風險問題。

在多元共治過程中，對深度偽造和AIGC 進行法律層面的規(guī)制尤為重要，在這方面，我們可借鑒國際上的成功經(jīng)驗，從更加長遠的視角出發(fā)看待深度偽造與AIGC，避免出現(xiàn)制度剛性對技術發(fā)展帶來的暴力損傷。多元共治不是一時的共治，而應當是持續(xù)性、長久性、預判型的共治，治理的核心原則應當是保證技術以安全、健康的路徑穩(wěn)步發(fā)展，填補AI 詐騙風險漏洞。此外，現(xiàn)有的跨國電信詐騙一旦加入AI 技術的加持，將會帶來更多的社會風險，屆時AI 詐騙的目的可能不僅僅局限于物質(zhì)層面，還有可能附帶政治離間、主權顛覆等涉及國家安全的非法目的，因此從國際層面開展對深度偽造與AIGC 的共治是預防AI 詐騙的更長遠、更高層次的舉措。

（四）技術門檻：深度偽造檢測技術的開發(fā)與用戶普及

深度偽造檢測技術的開發(fā)熱度并不遜于深度偽造技術。從目前的技術發(fā)展角度看，深度偽造檢測技術的難點在于多模態(tài)數(shù)據(jù)的使用，常規(guī)的深度偽造檢測技術僅僅將視頻作為其偽造檢測視頻數(shù)據(jù)集，而面對音頻的介入，深度偽造檢測技術需要融合多模態(tài)數(shù)據(jù)來提升自身的檢測能力與檢測效果。面對AI 詐騙風險的擴大化，無論是基于空間特征的檢測技術，還是基于時空融合特征的檢測技術，或是基于生物特征、區(qū)塊鏈的檢測技術，都必須要盡快開發(fā)出適合與反詐騙軟件、反詐騙系統(tǒng)進行關聯(lián)和融合的深度偽造檢測技術。相較于基于深度卷積神經(jīng)網(wǎng)絡等被動性技術，主動性抵御技術，如添加視頻水印、應用區(qū)塊鏈等更具現(xiàn)實使用前景。將區(qū)塊鏈應用于深度偽造檢測技術具有很好的應用前景，它可以創(chuàng)建一系列唯一的不可更改的元數(shù)據(jù)塊，是用于數(shù)字來源解決方案的出色工具[9]，但是目前此類研究較少。在積極開發(fā)深度偽造檢測技術的同時，我們還應當注意對此技術的共同治理與監(jiān)管，防止在數(shù)據(jù)采集、模型訓練、軟件開發(fā)過程中出現(xiàn)海量信息泄露和關鍵技術外流的情況。

針對AI 詐騙犯罪，深度偽造檢測技術需要增強其檢測的實時性，并將其內(nèi)置于移動終端系統(tǒng)中，才能實現(xiàn)對可能出現(xiàn)的AI 詐騙風險及時予以提示和封堵。目前，深度偽造檢測技術的普及相較于深度偽造本身來說較為落后，雖然英特爾公司針對深度偽造推出了FakeCatcher 軟件，騰訊云發(fā)布了換臉甄別（Anti-Deepfake，簡稱ATDF），但是均沒有能夠達到與深度偽造軟件相等同的便捷性、簡易性和普及性。因此，除加大深度偽造檢測技術的開發(fā)力度外，還要注重應用門檻的下沉以提升普及率。在普及過程中，可以考慮將深度偽造檢測技術同AI 軟件或反詐軟件捆綁，使用戶在享受AI 軟件的便利與娛樂性的同時，還能夠對他人的詐騙行為及時進行識別。

（五）警惕心理門檻：反詐宣傳內(nèi)容與方式的更新與迭代

《中華人民共和國反電信網(wǎng)絡詐騙法》第八條明確規(guī)定，各級人民政府和有關部門應當加強反電信網(wǎng)絡詐騙宣傳，普及相關法律和知識，提高公眾對各類電信網(wǎng)絡詐騙方式的防騙意識和識騙能力。反詐宣傳應當走在詐騙犯罪發(fā)生重要變革之前，在詐騙犯罪剛剛出現(xiàn)新苗頭、新套路、新態(tài)勢時，通過權威平臺發(fā)布相關反詐知識。應當注重反詐宣傳內(nèi)容的時效性，將AI 詐騙列入宣傳重點內(nèi)容清單，注意將線上與線下的反詐宣傳工作相結合，注重反詐宣傳的有效性。在現(xiàn)實反詐宣傳工作中，相當比例的被宣傳者存在抵觸、厭煩、不信任反詐宣傳人員的情況，這一現(xiàn)象也在提醒公安機關：要規(guī)避“指標式”的宣傳模式，不以數(shù)量為標準，不以頻率為要求，而是將內(nèi)容的含金量、感染力和公眾知悉度等作為評判宣傳效果的新標準。

考慮到AI 詐騙風險將會在未來相當長的時間內(nèi)持續(xù)存在并不斷增加，反詐宣傳工作不能等待具體案例出現(xiàn)后才將其作為宣傳的抓手，否則宣傳工作將會持續(xù)處于被動狀態(tài)。我們應該對AI詐騙的演化方向做出合理預判，對可能產(chǎn)生的AI詐騙方式、套路進行合理預估，提早建立公眾對AI 詐騙的心理防范機制，使公眾提前了解AI 詐騙的基本套路。公安機關進行反詐宣傳應當借助技術紅利，運用AIGC 生成更加有效的反詐宣傳文案，不僅要對自身反詐宣傳文案進行語言分析，還要對詐騙分子采用的各類話術進行分析，結合詐騙犯罪文本的演化形勢，有針對性地擬寫反詐宣傳文本[10]，再通過大數(shù)據(jù)平臺向高風險個體進行精準投送，以AI 對抗AI，實現(xiàn)反詐工作的長足進步。

五、結語

面對AI 詐騙風險的與日俱增，學界對深度偽造技術的討論絕對不能止步于法律規(guī)制和倫理層面的探討，而必須深入到具體問題之中，以問題為導向，開展對深度偽造技術帶來的各類安全風險的深入研究。面對AI 詐騙風險，我們必須在萌芽狀態(tài)就對其進行壓制，要廣泛吸收各國深度偽造檢測技術的發(fā)展思路，加大研發(fā)力度與經(jīng)費投入。AI 詐騙風險的控制方法不僅僅是技術問題，更是法律問題，要從法律層面實現(xiàn)對深度偽造技術的規(guī)制，提高AI 詐騙的各項犯罪成本，降低其犯罪收益，抓住反詐騙的底層邏輯，變AI 詐騙發(fā)展的門檻為防范AI 詐騙的壁壘，及早防范AI 詐騙風險。