翁杰 吳潔虹

（潮州市公安局網(wǎng)警支隊(duì)，廣東 潮州521000）

AI變臉技術(shù)，簡單來說就是人工智能臉部替換，和PS不同的是，這項(xiàng)技術(shù)不僅可以生成圖片，還可以生成視頻，而且并不需要懂得那么多的技術(shù)，只要收集到足夠素材，程序的AI就可以幫忙自動完成，完成后表情和口型會非常自然。但是，隨著這項(xiàng)技術(shù)的發(fā)展及普及，給案件偵辦、電子數(shù)據(jù)取證等帶來不容忽視的隱患。本文立足網(wǎng)警工作實(shí)際，通過梳理該項(xiàng)技術(shù)的概況，分析可能給公安機(jī)關(guān)帶來的挑戰(zhàn)，就更好地防范應(yīng)對提出思考性意見。

1 AI變臉技術(shù)的概況

研究發(fā)現(xiàn)，最早出現(xiàn)AI變臉技術(shù)是2017年12月，一個(gè)名為“DeepFakes”的用戶在Reddit上發(fā)布了一個(gè)“假視頻”，視頻中的藝人其實(shí)是后期加上的，但是看起來幾乎毫無破綻。隨后，更多人對深度學(xué)習(xí)的AI新技術(shù)進(jìn)行深入研究，筆者從中了解到利用該項(xiàng)技術(shù)，只需要把一個(gè)視頻或者上百張人物的樣圖輸入至一個(gè)算法，就能完成人臉交換，制作出非常逼真的視頻效果。

而隨著AI變臉技術(shù)被開源，大量開發(fā)者對該項(xiàng)技術(shù)進(jìn)行解讀及優(yōu)化，相關(guān)人員也開發(fā)出不少“傻瓜式”的工具，如Openfaceswap、Faceswap、Fakeapp、Myfakeapp、DeepfaceLab等應(yīng)用程序，并且還有很多人編寫了變臉的教程。筆者通過下載Fakeapp及教程進(jìn)行測試，發(fā)現(xiàn)這類“傻瓜式”的工具有如下特點(diǎn)：

（1）硬件要求非常低，軟件通過優(yōu)化，對GPU要求已經(jīng)非常低，2G的nvidia顯卡已經(jīng)能運(yùn)行該軟件；

（2）操作極其簡單，點(diǎn)鼠標(biāo)就能完成整個(gè)過程；

（3）素材要求不高，只要目標(biāo)對象一段幾分鐘的視頻，它就會自動提取臉部特征，自動計(jì)算，并自動換臉，變臉后效果還可以。

通過這些可以預(yù)見：AI變臉技術(shù)開源后大量“傻瓜式”的程序被開發(fā)出來，人人都可以實(shí)現(xiàn)深度變臉。

2 利用AI變臉技術(shù)違法犯罪的種類

通過調(diào)查研究，筆者發(fā)現(xiàn)“AI變臉技術(shù)95%的換臉視頻無法被識別”。而在2019年1月，荷蘭DeepTrace實(shí)驗(yàn)室發(fā)布了一份Deep-Fake發(fā)展報(bào)告，數(shù)據(jù)顯示2018年“deepfake”關(guān)鍵詞的谷歌搜索次數(shù)比2017年增長了1000倍，也就是說，AI變臉技術(shù)正在被越來越多人使用，而且用途不明。

在這種前沿技術(shù)面前，每個(gè)人都可能成為潛在的受害者。如果被不法分子利用，將可能進(jìn)一步衍生各種網(wǎng)絡(luò)犯罪、網(wǎng)絡(luò)安全事件，給公安機(jī)關(guān)帶來更大的挑戰(zhàn)。

2.1 侵害公民人身權(quán)利

隨著該項(xiàng)技術(shù)被開源及“傻瓜式”的工具的開發(fā)，“變臉”功能開始被公眾使用，甚至是被有心人士廣泛用于涉黃視頻。據(jù)調(diào)查，不少國內(nèi)外一線小花被人工合成的視頻都被不法分子上傳到了色情網(wǎng)站上。盡管谷歌于2018年9月在其搜索引擎名單中添加了針對“非自愿合成色情視頻”的屏蔽選項(xiàng)，但這對于阻止這些色情視頻的創(chuàng)作和傳播仍無能為力。隨著操作的進(jìn)一步簡易性，可以預(yù)見，每一個(gè)人都很有可能成為黃色視頻的受害者。如果任由AI變臉技術(shù)被廣泛用于類似于黃色等各種非法用途上，將會對公民的人身權(quán)利造成嚴(yán)重的侵害。

2.2 給“人臉識別”加密的技術(shù)帶來新的隱患

經(jīng)過長期發(fā)展與技術(shù)迭代演進(jìn)，人臉識別技術(shù)已經(jīng)相對成熟，在智能交通、安防、電子商務(wù)等領(lǐng)域都有廣泛應(yīng)用。但在AI變臉技術(shù)面前，這一加密技術(shù)將變成最大安全隱患。據(jù)調(diào)查，AI變臉技術(shù)不僅能騙過人，還能騙過人臉識別系統(tǒng)。支付寶、銀行卡人臉識別，都很容易被人拿去用于不法用途，造成各種經(jīng)濟(jì)損失甚至是人身安全。更甚者如果是政府要員、重要信息系統(tǒng)運(yùn)維人員等，一旦加密匙被不法分子掌握，更有可能造成嚴(yán)重網(wǎng)絡(luò)安全事件。

2.3 助力造謠誹謗的滋生

AI變臉技術(shù)一旦被人非法使用，真實(shí)照片與語音模擬器或語音合成系統(tǒng)相結(jié)合，就可以生成任意謠言，也可以對他人恣意誹謗。2017年，國外就有人通過AI變臉技術(shù)制造政治家或公眾人物的假視頻，特朗普、希拉里等名人都曾中招。而在國內(nèi)，雖然當(dāng)前僅出現(xiàn)明星被“變臉”。但是隨著AI變臉技術(shù)的普及，如果被不法分子進(jìn)一步使用，誹謗便隨之而來，若將其用于制作政府人員或權(quán)威公眾人物的“假新聞”、“假視頻”，那不僅會造成謠言滿天飛，甚至?xí)绊懳覈恼畏€(wěn)定。

2.4 使網(wǎng)絡(luò)詐騙犯罪活動更為隱蔽

前文提到“95%的換臉視頻無法被識別”，也就是說可能某天詐騙分子就用AI換臉技術(shù)換臉成你的親人，向你索要錢財(cái)，而你渾然不覺，而當(dāng)公安機(jī)關(guān)要進(jìn)行打擊時(shí)，也沒辦法通過視頻去掌握犯罪分子的真實(shí)身份，甚至該技術(shù)還可能大大損壞視頻作為證據(jù)的可信度。可以說，AI變臉技術(shù)可能會使網(wǎng)絡(luò)詐騙犯罪更為隱蔽，讓犯罪分子更加有恃無恐。

3 如何更好應(yīng)對利用AI變臉技術(shù)的違法犯罪活動

2019年4月20日上午，《民法典人格權(quán)編（草案）》二審稿提請十三屆全國人大常委會第十次會議審議，專門增加規(guī)定：任何組織和個(gè)人不得以利用信息技術(shù)手段偽造的方式侵害他人的肖像權(quán)。草案第八百零三條也被修改為：其他人格權(quán)的許可使用和自然人聲音的保護(hù)，參照適用本章的有關(guān)規(guī)定，說明：臉、聲音等都不能隨便換。這就給“隨意使用”AI變臉技術(shù)設(shè)定了一道門檻。然而，法律的出臺也僅僅是讓人們不再輕易使用AI變臉技術(shù)，但對于利用AI變臉技術(shù)從事的違法犯罪活動，僅靠法律遠(yuǎn)遠(yuǎn)不夠，例如有網(wǎng)友評價(jià)，“以后視頻也能做假，如果沒有鑒別手段，視頻證據(jù)將失去意義”。那么作為一名網(wǎng)絡(luò)警察，在AI變臉技術(shù)盛行的當(dāng)下，如何更好地應(yīng)對其所帶來的挑戰(zhàn)。下面筆者將結(jié)合網(wǎng)警職能，提出幾點(diǎn)建議。

3.1 強(qiáng)化技術(shù)升級，研發(fā)AI取證工具

當(dāng)前，公安機(jī)關(guān)網(wǎng)警部門對于辨別視頻真?zhèn)蔚娜∽C方式依然是個(gè)空白，面對使用AI變臉技術(shù)制作而成的“假視頻”、“假新聞”，目前尚未有真正適用的取證技術(shù)。雖然也有人不停進(jìn)行研發(fā)，如美國國防部（DARPA）研發(fā)出的“反AI變臉刑偵檢測工具”，但由于這類工具或應(yīng)用的可擴(kuò)展性和穩(wěn)健性都無法完全滿足實(shí)務(wù)中的需求，還是無法完全適用于涉及到取證、證據(jù)分析和鑒別等關(guān)系重大的應(yīng)用方向上。但這種結(jié)合AI技術(shù)的檢測方式，卻為鑒別真假視頻提供了新的方向，這其中涉及到的一個(gè)重要原理是生成式對抗網(wǎng)絡(luò)（GAN），運(yùn)用這一原理進(jìn)行更多的研究來確保AI識別技術(shù)能夠檢測到最新的AI造假技術(shù)，這也是未來視頻真?zhèn)舞b別研究的重點(diǎn)方向。因此，作為公安隊(duì)伍中的技術(shù)警種，必須不斷加強(qiáng)自身技能建設(shè)，要爭取相關(guān)領(lǐng)導(dǎo)支持，成立研發(fā)專班，不斷升級現(xiàn)有電子數(shù)據(jù)取證技術(shù)，研發(fā)出AI取證工具，有效鑒別視頻真?zhèn)?，甚至是還原原始視頻，為案件成功偵辦奠定證據(jù)基礎(chǔ)。

3.2 強(qiáng)化技能培訓(xùn)，提高鑒別精確度

AI換臉技術(shù)，是基于人工智能的人體圖像合成技術(shù)，生成的假臉。據(jù)調(diào)查分析，目前，市面上常用的視頻真?zhèn)舞b別方法有：針對視頻文件參數(shù)、視頻內(nèi)容、視頻數(shù)據(jù)信息、時(shí)頻分析、監(jiān)控視頻的完整性和幀間復(fù)制粘貼盲檢測算法等進(jìn)行真?zhèn)舞b別，并由此開發(fā)出各種辨別真假視頻的工具或應(yīng)用，但由于每個(gè)鑒別方法都有其優(yōu)點(diǎn)和不足，辨別真假視頻的工具或應(yīng)用缺乏廣泛的適用性，因此鑒別時(shí)應(yīng)采用多種方法結(jié)合鑒定。故作為網(wǎng)警辦案人員，要適時(shí)“溫故而知新”：適時(shí)開展培訓(xùn)，及時(shí)掌握新的鑒別方法；適時(shí)進(jìn)行技能演練，熟悉掌握、熟練融合各種鑒別方法，這樣不僅為偵辦非法使用AI變臉技術(shù)從事違法犯罪活動提供可靠的技術(shù)方法，又能避免由于各個(gè)方法的側(cè)重點(diǎn)不同而生成錯(cuò)誤的鑒別結(jié)論的情況出現(xiàn)，提高對網(wǎng)絡(luò)造謠誹謗等違法犯罪活動鑒別結(jié)果的精確度，確保精準(zhǔn)打擊。

3.3 強(qiáng)化宣傳引導(dǎo)，提高網(wǎng)民素質(zhì)及警惕性

隨著互聯(lián)網(wǎng)云端服務(wù)的普及，普通人的隱私岌岌可危。雖然當(dāng)前我國使用AI變臉技術(shù)的人還比較少，但如果被那種心思邪惡的人盯上，普通人也有可能成為謠言、流言的主角。一旦陷入流言蜚語之中，勢必會對公眾日常的工作和生活帶來惡劣的影響。因此，網(wǎng)警部門在發(fā)揮自身職能優(yōu)勢，加強(qiáng)網(wǎng)上巡查監(jiān)控工作，及時(shí)發(fā)現(xiàn)、處置“假視頻”、“假新聞”的同時(shí)，更要充分利用“網(wǎng)警巡查執(zhí)法平臺”等加強(qiáng)宣傳引導(dǎo)，及時(shí)披露這一新興技術(shù)帶來的嚴(yán)重危害，及時(shí)引起公眾的警惕。如果去傳播“假視頻”、“假新聞”，就都是謠言、流言制作者的幫兇。不非法使用、不去看、不去傳播，才是對他人，以至于對自己最大的尊重。同時(shí)，還要鼓勵(lì)公眾、網(wǎng)民對這種行為進(jìn)行舉報(bào)，使非法使用AI變臉技術(shù)違法犯罪活動無處可匿。

4 結(jié)語

總之，打擊網(wǎng)絡(luò)犯罪分子是一項(xiàng)長期的的斗爭，需要每一名網(wǎng)警民警做出大量艱苦而細(xì)致的工作，特別是在互聯(lián)網(wǎng)技術(shù)的發(fā)展日新月異的當(dāng)下，更要求技術(shù)民警要時(shí)刻掌握新興技術(shù)、時(shí)刻研發(fā)創(chuàng)新手段。網(wǎng)絡(luò)安全，任重而道遠(yuǎn)。