◆王劭方

淺析深度合成技術(shù)與電子信息數(shù)據(jù)安全

◆王劭方

（國家計(jì)算機(jī)網(wǎng)絡(luò)應(yīng)急技術(shù)處理協(xié)調(diào)中心 甘肅分中心 甘肅 730030）

隨著電子信息化科學(xué)技術(shù)的高速發(fā)展，電子信息數(shù)據(jù)也快速融進(jìn)社會(huì)建設(shè)中的各行各業(yè)，帶動(dòng)其他領(lǐng)域的高速發(fā)展，各領(lǐng)域在感受電子信息數(shù)據(jù)帶來的便利、效率的時(shí)候，同時(shí)也做好電子信息數(shù)據(jù)安全隱患帶來風(fēng)險(xiǎn)防范措施。本文通過對(duì)電子信息數(shù)據(jù)中深度合成技術(shù)電子信息數(shù)據(jù)的相關(guān)特點(diǎn)與其安全風(fēng)險(xiǎn)進(jìn)行研究分析，然后針對(duì)安全風(fēng)險(xiǎn)提出合理化的建議，提高安全防范性。

電子信息；數(shù)據(jù)；安全

1 前言

深度合成技術(shù)是指通過人工智能算法實(shí)現(xiàn)語音、圖像、音頻、視頻、人臉等內(nèi)容的合成與自動(dòng)生成。如人臉合成技術(shù)，就是創(chuàng)造出一張并不存在的人臉；人臉再現(xiàn)技術(shù)可以操作目標(biāo)人員的臉部表情，并可以讓其說出他們從未說過的話。

現(xiàn)階段中深度合成技術(shù)主要集中在電影后期制作、合成人臉和合成虛擬形象用于在線營銷、社交產(chǎn)品中的人臉融合、AI虛擬主播、電商平臺(tái)上的“數(shù)字試穿”、合成聲音用于失聲患者發(fā)聲，以及數(shù)字虛擬人等。

深度合成技術(shù)特點(diǎn)是：

（1）在高端的高質(zhì)量高仿真階段需要大量的專業(yè)技術(shù)人員和專業(yè)工具參與；

（2）高度仿真能力的深度合成技術(shù)已經(jīng)廣泛應(yīng)用在影視、娛樂、教育、醫(yī)療、社交、電商、內(nèi)容營銷、藝術(shù)創(chuàng)作、科研等諸多領(lǐng)域中；

（3）隨著深度合成技術(shù)工具的不斷發(fā)展，深度合成內(nèi)容的應(yīng)用規(guī)模和使用范圍也變得更大，內(nèi)容的說服力也更強(qiáng)。

深度合成的文本、圖片、音頻、視頻的信息主要傳播渠道包括微博/微信/QQ/抖音/小紅書/新聞網(wǎng)站/論壇/社交網(wǎng)站/社交APP/網(wǎng)絡(luò)游戲等。

深度學(xué)習(xí)的人工智能技術(shù)已經(jīng)開始慢慢改變著這個(gè)世界，并融進(jìn)了人們的日常生活中。通過深度合成技術(shù)中的AI技術(shù)，成功將老電影《上甘嶺》重新披上色彩，并達(dá)到了2K的清晰度。隨著深度合成技術(shù)的不斷發(fā)展，其應(yīng)用前景還會(huì)更加廣泛，通過相關(guān)技術(shù)的配合研究開發(fā)，讓AR/VR虛擬場(chǎng)景更加具有真實(shí)感。

2 電子信息數(shù)據(jù)風(fēng)險(xiǎn)分析

2.1 深度合成技術(shù)信息數(shù)據(jù)安全性分析

深度合成技術(shù)所產(chǎn)生的電子信息數(shù)據(jù)也會(huì)存在著巨大的風(fēng)險(xiǎn)，比如眼見不一定為實(shí)?，F(xiàn)在的電子通信技術(shù)越來越便利，移動(dòng)支付、視頻通訊以及人臉識(shí)別已經(jīng)全面融進(jìn)人們的生活中，而深度合成技術(shù)的出現(xiàn)，上述電子通信技術(shù)產(chǎn)生的信息數(shù)據(jù)就會(huì)受到巨大的影響和對(duì)其安全性產(chǎn)生嚴(yán)重的后果。例如通過利用機(jī)器學(xué)習(xí)算法與面部映射軟件相結(jié)合，就可以偽造出一個(gè)人的聲音、面孔以及身體等身份信息，就可以通過這些身份電子信息數(shù)據(jù)進(jìn)行盜取他人的資料或財(cái)物等。

隨著技術(shù)的不斷發(fā)展，普通大眾都可以通過這些深度合成技術(shù)軟件進(jìn)行一鍵制造出自己想要的人臉或者視頻。偽造人臉和視頻的泛濫，還會(huì)帶來一個(gè)更加嚴(yán)重的后果，那就是對(duì)信息的真實(shí)性形成了嚴(yán)峻的挑戰(zhàn)。在攝影技術(shù)、視頻技術(shù)以及射線掃描技術(shù)出現(xiàn)以后，視覺文本的客觀性就在法律、新聞以及其他社會(huì)領(lǐng)域中慢慢建立起來，成為真相的存在，或者是構(gòu)建真相的最有力的證據(jù)存在。在這個(gè)意義上，視覺客觀性產(chǎn)自一種特定的專業(yè)權(quán)威體制。然而，深度造假的技術(shù)優(yōu)勢(shì)和游獵特征，使得這一專業(yè)權(quán)威體制遭遇前所未有的挑戰(zhàn)。借助這一體制生產(chǎn)的視覺文本，深度造假者替換了不同乃至相反的文本內(nèi)容和意涵，造成了文本的自我顛覆，也就從根本上顛覆了這一客觀性或者真相的生產(chǎn)體制。

2.2 深度合成技術(shù)信息數(shù)據(jù)鑒別技術(shù)分析

現(xiàn)階段對(duì)深度合成內(nèi)容鑒別工作難度加大。由于對(duì)鑒別深度合成技術(shù)的屬于剛剛起步階段，針對(duì)特定的深度合成技術(shù)的方式方法還沒有通用的鑒別方案或方法。因深度合成技術(shù)不斷升級(jí)更新，所以在AI鑒定方式中，其監(jiān)測(cè)工具也需要隨時(shí)進(jìn)行更新迭代，才能滿足要求。

2.3 深度合成技術(shù)對(duì)信息數(shù)據(jù)安全的真實(shí)性危害

由于深度合成技術(shù)大量濫用，并在社交媒體、新聞等平臺(tái)造成傳播虛假信息的現(xiàn)象。當(dāng)然現(xiàn)階段不管是國內(nèi)還是國外，社交媒體平臺(tái)上涉及政治和政治人物的深度合成視頻都是很少見的，所以暫時(shí)利用深度合成技術(shù)造成的虛假信息也很少。不過鑒于此前在國內(nèi)外出現(xiàn)的關(guān)于的美國前總統(tǒng)奧巴馬、俄羅斯總統(tǒng)普京等政治人物的深度合成視頻，就說明深度合成技術(shù)已經(jīng)需要相關(guān)部門嚴(yán)厲監(jiān)管的地步了。

本文通過對(duì)擁有深度合成技術(shù)，并將其運(yùn)用在手機(jī)APP軟件或互聯(lián)網(wǎng)上37家企業(yè)進(jìn)行調(diào)研發(fā)現(xiàn)，只有5家企業(yè)具有備案信息。其調(diào)研部分情況如表1所示。

表1 深度和成技術(shù)信息匯總部分表

表1所呈現(xiàn)的數(shù)據(jù)表明，國內(nèi)在對(duì)深度合成技術(shù)信息數(shù)據(jù)上的安全監(jiān)控力度還是欠缺，導(dǎo)致其民眾在對(duì)這些深度合成技術(shù)的使用方面是可以隨意合成，并上傳或者傳播，造成視頻信息真實(shí)性的挑戰(zhàn)。

3 電子信息數(shù)據(jù)安全防范措施

3.1 利用技術(shù)的安全防范措施

互聯(lián)網(wǎng)行業(yè)內(nèi)的主流網(wǎng)絡(luò)平臺(tái)已經(jīng)著手采取自律措施應(yīng)對(duì)深度合成技術(shù)的潛在濫用。在國外谷歌、Facebook等主流科技公司已經(jīng)采取相關(guān)的安全防范措施，積極開發(fā)甄別AI合成內(nèi)容、對(duì)抗深度合成技術(shù)濫用的方法和工具，如谷歌開發(fā)的“Reality Defender”工具，可掃描用戶瀏覽的圖像、視頻或其他數(shù)字媒介，標(biāo)記并報(bào)告可疑的偽造內(nèi)容，檢測(cè)經(jīng)竄改的人工合成內(nèi)容；在此基礎(chǔ)上降低合成內(nèi)容的權(quán)重，讓算法不再為用戶推薦被認(rèn)定為深度合成并可能造成負(fù)面影響的內(nèi)容。利用平臺(tái)優(yōu)勢(shì)，這些科技公司已經(jīng)在積極構(gòu)建深度合成數(shù)據(jù)集，并開放給研究人員免費(fèi)使用，以此來促進(jìn)檢測(cè)技術(shù)的研究與開發(fā)。同時(shí)，各平臺(tái)之間還攜手開展深度合成檢測(cè)挑戰(zhàn)賽，為檢測(cè)技術(shù)的開發(fā)提供資金和深度合成數(shù)據(jù)集，以促進(jìn)更多檢測(cè)識(shí)別技術(shù)的開發(fā)。在技術(shù)賽道之外，平臺(tái)也在培訓(xùn)專門的合成內(nèi)容審查人員，主要目的是增加審核的準(zhǔn)確性，特別是在深度合成與戲仿諷刺的界限還難以把握的情況下，需要人工審核的參與，確保內(nèi)容符合平臺(tái)的政策要求。在國內(nèi)，騰訊信息安全團(tuán)隊(duì)自主研發(fā)的GFN網(wǎng)絡(luò)算法鑒別AI換臉，及騰訊優(yōu)圖實(shí)驗(yàn)室研發(fā)的人臉合成檢測(cè)技術(shù)，對(duì)相關(guān)深度合成內(nèi)容的檢測(cè)都達(dá)到了很高的準(zhǔn)確率。騰訊優(yōu)圖實(shí)驗(yàn)室也在構(gòu)建人臉合成檢測(cè)平臺(tái)——“FaceIn人臉防偽”，并在騰訊云上發(fā)布“換臉甄別ATDF”產(chǎn)品，支持對(duì)多種換臉方法進(jìn)行檢測(cè)，達(dá)到了很高的準(zhǔn)確率。

不斷對(duì)深度合成技術(shù)的鑒別技術(shù)的提升。隨著深度合成技術(shù)的進(jìn)化，相應(yīng)的鑒別技術(shù)也要同步發(fā)展，并能夠迅速鑒別并進(jìn)行可靠標(biāo)記AI合成內(nèi)容，從而在傳播媒介上阻斷負(fù)面的虛假內(nèi)容的擴(kuò)散和蔓延。

溯源技術(shù)，深度合成技術(shù)的監(jiān)測(cè)與反監(jiān)測(cè)逐漸演變成一場(chǎng)貓捉老鼠的技術(shù)競(jìng)賽，深度合成技術(shù)正在快速更新以逃避監(jiān)測(cè)工具的識(shí)別。因此，還需要從內(nèi)容源頭上區(qū)分真實(shí)內(nèi)容與合成內(nèi)容，確認(rèn)內(nèi)容的來源，包括制作者、制作地點(diǎn)、制作設(shè)備，傳播途徑等。當(dāng)然，可以利用最新的區(qū)塊鏈不可篡改性來確保數(shù)據(jù)的完整性。培訓(xùn)專門的內(nèi)容審查人員。加強(qiáng)對(duì)視屏、圖像、音頻內(nèi)容的真實(shí)性審核。建立審查隊(duì)伍，對(duì)合成內(nèi)容的審核。

3.2 利用法律法規(guī)對(duì)信息數(shù)據(jù)進(jìn)行監(jiān)管

針對(duì)利用網(wǎng)絡(luò)技術(shù)進(jìn)行的犯罪事件頻頻發(fā)生，我國利用立法手段進(jìn)行對(duì)其有效的監(jiān)控和管理，在2020年1月1日起施行的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》要求對(duì)非真實(shí)的音視頻信息進(jìn)行標(biāo)識(shí)，表明需要結(jié)合技術(shù)進(jìn)行一定的治理，充分發(fā)揮掌握技術(shù)的平臺(tái)企業(yè)的主觀能動(dòng)性，實(shí)現(xiàn)共建、共治、共享的治理理念。

在2021年1月1日施行的《民法典》中，就明確規(guī)定了禁止任何組織或個(gè)人利用信息技術(shù)手段偽造等方式侵害他人的肖像權(quán)，回應(yīng)了技術(shù)發(fā)展背景下應(yīng)對(duì)肖像權(quán)進(jìn)行更為嚴(yán)密保護(hù)的需求。

通過法律的手段促使深度合成技術(shù)所產(chǎn)生的電子信息數(shù)據(jù)朝著安全、健康、有序的方向發(fā)展，真正做到服務(wù)于人民，推動(dòng)社會(huì)的和諧健康發(fā)展。

4 結(jié)束語

綜合上面的安全防范措施所述，電子信息數(shù)據(jù)在給社會(huì)高速發(fā)展的同時(shí)，也暴露出其有形或者無形的安全隱患問題，若這些安全漏洞被不法分子發(fā)現(xiàn)，就會(huì)造成巨大的影響和經(jīng)濟(jì)損失。所以需要通過國家立法嚴(yán)厲打擊電子信息數(shù)據(jù)犯罪問題，同時(shí)做好安全防范措施工作，促使電子信息數(shù)據(jù)的健康有序發(fā)展，才能有利于社會(huì)文明的高速發(fā)展。

[1]陳靜.計(jì)算機(jī)網(wǎng)絡(luò)數(shù)據(jù)安全策略探討[J].電腦知識(shí)與技術(shù)，2010，（34）：17-18.

[2]王曉蕾.網(wǎng)絡(luò)環(huán)境下計(jì)算機(jī)信息安全防護(hù)措施[J].計(jì)算機(jī)光盤軟件與應(yīng)用，2012，（9）：6-7.

[3]張濱.運(yùn)營商大數(shù)據(jù)安全保障體系研究[J].電信工程技術(shù)與標(biāo)準(zhǔn)化，2016，29（12）：1-7.

[4]安建偉.保護(hù)大數(shù)據(jù)時(shí)代的個(gè)人隱私[J].互聯(lián)網(wǎng)周刊，2014（Z1）.

[5]黃建文，田宏強(qiáng)，裴健. 運(yùn)營商用戶數(shù)據(jù)安全防護(hù)體系的探索與實(shí)踐[J].信息網(wǎng)絡(luò)安全，2012，（12）：80～82.

[6]曲大林，等.電信運(yùn)營商數(shù)據(jù)防泄密體系研究[J].信息通信技術(shù)，2015（1）.