摘 要：隨著深度合成技術的廣泛應用，其安全、倫理、隱私風險日益凸顯。系統(tǒng)梳理國內(nèi)外相關的政策、法規(guī)和標準制定情況發(fā)現(xiàn)，構建深度合成風險防控標準體系十分必要且迫切。通過建立涵蓋基礎、技術、評測、應用和管理五個方面的深度合成風險防控標準體系，將大大提升深度合成技術的透明度和可信度，促進其創(chuàng)新和健康發(fā)展，有效防范技術濫用帶來的安全風險，對保障國家安全、社會穩(wěn)定、司法公正以及提高公眾對深度合成技術的信任具有至關重要的作用。

關鍵詞：深度合成，風險防控，標準體系，人工智能

DOI編碼：10.3969/j.issn.1002-5944.2024.17.005

0 引 言

近年來，深度合成技術作為人工智能領域的一項前沿技術，取得了顯著的發(fā)展和突破。深度合成技術是指利用深度學習、虛擬現(xiàn)實等生成合成類算法制作包含文本、圖像、音頻、視頻、虛擬場景等數(shù)字內(nèi)容的技術。該技術基于變分自編碼器（VAE）、生成對抗網(wǎng)絡（GAN）、多頭自注意力模型（Transformer）以及擴散模型（Diffusion Model）等深度生成模型[1-5]，通過對大量數(shù)據(jù)的學習和訓練，學習數(shù)據(jù)在隱空間中的特征表示，從而實現(xiàn)針對圖像、視頻和音頻等數(shù)字媒體內(nèi)容的高質(zhì)量生成和編輯。同時，隨著深度合成模型及開源框架的普及，使得數(shù)字媒體內(nèi)容創(chuàng)作也從最初的簡單模型結合人工輔助干預，發(fā)展到現(xiàn)在的復雜模型、一鍵生成，深度合成技術的應用范圍和生成質(zhì)量都有了顯著提升，在娛樂、藝術、教育、醫(yī)療、制造、新聞等領域展現(xiàn)出強大的應用潛力。深度合成技術正成為推動社會進步和創(chuàng)新的重要力量。

然而，深度合成技術的廣泛應用也帶來了安全、倫理和隱私方面的諸多風險挑戰(zhàn)，其對國家安全和社會穩(wěn)定構成的潛在威脅日益凸顯[6-7]。首先，深度合成技術可以生成逼真的虛假視頻和音頻，這些內(nèi)容可能被用來傳播虛假信息，誤導公眾。例如，2024年1月，網(wǎng)上出現(xiàn)一個電視節(jié)目片段，冒稱香港特別行政區(qū)行政長官向市民推介一項投資計劃，特區(qū)政府嚴正澄清，稱有關影像全屬偽造。這種“深度偽造”內(nèi)容對社會的信息真實性構成了嚴重威脅。其次，攻擊者可以利用深度合成技術模仿受害者親友的聲音或面部，進行網(wǎng)絡釣魚和詐騙活動，竊取個人信息和財產(chǎn)，還可以制作出目標人物的不當言論或不雅視頻，對其人格權和名譽權造成嚴重侵犯。例如，2019年8月德國某能源公司的英國分部被詐騙分子通過合成公司總裁聲音的方式詐騙22萬歐元，這起事件被認為是全球首例涉及人工智能的詐騙案；2023年有不法分子使用深度合成技術生成了美國流行歌星Taylor Swift的不雅照片，并在網(wǎng)上大肆傳播，引發(fā)了社會的廣泛關注。第三，為了生成逼真的合成內(nèi)容，深度合成技術需要大量的個人數(shù)據(jù)，包括面部圖像、聲音樣本等，這些敏感信息的收集和使用還可能導致個人隱私的泄露。

2023年10月18日，在第三屆“一帶一路”國際合作高峰論壇上發(fā)布的《全球人工智能治理倡議》提出：“要做好風險防范，形成具有廣泛共識的人工智能治理框架和標準規(guī)范，不斷提升人工智能技術的安全性、可靠性、可控性、公平性”。加強深度合成技術的風險防控，建立和完善相關的標準體系是其中的關鍵環(huán)節(jié)和重要舉措。通過構建一個布局全面、技術領先、相互協(xié)調(diào)、操作性強的深度合成技術風險防控標準體系，可以為深度合成技術的研發(fā)、應用和管理提供明確的規(guī)范和指引，有效防范技術濫用帶來的風險，支撐打擊相關違法犯罪活動，推動技術創(chuàng)新沿著正確的方向進行，提升行業(yè)應用的整體水平，最終確保深度合成技術在為人類社會帶來便利和進步的同時，不會成為威脅國家安全和社會穩(wěn)定的“潘多拉之盒”。

1 國內(nèi)外現(xiàn)狀分析

1.1 全球人工智能安全監(jiān)管政策

近年來，人工智能安全已成為日益重要的議題，需要得到足夠的重視和關注，以確保人工智能技術的可持續(xù)發(fā)展。在此背景下，各國持續(xù)開展人工智能安全監(jiān)管政策相關研究工作。聯(lián)合國教科文組織在2021年發(fā)布《人工智能倫理問題建議書》[8]，提出了人工智能價值觀和原則，旨在為和平使用人工智能系統(tǒng)、防范人工智能危害提供基礎，推動全球?qū)θ斯ぶ悄軅惱戆踩珕栴}形成共識。美國近年來先后發(fā)布了《算法問責法（草案）》《人工智能應用的監(jiān)管指南》《人工智能道德原則》《人工智能權利法案》等政策法案，重點關注人工智能安全風險評估與風險管理。歐盟于2024年3月正式投票通過并批準《人工智能法案》，試圖對人工智能系統(tǒng)進行整體的分類監(jiān)管。2022年，我國發(fā)布《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》，2023年又發(fā)布了《生成式人工智能服務管理辦法》，提出生成式人工智能產(chǎn)品或服務應當遵循的規(guī)范要求，統(tǒng)籌人工智能的安全與發(fā)展。中國信息通信研究院在2021年發(fā)布了《可信人工智能白皮書》，從如何落實全球人工智能治理共識的角度出發(fā)，聚焦于可信人工智能技術、產(chǎn)業(yè)和行業(yè)實踐等層面，對可信人工智能的未來發(fā)展提出了建議。

1.2 人工智能安全標準現(xiàn)狀

目前，全球各國和相關組織正持續(xù)推進人工智能安全標準制定工作。在技術安全方面，歐盟發(fā)布了一系列標準文件，比如2023年3月發(fā)布的《人工智能網(wǎng)絡安全和標準化》（Cybersecurity of AI andStandardization）梳理了人工智能標準化前景，分析了現(xiàn)有人工智能國際標準覆蓋范圍及差異，為后續(xù)標準化如何支持歐盟實施《人工智能法案》提出建議[9]；2023年6月發(fā)布的《人工智能良好網(wǎng)絡安全實踐的多層框架》（Multilayer Framework for GoodCybersecurity Practices for AI），提出利用現(xiàn)有知識和最佳實踐確保人工智能系統(tǒng)、操作和流程的安全[10]。我國研制發(fā)布了《信息安全技術 機器學習算法安全評估規(guī)范》《生成式人工智能服務安全基本要求》等標準[11-12]，著重關注人工智能技術基礎服務及產(chǎn)品服務的安全能力及安全要求。國際標準化組織（ISO）自2022年以來，陸續(xù)開展了《人工智能 功能安全與人工智能系統(tǒng)》《人工智能 解決人工智能系統(tǒng)中安全威脅和故障的指南》等標準研制工作[13-14]，聚焦人工智能系統(tǒng)安全、功能安全等問題。

在應用安全方面，在生物特征識別、智能汽車、智能家居、智能醫(yī)療等人工智能關鍵應用領域，我國提前布局并推動發(fā)布了多項標準。生物特征識別領域，發(fā)布了《信息安全技術 生物特征識別信息保護基本要求》[15]，以及人臉、聲紋、基因、步態(tài)等數(shù)據(jù)安全國家標準[16-19]，并針對生物特征識別系統(tǒng)面臨的攻擊檢測及安全能力測試提出相應要求[20]。智能汽車領域，發(fā)布了《信息安全技術 汽車數(shù)據(jù)處理安全要求》《信息安全技術 網(wǎng)絡預約汽車服務數(shù)據(jù)安全要求》等國家標準[21-22]，提升了智能汽車相關企業(yè)的數(shù)據(jù)安全和信息安全水平。智能家居領域，發(fā)布了《信息安全技術 智能家居通用安全規(guī)范》等標準[23]，規(guī)定了智能家居安全通用技術要求和測試評價方法。

在風險管理方面，2022年以來，美國先后發(fā)布了《人工智能風險管理框架》《建立識別和管理人工智能偏差的標準》[24-25]等指導性文件，提出了用于識別和管理人工智能安全與偏見的技術指南。國際標準化組織（ISO）在2023年發(fā)布了《信息技術 人工智能 風險管理指南》[26]，提供了有關開發(fā)、生產(chǎn)、部署或使用人工智能的產(chǎn)品、系統(tǒng)和服務的組織該如何管理AI相關風險的指南。

1.3 深度合成技術風險防控標準現(xiàn)狀

作為人工智能安全的重要研究方向之一，深度合成技術及其應用的安全性需要引起重點關注。清華大學人工智能研究院發(fā)布的《深度合成十大趨勢報告（2022）》中顯示，深度合成制作內(nèi)容與傳播數(shù)量正極速攀升，較2017年增長十倍以上，合成內(nèi)容范圍涉及影視音樂、科技教育、生活、娛樂、咨詢等領域[27]。

美國是最早對深度合成技術進行監(jiān)管立法的國家。在2018年12月，美國發(fā)布了《2018年惡意深度偽造禁止法案》，并在之后陸續(xù)頒發(fā)了《深度偽造責任法案》《2019年深度偽造報告法案》和《2020財年情報授權法案》，主要針對影響選舉的虛假信息合成技術進行立法規(guī)制，對引發(fā)犯罪和侵權的內(nèi)容制作者提出了監(jiān)管要求。歐盟在2024年批準的《人工智能法案》中將深度合成列為四大風險等級中的第二級，即“具有潛在風險”，其要求深度合成服務提供者需對深度合成內(nèi)容進行披露和提示，以幫助用戶識別內(nèi)容的真?zhèn)蝃28]。英國于2022年以修訂《在線安全法案》的方式，對深度合成行為進行規(guī)制，即將利用深度合成技術偽造色情視頻的行為認定為犯罪行為[29]。2019年以來，我國有關部門先后制定了《網(wǎng)絡音視頻信息服務管理規(guī)定》《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》和《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》，將深度合成定位為包括生成合成類算法在內(nèi)的算法技術。

當前，國內(nèi)外深度合成技術領域的標準研制工作尚處于起步階段。美國國家標準技術研究所（NIST）于2021年2月通過了《深度偽造多媒體內(nèi)容檢測》研究內(nèi)容評估表并提供了系統(tǒng)化的評估路徑。國內(nèi)多個標準化組織積極推進相關工作[30]。公安部鑒定中心牽頭相關單位于2023年3月正式立項并開始研制法庭科學偽造人像系列國家標準，填補了深度偽造人像檢驗鑒定標準的空白。中國電子標準化協(xié)會在2022年7月發(fā)布的《人工智能 深度合成圖像系統(tǒng)技術規(guī)范》團體標準[31]，對深度偽造檢測系統(tǒng)提出了技術要求和評估方法。此外，全國信息安全標準化技術委員會于2023年10月11日發(fā)布的《生成式人工智能服務安全基本要求》，提出了生成式人工智能在服務安全方面的基本要求[32]。

1.4 深度合成風險防控標準體系建設的重要意義

在全球范圍內(nèi)，各國正積極推動深度合成技術標準的制定與完善，以應對這一技術帶來的挑戰(zhàn)和機遇。深度合成技術因其涉及圖像、視頻、音頻、文本等多種媒介形式，展現(xiàn)出獨特的多樣性和復雜性。這也意味著在不同的應用場景和需求下，對技術標準的要求也呈現(xiàn)出多樣性。盡管目前已有一些技術標準的初步探索和制定，但這些標準主要集中在技術層面，對于評測標準、應用標準和管理標準等方面，仍存在顯著的缺失和不完善之處。

因此，構建一個統(tǒng)一且協(xié)調(diào)的深度合成技術風險防控標準體系顯得尤為關鍵。這一體系的建立不僅能夠為深度合成技術的發(fā)展提供清晰的指導框架和方向，而且能夠有效地幫助識別、評估和緩解與深度合成技術相關的風險。通過全面評估和規(guī)范技術應用，可以防止技術的不當使用，確保信息的真實性，保護用戶隱私和數(shù)據(jù)安全，從而維護國家安全、社會穩(wěn)定，并促進技術的健康發(fā)展。具體而言，深度合成技術風險防控標準體系的建立具有以下幾個方面的重要意義：

（1）增強技術透明度和可信度。統(tǒng)一協(xié)調(diào)的標準體系將彌補標準缺口、統(tǒng)一技術度量指標，以提升深度合成技術的透明度，使公眾和使用者能夠更清晰地理解技術的作用機理和應用范圍，從而增強技術的社會接受度和信任度。

（2）促進技術創(chuàng)新和應用的健康發(fā)展。明確統(tǒng)一的標準體系能夠為技術研發(fā)和應用指明方向，避免重復建設、資源浪費和技術誤用，明確各個標準適用范圍和優(yōu)先級，確保標準內(nèi)容的協(xié)同和統(tǒng)一，確保標準在實際應用中相互支撐、相互補充，推動技術沿著有益于社會的方向發(fā)展和創(chuàng)新。

（3）防范和減少新技術帶來的潛在風險。系統(tǒng)性的風險評估和管理將有效預防和降低深度合成技術可能帶來的社會、法律和倫理風險，例如虛假信息的傳播和隱私泄露，保護國家、社會和個人權益。

（4）提升跨國合作和交流。在全球化背景下，深度合成技術的發(fā)展和應用跨越國界。統(tǒng)一的標準體系有助于推動我國標準體系的國際化，實現(xiàn)技術研發(fā)和應用的國際合作與交流，共同應對技術發(fā)展帶來的全球性挑戰(zhàn)。

2 深度合成技術風險防控標準體系構建

2.1 體系結構

根據(jù)深度合成技術所涉及的要素、活動等內(nèi)容，深度合成風險防控標準體系，包括基礎標準、技術標準、評測標準、應用標準和管理標準五大部分，體系結構見圖1。基礎標準是深度合成風險防控的總體性、框架性、通用性標準，為其他各類標準提供基礎支撐；技術標準是深度合成風險防控的關鍵技術標準，為防范和打擊深度合成相關違法犯罪提供技術保障；評測標準是對相關模型、算法、系統(tǒng)、平臺、內(nèi)容等進行測試評估的標準，為深度合成風險防控技術、產(chǎn)品和服務提供質(zhì)量評估手段；應用標準是面向公安行業(yè)具體需求，結合行業(yè)應用特點，從支撐警務實戰(zhàn)和社會治理的角度出發(fā)，對其他部分標準的細化，給出公安相關應用領域的深度合成風險防控指南，支撐深度合成安全治理體系；管理標準是用于規(guī)范相關責任主體對深度合成風險防控的管理要求，包括數(shù)據(jù)、人員、設施安全管理等相關標準。

2.2 體系框架

深度合成風險防控標準體系框架由基礎標準、技術標準、評測標準、應用標準、管理標準組成，如圖2所示。

2.3 體系內(nèi)容

2.3.1 基礎標準

（1）術語與分類：界定深度合成風險防控技術、產(chǎn)品、服務、應用等相關概念、分類和描述，明確相關術語的定義和解釋，注意依據(jù)和參考國內(nèi)外相關術語標準，保證術語的準確性和一致性。

（2）參考架構：用于描述深度合成風險防控體系的構成，如風險識別、風險評估、防控措施、應急響應和恢復策略等，以及各構成部分之間的邏輯關系，包括體系架構、數(shù)據(jù)架構、安全架構等標準。

（3）符號標識：規(guī)定深度合成內(nèi)容的標識方法、分類編碼、格式規(guī)范等，明確不同種類和等級的深度合成內(nèi)容的標注位置、區(qū)域、規(guī)則和方式，如水印、數(shù)字簽名等，確保標識的一致性和可識別性。

（4）特征集：規(guī)范深度合成風險防控中所使用的各類識別或檢驗特征，包括違法和不良信息識別特征庫的入庫標準、規(guī)則和程序，以及可解釋性檢驗特征的分類、提取和描述方法，確保不同的工具和方法能夠提供一致、可信、可理解的特征描述。

（5）通用要求：描述深度合成風險防控的基本原則、程序和通用要求，包括但不限于透明性、隱私性、安全性、公平性、魯棒性和可解釋性等多個方面的要求和規(guī)則，為有效防范深度合成安全風險提供通用指導和規(guī)范。

2.3.2 技術標準

（1）監(jiān)測預警技術標準。屬于早期預警和主動防范措施，用于規(guī)范對各種系統(tǒng)或網(wǎng)絡環(huán)境中潛在的深度合成威脅或異常進行監(jiān)測識別的技術。該技術標準可包括以下類別：

1）合成檢測識別技術標準。用于規(guī)范基于數(shù)據(jù)驅(qū)動的深度合成檢測識別技術，其中，深度合成的手段與內(nèi)容包括但不限于視頻圖像（人臉生成、人臉替換、人臉操控、姿態(tài)操控、人物屬性編輯、背景替換）、音頻（語音轉換、文本轉語音、音頻拼接、錄音重放、語音屬性編輯）、文本（篇章生成、文本風格轉換、問答對話）等。

2）實時監(jiān)測響應技術標準。用于規(guī)范深度合成內(nèi)容實時監(jiān)測響應技術，包括但不限于數(shù)據(jù)傳輸處理能力、系統(tǒng)響應時間、視頻抽幀方法、準確性、穩(wěn)定性、兼容性、可擴展性等方面要求，確保監(jiān)測系統(tǒng)能夠及時準確識別和響應深度合成內(nèi)容。

3）內(nèi)容審核認證技術標準。用于規(guī)范深度合成內(nèi)容審核認證技術，包括審核速度、能力、效率和流程等方面要求。還包括對用于深度合成內(nèi)容審核的數(shù)字水印、區(qū)塊鏈等認證技術的規(guī)范，確保內(nèi)容來源可追溯。

（2）數(shù)據(jù)取證技術標準。用于規(guī)范對涉及深度合成技術及其生成內(nèi)容的電子數(shù)據(jù)取證技術。該技術標準可包括以下類別：

1）通用取證技術標準。包括數(shù)據(jù)完整性校驗、時間戳記錄、鏈式保管和日志管理等技術要求。

2）深度模型取證技術標準。包括深度學習模型的逆向工程、模型權重分析、模型驗證、訓練數(shù)據(jù)追溯等方法、程序和技術要求。

3）生成內(nèi)容取證技術標準。包括元數(shù)據(jù)分析、真?zhèn)悟炞C和內(nèi)容比對等方法、程序和技術要求。

（3）檢驗鑒定技術標準。用于規(guī)范深度合成內(nèi)容檢驗鑒定技術，包括人像合成、背景合成、音頻合成、對抗樣本、呈現(xiàn)攻擊等檢驗方法、程序和技術要求。

1）人像合成檢驗技術標準。包括生理特征（眨眼、心率以及膚色變化、呼吸節(jié)奏一致性等）、物理特征（陰影、光照、反射和姿態(tài)一致性、物體間的相互作用、物理環(huán)境一致性等）、數(shù)字特征（噪聲分布一致性、時序一致性、壓縮痕跡、邊緣特征、圖像元數(shù)據(jù)分析等）、多模態(tài)協(xié)同（上下文信息、語義一致性、跨模態(tài)特征的關聯(lián)性等）等檢驗標準。

2）背景合成檢驗技術標準。包括背景元素一致性、深度信息、場景幾何結構、環(huán)境動態(tài)分析、異常物理現(xiàn)象、不自然的環(huán)境變化、場景與對象間的空間關系不一致等檢驗標準。

3）音頻合成檢驗技術標準。包括語音特征的一致性，如音調(diào)、音色、語速以及語音中的自然停頓和呼吸聲，背景噪聲的一致性、錄音設備特性的匹配以及語音與口型同步性等檢驗標準。

4）對抗樣本檢驗技術標準。用于規(guī)范能夠誤導深度學習模型的對抗樣本的檢驗鑒定技術。

5）呈現(xiàn)攻擊檢驗技術標準。用于規(guī)范使用物理攻擊手段（如照片展示、高仿面具）所形成的偽造內(nèi)容的檢驗鑒定技術，包括多光譜和普通RGB圖像檢驗標準。

（4）溯源分析技術標準。用于規(guī)范對深度合成內(nèi)容進行來源追蹤的方法、程序、技術要求和效果評價。

1）拍攝設備溯源技術標準。用于規(guī)范相機、手機等拍攝設備的特定指紋（如設備型號、鏡頭特性、傳感器噪聲模式等）識別與驗證技術，以確保能夠追溯到媒體文件原始的拍攝設備和生成源頭。

2）合成工具溯源技術標準。用于規(guī)范深度合成工具特征（如軟件、算法、應用程序特有的數(shù)字痕跡、操作模式等）識別技術，以便于追蹤和歸類使用的合成工具。

3）偽造過程溯源技術標準。用于規(guī)范深度合成內(nèi)容編輯順序、合成過程重構等技術，以便對偽造過程進行再現(xiàn)分析。

4）原始身份溯源技術標準。用于規(guī)范深度合成內(nèi)容原始人物身份推斷技術，分析換臉前的原始身份。

5）傳播路徑溯源技術標準。包括深度合成內(nèi)容傳播路徑、傳播模式、傳播速度的追蹤分析標準。

2.3.3 評測標準

（1）評測數(shù)據(jù)集標準。規(guī)范用于測試和評估深度合成檢測模型工具性能的基準數(shù)據(jù)集，包括數(shù)據(jù)生成、數(shù)據(jù)采集、數(shù)據(jù)清洗、數(shù)據(jù)格式、數(shù)據(jù)處理、數(shù)據(jù)交互等方法和要求。

（2）模型算法評測標準。用于評估深度合成檢測模型算法的功能、性能、能力成熟度等，包括準確性、泛化能力、計算效率、可解釋、穩(wěn)健性、適應性、可靠性等評測方法、評測指標和測試要求，比如，通過評分、誤差率、ROC曲線、混淆矩陣等來量化性能。

（3）系統(tǒng)工具評測標準。用于評估深度合成檢測系統(tǒng)工具（包括軟件和硬件組件）的綜合性能，包括系統(tǒng)執(zhí)行任務的速度、效率、穩(wěn)定性、安全性、可用性、兼容性、可維護性、合規(guī)性等評測方法、評測指標和測試要求，通常需要開展實地測試、用戶反饋、性能基準測試等。

（4）內(nèi)容安全評測標準。用于評估深度合成內(nèi)容是否安全，是否包含惡意偽造或誤導信息，包括內(nèi)容的真實度、可信度、合規(guī)性（是否符合相關法律法規(guī)和社會道德標準、是否侵犯了他人的版權或知識產(chǎn)權）、社會影響等評測方法、評測指標和測試要求，同時制定評估深度合成內(nèi)容潛在風險和危害的指南，描述風險識別、分析、評價和治理的步驟和方法，為不同風險等級的深度合成內(nèi)容提供針對性的防控指導和措施。

2.3.4 應用標準

（1）電信網(wǎng)絡詐騙防范。面向電信網(wǎng)絡詐騙行為的高效識別和及時攔截，規(guī)定深度偽造音視頻檢測、異常信息感知預警等方面的技術要求。

（2）個人信息保護。面向打擊侵犯公民個人信息違法犯罪，規(guī)定涉及個人信息的敏感隱私內(nèi)容自動檢測過濾、隱私保護等方面的技術要求，防止個人信息被非法利用，侵害個人合法權益。

（3）虛假信息治理。面向虛假信息的快速準確鑒別，遏制虛假信息傳播擴散，規(guī)定虛假信息內(nèi)容識別、來源驗證、多模態(tài)分析、綜合應對等方面的技術要求。

（4）網(wǎng)絡基礎設施保護。面向網(wǎng)絡基礎設施的安全與穩(wěn)定運行保障，規(guī)定基于深度合成技術的網(wǎng)絡攻擊檢測模型、平臺、應用和產(chǎn)品的功能和技術要求。

（5）威脅情報分析。面向潛在威脅行為的預測和模擬，規(guī)定深度合成信息感知、篩選、行為預測、場景模擬等方面的技術要求。

2.3.5 管理標準

（1）數(shù)據(jù)安全管理。用于規(guī)范數(shù)據(jù)加密、訪問控制、數(shù)據(jù)記錄留存、數(shù)據(jù)備份等方面的管理要求，確保數(shù)據(jù)在存儲、傳輸和處理過程中的安全和隱私。

（2）人員能力要求。用于規(guī)范從事深度合成風險防控相關工作的人員能力、職業(yè)道德、專業(yè)資格認證、專業(yè)培訓等方面的要求。

（3）模型算法審查。用于規(guī)范相關技術、模型和算法所使用的訓練數(shù)據(jù)來源、規(guī)模、類型、算法機制機理等方面的審查要求，確保模型和算法的開發(fā)過程透明，便于監(jiān)管和公眾的理解與信任。

（4）設施安全管理。用于規(guī)范設施安全檢查、評估和升級等方面的管理要求，確保使用的硬件、軟件、網(wǎng)絡安全可靠。

（5）倫理審查要求。用于規(guī)范深度合成相關技術開發(fā)應用的倫理審查要求，包括透明性、隱私性、安全性、可解釋性、公平性等方面。

（6）實驗室質(zhì)量控制。包括建立標準操作程序（SOPs）、設備校準、樣本處理和記錄保存、內(nèi)部和外部定期質(zhì)量控制評估等方面的要求，確保實驗室檢驗結果準確、可靠。

（7）應急處置規(guī)范。用于規(guī)范深度合成風險應急處置流程和措施的相關要求，明確在不同情況下分級響應流程和具體應急措施。

3 結 論

全面探討了深度合成技術風險防控標準體系的構建，旨在應對該技術所帶來的安全、倫理和隱私泄露風險。通過對國內(nèi)外現(xiàn)有政策、法律法規(guī)和標準的分析，提出了一個統(tǒng)一、協(xié)調(diào)的標準體系框架，明確了深度合成技術風險防控的需求，包括基礎標準、技術標準、評測標準、應用標準和管理標準五大部分，并對各個部分的內(nèi)容進行了具體的闡述，為深度合成技術的安全應用提供了明確的指導和規(guī)范。

強調(diào)了標準對于深度合成技術風險防控的重要性和必要性，這不僅是確保技術安全、合規(guī)、可控的重要手段，也是維護國家安全和社會穩(wěn)定、保護個人權益、促進技術健康發(fā)展和增強公眾信任的關鍵。通過建立統(tǒng)一、協(xié)調(diào)的標準體系，可以有效地識別、評估和緩解深度合成技術可能帶來的風險，防止技術濫用，并促進技術的健康和可持續(xù)發(fā)展。

面向未來，深度合成技術風險防控標準體系的建設還將面臨更多挑戰(zhàn)和機遇。隨著技術的快速發(fā)展和應用場景的不斷擴展，標準體系需要不斷更新和完善，以適應新的技術特性和應用需求：一是建立標準體系動態(tài)更新機制，以快速響應深度合成技術的發(fā)展變化，確保標準的時效性和適應性；二是加強國際合作，推動中國標準走向世界，積極參與國際標準協(xié)作；三是促進技術與倫理的融合，研究如何在標準體系中更好地體現(xiàn)倫理原則；四是針對不同的應用領域，研究和制定面向特定應用場景的深度合成風險防控標準，滿足行業(yè)特定的安全和倫理需求；五是加強標準的實施與監(jiān)督，確保標準有效執(zhí)行，最終為建設一個更加安全、公正和開放的數(shù)字世界貢獻力量。

參考文獻

[1]KINGMA D P， WELLING M. Auto-encoding variational bayes[J]. ArXiv Preprint ArXiv：1312. 6114， 2013.

[2]CRESWELL A， WHITE T， Dumoulin V， et al. Generative adversarial networks： An over view[J ]. I EEE signal processing magazine， 2018， 35（1）： 53-65.

[3]VASWANI A， SHAZEER N， PARMAR N， et al. Attention is all you need[J ]. Advances In Neural Information Processing Systems， 2017， 30.

[4]CROITORU F A， HONDRU V， IONESCU R T， et al. Diffusion models in vision： A survey[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence， 2023， 45（9）：10850-10869.

[5]胡銘菲，左信，劉建偉.深度生成模型綜述[J].自動化學報，2022，48（1）：40-74.

[6]FLORIDI L. Artificial intelligence， deepfakes and a future of ectypes[J]. Ethics， Governance， and Policies in Artificial Intelligence， 2021： 307-312.

[7]李亞玲，覃緣琪，魏闕.人工智能生成內(nèi)容的潛在風險及治理對策[J].智能科學與技術學報，2023，5（3）：415-423.

[8]李宏策.教科文組織號召實施全球AI倫理規(guī)范[N].科技日報，2023-04-04（004）.

[9]ENISA. Multilayer framework for good cybersecurity practices for AI[EB/OL]. [2024-06-07]. https：//www.enisa.europa.eu/publications/multilayer-framework-forgood-cybersecurity-practices-for-ai.

[10]ENISA. Cybersecurity of AI and standardisation[EB/OL].[2024-06-07]. https：//www.enisa.europa.eu/publications/cybersecurity-of-ai-and-standardisation.

[11]全國信息安全標準化技術委員會.GB/T 42888—2023信息安全技術 機器學習算法安全評估規(guī)范[S].北京：中國標準出版社，2023.

[12]全國信息安全標準化技術委員會.生成式人工智能服務安全基本要求：TC260—003[S].北京：中國標準出版社，2024.

[13]ISO/IEC TR 5469：2024 Artificial intelligence - functional safety and AI systems： ISO/IEC JTC 1[S]. Geneva： ISO/IEC， 2024.

[14]ISO/IEC JTC 1. ISO/IEC CD 27090 cybersecurity -artificial intelligence - guidance for addressing security threats and failures in artificial intelligence systems[S].Geneva： ISO/IEC.

[15]全國信息安全標準化技術委員會.信息安全技術 生物特征識別信息保護基本要求：GB/T 40660—2021[S].北京：中國標準出版社，2021.

[16]全國信息安全標準化技術委員會.信息安全技術 人臉識別數(shù)據(jù)安全要求：GB/T 41819—2022[S].北京：中國標準出版社，2022.

[17]全國信息安全標準化技術委員會.信息安全技術 基因識別數(shù)據(jù)安全要求GB/T 41806—2022[S].北京：中國標準出版社，2022.

[18]全國信息安全標準化技術委員會.信息安全技術 步態(tài)識別數(shù)據(jù)安全要求：GB/T 41773—2022[S].北京：中國標準出版社，2022.

[19]全國信息安全標準化技術委員會.信息安全技術 聲紋識別數(shù)據(jù)安全要求：GB/T 41807—2022[S].北京：中國標準出版社，2022.

[20]全國信息安全標準化技術委員會.信息技術 生物特征識別呈現(xiàn)攻擊檢測 第1部分：框架：GB/T 41815.1—2022[S].北京：中國標準出版社，2022.

[21]全國信息安全標準化技術委員會.信息安全技術 汽車數(shù)據(jù)處理安全要求：GB/T 41871—2022[S].北京：中國標準出版社，2022.

[22]全國信息安全標準化技術委員會.信息安全技術 網(wǎng)絡預約汽車服務數(shù)據(jù)安全要求：GB/T 42017—2022[S].北京：中國標準出版社，2022.

[23]全國信息安全標準化技術委員會.信息安全技術 智能家居通用安全規(guī)范：GB/T 41387—2022[S].北京：中國標準出版社，2022.

[24]NAT IONA L I N S T I T U T E OF S TA N DA R D S A N D TECHNOLOGY. AI risk management framework[EB/OL].[2024-06-07]. https：//nvlpubs.nist.gov/nistpubs/ai/NIST.AI.100-1.pdf.

[25]SCHWARTZ R， SCHWARTZ R， VASSILEV A， et al.Towards a standard for identifying and managing bias in artificial intelligence[M]. US Department of Commerce，National Institute of Standards and Technology， 2022.

[26]ISO/ IEC J TC 1. ISO/ IEC 23894：2023 Information technology - Artificial intelligence - Guidance on risk management[S]. Geneva： ISO/IEC， 2023.

[27]清華大學人工智能研究院.深度合成十大趨勢報告（2022）[R].2022.

[28]EUROPEAN COMMISSION. Regulator y framework proposal on artificial intelligence[EB/OL]. （2023-06-20）[2024-04-03]. https：//digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai.

[29]貴重，何鵬，何瑛，等.網(wǎng)信安全政策法律動態(tài)觀察[J].電信工程技術與標準化，2021，34（12）：63-66.

[30]NAT IONA L I N S T I T U T E OF S TA N DA R D S A N D TECHNOLOGY. NIST detecting deepfake multimedia content[EB/OL]. （2020-01-13） [2024-04-03]. https：//www. nist. gov/system/files/documents/2021/0 4/02/V I TA L%2 0 S C _ R%2 6 D %2 0 Ne e d _ D e t e ct i n g %2 0 DeepFakes. pdf.

[31]中國電子技術標準化協(xié)會.人工智能 深度合成圖像系統(tǒng)技術規(guī)范[EB/OL]. [2024-4-3]. http：//www. ttbz. org. cn/StandardManage/Detail/64687.

[32]全國信息安全標準化技術委員會.生成式人工智能服務安全基本要求[EB/OL]. （2023-10-11） [2024-04-03]. https：//www.tc260. org. cn/upload/2023-10-11/1697008495851003865.pdf.

作者簡介

胡晰遠，博士，教授，研究方向為深度生成模型、圖像和視頻處理。

張寧，通信作者，博士，正高級警務技術職稱，研究方向為法庭科學、視頻圖像處理與標準化。

（責任編輯：袁文靜）