張玉清

隨著信息技術和網絡社會的快速發(fā)展,人工智能技術已經廣泛應用于各個領域,包括醫(yī)療保健、金融、交通、軍事等,這些領域的安全問題直接關系到人們的生命財產安全.然而,在使用人工智能技術實現(xiàn)智能化的過程中,也面臨著算法安全風險、信息安全風險、數(shù)據(jù)安全風險、網絡安全風險、社會安全風險及國家安全風險.

保護人工智能安全不僅僅是保護個人隱私和確保系統(tǒng)安全,更是保障社會的公平和穩(wěn)定;保護人工智能安全也是保護個人隱私的必要措施,人工智能系統(tǒng)需要大量的數(shù)據(jù)對人類進行學習和模擬,其中可能包含個人敏感信息,這些數(shù)據(jù)一旦被竊取就會有個人隱私泄露和身份盜竊的風險.使用技術依法依規(guī)維護人工智能在使用中的安全性和隱私保護,是維護社會和諧穩(wěn)定、維護公民合法權益、促進人工智能健康有序發(fā)展的必然之舉和迫切需要.

相比于現(xiàn)實社會,人工智能面對的問題更為復雜,機遇和挑戰(zhàn)并存:一方面人工智能作為引領新一輪科技革命和產業(yè)革命的戰(zhàn)略性技術,其掀起的全球競爭和發(fā)展浪潮正風起云涌般蔓延;另一方面人工智能也給維護國家政治安全帶來了新的挑戰(zhàn),而政治安全是國家安全的根本,是安邦定國的基石.習近平總書記指出:“要加強人工智能發(fā)展的潛在風險研判和防范,維護人民利益和國家安全,確保人工智能安全、可靠、可控”“明者防禍于未萌,智者圖患于將來”.面對迅速發(fā)展的人工智能技術,既要做到有備無患,又要善于化危為機.人工智能對政治領域前所未有地賦能,在潛伏著諸多技術性風險的同時,也孕育著推動政治安全現(xiàn)代化的新機遇.因此在以政策為導向、以技術為支撐的大環(huán)境下,我國的人工智能安全在科學研究、產品開發(fā)和平臺建設方面取得了一批先期成果.另一方面,從總體來看,在解決政策與技術的協(xié)調性和適應性問題、構建完整的人工智能安全體系、實現(xiàn)隱私保護應用等方面仍存在著眾多問題,面臨著諸多挑戰(zhàn).

《信息安全研究》為加快推動人工智能安全風險與隱私保護協(xié)調發(fā)展,組織了本期以“人工智能的安全風險與隱私保護”為主題的?？?論述新時代下的人工智能安全是個宏大的命題,由于篇幅有限,專題在主題上不可能面面俱到,相關問題也不可能一一枚舉.本期重在研究人工智能安全風險與隱私保護,涵蓋宏觀綜述、政策建議和微觀技術研究.在內容上注重政策與技術的觀點互鑒,既能展現(xiàn)網絡空間安全、人工智能安全領域的專家視角,也能傾聽政策設計、制定相關領域的學者聲音.征文中的作者盡可能覆蓋“產學研用”,既有來自中國科學院大學、西安電子科技大學、南京理工大學、海南大學、武漢理工大學、燕山大學、河北科技大學等高校的優(yōu)秀的科研團隊,也有中國信息通信研究院、國家信息中心、中電長城網際安全技術研究院等一線隊伍,還有國家電網、杭州安恒信息技術股份有限公司等產業(yè)先鋒.專題組織上注重綜述與關鍵研究的穿插,既為讀者提供ChatGPT應用、全生命周期安全等技術發(fā)展方向的概覽,也呈現(xiàn)后門檢測、圖像隱寫、網絡攻擊檢測等關鍵技術點上的具體研究工作.期望在有限的篇幅中,盡可能展現(xiàn)我國人工智能安全和隱私保護的概貌.具體如下:

1) 張弛等人從安全賦能和伴生安全2個角度對ChatGPT在網絡安全領域的未來進行了歸納總結及展望,指出了其在網絡安全領域的未來研究方向.

2) 嚴馳從多角度切入,從頂層設計入手對人工智能的發(fā)展進行深入分析和思考,并進一步探索了GPT4的未來規(guī)制方案.

3) 孫雷亮以人工智能數(shù)據(jù)偽造風險為研究目標,以GPT模型為研究對象,分析安全隱患,重點研究數(shù)據(jù)偽造可能產生的原因以及其實現(xiàn)過程.

4) 葉露晨等人針對如何鑒別ChatGPT生成的文本,反映創(chuàng)作的真實性,從網絡攻防的角度研究新的對抗繞過技巧,分析AI生成文本的檢測思路.

5) 朱孟垚等人介紹了ChatGPT及其系列模型的發(fā)展歷程、工作模式、訓練方式和各類安全問題,并對其如何安全可信地發(fā)展進行了展望.

6) 張昊星等人針對人工智能在數(shù)據(jù)安全管理技術中的應用所面臨的問題和挑戰(zhàn)進行了剖析,并對未來的發(fā)展趨勢進行了展望.

7) 高亞楠從大模型技術的定義、特點和應用入手,分析其網絡安全態(tài)勢,并提出相應的大模型網絡安全治理框架,給出大模型網絡安全應對步驟,為大模型網絡安全保障工作提供參考.

8) 李宗維等人針對基于人工智能和區(qū)塊鏈融合的隱私保護系統(tǒng)的研究現(xiàn)狀和發(fā)展趨勢進行概述,對現(xiàn)有系統(tǒng)中存在的不足和原因深入分析,并提出了有效的改進建議.

9) 屈夢楠等人針對圖像隱寫技術中存在嵌入圖像時質量下降、易受攻擊等問題,提出了一個基于隱式對稱生成對抗網絡的圖像隱寫提取方案.

10) 蔣明等人針對從圖像中提取更顯著的隱寫特征來提升隱寫分析檢測精確度的問題,提出了一個基于多注意力機制的孿生網絡圖像隱寫分析方法.

11) 孔維一等人針對智能制造設備群的安全狀態(tài)驗證困難的問題,設計了一種基于遠程證明的智能制造系統(tǒng)設備群的主動防御方案.

12) 劉亦純等人針對在DNN觸發(fā)惡意攻擊者設定的后門時模型出現(xiàn)異常行為而會導致性能下降的問題,提出了一種基于多級度量差值的后門檢測方案.

13) 張明明等人為實現(xiàn)網絡攻擊的智能化檢測和分類以阻止惡意行為,提出了一種入侵檢測模型對惡意網絡攻擊進行智能化檢測和分類.

14) 曹婉瑩等人對比分析了中美兩國網絡安全漏洞披露與共享的政策法規(guī)異同,分析和指出了我國在漏洞披露與共享方面的問題與應對方法.

本?？d的14篇論文展示了我國人工智能安全相關領域的專家學者、科研人員以及信息安全從業(yè)人員的部分研究成果.成果去粗取精,求同存異,力圖勾勒出最新的人工智能發(fā)展態(tài)勢,為學術研究、產品開發(fā)和管理決策提供有實用價值的理論借鑒和技術參考.

本?？某霭娴玫搅俗髡摺徃鍖＜液途庉嫴康雀鞣矫娴拇罅χС?作為本?？丶s編委,我衷心感謝各位作者、審稿專家和編輯部等各方的大力支持,希望本?？軌驗閺V大讀者和國內信息安全同行提供一些有益的參考和幫助.