陳冰

“給你看條我前兩天剛收到的彩信，用我的身份證照片合成了一張勒索照片，讓我趕緊跟他聯(lián)系，不然后果自負(fù)！”上海市數(shù)字證書認(rèn)證中心有限公司總經(jīng)理崔久強(qiáng)回憶遭遇時不禁感慨，所謂眼見為實、耳聽為虛，而今已經(jīng)做不到了?！叭四樧R別是人工智能技術(shù)應(yīng)用最先取得商業(yè)化成功的領(lǐng)域，但AI如果開始做壞事，比如各種偽造攻擊等，后果很嚴(yán)重?！?/p>

作為數(shù)字安全專家，也免不了被詐騙分子盯上，這樣的“黑色故事”幾乎每天都在我們身邊上演。除了電信詐騙，平臺壟斷、算法歧視、假冒偽劣商品、刷單炒信……我們每個人每天都在通過數(shù)字身份與網(wǎng)絡(luò)設(shè)備連接，在數(shù)字空間中主動或被動留下通信、社交、交易、搜索、娛樂、身份驗證等各種活動伴生的大量數(shù)據(jù)，由此不可避免地帶來了關(guān)于數(shù)據(jù)、隱私、安全等風(fēng)險問題。

9月1日，正值我國《數(shù)據(jù)安全法》施行兩周年之際，2023“浦江護(hù)航”數(shù)據(jù)安全上海論壇在上海舉辦，來自數(shù)字信任和網(wǎng)絡(luò)安全領(lǐng)域的重量級專家學(xué)者、行業(yè)精英現(xiàn)場論道，圍繞AIGC（生成式人工智能）大模型時代的數(shù)據(jù)安全、零信任下企業(yè)安全邊界的構(gòu)建，上海數(shù)字信任的創(chuàng)新實踐以及數(shù)據(jù)資產(chǎn)的治理、后量子時代的密碼技術(shù)進(jìn)行深度探討。

這些前沿而重大的議題不僅僅關(guān)乎技術(shù)層面的挑戰(zhàn)，更關(guān)乎在宏觀層面構(gòu)建和諧、透明、安全的數(shù)字社會。只有通過政府、企業(yè)、研究機(jī)構(gòu)和社會組織等各方共同努力，才能建立更高效、可靠、透明的數(shù)字信任體系。

為什么數(shù)字信任很重要？

無論是小農(nóng)經(jīng)濟(jì)還是市場經(jīng)濟(jì)，“信任”都是人類文明進(jìn)步和經(jīng)濟(jì)發(fā)展的基礎(chǔ)，在社會財富創(chuàng)造和經(jīng)濟(jì)穩(wěn)健增長中發(fā)揮著重要作用。隨著經(jīng)濟(jì)生產(chǎn)、社會治理、城市生活等各領(lǐng)域的數(shù)字化轉(zhuǎn)型全面啟動，萬物智聯(lián)世界加速形成，“信任”也在人際關(guān)系、制度契約的基礎(chǔ)上，被注入新的數(shù)字文明內(nèi)涵。

然而，隨著數(shù)據(jù)開放流動，網(wǎng)絡(luò)邊界日趨模糊，云計算、AI等新技術(shù)給數(shù)據(jù)安全帶來嚴(yán)峻挑戰(zhàn)。數(shù)據(jù)泄露、網(wǎng)絡(luò)安全事故、數(shù)據(jù)篡改、大數(shù)據(jù)殺熟、惡意軟件、個人信息倒賣等亂象頻發(fā)，對人類社會的外溢影響不斷加深，嚴(yán)重削弱社會主體的安全感，進(jìn)而抑制科技創(chuàng)新與數(shù)字化轉(zhuǎn)型的步伐。因此，構(gòu)建新型數(shù)字信任關(guān)系，夯實數(shù)字社會和數(shù)字經(jīng)濟(jì)發(fā)展基本面成為擺在各國面前的一項迫切任務(wù)。正如諾貝爾經(jīng)濟(jì)學(xué)獎獲得者保羅·羅默在《全球數(shù)字經(jīng)濟(jì)發(fā)展洞察》中所言，“在數(shù)字平臺的發(fā)展中，信任和規(guī)則的建立同樣重要”。

《中國數(shù)字經(jīng)濟(jì)發(fā)展研究報告（2023年）》顯示，2022年我國數(shù)字經(jīng)濟(jì)規(guī)模達(dá)到50.2萬億元，同比增長10.3%，GDP占比提升到41.5%。數(shù)字經(jīng)濟(jì)快速發(fā)展下，數(shù)字化發(fā)展成為國家戰(zhàn)略，推動數(shù)實深度融合，加速企業(yè)與組織的數(shù)字化轉(zhuǎn)型，被視為是我國新一輪產(chǎn)業(yè)結(jié)構(gòu)轉(zhuǎn)型升級和經(jīng)濟(jì)高質(zhì)量發(fā)展的必由之路。

其中，數(shù)字信任體系的構(gòu)建又是數(shù)字化轉(zhuǎn)型的一塊重要基石。業(yè)內(nèi)專家表示，10%的信任提升帶來 36%的經(jīng)濟(jì)效益提升。

出席2023“浦江護(hù)航”數(shù)據(jù)安全上海論壇的崔久強(qiáng)在接受記者專訪時指出，數(shù)字信任是一個很新的概念，在2020年被他們首次提出。它以可信數(shù)字身份、可信數(shù)據(jù)流通為兩大核心，通過制度、管理、技術(shù)等一系列組合手段減少一切映射到數(shù)字空間的網(wǎng)絡(luò)實體進(jìn)行數(shù)據(jù)交互的安全風(fēng)險，并形成數(shù)字社會安全交互、高效運(yùn)行的機(jī)制。

“從數(shù)字治理的角度講，它聚焦網(wǎng)絡(luò)安全底座，能夠防止城市數(shù)據(jù)泄露，還能夠?qū)⒊鞘卸嘣磾?shù)據(jù)打通，實現(xiàn)城市公共數(shù)據(jù)的共享開放；從數(shù)字經(jīng)濟(jì)的角度講，它能夠降低數(shù)字經(jīng)濟(jì)交易成本，支撐數(shù)據(jù)市場要素建設(shè)，減少黑色產(chǎn)業(yè)與不正當(dāng)競爭，推動數(shù)字市場經(jīng)濟(jì)發(fā)展；從數(shù)字生活的角度看，它能夠確保數(shù)字應(yīng)用來源可靠，支撐多樣場景全程線上化，防止個人隱私泄露，賦能城市生活透明化?！?p>

以電信和互聯(lián)網(wǎng)企業(yè)為例，他們承載著大量用戶個人信息和業(yè)務(wù)數(shù)據(jù)，占全國行業(yè)機(jī)構(gòu)產(chǎn)生數(shù)據(jù)的總量超過四分之一，具有極高價值，但也成為網(wǎng)絡(luò)攻擊的主要目標(biāo)，勒索病毒、數(shù)據(jù)泄露等安全事件時有發(fā)生，總體形勢依然嚴(yán)峻。其中，上海承擔(dān)著護(hù)衛(wèi)數(shù)據(jù)安全的重要角色。上海市政府辦公廳副主任張宇祥在論壇上透露，上海建設(shè)了上海數(shù)據(jù)交易所，組建上海數(shù)據(jù)集團(tuán)，積極發(fā)展數(shù)據(jù)要素市場。截至去年底，上海數(shù)字經(jīng)濟(jì)核心企業(yè)已突破1200家，核心產(chǎn)業(yè)規(guī)模近3400億元。與此同時，上海還出臺了《上海數(shù)據(jù)條例》完善數(shù)據(jù)治理體系，加強(qiáng)安全技術(shù)運(yùn)用，實現(xiàn)互聯(lián)網(wǎng)安全攻擊態(tài)勢的智能分析、全天候安全監(jiān)控。

建立數(shù)字信任有多難？

相信很多人都有這樣的體會，剛剛和家人說了談?wù)摿四臣轮?，再次登錄某些平臺的時候就會收到相同主題的商品或服務(wù)推薦。雖然科技巨頭們對于監(jiān)聽一事早就多次予以否認(rèn)，但并沒有打消人們的疑慮。與此同時，許多民眾對人工智能算法下的定向廣告推送持負(fù)面看法。最經(jīng)典的一個案例是，十年前一位網(wǎng)友因好奇心作祟在某購物軟件上搜索“棺材”，沒想到被“骨灰盒”的廣告騷擾了一個月。現(xiàn)在的精準(zhǔn)推送，比十年前有過之而無不及。

自2016年“劍橋分析公司”丑聞曝光以來，公眾對社交媒體平臺的質(zhì)疑和擔(dān)憂與日俱增。但是，在另一方面，絕大部分的人如今又都無法避免使用社交媒體，日常溝通聯(lián)絡(luò)、工作學(xué)習(xí)、購物娛樂和資訊傳播等幾乎都與這些平臺相關(guān)?！凹炔幌嘈?，又無法擺脫”的困境正日益侵蝕著數(shù)字時代的廣泛信任基礎(chǔ)，進(jìn)而衍生出更多社會問題。

數(shù)字時代，新興技術(shù)的應(yīng)用導(dǎo)致“個人數(shù)據(jù)”的邊界日益模糊。大量涉及個人信息的數(shù)據(jù)正不斷被抽取、拆分、匯合成支撐社會持續(xù)運(yùn)轉(zhuǎn)的龐大信息流，導(dǎo)致按照傳統(tǒng)原則劃分個人數(shù)據(jù)權(quán)利邊界的難度明顯增加?！耙粋€最簡單的例子，現(xiàn)在大家都覺得刷臉進(jìn)小區(qū)非常方便，可是這些涉及你絕對隱私的信息就保存在小區(qū)物業(yè)的機(jī)器上，就是一般的人都可以輕易盜取，別說高級黑客了。這些信息到底該怎么保存怎么使用，大家還缺少共識。”崔久強(qiáng)說。

去年11月以來，以ChatGPT為代表的生成式人工智能等新技術(shù)、新業(yè)務(wù)的發(fā)布，引發(fā)行業(yè)變革，但也為數(shù)據(jù)安全保護(hù)和監(jiān)管帶來新挑戰(zhàn)。崔久強(qiáng)指出，除了用AIGC（生成式人工智能）偽造圖像之外，大模型中隱含著許多敏感數(shù)據(jù)。不久前韓國三星一技術(shù)人員因?qū)懘a受困，求助于ChatGPT，將企業(yè)生產(chǎn)的核心代碼也上傳了，使個人、企業(yè)及國家敏感數(shù)據(jù)不斷處于風(fēng)險之下。因此，如何做好數(shù)據(jù)的防泄密以及統(tǒng)一的數(shù)據(jù)管控，非常關(guān)鍵。

我們都知道區(qū)塊鏈技術(shù)是一種分布式、去中心化的信任機(jī)制建立，借助于區(qū)塊鏈技術(shù)可以實現(xiàn)數(shù)據(jù)和信息的不可篡改和可追溯性，從而確保數(shù)字信息的真實性和可靠性，為數(shù)字信任的技術(shù)實現(xiàn)提供了可行性的路徑。這一特性使得區(qū)塊鏈技術(shù)在數(shù)字信任領(lǐng)域具有廣泛的應(yīng)用前景，包括身份認(rèn)證、數(shù)據(jù)管理、供應(yīng)鏈管理和金融交易等領(lǐng)域。

“利用區(qū)塊鏈的特性，有人做奢侈品、鉆石珠寶的溯源。本來這是一個讓買家覺得更加安全可信的交易方式，但是如果上鏈的數(shù)據(jù)就是假的，這不是更助長了奢侈品的造假嗎？”崔久強(qiáng)指出，這就對監(jiān)管提出了更高的要求。更別說如果是被假數(shù)據(jù)訓(xùn)練出來的大模型，那得出的結(jié)論得錯得多離譜？

中國科學(xué)技術(shù)大學(xué)教授左曉棟分享了一個關(guān)于數(shù)據(jù)泄密的案例，更加凸顯了數(shù)據(jù)問題的復(fù)雜性。在去年國家安全日之前，《焦點訪談》節(jié)目披露了一個案件，境外機(jī)構(gòu)和境內(nèi)機(jī)構(gòu)相勾結(jié)，由境內(nèi)機(jī)構(gòu)在高鐵沿線放置信號采集設(shè)備，竊取高鐵運(yùn)行數(shù)據(jù)，后來案子破獲。此案被譽(yù)為《數(shù)據(jù)安全法》實施以來，首例涉案數(shù)據(jù)被鑒定為情報的事例，同時涉案人員被定罪為為境外提供非法情報罪。

當(dāng)時有人疑問，高鐵運(yùn)行信號為什么要被稱為情報，原因是什么？或者說背后的邏輯是什么？實際上這也是無奈之舉。我們翻遍刑法，沒有適用于這個案例的罪名?！缎谭ā酚嘘P(guān)于竊取國家相關(guān)秘密的罪名，但是高鐵數(shù)據(jù)不是國家秘密，《刑法》后來為了保護(hù)個人信息有侵害公民信息罪，但是高鐵數(shù)據(jù)顯然也不是個人信息，怎么辦？但是它危害國家安全了，最近的罪名就是“情報”?！斑@說明在我們現(xiàn)有的制度設(shè)計，包括法律法規(guī)中我們對于數(shù)據(jù)安全保護(hù)的重點還不夠。再確切一點說，我們以前認(rèn)為這個數(shù)據(jù)影響了國家安全，毫無疑問那就是國家秘密。問題是，非國家秘密中是不是有影響國家安全的數(shù)據(jù)？是不是應(yīng)當(dāng)加以保護(hù)？這個問題自然就產(chǎn)生了?！?/p>

事實上，在當(dāng)前千行百業(yè)的數(shù)字化轉(zhuǎn)型中，無論是數(shù)據(jù)的復(fù)雜度，還是信任主體的類型與數(shù)量，抑或是各種新老場景對于數(shù)字信任的需求，均遠(yuǎn)勝過往。這意味著過去的數(shù)字信任建設(shè)模式、單獨一個產(chǎn)品或者一個基礎(chǔ)設(shè)施，很難匹配上數(shù)字化轉(zhuǎn)型的長期需求。

如何建立數(shù)字信任？

無論是政府企業(yè)，還是普通市民，都需要一個信任的數(shù)字空間，如果沒有數(shù)字信任，我們必然會面臨著各種挑戰(zhàn)和風(fēng)險。

“以上海市數(shù)字證書認(rèn)證中心有限公司為例，我們是中國第一家專業(yè)的電子認(rèn)證服務(wù)機(jī)構(gòu)，給全市乃至全國的幾百萬企業(yè)，大概上億人口提供基于數(shù)字身份的信任服務(wù)。我們?nèi)绾谓⒁粋€可靠的數(shù)字身份體系？通過AI、區(qū)塊鏈、5G、隱私計算等技術(shù)的銜接來形成新的數(shù)字信任底座。”

崔久強(qiáng)說，大家一直苦惱自己的購物信息、興趣愛好、社交特性似乎都被大數(shù)據(jù)拿捏得死死的，如果有一種方式既不泄露個人的敏感信息，但是又能提供你想要的結(jié)果，這就是現(xiàn)在非常前沿的隱私計算技術(shù)。實際上，經(jīng)過處理的數(shù)據(jù)，可以只顯示某些特征，卻不暴露個人的重要隱私，從而讓數(shù)據(jù)能夠流動起來，實現(xiàn)開放共享。

“比如，孩子留學(xué)，需要提供各種房產(chǎn)證明、存款證明給留學(xué)中介，如果提供了自己在黃浦江畔有一套500平方米的房子的證明，但是不提及具體的住房地址，是不是就能有效保護(hù)自己的隱私？同樣，針對刷臉進(jìn)出小區(qū)的新需求，其實可以在前端采集的時候通過個體特征去比對，眼距、顴骨高度、人中長短之類的，這樣就不用存儲個人的照片信息在物業(yè)了。再比如，我們?nèi)タ床‘a(chǎn)生了大量的診療數(shù)據(jù)，醫(yī)藥廠商或者醫(yī)生拿到這些數(shù)據(jù)，可以研究更好的治療方法，研發(fā)更有針對性的藥物，如果沒有隱私計算，就會泄露病人的很多隱私，但是現(xiàn)在我們搭建了一個新型的信任計算平臺，既可以保證信息是真實的，可以放心使用，但是又可以防止敏感信息被泄露?！?/p>

崔久強(qiáng)介紹，在推出個人、法人和公務(wù)人員身份認(rèn)證的服務(wù)之后，眼下他們正在上海推廣居委會的投票系統(tǒng)。之前，投票都需要居委會或者物業(yè)人員上門搜集投票結(jié)果，現(xiàn)在通過小程序投票，結(jié)合隱私保護(hù)和密碼技術(shù)，既能夠保證一家只有一名業(yè)主投票的身份真實性，又能夠保證投票的匿名性，“讓投票變得輕松又高效”。

2022年12月19日，中共中央、國務(wù)院發(fā)布《關(guān)于構(gòu)建數(shù)據(jù)基礎(chǔ)制度更好發(fā)揮數(shù)據(jù)要素作用的意見》，針對數(shù)據(jù)基礎(chǔ)制度建設(shè)，《意見》從數(shù)據(jù)產(chǎn)權(quán)、流通交易、收益分配、安全治理等方面，提出二十條政策舉措意見。今年兩會期間，全國政協(xié)委員、致公黨上海市委會專職副主委邵志清提交了《加快建設(shè)國家數(shù)字信任平臺》的提案，他在提案中指出，《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個人信息保護(hù)法》和《關(guān)鍵信息基礎(chǔ)設(shè)施安全保護(hù)條例》《數(shù)據(jù)出境安全評估辦法》等初步建立了數(shù)據(jù)要素流通的法律保障體系。在大數(shù)據(jù)、可信計算、區(qū)塊鏈等技術(shù)加持下，數(shù)字信任能力顯著提升。但對于區(qū)塊鏈技術(shù)、AI應(yīng)用倫理和算法的安全性等，缺乏全國性規(guī)則和一致性監(jiān)管方案，尚未建立數(shù)據(jù)要素可信流通體系。

為此，他建議統(tǒng)籌規(guī)劃數(shù)字信任制度體系和技術(shù)體系，建立數(shù)據(jù)安全、權(quán)利保護(hù)、跨境傳輸管理、交易流通、開放、共享、安全認(rèn)證等基礎(chǔ)制度和標(biāo)準(zhǔn)規(guī)范，建立統(tǒng)一、規(guī)范的數(shù)字身份和數(shù)據(jù)安全合規(guī)監(jiān)管體系。自主突破區(qū)塊鏈、AI、隱私計算、量子密碼等技術(shù)關(guān)鍵點，加強(qiáng)對區(qū)塊鏈、AI等技術(shù)的安全合規(guī)體系建設(shè)，建立自主可控、安全可靠的數(shù)字信任創(chuàng)新技術(shù)體系。

（摘自《新民周刊》2023年第34期。作者為該刊記者）