李建偉 張書晉

ChatGPT可能被用于偽造虛假信息、攻擊社交系統(tǒng)

毫無疑問，ChatGPT作為一項互聯(lián)網(wǎng)領(lǐng)域的重大創(chuàng)新，開啟了人工智能的一個新階段。在世界百年未有之大變局和中華民族偉大復(fù)興戰(zhàn)略全局下，如何應(yīng)對ChatGPT對于我國數(shù)據(jù)安全、科技安全、文化安全、經(jīng)濟(jì)安全乃至意識形態(tài)安全產(chǎn)生的影響，以維護(hù)和保障相關(guān)領(lǐng)域我國的主權(quán)、安全和發(fā)展利益，是一項需要引起高度重視的新課題。

守土有責(zé)：ChatGPT的應(yīng)用需要規(guī)避哪些安全風(fēng)險

一是數(shù)據(jù)安全風(fēng)險。ChatGPT作為自然語言處理模型，需要大量的數(shù)據(jù)資源作為其訓(xùn)練基礎(chǔ)，同時在后續(xù)的交互中依然需要持續(xù)輸入數(shù)據(jù)才能保持系統(tǒng)的更新與數(shù)據(jù)的準(zhǔn)確性。因此，ChatGPT的運作基礎(chǔ)在于全球海量數(shù)據(jù)，匯集如此之多的數(shù)據(jù)交由可自主學(xué)習(xí)的人工智能系統(tǒng)匯總、分析與處理，這其中存在的數(shù)據(jù)安全風(fēng)險不言而喻。

ChatGPT因其具有的自然語言生成與理解能力，可能被用于偽造虛假信息、攻擊社交系統(tǒng)方面，同時還可能被攻擊者利用來生成相應(yīng)的攻擊代碼、惡意軟件代碼、垃圾郵件等，黑客利用AI發(fā)起數(shù)據(jù)攻擊的可能性大幅提升。此外，用戶在使用ChatGPT的輸入端口提出問題時，該問題首先會被傳輸?shù)矫绹腛penAI公司，隨后ChatGPT才會給出相應(yīng)的回答，因而在所提問題中有關(guān)國家安全、經(jīng)濟(jì)運行、社會穩(wěn)定、公共健康與安全的重要數(shù)據(jù)會被傳輸?shù)骄惩夤?，由此造成國家安全風(fēng)險。同時，ChatGPT數(shù)據(jù)庫中存在著大量未經(jīng)用戶知情同意的個人隱私數(shù)據(jù)，容易對用戶的個人信息、隱私安全造成威脅。

因此，使用ChatGPT蘊含著高度的數(shù)據(jù)安全風(fēng)險。當(dāng)ChatGPT被有關(guān)國家、機(jī)構(gòu)惡意收集敏感信息與傳播不安全內(nèi)容時，對我國國家安全將構(gòu)成影響。

二是科技安全風(fēng)險。眾所周知，科技革命會帶來進(jìn)一步的產(chǎn)業(yè)革命。ChatGPT所用的“大型語言模型”訓(xùn)練將在未來形成產(chǎn)業(yè)鏈的重塑，全球海量數(shù)據(jù)輸入ChatGPT中，直接導(dǎo)致各類商業(yè)組織、個人用戶對其依賴性越來越強，這好比芯片、操作系統(tǒng)是ICT（信息通信技術(shù)）生態(tài)的底層核心，如此重要的“卡脖子”技術(shù)對國家安全的重要性不言自明。盡管各國都在尋求利用AI模型獲得經(jīng)濟(jì)、軍事和國家安全優(yōu)勢，然而目前相關(guān)內(nèi)容的主要參與者還是美國公司。當(dāng)ChatGPT促進(jìn)網(wǎng)絡(luò)攻防技術(shù)升維，AI對抗、AI網(wǎng)絡(luò)攻擊日后將會成為主流，來自科技安全領(lǐng)域的挑戰(zhàn)刻不容緩，已成為擺在我們面前亟須解決的問題。

三是文化安全風(fēng)險。如前文所述，ChatGPT是通過開放數(shù)據(jù)與用戶不斷輸入數(shù)據(jù)來強化學(xué)習(xí)能力、完善數(shù)據(jù)系統(tǒng)的，這就意味著ChatGPT很容易面臨輸入信息錯誤而得出錯誤答案的情況，也就是“文化污染”問題。有網(wǎng)友用政治傾向（Political Compass測試題：涉及經(jīng)濟(jì)、社會、文化、政治、宗教、情感等領(lǐng)域六十多道題，測試者需要對每道題進(jìn)行回復(fù)，在“強烈贊同”“贊同”“不贊同”“強烈不贊同”四個選項中選擇一項，通過疊加得分，測出自己的政治立場和價值取向）對ChatGPT展開提問，ChatGPT表現(xiàn)出了非中立的文化傾向。由此可見，ChatGPT在文化領(lǐng)域也并非完全中立，當(dāng)ChatGPT以自身文化立場對用戶的提問作出回答時，可能造成互聯(lián)網(wǎng)大范圍的知識體系及意識攻擊隱患。而意識攻擊具有深度隱藏、潛移默化的特點，一旦被別有用心的機(jī)構(gòu)利用，將會對有關(guān)國家的文化安全造成潛移默化的影響。

四是經(jīng)濟(jì)安全風(fēng)險。ChatGPT從技術(shù)原理來看，屬于AIGC（人工智能生成內(nèi)容）的新型商業(yè)化應(yīng)用方式，是一種基于大型預(yù)訓(xùn)練模型等人工智能技術(shù)，可通過已有數(shù)據(jù)尋找規(guī)律，并通過適當(dāng)?shù)姆夯芰ι上嚓P(guān)內(nèi)容的AI賦能技術(shù)。除目前以ChatGPT為代表的文本生成式，還包括代碼、圖像、音視頻等類別，為工業(yè)、醫(yī)療、教育、金融、商業(yè)、文化傳媒等多領(lǐng)域帶來了顛覆性創(chuàng)新。因此，掌握AIGC技術(shù)，已成為新時代維護(hù)我國經(jīng)濟(jì)安全的重要路徑。

把數(shù)據(jù)變成生產(chǎn)力，是當(dāng)今科技革命發(fā)生的根本變化。我國有一定的數(shù)據(jù)優(yōu)勢，近年來正在AI領(lǐng)域努力趕超發(fā)達(dá)國家，在此基礎(chǔ)上如何發(fā)展AI技術(shù)、借助這輪科技革命的“東風(fēng)”，成為應(yīng)對我國經(jīng)濟(jì)安全風(fēng)險的重點。

五是意識形態(tài)安全風(fēng)險。美國新聞可信度評估與研究機(jī)構(gòu)News Guards研究人員經(jīng)過測試認(rèn)為，ChatGPT存在陰謀論和誤導(dǎo)性敘述的問題。他們發(fā)現(xiàn)它能在幾秒鐘內(nèi)改編信息，產(chǎn)生大量令人信服卻無信源的內(nèi)容。需要引起重視的是，目前還沒有辦法可以有效解決這一問題，這或?qū)?dǎo)致ChatGPT成為傳播包括政治謠言在內(nèi)的網(wǎng)絡(luò)謠言工具。

當(dāng)前ChatGPT在回答一些涉及意識形態(tài)領(lǐng)域的問題時，帶有鮮明的政治立場。科技無國界，然而科技的擁有者、操縱者有國籍，他們不僅堅定維護(hù)所在國的利益，甚至可能不惜為此詆毀敵對國家。美國OpenAI首席執(zhí)行官Sam Altman在國家AI安全委員會（NSCAI）2021年全球新興技術(shù)峰會期間表示：“將有多種全球努力來構(gòu)建這些強大的人工智能系統(tǒng)，而在世界上獲得我們想要的結(jié)果的最佳方式，即與自由民主制度相一致的AI，將需要我們和我們的盟友首先構(gòu)建它們。”因此，ChatGPT可能對我國意識形態(tài)安全構(gòu)成負(fù)面影響。

提前布局：ChatGPT技術(shù)場景下維護(hù)國家安全的發(fā)力點

為應(yīng)對當(dāng)前ChatGPT所可能引發(fā)的風(fēng)險，我們當(dāng)積極制定相應(yīng)對策：

一是加快科技創(chuàng)新、突破核心技術(shù)。人工智能的發(fā)展建立在科技創(chuàng)新尤其是核心技術(shù)突破上，我國百度、騰訊等互聯(lián)網(wǎng)企業(yè)在此方面具有發(fā)展?jié)摿Γ型蚱艭hatGPT在此方面的壟斷。阿里巴巴、京東等中國企業(yè)也表示正在或計劃研發(fā)類似產(chǎn)品。未來的時代是AI的時代，面對AI對AI的戰(zhàn)略格局，我們必須掌握核心技術(shù)，不能將AI領(lǐng)域的話語權(quán)拱手讓給他國。

二是加強數(shù)據(jù)合規(guī)、維護(hù)數(shù)據(jù)安全，盡快建立健全數(shù)據(jù)合規(guī)體系。首先，要關(guān)注從互聯(lián)網(wǎng)收集的海量數(shù)據(jù)是否合規(guī)，ChatGPT作為一種商業(yè)產(chǎn)品，如果其從具有禁止第三方爬取數(shù)據(jù)條款的網(wǎng)站收集數(shù)據(jù)，可能違反相關(guān)規(guī)定，使用海量原始數(shù)據(jù)可能違反“最小數(shù)據(jù)”原則。其次，要注意數(shù)據(jù)處理合規(guī)，ChatGPT使用的訓(xùn)練數(shù)據(jù)可能含有個人隱私數(shù)據(jù)，輸出的數(shù)據(jù)也可能涉及敏感信息，在數(shù)據(jù)上要保護(hù)其不被濫用或泄露。再次，要注意數(shù)據(jù)的完整性與準(zhǔn)確性，確保其輸入學(xué)習(xí)的內(nèi)容是正確的。最后，要注意訓(xùn)練數(shù)據(jù)儲存的安全性，防止數(shù)據(jù)被黑客攻擊和竊取。

三是維護(hù)國家安全、健全相關(guān)立法。隨著人工智能領(lǐng)域的大力發(fā)展，有關(guān)推動數(shù)據(jù)保護(hù)、隱私保護(hù)的法律法規(guī)應(yīng)當(dāng)進(jìn)一步完善，以確保具體社會問題出現(xiàn)時，可以有明確的政策與法律法規(guī)可以依循參考。歐盟已經(jīng)在考慮設(shè)立規(guī)章制度規(guī)范ChatGPT的使用，確保向用戶提供高質(zhì)量、有價值的信息和數(shù)據(jù)，我國應(yīng)盡快將“人工智能法”提上立法清單，以應(yīng)對日漸復(fù)雜的人工智能發(fā)展現(xiàn)狀。

我國應(yīng)盡快將“人工智能法”提上立法清單，以應(yīng)對日漸復(fù)雜的人工智能發(fā)展現(xiàn)狀。

四是適應(yīng)社會發(fā)展、提升監(jiān)管水平。ChatGPT技術(shù)的使用和開發(fā)必須符合監(jiān)管的要求，應(yīng)盡快健全監(jiān)管備案和審批管理的相關(guān)法律法規(guī)。ChatGPT如果要進(jìn)入中國，必須遵守相關(guān)監(jiān)管手續(xù)要求：包括增值電信業(yè)務(wù)許可、算法備案、網(wǎng)絡(luò)安全等級保護(hù)備案與測評等。

總之，AI技術(shù)的發(fā)展正在影響世界各國的安全格局。我國必須抓住機(jī)遇、突破核心技術(shù)、建立自己的大模型項目，以應(yīng)對當(dāng)前AI新發(fā)展格局下的新挑戰(zhàn)，維護(hù)與保障我國相關(guān)領(lǐng)域的國家主權(quán)、安全與發(fā)展利益。

（作者單位：上海社會科學(xué)院法學(xué)研究所）