張夏恒

（1.西北政法大學(xué)管理學(xué)院，陜西 西安 710122；2.西北政法大學(xué)涉外法治研究中心，陜西 西安 710122）

2023 年2 月，在中國互聯(lián)網(wǎng)輿論中“ChatGPT”一詞迅速躥紅，并被持續(xù)熱議。 ChatGPT 是美國非盈利研究機構(gòu)OpenAI 于2022 年11 月對外發(fā)布的一種基于GPT 架構(gòu)的大型語言模型， 其全稱為“Chat Generative Pre-Trained Transformer”[1]。 自對社會公眾開放后，該應(yīng)用呈現(xiàn)出驚人的增長態(tài)勢：在注冊用戶方面，發(fā)布5 天便有100 萬人注冊，2 個月注冊用戶數(shù)量就高達1 億，而且月活躍用戶已超出1 億人，成為史上用戶增長速度最快的應(yīng)用程序；在訪問量方面，2022 年11 月其訪問量約為1830萬次，2023 年1 月則達到6.72 億次，快速躋身全球Top50 行列。 ChatGPT 能夠借助人工智能技術(shù)，通過學(xué)習(xí)與理解人類自然語言實現(xiàn)實時對話，通過大模型預(yù)演練針對用戶的需求生產(chǎn)文本、圖像、音頻、視頻等內(nèi)容，完成文案撰寫、代碼編撰、翻譯等多種工作[2]。 從人工智能發(fā)展視角看，ChatGPT 可被視為人工智能技術(shù)發(fā)展的一個重要標(biāo)志，已遠(yuǎn)超2016 年出現(xiàn)的AlphaGo。 其在語言智能方面取得了重大突破，傳統(tǒng)人工智能領(lǐng)域中難以實現(xiàn)的諸如說話、常識推理、持續(xù)交談等行為在該工具上都得以體現(xiàn)，這是ChatGPT 之所以被大眾接受并熱捧的主要原因。 表面上看，ChatGPT 是一款智能聊天軟件，但是若將其限定在聊天產(chǎn)品的定位，則與其火熱現(xiàn)狀不匹配，也明顯低估了其價值，我們需要從更深層次來理解它。 作為新一代人工智能技術(shù)的最新產(chǎn)物，ChatGPT 依托人工智能并綜合神經(jīng)網(wǎng)絡(luò)、交互技術(shù)等，通過抓取海量互聯(lián)網(wǎng)數(shù)據(jù)構(gòu)建出大規(guī)模語言集合，與人類實現(xiàn)智能交互，并成為兼具數(shù)字內(nèi)容孿生能力、數(shù)字編輯能力及數(shù)字創(chuàng)作能力的基于人類反饋的強化學(xué)習(xí)應(yīng)用范式[3]。

ChatGPT 作為人工智能邁向現(xiàn)實生活的重要一步，具有非常豐富且廣闊的應(yīng)用場景及發(fā)展前景。該工具能夠從信息層面入手實現(xiàn)與搜索引擎的融合，能夠嵌入各種軟件實現(xiàn)技術(shù)加持新功能，能夠依據(jù)基于語言的自然交互與數(shù)字人、元宇宙等結(jié)合。不過，ChatGPT 仍處于技術(shù)與應(yīng)用的發(fā)展初期，相關(guān)監(jiān)管體系仍屬空白，存在諸多風(fēng)險與不足，這需引起關(guān)注和重視。 面對ChatGPT，如何識別其衍生的政治社會風(fēng)險，又該如何對其進行有效防范，是一個極具研究價值的話題。

一、ChatGPT 的政治社會動能

（一）ChatGPT 的嵌入將使政治社會面臨機遇與風(fēng)險兼具態(tài)勢

ChatGPT 快速出圈，受到國內(nèi)外資本、企業(yè)及輿論的追逐與熱議，暫且不論是否有夸大成分，該工具的政治社會影響是客觀存在的，尤其會給政治社會帶來更多、更新的機會，這是毋庸置疑的。Chat-GPT 可以釋放更多生產(chǎn)力、優(yōu)化生產(chǎn)方式、創(chuàng)新商業(yè)模式、催生更多應(yīng)用場景等，無論對政務(wù)工作還是社會工作都將產(chǎn)生極大的提升效用。 政治社會的許多關(guān)聯(lián)行業(yè)及應(yīng)用場景引入該模型后，能夠帶來效率的改善、質(zhì)量的提升與成本的降低，如智能客服的引入對簡單重復(fù)性勞動的替代等。 總體上看，新一代人工智能技術(shù)的出現(xiàn)對政治社會產(chǎn)生了積極影響，它為組織與個人提供了更豐富的信息與更好的交流方式，且在很多領(lǐng)域都將具有廣泛的應(yīng)用空間。 新技術(shù)及新事物的兩面性同樣伴隨著ChatGPT，無論從技術(shù)本身還是從掌握技術(shù)的人及其應(yīng)用層面而言，政治社會風(fēng)險都無法回避，比如：帶來失業(yè)、虛假信息、歧視、知識產(chǎn)權(quán)糾紛等。 所以，ChatGPT 影響下的政治社會將呈現(xiàn)機遇與風(fēng)險并存的狀態(tài)，且該狀態(tài)會伴隨著ChatGPT 發(fā)展、應(yīng)用的整個過程。

（二）ChatGPT 的嵌入將使政治社會出現(xiàn)技術(shù)的不斷演化迭代

作為近幾年人工智能技術(shù)迅速發(fā)展與不斷更新迭代的產(chǎn)物，從ChatGPT 的基礎(chǔ)模型GPT 框架看，其經(jīng)歷了從GPT-1、GPT-2、GPT-3、GPT-3.5 再到GPT-4 的演化歷程，每次技術(shù)更新都使其功能更加完備、性能更加完善，距離推向市場也更進了一步。ChatGPT 是將人工智能技術(shù)與其他多種技術(shù)疊加并綜合發(fā)生作用而形成質(zhì)變的產(chǎn)物，并不單純聚焦在人工智能技術(shù)層面，而是包括Transformer、AIGC（AI Generated Content）、自監(jiān)督學(xué)習(xí)、人類反饋強化學(xué)習(xí)、復(fù)雜神經(jīng)網(wǎng)絡(luò)、AI 對齊等技術(shù)[4]，這些技術(shù)的有機結(jié)合實現(xiàn)了大模型帶來的智能能力、指令學(xué)習(xí)能力及用戶意圖捕捉與理解能力，正是這些技術(shù)加持的多種能力糅合實現(xiàn)了ChatGPT 的質(zhì)變效果。 不僅如此，ChatGPT 的出現(xiàn)與快速發(fā)展還得益于支撐其運行的諸多硬件、軟件與基礎(chǔ)設(shè)施，包括計算機硬件、云計算平臺及支撐其運行的芯片、集成電路、云服務(wù)器、算力算法設(shè)備等，此外，那些支撐其眾多應(yīng)用場景的軟件、工具或模型，如三維制圖、語音合成、數(shù)字轉(zhuǎn)化、動畫制作等也不可或缺。這些技術(shù)的演化與迭代正在直接改變?nèi)说拇嬖诮Y(jié)構(gòu)，相應(yīng)地也會改變?nèi)说恼紊鐣顒臃绞?，進而推動政治社會領(lǐng)域同樣面臨著技術(shù)的不斷演化與迭代。 這些不斷演化的技術(shù)可以賦能數(shù)字政府、降低行政負(fù)擔(dān)、提升政務(wù)效率[5]，同時數(shù)字政府建設(shè)與治理也會與不斷迭代的技術(shù)相匹配。 這些不斷演化的技術(shù)不僅會成為社會信息的重要生產(chǎn)者，而且會驅(qū)動人機互動、人機共同決策成為未來的主流，甚至?xí)苿有碌纳鐣M織形態(tài)的誕生，使社會組織形態(tài)從傳統(tǒng)的人際結(jié)合轉(zhuǎn)向人機結(jié)合。

（三）ChatGPT 的嵌入將使政治社會迎來更多類人化的替代物

作為新一代人工智能技術(shù)的最新成果，Chat-GPT 區(qū)別于以往人工智能產(chǎn)品的顯著特征在于其更加智能，且經(jīng)過大量的預(yù)演練與對海量數(shù)據(jù)的抓取與學(xué)習(xí)，已掌握了人類的很多知識，不僅可以模仿人類的交流方式與用戶實現(xiàn)連續(xù)實時對話，還能針對用戶的需求與提問，生成類似人類答案的數(shù)字內(nèi)容。 通過采用大模型訓(xùn)練研制的人工智能程序，ChatGPT 不僅能夠回答人類的大部分問題，還能從事一些人類較為復(fù)雜的工作。 不僅如此，ChatGPT具備很強的學(xué)習(xí)及糾錯能力，能夠自動甄別錯誤內(nèi)容或命令并不斷進行自我優(yōu)化。 從這個意義上看，ChatGPT 已初步具備了很多類人或擬人的特質(zhì)，甚至在一些應(yīng)用場景中能夠通過圖靈測試。通過依托諸多技術(shù)驅(qū)動人際關(guān)系的變革，ChatGPT 能夠精準(zhǔn)獲取用戶的真實意圖，使得人與機器的交互不再單純依賴于機器語言，而是可以使用人類語言作為交互的載體。 隨著相關(guān)技術(shù)的進一步發(fā)展與應(yīng)用推廣，ChatGPT 會逐步扮演機器、設(shè)備、機器人的大腦，屆時人機交互會更以人為中心。 與人類意圖、價值觀、倫理準(zhǔn)則越發(fā)匹配的智能體將有可能成為社會的一部分，屆時ChatGPT 類程序會像人類一樣理解與應(yīng)用抽象概念、創(chuàng)造新的思想、獨立學(xué)習(xí)與發(fā)展新的技能。 ChatGPT 將會帶來更多的類人化、擬人化與智人化的替代物，并被應(yīng)用到政治社會的諸多場景。

（四）ChatGPT 的嵌入將使政治社會遭遇多維度深層次的變革

ChatGPT 具備廣闊的應(yīng)用空間，隨著技術(shù)的不斷完善及應(yīng)用的不斷校驗，其與政治社會的聯(lián)系將更加緊密，對政治社會的影響也會更加多維、更加深遠(yuǎn)、更加厚重。 該工具會與更加細(xì)分的領(lǐng)域產(chǎn)生關(guān)聯(lián)，也會對各種類型的產(chǎn)業(yè)、企業(yè)、崗位、工種、流程造成多維影響，此處僅舉幾個典型例子加以佐證。ChatGPT 的智能特性及類人特性可以解放一部分人的雙手，尤其是能夠?qū)σ恍┲貜?fù)性、程序化、簡單化的崗位形成部分替代，這將會改變行業(yè)結(jié)構(gòu)、就業(yè)結(jié)構(gòu)等。 新型智能程序具有席卷各行各業(yè)的可能，其既可以應(yīng)用在傳媒、咨詢、廣告、娛樂、游戲等內(nèi)容型行業(yè)，也可以應(yīng)用到醫(yī)療、金融、制造等技術(shù)性行業(yè)；既能夠應(yīng)用到全產(chǎn)業(yè)鏈條的各個環(huán)節(jié)，也能夠應(yīng)用到組織運作流程的各個序列；甚至?xí)苌龈喔碌膽?yīng)用場景、商業(yè)邏輯、產(chǎn)業(yè)范式，推動數(shù)字產(chǎn)業(yè)的發(fā)展，并對傳統(tǒng)組織產(chǎn)生質(zhì)的變革，驅(qū)動傳統(tǒng)產(chǎn)業(yè)依托人工智能技術(shù)實現(xiàn)轉(zhuǎn)型與升級。作為標(biāo)志性的機器智能生產(chǎn)力工具，ChatGPT 為人類社會帶來了更多的可能與期待，預(yù)示著一次深層次的信息革命。 ChatGPT 具備解放重復(fù)性腦力工作及機械工業(yè)系統(tǒng)的潛力，這是一種顛覆性的技術(shù)賦能；可以嵌入其他軟件、程序或工具，具有低成本、低門檻、廣泛性等優(yōu)勢，具備可復(fù)制應(yīng)用到更廣泛領(lǐng)域、行業(yè)、工種、崗位及場景的潛力，體現(xiàn)出技術(shù)賦能的經(jīng)濟性；還有可能衍生出許多先進的商業(yè)模式，帶動生產(chǎn)關(guān)系的變革，甚至?xí)貥?gòu)全球商業(yè)秩序與產(chǎn)業(yè)結(jié)構(gòu)。

二、ChatGPT 可能帶來的政治社會風(fēng)險

ChatGPT 與政治社會很多方面存在關(guān)聯(lián)，因此其帶來的風(fēng)險與問題也是多個面向的，我們這里選取以下幾類典型風(fēng)險進行分析。

（一）ChatGPT 的政治風(fēng)險分析

人工智能技術(shù)可能通過內(nèi)生風(fēng)險、助力攻擊等途徑挑戰(zhàn)民主政治，造成政治判斷與決策的失誤，危害主流意識形態(tài)的安全，甚至對國家主權(quán)與國家安全帶來新的挑戰(zhàn)。

1.數(shù)據(jù)流動對國家主權(quán)獨立性造成沖擊

ChatGPT 在全球范圍內(nèi)驅(qū)動了數(shù)據(jù)與信息的跨境流動，這主要是因為其在使用時的數(shù)據(jù)會流轉(zhuǎn)至美國的服務(wù)器中，導(dǎo)致用戶在輸入信息及生成數(shù)字內(nèi)容時都會使數(shù)據(jù)流入及流出美國。 加之其以海量數(shù)據(jù)作為訓(xùn)練集合及信息導(dǎo)入與內(nèi)容生成的源泉，更是導(dǎo)致數(shù)字世界的信息流動無法受到國界的限制。 這也致使此類人工智能模型生成或運行場景中的數(shù)據(jù)主權(quán)無法如傳統(tǒng)主權(quán)一樣獨立自主，很有可能會威脅到國家主權(quán)安全。 數(shù)字技術(shù)改變了戰(zhàn)爭的地理界線，國際與國內(nèi)安全規(guī)范的界限日趨模糊[6]。 一國如在數(shù)據(jù)要素方面與他國聯(lián)系緊密，那么數(shù)據(jù)在全球范圍的開放性則會挑戰(zhàn)與重塑國家的地緣政治力量。 在新一代人工智能的數(shù)字場域中，國家主權(quán)獨立性可能會受到極大沖擊。

2.數(shù)字技術(shù)霸權(quán)給政治安全帶來嚴(yán)峻挑戰(zhàn)

發(fā)達國家存在技術(shù)霸權(quán)，進而可能產(chǎn)生新的“數(shù)字殖民地”，影響他國的政治安全。 新一代人工智能技術(shù)仍掌握在歐美等發(fā)達國家手中，其產(chǎn)生的數(shù)據(jù)也多被這些國家掌握并憑此獲取更多利益。 技術(shù)領(lǐng)先的國家會占據(jù)更多的支配權(quán)與主動權(quán)，那么技術(shù)壟斷在國家意志層面便成為一種技術(shù)霸權(quán)，并在國家競爭間表現(xiàn)出剝削與壓迫的企圖[7]。 如近幾年的中美貿(mào)易摩擦背后實則是美國憑借其技術(shù)霸權(quán)對中國實施的壓迫與剝削。 ChatGPT 是美國的OpenAI 所研發(fā)的，其基礎(chǔ)與核心技術(shù)更是被美國企業(yè)所壟斷。 技術(shù)壟斷國會致力于追求技術(shù)帶來的數(shù)據(jù)價值，以發(fā)展與監(jiān)管為由來擴大數(shù)據(jù)的檢測范圍，從而實現(xiàn)對數(shù)據(jù)的收割與壟斷。 這些技術(shù)所充斥的技術(shù)成癮、歧視、騷亂、暴力等問題也會向其他國家蔓延，由此沖擊世界各國的政治安全。 長此以往，歐美發(fā)達國家會繼續(xù)夯實他們制定技術(shù)規(guī)則與技術(shù)標(biāo)準(zhǔn)的話語權(quán)，并將數(shù)字技術(shù)霸權(quán)根植于新一代人工智能領(lǐng)域。

3.意識形態(tài)安全面臨滲透風(fēng)險

作為一個極具數(shù)智能力的數(shù)字交互媒介，ChatGPT 既能成為強權(quán)者推行其政治意圖的工具，也為少數(shù)極端分子宣傳其思想提供了空間，甚至?xí)槲鞣絿蚁蛑袊M行意識形態(tài)滲透及干涉提供便利。 ChatGPT 能夠打造出虛擬意見領(lǐng)袖，當(dāng)其被境內(nèi)外敵對勢力操縱后，會以數(shù)字人的形式在網(wǎng)絡(luò)發(fā)聲，通過制造網(wǎng)絡(luò)輿論引導(dǎo)某些網(wǎng)民成為其不法聲音的幫兇，這會極大地沖擊國家意識形態(tài)安全，還有可能為數(shù)字民粹主義的傳播提供新的活動空間。 數(shù)字民粹主義思想的影響力日益增大，并嚴(yán)重危害國家主流意識形態(tài)。 憑借智能化的大語言模型，民粹主義群體可以精準(zhǔn)地將信息推送給潛在的非理性群體，刺激自由主義、保守主義、歷史虛無主義等非主流意識形態(tài)的擴張，進而挑戰(zhàn)主流意識形態(tài)。 ChatGPT 具有美國政治色彩的背書，其網(wǎng)絡(luò)素材多取自西方國家[8]，在與用戶交互時會輸出具有鮮明政治立場的內(nèi)容。 由于其收集的用戶數(shù)據(jù)會留存在美國的服務(wù)器中，這些個人隱私信息一旦被西方某些不良政客所截取，就會成為他們分析、研究并制定意識形態(tài)滲透策略的重要數(shù)據(jù)支撐。 國外不法分子或具有不良政治傾向的群體可能借助ChatGPT 強大的數(shù)據(jù)庫與算法，潛移默化地操縱網(wǎng)絡(luò)輿論，滿足西方政客宣傳其價值觀的企圖，甚至可能使ChatGPT 淪為一種政治工具。 由于該工具具有很強的交互性，因此對意識形態(tài)的影響更加直接與深遠(yuǎn)，特別是如果對未成年人進行長期滲透，將會產(chǎn)生巨大的意識形態(tài)風(fēng)險，這就解釋了意大利政府為何要禁止使用ChatGPT 并限制OpenAI 處理意大利用戶信息。

（二）ChatGPT 的社會風(fēng)險分析

ChatGPT 的應(yīng)用場景分布于多個社會領(lǐng)域，且與社會活動的關(guān)聯(lián)度很高。 隨著該工具的進一步發(fā)展及其應(yīng)用的不斷推進，其與社會活動會產(chǎn)生更多、更緊密的關(guān)聯(lián)，一些社會風(fēng)險會逐漸凸顯。

1.就業(yè)領(lǐng)域出現(xiàn)新的失業(yè)風(fēng)險

新一代人工智能技術(shù)驅(qū)動了人類與人工智能的協(xié)同工作，可以大幅提升工作效率與質(zhì)量，與此同時，也會顛覆當(dāng)下的工作場景、工作流程、人力結(jié)構(gòu)及就業(yè)情境。 新一代人工智能技術(shù)在部分行業(yè)的應(yīng)用會導(dǎo)致失業(yè)問題，尤其是那些簡單重復(fù)、程序化的工作崗位或工種，將不同程度地被ChatGPT替代。由此，ChatGPT 必然導(dǎo)致大量“AI 失業(yè)”問題，即人工智能的推進會伴隨著越來越多的人失去工作。 在擴大經(jīng)濟自由與增加閑暇時間的同時，這些技術(shù)會改變社會運行的邏輯，進而驅(qū)動“AI 失業(yè)”問題越來越嚴(yán)重。 不僅如此，ChatGPT 還可能重構(gòu)勞動關(guān)系，驅(qū)動勞動替代轉(zhuǎn)移、勞動方式智能化趨勢，從而衍生出一系列與就業(yè)相關(guān)的新問題，如新型勞動關(guān)系認(rèn)定等。 當(dāng)然，對于ChatGPT 帶來的失業(yè)風(fēng)險需要辯證看待，新技術(shù)對產(chǎn)業(yè)結(jié)構(gòu)與勞動力市場的影響是必然的，如同蒸汽機革命導(dǎo)致傳統(tǒng)手工業(yè)者被產(chǎn)業(yè)工人替代一樣，ChatGPT 在淘汰部分勞動力與崗位的同時，也會創(chuàng)造新的就業(yè)崗位，帶來新的就業(yè)機會。

2.社會傳播風(fēng)險被放大

技術(shù)賦能易引發(fā)技術(shù)賦權(quán)，ChatGPT 憑借其強大的技術(shù)優(yōu)勢會延伸個體的信息生產(chǎn)與傳播能力，進而會激發(fā)社會行動者達權(quán)知變的意圖，借助此類工具來拓展其各類權(quán)利訴求，甚至?xí)?qū)動對虛假信息、惡意欺詐、誘導(dǎo)性言論的傳播，成為ChatGPT引發(fā)社會傳播風(fēng)險的土壤。 在虛假信息方面，此類工具基于一些預(yù)設(shè)的關(guān)鍵詞可以編造出可信度很高的虛假內(nèi)容，并刺激主動性虛假信息生產(chǎn)與非主動性虛假信息生成，前者多被一些居心叵測的使用者用來達成其特殊目的，后者多因ChatGPT 對海量互聯(lián)網(wǎng)信息的過濾或加工而無意生產(chǎn)。 ChatGPT 可以被用來進行信息欺詐，比如生成一些看似合法的電子郵件內(nèi)容或捏造政策文件開展欺騙、欺詐行為，甚至可能被用以達成經(jīng)濟詐騙的犯罪目的。 由于該工具的智慧程度較高而使用門檻較低，能夠降低批量制作虛假信息的技術(shù)要求，從而加速不實信息的生產(chǎn)速度與傳播速度。

3.倫理道德出現(xiàn)新的問題

ChatGPT 會帶來諸多的倫理道德問題，尤其是因數(shù)據(jù)偏見而產(chǎn)生的算法偏見，此外還有歧視、AI作弊、價值滲透、造假、人權(quán)道德風(fēng)險等。 該工具會因其算法不完美、數(shù)據(jù)不完善、數(shù)據(jù)源不全面以及用戶刻意引導(dǎo)等原因而產(chǎn)出一些虛假信息，可能會對未成年人及其他缺乏判斷能力的群體造成不良影響。 ChatGPT 以海量數(shù)據(jù)為根基，需要在社會各領(lǐng)域抓取足夠多且準(zhǔn)確的知識與信息，但很多信息又會涉及到商業(yè)秘密、個人隱私或國家機密等，尤其在個人信息被肆意收集、買賣、利用的背景下，如何確保數(shù)據(jù)獲取的合法性、合理性，如何規(guī)避數(shù)據(jù)泄露、濫用，都成為此類應(yīng)用程序無法回避的倫理問題。 人工智能技術(shù)既可以造福人類，又會帶來智能作弊造假等行為，這是ChatGPT 出現(xiàn)之初被科研領(lǐng)域、教育領(lǐng)域質(zhì)疑的主要原因，當(dāng)其被用于學(xué)術(shù)剽竊、數(shù)據(jù)造假時，就會引發(fā)學(xué)術(shù)倫理問題。 香港大學(xué)明確禁止使用ChatGPT；2023 年2 月17 日，國際期刊《生物多樣性保護與綠色發(fā)展》（BioGreen）編輯部宣布將嚴(yán)格限制使用ChatGPT 等工具撰寫的文章。 ChatGPT 在數(shù)據(jù)輸出功能方面承擔(dān)了后臺技術(shù)操作者的話語權(quán)，用戶規(guī)格及適用范圍越大，其話語權(quán)和價值滲透力越強。 如果操作者的個人價值觀存在一些偏見、歧視，就會誤導(dǎo)用戶，扭曲社會價值觀，妨礙社會公平。

4.人口安全面臨新的威脅

數(shù)字技術(shù)會驅(qū)動人類生活場域由實向虛，這會導(dǎo)致非傳統(tǒng)安全威脅的比重日趨增大[9]，這些非傳統(tǒng)安全威脅會引發(fā)新的人口問題。 作為新一代人工智能技術(shù)應(yīng)用的最新代表，ChatGPT 對于人口非傳統(tǒng)安全的威脅將會更快浮出水面。 在數(shù)字時代，數(shù)字鴻溝問題愈發(fā)凸顯，在中國，不同地域、不同群體間在數(shù)字基礎(chǔ)設(shè)施、數(shù)字素養(yǎng)等方面差距明顯，中西部地區(qū)數(shù)字化水平明顯弱于東部地區(qū)，西部偏遠(yuǎn)山區(qū)則更加落后；老年群體在數(shù)字化趨勢下會顯得更加無助。ChatGPT 可能會擴大人口的代際數(shù)字鴻溝，導(dǎo)致老年弱勢群體產(chǎn)生更為嚴(yán)重的數(shù)字剝奪感。 年輕群體與老年群體在人工智能運用及信息數(shù)據(jù)獲取方面的差距會隨著技術(shù)的發(fā)展越來越大。 老年弱勢群體屬于被數(shù)字技術(shù)孤立的特殊群體，尤其是經(jīng)濟水平偏弱的農(nóng)村老年群體情況更加糟糕，他們因經(jīng)濟實力、知識水平、認(rèn)知能力、理解能力所限，加之身體機能衰退，在ChatGPT 使用方面會面臨更多困難。 不同群體在端口接入、數(shù)字技能、智能設(shè)備、數(shù)字思維、數(shù)字觀念等方面的差異更會隨著人工智能技術(shù)的進一步發(fā)展而變得更加突出。 與此同時，此類技術(shù)會成為人們逃避現(xiàn)實社會的一個自我沉溺的空間，從而拉大人們與真實世界的距離。ChatGPT 對部分崗位尤其是對一些弱勢群體從事的工作崗位產(chǎn)生了替代功能，這會引發(fā)人們的不良心理狀況。 在多種因素作用下，人們會傾向于在虛擬空間消耗時間，這可能會進一步降低社會生育率，加劇社會老齡化問題，進而引發(fā)一系列人口安全問題。

三、ChatGPT 的政治社會風(fēng)險防范原則及措施

ChatGPT 具有廣闊的應(yīng)用場景與發(fā)展空間，但同時也伴隨諸多政治社會風(fēng)險。 在應(yīng)對其潛在的政治社會風(fēng)險時應(yīng)以總體國家安全觀為指導(dǎo)，堅持統(tǒng)籌安全與發(fā)展的思路，在全面維護國家安全與社會穩(wěn)定基礎(chǔ)上，充分發(fā)揮新一代人工智能技術(shù)對社會進步與人類文明的促進作用。

（一）ChatGPT 的政治社會風(fēng)險防范原則

1.鼓勵發(fā)展原則

對待新技術(shù)應(yīng)堅持鼓勵發(fā)展的原則。 因為技術(shù)具有中立性，其產(chǎn)生的政治社會后果要么是技術(shù)擁有者或使用者引發(fā)的，要么是對技術(shù)及其使用監(jiān)管不足所導(dǎo)致的。ChatGPT 作為新一代人工智能技術(shù)的產(chǎn)物，具有較強的創(chuàng)新性，我們對其應(yīng)持鼓勵與包容的態(tài)度。 雖然其存在諸多風(fēng)險與挑戰(zhàn)，但也具有良好的發(fā)展空間與廣闊的應(yīng)用場景，能夠?qū)?jīng)濟社會生活產(chǎn)生促進作用。 因此，我們總體上應(yīng)采取鼓勵發(fā)展的態(tài)度來對待ChatGPT。

2.保障安全原則

在采納及應(yīng)用新興技術(shù)時，應(yīng)將安全作為首要標(biāo)準(zhǔn)。 中國需要且始終強調(diào)科技發(fā)展，因此更應(yīng)牢牢掌握關(guān)鍵戰(zhàn)略技術(shù)，避免核心技術(shù)“卡脖子”的風(fēng)險。 同時，人類對新技術(shù)的過度依賴會加劇新一代人工智能技術(shù)的脆弱性與不穩(wěn)定性。 如前文所述，ChatGPT 有可能給政治社會帶來諸多風(fēng)險，因此堅持保障安全的原則是非常重要的，這契合了黨的二十大報告強調(diào)的“統(tǒng)籌發(fā)展與安全”的理念。

3.技術(shù)規(guī)制原則

ChatGPT 是一個建立在數(shù)字技術(shù)之上的智能交互模型，其本身并無善惡屬性，如果使用得當(dāng)，能夠很好地被用于規(guī)制其可能引發(fā)的政治社會風(fēng)險。ChatGPT 具有很高的類人性與擬人性特質(zhì)，能夠?qū)崿F(xiàn)與人的智能交互，在很多場景可以成為人類的得力助手與輔助工具，也可以被用來協(xié)助人類對各類風(fēng)險進行防范與治理，從而實現(xiàn)用算法治理算法、用技術(shù)規(guī)制技術(shù)的效果。 因此，在防范ChatGPT 的政治社會風(fēng)險方面，包括ChatGPT 在內(nèi)的很多技術(shù)都可以被加以應(yīng)用，成為防范風(fēng)險的有力武器。

4.協(xié)同監(jiān)管原則

ChatGPT 是一個人機交互的數(shù)字場域，能夠應(yīng)用到社會的方方面面，因此勢必會涉及到技術(shù)研發(fā)機構(gòu)、場景應(yīng)用主體、政府、公眾等多方利益相關(guān)者。 監(jiān)管雖然被廣泛認(rèn)為是政府的一種核心職能，但非政府機構(gòu)也在嘗試參與到監(jiān)管活動中[10]。 在對ChatGPT 的政治社會風(fēng)險進行防范時，需要開展多主體、多機構(gòu)、多工具、多環(huán)節(jié)的合作監(jiān)管，打造多領(lǐng)域、多主體共同參與的協(xié)同監(jiān)管機制。 無論是立法單位、司法單位、執(zhí)法單位，還是各類應(yīng)用活動參與主體、行業(yè)協(xié)會乃至個體使用者，都可以投入到風(fēng)險防范過程中，依托多方參與、協(xié)同監(jiān)管來凈化ChatGPT 的發(fā)展環(huán)境。

（二）ChatGPT 的政治社會風(fēng)險防范方式

1.堅持發(fā)展與安全并重理念，構(gòu)建ChatGPT 發(fā)展安全生態(tài)

以統(tǒng)籌發(fā)展與安全的理念推進ChatGPT 發(fā)展所需的安全生態(tài)建設(shè)。 統(tǒng)籌發(fā)展與安全既是方法論也是實踐論，不論是國家“十四五規(guī)劃”還是黨的二十大報告對此都有明確的論斷。 要將安全發(fā)展貫穿到國家發(fā)展的各領(lǐng)域與全過程，ChatGPT 的發(fā)展及其在各領(lǐng)域的應(yīng)用同樣不能例外。

第一，堅持包容審慎原則，加強總體國家安全觀的指引。 要清晰正確地理解ChatGPT，接受新技術(shù)的到來，理性面對新技術(shù)帶來的機遇與挑戰(zhàn)，勇于迎接并鼓勵其有序發(fā)展與科學(xué)應(yīng)用，并給予一定的試錯空間與容錯機會。 對于ChatGPT 這一新事物不能只緊盯其風(fēng)險與威脅，更要看到其機會與優(yōu)勢，不能盲目加以否定與遏制。 同時，更要以總體國家安全觀作為宏觀層面的指引思想，對其采取包容審慎的態(tài)度，尤其是在防范與治理ChatGPT 可能引發(fā)的政治社會風(fēng)險時，要在風(fēng)險可控的范圍內(nèi)出臺鼓勵政策，同時在其發(fā)展過程中適時適度地進行監(jiān)管與治理。

第二，夯實核心技術(shù)與基礎(chǔ)設(shè)施的安全，提升ChatGPT 安全體系的保障能力。 聚焦新技術(shù)發(fā)展進度，結(jié)合中國核心技術(shù)實情與現(xiàn)狀，加大在算法安全、數(shù)據(jù)安全、模型安全、程序安全等方面的核心技術(shù)研發(fā)，尤其注重開發(fā)自主可控的新一代人工智能技術(shù)，推動國家科研投入、企業(yè)技術(shù)攻關(guān)對新一代人工智能核心技術(shù)的覆蓋，加大我國ChatGPT 類產(chǎn)品的研發(fā)，建立健全技術(shù)安全標(biāo)準(zhǔn)體系。 重點關(guān)注我國在新一代人工智能關(guān)鍵基礎(chǔ)產(chǎn)業(yè)與設(shè)施方面的建設(shè)，強化基礎(chǔ)產(chǎn)業(yè)與設(shè)施的建設(shè)主體責(zé)任，尤其需要加強對數(shù)據(jù)中心、超算中心、智能計算機中心等基礎(chǔ)設(shè)備以及涉及到的芯片、集成電路等基礎(chǔ)產(chǎn)業(yè)的保護力度，全面提升此類技術(shù)基礎(chǔ)設(shè)施的安全保障能力。

第三，推進數(shù)據(jù)安全保護與合理使用，有效提升ChatGPT 安全體系的數(shù)據(jù)能力。對于新一代人工智能技術(shù)而言，關(guān)鍵要素是數(shù)據(jù)。 ChatGPT 無論是技術(shù)研發(fā)基礎(chǔ)、預(yù)訓(xùn)練及信息源，還是其數(shù)字內(nèi)容生產(chǎn)，都與數(shù)據(jù)息息相關(guān)。 因此，要加快制定符合我國對新一代人工智能要求的數(shù)據(jù)保護規(guī)則，注重對ChatGPT 類產(chǎn)品在個人數(shù)據(jù)、用戶隱私、商業(yè)數(shù)據(jù)的抓取、加工及生成方面的全過程監(jiān)管，建立數(shù)據(jù)共享機制，實現(xiàn)數(shù)據(jù)保護與數(shù)據(jù)使用的平衡。

2.堅持積極引導(dǎo)與有效治理并進，推進構(gòu)建ChatGPT 協(xié)同監(jiān)管體系

ChatGPT 出現(xiàn)僅有短短幾個月，作為新興事物其自身仍在不斷調(diào)試與校驗過程中，應(yīng)用場景也在嘗試推進狀態(tài)。 因此，ChatGPT 的發(fā)展與應(yīng)用仍充滿不確定性，甚至存在一定的不可控性，加強引導(dǎo)與治理成為促進其健康有序發(fā)展的必然要求。

第一，積極引導(dǎo)ChatGPT 健康發(fā)展，放大新技術(shù)的有利一面。 加快研發(fā)中文版ChatGPT 式產(chǎn)品，推進新一代人工智能技術(shù)在中文市場的應(yīng)用。 同時，要加快制定數(shù)據(jù)抓取、加工與使用、大模型設(shè)計、算法應(yīng)用等方面的規(guī)范性指引文件，引導(dǎo)與規(guī)范參與主體及技術(shù)企業(yè)的行為，通過科技向善理念推動新技術(shù)與新產(chǎn)品的規(guī)范使用。

第二，積極探索構(gòu)建多方參與、多元協(xié)同、多措并舉的監(jiān)管體系。 立足中國實情，在總體國家安全觀指導(dǎo)下，探索構(gòu)建以政府為核心、多方參與的監(jiān)管模式，以ChatGPT 全業(yè)務(wù)鏈為切入視角探索多元協(xié)同監(jiān)管機制，建立技術(shù)、法律、文化等維度多措并舉的監(jiān)管范式。 建立健全國家層面的頂層治理框架，引入跨部門、跨地區(qū)、跨環(huán)節(jié)的協(xié)同治理機制，實施與新一代人工智能技術(shù)良性發(fā)展相匹配的中國治理模式。

第三，強化ChatGPT 參與主體的自我約束，推進行業(yè)自律建設(shè)。 通過普識教育、普法教育等方式，加強我國社會公眾、行業(yè)從業(yè)人員、政府監(jiān)管部門對ChatGPT 的認(rèn)知，尤其注重在個人信息保護、相關(guān)風(fēng)險識別等方面的教育宣傳，強化公眾和其他參與主體的風(fēng)險抵御能力。 鼓勵相關(guān)行業(yè)學(xué)會、協(xié)會、聯(lián)盟等制定行業(yè)規(guī)范與公約，明確參與主體的責(zé)任與義務(wù)，加強各成員對ChatGPT 的使用規(guī)范建設(shè)。發(fā)揮非正式組織、行業(yè)協(xié)會及跨行業(yè)聯(lián)盟的監(jiān)督作用，提升參與主體的合規(guī)使用意識。

3.堅持技術(shù)規(guī)制與立法保護并舉，凈化Chat-GPT 風(fēng)險防范環(huán)境

從凈化ChatGPT 風(fēng)險防范與治理的環(huán)境層面看，要用系統(tǒng)性思維來打造監(jiān)管生態(tài)，為其安全應(yīng)用筑起牢固的保障體系。 應(yīng)重點圍繞技術(shù)規(guī)制與法律規(guī)制，發(fā)揮出技術(shù)治理的激勵效能與法律規(guī)制的保障效能，構(gòu)建系統(tǒng)的ChatGPT 風(fēng)險防范體系。

第一，采用技術(shù)治理風(fēng)險的方式，發(fā)揮技術(shù)在ChatGPT 風(fēng)險防護中的賦能作用。 ChatGPT 本身并無善惡屬性，同樣可以用來防范風(fēng)險、輔助監(jiān)管。面對人工智能的數(shù)字生成內(nèi)容及其活動，可以采用AI技術(shù)規(guī)制，如針對不同語言模式的技術(shù)特點提前進行技術(shù)布局，并不斷迭代升級人工智能內(nèi)容監(jiān)測系統(tǒng)。 新一代人工智能研發(fā)企業(yè)可以針對性地開發(fā)AI 甄別工具，通過嵌入相應(yīng)的算法、程序或代碼，在捕捉、錄入網(wǎng)絡(luò)資料及生成數(shù)字內(nèi)容時，標(biāo)記并報告可疑的偽造虛假信息，監(jiān)測經(jīng)過篡改的人工合成內(nèi)容。 此外，還可以依靠技術(shù)社群與用戶資源，以技術(shù)手段來實施“眾包治理”的規(guī)則，將其貫通到新一代人工智能全產(chǎn)業(yè)鏈條，以眾包的思路不斷探索深度合成技術(shù)的甄別治理工作。

第二，加快推進行業(yè)技術(shù)標(biāo)準(zhǔn)建設(shè)，為技術(shù)賦能風(fēng)險治理輸入執(zhí)行規(guī)范。 通過政府引導(dǎo)，鼓勵企業(yè)、科研院所、第三方獨立機構(gòu)積極開展新一代人工智能相關(guān)標(biāo)準(zhǔn)研制工作，打通政企產(chǎn)學(xué)研合作瓶頸，盡快出臺ChatGPT 領(lǐng)域的地區(qū)標(biāo)準(zhǔn)、團體標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)乃至國家標(biāo)準(zhǔn)，建立健全人工智能行業(yè)技術(shù)標(biāo)準(zhǔn)體系，為ChatGPT 產(chǎn)業(yè)發(fā)展提供標(biāo)準(zhǔn)支撐。同時，還要積極開展國際交流合作，努力實現(xiàn)國內(nèi)標(biāo)準(zhǔn)向國際標(biāo)準(zhǔn)的轉(zhuǎn)化，為全球ChatGPT 行業(yè)規(guī)制輸出中國樣本與中國標(biāo)準(zhǔn)。

第三，加快人工智能立法及配套法律修訂，為ChatGPT 治理提供法律支撐。 要清晰地認(rèn)識到中國在人工智能領(lǐng)域的法律缺位現(xiàn)狀，對比借鑒美國的《人工智能權(quán)利法案藍(lán)圖》與歐盟的《歐盟人工智能法案》，結(jié)合中國國情與現(xiàn)實條件，從國家層面盡快啟動人工智能立法程序，加快推進人工智能立法專項研究，圍繞數(shù)據(jù)權(quán)屬、數(shù)據(jù)價值、數(shù)據(jù)交易等數(shù)據(jù)要素的基礎(chǔ)性法律進行定向突破。 統(tǒng)籌規(guī)劃有關(guān)人工智能的法律、行政法規(guī)、部門規(guī)章、技術(shù)標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)等，盡快形成匹配中國國情的人工智能法律體系。