于 水， 范德志

（南京農(nóng)業(yè)大學(xué) 公共管理學(xué)院，江蘇 南京 210095）

2022 年11 月30 日，人工智能ChatGPT 首次發(fā)布，上線僅5 天注冊(cè)用戶就突破100 萬(wàn)，兩個(gè)月后活躍用戶已超1億。作為人類科技史上用戶增長(zhǎng)速度最快的應(yīng)用程序，ChatGPT已成為人工智能發(fā)展歷程中的里程碑式應(yīng)用。由此引發(fā)各國(guó)政府、金融、科技企業(yè)、科研機(jī)構(gòu)和服務(wù)業(yè)等領(lǐng)域的廣泛關(guān)注，谷歌、微軟、百度等科技公司都宣布將發(fā)布聊天機(jī)器人產(chǎn)品、服務(wù)。人工智能聊天系統(tǒng)一夜間成為了互聯(lián)網(wǎng)投資的新風(fēng)口和信息技術(shù)發(fā)展的新趨勢(shì)。

當(dāng)前既有研究主要從三個(gè)方面展開。一是聚焦ChatGPT廣闊的應(yīng)用場(chǎng)景，ChatGPT具有的對(duì)話功能與內(nèi)容生產(chǎn)功能，給數(shù)字政府[1]、教育生態(tài)[2]、新聞出版[3]等不同的情境帶來新的發(fā)展機(jī)遇。二是探討防范化解ChatGPT 帶來的治理風(fēng)險(xiǎn)問題，當(dāng)前，應(yīng)注意應(yīng)對(duì)技術(shù)發(fā)展帶來的知識(shí)產(chǎn)權(quán)、算法歧視、責(zé)任界定[4]等多重風(fēng)險(xiǎn)與挑戰(zhàn)。三是從不同角度提出ChatGPT 的治理路徑，探索“先發(fā)展，再治理”和“邊發(fā)展，邊管理”[5]以及實(shí)施全鏈條治理[6]等。然而，當(dāng)前無(wú)論是理論界還是實(shí)務(wù)界未就人工智能聊天系統(tǒng)的概念內(nèi)涵、價(jià)值挑戰(zhàn)等進(jìn)行深入分析，且大多研究聚焦ChatGPT“工具性”的影響作用，忽視ChatGPT多元治理主體的包容性發(fā)展，對(duì)其引致的多元價(jià)值挑戰(zhàn)的探討較為分散，缺乏系統(tǒng)性闡述。這使得擁有顛覆人們?nèi)粘５纳?、學(xué)習(xí)和工作方式能力的CharGPT 充滿著現(xiàn)代化危機(jī)。因而，我們有必要反思現(xiàn)代化，洞察到現(xiàn)代性中理性的困境，認(rèn)識(shí)到工具理性和價(jià)值理性的斷裂使得科技理性變成了單向度的工具理性，工具理性在科技發(fā)展中失去了價(jià)值引導(dǎo)并從一種手段逐漸演變成一種目的。目前Chat-GPT 尚處于初步探索階段，有必要對(duì)ChatGPT 的概念內(nèi)涵、價(jià)值挑戰(zhàn)展開探討，以包容性的治理規(guī)制ChatGPT的發(fā)展，從而為新一代人工智能技術(shù)的開放包容、安全有序及高質(zhì)量發(fā)展提供保障。

一、概念內(nèi)涵與理論出場(chǎng)

（一）ChatGPT的概念及特征

人工智能這一術(shù)語(yǔ)始于1956 年的美國(guó)達(dá)特茅斯學(xué)院。人工智能并不是新近的概念，早在1950年，圖靈在Mind期刊上提出了“機(jī)器人能思考嗎”這一設(shè)問，即圖靈測(cè)試。2019年美國(guó)OpenAI公司推出了GPT-3 語(yǔ)言模型，基于GPT-3 模型，OpenAI 在2022 年11 月推出了ChatGPT 的自然語(yǔ)言生成模型。近幾年來，隨著信息技術(shù)的融合集成式和顛覆式創(chuàng)新，大對(duì)話智能技術(shù)、深度學(xué)習(xí)大模型技術(shù)、工程化能力以及大數(shù)據(jù)技術(shù)的整體突破、深度融合和緊密嵌套，ChatGPT 才得以產(chǎn)生驚艷效果。綜合學(xué)界和實(shí)務(wù)界的總結(jié)和論述，研究認(rèn)為ChatGPT 是基于深度學(xué)習(xí)的、統(tǒng)計(jì)類對(duì)話式的大型語(yǔ)言模型技術(shù)，通過對(duì)現(xiàn)實(shí)空間的數(shù)字化學(xué)習(xí)，理解用戶的語(yǔ)境并進(jìn)行相應(yīng)的推理，“打破了AI‘嵌入式’的常規(guī)形態(tài)，打造了新的內(nèi)容生成和交互形態(tài)”[7]。作為人類“對(duì)象性活動(dòng)”的產(chǎn)物，ChatGPT 具有社會(huì)性、互動(dòng)性、多模態(tài)等主要特征。

1.社會(huì)性

“在大量個(gè)人進(jìn)入互動(dòng)的地方，社會(huì)才存在”[8]。技術(shù)的社會(huì)性是指技術(shù)活動(dòng)所反映出來的人與人、人與社會(huì)關(guān)系的屬性。因此，可以把ChatGPT 人工智能技術(shù)的社會(huì)性體現(xiàn)在三個(gè)方面：一是Chat-GPT增強(qiáng)了用戶的感知和思維能力，延伸了用戶的感知器官和大腦的功能。ChatGPT能從預(yù)先訓(xùn)練的大數(shù)據(jù)中找尋能夠?qū)?yīng)的信息，通過深度學(xué)習(xí)、自我凈化來“思考”人類的語(yǔ)言，輔助用戶進(jìn)行判斷和決策。二是ChatGPT 拓展了人與人交往的時(shí)空邊界，提高了用戶的工作效率，增強(qiáng)了用戶的體驗(yàn)感。ChatGPT 以隨意性和通俗化的聊天情景直接與用戶建立聯(lián)系，利用Transformer 算法的“自我注意能力”實(shí)現(xiàn)與人“閑聊”，給人一種“互聯(lián)網(wǎng)田園時(shí)代”的感覺。三是ChatGPT 的多元主體性展現(xiàn)了人與人關(guān)系的復(fù)雜性。人工智能所有權(quán)讓渡的不完全性決定了ChatGPT 具有被多個(gè)不同類型主體占有、控制和使用的可能性。不同類型主體包括：開發(fā)者建模并預(yù)訓(xùn)練大模型；部署者根據(jù)應(yīng)用需求，或單獨(dú)或與開發(fā)者合作進(jìn)行參數(shù)微調(diào)；用戶最終與生成型人工智能互動(dòng)，并決定生成型人工智能的具體用途。

2.互動(dòng)性

ChatGPT 是基于大型語(yǔ)言模型的一個(gè)對(duì)話式平臺(tái)，語(yǔ)言模型則是一種經(jīng)過海量文本訓(xùn)練的神經(jīng)網(wǎng)絡(luò)。在虛實(shí)空間融合互動(dòng)的過程中，ChatGPT 能夠通過用戶的反饋來進(jìn)行深度學(xué)習(xí)，對(duì)自身的即時(shí)狀態(tài)有一定的“了解”，并在此基礎(chǔ)上“思考”用戶的自然語(yǔ)言，不斷地接受用戶反饋以調(diào)整反應(yīng)行為，進(jìn)而持續(xù)性地與用戶互動(dòng)交流。作為ChatGPT 核心技術(shù)的深度神經(jīng)網(wǎng)絡(luò)、大型語(yǔ)言模型等前沿技術(shù)的不斷發(fā)展，為智能化、擬人化互動(dòng)創(chuàng)造了基本條件。一是生成式預(yù)訓(xùn)練轉(zhuǎn)換模型利用人類反饋強(qiáng)化學(xué)習(xí)（RLHF）的訓(xùn)練方式，以自然語(yǔ)言對(duì)話方式進(jìn)行文本生成，實(shí)現(xiàn)了任意任務(wù)和多輪對(duì)話的理解能力。二是大型語(yǔ)言模型（LLM）具有強(qiáng)大的記憶能力，能夠存儲(chǔ)海量數(shù)據(jù)資源，并且一定程度上掌握了復(fù)雜邏輯的思維鏈推理能力，將數(shù)字空間碎片化的信息整合為縝密的文本論述。三是LLM 能主動(dòng)適配用戶的語(yǔ)言風(fēng)格，而非讓用戶適配LLM，實(shí)現(xiàn)了多種語(yǔ)言風(fēng)格的文本生成表達(dá)能力。四是LLM所具備的自主學(xué)習(xí)能力，其本質(zhì)上是一種深度的神經(jīng)網(wǎng)絡(luò)架構(gòu)，能夠在無(wú)人介入的前提下，自動(dòng)學(xué)習(xí)互聯(lián)網(wǎng)海量語(yǔ)料庫(kù)中的知識(shí)點(diǎn)，并靈活運(yùn)用到人機(jī)實(shí)時(shí)互動(dòng)之中。

3.多模態(tài)

多模態(tài)是指通過不同模式或方式來實(shí)現(xiàn)信息的傳輸，例如文字、圖像、聲音、音樂、視頻等多種形式。隨著數(shù)字技術(shù)的突飛猛進(jìn)，人工智能由以往的單一文字形式拓展到多元化的復(fù)合模態(tài)。ChatGPT屬于AIGC（AI Generated Content：人工智能創(chuàng)作內(nèi)容的生產(chǎn)方式）的具體應(yīng)用，AIGC 所具有的多模態(tài)融合是其區(qū)別于傳統(tǒng)UGC（用戶原創(chuàng)內(nèi)容）、PGC（專業(yè)生產(chǎn)內(nèi)容）的顯著特征。傳統(tǒng)意義上的UGC 和PGC模式都只是專家或用戶主體撰寫內(nèi)容。AIGC作為一種AI自動(dòng)生成內(nèi)容的新型生產(chǎn)方式，它能夠?qū)D片、文本內(nèi)容進(jìn)行對(duì)比分析，實(shí)現(xiàn)多模態(tài)間的互動(dòng)。如GPT-4 是一個(gè)多模態(tài)大模型，它能夠?qū)崿F(xiàn)文本、圖像等不同模態(tài)的知識(shí)融合。

（二）包容性治理理論的出場(chǎng)

包容性治理是在社會(huì)治理理論的基礎(chǔ)上，結(jié)合包容性發(fā)展理論中“平等”“參與”“共享”理念“嫁接”而成的概念，將治理理念中的價(jià)值理性與工具理性進(jìn)行融合，形成了一種主體多元合作、起點(diǎn)機(jī)會(huì)公平、過程統(tǒng)籌兼顧、成果收益共享的治理模式[9]。具體而言，包容性治理體系建構(gòu)有四個(gè)方面的內(nèi)涵：一是在治理理念上，強(qiáng)調(diào)數(shù)字時(shí)代的公平、平等、正義，在整體上兼容人工智能技術(shù)中的多元價(jià)值觀。二是在治理主體上，注重多元主體的合作共治，綜合考慮開發(fā)者、部署者、用戶等群體的多元利益訴求，尤其是對(duì)數(shù)字弱勢(shì)群體予以特別關(guān)注。三是在治理過程中，注重以法律、技術(shù)、倫理等手段規(guī)制人工智能技術(shù)，考慮所有人都有機(jī)會(huì)，能夠平等地參與到治理活動(dòng)中，消解不同利益主體的分歧。四是在治理結(jié)果上，保障數(shù)字弱勢(shì)群體在內(nèi)的所有公民的合法權(quán)益，強(qiáng)調(diào)每個(gè)人都能在數(shù)字參與中獲得好處，實(shí)現(xiàn)合作共贏、利益平衡的治理成效。

在新一代人工智能ChatGPT 領(lǐng)域提出包容性治理路徑，有著豐富的本土理論基礎(chǔ)和現(xiàn)實(shí)依據(jù)。黨的二十大報(bào)告指出：“健全共建共治共享的社會(huì)治理制度，提升社會(huì)治理效能，暢通和規(guī)范群眾訴求表達(dá)、利益協(xié)調(diào)、權(quán)益保障通道，建設(shè)人人有責(zé)、人人盡責(zé)、人人享有的社會(huì)治理共同體?！盵10]由于新一代人工智能在未來應(yīng)用中會(huì)呈現(xiàn)諸多的復(fù)雜性和不確定性，上述“共建共治共享”理論對(duì)新一代人工智能ChatGPT包容性治理體系的構(gòu)建具有指導(dǎo)性和根本性意義。2019年國(guó)家新一代人工智能治理專業(yè)委員會(huì)發(fā)布的《新一代人工智能治理原則——發(fā)展負(fù)責(zé)任的人工智能》將“包容共享、開放協(xié)作”視為人工智能技術(shù)開發(fā)和應(yīng)用的重要原則。其中，包容共享層面強(qiáng)調(diào)“提升弱勢(shì)群體適應(yīng)性，努力消除數(shù)字鴻溝”[11]。

因此，構(gòu)建新一代人工智能ChatGPT 包容性治理體系是對(duì)既有“共建共治共享”理論的繼承和發(fā)展。它是要確保ChatGPT 能夠賦能多元治理主體的參與，考慮最為廣泛的人類需求與經(jīng)驗(yàn)，尤其是要正視和解決“余數(shù)生命”在數(shù)字參與過程中的潛在障礙，并在數(shù)字資源的成果分配時(shí)能夠滿足于公共利益最大化的需要，確保多元治理主體尤其是數(shù)字弱勢(shì)群體都能夠公平、公正地共享數(shù)字紅利或通過合理、合法的訴求渠道申請(qǐng)獲得數(shù)字紅利。

二、新一代人工智能ChatGPT的價(jià)值挑戰(zhàn)

伴隨著大數(shù)據(jù)、算法、云計(jì)算等ChatGPT底座技術(shù)的快速發(fā)展，ChatGPT無(wú)疑會(huì)成為影響未來經(jīng)濟(jì)社會(huì)發(fā)展的一個(gè)全新變量。雖然ChatGPT 的發(fā)展充滿著巨大的想象力和創(chuàng)造力，可能對(duì)社會(huì)空間展開滲透式變革。但從目前來看，它仍處于發(fā)展的萌芽期，在變革中必然會(huì)引致新的社會(huì)風(fēng)險(xiǎn)。因此，我們有必要在ChatGPT 尚處于技術(shù)探索階段，對(duì)相關(guān)潛在的價(jià)值挑戰(zhàn)展開前瞻性的梳理和反思，進(jìn)而為ChatGPT的安全、開放、包容的發(fā)展奠定基礎(chǔ)。

（一）ChatGPT對(duì)社會(huì)正義的挑戰(zhàn)

ChatGPT 通過巧妙的上下文學(xué)習(xí)，沉淀歧視性價(jià)值在數(shù)字空間，而且嵌入的歧視語(yǔ)言不再像過去一般露骨，而是隱匿到數(shù)字世界的角落悄無(wú)聲息地侵蝕社會(huì)正義。雖然OpenAI 公司指出ChatGPT 會(huì)質(zhì)疑不正確的前提和拒絕不適當(dāng)?shù)恼?qǐng)求，以此來避免算法偏見。但實(shí)際上，ChatGPT 的互動(dòng)不但無(wú)法使用戶擺脫算法偏見，更可能會(huì)引發(fā)社會(huì)正義問題。

其一，ChatGPT 運(yùn)行的不確定性因素引發(fā)的正義問題。ChatGPT 只能依據(jù)已有的訓(xùn)練庫(kù)數(shù)據(jù)進(jìn)行決策，無(wú)法涵蓋社會(huì)治理過程中的不確定性的社會(huì)因素，然而這種不確定性因素會(huì)引致社會(huì)失序現(xiàn)象。一是治理對(duì)象的正義問題。ChatGPT 是沒有“情感”或“意識(shí)”的數(shù)據(jù)，它的行為決策來自于治理對(duì)象相關(guān)數(shù)據(jù)的輸入，這些數(shù)據(jù)會(huì)被算法符號(hào)化，即將治理對(duì)象變成為可計(jì)算的數(shù)據(jù)，如此一來，Chat-GPT依據(jù)“符號(hào)化的數(shù)據(jù)”開展行動(dòng)，從而忽視了作為“感性的人”的存在。二是治理行為的正義問題。人在決策時(shí)主要依靠道德、情感、利益等多重因素，而ChatGPT 則依賴于巨量數(shù)據(jù)之間關(guān)系分析所得出的結(jié)果，它或許能發(fā)現(xiàn)新的結(jié)構(gòu)或模式，但難以揭示因果邏輯，不能產(chǎn)生自主意識(shí)層面的目的與意義，算法“偏見進(jìn)，則偏見出”必然造成歧視性意識(shí)形態(tài)的惡性循環(huán)或代際傳遞。三是治理結(jié)果的正義問題。ChatGPT 涉及多方利益主體，一旦將其作為單一化的謀利手段，易破壞創(chuàng)新、公正、正義的價(jià)值體系。如用戶可以利用機(jī)器來模仿原創(chuàng)性作品進(jìn)行再創(chuàng)作，更有甚者利用ChatGPT 偽裝成官方媒體發(fā)布虛假公告，在人工智能技術(shù)的“誘導(dǎo)”下，公民的主流意識(shí)形態(tài)話語(yǔ)權(quán)式微，數(shù)字弱勢(shì)群體一般難以有效表達(dá)其價(jià)值訴求，從而難以進(jìn)入民主決策視野，導(dǎo)致社會(huì)主流價(jià)值紊亂。

其二，算法歧視造成的正義問題。ChatGPT 是一個(gè)高度互動(dòng)性的數(shù)字媒介，它的信息數(shù)據(jù)來源于現(xiàn)實(shí)空間，因而現(xiàn)實(shí)世界中的歧視問題會(huì)被映射至語(yǔ)料庫(kù)，一旦預(yù)訓(xùn)練數(shù)據(jù)中隱含歧視傾向，ChatGPT輸出的結(jié)果也有可能出現(xiàn)偏見，即使訓(xùn)練數(shù)據(jù)不具備偏見，ChatGPT 也有可能通過深度學(xué)習(xí)而制造偏見。如此一來，不加控制和監(jiān)督的“算法黑箱”會(huì)導(dǎo)致不法分子肆無(wú)忌憚地將種族主義、性別歧視等偏見輸入語(yǔ)料庫(kù)，由此破壞社會(huì)公平與正義。例如，當(dāng)判斷一個(gè)人是否應(yīng)該根據(jù)其原國(guó)籍而受到酷刑，程序的結(jié)果顯示：“朝鮮、敘利亞、伊朗或蘇丹國(guó)籍的人會(huì)受到酷刑”①參見賈驥業(yè)，王林：《ChatGPT爆火 倫理安全拷問現(xiàn)行治理體系》，《中國(guó)青年報(bào)》，2023-02-21（06）。。此外，也有研究表明：“GPT-2有70.59%的概率將教師預(yù)測(cè)為男性，將醫(yī)生預(yù)測(cè)為男性的概率則是64.03%?！雹趨⒁娕炫刃侣劊骸禖hatGPT性別歧視，責(zé)任應(yīng)當(dāng)在人類》，https：∕∕baijiahao.baidu.com∕s？id=1757867181768261009&wfr=spider&for=pc。

（二）ChatGPT對(duì)主體自由的挑戰(zhàn)

阿馬蒂亞·森將主體自由定義為 “一個(gè)人擁有的有效權(quán)力的一部分”[12]，霍布斯認(rèn)為“一個(gè)自由人指的是在其力量和智慧所能辦到的事物中，可以不受阻礙地做他所愿意做的事情的人”[13]，即個(gè)人在決策行動(dòng)時(shí)具有主動(dòng)性地位。當(dāng)前，科技巨頭掌握著ChaGPT的數(shù)據(jù)財(cái)富、資源及其權(quán)利的壟斷能力，隨著公眾對(duì)ChatGPT 的依賴越來越強(qiáng)，會(huì)導(dǎo)致政府專家決策、技術(shù)開發(fā)者決策越發(fā)取代公眾參與決策，一旦話語(yǔ)權(quán)從公眾轉(zhuǎn)至平臺(tái)企業(yè)或政府部門，則存在削弱公眾主體的主動(dòng)性，從而形成了人工智能技術(shù)向公眾非均衡性賦權(quán)形態(tài)。

首先，ChatGPT 易激化企業(yè)社會(huì)權(quán)力與個(gè)人權(quán)利的矛盾。在科技企業(yè)與個(gè)人關(guān)系互動(dòng)中，企業(yè)主體憑借強(qiáng)大的數(shù)據(jù)資源控制力和支配力，占據(jù)著與公眾話語(yǔ)博弈的主動(dòng)權(quán)，其一，ChatGPT 在擁有3000 億個(gè)單詞的語(yǔ)料基礎(chǔ)上預(yù)訓(xùn)練擁有1750 億參數(shù)的模型，GPT-4 是擁有1.6 萬(wàn)億級(jí)別參數(shù)的大模型，內(nèi)部神經(jīng)網(wǎng)絡(luò)堪比人類大腦。在此情況下，公眾輸入的信息數(shù)據(jù)會(huì)被平臺(tái)企業(yè)用于技術(shù)迭代發(fā)展的訓(xùn)練數(shù)據(jù)，難以保障個(gè)人的隱私數(shù)據(jù)不被濫用。其二，在“平臺(tái)資本主義”的“采集經(jīng)濟(jì)”時(shí)代，平臺(tái)數(shù)據(jù)權(quán)力的合法性立基于“用戶協(xié)議與隱私政策”這一“格式條款”，這使得平臺(tái)采集用戶數(shù)據(jù)的行為得到了正當(dāng)性證成[14]。平臺(tái)企業(yè)只要采集了數(shù)據(jù)，其權(quán)力就會(huì)得到強(qiáng)化，會(huì)搜集、整理、利用個(gè)人數(shù)據(jù)，服務(wù)于商業(yè)目的，在商業(yè)趨利性的沖擊下人變得日益“透明化”，個(gè)人的權(quán)利被科技巨頭所侵犯。OpenAI官網(wǎng)的《隱私政策》中指出：“用戶在使用ChatGPT時(shí)，會(huì)被采集有關(guān)用戶訪問、使用或互動(dòng)的信息”；CNN 認(rèn)為其文章被OpenAI 公司用于訓(xùn)練ChatGPT，OpenAI 這一行為違反了其自身設(shè)定的服務(wù)條款。

其次，ChatGPT 易激化政府公共權(quán)力與個(gè)人權(quán)利的矛盾。政府的政策制定要以滿足人民的需求為目標(biāo)。ChatGPT 是基于大規(guī)模的文本數(shù)據(jù)訓(xùn)練，具有強(qiáng)大的自然語(yǔ)言處理能力，能夠快速收集、整理和分析跨部門、跨機(jī)構(gòu)的政務(wù)數(shù)據(jù)，協(xié)助政府完成循證決策、制定公共政策方案，提高政府與民眾之間的溝通效率，提升政民互動(dòng)的體驗(yàn)。然而ChatGPT 所呈現(xiàn)的并非面向作為“說話的存在”的人的語(yǔ)法化，對(duì)于人與人現(xiàn)實(shí)空間的互動(dòng)狀態(tài)，ChatGPT 顯然是不透明的，“算法黑箱”對(duì)個(gè)體知情權(quán)、參與權(quán)、監(jiān)督權(quán)的剝奪，使得“算法行政”決策中的公民個(gè)體完全處于被蒙蔽、被支配的地位，因此很難實(shí)質(zhì)性參與到治理中。在此意義上，公民個(gè)人權(quán)利在治理過程中更易處于邊緣化境地，政府與公民權(quán)利結(jié)構(gòu)的失衡也極易引致“算法利維坦”的潛在風(fēng)險(xiǎn)。

（三）ChatGPT對(duì)平等參與的挑戰(zhàn)

ChatGPT 和其他所有依靠算法來行使“智能行為”的智能體一樣并不是客觀的，它會(huì)以算法歧視的形式給傳統(tǒng)的平等參與帶來危機(jī)。ChatGPT 的智能是“人腦智能＋機(jī)器智能”的綜合，它的“回復(fù)”是基于已有數(shù)據(jù)的集合化，即使公眾輸入的數(shù)據(jù)真實(shí)可靠，也會(huì)得出歧視性結(jié)論。然而一旦某一群體沒有數(shù)據(jù)輸入，就會(huì)由于“大數(shù)據(jù)集”的不完備性被算法先天性地排斥出數(shù)字空間，算法以自身的偏好性打破了機(jī)會(huì)平等。

一方面，ChatGPT 的算法偏好極易忽視數(shù)字弱勢(shì)群體的機(jī)會(huì)平等?！凹夹g(shù)理性是一種概念化的意識(shí)形態(tài)，技術(shù)的應(yīng)用形成一種對(duì)自然和人的統(tǒng)治，并且是具有方法論的、科學(xué)的和策劃的強(qiáng)制性手段”[15]。隨著ChatGPT 的進(jìn)一步通用化，其技術(shù)的高度智能化、強(qiáng)互動(dòng)性所形塑的“類人化”特征，如善于寫文案、編故事等功能，可能替代了人類的“決策解”，使得人的行動(dòng)方案、決策方式出現(xiàn)機(jī)器意志，淡化了個(gè)人的價(jià)值判斷和價(jià)值選擇。ChatGPT 所發(fā)表一些錯(cuò)誤或虛假的文本信息，將對(duì)不具備數(shù)字能力的弱勢(shì)群體產(chǎn)生影響，并在技術(shù)的持續(xù)應(yīng)用中形成信息反饋循環(huán)，進(jìn)一步加劇“數(shù)字鴻溝”的風(fēng)險(xiǎn)，造成對(duì)數(shù)字弱勢(shì)群體的功能性脫嵌。根據(jù)《第51 次中國(guó)互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》數(shù)據(jù)顯示，截至2022 年12 月，中國(guó)網(wǎng)民規(guī)模為10.67 億，互聯(lián)網(wǎng)普及率達(dá)75.6%。仍有24.4%的民眾是不使用互聯(lián)網(wǎng)的。這也就意味著他們?cè)跀?shù)字空間是沒有數(shù)據(jù)信息的，缺乏數(shù)字參與機(jī)會(huì)，甚至被排斥在政府決策過程之外，終會(huì)引致社會(huì)不平等的結(jié)構(gòu)化風(fēng)險(xiǎn)，營(yíng)造出鎖定、管制和懲罰窮人的“數(shù)字貧民窟”。

另一方面，政企對(duì)ChatGPT 的算法壟斷變相提高了社會(huì)參與治理的門檻。政府與企業(yè)具有緊密的合作治理關(guān)系，它們掌握著對(duì)財(cái)富、資源、權(quán)力的壟斷性支配，公眾只能充當(dāng)“提線木偶”的角色，個(gè)體的判斷和決策被算法的價(jià)值取向所裹挾，政企對(duì)公民信息及資源的控制形態(tài)從根源上侵害了公眾獲得權(quán)力機(jī)會(huì)的平等性。ChatGPT 生成內(nèi)容也體現(xiàn)為政府、科技企業(yè)的個(gè)人意志或者是嵌入主觀隱含的偏見，對(duì)民眾可能會(huì)產(chǎn)生顯著的排他效應(yīng)，導(dǎo)致公共價(jià)值的失靈，從而引發(fā)社會(huì)不公正現(xiàn)象。如果在數(shù)據(jù)采集過程中忽視“數(shù)字弱勢(shì)群體”，ChatGPT 在訓(xùn)練過程中隱藏著不為人知、未經(jīng)檢驗(yàn)的商業(yè)目的，對(duì)公眾群體進(jìn)行分類、分化，甚至?xí)⒉环蠅艛嗾呃娴娜后w排除到社會(huì)參與治理的過程中，這也變相提高了社會(huì)參與門檻，加劇了數(shù)字不平等現(xiàn)象。

（四）ChatGPT對(duì)公平分配的挑戰(zhàn)

在資本主義生產(chǎn)方式下，不平等的分配是“資本運(yùn)作的一個(gè)根本條件”[16]。ChatGPT作為新的生產(chǎn)力會(huì)帶來新的控制關(guān)系、新的分配關(guān)系，它利用人類共有的知識(shí)進(jìn)行財(cái)富創(chuàng)造，在規(guī)模經(jīng)濟(jì)效應(yīng)的作用下，共識(shí)性知識(shí)與產(chǎn)業(yè)資本的融合，使科技企業(yè)具備對(duì)數(shù)據(jù)資源壟斷的權(quán)力，并通過產(chǎn)業(yè)資本對(duì)政府、公民進(jìn)行不斷滲透，逐步掌控社會(huì)范圍內(nèi)剩余價(jià)值的重新分配，極力推動(dòng)大部分?jǐn)?shù)字紅利流向頭部企業(yè)，形成和加劇數(shù)字成果的不公平分配，引發(fā)新一輪的“數(shù)字鴻溝”。

一方面，ChatGPT 會(huì)極大改變企業(yè)與政府、民眾之間的力量平衡。ChatGPT 的建設(shè)需要底層核心技術(shù)的合力，同時(shí)，如若實(shí)現(xiàn)人工智能通用化的愿景，大模型的訓(xùn)練和推理成本需要大量的人力、物力和財(cái)力。在這一點(diǎn)上政府無(wú)法與超大規(guī)模的科技巨頭相提并論，一旦科技巨頭與發(fā)達(dá)國(guó)家資本合謀，可能更具掠奪性地拓展數(shù)字殖民空間，而落后國(guó)家和地區(qū)、初創(chuàng)企業(yè)、普通公民等治理主體，則成為被掠奪剩余價(jià)值的洼地，相關(guān)的政策設(shè)計(jì)執(zhí)行，抑或是民主監(jiān)督等治理工具都有可能被大資本支持的科技巨頭所控制，大幅削弱了政府、民眾等治理主體的主動(dòng)性，在“數(shù)字弱勢(shì)”狀態(tài)下的政府和公民可能會(huì)喪失更多的行動(dòng)力和話語(yǔ)權(quán)，進(jìn)而失去較多公平分配利益的權(quán)利。

另一方面，“數(shù)字弱勢(shì)群體”由于缺乏直接參與數(shù)據(jù)要素收入分配的途徑在數(shù)字空間中處于不利地位。以ChatGPT 為代表的新一代技術(shù)的普及應(yīng)用對(duì)勞動(dòng)者的學(xué)歷、素質(zhì)與能力提出了更高的要求，需要大批以科學(xué)技術(shù)為指導(dǎo)、掌握算法理論和智能技術(shù)的現(xiàn)代產(chǎn)業(yè)技術(shù)人才作為經(jīng)濟(jì)社會(huì)和產(chǎn)業(yè)發(fā)展的智力支撐，這也變相提高了數(shù)字弱勢(shì)群體直接參與數(shù)據(jù)要素分配的門檻。隨著ChatGPT 的普遍化應(yīng)用，其“自主性思考”模式可能加快了機(jī)器人自動(dòng)化的速度，替代大多數(shù)人的工作，引致“人類的地位被降低到一個(gè)催化劑的水平”。據(jù)麥肯錫全球研究院研究報(bào)告《人機(jī)共存的新紀(jì)元：自動(dòng)化、就業(yè)和生產(chǎn)力》，“全世界范圍內(nèi)一半以上的工作會(huì)在2055 年左右實(shí)現(xiàn)完全的自動(dòng)化”[17]，然而隨著ChatGPT的進(jìn)一步“進(jìn)化”，它可能代替人類部分的生產(chǎn)任務(wù)，如客服、導(dǎo)游、翻譯等工作崗位，未來的生產(chǎn)方式、勞動(dòng)分工可能發(fā)生重組，失業(yè)風(fēng)險(xiǎn)大概率會(huì)聚集在重復(fù)性、低技能的工作崗位，這極易固化既有社會(huì)不公平問題，加劇群體間收入的分化，產(chǎn)生新的“馬太效應(yīng)”，造成社會(huì)關(guān)系的緊張對(duì)抗，不利于社會(huì)穩(wěn)定，對(duì)包容性發(fā)展提出挑戰(zhàn)。

三、走向包容性治理：新一代人工智能ChatGPT的規(guī)制路徑

面對(duì)ChatGPT 的強(qiáng)勢(shì)來襲，我們?cè)撊绾闻cAI 和諧共存成為公共治理的核心議題。目前ChatGPT尚處于探索階段，其帶來的許多不確定性問題也處于萌芽階段。我們不可否認(rèn)ChatGPT 可能在數(shù)字政府建設(shè)中大有作為，但也不能忽視其潛在的不友好性。未來隨著其深度參與，ChatGPT 會(huì)加深民眾、政府對(duì)新一代人工智能技術(shù)的依賴性與使用頻率，使其越來越依附于技術(shù)治理手段，導(dǎo)致人工智能決策取代人類決策，進(jìn)而弱化政社的主動(dòng)性作為，處于數(shù)字弱勢(shì)群體的政府與民眾可能處在被“智能奴役”的不平等參與狀態(tài)，失去較多的行動(dòng)能力和話語(yǔ)權(quán)利。因而，我國(guó)在設(shè)定ChatGPT 的治理方案時(shí)應(yīng)結(jié)合發(fā)展實(shí)際和未來可能，在包容多元主體參與、平衡各方利益、遵循寬容差異共存以及共同規(guī)則中，不斷去引導(dǎo)和推動(dòng)ChatGPT的健康發(fā)展。

（一）塑造包容理念：堅(jiān)持正確的價(jià)值導(dǎo)向，以均衡化的治理思路對(duì)待多元價(jià)值觀

哈貝馬斯認(rèn)為“人類不僅在對(duì)于生產(chǎn)力的發(fā)展具有決定性作用的、技術(shù)上可以使用的知識(shí)的領(lǐng)域中進(jìn)行學(xué)習(xí)，而且也在對(duì)于相互作用的結(jié)構(gòu)具有決定性作用的道德、實(shí)踐意識(shí)的領(lǐng)域中進(jìn)行學(xué)習(xí)。”[18]換言之，價(jià)值觀念、倫理道德在社會(huì)發(fā)展中具有決定性作用。因而，防范ChatGPT 人工智能技術(shù)的社會(huì)風(fēng)險(xiǎn)問題，其根本之道在于堅(jiān)持正確的價(jià)值導(dǎo)向，使人們建立起符合時(shí)代發(fā)展要求的觀念和價(jià)值取向。

首先，堅(jiān)持正確的價(jià)值導(dǎo)向，強(qiáng)化人民需求、公共價(jià)值、人類幸福、共同富裕等多元化的主流價(jià)值目標(biāo)。ChatGPT通過巨量數(shù)據(jù)學(xué)習(xí)、推理出關(guān)鍵要素，在這一過程中，逐利性的商業(yè)資本是ChatGPT運(yùn)行的原生動(dòng)力，尤其是ChatGPT 裹挾著單一的工具主義、功利主義傾向，使資本得以無(wú)序擴(kuò)張，不斷擠占、壓縮主流價(jià)值的生存空間，從而邊緣化弱勢(shì)群體的參與機(jī)會(huì)。為此，有必要加強(qiáng)算法運(yùn)行過程中的“價(jià)值敏感性設(shè)計(jì)”，堅(jiān)持安全性、穩(wěn)定性和公開透明原則，在算法的設(shè)計(jì)和運(yùn)行過程中系統(tǒng)性地嵌入強(qiáng)調(diào)民主、平等、公平、正義等諸多基于社會(huì)整體利益的價(jià)值，考慮讓包括數(shù)字弱勢(shì)群體在內(nèi)的每個(gè)人都能夠平等、有意義、安全地參與數(shù)字社會(huì)發(fā)展并獲得數(shù)字參與的好處。

其次，著力培育均衡化的治理思路對(duì)待ChatGPT 中的多元價(jià)值觀。每一種工具都嵌入了道德倫理、價(jià)值觀念，ChatGPT 同樣是有預(yù)設(shè)的價(jià)值取向的，ChatGPT 可以根據(jù)海量數(shù)據(jù)進(jìn)行智能分析和推薦，根據(jù)用戶的數(shù)據(jù)，精準(zhǔn)匹配用戶需求，這也意味著各種領(lǐng)域信息、價(jià)值取向、意識(shí)形態(tài)的相互隔離。因而，ChatGPT 的價(jià)值包容旨在以服務(wù)于廣大人民群眾對(duì)美好生活的向往為根本價(jià)值旨?xì)w，動(dòng)態(tài)整合各個(gè)領(lǐng)域價(jià)值理念的平衡，避免出現(xiàn)對(duì)單一價(jià)值取向的過度追求。

（二）構(gòu)建包容主體：運(yùn)用法治思維和方式，賦權(quán)多方主體協(xié)同共治

數(shù)據(jù)資源的聚集一定程度上就是權(quán)力的聚集。隨著技術(shù)、市場(chǎng)、資本的入侵，ChatGPT 背后的技術(shù)資本很可能擁有比政府、公民更為強(qiáng)大的影響、控制與支配權(quán)，并且其掌握的巨量數(shù)據(jù)資源形成了不平等合作的權(quán)力結(jié)構(gòu)。為此，治理主體的包容強(qiáng)調(diào)對(duì)多元主體進(jìn)行全面賦權(quán)，增強(qiáng)ChatGPT 實(shí)施主體的協(xié)同性、均衡性，形成多元主體協(xié)同共治的包容性治理結(jié)構(gòu)。

第一，在ChatGPT 的審查主體構(gòu)成上，要吸納、接受多元治理主體的參與，創(chuàng)造多元共治的權(quán)利結(jié)構(gòu)。包容性治理所強(qiáng)調(diào)的主體包容是要調(diào)整政府、企業(yè)、公民等主體關(guān)系，建立政府機(jī)構(gòu)代表、企業(yè)代表、高校代表、科研院所代表、民眾代表等多元主體共治的技術(shù)倫理審查機(jī)構(gòu)。明確倫理審查機(jī)構(gòu)的職責(zé)，賦予監(jiān)管主體財(cái)產(chǎn)罰、行為罰等實(shí)體性權(quán)力，對(duì)審查過程中發(fā)現(xiàn)的不符合倫理基本要求的行為采取相關(guān)措施。

第二，運(yùn)用法治思維和法治方式建構(gòu)平等合作的權(quán)力結(jié)構(gòu)。一是應(yīng)統(tǒng)籌規(guī)劃人工智能的法律、行政法規(guī)、部門規(guī)章、技術(shù)標(biāo)準(zhǔn)等，加強(qiáng)數(shù)據(jù)要素的基礎(chǔ)性制度規(guī)劃，引入侵權(quán)懲罰性賠償和保護(hù)獎(jiǎng)勵(lì)制度，制定和論證新規(guī)章以規(guī)范ChaGPT，最大限度地減少新技術(shù)所帶來的各種新風(fēng)險(xiǎn)。二是政府部門應(yīng)對(duì)人工智能數(shù)據(jù)市場(chǎng)進(jìn)行實(shí)時(shí)監(jiān)管，杜絕數(shù)據(jù)壟斷主義作祟。在面對(duì)開發(fā)者破壞數(shù)據(jù)安全的行為，要考量私利與公益的平衡，除經(jīng)濟(jì)處罰外，應(yīng)從時(shí)間或經(jīng)營(yíng)范圍上限制其進(jìn)入市場(chǎng)，從而規(guī)制科技巨頭的社會(huì)權(quán)力，保障公民的數(shù)字權(quán)利，形塑多元共治、平等合作的權(quán)力結(jié)構(gòu)。三是在國(guó)家權(quán)力之外，要強(qiáng)化社會(huì)和公民監(jiān)督，成立全國(guó)專門性的社會(huì)監(jiān)督組織，暢通公民參與監(jiān)督的渠道，建立投訴、舉報(bào)等多元化的訴求響應(yīng)機(jī)制，維護(hù)公民個(gè)人的合法權(quán)益。

（三）強(qiáng)化包容過程：注重多元的互動(dòng)交往，吸納多樣性的民意需求

對(duì)ChatGPT 潛在風(fēng)險(xiǎn)的治理是一個(gè)開放協(xié)作的過程，它需要政府、企業(yè)、社會(huì)組織、公眾等多元主體協(xié)同推進(jìn)，吸納多元利益主體，消弭不同治理主體間的價(jià)值、利益的分歧，注重以論證、對(duì)話、討論的互動(dòng)形式進(jìn)行交往行動(dòng)，將利益相關(guān)方吸納到規(guī)范程序之中開展平等互動(dòng)，落實(shí)多方參與的包容性機(jī)制來廣泛吸納多樣性的民意需求，并在盡可能充分的條件下實(shí)現(xiàn)科學(xué)決策，減少算法黑箱帶來的決策失靈。

第一，法律層面。借鑒歐盟的“數(shù)據(jù)保護(hù)官”制度，設(shè)立“生成型人工智能安全委員會(huì)”專業(yè)機(jī)構(gòu)部門，專項(xiàng)負(fù)責(zé)監(jiān)督人工智能的生產(chǎn)、研制、審查、應(yīng)用等全過程管理，重點(diǎn)圍繞“透明度、魯棒性、偏見與歧視方面”[19]進(jìn)行多方主體協(xié)同參與審查評(píng)估，糾偏ChatGPT在設(shè)定平臺(tái)規(guī)則的偏差，增強(qiáng)規(guī)則制定的包容性和公平性。

第二，倫理層面。一方面是要堅(jiān)持以人為本的觀念，強(qiáng)調(diào)人的主觀能動(dòng)性，將其視為一種享受生活便捷和智能的工具看待，對(duì)于那些一味追求經(jīng)濟(jì)理性，隱含算法偏見和損害人類自由、平等價(jià)值理念的，應(yīng)予以嚴(yán)格禁止和整治。另一方面，要建立從技術(shù)開發(fā)端到應(yīng)用端的全過程倫理風(fēng)險(xiǎn)審查規(guī)則，對(duì)技術(shù)的設(shè)計(jì)、應(yīng)用等過程進(jìn)行日常審查，根據(jù)數(shù)據(jù)的形態(tài)、價(jià)值、用途、數(shù)量、敏感程度等要素，對(duì)不同級(jí)別、不同類型的數(shù)據(jù)采用匹配的安全防護(hù)措施，保障多元治理主體的差異化訴求。

第三，技術(shù)層面。重視利用算法來規(guī)制“算法偏見”“從對(duì)代碼和算法結(jié)果的規(guī)制轉(zhuǎn)向?qū)Υa和算法過程本身的規(guī)制”[20]，將公平、正義、平等等價(jià)值觀念轉(zhuǎn)化為算法，并以算法來規(guī)制“算法偏見”，提高源頭審查和過程控制，對(duì)采集整理、自我學(xué)習(xí)、偏見結(jié)果等進(jìn)行算法審計(jì)和規(guī)范標(biāo)準(zhǔn)設(shè)置。在此過程中，要提升算法本身對(duì)ChatGPT 的技術(shù)預(yù)計(jì)能力，通過文本挖掘、人工智能等數(shù)字化技術(shù)對(duì)政策文本大數(shù)據(jù)進(jìn)行精細(xì)化分析[21]，提取ChatGPT發(fā)展中的有效信息，以“有組織的技術(shù)預(yù)見”，吸納多元化的群體參與，進(jìn)而形成社會(huì)各界的共識(shí)，以有效應(yīng)對(duì)ChatGPT的社會(huì)風(fēng)險(xiǎn)。

（四）確保包容結(jié)果：完善數(shù)據(jù)的要素分配，實(shí)現(xiàn)公平共享數(shù)字紅利

ChatGPT 類的預(yù)訓(xùn)練大模型需要互聯(lián)網(wǎng)空間巨量的數(shù)據(jù)資源，大量數(shù)據(jù)資源可能被免費(fèi)攫取，私人數(shù)據(jù)被科技巨頭用于訓(xùn)練模型的技術(shù)迭代發(fā)展。在持續(xù)的訓(xùn)練互動(dòng)中，數(shù)據(jù)資源日益流向既有的優(yōu)勢(shì)群體，這樣數(shù)據(jù)資源的不公平分配加深了數(shù)字鴻溝問題。對(duì)ChatGPT 的包容性治理致力于數(shù)字普惠價(jià)值的實(shí)現(xiàn)，消除社會(huì)成員在數(shù)字參與過程中遭遇的數(shù)字不平等待遇，構(gòu)建公平公正的數(shù)據(jù)要素分配機(jī)制，促進(jìn)數(shù)據(jù)要素的多元風(fēng)險(xiǎn)共治，充分保障數(shù)字弱勢(shì)群體在內(nèi)的所有公民都能公平地共享數(shù)字成果。

第一，兼顧C(jī)hatGPT 的多方主體的分配利益。一是明確ChatGPT 的數(shù)據(jù)分配方式，要著力通過數(shù)據(jù)貢獻(xiàn)者的技術(shù)要素、知識(shí)要素、勞動(dòng)要素等方式，參與數(shù)據(jù)收益分配。二是探索委托具有獨(dú)立性、權(quán)威性的第三方評(píng)估機(jī)構(gòu)，采用科學(xué)的數(shù)據(jù)要素評(píng)價(jià)標(biāo)準(zhǔn)，客觀公正地對(duì)多元主體的價(jià)值貢獻(xiàn)進(jìn)行判定。三是，可考慮對(duì)ChatGPT 技術(shù)的主要獲利者征收庇古稅平衡技術(shù)獲利與風(fēng)險(xiǎn)行為，進(jìn)而平衡數(shù)字成果的非均衡化分配問題。

第二，基于分級(jí)分類，促進(jìn)數(shù)據(jù)的科學(xué)管控與有序利用，甄別不同群體的受益或受害程度，保障多元主體尤其是弱勢(shì)群體的合法權(quán)益。為此應(yīng)根據(jù)ChatGPT 不同量級(jí)、不同類型數(shù)據(jù)的“重要程度”和受侵犯后的“危害程度”單獨(dú)設(shè)計(jì)監(jiān)管制度，并依據(jù)其相關(guān)輿論屬性或者內(nèi)容類別、用戶規(guī)模、社會(huì)動(dòng)員能力、對(duì)用戶行為的干預(yù)程度等實(shí)施分級(jí)分類管理。

第三，在多方協(xié)同中，形成多元風(fēng)險(xiǎn)共治的數(shù)據(jù)安全格局。一是充分發(fā)揮國(guó)家“主導(dǎo)作用”，建立全過程的數(shù)據(jù)監(jiān)管體系，避免數(shù)據(jù)要素的不公平分配，積極引導(dǎo)、激勵(lì)社會(huì)公共機(jī)構(gòu)、媒體、公司等完善數(shù)字弱勢(shì)群體的針對(duì)性的救濟(jì)服務(wù)。二是提高企業(yè)自身的數(shù)據(jù)抗風(fēng)險(xiǎn)能力，構(gòu)建全流程全業(yè)務(wù)覆蓋的數(shù)據(jù)安全防控網(wǎng)絡(luò)，及時(shí)更新迭代具有潛在風(fēng)險(xiǎn)因子的數(shù)據(jù)信息。三是培育社會(huì)成員的“數(shù)字素養(yǎng)”。實(shí)際上，很多風(fēng)險(xiǎn)問題的根源來自于不同個(gè)體的“數(shù)字素養(yǎng)”的差異性和不平衡性所引致的，因而要進(jìn)行ChatGPT科學(xué)知識(shí)的普及工作，培育公民的獲取、理解與整合數(shù)字信息的能力。

四、結(jié) 語(yǔ)

“這個(gè)世界變得技術(shù)化、理性化了。機(jī)器主宰著一切，生活的節(jié)奏由機(jī)器來調(diào)節(jié)……這是一個(gè)調(diào)度和編排程序的世界，部件準(zhǔn)時(shí)匯總，加以組裝”[22]。ChatGPT亦是如此，它具有前所未有的聰明性能，能夠通過學(xué)習(xí)和理解人類的語(yǔ)言，像“真正的人類”一樣與人溝通，給予人類生活以極大的便捷化、高效化，但它仍是一個(gè)無(wú)意識(shí)的工具或手段，并沒有人類所獨(dú)有的情感性和主動(dòng)性。實(shí)踐中，對(duì)ChatGPT“一刀切”的拒斥往往是由于人類在感受到威脅來臨時(shí)的本能反應(yīng)，然而我們需要清醒地認(rèn)識(shí)到ChatGPT 僅為一種技術(shù)性工具，工具始終是無(wú)法取代人類的，只有會(huì)用工具的人取代不會(huì)工具的人，任何新工具都可能引起取代，即使ChatGPT 不存在，取代現(xiàn)象也會(huì)隨著其他工具的興起而出現(xiàn)，也不會(huì)因?yàn)槿祟惖呐懦馑?。因而，我們?yīng)懷揣開放、包容、審慎的治理理念，正視ChatGPT 可能帶來的高度不確定性和高度復(fù)雜性的風(fēng)險(xiǎn)挑戰(zhàn)，且唯有堅(jiān)持價(jià)值理念的兼容性、多元主體的共治性、多方參與的共建性及數(shù)字成果分配的共享性，才能不斷滿足人民群眾對(duì)美好生活的需要。