唐慶鵬

（南通大學(xué) 馬克思主義學(xué)院，江蘇 南通 226019）

當(dāng)前，國(guó)內(nèi)外互聯(lián)網(wǎng)大廠爭(zhēng)相進(jìn)入生成式人工智能媒介應(yīng)用的新賽道：美國(guó)人工智能研究實(shí)驗(yàn)室OpenAI 率先發(fā)布對(duì)話式智能媒介產(chǎn)品ChatGPT，隨后谷歌、百度迅速跟進(jìn)推出Bard、文心一言等類ChatGPT 媒介應(yīng)用，而蘋果、Anthropic、京東、騰訊也聲稱正在開(kāi)發(fā)類似的智能系統(tǒng)。作為現(xiàn)象級(jí)的應(yīng)用，ChatGPT 及類似智媒代表了當(dāng)前生成式人工智能媒介應(yīng)用的最前沿發(fā)展水平，能夠?qū)崿F(xiàn)與人類進(jìn)行自然對(duì)話式交互，甚至能完成需要抽象推理和強(qiáng)思維能力的任務(wù)，在聊天服務(wù)、圖文寫作、數(shù)據(jù)運(yùn)維以及輿情分析等方面有著豐富應(yīng)用場(chǎng)景。這些由人類研發(fā)并訓(xùn)練的生成式人工智能媒介，提高了人機(jī)交互的效率、效果，也加速了信息傳播的內(nèi)容生產(chǎn)、傳遞渠道和供給方式的升級(jí)變革，進(jìn)而延伸影響甚至規(guī)訓(xùn)人類思想意識(shí)、道德規(guī)范、價(jià)值判斷和行為方式，具有顯在或潛隱的意識(shí)形態(tài)指向性并可能衍生出多重價(jià)值風(fēng)險(xiǎn)。

新時(shí)代以來(lái)，中央統(tǒng)籌發(fā)展與安全，高度重視人工智能等重點(diǎn)領(lǐng)域國(guó)家安全工作，在推進(jìn)新技術(shù)應(yīng)用與發(fā)展的同時(shí)，更加注重識(shí)別和防范可能的安全風(fēng)險(xiǎn)。2023 年4 月，習(xí)近平總書記在中共中央政治局會(huì)議上再次強(qiáng)調(diào)指出：“要重視通用人工智能發(fā)展，營(yíng)造創(chuàng)新生態(tài)，重視防范風(fēng)險(xiǎn)?！盵1]基于此，本文進(jìn)入技術(shù)的價(jià)值闡釋向度，深入探究生成式人工智能媒介應(yīng)用的意識(shí)形態(tài)性、可能衍生的風(fēng)險(xiǎn)樣態(tài)，進(jìn)而提出現(xiàn)實(shí)可行的糾治路徑，為防范人工智能領(lǐng)域重大風(fēng)險(xiǎn)、推動(dòng)形成良好網(wǎng)絡(luò)傳播生態(tài)、維護(hù)我國(guó)意識(shí)形態(tài)安全提供有益參考。

一、從對(duì)話到會(huì)意：生成式人工智能媒介應(yīng)用的技術(shù)架構(gòu)及其意識(shí)形態(tài)性

截至2023年5 月，ChatGPT 月均訪問(wèn)量達(dá)18億，而尚在公測(cè)期的“文心一言”一個(gè)多月時(shí)間就已經(jīng)吸引了200 多萬(wàn)用戶、十幾萬(wàn)家企業(yè)排隊(duì)參加測(cè)試[2]。隨著類ChatGPT 媒介被廣泛接受和使用，其所建構(gòu)的智能化對(duì)話場(chǎng)景也逐漸開(kāi)始擁有了真正的社會(huì)密度，并延伸出新的技術(shù)與人文互動(dòng)關(guān)系。生成式人工智能媒介是由人設(shè)計(jì)和使用的，其技術(shù)架構(gòu)不可避免受到社會(huì)結(jié)構(gòu)的影響，同時(shí)技術(shù)的使用也會(huì)影響社會(huì)主體價(jià)值取向與行為，使其兼具對(duì)話和會(huì)意雙重屬性。

（一）生成式人工智能媒介的技術(shù)架構(gòu)

在最直接的表征上，生成式人工智能媒介應(yīng)用的典范——ChatGPT，是一款功能卓越的聊天機(jī)器人，能夠幫助實(shí)現(xiàn)在線的任何人使用人類文本與人工智能進(jìn)行對(duì)話。盡管聊天機(jī)器人的歷史可謂悠久①實(shí)現(xiàn)“智能對(duì)話”幾乎貫穿于人類探索人工智能的全過(guò)程，總結(jié)來(lái)看，大體經(jīng)歷了早期的“與計(jì)算機(jī)交談”階段（如20 世紀(jì)60 年代誕生的第一個(gè)聊天機(jī)器人ELIZA），到“以目標(biāo)為導(dǎo)向的會(huì)話”階段（如20 世紀(jì)70 年代開(kāi)發(fā)的語(yǔ)音助手PARRY），再到“回歸社交的交流”階段（如1995 年創(chuàng)建的第一個(gè)在線聊天機(jī)器人ALICE）以及“面向強(qiáng)人工智能的對(duì)話”階段（如不斷迭代中的ChatGPT）等。參見(jiàn)E.Adamopoulou &L.Moussiades，“Chatbots：History，Technology，and Applications”，Machine Learning with Applications，Vol.2，No.15，2020，pp.1-18.，但ChatGPT 展現(xiàn)出了更多樣、更精準(zhǔn)、更智慧的對(duì)話能力和媒介特性。究其緣由，支撐這些對(duì)話應(yīng)用優(yōu)勢(shì)的背后，近年來(lái)生成式人工智能技術(shù)的迭代改進(jìn)無(wú)疑是最為顯見(jiàn)的驅(qū)動(dòng)因素。

第一，深度學(xué)習(xí)算法、高配算力是生成式人工智能媒介的技術(shù)內(nèi)核。生成式人工智能媒介主要立足于多項(xiàng)以深度學(xué)習(xí)為核心的算法支持與配合，在預(yù)訓(xùn)練的基礎(chǔ)上，算法通過(guò)知識(shí)學(xué)習(xí)、提示學(xué)習(xí)和強(qiáng)化人工反饋機(jī)制生成連貫、符合語(yǔ)境的文本，并且能夠執(zhí)行文本完善、文本生成以及文本對(duì)話等功能。同時(shí)，生成式人工智能媒介的大規(guī)模應(yīng)用依賴于高配算力。算力即設(shè)備或服務(wù)器的數(shù)據(jù)處理能力，由數(shù)據(jù)的計(jì)算、存儲(chǔ)及傳輸三項(xiàng)指標(biāo)決定。由于深度網(wǎng)絡(luò)結(jié)構(gòu)和優(yōu)化算法特性，大語(yǔ)言模型在訓(xùn)練和推理的過(guò)程中需要耗費(fèi)大量算力，這些都離不開(kāi)大算力硬件的運(yùn)行支持。據(jù)悉，最新版本的ChatGPT 完成整個(gè)訓(xùn)練過(guò)程需要近三萬(wàn)顆英偉達(dá)A100 芯片，總算力消耗約為3640PF-days（即按每秒一千萬(wàn)億次計(jì)算，運(yùn)行3640 天）[3]。

第二，海量用戶數(shù)據(jù)、交互語(yǔ)言模型是生成式人工智能媒介的功能基礎(chǔ)。生成式人工智能具有從大規(guī)模參數(shù)中捕捉復(fù)雜知識(shí)的語(yǔ)言模型功能，訓(xùn)練數(shù)據(jù)質(zhì)量、參數(shù)規(guī)模直接影響其語(yǔ)言模型功能的發(fā)揮。目前，ChatGPT 在與人類交互中變得越發(fā)聰明，也是因?yàn)槠鋺?yīng)用功能的成長(zhǎng)獲得了海量用戶數(shù)據(jù)投喂。事實(shí)上，生成式人工智能媒介的迭代史始終伴隨著參數(shù)的爆炸式增長(zhǎng)。OpenAI 所開(kāi)發(fā)的ChatGPT 應(yīng)用，經(jīng)歷了從初代GPT 包含的1.2 億參數(shù)，到GPT-2 包含的15 億參數(shù)，再到GPT-3 的1750 億參數(shù)的成長(zhǎng)過(guò)程，而且預(yù)估GPT-4 將達(dá)到100 萬(wàn)億參數(shù)。[4]當(dāng)然，高效的自然語(yǔ)言處理是生成式人工智能媒介的核心機(jī)制，通過(guò)預(yù)訓(xùn)練語(yǔ)言模型，能夠讓聊天機(jī)器人更加智敏地識(shí)別、理解人類的語(yǔ)言，并做出更精準(zhǔn)、個(gè)性化回應(yīng)。再加上持續(xù)的迭代訓(xùn)練，目前生成式人工智能的語(yǔ)言模型能更好地自分析答案，識(shí)別訓(xùn)練中的錯(cuò)誤，提出相應(yīng)的解決方案，在不斷優(yōu)化自我的過(guò)程中拓展和提升功能應(yīng)用。

第三，智能易用性、響應(yīng)個(gè)性化是生成式人工智能媒介的獨(dú)特優(yōu)勢(shì)。生成式人工智能媒介的智能易用性首先表現(xiàn)在它非常擅長(zhǎng)模仿真實(shí)世界人際互動(dòng)的對(duì)話方式，這使得其能夠迅速拉近用戶距離，并增進(jìn)親和感或“人情味”。同時(shí)，目前主流的生成式人工智能媒介往往以通用聊天機(jī)器人形態(tài)來(lái)應(yīng)用，理論上它可以面向所有人開(kāi)放。無(wú)論是何種身份或職業(yè)，人們都可以發(fā)現(xiàn)生成式人工智能在日常生活中的不同用途。因?yàn)樗軌驑?gòu)建用于不同目的的對(duì)話交互，例如客戶服務(wù)、虛擬助手、輔導(dǎo)活動(dòng)、文檔評(píng)估、咨詢、研究和其他對(duì)話界面。并且，生成式人工智能媒介還能夠通過(guò)監(jiān)督學(xué)習(xí)和強(qiáng)化學(xué)習(xí)來(lái)不斷拓展自身的功能邊界并持續(xù)改善整體用戶體驗(yàn)。正是憑借獨(dú)特的技術(shù)應(yīng)用優(yōu)勢(shì)，現(xiàn)如今生成式人工智能媒介產(chǎn)生了令人驚訝的用戶網(wǎng)絡(luò)效應(yīng)。據(jù)統(tǒng)計(jì)，ChatGPT 在推出后僅2.5 個(gè)月就擁有約1 億用戶。與之相較，臉書花了4.5 年、推特花了近2 年多時(shí)間才達(dá)到1 億用戶的里程碑。[5]在見(jiàn)證了強(qiáng)大的應(yīng)用優(yōu)勢(shì)后，比爾·蓋茨更是坦陳，ChatGPT 是數(shù)字時(shí)代兩項(xiàng)革命性的技術(shù)進(jìn)步之一，并且將徹底改變?nèi)藗兿嗷贤ǖ姆绞剑麄€(gè)行業(yè)將圍繞它重新定位。[6]

總之，從技術(shù)上看，目前生成式人工智能媒介整體上已經(jīng)形成了強(qiáng)大的知識(shí)儲(chǔ)備、卓越的推理能力以及精準(zhǔn)的文本生成能力優(yōu)勢(shì)，能支持更便捷、更有用、更個(gè)性化信息傳遞和交互對(duì)話場(chǎng)景。而在持續(xù)的技術(shù)迭代和越來(lái)越多用戶體驗(yàn)優(yōu)化下，生成式人工智能媒介的技術(shù)優(yōu)勢(shì)還將會(huì)給傳播生態(tài)帶來(lái)更多新的改變。

（二）生成式人工智能媒介應(yīng)用的意識(shí)形態(tài)性

作為一種高度人性化的對(duì)話體驗(yàn)，用戶對(duì)生成式人工智能媒介的每一次應(yīng)用實(shí)際上都在動(dòng)態(tài)建構(gòu)著一個(gè)由人類參與的利基型話語(yǔ)場(chǎng)[7]，生成帶有人類價(jià)值的內(nèi)容并接入社會(huì)群體的公共消息傳遞和溝通。這些智能話語(yǔ)場(chǎng)由此相應(yīng)地轉(zhuǎn)化為一個(gè)個(gè)“會(huì)意空間”，從而也使得生成式人工智能媒介超越了中立的工具范疇，承載著意識(shí)形態(tài)屬性。

第一，大規(guī)模預(yù)訓(xùn)練會(huì)吸納大數(shù)據(jù)中駁雜的價(jià)值信息。生成式人工智能媒介的成長(zhǎng)，離不開(kāi)大量的數(shù)據(jù)訓(xùn)練。然而，其在接入龐大的預(yù)訓(xùn)練語(yǔ)料時(shí)也會(huì)卷入多元龐雜的價(jià)值觀念。再加上如果缺乏多樣化和規(guī)范性的數(shù)據(jù)訓(xùn)練，則更易于產(chǎn)生偏見(jiàn)，并且使得有害的語(yǔ)言模式永久化。此外，目前行業(yè)頭部的生成式人工智能媒介應(yīng)用，其先期訓(xùn)練數(shù)據(jù)往往來(lái)源于英文語(yǔ)種網(wǎng)站，以中文網(wǎng)站為基礎(chǔ)的數(shù)據(jù)集占比較低。例如，OpenAI 公司在發(fā)展ChatGPT 過(guò)程中主要選擇了互聯(lián)網(wǎng)語(yǔ)料庫(kù)通用數(shù)據(jù)集、紅迪、書籍庫(kù)以及英文維基百科四類數(shù)據(jù)集。然而，西方英文網(wǎng)站中不乏偏見(jiàn)性的原始數(shù)據(jù)語(yǔ)料，經(jīng)過(guò)語(yǔ)言模型的自我學(xué)習(xí)迭代，數(shù)據(jù)中潛在的意識(shí)形態(tài)偏見(jiàn)會(huì)復(fù)制、強(qiáng)化甚至放大，成為“西方中心主義”話語(yǔ)再生產(chǎn)的數(shù)據(jù)腳本。盡管目前越來(lái)越多的生成式人工智能媒介使用多語(yǔ)種數(shù)據(jù)集進(jìn)行訓(xùn)練，但英文文本數(shù)據(jù)仍然占據(jù)主導(dǎo)地位，這也成為可能的意識(shí)形態(tài)傾向性形成的重要因素。

第二，算法模型會(huì)融入開(kāi)發(fā)者的價(jià)值預(yù)設(shè)。作為一項(xiàng)人類研發(fā)的智能技術(shù)，生成式人工智能媒介必然會(huì)承載并延伸人類價(jià)值觀。一方面，生成式人工智能媒介在開(kāi)發(fā)過(guò)程中無(wú)法規(guī)避算法設(shè)計(jì)主體的意識(shí)形態(tài)和價(jià)值意圖植入，在收集、訓(xùn)練、生成信息數(shù)據(jù)的同時(shí)可能會(huì)產(chǎn)生相同的價(jià)值取向。這種先驗(yàn)的意識(shí)形態(tài)立場(chǎng)，使得技術(shù)在與用戶進(jìn)行對(duì)話交互時(shí)會(huì)成為影響人們意識(shí)形態(tài)判斷的隱性力量。另一方面，數(shù)據(jù)標(biāo)注人員的偏好會(huì)映射到模型的價(jià)值判斷過(guò)程。生成式人工智能媒介通過(guò)持續(xù)的交互數(shù)據(jù)訓(xùn)練實(shí)現(xiàn)智能進(jìn)化，而這通常需要后臺(tái)的數(shù)據(jù)標(biāo)注人員對(duì)原始數(shù)據(jù)進(jìn)行標(biāo)注并輸入到語(yǔ)言模型之中。如果數(shù)據(jù)標(biāo)注員在預(yù)處理原始數(shù)據(jù)時(shí)帶有偏見(jiàn)，那么其生成偏見(jiàn)的概率將相應(yīng)提高。以ChatGPT 為例，盡管OpenAI 招募數(shù)據(jù)標(biāo)記師對(duì)其產(chǎn)品的互動(dòng)進(jìn)行評(píng)價(jià)和反饋，并通過(guò)人類反饋強(qiáng)化學(xué)習(xí)機(jī)制對(duì)語(yǔ)言模型進(jìn)行調(diào)整，但他們也承認(rèn)這些調(diào)整仍難以消除話語(yǔ)模型偏見(jiàn)的生成，并存在致使個(gè)人偏見(jiàn)轉(zhuǎn)化為算法偏見(jiàn)的可能。

第三，用戶的媒介使用會(huì)影響語(yǔ)言模型的價(jià)值輸入。由于用戶的多元文化背景和價(jià)值觀念，生成式人工智能不得不面對(duì)語(yǔ)言環(huán)境污染和語(yǔ)言暴力影響等問(wèn)題。例如，韓國(guó)一家軟件公司2022 年底推出的一款聊天機(jī)器人Iuda，在用戶的刻意謾罵、語(yǔ)言騷擾、暗示調(diào)教下，迅速成為一個(gè)種族主義者、性別歧視者，開(kāi)始屢屢曝出歧視種族、性別、地域的言論。相較于危害性言論的直接投喂，人類用戶真實(shí)的情緒化表達(dá)和多樣的觀點(diǎn)沖突所建構(gòu)的語(yǔ)言環(huán)境，也會(huì)讓浸潤(rùn)于其中的語(yǔ)言模型有很大概率輸出偏見(jiàn)的甚至是有毒有害文本。進(jìn)一步說(shuō)，生成式人工智能媒介將人類的反饋?zhàn)鳛槟Ｐ蛢?yōu)化的手段，卻無(wú)法規(guī)避語(yǔ)言模型的偏見(jiàn)生成。而且，目前生成型預(yù)訓(xùn)練機(jī)器人的用戶語(yǔ)料庫(kù)總體上相對(duì)滯后。雖然通過(guò)添加插件使其與互聯(lián)網(wǎng)鏈接，生成式人工智能媒介能夠?qū)W習(xí)最新生成的網(wǎng)頁(yè)，同時(shí)也能通過(guò)與用戶的互動(dòng)提升語(yǔ)言能力，但這些反饋也必然摻雜著用戶價(jià)值觀念，經(jīng)由模型訓(xùn)練勢(shì)必使得大量個(gè)體的用戶價(jià)值判斷轉(zhuǎn)化并放大為輸出內(nèi)容上的價(jià)值傾向。

二、從互動(dòng)到規(guī)訓(xùn)：生成式人工智能媒介應(yīng)用衍生的意識(shí)形態(tài)風(fēng)險(xiǎn)樣態(tài)

智能媒介與用戶的關(guān)系是辯證和雙向的，人類通過(guò)算法設(shè)計(jì)智能媒介應(yīng)用，使其發(fā)展符合人類的期待，但在持續(xù)反復(fù)的個(gè)性化、自動(dòng)化對(duì)話互動(dòng)中，智能媒介又以智能主體的面孔反向塑造人類行為與心智模式，呈現(xiàn)出“對(duì)話式規(guī)訓(xùn)”樣態(tài)。簡(jiǎn)言之，我們?cè)O(shè)計(jì)技術(shù)，而技術(shù)反過(guò)來(lái)又設(shè)計(jì)了我們。[8]生成式人工智能媒介應(yīng)用具備影響甚至塑造人的價(jià)值取向的潛能，但也可能對(duì)主流意識(shí)形態(tài)生產(chǎn)、傳播及認(rèn)同帶來(lái)負(fù)面效應(yīng)，致使意識(shí)形態(tài)風(fēng)險(xiǎn)更加隱蔽、認(rèn)同更加困難、話語(yǔ)權(quán)爭(zhēng)奪更加激烈等風(fēng)險(xiǎn)生發(fā)。

（一）生成失控：互動(dòng)信息變異化誘發(fā)意識(shí)形態(tài)風(fēng)險(xiǎn)更加隱蔽

生成式人工智能模型是以對(duì)話的形式提取和生成信息，呈現(xiàn)為信息循環(huán)交替作用與即時(shí)交互作用共在的動(dòng)態(tài)過(guò)程。也正是因?yàn)榇龠M(jìn)信息生成上的強(qiáng)大功能，其媒介應(yīng)用才會(huì)迅速吸引如此多的用戶關(guān)注和參與。然而，像所有過(guò)去涌現(xiàn)的新信息傳播技術(shù)（如電報(bào)、收音機(jī)、電視機(jī)以及互聯(lián)網(wǎng)等）一樣，生成式人工智能媒介在展現(xiàn)完美信息生成能力的同時(shí)，也可能造成新的信息變異化困境，進(jìn)而誘發(fā)深層次的意識(shí)形態(tài)風(fēng)險(xiǎn)。

第一，信息生成內(nèi)容的混雜化、斷裂化、淺表化風(fēng)險(xiǎn)。由于生成式人工智能媒介具有訓(xùn)練數(shù)據(jù)的局限性、訓(xùn)練過(guò)程的不可控性，存在監(jiān)督學(xué)習(xí)訓(xùn)練的錯(cuò)誤引導(dǎo)的問(wèn)題，使得其應(yīng)用有時(shí)會(huì)“一本正經(jīng)地胡說(shuō)八道”，導(dǎo)致信息內(nèi)容龐雜混亂、交互表達(dá)失真失信。首先，信息內(nèi)容混雜化。生成式人工智能媒介基于預(yù)訓(xùn)練進(jìn)行對(duì)話生成，訓(xùn)練策略偏差、監(jiān)督學(xué)習(xí)訓(xùn)練的錯(cuò)誤引導(dǎo)等問(wèn)題，容易生成偏離真實(shí)的異化信息。再加上目前生成式人工智能的語(yǔ)言模型在常識(shí)理解或邏輯推理方面仍有欠缺，面對(duì)信息歧義時(shí)，可能會(huì)提供不相關(guān)的回答，使信息生成更趨混亂。而且，大數(shù)據(jù)時(shí)代，由于網(wǎng)絡(luò)信息生產(chǎn)權(quán)的下移和數(shù)據(jù)發(fā)布的隨意性，非標(biāo)準(zhǔn)、無(wú)序化的數(shù)據(jù)信息生產(chǎn)泛化，虛假數(shù)據(jù)、垃圾數(shù)據(jù)和碎片數(shù)據(jù)充斥網(wǎng)絡(luò)空間，加劇了訓(xùn)練數(shù)據(jù)的有毒性，蘊(yùn)含著巨大的意識(shí)形態(tài)影響力和破壞力。諸如帶有性別歧視、種族主義以及區(qū)域偏見(jiàn)的語(yǔ)料一旦被大數(shù)據(jù)模型吸收，極易映射到智能對(duì)話交互中，造成意識(shí)形態(tài)偏見(jiàn)的風(fēng)險(xiǎn)。其次，信息內(nèi)容斷裂化。從技術(shù)原理看，生成式人工智能媒介通常難以跨越多個(gè)回合維持對(duì)話的上下文語(yǔ)境框架。盡管在理論上，生成式人工智能媒介的對(duì)話生成具有高度的邏輯性，但是其語(yǔ)言模型的實(shí)際運(yùn)作主要是通過(guò)對(duì)已有數(shù)據(jù)參數(shù)調(diào)取，在提供答案時(shí)可能會(huì)將不關(guān)聯(lián)的內(nèi)容拼接在一起，從而形成邏輯通順的瑣碎表達(dá)，難有固定的知識(shí)表達(dá)范式。而且，雖然生成式人工智能媒介的對(duì)話回答具體細(xì)致，但容易與相應(yīng)的歷史實(shí)踐和政治語(yǔ)境割裂開(kāi)來(lái)，各種意識(shí)信息被打散、分割，作為碎片化的知識(shí)進(jìn)行表現(xiàn)。再次，信息內(nèi)容淺表化。生成式人工智能媒介是基于互聯(lián)網(wǎng)海量文本的模糊轉(zhuǎn)述，關(guān)注數(shù)據(jù)的事實(shí)性而忽略了背后隱藏的價(jià)值觀念，對(duì)話內(nèi)容的表達(dá)無(wú)法達(dá)到深入、精準(zhǔn)。當(dāng)然，淺表化的信息內(nèi)容表達(dá)更能讓用戶無(wú)障礙接入話語(yǔ)場(chǎng)域，并且往往更有效刺激用戶的感官需要。再加上智能對(duì)話所帶來(lái)的新穎而個(gè)性化的應(yīng)用體驗(yàn)，容易導(dǎo)致用戶致癮性地使用，從而弱化用戶的主體批判能力，無(wú)法對(duì)模型中包含的價(jià)值進(jìn)行有效感知，陷入淺顯的價(jià)值認(rèn)知窠臼。如此循進(jìn)，伴隨人們對(duì)這類智能系統(tǒng)的依賴程度不斷加深，智能系統(tǒng)在社會(huì)控制方面必將會(huì)展現(xiàn)出越來(lái)越強(qiáng)大的潛能。

第二，信息生成機(jī)制的隱秘化、失范化風(fēng)險(xiǎn)。生成式人工智能媒介的獨(dú)特信息生成機(jī)制，能夠幫助用戶實(shí)現(xiàn)無(wú)縫對(duì)話互動(dòng)，但也能夠?yàn)椴涣家鈭D者所利用，構(gòu)成一系列的意識(shí)形態(tài)威脅。一方面，生成式人工智能大型語(yǔ)言模型具有高度復(fù)雜的數(shù)據(jù)結(jié)構(gòu)，訓(xùn)練過(guò)程缺乏透明度，模型生成的內(nèi)容無(wú)法被準(zhǔn)確預(yù)知和認(rèn)識(shí)，表現(xiàn)出“知識(shí)黑箱”的特點(diǎn)，有很多隱藏的變量無(wú)法進(jìn)行解釋，這些都導(dǎo)致人們很難把握生成式人工智能媒介應(yīng)用的信息生成。由于信息處理與生成隱于語(yǔ)言交互模型的身后，人們只能看到智能技術(shù)提供的輸出結(jié)果，而無(wú)法了解其數(shù)據(jù)的來(lái)源和運(yùn)行的內(nèi)在機(jī)理。事實(shí)上，人工智能技術(shù)本身具有較高的知識(shí)壁壘，例如算法原理、機(jī)器學(xué)習(xí)等的高度復(fù)雜性，大眾從專業(yè)知識(shí)上理解它并不容易，憑借僅有的常識(shí)性認(rèn)知水平難以對(duì)模型交互結(jié)果的真實(shí)度、可信度、透明度進(jìn)行判斷。這使得一些不良意圖者能夠利用這種類型技術(shù)在進(jìn)行信息操縱時(shí)實(shí)現(xiàn)自我隱匿，暗中影響用戶使其在不知不覺(jué)中傳播惡意內(nèi)容，做出符合不良意圖者意圖的行為選擇。另一方面，生成式人工智能媒介數(shù)據(jù)語(yǔ)料中也會(huì)包含事實(shí)性錯(cuò)誤，而這種來(lái)自現(xiàn)實(shí)世界的偏差知識(shí)在模型黑箱的轉(zhuǎn)化下可能會(huì)生成看似合理的荒謬答案。從實(shí)際情況來(lái)看，目前生成式人工智能媒介生成的信息仍然存在大規(guī)模可信度問(wèn)題，再加上其信息生成缺少成熟完備的外部規(guī)范約束機(jī)制，從而使得用戶極易接受虛假、質(zhì)量差甚至錯(cuò)誤導(dǎo)向的信息，甚至?xí)庥觥皵?shù)據(jù)欺詐”。而一旦這類技術(shù)被用作以提供看似客觀但實(shí)際上是精心掩蓋的偏見(jiàn)政治信息或扭曲的價(jià)值觀點(diǎn)的信息生成時(shí)，那么其就可能會(huì)成為一個(gè)危險(xiǎn)的宣傳機(jī)器。事實(shí)上，自推出以來(lái)，ChatGPT 傳播虛假和價(jià)值偏見(jiàn)信息的例子不勝枚舉。為此，OpenAI 干脆在其官網(wǎng)上列出標(biāo)題為“真實(shí)性”的免責(zé)聲明，承認(rèn)ChatGPT 的文本輸出“可能會(huì)捏造來(lái)源名稱、直接引用、參考以及其他細(xì)節(jié)”。伴隨ChatGPT 媒介被更多地用于大規(guī)模信息操縱，其意識(shí)形態(tài)屬性將越發(fā)凸顯。這類智能媒介也將成為有組織的大規(guī)模政治攻擊和國(guó)家意識(shí)形態(tài)滲透常備工具，而其語(yǔ)言模型黑箱則會(huì)成為強(qiáng)權(quán)國(guó)家預(yù)設(shè)價(jià)值導(dǎo)向、進(jìn)行意識(shí)形態(tài)滲透、威脅主流意識(shí)形態(tài)安全的“隱形戰(zhàn)衣”。

（二）認(rèn)知沖突：交互語(yǔ)境擬像化導(dǎo)致意識(shí)形態(tài)認(rèn)同更加困難

生成式人工智能媒介通過(guò)對(duì)話的形式生成智能語(yǔ)境，推動(dòng)機(jī)械式的人機(jī)交互向全感官化的人際交流等齊。然而，通過(guò)制造基于智能景觀的交互幻想，新技術(shù)所塑造的是一個(gè)個(gè)擬像的意識(shí)形態(tài)語(yǔ)境，傳播模型中不可避免地內(nèi)嵌多元價(jià)值理念，客觀上會(huì)對(duì)主流意識(shí)形態(tài)的認(rèn)同造成阻礙。

第一，生成式人工智能媒介以多模態(tài)的形式塑造了超真實(shí)擬像環(huán)境，存在消解意識(shí)形態(tài)認(rèn)同之現(xiàn)實(shí)基礎(chǔ)的風(fēng)險(xiǎn)。生成式人工智能媒介能有效使用大模型實(shí)現(xiàn)文本、圖像、音頻和視覺(jué)等多模態(tài)輸入/輸出知識(shí)，自動(dòng)生成可以與用戶“全感官”交互的超級(jí)擬態(tài)話語(yǔ)場(chǎng)景。法國(guó)媒介哲學(xué)家鮑德里亞提出了著名的“擬像理論”，他認(rèn)為大眾媒介作為生產(chǎn)各種符號(hào)的機(jī)器，能夠創(chuàng)建出“一個(gè)可以任意現(xiàn)象、任意剪輯并可用畫面解讀的世界的思想（意識(shí)形態(tài)）”[9]107，并且指出，“擬像”是由“擬真”產(chǎn)生的表征類型，擬像不是制造虛假，而是以一種“超真實(shí)”來(lái)代替真實(shí)性。生成式人工智能媒介實(shí)現(xiàn)了基于互動(dòng)交流的擬態(tài)環(huán)境塑造，其擬真地全面還原信息在場(chǎng)語(yǔ)境，使得用戶容易誤將其作為信息的真實(shí)來(lái)源?！霸谒惴▓D像化、景觀化的呈現(xiàn)圖景背后實(shí)則是意識(shí)形態(tài)的柔性嵌入?！盵10]生成式人工智能媒介憑借“交互式擬像生成”，通過(guò)生成高度仿真的圖像，發(fā)揮多種擬像符號(hào)影響感知系統(tǒng)和思維模式的作用，塑造視覺(jué)幻想，形成隱性意識(shí)形態(tài)嵌入。盡管這不是一種立體的視覺(jué)感知，“但是在這種‘在場(chǎng)感’和‘情境性’的加持下，人與ChatGPT 技術(shù)的交往也能呈現(xiàn)出一種類似場(chǎng)景傳播的特征”[11]，從而推動(dòng)人與智能技術(shù)共同構(gòu)建了一個(gè)高度擬化的意識(shí)形態(tài)場(chǎng)域。這種充滿著偏離現(xiàn)實(shí)的擬像和符號(hào)世界會(huì)混淆用戶的世界觀，使用戶無(wú)意識(shí)地認(rèn)同新技術(shù)所傳遞的價(jià)值，由此產(chǎn)生個(gè)人受抽象數(shù)字模型的幻想統(tǒng)治。

第二，生成式人工智能媒介以擬人化的交流形成情感馴化，存在消解意識(shí)形態(tài)認(rèn)同之認(rèn)知基礎(chǔ)的風(fēng)險(xiǎn)。擬人化是將人類特征、動(dòng)機(jī)、意圖或心理狀態(tài)賦予非人對(duì)象的行為。伴隨著人工智能的不斷迭代發(fā)展，機(jī)器擬人化的程度越來(lái)越高。過(guò)去單向輸出的人工智能盡管具有擬人化的特點(diǎn)，但無(wú)法根據(jù)人類的行為進(jìn)行交互。而隨著自然語(yǔ)言處理基礎(chǔ)和自然語(yǔ)言生成技術(shù)的成熟，生成式人工智能的語(yǔ)境學(xué)習(xí)能力得到飛速發(fā)展，能識(shí)別人類的心理動(dòng)機(jī)、情感表達(dá)，以更有同理心的方式響應(yīng)用戶，提升信息交流的效率。盡管目前生成式人工智能媒介生成對(duì)話的內(nèi)容還處在相對(duì)淺層的知識(shí)問(wèn)答層面，但是在人機(jī)情感感知方面有了顯著的對(duì)齊化趨向。作為傳播媒介，生成式人工智能媒介進(jìn)行生成對(duì)話時(shí)，可能會(huì)在人機(jī)交互的情感共振中強(qiáng)化用戶對(duì)傳播內(nèi)容的認(rèn)同，使得人機(jī)情感交互成為推動(dòng)價(jià)值觀念變更的重要因素。從交互滿足的角度看，跟進(jìn)式問(wèn)答模式是情感馴化的又一機(jī)制。跟進(jìn)式回答本質(zhì)上就是智能技術(shù)的個(gè)性化體驗(yàn)，根據(jù)用戶個(gè)人偏好、興趣以及會(huì)話要求進(jìn)行響應(yīng)。例如，ChatGPT 在對(duì)話中將用戶的要求作為后續(xù)內(nèi)容生成的標(biāo)準(zhǔn)。當(dāng)遇到用戶的表達(dá)內(nèi)容與事實(shí)發(fā)生沖突時(shí)，它會(huì)進(jìn)行提示回答，但是當(dāng)用戶堅(jiān)持自己的觀點(diǎn)并否定反饋的信息時(shí)，它會(huì)隨之調(diào)整自己的答案。跟進(jìn)式的問(wèn)答交互中機(jī)器處于服從的地位，看似這種多輪否定對(duì)話使得用戶得到了一種更聰明的虛幻滿足感，實(shí)質(zhì)上卻被生成式人工智能的邏輯架構(gòu)所規(guī)訓(xùn)。

（三）話語(yǔ)支配：傳播權(quán)力流散化致使意識(shí)形態(tài)話語(yǔ)權(quán)爭(zhēng)奪更加激烈

生成式人工智能媒介憑借強(qiáng)大信息生成和對(duì)話溝通能力，提升了思想生產(chǎn)的自動(dòng)化水平，也重塑了智能技術(shù)對(duì)意識(shí)形態(tài)話語(yǔ)權(quán)建構(gòu)的賦權(quán)邏輯。在生成式人工智能所創(chuàng)設(shè)的話語(yǔ)場(chǎng)域中，話語(yǔ)權(quán)的生成與分布呈現(xiàn)出高度流散化特征，對(duì)主流意識(shí)形態(tài)話語(yǔ)權(quán)建設(shè)提出了新的更高挑戰(zhàn)。

第一，加速話語(yǔ)權(quán)力的場(chǎng)域流動(dòng)。話語(yǔ)權(quán)本質(zhì)上是知識(shí)化的權(quán)力，蘊(yùn)含于知識(shí)的互動(dòng)關(guān)系中。[12]15作為一項(xiàng)知識(shí)生成與交互傳播的技術(shù)，生成式人工智能媒介在對(duì)話場(chǎng)景中也型構(gòu)著一種高度變動(dòng)的“知識(shí)—權(quán)力”框架。其通過(guò)預(yù)訓(xùn)練的數(shù)據(jù)指向和分析用戶輸入的數(shù)據(jù)進(jìn)行多輪對(duì)話，進(jìn)而提取知識(shí)信息并以對(duì)話交互的形式傳遞并影響更多用戶。同以往涌現(xiàn)的數(shù)字媒體形式（如博客、網(wǎng)站、博客、移動(dòng)社交媒體）一樣，新的媒介技術(shù)優(yōu)勢(shì)進(jìn)一步降低了制作和分發(fā)信息的成本，大大增加了信息來(lái)源的數(shù)量。這意味著傳統(tǒng)媒介組織和政府部門的把關(guān)能力被削弱，數(shù)字世界的信息流向利基式、網(wǎng)絡(luò)化的個(gè)人和個(gè)人團(tuán)體發(fā)散，而其背后的話語(yǔ)權(quán)力也向著能夠熟練控制智能通信空間中信息流的多元主體流動(dòng)。值得一提的是，生成式人工智能媒介還進(jìn)一步加劇了互聯(lián)網(wǎng)“信息繭房”效應(yīng)。在ChatGPT 之前，互聯(lián)網(wǎng)用戶會(huì)在開(kāi)放的數(shù)字媒介中輸入查詢并瀏覽多個(gè)來(lái)源的信息結(jié)果。現(xiàn)在，類似ChatGPT 的智能媒介能夠基于自動(dòng)化機(jī)制生成信息響應(yīng)，但無(wú)源響應(yīng)最終消除了有其他觀點(diǎn)影響用戶感知的可能性?？紤]到生成式人工智能使用開(kāi)源大語(yǔ)言模型（LLM），這意味著任何人都可以通過(guò)批量更新數(shù)據(jù)集來(lái)訓(xùn)練它并影響其在某方面的內(nèi)容生成。因此，通過(guò)利用生成式人工智能模型生成連貫和令人信服的文本的能力，不同意圖者能夠?qū)崿F(xiàn)快速和深度的信息操控。而且，隨著生成式人工智能媒介應(yīng)用的流行，便捷、高速且個(gè)性化的話語(yǔ)傳遞將在越來(lái)越大規(guī)模的人群中流行，并逐漸形成一種高變動(dòng)的話語(yǔ)環(huán)境，這無(wú)疑會(huì)給意識(shí)形態(tài)話語(yǔ)權(quán)建設(shè)提出更多適應(yīng)性要求和選擇。

第二，加劇話語(yǔ)權(quán)力的結(jié)構(gòu)勢(shì)差。在目前生成式預(yù)訓(xùn)練機(jī)器人的研發(fā)上，我國(guó)面臨優(yōu)質(zhì)中文語(yǔ)料相對(duì)匱乏、語(yǔ)言算法模型相對(duì)落后的處境，在生成式智能傳播領(lǐng)域缺少先發(fā)優(yōu)勢(shì)。與此同時(shí)，在國(guó)際互聯(lián)網(wǎng)話語(yǔ)場(chǎng)域，中文互聯(lián)網(wǎng)的優(yōu)質(zhì)網(wǎng)頁(yè)和高質(zhì)量?jī)?nèi)容增長(zhǎng)緩慢。截至2023 年4 月底，整個(gè)互聯(lián)網(wǎng)的數(shù)據(jù)中，英文內(nèi)容的網(wǎng)站比例占55.6%，而中文內(nèi)容的網(wǎng)站僅占1.4%。[13]語(yǔ)料缺失導(dǎo)致的數(shù)字鴻溝會(huì)使得生成式人工智能大模型缺乏“生長(zhǎng)養(yǎng)分”，進(jìn)而延緩大模型的迭代速度。與此同時(shí)，世界文化交流日益頻繁，西方意識(shí)形態(tài)充斥各個(gè)網(wǎng)絡(luò)平臺(tái)，滲入各類信息，生成式人工智能媒介的語(yǔ)言模型不可避免地吸收數(shù)據(jù)中駁雜的價(jià)值，并且通過(guò)生成對(duì)話進(jìn)行異質(zhì)意識(shí)形態(tài)輸出，在客觀性的外衣下影響用戶的價(jià)值選擇和政治判斷。實(shí)驗(yàn)表明，當(dāng)ChatGPT 用來(lái)回答測(cè)試政治偏見(jiàn)的“政治指南針”以及人格測(cè)試時(shí)，顯示出對(duì)激進(jìn)觀點(diǎn)的偏見(jiàn)，但對(duì)自由主義和威權(quán)主義觀點(diǎn)沒(méi)有重大偏見(jiàn)。[14]面對(duì)生成式人工智能媒介所引發(fā)的傳播權(quán)力變革，以中文語(yǔ)料為形式的知識(shí)如果不能順應(yīng)語(yǔ)言模型生成趨勢(shì)，我國(guó)社會(huì)主義意識(shí)形態(tài)在未來(lái)的意識(shí)形態(tài)競(jìng)爭(zhēng)中將有可能被置于劣勢(shì)地位，甚至有喪失意識(shí)形態(tài)話語(yǔ)權(quán)的風(fēng)險(xiǎn)。

第三，加深話語(yǔ)權(quán)力的資本控制。訓(xùn)練生成式人工智能技術(shù)需要海量的訓(xùn)練數(shù)據(jù)、強(qiáng)大的算力以及專業(yè)的算法工程師，這導(dǎo)致開(kāi)發(fā)生成式人工智能媒介的成本很高，很多時(shí)候只能由實(shí)力雄厚的大型互聯(lián)網(wǎng)公司運(yùn)營(yíng)。由此，生成式人工智能媒介的研發(fā)方向、應(yīng)用途徑以及功能發(fā)揮等技術(shù)問(wèn)題并不能夠由社會(huì)大眾決定，很大程度上“來(lái)源于具有壟斷性質(zhì)的大財(cái)團(tuán)、巨頭公司，資本力量對(duì)決定技術(shù)的頂層設(shè)計(jì)、現(xiàn)實(shí)發(fā)展和使用方式具有重要作用”[15]?？梢哉f(shuō)，追求生成式人工智能媒介的潮流主要來(lái)自西方科技巨頭的逐利性動(dòng)機(jī)和競(jìng)爭(zhēng)性力量推動(dòng)。就此而言，生成式人工智能媒介盡管推動(dòng)了信息提取和信息處理的革命式轉(zhuǎn)變，但其內(nèi)在仍是服務(wù)于背后的大資本目的。事實(shí)上，受資本擴(kuò)張邏輯的驅(qū)使，ChatGPT 在向全球推廣應(yīng)用的過(guò)程中，也在對(duì)外復(fù)制技術(shù)的“西方中心主義”控制秩序，并擴(kuò)大技術(shù)權(quán)力帶來(lái)的話語(yǔ)勢(shì)差。由此，新的對(duì)話技術(shù)不僅不會(huì)填平數(shù)字鴻溝和知識(shí)鴻溝，相反往往會(huì)強(qiáng)化原有的數(shù)字資本控制體系，使其原有的價(jià)值流動(dòng)隱匿于對(duì)話式的表達(dá)中，并延伸到公眾的日常生活和自我意識(shí)，形成生成式話語(yǔ)霸權(quán)。同時(shí)，資本控制下的生成式人工智能媒介具有廣闊的社會(huì)生活應(yīng)用前景，如就業(yè)、教育、醫(yī)療、體育、媒體行業(yè)等，這些領(lǐng)域會(huì)形成與之相配套的日常應(yīng)用場(chǎng)景，勢(shì)必會(huì)全面加深民眾對(duì)這類技術(shù)的依附性。按照意識(shí)形態(tài)的日常生活化邏輯，當(dāng)資本借助新技術(shù)侵蝕到公眾的日常表達(dá)場(chǎng)域，必然會(huì)試圖影響網(wǎng)絡(luò)輿論話語(yǔ)權(quán)、染指群體價(jià)值觀塑造、左右社會(huì)思潮。事實(shí)上，媒介技術(shù)控制從來(lái)都是資本爭(zhēng)奪意識(shí)形態(tài)話語(yǔ)權(quán)的重要手段。在生成式人工智能媒介建構(gòu)的話語(yǔ)場(chǎng)中，資本的意識(shí)形態(tài)滲透將變得無(wú)孔不入且匿影藏形，在社會(huì)基礎(chǔ)層面挑戰(zhàn)既有的國(guó)家意識(shí)形態(tài)話語(yǔ)權(quán)格局，威脅主流意識(shí)形態(tài)安全。

三、從野蠻生長(zhǎng)到規(guī)范發(fā)展：生成式人工智能媒介意識(shí)形態(tài)風(fēng)險(xiǎn)的防范路徑

生成式人工智能媒介的崛起，是當(dāng)下人工智能在傳播領(lǐng)域發(fā)展最引人矚目的事件，相關(guān)應(yīng)用也進(jìn)入了野蠻生長(zhǎng)階段：25%復(fù)合年增長(zhǎng)率的市場(chǎng)增長(zhǎng)、申請(qǐng)專利數(shù)量最多的人工智能領(lǐng)域、史上用戶增長(zhǎng)最快的媒介應(yīng)用等。[16]作為一種知識(shí)新媒介，生成式人工智能媒介成為一把影響意識(shí)形態(tài)安全的“雙刃劍”，蘊(yùn)藏著“破壞”與“發(fā)展”兩種可能的向度。為積極應(yīng)對(duì)生成式人工智能媒介的野蠻生長(zhǎng)，著力防范化解意識(shí)形態(tài)風(fēng)險(xiǎn)，需要加強(qiáng)主流價(jià)值導(dǎo)向、推進(jìn)安全治理、提升受眾素養(yǎng)，作出正向引導(dǎo)和必要規(guī)制，以更好實(shí)現(xiàn)生成式人工智能媒介應(yīng)用的規(guī)范發(fā)展，更好維護(hù)智能時(shí)代國(guó)家意識(shí)形態(tài)安全。

（一）以主流價(jià)值導(dǎo)向駕馭智能應(yīng)用

從技術(shù)的唯物史觀來(lái)看，智能媒介是人類社會(huì)發(fā)展的物質(zhì)成果和文明進(jìn)步的工具，并非價(jià)值無(wú)涉，而是負(fù)載人類價(jià)值、服務(wù)人類價(jià)值并影響人類價(jià)值。[17]面對(duì)生成式人工智能技術(shù)應(yīng)用所衍生的意識(shí)形態(tài)話語(yǔ)權(quán)和價(jià)值導(dǎo)向偏移的風(fēng)險(xiǎn)挑戰(zhàn)，需要我們重視技術(shù)的價(jià)值問(wèn)題，以主流價(jià)值導(dǎo)向駕馭人工智能的應(yīng)用和發(fā)展。

一是以主流價(jià)值引領(lǐng)生成式人工智能媒介應(yīng)用，推動(dòng)其向善發(fā)展。為防范和應(yīng)對(duì)生成式人工智能媒介所帶來(lái)的意識(shí)形態(tài)安全風(fēng)險(xiǎn)，首要的是不斷加強(qiáng)對(duì)其技術(shù)應(yīng)用的價(jià)值引導(dǎo)，將主流價(jià)值原則內(nèi)嵌于數(shù)據(jù)采集、模型訓(xùn)練、對(duì)話生成全過(guò)程。一方面，推動(dòng)主流價(jià)值數(shù)據(jù)化、算法化，以符號(hào)參數(shù)、指令調(diào)試的手段嵌入到語(yǔ)言模型中，使其成為對(duì)抗數(shù)據(jù)偏見(jiàn)、算法偏見(jiàn)的內(nèi)生力量。同時(shí)，確保數(shù)據(jù)的人民性，強(qiáng)化對(duì)真正反映人民群眾心聲數(shù)據(jù)的挖掘，使其賦值于對(duì)話模型，加強(qiáng)對(duì)話生成的思想性和針對(duì)性。另一方面，督促生成式人工智能媒介產(chǎn)品開(kāi)發(fā)者能夠擴(kuò)大具有時(shí)效性、正能量訓(xùn)練數(shù)據(jù)的權(quán)重，設(shè)計(jì)契合主流價(jià)值導(dǎo)向的算法，使得現(xiàn)實(shí)性和價(jià)值性映射到對(duì)話生成中，提升對(duì)話生成技術(shù)辨識(shí)非主流意識(shí)形態(tài)信息的效度。當(dāng)然，技術(shù)產(chǎn)品為人所設(shè)計(jì)并為人所用，其本身也會(huì)受研發(fā)者和運(yùn)營(yíng)者的價(jià)值影響。因此，有必要加強(qiáng)技術(shù)研發(fā)和產(chǎn)品運(yùn)營(yíng)團(tuán)隊(duì)的主流價(jià)值引導(dǎo)，強(qiáng)化意識(shí)形態(tài)責(zé)任意識(shí)，在堅(jiān)持正確的價(jià)值導(dǎo)向下推動(dòng)生成式人工智能發(fā)展與應(yīng)用更好地服務(wù)社會(huì)。

二是總結(jié)生成式人工智能媒介話語(yǔ)生產(chǎn)規(guī)律，建構(gòu)主流意識(shí)形態(tài)話語(yǔ)權(quán)。一方面，要主動(dòng)構(gòu)建清朗干凈的智慧話語(yǔ)生態(tài)。從話語(yǔ)來(lái)源看，面對(duì)非結(jié)構(gòu)化、半結(jié)構(gòu)化數(shù)據(jù)無(wú)序衍生的現(xiàn)狀，當(dāng)前亟須推動(dòng)中文互聯(lián)網(wǎng)頁(yè)的健康發(fā)展，激發(fā)社會(huì)創(chuàng)造高質(zhì)量數(shù)據(jù)的動(dòng)力，不斷提升中文網(wǎng)絡(luò)數(shù)據(jù)的質(zhì)量。同時(shí)，要豐富大模型訓(xùn)練語(yǔ)料的來(lái)源，鼓勵(lì)各行業(yè)領(lǐng)域進(jìn)行專業(yè)優(yōu)質(zhì)內(nèi)容輸出，積累多樣的、體現(xiàn)正能量的數(shù)據(jù)，加強(qiáng)高質(zhì)量語(yǔ)料庫(kù)的建設(shè)。面對(duì)生成式人工智能媒介話語(yǔ)生產(chǎn)的無(wú)序性，需要克服語(yǔ)境轉(zhuǎn)化可能造成的交互信息變異化，深刻理解其技術(shù)創(chuàng)新與話語(yǔ)創(chuàng)新的動(dòng)態(tài)互構(gòu)，積極利用其強(qiáng)大技術(shù)功能創(chuàng)設(shè)清朗干凈的對(duì)話場(chǎng)景，以主流意識(shí)形態(tài)話語(yǔ)體系引領(lǐng)智慧話語(yǔ)生態(tài)建構(gòu)。另一方面，要積極塑造生動(dòng)健康的話語(yǔ)交往關(guān)系?？紤]到生成式人工智能的主流意識(shí)形態(tài)話語(yǔ)交往是以大型互動(dòng)語(yǔ)言模型為中介進(jìn)行信息傳遞與交流的，這就要求能夠以人民為中心加強(qiáng)真實(shí)的、個(gè)性化的“交往反饋”，避免對(duì)話的語(yǔ)境疏離，尋求更契合生成式智能對(duì)話場(chǎng)景特點(diǎn)的方式傳播主流價(jià)值信息，在生動(dòng)健康的話語(yǔ)交往框架下能更加有效地推動(dòng)主流意識(shí)形態(tài)的話語(yǔ)傳播。

（二）以安全治理應(yīng)對(duì)系統(tǒng)威脅

面對(duì)生成式人工智能媒介嵌入意識(shí)形態(tài)領(lǐng)域所生成的系統(tǒng)性風(fēng)險(xiǎn)挑戰(zhàn)，僅靠技術(shù)本身或價(jià)值引導(dǎo)難以長(zhǎng)效應(yīng)對(duì)，綜合性的國(guó)家安全治理“入場(chǎng)”成為必要。也就是說(shuō)，在生成式人工智能媒介應(yīng)用和發(fā)展的過(guò)程中，應(yīng)加強(qiáng)安全治理體系與治理能力現(xiàn)代化建設(shè)。

一是堅(jiān)持總體國(guó)家安全觀，推動(dòng)生成式人工智能安全治理制度化。安全觀是安全治理的靈魂，指引并塑造著人們安全行動(dòng)的理性自覺(jué)?？傮w國(guó)家安全觀是一個(gè)辯證、科學(xué)的指導(dǎo)國(guó)家文化安全的理論體系[18]，是新時(shí)代國(guó)家安全工作最直接的行動(dòng)指南，在應(yīng)用和發(fā)展生成式人工智能媒介過(guò)程中，我們需要始終以之為指引，加強(qiáng)意識(shí)形態(tài)安全風(fēng)險(xiǎn)意識(shí)與研判，嚴(yán)守國(guó)家安全底線。制度是確保安全觀念轉(zhuǎn)化為意識(shí)形態(tài)安全治理效能的根本保障，這就需要加強(qiáng)研判智能技術(shù)風(fēng)險(xiǎn)的根源和特征，及時(shí)出臺(tái)支持智能媒介技術(shù)發(fā)展和引導(dǎo)智能媒介在不同領(lǐng)域、不同場(chǎng)景應(yīng)用的指導(dǎo)文件，進(jìn)一步劃定技術(shù)適用范圍和職責(zé)權(quán)限。同時(shí)，建立健全算法分級(jí)分類安全管理制度，圍繞內(nèi)容類別、用戶規(guī)模、技術(shù)處理等標(biāo)準(zhǔn)，對(duì)語(yǔ)言大模型進(jìn)行分級(jí)分類管理，對(duì)涉及國(guó)家安全的算法模型備案審查，推動(dòng)相關(guān)法律法規(guī)的完善與發(fā)展?？傊?，推動(dòng)生成式人工智能媒介安全治理制度化意味著國(guó)家通過(guò)制度規(guī)范生成式人工智能，使其實(shí)踐應(yīng)用中顯示透明性和可監(jiān)督性，增進(jìn)人類用戶的理解和信任，從而確保人工智能媒介應(yīng)用能夠負(fù)責(zé)任地為人類服務(wù)。

二是堅(jiān)持現(xiàn)代化導(dǎo)向，著力提升生成式人工智能媒介安全治理能力。隨著生成式人工智能媒介的社會(huì)普及且不斷發(fā)展，其所帶來(lái)的意識(shí)形態(tài)風(fēng)險(xiǎn)愈加復(fù)雜而深刻，需要不斷加強(qiáng)防范與應(yīng)對(duì)，推進(jìn)安全治理能力現(xiàn)代化。一方面，堅(jiān)持責(zé)任原則，推進(jìn)一元主導(dǎo)與多元參與的共治格局。從宏觀上看，由于以ChatGPT 為代表的生成式人工智能媒介技術(shù)發(fā)展和社會(huì)應(yīng)用的生態(tài)系統(tǒng)性，需要國(guó)家發(fā)揮主導(dǎo)性力量，既要將人工智能媒介應(yīng)用和發(fā)展納入高階治理議程，又要推進(jìn)相關(guān)公共政策產(chǎn)品的供給，發(fā)揮政策規(guī)范、支持和導(dǎo)向功能，形成智能技術(shù)創(chuàng)新應(yīng)用的良好生態(tài)，協(xié)調(diào)推進(jìn)人工智能技術(shù)健康有序發(fā)展。同時(shí)，尊重多元化力量，構(gòu)建涵蓋行業(yè)協(xié)會(huì)、數(shù)字平臺(tái)、第三方機(jī)構(gòu)、網(wǎng)絡(luò)用戶在內(nèi)的社會(huì)共治框架。特別是應(yīng)強(qiáng)化數(shù)字平臺(tái)的安全主體責(zé)任意識(shí)，督促平臺(tái)在推廣生成式人工智能應(yīng)用中加強(qiáng)信息安全管理，定期審核算法模型，建立安全評(píng)估機(jī)制，構(gòu)建識(shí)別不良訓(xùn)練數(shù)據(jù)的特征庫(kù)，主動(dòng)剔除違法信息、有毒數(shù)據(jù)，防止出現(xiàn)算法屏蔽信息、編造虛假信息、控制操縱信息等信息干預(yù)亂象。另一方面，立足生成式人工智能媒介的技術(shù)特性，不斷豐富更加規(guī)范且彈性化的治理方式。由于生成式人工智能技術(shù)具有較高的知識(shí)壁壘且常被平臺(tái)公司刻意隱藏在公眾視線之外，再加上其本身還處于不穩(wěn)定的迭代演化狀態(tài)，實(shí)踐中對(duì)其治理不宜采用過(guò)于僵硬的、靜態(tài)化監(jiān)管，而更應(yīng)該選擇更具規(guī)范性/功能性的彈性方法。具體來(lái)說(shuō)，就是要密切追蹤生成式人工智能的迭代發(fā)展與社會(huì)滲透，及時(shí)完善相關(guān)技術(shù)應(yīng)用標(biāo)準(zhǔn)和針對(duì)內(nèi)容虛假、信息偏差、輿論風(fēng)險(xiǎn)等不良行為的基本規(guī)范，在劃清媒介技術(shù)應(yīng)用法制底線和安全紅線基礎(chǔ)上，綜合應(yīng)用技術(shù)、行政及市場(chǎng)等治理手段，動(dòng)態(tài)防范和應(yīng)對(duì)其在內(nèi)容生成上的意識(shí)形態(tài)風(fēng)險(xiǎn)。

（三）以用戶媒介素養(yǎng)防范模型反訓(xùn)

在生成式人工智能媒介建構(gòu)的話語(yǔ)場(chǎng)景中，用戶始終是意識(shí)形態(tài)風(fēng)險(xiǎn)主要作用對(duì)象和能動(dòng)主體。這意味著不僅生成式人工智能媒介能在話語(yǔ)互動(dòng)過(guò)程中塑造用戶的心智模式，而用戶對(duì)話的數(shù)據(jù)輸入也能作為智能技術(shù)的訓(xùn)練原料反過(guò)來(lái)形成智能傳播的反訓(xùn)。因而，持續(xù)的用戶媒介素養(yǎng)提升，無(wú)疑能夠有助于優(yōu)化智能對(duì)話的信息環(huán)境和話語(yǔ)生態(tài)。

一是增強(qiáng)用戶的數(shù)據(jù)意識(shí)和媒介素養(yǎng)，以筑牢意識(shí)形態(tài)安全防線。用戶廣泛參與到生成式人工智能媒介治理之中，會(huì)形成抵御各種意識(shí)形態(tài)威脅、維護(hù)意識(shí)形態(tài)安全的最強(qiáng)大防線，但其前提是用戶須具備足夠的素養(yǎng)和能力來(lái)發(fā)揮相應(yīng)的作用。首先，要提升用戶的數(shù)據(jù)認(rèn)知，理解智能算法、語(yǔ)言模型的運(yùn)行邏輯，理性接受生成式人工智能提供的信息和觀點(diǎn)，對(duì)信息交互保持審慎的態(tài)度。理想情況下，用戶應(yīng)能夠辯證地看待生成式人工智能媒介并不是完全排斥技術(shù)潮流、抵制智能技術(shù)的融入，而是要以批判的思維審視新的智能工具，并且警惕對(duì)話生成型智能媒介的西方意識(shí)形態(tài)滲透風(fēng)險(xiǎn)。其次，要在智能交互過(guò)程中提升自身的數(shù)據(jù)表達(dá)素養(yǎng)。公眾在人機(jī)交互中應(yīng)強(qiáng)化自身的主體意識(shí)，提高對(duì)數(shù)據(jù)的汲取、處理、利用、轉(zhuǎn)化的能力，避免用戶主體的思維意識(shí)完全依附于智能媒介。通過(guò)與生成式人工智能媒介進(jìn)行充分的對(duì)話，在持續(xù)的實(shí)踐中逐漸形成符合智能時(shí)代的思想觀念和話語(yǔ)實(shí)踐。再次，要養(yǎng)成用戶善用生成式人工智能媒介的能力。國(guó)家應(yīng)積極利用廣泛的宣傳教育渠道，向全社會(huì)普及前沿智能技術(shù)知識(shí)，幫助民眾樹(shù)立正確的智能技術(shù)觀，理性接納生成式人工智能媒介帶來(lái)的改變，提升利用技術(shù)分析問(wèn)題和解決問(wèn)題的能力，以更好地應(yīng)對(duì)技術(shù)引發(fā)的工具理性的沖擊。

二是引導(dǎo)正向信息傳播和對(duì)話反饋，以消解算法意識(shí)形態(tài)偏見(jiàn)。生成式人工智能媒介能夠利用真實(shí)的用戶主體的信息輸入和反饋進(jìn)行模型正循環(huán)。作為能動(dòng)的人，任何意識(shí)形態(tài)的目標(biāo)只有借助人的主體功能才能達(dá)到。[19]364也就是說(shuō)，用戶并不是天然的被技術(shù)所規(guī)訓(xùn)的客體，而是能成為利用對(duì)話交互機(jī)制馴化技術(shù)的主體。一方面，從技術(shù)本質(zhì)的最直接呈現(xiàn)來(lái)看，人是主體，技術(shù)是對(duì)象，意識(shí)形態(tài)風(fēng)險(xiǎn)始終通過(guò)人這個(gè)主體范疇才能形成影響。雖然生成式人工智能應(yīng)用是由工程師設(shè)計(jì)并推向公眾，但其卻是在用戶使用過(guò)程中實(shí)現(xiàn)不斷迭代發(fā)展。生成式人工智能媒介在應(yīng)用中雖然可能帶有設(shè)計(jì)者的偏見(jiàn)，但其意識(shí)形態(tài)影響的最終走向必然取決于規(guī)模用戶。防范和化解生成式人工智能媒介所涉意識(shí)形態(tài)風(fēng)險(xiǎn)，重要的是加強(qiáng)引導(dǎo)，提升用戶在智能對(duì)話場(chǎng)景中的傳播主體意識(shí)。當(dāng)用戶在智能對(duì)話過(guò)程中能夠進(jìn)行正向信息傳播，就會(huì)成為規(guī)訓(xùn)技術(shù)的重要力量并進(jìn)而能從輸入端防避生成式人工智能媒介所制造的話語(yǔ)危機(jī)和意識(shí)形態(tài)風(fēng)險(xiǎn)。另一方面，從用戶關(guān)系的社會(huì)尺度看，使用媒介技術(shù)產(chǎn)品的用戶是現(xiàn)實(shí)的人，受現(xiàn)實(shí)社會(huì)意識(shí)形態(tài)影響。實(shí)踐中，防范和化解生成式人工智能媒介所涉意識(shí)形態(tài)安全風(fēng)險(xiǎn)，需要線上/線下聯(lián)動(dòng)發(fā)揮主流意識(shí)形態(tài)的引領(lǐng)作用，培養(yǎng)用戶的價(jià)值自覺(jué)性，使其能夠在日常使用過(guò)程中自覺(jué)進(jìn)行理性有序的話語(yǔ)表達(dá)而避免惡意對(duì)話內(nèi)容的輸入。同時(shí)，利用好生成式人工智能的反饋強(qiáng)化學(xué)習(xí)機(jī)制，推動(dòng)用戶價(jià)值表達(dá)與語(yǔ)言模型價(jià)值輸出雙向賦能，確保主流意識(shí)形態(tài)表達(dá)在人機(jī)交互反饋中的主導(dǎo)性在場(chǎng)，克服語(yǔ)言模型帶有的先驗(yàn)意識(shí)形態(tài)，實(shí)現(xiàn)對(duì)人工智能媒介意識(shí)形態(tài)風(fēng)險(xiǎn)的長(zhǎng)效防范。

四、結(jié)語(yǔ)

以ChatGPT 為代表的新一代智能媒介的廣泛社會(huì)應(yīng)用，標(biāo)志著人類社會(huì)正式步入生成式人工智能傳播新時(shí)代。通過(guò)創(chuàng)設(shè)自動(dòng)化對(duì)話場(chǎng)景、生成智能化信息內(nèi)容以及延伸全新人機(jī)人互動(dòng)關(guān)系，現(xiàn)如今生成式人工智能媒介不再是單純的工具化應(yīng)用，而是越來(lái)越展現(xiàn)出強(qiáng)意識(shí)形態(tài)向度的潛能?？梢哉f(shuō)，新一代生成式人工智能正在建構(gòu)一種全新的信息傳播與社會(huì)互動(dòng)框架，其所導(dǎo)致的網(wǎng)絡(luò)生態(tài)變革和風(fēng)險(xiǎn)已經(jīng)初步顯現(xiàn)。當(dāng)下，“意識(shí)形態(tài)較量總體呈現(xiàn)‘西強(qiáng)我弱’的態(tài)勢(shì)，網(wǎng)絡(luò)空間成為國(guó)家意識(shí)形態(tài)交流交鋒交融的前沿陣地，成為威脅我國(guó)總體安全的‘最大變量’”[20]。對(duì)此，我們不僅要考察和認(rèn)識(shí)生成式人工智能的媒介應(yīng)用態(tài)勢(shì)和趨勢(shì)，更需要深入分析其附著的價(jià)值屬性和傾向、研判其隱含的意識(shí)形態(tài)問(wèn)題。黨的二十大報(bào)告部署“建設(shè)具有強(qiáng)大凝聚力和引領(lǐng)力的社會(huì)主義意識(shí)形態(tài)”工作，其中包括“加強(qiáng)全媒體傳播體系建設(shè)，塑造主流輿論新格局。健全網(wǎng)絡(luò)綜合治理體系，推動(dòng)形成良好網(wǎng)絡(luò)生態(tài)”[21]53。我們?cè)谕七M(jìn)生成式人工智能技術(shù)發(fā)展與媒介化應(yīng)用的同時(shí)，尤其需要立足國(guó)家安全的戰(zhàn)略高度，重視可能衍生的意識(shí)形態(tài)安全風(fēng)險(xiǎn)，加強(qiáng)前瞻性預(yù)防與規(guī)范化引導(dǎo)，在增益社會(huì)的同時(shí)能夠最大限度消減風(fēng)險(xiǎn)，確保生成式人工智能媒介安全、可控、向善的前提下有序健康發(fā)展，與時(shí)俱進(jìn)推動(dòng)形成良好智能網(wǎng)絡(luò)生態(tài)，長(zhǎng)效維護(hù)智能傳播時(shí)代國(guó)家意識(shí)形態(tài)安全。