◎陳 長(zhǎng)

人類社會(huì)正在進(jìn)入全面數(shù)字化時(shí)代。 新技術(shù)的發(fā)展深刻影響著各方面， 新興技術(shù)在政治領(lǐng)域的顛覆性影響尤為深遠(yuǎn)。 數(shù)據(jù)和算法結(jié)合， 實(shí)現(xiàn)對(duì)人類行為進(jìn)行的計(jì)算和預(yù)測(cè)， 算法政治通過個(gè)性化、 靶向式的思想和行為誘導(dǎo)，具有了強(qiáng)大的輿論影響和塑造能力。 借助于新技術(shù)的超級(jí)“計(jì)算” 能力， 人的“算計(jì)” 能力也在上升， 即技術(shù)影響民意， “計(jì)算” 為 “算計(jì)” 服務(wù)。 智能算法的精準(zhǔn)度使得大規(guī)模的社會(huì)控制成為可能， 制造了諸多現(xiàn)象級(jí)的事件。 2016年美國(guó)總統(tǒng)大選中體現(xiàn)的算法技術(shù)操縱是重要實(shí)踐樣本。 并且在2020 年美國(guó)大選和2024 年競(jìng)選備戰(zhàn)， 左右翼繼續(xù)深化算法技術(shù)在政治中的作用。 在其他政治事件中也發(fā)現(xiàn)有算法技術(shù)操縱輿論的痕跡， 如英國(guó)脫歐。 技術(shù)影響民意，導(dǎo)致社會(huì)共識(shí)撕裂， 更會(huì)產(chǎn)生“民粹主義” 的外溢效應(yīng)， 既是數(shù)字時(shí)代公共治理的重要內(nèi)容， 也是我國(guó)在新發(fā)展格局下面臨的重要外部挑戰(zhàn)， 對(duì)其成因的討論有助于對(duì)潛在風(fēng)險(xiǎn)進(jìn)行準(zhǔn)確研判和應(yīng)對(duì)。

一、 數(shù)字社會(huì)中民意操縱的風(fēng)險(xiǎn)和手段

公共輿論是政治學(xué)和公共管理學(xué)的重要議題， 公共管理的目標(biāo)是公共利益最大化， 公共輿論是抽象公共利益的具象化。 操縱公共輿論被認(rèn)為危害政治穩(wěn)定和公共安全， 甚至帶來“災(zāi)難性” 的“否決政治” 和政治僵局。 技術(shù)操縱民意是數(shù)字時(shí)代的公共文化和公共理性所面臨的嚴(yán)峻挑戰(zhàn)， 這種操縱會(huì)促進(jìn)社會(huì)風(fēng)險(xiǎn)的放大， 帶來的公共危機(jī)事件， 影響公共決策和公共管理績(jī)效， 帶來國(guó)家治理的難題。

1.算法與政治日益結(jié)合， 擾亂正常的輿論生態(tài)

隨著人類社會(huì)逐步向智能化進(jìn)化， 人工智能技術(shù)是當(dāng)前科技和信息革命的關(guān)鍵技術(shù)， 是新一輪科技革命的主導(dǎo)技術(shù)。 “數(shù)字社會(huì)” 正成為人類社會(huì)發(fā)展的重要階段。 在數(shù)字社會(huì)中， 數(shù)據(jù)和算法是重要決定因素， 關(guān)系著公民的信息獲取、 資源分配、政治表決和社會(huì)公平正義等。 如果數(shù)字技術(shù)和算法被操縱， 會(huì)嚴(yán)重威脅社會(huì)公平正義。 同時(shí)， 算法和政治的結(jié)合正在成為影響政治生態(tài)的重要變量。 算法的有益方面是為信息獲取和溝通帶來便利， 但是其有害方面也較為突出， 例如算法偏見、 算法操縱， 這些負(fù)面影響會(huì)影響公平正義，為治理帶來風(fēng)險(xiǎn)。 這些風(fēng)險(xiǎn)主要包括算法失靈帶來的決策失靈和系統(tǒng)紊亂， 也包括算法濫用帶來的深層安全風(fēng)險(xiǎn)和社會(huì)風(fēng)險(xiǎn)， 所以算法政治成為一個(gè)不容忽視的議題。

2.信息計(jì)算能力飛速提升， “加速” 社會(huì)動(dòng)員

“云計(jì)算”、 “量子計(jì)算” 和“5G” 等新一代技術(shù)的出現(xiàn)， 有效提升人類社會(huì)的信息處理與傳輸能力。 社會(huì)進(jìn)入一種動(dòng)員“加速” 和觀念“極化”狀態(tài)， 數(shù)據(jù)、 算法和算力正在建構(gòu)數(shù)字社會(huì)的新規(guī)則， 深刻地改變?nèi)蛘巍?經(jīng)濟(jì)和社會(huì)運(yùn)行的發(fā)展模式。 數(shù)字社會(huì)中， 社交媒體徹底顛覆了公民對(duì)政治信息的獲取方式和對(duì)特定政治議題的在線討論。社交媒體逐步成為公民日常生活不可缺少的部分，從全球范圍來看， 個(gè)體花費(fèi)在社交媒體的時(shí)間不斷增加， 并可能影響到群體的社會(huì)聯(lián)系和集體行動(dòng)。因此， 社交媒體上成為輿論宣傳的重要陣地， 各種利益相關(guān)方都將重心轉(zhuǎn)移到社交媒體， 以期掌握重要的民意塑造渠道。

3.出現(xiàn)計(jì)算宣傳新范式， 精準(zhǔn)化推送信息

借助新技術(shù)操縱民意的現(xiàn)象被學(xué)者提煉為“計(jì)算宣傳” （Computational Propaganda）。 計(jì)算宣傳是最新的宣傳范式， 以社交媒體網(wǎng)絡(luò)為載體， 通過算法進(jìn)行大數(shù)據(jù)分析， 傳播帶有特定信息， 以操縱公眾輿論為目的的新型宣傳方式。 “計(jì)算宣傳” 技術(shù)被稱為“以工業(yè)規(guī)模操縱民意”， 數(shù)字社會(huì)的智能算法的精準(zhǔn)度使得大規(guī)模的社會(huì)控制成為可能?！坝?jì)算宣傳” 通過技術(shù)劫持民意， 改變或干預(yù)政治運(yùn)行規(guī)則， 徹底變革了過去的低效率模式。 通過技術(shù)手段與大數(shù)據(jù)分析， 分析群體和個(gè)人的心理人格、 興趣愛好、 信息偏好和行為特征， 其優(yōu)勢(shì)在于克服了傳統(tǒng) “大水漫灌式” 宣傳的不精準(zhǔn)和低效率。 通過推送策略提高用戶數(shù)據(jù)和算法模型的預(yù)測(cè)力， 在精準(zhǔn)分類的基礎(chǔ)上， 將用戶分割， 用戶收到的是“千人千面” 的信息， 從而能對(duì)選民個(gè)體施加針對(duì)性的政治影響。

二、 數(shù)字化操縱政治輿論的運(yùn)行要素和影響機(jī)制

智能算法所帶來的精準(zhǔn)推送， 高效迅速地作用于人對(duì)公共事務(wù)的觀念， 使得技術(shù)手段影響民意的現(xiàn)象在程度和影響上超過歷史任何時(shí)候。 厘清計(jì)算宣傳對(duì)政治輿論的影響機(jī)制是公共治理在數(shù)字社會(huì)的重要內(nèi)容， 主要分為運(yùn)行要素和影響機(jī)制兩個(gè)重要部分。

1.運(yùn)行要素： “數(shù)據(jù)+算法+策略”

（1） 數(shù)據(jù)集： 全面化的數(shù)據(jù)搜集。 構(gòu)建數(shù)據(jù)集是指對(duì)用戶微觀行為數(shù)據(jù)進(jìn)行多維度的與搜集、 提取和挖掘（Data Mining）， 從大范圍和多渠道的數(shù)據(jù)資料中挖掘深度信息， 對(duì)可延展的數(shù)據(jù)進(jìn)行儲(chǔ)存和匹配。 在云服務(wù)器上儲(chǔ)存多樣化的數(shù)據(jù)， 數(shù)據(jù)結(jié)構(gòu)包括文本形式數(shù)據(jù)、 多媒體形式數(shù)據(jù)、 時(shí)序格式數(shù)據(jù)、 空間格式數(shù)據(jù)、 交互關(guān)系數(shù)據(jù)等。 數(shù)據(jù)來源可以是從數(shù)據(jù)公司購(gòu)買， 也可以在公共數(shù)據(jù)庫(kù)中爬取， 通過實(shí)時(shí)動(dòng)態(tài)跟蹤和自動(dòng)化爬取來挖掘目標(biāo)信息。

（2） 算法集： 場(chǎng)景化的用戶畫像。 搜集數(shù)據(jù)的目的是進(jìn)行分析和歸納， 智能化的分析模型使得用戶被置于不同的場(chǎng)景中進(jìn)行畫像， 并將這種人像標(biāo)簽編碼數(shù)字化和人格分類建模。 人物畫像主要基于心理測(cè)量學(xué)的人格模型， 通過建立理論模型， 結(jié)合機(jī)器學(xué)習(xí)反復(fù)驗(yàn)證模型有效性。 根據(jù)詳細(xì)的指標(biāo)體系對(duì)用戶的人格特診和心理結(jié)構(gòu)進(jìn)行分類（例如可通過社交媒體的點(diǎn)贊數(shù)判斷人格特質(zhì)， 可通過消費(fèi)記錄判斷性別教育性取向， 可通過社交平臺(tái)發(fā)文的情感詞判斷實(shí)時(shí)心理狀態(tài)）， 通過上千個(gè)數(shù)據(jù)點(diǎn)的采集， 為某個(gè)用戶建立完整的多層次的性格檔案， 詳細(xì)記錄其人格特質(zhì)、 興趣點(diǎn)、 日常生活軌跡、 社交圈特點(diǎn)等。 這些人格特質(zhì)的用戶檔案再與長(zhǎng)期的行為數(shù)據(jù)對(duì)比， 就可以對(duì)用戶的行為作出預(yù)測(cè)。 這些基于心理特征的算法預(yù)測(cè)模型不斷地與最新搜集的數(shù)據(jù)進(jìn)行匹配和測(cè)試， 使得模型的精準(zhǔn)度和預(yù)測(cè)力不斷提升。

（3） 策略集： 個(gè)性化的動(dòng)員過程。 在前兩個(gè)步驟的基礎(chǔ)上， 計(jì)算宣傳的最終目的是進(jìn)行個(gè)性化的動(dòng)員， 數(shù)據(jù)集與算法集能有效壓縮用戶的反饋周期。 通過推送策略提高用戶數(shù)據(jù)和算法模型的預(yù)測(cè)力， 能對(duì)選民個(gè)體施加針對(duì)性的政治影響。 這與過去的信息推送方式完全不同， 過去的信息動(dòng)員是簡(jiǎn)單分類， 所有用戶獲取的是同質(zhì)化的信息； 而計(jì)算宣傳在精準(zhǔn)分類的基礎(chǔ)上， 將用戶分割， 用戶收到的是“千人千面” 的信息。

2.影響機(jī)制： 受眾注意力的 “嵌入—分層—同步”

計(jì)算宣傳作用于輿論的機(jī)制就是利用算法技術(shù)的推薦機(jī)制、 趨勢(shì)機(jī)制和過濾機(jī)制， 在社交媒體上傳播誤導(dǎo)性政治模因或者煽動(dòng)性信息， 通過控制政治討論方向和塑造心理空間來進(jìn)行輿論操縱。 具體分為如下三個(gè)機(jī)制：

（1） 算法通過推薦機(jī)制影響受眾注意力的嵌入。 注意力嵌入作為公共輿論塑造的重要開啟階段， 指公眾對(duì)于特定的公共事務(wù)的注意力被吸引和關(guān)注的過程。 算法的推薦機(jī)制指算法在社交媒體空間為公眾營(yíng)造符合個(gè)人心理特質(zhì)和興趣點(diǎn)的擬態(tài)環(huán)境， 使“模因” 和信息能夠敏捷而精準(zhǔn)地引起公眾響應(yīng)， 使其注意力被吸引到特定議題上。

（2） 算法通過趨勢(shì)機(jī)制影響受眾注意力的分層。 注意的分層是承接階段， 指對(duì)嵌入的注意力進(jìn)行重要性和匹配度的排序， 揭示某種觀點(diǎn)的受重視程度和受眾注意力集中程度。 注意力分層強(qiáng)調(diào)算法影響輿論的聚焦強(qiáng)度。 算法的趨勢(shì)機(jī)制利用其可見性放大或者擴(kuò)散含有政治模因的話題標(biāo)簽， 引導(dǎo)討論方向， 使得某種政治模因成為趨勢(shì)話題。 這種分層機(jī)制利用算法的“可見性” （Visibility） 和“不可見性” （Invisibility）， 為己方提供優(yōu)勢(shì)。

（3） 算法通過過濾機(jī)制影響受眾注意力的同步。 注意力的同步指利用過濾機(jī)制引導(dǎo)受眾進(jìn)行有效的注意力分配投入， 通過相互依賴和同步壓力實(shí)現(xiàn)一定范圍的注意力協(xié)同。 借助社交媒體平臺(tái)和同步壓力， 使得特定的政治模因被淹沒，實(shí)現(xiàn)瓦解政治討論和屏蔽、 稀釋特定政治信息的目的。 注意力的同步是強(qiáng)化階段， 以保持注意力的持續(xù)性。

三、 數(shù)字社會(huì)中計(jì)算宣傳的風(fēng)險(xiǎn)治理

數(shù)字社會(huì)是國(guó)家利維坦和技術(shù)巨頭并存的時(shí)代， 治理數(shù)字社會(huì)中的數(shù)字技術(shù)是一個(gè)動(dòng)態(tài)變化的政策響應(yīng)過程。 伴隨社交媒體在信息生成、 傳播過程中重要性的不斷提升， 人工智能技術(shù)的廣泛應(yīng)用所引發(fā)的治理風(fēng)險(xiǎn)也隨之增加， 全球范圍內(nèi)不斷涌現(xiàn)的相關(guān)案例體現(xiàn)了推進(jìn)治理創(chuàng)新、 加強(qiáng)監(jiān)管政策緊迫性和必要性， 對(duì)其治理主要體現(xiàn)在對(duì)智能算法的風(fēng)險(xiǎn)治理上。 對(duì)于人工智能的治理已經(jīng)將“集中治理” 向“敏捷治理” 模式發(fā)展，在治理中要注意創(chuàng)新發(fā)展和規(guī)制治理同步推進(jìn)。

1.轉(zhuǎn)變監(jiān)管思路， 成立專門機(jī)構(gòu)進(jìn)行治理

人類社會(huì)已經(jīng)進(jìn)入深度數(shù)字化轉(zhuǎn)型時(shí)期， 信息技術(shù)的發(fā)展與應(yīng)用不僅在工具層面帶來了產(chǎn)業(yè)變革， 其更是推動(dòng)人類社會(huì)加速進(jìn)入數(shù)字社會(huì)形態(tài)。 社交媒體機(jī)器人等計(jì)算宣傳技術(shù)在當(dāng)前的興起與發(fā)展可被視為在此大背景下的必然結(jié)果。 與數(shù)字化變革進(jìn)程相伴隨的， 是不斷涌現(xiàn)的治理挑戰(zhàn)。 正如前文實(shí)證研究所指出， 社交媒體機(jī)器人在很短時(shí)間 （往往超出人類反應(yīng)時(shí)間） 內(nèi)的大規(guī)模涌現(xiàn)以及永不停息的信息生產(chǎn)與傳播過程， 注定了傳統(tǒng)監(jiān)管模式 （例如撤熱搜） 的局限性。 傳統(tǒng)治理機(jī)制革新與調(diào)整并不能很好應(yīng)對(duì)規(guī)模大、范圍廣、 速度快的業(yè)態(tài)新特征， 當(dāng)前有必要改變傳統(tǒng)的硬性監(jiān)管模式 （撤熱搜、 刪帖等）， 推動(dòng)社交媒體平臺(tái)數(shù)據(jù)合理、 規(guī)范開放， 在兼顧平臺(tái)商業(yè)秘密、 用戶隱私保護(hù)的同時(shí)， 調(diào)動(dòng)多方積極性實(shí)現(xiàn)協(xié)同治理。 考慮到監(jiān)管本身的專業(yè)性以及傳統(tǒng)政府變革的漸進(jìn)性， 建議成立專門部門或獨(dú)立機(jī)構(gòu)以提供技術(shù)支撐和最佳治理實(shí)踐作為參考， 使傳統(tǒng)政府部門仍然能夠在較短時(shí)間內(nèi)有效應(yīng)用監(jiān)管提升治理績(jī)效。

2.加速推進(jìn)監(jiān)管科技的研究與應(yīng)用， 適應(yīng)計(jì)算宣傳的治理挑戰(zhàn)

監(jiān)管科技的研究與應(yīng)用由此成為政府改革的必然選擇。 尤其是監(jiān)管機(jī)構(gòu)要建立與主流社交媒體平臺(tái)的常態(tài)化風(fēng)險(xiǎn)信息交流機(jī)制， 既主動(dòng)發(fā)展立足于監(jiān)管需求的監(jiān)管科技， 也推動(dòng)社交媒體平臺(tái)積極探索動(dòng)態(tài)創(chuàng)新的監(jiān)管科技。 2020 年美國(guó)大選所體現(xiàn)出的人工智能應(yīng)用的新特點(diǎn)， 表明了技術(shù)發(fā)展步伐已經(jīng)遠(yuǎn)遠(yuǎn)超過治理制度的反應(yīng)速度。社交媒體機(jī)器人的影響已經(jīng)深入到微觀層面， 甚至已經(jīng)融入了人類社會(huì)之中。 面對(duì)此種挑戰(zhàn)， 借助不斷發(fā)展的人工智能技術(shù)， 同步更新對(duì)于社交媒體機(jī)器人行為規(guī)律的總結(jié)， 進(jìn)而實(shí)現(xiàn)精準(zhǔn)識(shí)別、 有效治理， 幾乎成為監(jiān)管機(jī)構(gòu)的唯一選擇?？紤]到社交媒體平臺(tái)具有數(shù)據(jù)優(yōu)勢(shì)和技術(shù)優(yōu)勢(shì)，要求社交媒體積極探索、 發(fā)展監(jiān)管科技， 仍然是監(jiān)管機(jī)構(gòu)必須要重視的治理手段。 雖然此舉可能加重平臺(tái)負(fù)擔(dān)， 但伴隨社交媒體平臺(tái)影響力的不斷擴(kuò)大， 其公共屬性不斷增強(qiáng)， 進(jìn)一步落實(shí)平臺(tái)治理責(zé)任仍然是應(yīng)對(duì)治理需求的重要方面。

3.加強(qiáng)虛假新聞內(nèi)容治理， 把好關(guān)鍵 “入口”以盡量減少其不利影響

導(dǎo)致社會(huì)觀點(diǎn)極化的還不僅僅是智能推送算法， 人工智能技術(shù)推動(dòng)下的社交媒體機(jī)器人， 同樣可能與極化觀點(diǎn)相結(jié)合并最終影響微觀層面的個(gè)體觀點(diǎn)與行為。 鑒于此， 應(yīng)在已有規(guī)范的基礎(chǔ)上， 重點(diǎn)關(guān)注帶有強(qiáng)烈政治傾向的極端內(nèi)容的擴(kuò)散與傳播， 特別是在社交媒體機(jī)器人的推動(dòng)下而可能影響輿論走向的極端內(nèi)容， 盡早發(fā)現(xiàn)、 盡早引導(dǎo)， 以確保清朗網(wǎng)絡(luò)空間建設(shè)。 所以應(yīng)重視人工智能技術(shù)應(yīng)用可能推動(dòng)社會(huì)觀點(diǎn)極化的可能性， 重點(diǎn)關(guān)注帶有強(qiáng)烈政治傾向的極端主義內(nèi)容的擴(kuò)散與傳播， 以確保清朗網(wǎng)絡(luò)空間建設(shè)， 我們有必要進(jìn)一步加強(qiáng)社交媒體平臺(tái)的虛假新聞治理， 落實(shí)公眾人物、 網(wǎng)紅大咖的言論責(zé)任， 通過內(nèi)容源頭的治理以減少不良內(nèi)容的傳播， 進(jìn)而減少社交媒體機(jī)器人的 “放大” 效應(yīng)。 內(nèi)容治理方面， 當(dāng)前更應(yīng)該重視人工智能技術(shù)應(yīng)用帶來的新挑戰(zhàn)， 在新環(huán)境考驗(yàn)歷史經(jīng)驗(yàn)的有效性、 推進(jìn)歷史經(jīng)驗(yàn)的與時(shí)俱進(jìn)。

4.重視公民教育， 加強(qiáng)公眾認(rèn)知教育， 提高公民的算法素養(yǎng)

應(yīng)盡可能提升公眾對(duì)于計(jì)算宣傳和假新聞的認(rèn)知水平和識(shí)別能力， 以最大限度減少負(fù)面影響。 計(jì)算宣傳的最終影響者是公眾， 因此加強(qiáng)公眾認(rèn)知教育使之能夠識(shí)別輿論誘導(dǎo)行為從而主動(dòng)避免其誤導(dǎo)影響， 便成為了更為長(zhǎng)遠(yuǎn)的政策需求。 當(dāng)前普遍應(yīng)用的社交媒體機(jī)器人大都未使用特別復(fù)雜的算法模型， 從賬號(hào)注冊(cè)時(shí)間、 微博發(fā)布頻率與時(shí)間、 微博內(nèi)容的相關(guān)性等方面均可較為容易地識(shí)別出機(jī)器人賬號(hào)， 因此加強(qiáng)公眾認(rèn)知教育并不意味著每個(gè)人都應(yīng)成為計(jì)算機(jī)專家， 而是更多強(qiáng)調(diào)培養(yǎng)公眾批判意識(shí)， 提高公民的算法素養(yǎng)， 形成自主的判斷和反思， 從而最大限度減少負(fù)面影響。