【摘要】生成式人工智能在信息生產(chǎn)和傳播中的應(yīng)用促使信息秩序發(fā)生變遷，極大地便利了虛假信息的生成與傳播。文章聚焦生成式人工智能視域下虛假信息的運(yùn)行機(jī)理，主張對其實(shí)施層級化精準(zhǔn)治理，即在創(chuàng)設(shè)層注重把關(guān)，以鏈?zhǔn)奖O(jiān)測、分級管理的數(shù)據(jù)準(zhǔn)入制度，共創(chuàng)新型把關(guān)進(jìn)路，將虛假信息抑制在源頭；在撒播層注重研判，消除對話界面所置入的虛假信息落點(diǎn)，并對創(chuàng)設(shè)層中浮現(xiàn)的虛假信息進(jìn)行信息標(biāo)簽的顯性呈現(xiàn)與數(shù)字水印的隱性嵌入，將虛假信息困囚于對話界面之中，形成擴(kuò)散阻礙；在流通層注重處置，消除虛假信息的可見性，優(yōu)化算法對虛假信息的自動化決策過程，借助政府、媒體等公共力量，釋放真實(shí)透明的媒介信息，形成機(jī)動化的虛假信息遮蔽機(jī)制，強(qiáng)化信息治理效能。

【關(guān)鍵詞】生成式人工智能 虛假信息 信息治理 Sora

【中圖分類號】G206 【文獻(xiàn)標(biāo)識碼】Ａ 【文章編號】1003-6687（2024）8-075-09

【DOI】10.13786/j.cnki.cn14-1066/g2.2024.8.010

一、生成式人工智能視域下虛假信息對信息格局的深刻介入

互聯(lián)網(wǎng)是人類生成、交互和存儲信息的核心場域，媒介技術(shù)的深入發(fā)展使得線上與線下趨于融合、現(xiàn)實(shí)與虛擬交織纏繞，虛假信息在網(wǎng)絡(luò)場域中裂變生產(chǎn)、擴(kuò)散傳播。與之相應(yīng)，規(guī)制虛假信息的生產(chǎn)、傳播與消費(fèi)成為全球信息治理的重要著力點(diǎn)。

當(dāng)前，學(xué)界對虛假信息、誤導(dǎo)信息、謠言等異質(zhì)性信息的概念界定較為混雜，本文出于論述簡便性，不做復(fù)雜辨析，均使用“虛假信息”概念展開探究。虛假信息是信息的否定形式，意味著“信息完整性的斷裂”，[1]從生成式人工智能論域下進(jìn)行觀照，虛假信息包含技術(shù)性、導(dǎo)向性、建構(gòu)性三個(gè)層面的完整意義，即在技術(shù)性層面，虛假信息由數(shù)據(jù)與算法架構(gòu)而生，在組合信息真實(shí)性的過程中出現(xiàn)技術(shù)性斷裂；在導(dǎo)向性層面，虛假信息的文本意義導(dǎo)向錯(cuò)誤的現(xiàn)實(shí)與偏誤的認(rèn)知；在建構(gòu)性層面，信息與真實(shí)間建構(gòu)起錯(cuò)誤的聯(lián)系導(dǎo)致虛假性生發(fā)，錯(cuò)誤的建構(gòu)割裂了虛假信息的意義真實(shí)性。

當(dāng)生成式人工智能深嵌于智能傳播格局之中，互聯(lián)網(wǎng)信息秩序在技術(shù)促動下發(fā)生巨大轉(zhuǎn)向，對信息傳播全過程產(chǎn)生顛覆性影響，[2]對于生成式人工智能行為意義的探賾成為智能傳播時(shí)代傳播學(xué)研究的新問題。與之相應(yīng)，虛假信息的傳播面向呈現(xiàn)出新情境——虛假信息的生成傳播主體由以真實(shí)人類用戶為主導(dǎo)者轉(zhuǎn)向智能技術(shù)深度介入下的行動者，機(jī)器由媒介而升格為重要傳播者，人工信息的生產(chǎn)與分發(fā)在生成式人工智能浪潮下徹底失去支配地位。

有學(xué)者將生成式人工智能引發(fā)的虛假信息風(fēng)險(xiǎn)分為積極生成型風(fēng)險(xiǎn)、消極生成型風(fēng)險(xiǎn)和人為操縱型風(fēng)險(xiǎn)三種，認(rèn)為生成式人工智能引發(fā)虛假信息危害的因素極為復(fù)雜。[3]生成式人工智能在技術(shù)性層面會將偏見認(rèn)知與經(jīng)驗(yàn)隱入數(shù)據(jù)集和數(shù)據(jù)獎勵模型之中，具有引導(dǎo)使用者將虛假、錯(cuò)誤甚至帶有隱性價(jià)值偏向的信息視為客觀真實(shí)信息的能力。同時(shí)，生成式人工智能的高技術(shù)生產(chǎn)使得虛假信息的生成內(nèi)容、數(shù)量與傳播效率都超越了以往任何一種信息產(chǎn)播模式。不論是語言處理模型還是圖像生成模型，生成式人工智能均以語言文本、圖像、視頻等內(nèi)容為基質(zhì)創(chuàng)造新信息，任何用戶都能極其方便地參與到生成式人工智能輔助下的內(nèi)容生產(chǎn)中，在此過程中可能成為海量虛假信息的制造者與輔助者?？梢?，由生成式人工智能所生成的虛假信息已迥異于以往任何一種虛假信息形態(tài)，具有了特殊的信息形態(tài)分野。

有鑒于此，本文對生成式人工智能虛假信息作出如下界定：經(jīng)由生成式人工智能大模型生產(chǎn)的，文本真實(shí)性遭到技術(shù)性操縱并對社會公序具有危害性的信息。生成式人工智能生產(chǎn)虛假信息的速度遠(yuǎn)超法律法規(guī)與道德規(guī)范的完善速度，多元主體信息權(quán)利邊界已難以界定，信息失范行為的生發(fā)風(fēng)險(xiǎn)呈指數(shù)級增加。智能技術(shù)尤其是2024年年初出現(xiàn)的Sora，其對視覺場景的超高逼真模擬，使得虛假信息愈加難以辨別，可能比事實(shí)本身更為逼真，且更符合公眾的情感價(jià)值判斷，促逼公眾逐漸習(xí)慣沒有確定性的生存方式，解構(gòu)社會的真相共識與機(jī)制。學(xué)界目前對于生成式人工智能虛假信息問題的探討主要集中在內(nèi)容特征、風(fēng)險(xiǎn)誘因、技術(shù)邏輯、科技倫理等方面，且主要放置于生成式人工智能信息格局中進(jìn)行局部關(guān)切。盡管有的研究提出了相關(guān)措施建議，但并未將治理問題與生成傳播的現(xiàn)象聯(lián)系起來，缺乏精確化、層級化遏制生成式人工智能虛假信息的目標(biāo)導(dǎo)向，對虛假信息生產(chǎn)、傳播與接收的全過程缺乏針對性、系統(tǒng)性分析?；诖?，本文對生成式人工智能視域下虛假信息的源發(fā)與傳播的全過程進(jìn)行探賾，明晰每一階段發(fā)揮作用的行動主體與信息運(yùn)作的邏輯機(jī)理，并對生成式人工智能虛假信息的治理路徑與范式作出思考。

二、生成式人工智能視域下虛假信息的層級化運(yùn)作機(jī)理

生成式人工智能的技術(shù)革新喻示著技術(shù)物的自主性不斷增強(qiáng)，作為機(jī)器技術(shù)的生成式人工智能與人類社會的互動需要得到新的理論關(guān)切。1994年，克利夫·納斯等人結(jié)合心理學(xué)與社會學(xué)研究方法，通過實(shí)驗(yàn)證明了人對計(jì)算機(jī)的社會化反應(yīng)，提出“計(jì)算機(jī)為社會行動者”（CASA）范式，證明了人與計(jì)算機(jī)的交互本質(zhì)上是社會性的，“個(gè)體對于計(jì)算機(jī)的社會性反應(yīng)非常普遍，而且是自發(fā)的、下意識的”。[4]1996年，納斯與李維斯將CASA范式納入《媒體等同》一書中，指出媒體與現(xiàn)實(shí)生活等同，媒體會被視為現(xiàn)實(shí)生活中的人和場所，人與新媒體的互動與現(xiàn)實(shí)生活一致，是社會的、自然的，該觀點(diǎn)被總結(jié)為媒體等同理論。[5]四年后，納斯等從心理學(xué)角度繼續(xù)推進(jìn)媒體等同理論的研究，將計(jì)算機(jī)被視為社會行動者的現(xiàn)象納入無意識行為的范疇。

社會行動者概念源于社會學(xué)，意指在能動性前提下從事社會行動的人，在媒介環(huán)境學(xué)派的媒介觀與社會學(xué)的雙重影響下，媒體等同理論中的CASA范式將計(jì)算機(jī)視為社會行動者。[6]本文并不探討媒體等同理論與CASA范式的得失，而是因其在當(dāng)今仍具有“較高的理論解釋力與啟發(fā)性”，[4]故將其納入生成式人工智能同人類個(gè)體和社會的信息互動視野中。生成式人工智能在數(shù)據(jù)與算法的加持下，深度介入當(dāng)今的信息秩序與傳播格局中，并具備了與人類進(jìn)行社會性互動的可能。因此，生成式人工智能應(yīng)被視為社會行動者之一，在虛假信息的創(chuàng)設(shè)、撒播與流通的全層級中發(fā)揮主體作用。

1. 創(chuàng)設(shè)層：生成式人工智能虛假信息的產(chǎn)生

創(chuàng)設(shè)層是生成式人工智能視域下虛假信息傳播全過程的第一個(gè)層級，是虛假信息得以產(chǎn)生的基底。創(chuàng)設(shè)意為開創(chuàng)條件，對于虛假信息的產(chǎn)生機(jī)制，本文在此不使用“生成”等更具鮮明意義的詞匯，而是使用“創(chuàng)設(shè)”一詞，指虛假信息的產(chǎn)生層級，意即說明在生成式人工智能的新技術(shù)語境下，開創(chuàng)的一種虛假信息的全新生成模式和全新生產(chǎn)條件，虛假信息生成的速度與形態(tài)都在彰顯創(chuàng)設(shè)性。

媒介和人類社會的歷史進(jìn)程有著密切的關(guān)系，二者相互融合，彼此借勢。在人類的信息傳播史中，存在著多種創(chuàng)設(shè)媒介，促成了人類信息傳播的革命性跨越?？谡Z媒介開創(chuàng)了人際傳播的新格局，文字媒介使傳播得以在時(shí)間性中無限延展，互聯(lián)網(wǎng)媒介使得信息傳播的損耗度大幅降低，而信息文本的存儲容量與傳播外延卻大幅增加，創(chuàng)設(shè)了網(wǎng)絡(luò)傳播的新時(shí)代。平臺型媒介的出現(xiàn)使信息內(nèi)容生產(chǎn)實(shí)現(xiàn)了從以專業(yè)生產(chǎn)（PGC）為主到用戶生產(chǎn)（UGC）為主的革命性轉(zhuǎn)變。隨著生成式人工智能的演進(jìn)，人工智能在信息傳播中對人類完成全過程替代，創(chuàng)設(shè)出以新智能媒介為基礎(chǔ)的智能傳播格局，帶來文本、圖像、音視頻等內(nèi)容生成的信息革命，將信息生產(chǎn)轉(zhuǎn)向人工智能內(nèi)容生成（AIGC）的全新秩序。

創(chuàng)設(shè)層中的社會行動者包括用戶以及在CASA范式下具備主體性和社會性的生成式人工智能。生成式人工智能可以分解為多個(gè)行動要素，即通用大模型與數(shù)據(jù)界面，二者和用戶共同構(gòu)成創(chuàng)設(shè)層的社會行動者。通用大模型是生成式人工智能信息生產(chǎn)的“心臟”。目前，多數(shù)生成式人工智能采用大規(guī)模生成式預(yù)訓(xùn)練語言模型（Generative Language Model，GLM）作為生成邏輯。作為一種自然語言處理技術(shù)，大規(guī)模生成式預(yù)訓(xùn)練語言模型能夠通過大規(guī)模的文本數(shù)據(jù)進(jìn)行自監(jiān)督學(xué)習(xí)，使模型學(xué)習(xí)到語言的潛在結(jié)構(gòu)、語法規(guī)則和語義關(guān)系，將語言由靜態(tài)表示升格為上下文感知的動態(tài)表示，使自身具備情景化生成能力，即能夠根據(jù)上下文提示生成信息。通用大模型的塑造通常需要經(jīng)過三個(gè)階段：第一階段是大模型訓(xùn)練，使大模型學(xué)習(xí)人類的語料文本，使其中的數(shù)據(jù)蘊(yùn)含參數(shù)化、概率化；第二階段是指令學(xué)習(xí)，使大模型具備完成任務(wù)的能力，能夠根據(jù)指示進(jìn)行信息的運(yùn)算輸出；第三階段是價(jià)值觀念的習(xí)得，養(yǎng)成價(jià)值判斷與價(jià)值對齊的能力。生成式人工智能需要通過通用大模型才能生成信息，因此大模型在虛假信息創(chuàng)設(shè)層中處于核心的行動者位置，其能夠?qū)⒃磾?shù)據(jù)進(jìn)行情景化生成，通過自身內(nèi)置的深度學(xué)習(xí)能力，在某種價(jià)值判斷取向下賦予信息虛假性。即使源數(shù)據(jù)并非虛假數(shù)據(jù)，但通用大模型本身并不具備辨別能力，因此可能會在數(shù)據(jù)文本嫁接拼合的過程中將真實(shí)信息糅合并消解本身的整體真實(shí)意義；創(chuàng)設(shè)層中所提取的數(shù)據(jù)多有時(shí)間限制，可能導(dǎo)致生成式人工智能的內(nèi)容生產(chǎn)無法與人類語料同步更新，由此導(dǎo)致信息嚴(yán)謹(jǐn)性缺失，[7]損害文本的真實(shí)性。

由上文可知，在信息生產(chǎn)方面，生成式人工智能主要以自然語言處理為核心機(jī)制，以轉(zhuǎn)換器為通用模塊/接口，將外界數(shù)據(jù)吸收至模型中不斷訓(xùn)練，以此進(jìn)行深度學(xué)習(xí)，進(jìn)而具備輸出信息的能力。而全新的視頻生成模型Sora更是在轉(zhuǎn)換器架構(gòu)的基礎(chǔ)上升維為具備多維度采樣能力的擴(kuò)散轉(zhuǎn)換器，使其能夠依托數(shù)據(jù)與算法生成長時(shí)間且高逼真的視覺影像。生成式人工智能信息生產(chǎn)的原始材料是網(wǎng)絡(luò)空間存有的各類數(shù)據(jù)，通用大模型創(chuàng)設(shè)作用的發(fā)揮需要依靠這些源數(shù)據(jù)，而源數(shù)據(jù)的提供者則是活躍于網(wǎng)絡(luò)空間的各類用戶與群體，他們創(chuàng)造或上傳的信息內(nèi)容都有可能被納入生成式人工智能的訓(xùn)練體系。這些用以訓(xùn)練的數(shù)據(jù)并非以碎片化、零散化的形式置入訓(xùn)練結(jié)構(gòu)之中，而是以界面的形式實(shí)施整體化置入與學(xué)習(xí)。在傳播學(xué)意義上，界面是內(nèi)容得以呈現(xiàn)的平面，始終貫穿于傳播過程和主體的傳播實(shí)踐之中。[8]界面是一個(gè)技術(shù)、社會與文化過程高度相關(guān)的交匯處，創(chuàng)造出行動主體與環(huán)境之間的一種特殊的參與方式。[9]界面既存有外在物理時(shí)空，又存有內(nèi)在意義時(shí)空，能夠通過創(chuàng)建場景實(shí)現(xiàn)主客體間的深度交互。[10]

從這個(gè)意義上來說，生成式人工智能內(nèi)置的語言模型與外界海量的數(shù)據(jù)間存在一種數(shù)據(jù)界面。通用大模型的信息生成有賴于各種分散于網(wǎng)絡(luò)空間的數(shù)據(jù)對模型本身施加的單向傳播，即將自身所蘊(yùn)含的參數(shù)、文本與知識結(jié)構(gòu)單向“飼喂”于模型內(nèi)供其學(xué)習(xí)感知。在此過程中，分散的數(shù)據(jù)會首先被后臺技術(shù)整合創(chuàng)設(shè)為一個(gè)統(tǒng)一的數(shù)據(jù)界面，再傳導(dǎo)至大模型中進(jìn)行信息生成。這是因?yàn)榇竽Ｐ偷男畔⑸尚枰{(diào)動后臺內(nèi)置的海量數(shù)據(jù)，需要共時(shí)性而非歷時(shí)性地?cái)X取數(shù)據(jù)進(jìn)行感知輸出，對數(shù)據(jù)界面上的各種數(shù)據(jù)進(jìn)行編碼，按照自身技術(shù)邏輯生成信息內(nèi)容。質(zhì)言之，數(shù)據(jù)界面就是對分布于網(wǎng)絡(luò)場域內(nèi)的各種蘊(yùn)含社會認(rèn)知與文化意義的數(shù)據(jù)集進(jìn)行整合的場景，為通用大模型與外界數(shù)據(jù)環(huán)境構(gòu)建了便捷交互的橋梁。在此過程中，如果通用大模型在數(shù)據(jù)界面中“吞咽”了虛假數(shù)據(jù)，或者被具有擾亂社會信息真實(shí)目的的用戶或訓(xùn)練人員在數(shù)據(jù)界面以虛假數(shù)據(jù)“喂養(yǎng)”，就會在自身技術(shù)邏輯和價(jià)值觀念的推導(dǎo)下生成虛假信息，阻滯真實(shí)信息的傳遞。

由此可見，創(chuàng)設(shè)層中的社會行動者（通用大模型、數(shù)據(jù)界面與用戶）會通過虛假數(shù)據(jù)界面置入、錯(cuò)誤技術(shù)邏輯轉(zhuǎn)譯、真實(shí)信息虛假編碼等方式生成虛假信息，以生成式人工智能為代表的一系列通用人工智能技術(shù)（AGI），如PaLM-E等具身多模態(tài)語言模型和Sora等視頻生成模型，使創(chuàng)設(shè)虛假信息生產(chǎn)全面AGI化，將信息秩序帶入全新的智能治理圖景中。

2. 撒播層：生成式人工智能虛假信息的顯現(xiàn)

當(dāng)前，學(xué)界對生成式人工智能的信息生成機(jī)制的分析通?；凇皵?shù)據(jù)收集—信息制造—內(nèi)容傳播”的邏輯，即強(qiáng)調(diào)“創(chuàng)設(shè)—流通”的順承關(guān)系。然而，這種看法忽視了邏輯的中介性，也就是在創(chuàng)設(shè)層與流通層之間存有一個(gè)信息轉(zhuǎn)換的重要樞紐，即生成式人工智能對用戶主體的信息撒播。

彼得斯在《對空言說：傳播的觀念史》中提出的兩種傳播模式成為理解生成式人工智能視域下虛假信息撒播層機(jī)理的重要方式。第一種是交流傳播模式，以交流為媒介進(jìn)行雙向交互傳播，交流主體以對話的形式抵達(dá)靈魂的交融與真理的同一。第二種是撒播傳播模式，該模式不區(qū)分傳播對象，也不在乎傳播對象是否能夠成功理解傳播內(nèi)容，而追求通過單向度的傳播使受眾聆聽和領(lǐng)悟“圣言”，是一種單向的、不平等的媒介傳播。[11]

在生成式人工智能使用中，人們往往會忽視撒播的存在，這主要是因?yàn)樯墒饺斯ぶ悄苷Z境下的人機(jī)互動具有一定的迷惑性。人機(jī)互動的過程看似用戶在通過對話界面與生成式人工智能進(jìn)行平等對話，踐行交流傳播模式。但實(shí)際上，生成式人工智能對創(chuàng)設(shè)層所生成信息的傳播是撒播的，用戶所得到的回復(fù)不過是生成式人工智能對此前眾多相同或相似問題進(jìn)行運(yùn)算所得出的“經(jīng)驗(yàn)”，[2]用戶所期望的同聲相應(yīng)的人機(jī)交流亦不可能在生成式人工智能的技術(shù)邏輯下實(shí)現(xiàn)。生成式人工智能依然占據(jù)著人機(jī)互動的高位，看似讓渡了交流的權(quán)利，其實(shí)仍隱蔽地向用戶主體施加著技術(shù)權(quán)威，粗暴地通過撒播的方式回應(yīng)用戶的話語或指令，通過麻痹用戶來實(shí)現(xiàn)創(chuàng)設(shè)層信息的撒播與注入。

在撒播層的連接過程中，主要的社會行動者是對話界面與用戶間的二元關(guān)系，虛假信息可通過對話界面進(jìn)入眾多用戶的認(rèn)知結(jié)構(gòu)中。列夫·馬諾維奇認(rèn)為，人與機(jī)器之間的界面是一種“發(fā)展出自身組織信息、向用戶展示信息、將空間和時(shí)間聯(lián)系起來、在獲取信息的過程中構(gòu)建人類經(jīng)驗(yàn)的獨(dú)特方式”。[12]當(dāng)通用大模型運(yùn)用數(shù)據(jù)界面的數(shù)據(jù)生成信息后，即會通過對話界面向用戶呈現(xiàn)所生成的信息。在用戶的視角下，與生成式人工智能進(jìn)行互動的對話界面能夠“通過模擬現(xiàn)實(shí)交往、實(shí)時(shí)生成的方式，從系統(tǒng)中任意調(diào)取出千變?nèi)f化的‘現(xiàn)實(shí)圖景’和‘虛擬圖景’，直接接入人們的觀念世界”，[10]但實(shí)質(zhì)上，對話界面只是媒介，交流式傳播只是表象，本質(zhì)仍是通用大模型通過數(shù)據(jù)界面習(xí)得的價(jià)值觀念與用戶的認(rèn)知結(jié)構(gòu)發(fā)生作用并進(jìn)行撒播。與之相應(yīng)，用戶也可將對話界面中用戶的指令性內(nèi)容進(jìn)行解碼與轉(zhuǎn)譯并傳導(dǎo)至通用大模型，大模型即會調(diào)用數(shù)據(jù)界面來生成信息文本并再次經(jīng)過轉(zhuǎn)譯后置入對話界面，實(shí)現(xiàn)同用戶的信息交互。

由此可見，生成式人工智能的撒播層具有超越性，超越了彼得斯的撒播范式。彼得斯認(rèn)為，傳播者如果完全不考慮受眾的差別而進(jìn)行單向的撒播，對用戶如何解碼以及其交流期望能否得到滿足并不在意，則很難達(dá)到良好的傳播效果。然而，生成式人工智能的撒播卻以用戶的主動提問為前提，以交流的表象為紐帶，通過對話界面進(jìn)行信息輸出。用戶的主動提問或指令發(fā)出意味著自身認(rèn)知結(jié)構(gòu)與價(jià)值立場的預(yù)設(shè)，向生成式人工智能求取信息的行為本身即帶有服從于技術(shù)權(quán)威的潛在偏向，對生成式人工智能置于對話界面的信息的接受程度將大幅提高。從這個(gè)意義上看，生成式人工智能的信息撒播不再是單向的“圣言傳遞”，而是變成某種反饋機(jī)制——用戶主動伸出求取撒播的“橄欖枝”，生成式人工智能的撒播因而具有了針對性，即使不考慮用戶的解碼效果，也能夠通過交流紐帶與界面?zhèn)鬟f實(shí)現(xiàn)傳播效果。可以說，生成式人工智能的信息撒播是一種“超越撒播的撒播”。

更進(jìn)一步來說，用戶的指令性內(nèi)容可能是虛假的，或直截了當(dāng)在對話界面要求生成式人工智能生成某種虛假信息，生成式人工智能撒播的傳播效果即具備了某種必然性。當(dāng)生成式人工智能將對話界面的指令置入大模型，轉(zhuǎn)譯后的信息內(nèi)容仍是虛假的，而用戶或許會欣然接受。以Sora為例，其根據(jù)用戶的指令文本生成的視覺影像已具備超擬真度，經(jīng)過用戶話語引導(dǎo)所生成的場景，可能會被用于虛假新聞制作、負(fù)性情感煽動等偏頗行動。用戶于對話界面所放置的指令性內(nèi)容也可能具有真實(shí)性，但生成式人工智能根據(jù)傳受雙方指令所置入的信息具有極大的不確定性，存在錯(cuò)誤解讀用戶指令、錯(cuò)誤擷取數(shù)據(jù)文本的可能，大模型可能會在數(shù)據(jù)界面提取到虛假數(shù)據(jù)進(jìn)行嫁接，或由于自身技術(shù)邏輯的運(yùn)作偏誤而產(chǎn)出虛假信息，從而稀釋對話界面的信息真實(shí)性。

由于生成式人工智能在創(chuàng)設(shè)層具有內(nèi)置的語言訓(xùn)練模型，導(dǎo)致其因自身技術(shù)邏9uyYA8eByvXmFPeY8QBeK6HktcHCHoTYPqicZ/rGfds=輯的框限，只能根據(jù)大規(guī)模接收到的數(shù)據(jù)價(jià)值取向與認(rèn)知偏好在對話界面置入用以撒播的信息。因此，當(dāng)具有非正當(dāng)目的的用戶在對話界面持續(xù)密集地發(fā)出虛假指令或置入虛假語料時(shí)，生成式人工智能就可能在自身無法判斷前臺指令和語料合理性的前提下將生成的虛假信息呈現(xiàn)于對話界面，并根據(jù)技術(shù)邏輯的慣性將類似的虛假信息撒播至與其他用戶的對話界面之中。從這個(gè)意義上說，生成式人工智能可能被用于深度偽造，根據(jù)用戶在對話界面頻繁發(fā)出的指令，持續(xù)優(yōu)化自身所生成的文本、圖像、視頻等內(nèi)容，以用戶指令為導(dǎo)向不斷增加信息的虛假意義。深度偽造的內(nèi)容將在更大程度上消解新聞的真實(shí)性，在對話界面指令的不斷規(guī)訓(xùn)中將這些刻意輸送的用戶對話內(nèi)容當(dāng)作人類的真實(shí)反饋，由對話界面滲入創(chuàng)設(shè)層之中，甚至進(jìn)行自我調(diào)整與引導(dǎo)。自此，越來越多的深度偽造信息將不斷被置入對話界面，以撒播態(tài)勢供用戶攝取，在更大維度內(nèi)隱匿信息的真實(shí)性。

在撒播的過程中，部分用戶或能辨別出對話界面中信息的虛假性，而更多的用戶可能賦予虛假信息想象的真實(shí)，從而接受虛假信息的撒播，為虛假信息的流通創(chuàng)造條件。同時(shí)，具備不良意圖的用戶也會以此方式攫取撒播層中的虛假信息，并試圖將其置入公共空間的信息管道中進(jìn)行流通，對話界面和用戶在撒播層共同構(gòu)成傳播虛假信息的協(xié)作式社會行動者。

3. 流通層：生成式人工智能虛假信息的傳播

虛假信息經(jīng)過撒播層后進(jìn)入流通層，并在流通層滲入社會傳播機(jī)理之中。大范圍的信息撒播使虛假信息必然會流通于信息管道，通過平臺與算法的運(yùn)作進(jìn)一步呈現(xiàn)在網(wǎng)絡(luò)公共空間，導(dǎo)致信息秩序的失衡。

流通層的社會行動者是多元而復(fù)雜的，包括人類行動者與非人類行動者。撒播層中的部分虛假信息進(jìn)入流通層，會被人類行動者傳播。首先表現(xiàn)為人際傳播與較為松散的群體傳播。個(gè)體用戶在無法辨別信息真?zhèn)螘r(shí)，會無意將虛假信息傳播給其他個(gè)體用戶，或者在網(wǎng)絡(luò)社交媒體、線下群聚活動中，對其他個(gè)體進(jìn)行較為松散的虛假信息傳播。其他個(gè)體接收到虛假信息時(shí)，可能會因其缺乏判斷力、信息契應(yīng)自身情感屬性等，向更多的個(gè)體和更大的群體傳播虛假信息，實(shí)現(xiàn)虛假信息在網(wǎng)絡(luò)公共空間的擴(kuò)散。部分社會組織與機(jī)構(gòu)出于營銷等目的，亦會參與生成式人工智能視域下的虛假信息傳播。這些虛假信息將深刻影響信息秩序的真實(shí)性意義，混淆人們對世界圖景的真實(shí)認(rèn)知。

生成式人工智能虛假信息的傳播主體，還包括CASA范式下的其他非人類的社會行動者。有學(xué)者從傳染病學(xué)視角將虛假信息視為病原體，將網(wǎng)絡(luò)平臺視為有利的滋生環(huán)境，將媒介素養(yǎng)較低的受眾視為易感宿主，三者在交互作用中助推虛假信息的病毒式傳播。[13]生成式人工智能虛假信息將通過用戶的網(wǎng)絡(luò)身份流入互聯(lián)網(wǎng)平臺之中。平臺的技術(shù)賦權(quán)給予虛假信息傳播的可能性，由算法的運(yùn)作機(jī)制所生發(fā)的“信息繭房”與“回聲室”效應(yīng)會加劇用戶社群的分化與極化，使虛假信息對用戶認(rèn)知結(jié)構(gòu)深度介入的可能性大幅增加。由于用戶自身的專業(yè)知識面向有差異，對專業(yè)化信息與視像存在復(fù)雜認(rèn)知，而用戶賦權(quán)又?jǐn)D占了傳統(tǒng)媒體與學(xué)者專家的話語權(quán)，平臺媒介上公共話語的式微，為虛假信息的傳播提供了溫床。平臺使用戶得以聯(lián)結(jié)并組成圈層，使偏好性虛假信息在被算法識別之后，精準(zhǔn)推薦至特定圈層，生成式人工智能視域下的虛假信息以更符合圈層用戶情感與認(rèn)知的方式被分發(fā)投放，使虛假信息在圈層傳播中發(fā)揮更大影響，而每個(gè)圈層又同其他圈層間存在人員交疊，生成式人工智能下的虛假信息得以在平臺上突破圈層壁壘，獲得更為廣泛的傳播。

在平臺與算法的加持下，社交機(jī)器人作為重要的非人類社會行動者，對受眾的思考慣習(xí)和認(rèn)知機(jī)制施加影響，人的主體性遭遇挑戰(zhàn)并可能淪為機(jī)器與人甚至是機(jī)器與機(jī)器之間連接的工具性介質(zhì)。[14]在此意義上，生成式人工智能視域下的虛假信息或能夠憑借社交機(jī)器人進(jìn)一步放大聲量，甚至直接在撒播層與社交機(jī)器人對接，將社交機(jī)器人架構(gòu)為流通層的代言人。社交機(jī)器人則能夠通過虛假信息來干擾網(wǎng)絡(luò)話語和公共視聽，并偽裝為用戶積極參與媒介行動，以擴(kuò)散虛假信息。生成式人工智能與社交機(jī)器人的聯(lián)結(jié)，能夠以機(jī)器間性提高虛假信息在網(wǎng)絡(luò)平臺的傳播范圍與影響，營造非真實(shí)的意見氣候，動搖真實(shí)用戶的思維認(rèn)知。在非人類社會行動者發(fā)揮機(jī)器間性重構(gòu)網(wǎng)絡(luò)空間的信息秩序與網(wǎng)絡(luò)用戶的認(rèn)知圖景時(shí)，真實(shí)用戶也可能成為AGI背景下虛假信息傳播的助推手，互聯(lián)網(wǎng)的內(nèi)容真實(shí)性將被進(jìn)一步削弱。

生成式人工智能下虛假信息在流通層的深度傳播將帶來后事實(shí)世界體驗(yàn)，即用戶對于真實(shí)性的感知并不依靠某事物的客觀性，而是基于看起來或感覺起來怎么樣，[15]即便信源的可信度存疑，但重復(fù)暴露的虛假信息將使人更容易感受到信息的真實(shí)性。尤其是Sora出現(xiàn)后，接收生成式人工智能虛假信息時(shí)將會有更多的感官被置入Sora所建構(gòu)的場景中，通過情感與體驗(yàn)感的補(bǔ)償對虛假情境產(chǎn)生真實(shí)化的偏向。觀點(diǎn)與事實(shí)之間的界限趨于模糊，價(jià)值觀念與情感經(jīng)驗(yàn)在流通層內(nèi)的影響力持續(xù)增加，使權(quán)威機(jī)構(gòu)的受信任度不斷降低，虛假信息在流通層擾動信息秩序并混淆視聽的可能性進(jìn)一步增強(qiáng)。

綜上所述，生成式人工智能虛假信息的生成與傳播在信息秩序中經(jīng)歷了三個(gè)層級的運(yùn)作：在創(chuàng)設(shè)層，通用大模型與數(shù)據(jù)界面相連，潛隱生成虛假信息的可能性；在撒播層，用戶通過對話界面與創(chuàng)設(shè)層實(shí)施偏誤的互動，虛假信息的生成與撒播成為事實(shí)；在流通層，原處于撒播層的虛假信息被置入信息管道并由多元行動者擴(kuò)散至公共空間，滲入社會機(jī)理和認(rèn)知圖景之中。由人類行動者與非人類行動者所解碼傳播的虛假信息，將在互聯(lián)網(wǎng)場域中重新被吸納到數(shù)據(jù)界面以待再次創(chuàng)設(shè)，實(shí)現(xiàn)層級閉環(huán)（見圖1）。

三、生成式人工智能視域下虛假信息的層級化治理

在層級化運(yùn)作機(jī)理下，生成式人工智能視域下的虛假信息對信息秩序產(chǎn)生深刻影響，對虛假信息的治理成為全球關(guān)注的重要問題。本文不采用宏觀視野對生成式人工智能視域下虛假信息進(jìn)行整體施治，而是追求精準(zhǔn)治理、強(qiáng)效治理，即針對創(chuàng)設(shè)層、撒播層與流通層分別提出把關(guān)、研判、處置的具有側(cè)重性的治理方案，分別采取抑制、困囚、遮蔽的治理層次，使其上下聯(lián)通，彼此嵌套，實(shí)現(xiàn)覆蓋全生命周期的層級化治理。

1. 創(chuàng)設(shè)層把關(guān)：建立鏈?zhǔn)奖O(jiān)測、分級管理的數(shù)據(jù)準(zhǔn)入制度

在人機(jī)交互的過程中，用戶看似獲得了一種操控和改變界面的現(xiàn)實(shí)感，但實(shí)質(zhì)上只是一種幻覺——人機(jī)交互界面讓內(nèi)容真正的生產(chǎn)者（計(jì)算機(jī)系統(tǒng)）變得不可見，在技術(shù)編碼中以選擇的邏輯悄無聲息地替換了用戶的主觀意識。[16]對話界面所置入的信息看似由用戶的主觀性提問凝結(jié)而成，實(shí)際上卻蘊(yùn)含著創(chuàng)設(shè)層的運(yùn)行機(jī)制。作為虛假信息生成的重要層級，創(chuàng)設(shè)層中的虛假信息并沒有連接傳播渠道，未作用于任何行動者的認(rèn)知結(jié)構(gòu)或技術(shù)邏輯。因此，對創(chuàng)設(shè)層的虛假信息治理重在把關(guān)，將虛假信息扼制在搖籃中，從源頭消除撒播層中用戶產(chǎn)生幻覺的可能性。通過對進(jìn)入創(chuàng)設(shè)層的原始數(shù)據(jù)進(jìn)行規(guī)范，在數(shù)據(jù)界面扼制能夠產(chǎn)制虛假信息的語料文本，在通用大模型中削弱虛假信息技術(shù)生成邏輯的自洽性。

當(dāng)前，生成式人工智能創(chuàng)設(shè)層中所吸納的數(shù)據(jù)存在不合規(guī)性與沖突性。在信息空間，生成式人工智能可能在未告知原始數(shù)據(jù)所有者的情況下便對其持有的數(shù)據(jù)進(jìn)行采集，在數(shù)據(jù)界面所存有的部分?jǐn)?shù)據(jù)具有不合規(guī)性。當(dāng)信息空間內(nèi)其他數(shù)據(jù)所有者意識到生成式人工智能的不合規(guī)采集行為時(shí)，則可能通過IP封禁、動態(tài)密鑰、賬號封禁等反采集措施阻斷機(jī)器人自動采集，但在維護(hù)自身數(shù)據(jù)安全與權(quán)利的同時(shí)阻斷了有益數(shù)據(jù)的流通共享，數(shù)據(jù)供需間發(fā)生沖突。基于此，學(xué)界對生成式人工智能數(shù)據(jù)采集問題的探討多集中于如何抑制數(shù)據(jù)泄露、防止數(shù)據(jù)不當(dāng)使用等，傾向于對信息空間中各主體所持有的數(shù)據(jù)進(jìn)行控制，以躲避生成式人工智能的不合規(guī)采集。然而，伴隨著生成式人工智能技術(shù)的快速迭代，海量的信息與紛雜的主體使得生成式人工智能數(shù)據(jù)采集的可控性大幅降低，其通過大模型生成虛假信息的能力已難以從外部進(jìn)行管控。傳統(tǒng)的控制模式既難以維護(hù)數(shù)據(jù)安全，也無法促進(jìn)數(shù)據(jù)發(fā)展。有鑒于此，創(chuàng)設(shè)層的治理應(yīng)從數(shù)據(jù)控制的靜態(tài)視角轉(zhuǎn)向數(shù)據(jù)準(zhǔn)入的動態(tài)視角，側(cè)重于對進(jìn)入數(shù)據(jù)的把關(guān)而非對外部數(shù)據(jù)的整體治理。

生成式人工智能創(chuàng)設(shè)層的數(shù)據(jù)準(zhǔn)入制度建設(shè)的本意并非探討生成式人工智能數(shù)據(jù)訪問與使用的權(quán)責(zé)邊界，而是以原始數(shù)據(jù)轉(zhuǎn)換為虛假信息的可能性為評判標(biāo)準(zhǔn)，重點(diǎn)規(guī)制數(shù)據(jù)利用行為，在數(shù)據(jù)界面建立把關(guān)制度。當(dāng)數(shù)據(jù)進(jìn)入數(shù)據(jù)界面時(shí)，不論該數(shù)據(jù)是否侵奪數(shù)據(jù)持有者的權(quán)益，數(shù)據(jù)獲取行為已經(jīng)發(fā)生，所要強(qiáng)調(diào)的即轉(zhuǎn)變?yōu)樵摂?shù)據(jù)對內(nèi)容生成與信息秩序?qū)a(chǎn)生何種影響。因此，數(shù)據(jù)準(zhǔn)入制度應(yīng)以鏈?zhǔn)奖O(jiān)測、分級管理為主要治理點(diǎn)。

鏈?zhǔn)奖O(jiān)測旨在利用技術(shù)手段與人工手段相結(jié)合的方式對創(chuàng)設(shè)層的數(shù)據(jù)進(jìn)行監(jiān)測，對已經(jīng)置入數(shù)據(jù)界面的數(shù)據(jù)進(jìn)行實(shí)時(shí)監(jiān)測與管理。一方面，這種監(jiān)測必須設(shè)定虛假數(shù)據(jù)的技術(shù)監(jiān)測裝置，該裝置應(yīng)與公共辟謠平臺、虛假信息數(shù)據(jù)庫等信息設(shè)施連接，為技術(shù)監(jiān)測提供豐富的文本規(guī)范與監(jiān)測標(biāo)準(zhǔn)。同時(shí)，吸納學(xué)習(xí)政府開放的公共數(shù)據(jù)，將其中所蘊(yùn)含的公共價(jià)值理念與信息文本意義轉(zhuǎn)化為技術(shù)性監(jiān)測標(biāo)準(zhǔn)，強(qiáng)化技術(shù)消解虛假性的能力。另一方面，人工應(yīng)發(fā)揮糾偏與完善作用，對技術(shù)監(jiān)測裝置所生發(fā)的監(jiān)測失誤和模糊之處進(jìn)行檢查修正，提高真實(shí)數(shù)據(jù)的通過率與虛假數(shù)據(jù)的清除率，并對具有代表意義的虛假數(shù)據(jù)進(jìn)行標(biāo)記，將其通過鏈接反饋給各類打擊虛假信息的信息設(shè)施，形成虛假信息治理的有益循環(huán)。質(zhì)言之，創(chuàng)設(shè)層數(shù)據(jù)界面應(yīng)嵌入社會虛假信息治理的鏈網(wǎng)之中，與公共信息設(shè)施建立鏈?zhǔn)铰?lián)系，加強(qiáng)創(chuàng)設(shè)層的數(shù)據(jù)監(jiān)測效能。當(dāng)裝置監(jiān)測到含有虛假意義的數(shù)據(jù)時(shí)，即可在數(shù)據(jù)界面予以清除，避免其流入通用大模型中進(jìn)行生成；當(dāng)裝置發(fā)現(xiàn)通用大模型中所生成的信息違背信息真實(shí)倫理或出現(xiàn)認(rèn)知偏誤后能及時(shí)預(yù)警，由后臺技術(shù)人員進(jìn)行審查清退。

數(shù)據(jù)準(zhǔn)入制度應(yīng)采取分級管理的方式，將生成式人工智能數(shù)據(jù)界面的數(shù)據(jù)類型進(jìn)行分類，由此判斷數(shù)據(jù)的最終應(yīng)用方式。首先，對涉及用戶或其他行動者隱私的數(shù)據(jù)給予嚴(yán)格限制，不允許生成式人工智能大模型任意侵奪。隱私數(shù)據(jù)同樣具有虛假性，部分用戶及其他行動者向網(wǎng)絡(luò)上傳隱私數(shù)據(jù)時(shí)，有意上傳虛假數(shù)據(jù)以規(guī)避重要隱私數(shù)據(jù)泄露的風(fēng)險(xiǎn)，當(dāng)這類數(shù)據(jù)被生成式人工智能攫取后，不僅具備使大模型生成虛假信息的可能性，也違反了數(shù)據(jù)利用與信息生產(chǎn)的基本倫理。其次，對不涉及隱私安全的數(shù)據(jù)可實(shí)施進(jìn)一步區(qū)分。經(jīng)監(jiān)測初步認(rèn)定具有真實(shí)性的數(shù)據(jù)，可將其從數(shù)據(jù)界面?zhèn)鬟f至大模型中用以生產(chǎn)；經(jīng)監(jiān)測認(rèn)定具有虛假性的數(shù)據(jù)，則留置于數(shù)據(jù)界面，由后臺管理人員進(jìn)行定期清除。再次，對獲得政府授權(quán)運(yùn)營許可的公共數(shù)據(jù)和面向社會主動公開的數(shù)據(jù)進(jìn)行積極汲取，以公共價(jià)值的真實(shí)性稀釋大模型生成虛假信息的可能性。

2. 撒播層研判：進(jìn)行“顯隱并彰”的標(biāo)簽水印式信息困囚

在撒播層，生成式人工智能下的虛假信息已經(jīng)成型并置入對話界面，接入對話主體用戶的認(rèn)知視野，出現(xiàn)虛假信息的流通風(fēng)險(xiǎn)。因此，撒播層的虛假信息治理重在研判，旨在將虛假信息困囚于人機(jī)對話的界面之中，降低虛假信息惡性傳播的風(fēng)險(xiǎn)。撒播層的研判行為分為顯性層面與隱性層面，在顯性層面將信息進(jìn)行標(biāo)簽處理以供用戶進(jìn)行研判，在隱性層面嵌入數(shù)字水印以供監(jiān)管人員實(shí)施研判。

由于生成式人工智能背景下虛假信息的監(jiān)管困難性，學(xué)界普遍將虛假信息的辨別與處理寄希望于用戶自身媒介素養(yǎng)的提高和傳播倫理的自律恪守。但作為具有感性認(rèn)知的社會行動者，用戶自身容易在“信息繭房”中受困，在生成式人工智能所提供的虛假信息擬態(tài)環(huán)境的裹挾下自我極化。加之生成式人工智能下虛假信息意義紛繁復(fù)雜，用戶媒介教育體系建設(shè)任重道遠(yuǎn)，短期內(nèi)以提高用戶媒介素養(yǎng)的方式來對抗虛假信息或是一種幻想。相比之下，借助以標(biāo)簽的技術(shù)理性方式將虛假信息困囚于對話界面更為可行。

針對從數(shù)據(jù)界面與通用大模型中所浮現(xiàn)的信息，可通過在對話界面建立生成式人工智能語言標(biāo)簽系統(tǒng)，實(shí)施靶向治理，幫助用戶識別虛假信息。標(biāo)簽在于從顯性層面成為用戶媒介素養(yǎng)的“義肢”，用戶能夠從對話界面看到創(chuàng)設(shè)層所生成信息的標(biāo)簽，借此更為迅速準(zhǔn)確地對信息真實(shí)性作出研判。標(biāo)簽將額外的信息附加于生成式人工智能所生成的信息內(nèi)容之上，包括信息核查結(jié)果、信息意義警告兩種標(biāo)簽。對虛假信息進(jìn)行標(biāo)記能夠影響用戶的分享意圖，糾正用戶對真相的錯(cuò)誤判斷，促進(jìn)長效性的觀念改變。[17]政府與相關(guān)企業(yè)應(yīng)將符合社會公序的價(jià)值觀置入語言標(biāo)簽系統(tǒng)，并將虛假信息的判斷標(biāo)準(zhǔn)和識別技術(shù)納入其中，使其能夠?yàn)閷υ捊缑嬷械奶摷傩畔⑦M(jìn)行標(biāo)簽添加。對于違反信息真實(shí)原則的虛假信息，系統(tǒng)可添加信息標(biāo)簽以告知用戶該信息為經(jīng)核查后確認(rèn)的虛假信息；對于違背社會公共價(jià)值觀的信息，系統(tǒng)亦能以標(biāo)簽形式提醒用戶對該信息背后的意義導(dǎo)向提高判斷力。由此，用戶便可依據(jù)標(biāo)簽的提示，判斷對話界面中信息的真?zhèn)魏蛢r(jià)值導(dǎo)向。

除了在顯性層面設(shè)置標(biāo)簽提示用戶，還需在隱性層面嵌入數(shù)字水印。數(shù)字水印是一種將特殊信息嵌入數(shù)據(jù)集的技術(shù)，[18]能夠?qū)?biāo)識性內(nèi)容作為隱藏信息進(jìn)行嵌入，并與原始數(shù)字產(chǎn)品相融合。[19]數(shù)字水印具有很強(qiáng)的“印刻力”，即使某信息在流通過程中被多次加入不同的水印，每個(gè)水印也可被獨(dú)立檢測出來以反映信息流通情況。[18]數(shù)字水印具備不可見性與可證明性特點(diǎn)，在確定數(shù)字作品的歸屬方面應(yīng)用廣泛，多用于保護(hù)信息內(nèi)容的知識產(chǎn)權(quán)。[20]在生成式人工智能勃興之時(shí)，數(shù)字水印技術(shù)能夠發(fā)揮獨(dú)特的信息治理作用。

在創(chuàng)設(shè)層，進(jìn)入大模型的數(shù)據(jù)均需嵌入數(shù)字水印，用以標(biāo)識該數(shù)據(jù)的來源。當(dāng)用戶在對話界面置入話語后，大模型即可調(diào)動技術(shù)邏輯生成信息并放置于對話界面中。此時(shí)，通過拼接而成的信息內(nèi)容會具有多重?cái)?shù)字水印以顯示該信息生成的數(shù)據(jù)來源。用戶并不會看見數(shù)字水印，授權(quán)外的主體也難以修改水印信息，生成式人工智能信息中的數(shù)字水印能夠安全隱藏其中。當(dāng)某條生成式人工智能虛假信息流入網(wǎng)絡(luò)空間并造成不良影響，治理主體即可通過該條信息的數(shù)字水印實(shí)現(xiàn)責(zé)任追蹤與判定，對生成虛假數(shù)據(jù)來源的主體進(jìn)行精準(zhǔn)規(guī)制與處罰。數(shù)據(jù)水印技術(shù)不僅用于標(biāo)識創(chuàng)設(shè)層的數(shù)據(jù)，還可對用戶在對話界面投喂的文本語料進(jìn)行標(biāo)識。當(dāng)發(fā)現(xiàn)對話界面頻繁密集出現(xiàn)特定虛假信息投喂情況時(shí)，即可通過該信息的數(shù)字水印對生成式人工智能所轄的所有對話界面進(jìn)行查找，及時(shí)發(fā)現(xiàn)對話界面的虛假信息污染現(xiàn)象，將含有該數(shù)字水印的虛假信息進(jìn)行批量清除，并追責(zé)相關(guān)主體。

3. 流通層處置：建強(qiáng)算法分發(fā)與公共力量的信息遮蔽效能

生成式人工智能視域下的虛假信息若未能被困囚于撒播層，其對信息秩序的擾動便已發(fā)生，需在流通層中施以信息遮蔽的治理措施，即降低虛假信息在公共空間的可見性，以強(qiáng)化智能虛假信息治理效能。流通層中包括人類行動者與非人類行動者多元主體，應(yīng)將其充分納入治理體系，發(fā)揮不同行動者的積極效應(yīng)，服務(wù)于流通層的虛假信息遮蔽。

“被看見”是輿論展開之基礎(chǔ)，特定議題、事件或人物必須首先“被看見”，即具有在公共空間中的可見性。[21]同理，可見性亦是虛假信息得以施加惡性影響的基礎(chǔ)?！翱梢姟鳖A(yù)示著何以被看見、何以被感知，“不可見”則意味著何以被隱匿、何以被隔絕。對虛假信息治理而言，消弭其可見性的治理成本要遠(yuǎn)小于打擊其危害性的成本，在流通層隱匿虛假信息的可見性應(yīng)成為優(yōu)先考慮的治理對策。

算法等非人類社會行動者應(yīng)在控制虛假信息可見性的過程中得到充分運(yùn)用，當(dāng)撒播層的虛假信息進(jìn)入流通層時(shí)，流通層的監(jiān)測技術(shù)就應(yīng)承擔(dān)起“瞭望者”功能，對虛假信息進(jìn)行識別，并交由算法對虛假信息的分發(fā)進(jìn)行操縱，使虛假信息在社交網(wǎng)絡(luò)與互聯(lián)網(wǎng)平臺中“被看見”的可能性降低，傳播力度與傳播范圍得到削弱。算法對虛假信息的遮蔽是一個(gè)自動化決策的過程，包括排序、分類、關(guān)聯(lián)和過濾四個(gè)步驟：首先，將所識別出的虛假信息的優(yōu)先級降低，使之難以出現(xiàn)在算法分發(fā)的前端；其次，將具有相同虛假性特征的虛假信息劃為同一組別；再次，將這些虛假信息間的意義進(jìn)行關(guān)聯(lián)；最后，根據(jù)判斷標(biāo)準(zhǔn)過濾擾動信息秩序的虛假信息。通過降低信息的排名或降權(quán)來減少虛假信息進(jìn)入算法推薦系統(tǒng)的可能，生成式人工智能背景下虛假信息在網(wǎng)絡(luò)空間的可見度就會大幅降低，對信息秩序的擾動隨之消弭。若虛假信息在公共空間的可見性持續(xù)放大，流通層內(nèi)公共力量對虛假信息的直接識別與打擊則勢在必行。

政府要想在網(wǎng)絡(luò)治理中發(fā)揮主要的行動者作用，需扮演好公共服務(wù)者的角色，[22]對虛假信息在公共空間的有效治理離不開政府的擔(dān)綱。政府應(yīng)根據(jù)社會主流價(jià)值導(dǎo)向與公共安全需求，對虛假信息進(jìn)行具體化界定，以理性的判斷標(biāo)準(zhǔn)促動其他社會行動者參與到虛假信息的空間治理中，以側(cè)面遮蔽虛假信息的可見性。此外，政府亦應(yīng)積極推進(jìn)信息公開，因?yàn)樾畔⒐_的“核心價(jià)值在于主體在獲得足夠信息的基礎(chǔ)上進(jìn)行互動與對話”。[23]當(dāng)虛假信息在公共場域流通擴(kuò)散時(shí)，政府的信息公開能夠?qū)μ摷傩畔?nèi)容做出正確的文本解釋，使虛假信息不攻自破，以透明真實(shí)的信息擠占虛假信息的生存空間。

戴揚(yáng)認(rèn)為，媒體的核心不是信息而是展示，關(guān)鍵在于顯示或隱藏。[24]在顯示層面，公共媒體及時(shí)披露關(guān)于事件的真實(shí)權(quán)威的信息是虛假信息治理的首要任務(wù)。[25]對于已經(jīng)在社會面呈現(xiàn)的嚴(yán)重威脅社會秩序的虛假信息，媒體要向接觸到相關(guān)虛假信息的個(gè)體與群體推送澄清式信息，消除虛假信息對人們認(rèn)知結(jié)構(gòu)和社會真實(shí)圖景的損害，并積極進(jìn)行輿論引導(dǎo)，從事實(shí)與道理層面進(jìn)行共情傳播，增強(qiáng)真實(shí)信息的顯示面。在隱藏層面，以媒體為代表的組織化的社會行動者在接收到虛假信息時(shí)，不應(yīng)為謀求注意力資源而將虛假信息的可見性擴(kuò)大，而是在符合公共價(jià)值的基礎(chǔ)上進(jìn)行判斷，對虛假新聞報(bào)道進(jìn)行隱藏，對公共新聞中的信源進(jìn)行核查，及時(shí)隱匿虛假信息，構(gòu)建理性客觀的公共話語空間。

結(jié)語

生成式人工智能將虛假信息的生成與傳播帶入新的傳播格局，對信息秩序產(chǎn)生巨大沖擊。在層級化的視角下，生成式人工智能視域下虛假信息的運(yùn)作機(jī)理可分為創(chuàng)設(shè)層、撒播層與流通層，虛假信息在其中層層嵌套，對信息秩序的影響逐層顯現(xiàn)，阻滯著社會真實(shí)性的勃發(fā)，隱匿著公眾對社會圖景的真實(shí)認(rèn)知。有鑒于此，對生成式人工智能視域下虛假信息的治理需要實(shí)施層級化治理。在創(chuàng)設(shè)層重于把關(guān)，建立鏈?zhǔn)奖O(jiān)測、分級管理的數(shù)據(jù)準(zhǔn)入制度；在撒播層重于研判，對創(chuàng)設(shè)層中浮現(xiàn)的虛假信息進(jìn)行信息標(biāo)簽的顯性呈現(xiàn)與數(shù)字水印的隱性嵌入，將虛假信息困囚于對話界面；在流通層重于處置，發(fā)揮政府、媒體等公共力量，釋放真實(shí)透明的媒介信息，強(qiáng)化信息治理效能。

當(dāng)前，虛假信息的創(chuàng)生傳播已全面AGI化，Sora的介入又使虛假信息趨于場景化，為虛假信息的治理帶來新挑戰(zhàn)。倫理道德和法律法規(guī)如何維系智慧社會的新秩序，已經(jīng)成為社會科學(xué)又一重大難題。當(dāng)下生成式人工智能虛假信息治理更需契合時(shí)代與科技的發(fā)展，在看到技術(shù)對信息秩序負(fù)面影響的同時(shí)，關(guān)切技術(shù)向善的可能性，并謹(jǐn)慎地將其納入信息治理的格局中，探索技術(shù)促動治理效率提升的可能性。在保持技術(shù)理性的同時(shí)，更不能舍棄人本主義的追求，應(yīng)繼續(xù)發(fā)揮人的主觀能動作用，以正確的技術(shù)倫理和規(guī)范的法律規(guī)約參與到生成式人工智能視域下虛假信息治理中。

參考文獻(xiàn)：

[1] Tudjman M， Mikelic N. Information science： Science about information， misinformation and disinformation[J]. Proceedings of Informing Science+ Information Technology Education， 2003（3）： 1513-1527.

[2] 張文祥，沈天健，孫熙遙. 從失序到再序：生成式人工智能下的信息秩序變局與治理[J]. 新聞界，2023（10）：41-51.

[3] 朱嘉珺. 生成式人工智能虛假有害信息規(guī)制的挑戰(zhàn)與應(yīng)對——以ChatGPT的應(yīng)用為引[J]. 比較法研究，2023（5）：34-54.

[4] 徐琦. 超越“計(jì)算機(jī)為社會行動者”范式：智媒時(shí)代人機(jī)傳播理論創(chuàng)新的突破點(diǎn)[J]. 現(xiàn)代傳播，2023（6）：160-168.

[5] Reeves B， Nass C. The media equation： How people treat computers， television， and new media like real people[M]. London： Cambridge University Press， 1996： 10.

[6] 申琦. 服務(wù)、合作與復(fù)刻：媒體等同理論視閾下的人機(jī)交互[J]. 西北師大學(xué)報(bào)（社會科學(xué)版），2022，59（3）：106-115.

[7] 金雪濤，周也馨. 從ChatGPT火爆看智能生成內(nèi)容的風(fēng)險(xiǎn)及治理[J]. 編輯之友，2023（11）：29-35.

[8] 胡翼青，姚文苑. 重新理解媒介：論界面、內(nèi)容、物質(zhì)的三位一體[J]. 新聞與寫作，2022（8）：5-16.

[9] 朱亞希. 從移動界面出發(fā)理解傳播：論新媒介時(shí)代移動界面?zhèn)鞑サ娜貙傩訹J]. 新聞界，2020（9）：26-34.

[10] 胡翼青，王沐之. 發(fā)現(xiàn)界面：審視媒介的新路徑[J]. 湖南師范大學(xué)社會科學(xué)學(xué)報(bào)，2022（6）：116-124.

[11] Deng J. Translation as A Problem of Communication： Some Reflections on Translating Speaking into the Air[J]. Media Theory， 2022， 5（2）： 55-72.

[12] 列夫·馬諾維奇. 新媒體的語言[M]. 車琳，譯. 貴陽：貴州人民出版社，2020：73.

[13] Rubin V L. Disinformation and misinformation triangle： A conceptual model for fake news： epidemic， causal factors and interventions[J]. Journal of documentation， 2019， 75（5）： 1013-1034.

[14] 漆亞林，王鈺涵. 社交機(jī)器人：數(shù)字用戶的建構(gòu)邏輯與智能陷阱的治理路向[J]. 新聞與傳播研究，2022（9）：59-71，127.

[15] 謝進(jìn)川，唐恩思. 深度偽造的社會傷害與治理爭議[J]. 新聞與寫作，2023（4）：96-105.

[16] 胡翼青. 西方媒介學(xué)名著導(dǎo)讀[M]. 北京：北京大學(xué)出版社，2023：202.

[17] Ecker U K H， O'Reilly Z， Reid J S， et al. The effectiveness of short-format refutational fact-checks[J]. British Journal of Psychology， 2020， 111（1）： 36-54.

[18] 尹浩，林闖，邱鋒，等. 數(shù)字水印技術(shù)綜述[J]. 計(jì)算機(jī)研究與發(fā)展，2005（7）：1093-1099.

[19] 牛夏牧，趙亮，黃文軍，等. 利用數(shù)字水印技術(shù)實(shí)現(xiàn)數(shù)據(jù)庫的版權(quán)保護(hù)[J]. 電子學(xué)報(bào)，2003（S1）：2050-2053.

[20] 張怡夢，陳美欣，胡業(yè)飛. 區(qū)塊鏈、數(shù)字水印與全過程陽光：技術(shù)賦能下的政府?dāng)?shù)據(jù)開放風(fēng)險(xiǎn)管控體系設(shè)計(jì)[J/OL].[2024-02-04].情報(bào)雜志，http：//kns.cnki.net/kcms/detail/61.1167.G3.20230221.1013.012.html.

[21] 周葆華. 算法、可見性與注意力分配：智能時(shí)代輿論基礎(chǔ)邏輯的歷史轉(zhuǎn)換[J]. 西南民族大學(xué)學(xué)報(bào)（人文社會科學(xué)版），2022，43（1）：143-152.

[22] 田永鴻，韓冬雪，吳滿意，等.“人工智能與馬克思主義理論學(xué)科交叉研究”筆談[J]. 西南交通大學(xué)學(xué)報(bào)（社會科學(xué)版），2023（4）：1-11.

[23] 張文祥，楊林. 多元對話：突發(fā)公共衛(wèi)生事件的信息傳播治理[J]. 山東大學(xué)學(xué)報(bào)（哲學(xué)社會科學(xué)版），2020（5）：24-30.

[24] Dayan D. Comm Research—Views from Europe| Conquering Visibility， Conferring Visibility： Visibility Seekers and Media Performance[J]. International Journal of Communication， 2013（7）： 17.

[25] 丁曉蔚，李明. 基于大數(shù)據(jù)AI的重大突發(fā)事件媒介化治理——一項(xiàng)系統(tǒng)性的應(yīng)用研究[J]. 編輯之友，2022（12）：59-70.

Hierarchical Operation Mechanisms and Governance of Disinformation in the Era of Generative AI

ZHOU Yan， SHEN Tian-jian（School of Culture and Communication， Shandong University， Weihai 264200， China）

Abstract： The widespread integration of generative AI in information production and communication has ushered in a significant paradigm shift in information order， notably expediting the generation and communication of disinformation. This paper delves into the operational mechanisms of disinformation within the realm of generative AI and advocates for a nuanced， hierarchical governance approach. Specifically， at the creation layer， to create a new type of gate-keeping strategy to suppress disinformation at the source of information production， it is necessary to establish a Data Access System with chained monitoring and hierarchical management as its main component. At the dissemination layer， to eliminate the disinformation put in by the user in the dialog interface， trap the disinformation in the dialog interface and form a diffusion obstacle， the disinformation produced in the creation layer is explicitly presented with information labels and implicitly embedded with digital watermarking at the same time. At the circulation layer， the emphasis lies in disposition， obscuring the visibility of disinformation by refining algorithms governing its automated decision-making processes. It also brings into play the power of the government， the media and other public forces to release truthful and transparent information， thereby forming a flexible disinformation filtering mechanism and enhancing the effectiveness of information governance.

Key words： generative AI; disinformation; information governance; Sora

（責(zé)任編輯：侯苗苗）

基金項(xiàng)目：山東省社會科學(xué)規(guī)劃項(xiàng)目“網(wǎng)絡(luò)敘事的底層群體主體化及其對互聯(lián)網(wǎng)輿論的影響研究”（23CXWJ07）；教育部人文社會科學(xué)重點(diǎn)研究基地重大項(xiàng)目“國家治理體系現(xiàn)代化中的傳媒治理研究”（22JJD860016）

作者信息：周妍（1982— ），女，河南開封人，山東大學(xué)文化傳播學(xué)院副教授、碩士生導(dǎo)師，主要研究方向：媒介文化、網(wǎng)絡(luò)治理；沈天?。?993— ），男，山東濟(jì)寧人，山東大學(xué)文化傳播學(xué)院新聞傳播研究所助理研究員，主要研究方向：媒介文化、網(wǎng)絡(luò)治理。