蔣雪穎 劉欣 許靜

【摘要】生成式人工智能深刻影響當(dāng)下的新聞生產(chǎn)模式和媒介可信度。首先梳理了生成式人工智能應(yīng)用于新聞生產(chǎn)的演進(jìn)歷程；其次分析人機(jī)協(xié)同下的新聞實踐，實現(xiàn)了從替代模式到共生模式的主體協(xié)同、從PGC到AIGC的文本協(xié)同、從單向線性趨向多元網(wǎng)狀的流程協(xié)同；最后探討人機(jī)協(xié)同下的新聞規(guī)制，以構(gòu)筑信任機(jī)制為核心，將技術(shù)信任、人機(jī)信任和制度信任三維協(xié)同，以責(zé)任鏈調(diào)動多元主體共同參與規(guī)制。為我國新聞生產(chǎn)實踐打開人機(jī)協(xié)同的可能性，同時為建構(gòu)可持續(xù)的人機(jī)共生生態(tài)提供規(guī)制進(jìn)路。

【關(guān)鍵詞】生成式人工智能；ChatGPT；新聞生產(chǎn)；人機(jī)協(xié)同；智能傳播

生成式人工智能（Generative Artificial Intelligence，簡稱GAI）正在重構(gòu)著當(dāng)下新聞生產(chǎn)模式和產(chǎn)業(yè)鏈結(jié)構(gòu)，為新聞生產(chǎn)者的主體地位、新聞生產(chǎn)的內(nèi)容、傳播形式、受眾對新聞的接收與反饋等帶來全方位變革，并倒逼著“人機(jī)關(guān)系”的觀念從敵對論轉(zhuǎn)向協(xié)同論[1]。本研究從人機(jī)協(xié)同理論出發(fā)，對國際新聞業(yè)的前沿實踐案例進(jìn)行分析，旨在彌合現(xiàn)有研究在經(jīng)驗材料上的不足，一方面為我國新聞生產(chǎn)實踐探尋人機(jī)關(guān)系新的可能性，另一方面為建構(gòu)可持續(xù)的人機(jī)協(xié)同新聞生態(tài)提供規(guī)制進(jìn)路。

一、演進(jìn)歷程：生成式AI與新聞生產(chǎn)的結(jié)合

以ChatGPT為代表的生成式人工智能技術(shù)問世以來，它在提升工作流程效率、文本創(chuàng)建、更正、搜索、研究、翻譯等方面展現(xiàn)了巨大的潛力。世界新聞出版商協(xié)會調(diào)查顯示，全流程效率提升、翻譯、個性化新聞是當(dāng)前人工智能技術(shù)應(yīng)用于新聞生產(chǎn)實踐中最具潛力的三大領(lǐng)域[2]。學(xué)者Diakopoulos總結(jié)了GAI工具在新聞生產(chǎn)實踐中的主要功能：（1）針對文本的處理與生成，例如評估文本的新聞價值；分析文檔并進(jìn)行分類和標(biāo)記；處理多語言文本的原始數(shù)據(jù)并進(jìn)行翻譯；審核并分類評論，如“仇恨言論”或“高質(zhì)量評論”；根據(jù)不同社交媒體創(chuàng)造不同風(fēng)格的推文；基于非結(jié)構(gòu)化或者結(jié)構(gòu)化數(shù)據(jù)的自動寫作；基于用戶模型構(gòu)建或重寫精選內(nèi)容的標(biāo)題或摘要。（2）針對可視化信息的編輯與處理，例如編輯多格式的照片和視頻，根據(jù)內(nèi)容主題生成圖表。（3）針對以算法為基礎(chǔ)的工作流程進(jìn)行優(yōu)化，例如針對不同的受眾群體進(jìn)行個性化推送；自動審查并刪除不當(dāng)言論等。[3]

隨著人工智能技術(shù)的不斷演進(jìn)，特別是自然語言處理（natural language processing，簡稱NLP）和大型預(yù)訓(xùn)練模型的突破性進(jìn)展，按自動化程度進(jìn)行劃分，人工智能融入新聞生產(chǎn)實踐大致經(jīng)歷了三個階段：在自動化的第一階段，人工智能承擔(dān)輔助工具的職能，為記者和編輯從海量信息中推薦新聞選題；發(fā)揮信息收集與新聞發(fā)現(xiàn)的功能；通過監(jiān)控社交媒體熱點、分析流行話題或掃描數(shù)據(jù)集，利用算法參照預(yù)定義標(biāo)準(zhǔn)識別有新聞價值的事件。第二階段，人工智能以主體身份逐漸參與到新聞內(nèi)容生產(chǎn)等人類智力活動中，將結(jié)構(gòu)化的數(shù)據(jù)轉(zhuǎn)化為敘述性文本。具體而言，GAI通過使用特定類型新聞（如體育或財經(jīng)新聞）的模板和自然語言生成技術(shù)實現(xiàn)對新聞報道的文本編寫。第三階段，人工智能逐漸滲透到“把關(guān)”環(huán)節(jié)，實現(xiàn)與把關(guān)權(quán)的融合。在新聞內(nèi)容發(fā)布方面，GAI可自動撰寫和發(fā)布某些類型的新聞報道，無需人工審核，并可選擇在發(fā)布后通知編輯。在當(dāng)前的實踐中，這種情況通常僅限于由數(shù)據(jù)驅(qū)動的新聞報道。

在未來，新聞業(yè)需要在GAI輔助人類任務(wù)與GAI自動化日常任務(wù)之間取得微妙的平衡。技術(shù)不僅僅是被新聞生產(chǎn)主體強(qiáng)制吸納到新聞生產(chǎn)中的一種外部性工具，更是一種由新聞實踐、人類需求和行業(yè)規(guī)范不斷塑造的手段。

二、實踐探索：人機(jī)協(xié)同下生成式AI新聞前沿應(yīng)用

以物聯(lián)網(wǎng)、大數(shù)據(jù)、云計算和人工智能為代表的數(shù)字智能技術(shù)已經(jīng)滲透到個體日常生活的結(jié)構(gòu)之中，因此“人—機(jī)”關(guān)系的主流觀念也從以友好、敵對為特征的范式轉(zhuǎn)向更為當(dāng)代的協(xié)同范式。人機(jī)協(xié)同強(qiáng)調(diào)了人類與GAI為代表的智能機(jī)器在社會技術(shù)景觀中的相互依存、相互作用和共同進(jìn)化。對于人機(jī)協(xié)同在新聞生產(chǎn)實踐中的研究，則更關(guān)注人類與GAI之間復(fù)雜的相互作用和共同的進(jìn)化協(xié)同模式。

（一）主體協(xié)同：從替代模式到共生模式

新聞信息采集是新聞生產(chǎn)的基礎(chǔ)，編輯部以此對選題進(jìn)行策劃和決策。在信息采集和選題策劃階段，GAI與人類主體的協(xié)同方式共有三種：替代式、補(bǔ)充式和共生式。（1）替代式多應(yīng)用于記者、編輯日常工作中重復(fù)性高、細(xì)節(jié)繁瑣的任務(wù)，如自動收集和準(zhǔn)備背景信息、推薦消息來源和線人、消息源驗證和事實核查等。特別是信息采集階段，傳統(tǒng)新聞生產(chǎn)是記者按需在新聞專業(yè)主義指導(dǎo)下主動收集信息，GAI可通過基于NLP實現(xiàn)特定類型的常規(guī)信息自動化收集。以路透社使用的News Tracer信息采集系統(tǒng)為例，它可實現(xiàn)從社交媒體的信息流中收集數(shù)據(jù)，并使用NLP和機(jī)器學(xué)習(xí)檢測新聞事件，幫助記者在報道重大新聞時比其他全球新聞機(jī)構(gòu)搶先8到60分鐘[4]。（2）補(bǔ)充式是利用GAI彌補(bǔ)專業(yè)新聞生產(chǎn)者人力或效率的不足。例如，在新聞事件的跟蹤報道中，GAI的模式匹配機(jī)制可用于識別更新的信息，通過持續(xù)追蹤為正在發(fā)生的事件帶來新的啟示或意想不到的報道角度。（3）共生式以可持續(xù)協(xié)同發(fā)展為價值導(dǎo)向，不斷在實踐中校準(zhǔn)人類價值與技術(shù)工具之間的關(guān)系。共生式最典型的實踐是新聞從業(yè)者對GAI進(jìn)行“新聞價值”的訓(xùn)練。GAI可通過大型預(yù)訓(xùn)練模型對“新聞價值”進(jìn)行機(jī)器學(xué)習(xí)，幫助記者和編輯發(fā)現(xiàn)具有新聞價值的事件。

GAI成為記者與社會現(xiàn)實之間的“傳感器”，一方面將新聞生產(chǎn)主體從繁瑣的驗證和事實核查等日常任務(wù)中解放出來，但另一方面也需警惕，利用GAI自動發(fā)現(xiàn)新聞也有可能過于依賴有限范圍的消息源，從而忽略可能更具新聞價值的邊緣事件。

（二）文本協(xié)同：PGC與AIGC的融合

1.自動內(nèi)容創(chuàng)作，變革生產(chǎn)模式

GAI可以自動生成標(biāo)準(zhǔn)化的文本，幫助記者和編輯創(chuàng)建新聞大綱、優(yōu)化標(biāo)題、生成新聞導(dǎo)語、生成采訪問題、解釋概念和總結(jié)舊報道。國外AI生成的新聞網(wǎng)站已經(jīng)多達(dá)125家[5]。新聞網(wǎng)站NewsGPT和Generative Press都是完全由GAI驅(qū)動生成新聞，完全沒有編輯團(tuán)隊介入和人工干預(yù)。谷歌開發(fā)的新聞AI工具Genesis已被《紐約時報》《華盛頓郵報》和《華爾街日報》等報紙采納作為記者的補(bǔ)充工具。路透社還使用GAI快速定位視頻素材庫中的人物和音頻，自動進(jìn)行音頻的時間編碼、轉(zhuǎn)錄和翻譯，自動生成文本，提升寫作效率[6]。

2.多元敘事風(fēng)格，差異話語策略

GAI可以根據(jù)出版機(jī)構(gòu)的風(fēng)格定位來改編新聞，創(chuàng)作多元敘事形態(tài)、修辭風(fēng)格、新聞體例、新聞框架的報道，在語言建構(gòu)和語義表達(dá)方面實現(xiàn)差異化改編。全球媒體Semafor執(zhí)行主編吉娜·蔡（Gina Chua）使用聊天機(jī)器人Claude，要求它以《紐約時報》《紐約郵報》《中國日報》和《福克斯新聞》的風(fēng)格，改編一則中國努力扭轉(zhuǎn)人口出生率下降的新聞，她發(fā)現(xiàn)《紐約時報》的版本偏向于古板，并且加入了很多背景描述；《紐約郵報》則傾向使用激烈的措辭，如“隨著出生率的下降，中國陷入恐慌”；《中國日報》多引用政府觀點，例如“官方落實育兒假制度減輕家庭養(yǎng)育負(fù)擔(dān)”等；而《福克斯新聞》多為嚴(yán)厲的批判口吻，帶有強(qiáng)烈的主觀偏見[7]。

3.數(shù)據(jù)跨鏈接互證，信息多維深度呈現(xiàn)

新聞生產(chǎn)平臺NewsCube利用GAI實現(xiàn)增強(qiáng)新聞報道。它將驗證過的信息來源，與現(xiàn)有的內(nèi)容單元進(jìn)行關(guān)聯(lián)，從而提高新聞報道的可信度。該平臺將經(jīng)過認(rèn)證且自成一體的小型語義單元進(jìn)行重組，以綜合敘述的方式重新生成新內(nèi)容，包括文章、鏈接、圖像、視頻剪輯、動畫等。NewsCube可以在互聯(lián)網(wǎng)中提取來自不同政治、宗教、種族等價值取向的信息，從而對同一事件呈現(xiàn)出不同觀點。這種多元性有助于提高新聞報道的可信度。它還可以對強(qiáng)調(diào)不同事實、提出不同解釋和表達(dá)不同情感的內(nèi)容進(jìn)行識別。具體而言，GAI可以在海量信息中定位支持弱勢群體的言論或帶有錯誤價值觀導(dǎo)向的觀點，這對于建構(gòu)多元向善的輿論環(huán)境至關(guān)重要。記者和編輯等專業(yè)主體可通過標(biāo)注相關(guān)主題、來源、信息的原始上下文等方式，防止易產(chǎn)生混淆的拼貼和挪用，提升信息的豐富性和準(zhǔn)確性[8]。

（三）流程協(xié)同：從單向線性趨向多元網(wǎng)狀

傳統(tǒng)新聞生產(chǎn)是從記者、編輯等專業(yè)主體出發(fā)，經(jīng)過采、寫、編、發(fā)等環(huán)節(jié)，將新聞送達(dá)受眾的單向線性結(jié)構(gòu)。GAI通過流程挖掘、算法資源優(yōu)化、立體交互式分發(fā)等，使新聞生產(chǎn)中間的任一環(huán)節(jié)都可產(chǎn)生跳躍性互聯(lián)，流程協(xié)同中的新聞生產(chǎn)走向多元網(wǎng)狀生產(chǎn)結(jié)構(gòu)。

1.挖掘行為模式，實現(xiàn)流程再造

GAI可利用流程挖掘（process mining）來分析記者和編輯的信息搜索等工作行為，幫助其建立自動化的信息收集和分析流程。例如，編輯部中的某位記者反復(fù)搜索某在線社區(qū)論壇，在里面瀏覽和收集足球比賽評論，GAI可以利用事件日志從記者的行為模式中挖掘出“流程描述”[9]。挖掘出的流程描述可用于基于規(guī)則或機(jī)器學(xué)習(xí)的流程自動化工具，這些工具可模仿重復(fù)性的人類任務(wù)，如數(shù)據(jù)錄入、表格填寫和數(shù)據(jù)驗證等。之后，每當(dāng)記者開始撰寫新的評論文章時，界面會自動搜索指定的足球社區(qū)論壇。除此之外，GAI還可以應(yīng)用于現(xiàn)有的工作流程和業(yè)務(wù)流程管理系統(tǒng)，將挖掘到的流程描述調(diào)整到類似的情境中，改善新聞生產(chǎn)者的創(chuàng)作和生產(chǎn)體驗，實現(xiàn)流程的智能化。

2.基于算法的資源優(yōu)化，提高組織效率

新聞生產(chǎn)不僅是個體的創(chuàng)造性勞動，更是集體的協(xié)商性活動。如何選擇合適的記者跟蹤特定類型的報道，是新聞編輯室中的重要工作。GAI可以學(xué)習(xí)記者及其過往報道并建立資料庫，從而針對某類新聞選題推薦最匹配的記者，組建具有互補(bǔ)背景和能力的記者團(tuán)隊，進(jìn)一步提高效率。但是，我們也必須保持警惕，堅持健全的商業(yè)模式和編輯獨立性，以確保這些提高新聞和組織效率的新機(jī)遇被充分用于提升新聞報道的質(zhì)量，而非濫用于削減新聞工作者的隊伍。

3.立體交互式分發(fā)機(jī)制，推動信息個性化重組與再收集

圍繞GAI技術(shù)搭建數(shù)字新聞平臺已成為一大趨勢。以NewsCube為例，用戶可以將文字、圖片、視頻、超鏈接、文章、檔案等各種元素組合在一起，將故事、想法、人物或公司等信息“打包”成虛擬的3D信息立方體。這些立方體作為技術(shù)驅(qū)動的敘事手段，將多媒體元素、時間、地點、聲音、事件和不同視角的報道結(jié)合在一起，創(chuàng)造沉浸式、可視化新聞體驗。NewsCube的互動設(shè)計一方面保證用戶可以對正在瀏覽的故事進(jìn)行主線閱讀，與此同時也允許其進(jìn)入支線鏈接中，瀏覽不同媒體和新聞來源，以實現(xiàn)對主線新聞故事的補(bǔ)充，克服在龐大的超文本空間中對信息的迷失感。而用戶對信息做了何種選擇，又會積累成痕跡數(shù)據(jù)，存入NewsCube中，為未來的新聞生產(chǎn)和個性化分發(fā)提供數(shù)據(jù)決策依據(jù)。

三、規(guī)制進(jìn)路：人機(jī)協(xié)同下生成式AI新聞信任機(jī)制

媒體信任有多個層次，從對媒體內(nèi)容的信任，到對記者、單個媒體品牌和媒體類型的信任，再到對整個新聞業(yè)的信任。新聞媒體的可信度可以從公平性、偏見性、完整性、準(zhǔn)確性和事實性等方面進(jìn)行描述。隨著GAI在新聞實踐中的使用越來越廣泛，信任危機(jī)日益凸顯。根據(jù)Morning Consult的調(diào)查，70%的美國成年人擔(dān)心AIGC傳播錯誤信息；68%的美國成年人擔(dān)心使用AI搜索引擎獲得的結(jié)果中包含錯誤信息；63%的美國成年人對AI搜索結(jié)果的準(zhǔn)確性、AIGC內(nèi)容中的偏見和歧視表示擔(dān)憂[10]。我們需從構(gòu)筑信任機(jī)制著手，加強(qiáng)對GAI新聞業(yè)的規(guī)制。具體而言，將技術(shù)信任、人機(jī)信任和制度信任三維協(xié)同，以“責(zé)任鏈”范式調(diào)動記者、編輯、技術(shù)研發(fā)者、新聞出版機(jī)構(gòu)、行業(yè)協(xié)會、政府機(jī)構(gòu)等多元主體共同參與。

（一）技術(shù)信任：優(yōu)化技術(shù)設(shè)計，實現(xiàn)技術(shù)善治

在數(shù)字時代，新聞容易遭到篡改或斷章取義，其目的可能是吸引注意、影響行為、操縱輿論，或者進(jìn)行欺騙和誤導(dǎo)。信息評估的范圍包括檢測文本、語音、音頻、視頻與來自傳感器的結(jié)構(gòu)化數(shù)據(jù)流，以及結(jié)構(gòu)化或非結(jié)構(gòu)化參考數(shù)據(jù)中的有意和無意的錯誤信息[11]。在這一背景下，我們面對兩種主要形式的媒體偽造：低級偽造（cheap fakes）和深度偽造（deepfakes）。

低級偽造涉及對媒體內(nèi)容的濫用，例如輕微扭曲圖片或斷章取義地反復(fù)使用圖片。應(yīng)對低級偽造的核心技術(shù)包括以下四點：（1）深度圖像分析（deep

image analysis），該技術(shù)使用深度學(xué)習(xí)和計算機(jī)視覺方法，對潛在偽造的圖像進(jìn)行分析，以識別其中可能的不一致或異常。（2）反向圖像搜索（reverse image search），利用待識別圖像作為參照系，在互聯(lián)網(wǎng)上尋找相似或相同的圖像來源，以確定待識別圖像在何種程度上以怎樣的方式被偽造。（3）確定內(nèi)容來源，追溯特定圖像的元數(shù)據(jù)、水印、版權(quán)信息等，以確保它沒有被篡改或濫用，以此驗證圖像的真實性。（4）評估原始語境與使用語境的相似性，比較圖像在原始環(huán)境中的使用和在懷疑偽造的上下文中的使用之間的差異。[12]與此不同的是深度偽造，它利用深度學(xué)習(xí)技術(shù)，尤其是生成式對抗網(wǎng)絡(luò)來創(chuàng)建合成媒體。例如將人臉特征疊加在他人身上，或僅偽造聲音，形成如同真人的體驗。為了應(yīng)對深度偽造，一種方法是通過訓(xùn)練判別器網(wǎng)絡(luò)來識別生成的內(nèi)容與真實內(nèi)容之間的差異。判別器網(wǎng)絡(luò)可以被用來檢測潛在的偽造，因為生成的內(nèi)容通常在細(xì)節(jié)、噪音、紋理等方面與真實內(nèi)容有所不同。另一種方法是訓(xùn)練生成式對抗網(wǎng)絡(luò)來生成具有反偽造特征的媒體內(nèi)容。這種生成對抗訓(xùn)練的目標(biāo)是生成媒體內(nèi)容，其中包含了一些隱含的特征，可以幫助其他檢測工具更容易地識別偽造。這些特征可能包括水印、數(shù)字簽名、元數(shù)據(jù)等。[13]

國際新聞業(yè)還采取了多媒體取證（multimedia forensics）的方式。多媒體取證涉及對圖像、音頻和視頻等各類多媒體內(nèi)容進(jìn)行分析和認(rèn)證，驗證數(shù)字多媒體文件是否被篡改。該技術(shù)的主要目標(biāo)和任務(wù)包括：（1）真實性驗證：確定多媒體文件是原始文件還是被篡改或偽造的文件。（2）源識別：追蹤多媒體內(nèi)容的來源，以確定其來源、創(chuàng)建者或位置。（3）完整性評估：評估內(nèi)容自創(chuàng)建以來是否被修改、編輯或篡改。（4）偽造檢測：檢測數(shù)字篡改跡象，如圖像拼接、修飾或音頻篡改。（5）圖像出處分析：分析圖像的歷史，以確定其真實性并識別任何更改。（6）內(nèi)容分析：檢查多媒體文件的內(nèi)容，提取有助于驗證的信息或背景。[14]

綜合來看，低級偽造和深度偽造帶來的挑戰(zhàn)表明，僅靠目前被動的事實核查和媒體驗證方法還遠(yuǎn)遠(yuǎn)不夠。主動驗證是一種替代方法，它利用哈希（hashing）和區(qū)塊鏈等技術(shù)發(fā)放帶有可驗證、防篡改簽名的內(nèi)容證書。這些證書可以應(yīng)用于元數(shù)據(jù)、原子內(nèi)容單元以及復(fù)合內(nèi)容。因為內(nèi)容單元的可信度取決于情境，這將需要新的AI解決方案來挖掘和評估情境信息。此外，我們需要更好地理解情境和可信度之間的關(guān)系，以便根據(jù)不同的情境評估可信來源。需要指出的是，積極驗證可能會過度依賴易于在捕獲點驗證的主流來源信息，這可能會損害不尋常、非主流來源的可信度驗證。

（二）人機(jī)信任：可信度評估，多主體責(zé)任鏈

在人機(jī)交互技術(shù)中呈現(xiàn)出了新的信任形式，即“電子信任”（e-trust）。人機(jī)交互過程中的機(jī)器能動性不斷增強(qiáng)，直接影響了人機(jī)之間的信任問題。人機(jī)新聞的良性發(fā)展最重要的是受眾與GAI之間的信任問題，國際新聞業(yè)提出了從來源、合成到評估等環(huán)節(jié)的可信度操作步驟。（1）提高來源可信度：通過元數(shù)據(jù)（數(shù)據(jù)的附加信息）來追溯信息提供者的各種指標(biāo)，包括歷史聲譽(yù)、社交網(wǎng)絡(luò)連接、知識背景、職位、贊助組織等，還可以評估開放和專有數(shù)據(jù)庫以及檔案中的背景信息，并了解提供信息的人員和組織。（2）保證可信度合成（trustworthy composition）：新聞報道不僅需要由可信的內(nèi)容單元和元數(shù)據(jù)構(gòu)成，還需要可信的呈現(xiàn)方式和敘述方式。新聞從業(yè)者需要關(guān)注內(nèi)容單元的細(xì)化程度、來源、提取方式、與語境的契合度，確保報道的內(nèi)部一致性，使信息更容易理解和驗證，從而增加讀者對報道的可信度感知[15]。（3）提供可信度報告：需要將可信度的評估結(jié)果、推理和證據(jù)及時開放給受眾，并且確保受眾能夠理解人工智能方法的輸出結(jié)果。這些報告通過介紹內(nèi)容單元的來源，解釋它們是如何以及為什么被組合在一起的，從而提供了問責(zé)機(jī)制。當(dāng)信息已經(jīng)得到新聞機(jī)構(gòu)的證實后，可信度報告可以有針對性地根據(jù)受眾個人需求來提供，減少信息冗余。（4）監(jiān)測受眾反饋：監(jiān)測受眾對新聞內(nèi)容的感知，包括通過受眾研究、用戶評級、NLP分析和新聞分享行為來評估可信度，利用這些信息來改進(jìn)新聞的來源選擇、內(nèi)容呈現(xiàn)和敘述，以優(yōu)化可信度。

除了受眾信任以外，新聞業(yè)各主體之間的信任也至關(guān)重要，單純依靠編輯和記者的努力無法建構(gòu)全局性的信任格局，需要以“責(zé)任鏈”范式實現(xiàn)新聞信任機(jī)制構(gòu)建主體的關(guān)聯(lián)與協(xié)同。這不僅涉及編輯、記者、新聞機(jī)構(gòu)、技術(shù)開發(fā)者等責(zé)任主體，還涉及立法機(jī)構(gòu)、執(zhí)法機(jī)構(gòu)、司法機(jī)構(gòu)、行業(yè)協(xié)會等治理性機(jī)構(gòu)。在責(zé)任鏈上游，技術(shù)研發(fā)者應(yīng)該協(xié)助新聞共同體理解算法，還需要避免算法中的偏見、歧視和侵權(quán)行為，確保數(shù)據(jù)隱私和安全，以及遵守隱私政策和用戶協(xié)議?？山忉屓斯ぶ悄埽‥xplainable Artificial Intelligence）是人工智能的一個子領(lǐng)域，其重點是以系統(tǒng)和可解釋的方式向人類展示復(fù)雜的人工智能模型，通過透明度、解釋方法和自然語言生成技術(shù)等來闡釋人工智能決策。在責(zé)任鏈中游，編輯和記者需要明確GAI應(yīng)用的義務(wù)與責(zé)任邊界，充分評估技術(shù)與使用場景的適配性，保證新聞的可信度，避免人工智能幻覺（AI Hallucination）。在責(zé)任鏈下游，新聞機(jī)構(gòu)需要加強(qiáng)把關(guān)責(zé)任，應(yīng)在審核環(huán)節(jié)從“事后審核”擴(kuò)展到“事前審核+事后審核”，對審核方式進(jìn)行技術(shù)化和協(xié)同化升級，同時保留人類審核的決策地位，還應(yīng)該允許受眾監(jiān)督和反饋，保證受眾對其中的技術(shù)參與程度與具體工作的知曉權(quán)。

（三）制度信任：健全技術(shù)原則，引入貢獻(xiàn)鏈機(jī)制

世界新聞出版商協(xié)會（World Association of

News Publishers）與德國SCHICKLER咨詢公司合作開展的全球調(diào)查中發(fā)現(xiàn)，只有20%的新聞編輯室對何時以及如何使用GAI工具制定了管理指南[16]。新聞編輯室缺乏明確的指導(dǎo)方針可能會導(dǎo)致不確定性和潛在的控制不足。因此，圍繞負(fù)責(zé)任地使用GAI工具，制定明確的指導(dǎo)準(zhǔn)則是極其迫切的。制度信任本質(zhì)上是硬性的“他律”，其根本目的是將外在約束內(nèi)化為人類的“自律”意識，使制度信任與技術(shù)信任、人機(jī)信任相融合[17]。規(guī)范化與模式化的外在性制度使各方行為具有更大的可預(yù)測性，強(qiáng)化新聞業(yè)共同體的“本體安全感”，保障技術(shù)信任的有效實施。

全球出版和新聞組織（Global Publishing and

Journalism Organizations）聯(lián)合代表全球數(shù)千名創(chuàng)意專業(yè)人士的26個組織，在2023年9月6日發(fā)布了《人工智能全球原則》（Global Principles for Artificial Intelligence）。該文件涉及知識產(chǎn)權(quán)、透明度、問責(zé)制、質(zhì)量和完整性、公平性、安全性、設(shè)計和可持續(xù)發(fā)展等重要方面[18]?！度斯ぶ悄苋蛟瓌t》主要有12條核心原則：第一，AI系統(tǒng)的開發(fā)者、運營者和部署者必須尊重知識產(chǎn)權(quán)。第二，出版商有權(quán)就使用其知識產(chǎn)權(quán)進(jìn)行談判并獲得適當(dāng)報酬。第三，版權(quán)和相關(guān)權(quán)利保護(hù)內(nèi)容創(chuàng)作者和所有者免受其內(nèi)容未經(jīng)許可使用的侵權(quán)行為。第四，應(yīng)該承認(rèn)為創(chuàng)作者和權(quán)利持有人的內(nèi)容提供現(xiàn)有的授權(quán)市場。第五，AI系統(tǒng)應(yīng)該向創(chuàng)作者、權(quán)利持有人和用戶提供細(xì)粒度的透明度（granular transparency）。第六，AI系統(tǒng)的提供者和部署者應(yīng)該合作，以確保對系統(tǒng)產(chǎn)出的責(zé)任。第七，確保質(zhì)量和完整性是建立對人工智能工具和服務(wù)應(yīng)用的信任的基礎(chǔ)。第八，AI系統(tǒng)不應(yīng)該創(chuàng)造或存在創(chuàng)造不公平市場或競爭結(jié)果的風(fēng)險。第九，AI系統(tǒng)應(yīng)該值得信賴。第十，AI系統(tǒng)應(yīng)該保證安全并應(yīng)對隱私風(fēng)險。第十一，這些原則應(yīng)在設(shè)計中納入所有人工智能系統(tǒng)，包括通用AI系統(tǒng)、基礎(chǔ)模型和GAI系統(tǒng)。第十二，AI系統(tǒng)必須符合人類價值觀，并按照全球法律運行。

新聞業(yè)還可以引入“貢獻(xiàn)鏈”（contribution chains）機(jī)制，以建立更加嚴(yán)格的問責(zé)制度。貢獻(xiàn)鏈記錄了內(nèi)容的衍生和來源，詳細(xì)記錄了信息是如何從其他內(nèi)容中衍生出來以及由誰（或何者）進(jìn)行了衍生。這一機(jī)制提供了責(zé)任追蹤，允許準(zhǔn)確記錄信息的來源和貢獻(xiàn)者身份。貢獻(xiàn)鏈的應(yīng)用有助于避免重復(fù)的整合、驗證或其他評估過程，同時可以用于檢測那些具有特定利益關(guān)系的消息來源所散布的錯誤信息。貢獻(xiàn)鏈可以在媒體制作工作流的一部分自動創(chuàng)建，也可以通過反向內(nèi)容搜索、自然語言推理技術(shù)和深度圖像分析等方法進(jìn)行重新建構(gòu)。此外，貢獻(xiàn)鏈還可以被用于深入了解不同類型信息和錯誤信息是如何通過社交媒體產(chǎn)生和傳播的，特別是當(dāng)這些信息本身所包含的內(nèi)容和上下文十分有限，難以用于驗證的情況下。這種綜合方法有助于確保新聞媒體的責(zé)任追蹤，維護(hù)信息的準(zhǔn)確性和可信度，同時防止虛假信息的傳播。

四、結(jié)語

國際新聞業(yè)對GAI應(yīng)用已經(jīng)積累了初步的探索經(jīng)驗，為我國新聞業(yè)的媒介融合和技術(shù)創(chuàng)新提供諸多發(fā)展啟示。然而，未來的發(fā)展遠(yuǎn)不止此。我們在考慮GAI相關(guān)的新聞實踐和規(guī)制問題的同時，還應(yīng)正視GAI引發(fā)的政治經(jīng)濟(jì)不平等、數(shù)據(jù)信息安全、意識形態(tài)價值觀等挑戰(zhàn)。我們也應(yīng)當(dāng)關(guān)注全球范圍內(nèi)不同的文化和區(qū)域環(huán)境，特別要正視全球南方國家，如非洲等地區(qū)如何跨越資源、語言和技術(shù)方面的鴻溝，以便更有意義地參與到GAI技術(shù)的發(fā)展中。中國需要提高GAI的自主創(chuàng)新能力，加強(qiáng)核心技術(shù)攻關(guān)，爭取技術(shù)標(biāo)準(zhǔn)話語權(quán)，防范“數(shù)字霸權(quán)主義”帶來的信息安全風(fēng)險和意識形態(tài)風(fēng)險，為世界提供中國方案。

[基金項目：國家社會科學(xué)基金重點項目“突發(fā)公共事件輿論引導(dǎo)的機(jī)制、路徑與方法研究”（23AXW008）]

參考文獻(xiàn)：

[1]劉永謀，王春麗.智能時代的人機(jī)關(guān)系：走向技術(shù)控制的選擇論[J].全球傳媒學(xué)刊，2023（3）.

[2]Monojoy Bhattacharjee. Almost 50% of news publishers

use Generative AI tools， but “quality of content” is the

#1 concern[EB/OL].2023-01-23[2023-07-14].https：//whatsnewinpublishing.com/almost-50-of-news-publishers-use-generative-ai-tools-but-quality-of-content-is-the-1-concern/.

[3]Nick Diakopoulos. What Could ChatGPT Do for News

Production？[EB/OL].2023-01-15[2023-07-15].https：//generative-ai-newsroom.com/what-could-chatgpt-do-for-news-production-2b2a3b704

7d9.

[4]Liu X， Nourbakhsh A， Li Q， et al. Reuters tracer：Toward automated news production using large scale social

media data[C]//2017 IEEE International Conference onBig Data （Big Data）.IEEE，2017：1483-1493.

[5]Joe Mandese.AI-Generated News Sites More Than Double In Two Weeks[EB/OL].2023-05-19[2023-07-25].https：//www.mediapost.com/publications/article/385557/ai-generated-news-sites

-more-than-doubles-in-two-w.html.

[6]Marcela Kunova. How Reuters uses AI to speed up

discoverability of video news content[EB/OL].2023-07-25[2023-07-27].https：//www.journalism.co.uk/news/how-reuters-uses-ai-to-speed-up-discoverability-of-video-news-content/s2/a1055917/.

[7]Gina Chua.How chatbots can change journalism.Or not.[EB/OL].2023-02-19[2023-07-19].https：//www.semafor.com/article/02/17/2023/how-chatbots-can-change-journalism-or-not？utm_source=pocket_saves.

[8]NewsCube.NewsCubed project archive[EB/OL].[2023-10-23].http：//newscubed.com/.

[9]Van Der Aalst W.Process mining[J].Communications of the ACM，2012，55（8）：76-83.

[10]AJ Dellinger.AI-Powered Search Engines Driving Concerns Over Accuracy，Bias[EB/OL].2023-01-22[2023-07-12].https：//pro.morningconsult.com/instant-intel/ai-powered-search-concerns-bing-chatgpt.

[11]Seo H，Blomberg M，Altschwager D，et al.Vulnerable populations and misinformation：A mixed-methods approach to underserved older adults online information assessment[J].NewMedia & Society，2021，23（7）：2012-2033.

[12]Paris B，Donovan J.Deepfakes and cheap fakes[J].2019.

[13]Verdoliva L.Media forensics and deepfakes：an overview[J]. IEEE Journal of Selected Topics in Signal Processing，2020，14（5）：910-932.

[14]Khan S A，Sheikhi G，Opdahl A L，et al.Visual User-Generated Content Verification in Journalism：An Overview[J].IEEE Access，2023.

[15]Opdahl A L，Tessem B，Dang-Nguyen D T，et al.Trustworthy journalism through AI[J].Data & Knowledge Engineering，2023，146：102-182.

[16]Roper D.Gauging Generative AIs Impact in Newsrooms[R].1：WAN-IFRA，2023-05-24.

[17]王鵬濤，徐潤婕.AIGC介入知識生產(chǎn)下學(xué)術(shù)出版信任機(jī)制的重構(gòu)研究[J].圖書情報知識，2023，40（05）：87-96.DOI：10.13366/j.dik.2023.05.087.

[18]WAN-IFRA Staff.Global Publishing and Journalism

Organizations Unite to Release Comprehensive Global Principles for Artificial Intelligence[EB/OL].2023-09-06[2023-10-23].https：//wan-ifra.org/2023/09/global-principles-for-artificial-intelligence-ai/.

作者簡介：蔣雪穎，北京大學(xué)新聞與傳播學(xué)院博士生（北京 100089）；劉欣（通訊作者），北京大學(xué)新聞與傳播學(xué)院博士生（北京 100089）；許靜，北京大學(xué)新聞與傳播學(xué)院教授（北京 100089）。

編校：董方曉