王 標(biāo) 衛(wèi)紅權(quán),2 王 凱,2 劉樹新,2 李 燃

1(中國人民解放軍戰(zhàn)略支援部隊信息工程大學(xué) 鄭州 450001)

2(國家數(shù)字交換系統(tǒng)工程技術(shù)研究中心 鄭州 450002)

(wangbiao9911@163.com)

虛假輿情是困擾公眾和社會治理部門的現(xiàn)實問題.虛假輿情的形成與網(wǎng)絡(luò)輿論環(huán)境的復(fù)雜性相關(guān)[1].網(wǎng)絡(luò)虛假輿情給網(wǎng)絡(luò)輿情生態(tài)、社會和諧、政府決策造成了嚴重的負面影響[2].

在社交網(wǎng)絡(luò)領(lǐng)域,輿情是作為主體的民眾以媒介為載體反映現(xiàn)實社會這一客體的動態(tài)過程,它有可能是少數(shù)人從自身利益出發(fā)憑空捏造的,而客觀上并不存在;也可能盡管在一定程度上存在,但其原意卻在一系列手段運作下被放大或被掩蓋,這些都視為網(wǎng)絡(luò)虛假輿情[2].

虛假輿情是一個社會科學(xué)概念,現(xiàn)有的文獻研究通常在社會科學(xué)領(lǐng)域.但是在自然科學(xué)領(lǐng)域,它沒有一個統(tǒng)一的形式,要具體研究它,從哪些形式可以入手?是謠言?假新聞?還是網(wǎng)絡(luò)欺凌?為了方便從自然科學(xué)角度研究分析虛假輿情的傳播與檢測,本文將以下主題拓展為其外延表現(xiàn),包括但不限于：誤導(dǎo)消息、虛假新聞、網(wǎng)絡(luò)謠言、網(wǎng)絡(luò)諷刺、網(wǎng)絡(luò)欺凌、惡意言論等.

Tandoc等人[3]提出了一種基于真實性和欺騙意圖的類型描述.在此基礎(chǔ)上,本文用真實性和意圖對以上幾種外延形式進行描述,如表1所示：

表1 外延表現(xiàn)描述

1 特征工程

從數(shù)據(jù)中構(gòu)造或提取特征稱為特征工程[4].本文主要從細粒度的單文本輸入對象[5]中提取特征,包括推文元數(shù)據(jù)[6](如發(fā)布時間、轉(zhuǎn)發(fā)數(shù)、點贊數(shù)、超鏈接等)、文本內(nèi)容、用戶信息、結(jié)構(gòu)信息等,也有部分多模態(tài)檢測文獻中利用了圖片或視頻信息.相關(guān)研究如表2所示：

表2 可用于虛假輿情檢測的特征

輿情從誕生、傳播到消弭,在不同階段所獲取數(shù)據(jù)的特征維度是不同的.當(dāng)前文獻對于不同階段的虛假輿情檢測沒有進行詳細劃分,只是粗略地提出了早期檢測的概念.而且這些文獻對早期檢測的定義不一,早期檢測所用數(shù)據(jù)的采集標(biāo)準也不一樣.

Zhou等人[16]將推文發(fā)布的最早期,即謠言尚未開始傳播的階段定義為早期.Bian等人[17]以及Kwon等人[18]利用時間窗采集謠言檢測的早期數(shù)據(jù),這也是很多文獻常用的方法.Chen等人[19]以及Ma等人[20]則按樣本比例或者數(shù)量采集數(shù)據(jù)進行早期檢測.

針對上述問題,同時為了方便研究,本文引入輿情傳播周期[21],將輿情傳播劃分為5個階段：萌生期、發(fā)展期、爆發(fā)期、衰落期、消弭期.

首先定義了2個指標(biāo)：N用戶-時間窗(TN)和閾值基線(B).TN表示每增加N個用戶參與(如轉(zhuǎn)發(fā)、評論等)謠言傳播所經(jīng)歷的時間.不同類型的數(shù)據(jù)集、不同節(jié)點級別的傳播圖的用戶增長趨勢不同,此時,閾值基線B可用于選取不同級別的事件.

如圖1所示,在上述2個指標(biāo)的基礎(chǔ)上,本文進行了以下劃分：

圖1 輿情傳播周期

萌生期.源注入用戶發(fā)布推文的最早期,輿情還沒有開始傳播演化,用PG表示.

發(fā)展期.萌生期到爆發(fā)期之間的過渡階段,用PD表示.

爆發(fā)期.參與輿情傳播的用戶節(jié)點迅速增加,連續(xù)M個TN的均值低于設(shè)定的閾值基線B,當(dāng)前觀測點進入爆發(fā)期,用PO表示.

衰落期.參與輿情傳播的用戶節(jié)點增加變慢,連續(xù)M個TN的均值高于設(shè)定的閾值基線B,當(dāng)前觀測點進入衰落期,用PF表示.

消弭期.隨著信息重要性的下降或是模糊性的降低,輿情的傳播效度(即N用戶-時間窗指標(biāo))逐漸降低并低于某一閾值,用PE表示.

在輿情傳播周期的基礎(chǔ)上,本文分別就萌生期、爆發(fā)期、消弭期3個階段的特征工程進行討論.需要注意的是,爆發(fā)期、衰落期、消弭期可能不止1個周期,也可能輿情進入消弭期后會再度成為新的網(wǎng)絡(luò)話題而進入下一個傳播周期.所以在消弭期進行虛假輿情的檢測同樣具有重要意義.

用p表示輿情傳播所處的時期,則有：

(1)

(2)

1.1 萌生期特征選擇

基于傳播的方法是建立在輿情開始傳播的基礎(chǔ)上.而當(dāng)越來越多的人接觸到虛假輿情時就越可能相信它,而且越來越難以修正這種偏見,即所謂的確認偏見[22-23].而且信息在傳播過程中,相同興趣的人也會忽略其他不同的意見,導(dǎo)致回音室現(xiàn)象[22-23].所以在推文一經(jīng)發(fā)布的萌生期進行虛假輿情的檢測具有十分重要的意義.在萌生期,輿情還沒有開始傳播,只有用戶-發(fā)表-推文的三元組信息可用,也就是用戶信息、發(fā)布行為信息以及文本信息,多模態(tài)檢測方法還可以利用圖片和視頻信息等.如表2中只利用文本內(nèi)容或用戶信息或圖片視頻的文獻,具體描述如下：

1) 用戶信息即用戶的賬戶基本信息,如賬戶ID、地理位置信息、用戶注冊數(shù)據(jù)、是否經(jīng)過驗證、是否有描述、粉絲數(shù)、關(guān)注數(shù)、互粉數(shù)、收藏數(shù)、發(fā)帖數(shù)等[24].用戶信息既可以直接用作學(xué)習(xí)建模的特征,也可以在此基礎(chǔ)上進一步提取用戶行為特征用于建模.Shu等人[25]認為可信度低的用戶更有可能傳播假新聞,而可信度高的用戶傳播假新聞的可能性較小.而Vicario等人[22]將用戶極化和確認偏見等用戶行為作為傳播錯誤信息的潛在特征,用以確定惡作劇和假新聞.

2) 文本信息主要從語言層面描述：語法特征、語義特征及情感特征.

語法特征包含文本長度、詞匯頻次、詞性、標(biāo)點符號等統(tǒng)計特征,英文文獻中還有大小寫字母、字符串長度等;語義特征主要針對消息文本在深層次的語義層面進行特征提取或抽象表示,從而獲取消息文本的潛在語義特征;情感特征即從情感極性的角度分析消息文本.由于輿情在傳播過程中很大程度上受心理和情緒因素的驅(qū)動,且相比正面情緒,煽動負面情緒更易加速輿情傳播.除了基于純文本的情感分析,Felbo等人[8]還將基于表情符號的情感標(biāo)簽應(yīng)用于諷刺檢測,提升了分類性能.

1.2 爆發(fā)期特征選擇

虛假輿情是注入者模仿真實內(nèi)容發(fā)布的,因此具有很強的迷惑性,僅僅通過用戶信息以及文本信息等很難進行區(qū)分,需要更多的信息輔助判別[26],如傳播結(jié)構(gòu)信息等.從傳播的角度檢測虛假輿情可以調(diào)查和利用與傳播相關(guān)的信息,更能揭露現(xiàn)實世界中虛假輿情的傳播本質(zhì)[23].

當(dāng)輿情開始傳播并進入爆發(fā)期時,選取觀測點之前所有的轉(zhuǎn)發(fā)評論節(jié)點數(shù)據(jù)用于檢測.下面主要介紹2種同質(zhì)傳播網(wǎng)絡(luò)[25]的構(gòu)建：

1) 用戶-轉(zhuǎn)發(fā)推文-用戶傳播網(wǎng)絡(luò).網(wǎng)絡(luò)的根節(jié)點表示第1個共享輿情內(nèi)容的用戶(即發(fā)起者),傳播網(wǎng)絡(luò)中的其他節(jié)點表示在父節(jié)點發(fā)布推文后進行轉(zhuǎn)發(fā)的用戶,如圖2(a)所示.

2) 推文-立場觀點-推文傳播網(wǎng)絡(luò).網(wǎng)絡(luò)的根節(jié)點表示用戶發(fā)布的推文等內(nèi)容,傳播網(wǎng)絡(luò)中的其他節(jié)點表示其他用戶的轉(zhuǎn)發(fā)文章,立場有支持、質(zhì)疑、否定等,如圖2(b)所示.

從傳播網(wǎng)絡(luò)的角度檢測虛假輿情相當(dāng)于對整個網(wǎng)絡(luò)進行分類.從傳播網(wǎng)絡(luò)中可提取結(jié)構(gòu)特征、模式特征以及圖嵌入表示等用于虛假輿情的檢測.

結(jié)構(gòu)特征也稱級聯(lián)特征,即傳播網(wǎng)絡(luò)的拓撲特征,包括節(jié)點度、網(wǎng)絡(luò)直徑、網(wǎng)絡(luò)尺寸、k核(k-Core子圖中,每個頂點至少具有k的度數(shù),且所有頂點都至少與該子圖中的k個其他節(jié)點相連)等,如表3所示.模式特征即虛假輿情與事實在模式上的區(qū)別.

表3 網(wǎng)絡(luò)結(jié)構(gòu)特征

傳播假新聞的用戶多于傳播真實新聞的用戶,假新聞比真實新聞傳播得更遠,傳播者對假新聞的評論更多,假新聞傳播者比真實新聞傳播者形成更密集網(wǎng)絡(luò)[28].

謠言比真實新聞更容易受到質(zhì)疑[29],或者說有爭議的事實主張會引起某些反應(yīng),如好奇、懷疑和驚訝[30].虛假的故事在傳播中激發(fā)了恐懼、厭惡和驚訝,而真實的故事激發(fā)了期待、悲傷、喜悅和信任[27].

虛假新聞比真實新聞更新穎,這表明人們更可能分享新奇的信息[27].

模式特征是基于一定經(jīng)驗知識提取的結(jié)構(gòu)特征,是在結(jié)構(gòu)特征基礎(chǔ)上進行的.

結(jié)構(gòu)特征在網(wǎng)絡(luò)尺度較大時計算成本也大、效率低,不適合較大網(wǎng)絡(luò)的分類.圖的嵌入表示是將圖轉(zhuǎn)換為向量或向量集,可以捕獲圖的拓撲結(jié)構(gòu)、頂點到頂點的關(guān)系以及關(guān)于圖、子圖和頂點的其他相關(guān)信息,能夠很好地解決傳播網(wǎng)絡(luò)數(shù)據(jù)難以高效輸入到機器學(xué)習(xí)算法的問題.

1.3 消弭期特征選擇

爆發(fā)期檢測只能利用有限的局部傳播特征,虛假輿情與真實事件在局部傳播特征(如傳播的深度、廣度等)上具有相似性,但是完整的虛假輿情事件與真實事件在模式上卻存在很大區(qū)別.在消弭期可獲得一個傳播周期內(nèi)的全局信息,包括用戶信息、文本信息、全局傳播信息、推文元數(shù)據(jù)(如轉(zhuǎn)發(fā)數(shù)、點贊數(shù)、收藏數(shù))等.如表2中所有的特征.

元數(shù)據(jù)指的是推文在創(chuàng)建和轉(zhuǎn)發(fā)時的特征.如超鏈接(允許文章的發(fā)起者交叉引用不同的來源,從而通過證明文章的來源來獲得瀏覽者的信任[31])、轉(zhuǎn)發(fā)數(shù)、評論數(shù)、發(fā)布者、標(biāo)題、發(fā)布時間等文本內(nèi)容外的標(biāo)志標(biāo)識.

全局結(jié)構(gòu)信息與爆發(fā)期獲取的結(jié)構(gòu)信息類似,但是在輿情傳播臨近結(jié)束或結(jié)束時能獲取更全面的結(jié)構(gòu)信息.

2 技術(shù)方法

謠言檢測方法主要有2種技術(shù)路線：人工事實核查以及自動檢測方法.

2.1 人工事實核查

最初的虛假輿情檢測是通過事實核查網(wǎng)站進行的,主要采用人工進行事實核查.人工事實核查是傳統(tǒng)的事實核查方式,這些方法或者是基于專家,或者基于眾包.基于專家的事實核查方式易于管理,結(jié)果準確度高,但成本高昂,而且隨著核查內(nèi)容數(shù)量的增加,規(guī)模容易被限制.基于眾包的核查方式容易擴大核查規(guī)模,但核查者的認知偏見和相互沖突的見解成為一種新的阻礙,可信度和準確性都較低.不管采取哪種方式,這種人工的方法費時費力且覆蓋率低,已經(jīng)越來越不適應(yīng)虛假輿情檢測對規(guī)模、實時、準確等方面的要求.

2.2 自動檢測方法

人工事實核查規(guī)模小,成本高,隨著社交網(wǎng)絡(luò)的普及,這種方法只適合小規(guī)模的運營使用,對于更大范圍的虛假輿情檢測,研究者們已經(jīng)探索出以下自動檢測方法.

1) 自動事實核查.

自動事實核查分為2步：知識構(gòu)建與事實核查.知識構(gòu)建是從開源的網(wǎng)頁和數(shù)據(jù)庫中抽取需要的原始事實(實體,關(guān)系,實體)或者(實體,屬性,屬性值)2個三元組,通過本體構(gòu)建,實體抽取,關(guān)系抽取,實體鏈接、消歧、融合,知識更新,知識推理等技術(shù)構(gòu)建知識圖譜.接下來就可以進行自動事實核查,可形式化描述為：待驗證的輿情內(nèi)容為(hi,ri,ti),i=1,2,…,n,KG表示包含某些事實的知識圖庫,也用1組三元組表示(hi,rj,tj),j=1,2,…,n,則事實核查可表示為

(3)

其中,F為核查函數(shù),通過將待驗證三元組表示(hi,ri,ti)與知識庫中的三元組進行匹配,給每個三元組輸入分配一個真實性值Vi,A為聚合函數(shù),通過將1組真實性值進行聚合得到待驗證內(nèi)容的最終輸出,其中V,Vi的取值范圍均為[0,1].設(shè)定閾值θ,超過閾值則為假.

2) 傳統(tǒng)機器學(xué)習(xí)方法.

研究者將各種機器學(xué)習(xí)算法應(yīng)用于虛假輿情檢測,取得了很多成就.傳統(tǒng)的機器學(xué)習(xí)方法如決策樹[32-34]、支持向量機[32]、隨機森林[35]、基于概率(如樸素貝葉斯[35-37]和貝葉斯網(wǎng)絡(luò)[37-38])、K-近鄰[23]、回歸模型(如邏輯回歸[36]和嶺回歸[37])、傳統(tǒng)自然語言處理[39]等,采用手工提取特征,從用戶、文本內(nèi)容、元數(shù)據(jù)以及傳播結(jié)構(gòu)等信息中提取有用的特征用于發(fā)現(xiàn)虛假輿情,非常耗時耗力,而且不能提取深層的特征.

3) 深度學(xué)習(xí)方法.

隨著社交網(wǎng)絡(luò)的發(fā)展,用戶數(shù)量以及發(fā)布推文數(shù)量越來越多,虛假輿情的淺層特征越來越模糊,基于傳統(tǒng)機器學(xué)習(xí)的方法已經(jīng)不能適應(yīng)更大體量數(shù)據(jù)的檢測,人們開始探索更加有效的分類方法,如深度學(xué)習(xí)方法得到更多人的青睞.深度學(xué)習(xí)方法不依賴于人工提取特征,可以端到端輸入輸出,能夠提取到更深層次的特征,準確率、召回率等指標(biāo)一般都優(yōu)于傳統(tǒng)機器學(xué)習(xí)算法.

一些深度學(xué)習(xí)模型專注于提取文本內(nèi)容的深層語義信息,如卷積神經(jīng)網(wǎng)絡(luò)(CNN)[40-45]、BERT預(yù)訓(xùn)練模型[46-48]、長短期記憶網(wǎng)絡(luò)(LSTM)[49-51]、門控循環(huán)單元(GRU)[52]等.但虛假輿情內(nèi)容通常是故意編寫的,目的是通過模仿真實事件誤導(dǎo)用戶,因此需要探索輔助信息來改進檢測[26].于是越來越多的模型開始探索輿情傳播的結(jié)構(gòu)信息,如RNN[20],GRU[52-53]等模型可以提取輿情傳播的時序信息,而圖卷積神經(jīng)網(wǎng)絡(luò)(GCN)[17,54-56]則可以提取到輿情傳播的空間結(jié)構(gòu)信息.沿著時序關(guān)系鏈條的深度傳播以及在社區(qū)空間結(jié)構(gòu)內(nèi)的廣度擴散是輿情傳播的2個主要特征[17].

深度學(xué)習(xí)方法雖然得到廣泛的應(yīng)用與研究,但其可解釋性不強、魯棒性弱、調(diào)參困難等問題也不容忽視.相對來講,深度學(xué)習(xí)適合進行虛假輿情的感知與預(yù)警,但其可解釋性不足的問題讓人們無法完全信服模型的判斷,而人工選擇特征,可解釋性較強的傳統(tǒng)機器學(xué)習(xí)算法更適合進行決策.

3 可用數(shù)據(jù)集

社交媒體中的虛假輿情檢測旨在從現(xiàn)有的社交媒體數(shù)據(jù)集中提取有用的特征并構(gòu)建有效的模型,用于未來的虛假輿情檢測.考慮到數(shù)據(jù)可及性問題,由于平臺API提取限制,用來研究的社交平臺很少,多集中在Weibo和Twitter上.Medeiros等人[57]也發(fā)現(xiàn)Twitter和Weibo是相關(guān)研究中應(yīng)用最多的社交媒體平臺,在這些數(shù)據(jù)集上深度學(xué)習(xí)算法給出了最好的檢測結(jié)果.本文列舉了部分可用于驗證虛假輿情檢測模型的可用數(shù)據(jù)集,主要為假新聞和謠言數(shù)據(jù)集,如表4所示：

表4 可用數(shù)據(jù)集

4 評價指標(biāo)

本文主要介紹監(jiān)督學(xué)習(xí)的評價指標(biāo).在有監(jiān)督的分類模型評判指標(biāo)中,常見的方法有3種：混淆矩陣(也稱誤差矩陣)、ROC曲線、AUC值.

1) 混淆矩陣(confusion matrix).是一種特定的矩陣,用來呈現(xiàn)算法性能的可視化效果.其每一列代表實際的類別,每一行代表的是預(yù)測值(反之亦然).交叉之后形成4類情況：

① 真正例TP(true positive).被正確預(yù)測的正樣本數(shù).

② 假正例FP(false positive).被錯誤預(yù)測為正樣本的負樣本數(shù).

③ 真負例TN(true negative).被正確預(yù)測的負樣本數(shù).

④ 假負例FN(false negative).被錯誤預(yù)測為負樣本的正樣本數(shù).

正樣本是指屬于某一類別的樣本,負樣本是指不屬于某一類別的樣本.將這4個指標(biāo)一起呈現(xiàn)在表格中就能得到混淆矩陣.如表5所示：

表5 混淆矩陣

由混淆矩陣4個基本概念產(chǎn)生如下2級指標(biāo)：

① 精確率Pre(Precision),又稱查準率,即所有正樣本中有多少被正確預(yù)測,如式(4)：

(4)

② 準確率Acc(Accuracy),即所有樣本中有多少被正確預(yù)測,如式(5)：

(5)

③ 召回率Rec(Recall),又稱查全率,即所有預(yù)測為正確的樣本中有多少是正樣本,如式(6)：

(6)

④ 特異度S(Specificity),即所有預(yù)測正確的樣本中有多少負樣本,如式(7)：

(7)

由以上4個指標(biāo)進行拓展,產(chǎn)生3級指標(biāo)F1值,一般來說,查準率高時查全率往往偏低;而查全率高時,查準率往往偏低.F1值綜合了precision與recall產(chǎn)出的結(jié)果(精確率和準確率都高的情況下,F1值也會高).F1值的取值范圍從0到1,1代表模型的輸出最好,0代表模型的輸出結(jié)果最差.如式(8)：

(8)

2) ROC曲線.ROC曲線是另一種用于評價和比較二分類器的工具.它和精確率/召回率曲線有著很多的相似之處,但也有不同之處.將真正類率(TPR,即Recall)和假正類率(FPR,被錯誤分類的負樣本的比例)對應(yīng)著繪制在1張圖中,而非使用精確率和召回率,得到ROC曲線.其中：

(9)

(10)

FPR越大預(yù)測正類中實際負類越多.TPR越大預(yù)測正類中實際正類越多.理想目標(biāo)：TPR=1,FPR=0.

3)AUC值.被定義為ROC曲線下的面積,顯然這個面積的數(shù)值不會大于1.AUC值越大的分類器正確率越高.

5 研究與挑戰(zhàn)

隨著網(wǎng)絡(luò)空間的急劇變化,傳統(tǒng)的虛假輿情檢測方法面臨一些新的挑戰(zhàn),同時也促進了虛假輿情檢測技術(shù)的進一步發(fā)展.下面簡述當(dāng)前虛假輿情檢測面臨的問題及未來可關(guān)注的方向.

1) 分布式聯(lián)邦學(xué)習(xí).當(dāng)前文獻進行研究的數(shù)據(jù)體量較小,而真實世界中的數(shù)據(jù)體量比實驗數(shù)據(jù)大多個層級,其模式無法適應(yīng)真實網(wǎng)絡(luò)的應(yīng)用,需要進行更大規(guī)模的數(shù)據(jù)承載以及分析.為了保證數(shù)據(jù)的隱私以及數(shù)據(jù)的批量處理,實現(xiàn)跨域共享,下一步可以利用分布式聯(lián)邦學(xué)習(xí)解決更大數(shù)據(jù)量的謠言檢測.

2) 多模態(tài)跨域檢測.很多研究局限于社交網(wǎng)絡(luò)或者單一模態(tài)的數(shù)據(jù).而不同的平臺,不同的網(wǎng)絡(luò)、不同模態(tài)的數(shù)據(jù)中蘊含不同的信息.這些數(shù)據(jù)在網(wǎng)絡(luò)和屬性耦合的過程中,能夠為識別謠言提供更有價值的信息.在聯(lián)邦學(xué)習(xí)的基礎(chǔ)上整合多域多模態(tài)數(shù)據(jù),可以進一步提高謠言識別的效果,增強定位謠言的可解釋性.

6 結(jié) 語

本文將虛假輿情的外延表現(xiàn)具體化,將誤導(dǎo)信息、假新聞、謠言、諷刺、網(wǎng)絡(luò)欺凌、惡意言論等拓展為虛假輿情的表現(xiàn)形式,以便從自然科學(xué)角度分析虛假輿情的注入與傳播.為了清晰有效地刻畫早期檢測的概念,本文將輿情傳播周期的概念融入虛假輿情檢測,分析探索了不同階段特征工程的不同,以及如何從輿情傳播不同階段進行檢測.總結(jié)了近年來在虛假輿情檢測方面的突出研究,主要介紹了特征工程、技術(shù)路線、可用數(shù)據(jù)集、評價指標(biāo)以及一些研究與挑戰(zhàn).