李?yuàn)檴櫍?孫曉玲， 袁國(guó)銘

(1. 防災(zāi)科技學(xué)院信息工程學(xué)院， 河北 三河 065201； 2. 防災(zāi)科技學(xué)院智能信息處理研究所， 河北 三河 065201)

0 引言

隨著移動(dòng)互聯(lián)網(wǎng)的廣泛應(yīng)用與“兩微一端”的普及，涌現(xiàn)出許多新形式的社交媒體，包括微博、微信、博客、論壇和社交網(wǎng)站等[1-3]。社交媒體的出現(xiàn)徹底改變了人們獲取信息和傳播信息的方式。在不同形式的社交媒體中，微博以其新型的社交方式，廣大的用戶基礎(chǔ)以及多媒體技術(shù)的融合，成為當(dāng)今信息產(chǎn)生和傳播的重要平臺(tái)。

在這一新形勢(shì)下，在破壞性地震發(fā)生后，大量網(wǎng)友涌入新浪微博，表達(dá)個(gè)人觀點(diǎn)、態(tài)度和情感等。大量與地震相關(guān)的信息在新浪微博發(fā)布并廣泛傳播，匯集成海量數(shù)據(jù)。這些數(shù)據(jù)含有非常寶貴的第一時(shí)間信息，如包含震感、房屋破壞、人員傷亡情況和地震地質(zhì)災(zāi)害等大量的圖、視頻和文字的地震輿情及災(zāi)情信息。這些信息對(duì)災(zāi)情信息的快速獲取、定位、處理、分析和研判起到至關(guān)重要的作用。但輿情數(shù)據(jù)中也有消極負(fù)面的信息，它們能迅速擴(kuò)散并造成震區(qū)恐慌情緒蔓延，嚴(yán)重影響社會(huì)秩序。如何從海量數(shù)據(jù)中挖掘出潛在有效信息，對(duì)于政府進(jìn)行輿情的監(jiān)測(cè)、引導(dǎo)和輿情處置等有著十分重要的意義。

然而，傳統(tǒng)人工分析的方式，已經(jīng)無(wú)法應(yīng)對(duì)當(dāng)下實(shí)時(shí)的不斷暴漲的海量震后輿情。因此，對(duì)地震后海量輿情進(jìn)行實(shí)時(shí)監(jiān)測(cè)、情感傾向挖掘分析和準(zhǔn)確預(yù)警迫在眉睫。

目前，有一些學(xué)者開(kāi)始了此項(xiàng)研究。楊順達(dá)等都對(duì)涉震輿情的演化機(jī)理進(jìn)行了研究[4]； 鄧月飛等對(duì)云南通海、巧家MS5.0 地震輿情的引導(dǎo)進(jìn)行研究[5]。崔滿豐等對(duì)地震網(wǎng)絡(luò)輿情監(jiān)測(cè)與應(yīng)對(duì)機(jī)制進(jìn)行研究[6]。李俊磊研究了將大數(shù)據(jù)技術(shù)應(yīng)用到網(wǎng)絡(luò)輿情信息監(jiān)測(cè)和感知中[7]。這些研究都認(rèn)識(shí)到了地震輿情研究的重要性，但是他們主要關(guān)注的是策略和機(jī)制，并未對(duì)實(shí)現(xiàn)技術(shù)進(jìn)行探討。技術(shù)層面的研究比較少。李亞芳等基于新浪微博大數(shù)據(jù)，運(yùn)用網(wǎng)絡(luò)爬蟲(chóng)技術(shù)，獲取新疆伽師6.4級(jí)地震后48h新浪微博相關(guān)的博文和評(píng)論，進(jìn)行了輿情信息的可視化研究[8]。但是僅做了數(shù)據(jù)可視化，尚未實(shí)現(xiàn)輿情的情感分析和預(yù)警等功能。

當(dāng)前，新興的大數(shù)據(jù)技術(shù)和深度學(xué)習(xí)成為處理和挖掘分析海量數(shù)據(jù)的一大利器。本文主要從技術(shù)層面進(jìn)行研究，提出構(gòu)建一個(gè)基于Word2vec和LSTM融合模型的集地震輿情數(shù)據(jù)抓取，監(jiān)測(cè)、處理分析、挖掘建模和預(yù)測(cè)預(yù)警為一體的地震輿情感知平臺(tái)。通過(guò)大數(shù)據(jù)技術(shù)搭建分布式計(jì)算和存儲(chǔ)平臺(tái)，實(shí)現(xiàn)對(duì)輿情數(shù)據(jù)的全天候抓取、監(jiān)測(cè)和存儲(chǔ)。通過(guò)Word2vec和LSTM融合模型對(duì)以往的歷史數(shù)據(jù)進(jìn)行訓(xùn)練建模，并用該模型來(lái)對(duì)輿論的情感傾向性進(jìn)行預(yù)測(cè)，為輿情的預(yù)警提供支持，從而提供全方位的輿情服務(wù)。通過(guò)與傳統(tǒng)深度學(xué)習(xí)模型進(jìn)行對(duì)比實(shí)驗(yàn)，驗(yàn)證了本文提出的Word2vec和LSTM融合模型在地震輿情情感識(shí)別中具有更高的精確率。

圖 1 地震輿情感知平臺(tái)模型Fig.1 The model of earthquake public opinion perception platform

1 地震輿情感知平臺(tái)模型

本文采用大數(shù)據(jù)技術(shù)和深度學(xué)習(xí)技術(shù)設(shè)計(jì)提出了一個(gè)地震輿情感知平臺(tái)模型，如圖 1所示。模型的層次結(jié)構(gòu)為：(1)Hadoop基礎(chǔ)構(gòu)架層。采用Hadoop[9]搭建大數(shù)據(jù)分布式計(jì)算平臺(tái)，實(shí)現(xiàn)對(duì)海量輿情數(shù)據(jù)的處理和分析，為上層地震輿情存儲(chǔ)層提供操作接口。(2)地震輿情數(shù)據(jù)存儲(chǔ)層。采用MongoDB[10]實(shí)現(xiàn)對(duì)實(shí)時(shí)海量監(jiān)測(cè)數(shù)據(jù)的分布式存儲(chǔ)； 采用MySql對(duì)歷史數(shù)據(jù)和處理分析結(jié)果進(jìn)行存儲(chǔ)。(3)數(shù)據(jù)采集處理分析層。本層完成從數(shù)據(jù)采集到數(shù)據(jù)預(yù)處理、統(tǒng)計(jì)分析、建模訓(xùn)練、情感分析和預(yù)警整個(gè)流程，并為上層地震輿情可視化層提供接口。數(shù)據(jù)采集模塊采用Scrapy框架爬取微博中地震熱點(diǎn)信息、地震博文的評(píng)論信息和評(píng)論用戶信息等數(shù)據(jù)。數(shù)據(jù)預(yù)處理模塊對(duì)爬取到的數(shù)據(jù)進(jìn)行清洗、文本分詞，以及預(yù)訓(xùn)練模型生成詞向量，為后續(xù)模型的輸入提供支持。統(tǒng)計(jì)分析模塊實(shí)現(xiàn)地震輿情走勢(shì)、用戶行為、熱詞和傳播等多維度統(tǒng)計(jì)分析。建模訓(xùn)練模塊采用LSTM構(gòu)建深度神經(jīng)網(wǎng)絡(luò)模型。情感分析模塊基于已經(jīng)訓(xùn)練好的情感分析模型對(duì)爬取到的輿情數(shù)據(jù)進(jìn)行自動(dòng)情感分類。預(yù)警模塊將情感分析結(jié)果為負(fù)面的輿情與敏感詞庫(kù)進(jìn)行比對(duì)，敏感度超過(guò)80%將觸發(fā)報(bào)警，引發(fā)關(guān)注。(4)地震輿情可視化層。本層采用Boostrape4.0框架構(gòu)建，使用Echarts加載和渲染數(shù)據(jù)，提供地震輿情概況分析、傳播分析、輿論聚合和用戶畫像等可視化功能。

2 數(shù)據(jù)采集

以微博熱搜為起點(diǎn)，從數(shù)據(jù)庫(kù)獲取經(jīng)過(guò)篩選的熱搜關(guān)鍵詞，將其添加到分布式隊(duì)列中等待爬取。以爬取結(jié)果為中心對(duì)評(píng)論及評(píng)論用戶信息進(jìn)行全天候，多維度循環(huán)深入爬取，將爬取結(jié)果保存到MongoDB數(shù)據(jù)庫(kù)。針對(duì)微博結(jié)構(gòu)復(fù)雜、數(shù)據(jù)量大的特點(diǎn)，本文使用Scrapy框架進(jìn)行數(shù)據(jù)爬取，采用基于廣度優(yōu)先策略的聚焦網(wǎng)絡(luò)爬蟲(chóng)，抓取與地震主題匹配更高的網(wǎng)頁(yè)。

3 數(shù)據(jù)預(yù)處理3.1 數(shù)據(jù)清洗

使用分布式爬蟲(chóng)抓取到的地震輿情短文本數(shù)據(jù)中包含大量臟數(shù)據(jù)，比如無(wú)意義的html標(biāo)簽、特殊詞、符號(hào)、表情和URL等。采用文本去重法和機(jī)械詞壓縮法清洗這些臟數(shù)據(jù)：(1)文本去重。采用python語(yǔ)言及pandas庫(kù)的unique方法刪除完全重復(fù)的數(shù)據(jù)。(2)機(jī)械壓縮去詞。某些文本自身存在大量機(jī)械重復(fù)的語(yǔ)料，如“加油加油加油!”。通過(guò)創(chuàng)建兩個(gè)存放國(guó)際字符的列表來(lái)完成。讀取國(guó)際字符，將其放入相應(yīng)的國(guó)際字符列表，若觸發(fā)壓縮規(guī)則，則進(jìn)行列表清空壓縮去重。

3.2 文本分詞

分詞結(jié)果的準(zhǔn)確性會(huì)影響到后續(xù)特征的選擇，進(jìn)而會(huì)對(duì)輿情文本數(shù)據(jù)的分析和建模挖掘產(chǎn)生巨大的影響。英文基于語(yǔ)法的特點(diǎn)，詞語(yǔ)間有空格作為明顯的分隔符。而中文中的詞語(yǔ)長(zhǎng)短不一，邊界模糊，處理難度較大。本文采用jieba[11]進(jìn)行分詞。jieba分詞基于統(tǒng)計(jì)詞典，構(gòu)造一個(gè)前綴詞典。然后利用前綴詞典對(duì)輸入句子進(jìn)行切分，得到所有的切分可能，根據(jù)切分位置，構(gòu)造一個(gè)有向無(wú)環(huán)圖。通過(guò)動(dòng)態(tài)規(guī)劃算法查找最大概率路徑，找出基于詞頻的最大切分組合。對(duì)于未登錄詞，采用基于漢字成詞能力的HMM模型訓(xùn)練模型自動(dòng)發(fā)現(xiàn)新詞，并對(duì)詞典庫(kù)進(jìn)行更新。

3.3 預(yù)訓(xùn)練模型

分詞后的數(shù)據(jù)仍然為文本數(shù)據(jù)，而模型的輸入是數(shù)據(jù)元組。因此，需要將每條數(shù)據(jù)的詞語(yǔ)組合轉(zhuǎn)化為一個(gè)數(shù)值向量，即詞向量。常見(jiàn)的轉(zhuǎn)化算法有BOW、TF-IDF和Word2vec[12]。BOW根據(jù)詞典中對(duì)應(yīng)詞在文檔中出現(xiàn)的次數(shù)構(gòu)建向量。這種方法會(huì)產(chǎn)生“詞匯鴻溝”現(xiàn)象，忽略了詞語(yǔ)間的語(yǔ)法和順序，無(wú)法了解詞語(yǔ)間的關(guān)聯(lián)程度。TF-IDF以詞語(yǔ)出現(xiàn)的頻率為權(quán)重構(gòu)建向量。如果某個(gè)詞在一篇文章中出現(xiàn)的頻率高，且在其他文章中出現(xiàn)的頻率低，則認(rèn)為其具有很好的類別區(qū)分能力，賦予其更高的權(quán)重。這種方法單純以詞頻作為單詞重要性度量，對(duì)位置沒(méi)有敏感性。Word2vec采用神經(jīng)網(wǎng)絡(luò)語(yǔ)言模型，將每個(gè)詞輸入到神經(jīng)網(wǎng)絡(luò)模型中進(jìn)行訓(xùn)練，生成一個(gè)實(shí)數(shù)向量。一般分為兩種模型：CBOW和Skip-Gram。CBOW模型的訓(xùn)練輸入是某一個(gè)特征詞的上下文相關(guān)的詞對(duì)應(yīng)的詞向量，而輸出就是這特定的一個(gè)詞的詞向量。Skip-Gram正好相反，它的輸入是特定的一個(gè)詞的詞向量，而輸出是特定詞對(duì)應(yīng)的上下文詞向量。

4 神經(jīng)網(wǎng)絡(luò)訓(xùn)練模型

圖 2 LSTM 基本結(jié)構(gòu)Fig.2 The basic structure of LSTM

地震輿情數(shù)據(jù)是自然語(yǔ)言處理中的時(shí)序數(shù)據(jù)，需要考慮詞與詞的前后順序。循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)[13]是一種常用于處理序列數(shù)據(jù)的神經(jīng)網(wǎng)絡(luò)。然而傳統(tǒng)RNN僅有一種記憶疊加方式，網(wǎng)絡(luò)會(huì)遇到梯度消失問(wèn)題，使學(xué)習(xí)和調(diào)整網(wǎng)絡(luò)之前層的參數(shù)變得非常困難，在實(shí)際中很難處理長(zhǎng)期依賴。長(zhǎng)短期記憶人工神經(jīng)網(wǎng)絡(luò)LSTM[14-15]能夠很好地解決這個(gè)問(wèn)題。它通過(guò)門控狀態(tài)來(lái)控制傳輸狀態(tài)，記住需要長(zhǎng)時(shí)間記憶的信息，忘記不重要的信息。如圖 2所示，它包含三個(gè)門：輸入門、遺忘門和輸出門。輸入門決定有多少信息可以流入當(dāng)前細(xì)胞，遺忘門決定細(xì)胞有多少信息會(huì)被遺忘，輸出門決定細(xì)胞內(nèi)多少信息被輸出。

(1)遺忘門。它讀取前一個(gè)輸入ht-1和當(dāng)前輸入xt，通過(guò)sigmoid層為細(xì)胞上一個(gè)狀態(tài)Ct-1中的每個(gè)數(shù)字輸出0和1之間的數(shù)字。1代表完全保留，而0代表徹底刪除。計(jì)算公式為：

ft=σ(Wf·[ht-1，xt]+bf)

(1)

(2)輸入門。Sigmoid層決定哪些信息需要更新，產(chǎn)生it，見(jiàn)式(2)。tanh層根據(jù)前一個(gè)的輸出值ht-1和當(dāng)前的輸入值xt產(chǎn)生一個(gè)新的候選值向量，見(jiàn)式(3)。兩部分聯(lián)合實(shí)現(xiàn)對(duì)一個(gè)細(xì)胞狀態(tài)的更新。

it=σ(Wi·[ht-1，xt]+bi)

(2)

(3)

(3)輸出門。通過(guò)sigmoid層確定細(xì)胞狀態(tài)的輸出部分。通過(guò)tanh進(jìn)行處理并將它和sigmoid門的輸出相乘，最終確定輸出部分。計(jì)算公式見(jiàn)(4)、(5)。

Ot=σ(Wo·[ht-1，xt]+bo)

(4)

ht=ot*tanh(Ct)

(5)

整個(gè)過(guò)程類似流水線，實(shí)現(xiàn)信息的加工處理。前一個(gè)狀態(tài)Ct-1輸入以后會(huì)經(jīng)過(guò)遺忘和添加新的內(nèi)容，最終輸出新的狀態(tài)到下一個(gè)細(xì)胞。

圖 3 地震輿情感知平臺(tái)實(shí)驗(yàn)床Fig.3 The experimental bed of earthquake public opinion perception platform

5 實(shí)驗(yàn)及分析

5.1 數(shù)據(jù)采集與統(tǒng)計(jì)分析

基于以上技術(shù)分析要點(diǎn)和設(shè)計(jì)方案，本文初步實(shí)現(xiàn)了一個(gè)基于大數(shù)據(jù)挖掘技術(shù)的地震輿情感知平臺(tái)實(shí)驗(yàn)床“掘微輿情1.0”，其界面如圖 3所示。該平臺(tái)可實(shí)時(shí)監(jiān)測(cè)分析地震相關(guān)輿情。在該實(shí)驗(yàn)床上，以2020年12月10日21時(shí)19分在臺(tái)灣宜蘭縣海域(24.74°N， 121.99°E)發(fā)生的5.8級(jí)地震輿情數(shù)據(jù)為例進(jìn)行測(cè)試。系統(tǒng)后臺(tái)的分布式爬蟲(chóng)采集了地震發(fā)生后40h內(nèi)476237條微博輿情數(shù)據(jù)，構(gòu)建了此次地震事件的脈絡(luò)及傳播矩陣。數(shù)據(jù)量隨時(shí)間波動(dòng)如圖 4所示，反映了地震發(fā)生后輿情的走勢(shì)。在第二天早上10點(diǎn)左右達(dá)到高峰，數(shù)據(jù)量達(dá)到24800。隨著時(shí)間推移，輿論熱度逐漸消退。

圖 4 2020年12月10日臺(tái)灣地震后40h輿情走勢(shì)圖Fig.4 The trend of public opinion for 40 hours after the earthquake in Taiwan on Dec.10， 2020

5.2 數(shù)據(jù)預(yù)處理

基于前文提出的數(shù)據(jù)清洗方法進(jìn)行數(shù)據(jù)清洗，去除了大量html標(biāo)簽、特殊詞、符號(hào)、表情、URL以及重復(fù)數(shù)據(jù)后，數(shù)據(jù)規(guī)模為425674條。采用jieba進(jìn)行分詞，并生成詞云圖，如圖 5所示。詞云圖可以對(duì)輿情形成第一印象，而不用一條條去翻閱微博，節(jié)省時(shí)間，同時(shí)也真實(shí)地展示了輿論。此外，平臺(tái)還生成了此次輿情的意見(jiàn)領(lǐng)袖，傾聽(tīng)他們的聲音有助于對(duì)輿論方向的判斷。

圖 5 地震輿情詞云圖Fig.5 WordCloud of earthquake public opinion

5.3 模型訓(xùn)練

為了進(jìn)行后續(xù)建模和訓(xùn)練，我們選取經(jīng)過(guò)數(shù)據(jù)清洗后的12000條數(shù)據(jù)進(jìn)行試驗(yàn)，對(duì)其進(jìn)行人工情感標(biāo)注。1為積極(正向)， 0為消極(負(fù)向)。將其中70%作為訓(xùn)練數(shù)據(jù)， 30%作為測(cè)試數(shù)據(jù)。具體過(guò)程如下：(1)采用Word2vec的CBOW模型，將訓(xùn)練數(shù)據(jù)所有詞輸入模型，獲取與目標(biāo)詞上下文相關(guān)的前后N個(gè)詞語(yǔ)的詞向量，通過(guò)計(jì)算目標(biāo)詞的條件概率和最大化條件概率值預(yù)測(cè)目標(biāo)詞，生成詞向量。(2)采用五層網(wǎng)絡(luò)結(jié)構(gòu)構(gòu)建LSTM神經(jīng)網(wǎng)絡(luò)，分別為詞嵌入層、LSTM單元層、dropout層、二分類全連接層和激活層。將訓(xùn)練生成的詞向量集合輸入LSTM層。為了防止過(guò)擬合，設(shè)置dropout為0.5。經(jīng)過(guò)實(shí)驗(yàn)驗(yàn)證，兩層的全連接層的準(zhǔn)確率并沒(méi)有較一層提高，并且逼近速度較慢，因此實(shí)驗(yàn)選擇一層全連接層。激活函數(shù)選用Softsign。定義損失函數(shù)為二元交叉熵binary_crossentopy。使用反向傳播算法，不斷調(diào)整模型的參數(shù)，反復(fù)迭代，使得損失函數(shù)最小化。(3)生成情感分析模型，將模型參數(shù)導(dǎo)出存儲(chǔ)。

5.4 模型評(píng)估

使用Word2vec同樣生成測(cè)試集的詞向量。將詞向量輸入到上一步訓(xùn)練好的情感分析模型，預(yù)測(cè)生成測(cè)試樣本的情感標(biāo)簽。將生成的測(cè)試集樣本的情感標(biāo)簽與人工標(biāo)注進(jìn)行對(duì)比，評(píng)估模型的效果。為了進(jìn)一步進(jìn)行模型效果評(píng)價(jià)，本文同時(shí)選用了傳統(tǒng)CNN進(jìn)行實(shí)驗(yàn)，模型特征同樣采用詞嵌入方式，一維卷積層的卷積核長(zhǎng)度為3，共265個(gè)。

評(píng)估衡量指標(biāo)包括精確率Precision，召回率Recall和兩者的調(diào)和指標(biāo)F1-score。通過(guò)對(duì)數(shù)據(jù)集合中的正負(fù)情感數(shù)進(jìn)行統(tǒng)計(jì)，得出表 1中的TP、FN、FP和TN。精確率、召回率以及F1-score計(jì)算公式如下：

表 1 評(píng)價(jià)指標(biāo)參數(shù)Tab.1 Evaluation index parameters

(6)

(7)

(8)

由表 2可見(jiàn)，在地震輿情情感識(shí)別問(wèn)題中，LSTM的精確率高達(dá)93.76%。LSTM在精確率，召回率和F1-score各指標(biāo)中均高于傳統(tǒng)經(jīng)典的CNN。分別選取總體數(shù)據(jù)的0.2、0.4、0.6和0.8作為訓(xùn)練數(shù)據(jù)集進(jìn)行測(cè)試，結(jié)果如圖 6所示。LSTM在訓(xùn)練集數(shù)據(jù)僅為40%時(shí)就已經(jīng)達(dá)到90%以上的精確率，逼近速度較快。實(shí)驗(yàn)表明LSTM在地震輿情情感分析中有較好的效果和性能，能夠?qū)ψト〉降牡卣疠浾撨M(jìn)行情感識(shí)別。將被分為負(fù)向情感的輿論敏感度與敏感詞庫(kù)進(jìn)行比對(duì)，若超過(guò)最小閾值80%，則被判定為具有危害的輿論，系統(tǒng)將啟動(dòng)預(yù)警響應(yīng)，發(fā)送預(yù)警消息或郵件，通知相關(guān)部門進(jìn)行網(wǎng)絡(luò)干預(yù)。

表 2 情感識(shí)別效果比較Tab.2 Comparison of emotional recognition effect

圖 6 LSTM和CNN的性能對(duì)比Fig.6 Performance comparison between LSTM and CNN

6 結(jié)論

震后海量輿情數(shù)據(jù)的實(shí)時(shí)感知對(duì)于政府進(jìn)行輿情的監(jiān)測(cè)、引導(dǎo)和處置等有著十分重要的意義。本文提出的采用大數(shù)據(jù)技術(shù)和深度學(xué)習(xí)技術(shù)的地震輿情感知平臺(tái)能夠?qū)崿F(xiàn)震后輿情動(dòng)態(tài)分析，自動(dòng)識(shí)別輿情情感，對(duì)危害性大的輿情進(jìn)行預(yù)警。基于Word2vec和LSTM的融合模型在地震輿情情感識(shí)別中具有更高的精確率。地震謠言具有強(qiáng)烈的情感傾向，本文所構(gòu)建的地震輿情情感識(shí)別模型為后續(xù)謠言的準(zhǔn)確識(shí)別提供了強(qiáng)有力的支持。后續(xù)研究中，將基于本文的地震輿情情感識(shí)別模型，加入用戶行為數(shù)據(jù)特征(用戶畫像)，可進(jìn)一步構(gòu)建謠言模型，實(shí)現(xiàn)對(duì)謠言的識(shí)別。本文初步設(shè)計(jì)開(kāi)發(fā)的地震輿情感知平臺(tái)“掘微輿情1.0”功能在地震輿情應(yīng)急處置方面有待進(jìn)一步提升。