張朝龍， 許源平， 鄭皎凌

(成都信息工程大學軟件工程學院，四川成都610225)

0 引言

在大數據時代，互聯網已成為非常重要的輿論平臺，現今人們不僅是網絡的消費者，同時也是網絡信息的生產者，越來越多的人愿意在網絡上表達自己的觀點、態(tài)度和想法［1］。網絡上每天都會有海量的輿論話題產生，一個輿論話題可以通過微博、論壇、朋友圈迅速傳播與擴散，網絡輿情會直接影響社會輿情的走向，進而產生重大的社會影響［2］。通過輿情監(jiān)控可有效識別網絡輿情，過濾垃圾、有害、惡意的信息，針對發(fā)布的虛假信息進行溯源，對維護互聯網的正常秩序具有重要的意義［3］。文本情感分類算法可有效識別網絡文本所表達的情感，有助于及早發(fā)現惡意、有害的信息，因此，Web文本的情感極性分類算法在網絡輿情監(jiān)控應用方面具有重要的研究價值。

在文本的情感極性分類方面，前人已經做了大量的相關研究工作，并取得了較好的研究成果。目前文本情感分類方面主要有兩種研究思維:基于情感詞典和基于機器學習的算法［4-5］。

基于情感詞典的方法如Tong［6］通過人工選擇建立了專用情感詞庫，Hu［7］通過判斷新詞的方法解決了Tong建立的詞庫只能用于特定領域的問題。中文方面李純等［8］從語言學角度出發(fā)，提出中心詞概念來進行情感極性分類。

在另一方面，基于機器學習的方法中常用的算法有Rocchio分類算法、SVM(支持向量機)、Bayes(貝葉斯算法)、KNN(K-近鄰算法)、互信息(Mutual Information)等。Pang 等［9］學者分別應用 Native Bayes、ME(Maximum Entropy)、SVM方法對電影評論語料進行了情感分類。孟迪等［10］學者提出的H-C算法改進了傳統(tǒng)互信息方法情感項可信度的計算方法，在一定程度上改善了概率偏向的問題。

當前主要的情感極性分類方法存在以下問題:(1)大都是以單詞為基礎，忽略了句子級和篇章級對文本情感的影響;(2)情感詞庫一般都是針對某一特定領域，不具有通用性;(3)情感詞庫中情感詞的情感只有正面和負面兩種，忽略了不同情感詞對句子和篇章的影響權重;(4)由于網絡文本的隨意性，結構復雜，語法錯誤，使得傳統(tǒng)機器學習方法的效果大大降低。例如，H-C等機器學習算法大都難以處理不規(guī)范的文本［10］，特別是 Web 文本。

在前人的基礎上，針對傳統(tǒng)情感分類方法存在的缺點，綜合協同過濾和文本相似度計算，提出了一種新型高效的Web文本情感極性分類方法。協同過濾算法廣泛應用于推薦系統(tǒng)［11］，其可被分類為基于用戶(User-Based)的算法和基于項目(Item-based)的算法。在文本情感極性分類算法中，可把文本看作用戶(Us-er)，把文本中的情感詞看作項目(Item)。其基本原理是利用已知情感的文本(用戶)獲取情感詞(項目)信息，再預測未知情感的文本的情感極性。該算法具有以下優(yōu)點:(1)不是簡單地統(tǒng)計單詞，而是從句子級和篇章級來整體分析文本;(2)對多個領域的文本都能有效的分類，具有較強的通用性;(3)不依賴于情感詞庫;(4)基于文本相似度計算，對網絡不規(guī)范的文本也具備較好地處理能力。

課題設計并實現的算法包含:文本-情感詞矩陣表示、相似度計算、協同過濾情感詞評分和Top-N情感詞推薦。

實驗表明，基于協同過濾和文本相似性的情感極性分類算法相比于傳統(tǒng)的基于情感詞典和基于機器學習的算法具有更高的查全率和準確率。

1 文本情感詞覆蓋率情況統(tǒng)計實驗

中文文本中常用字出現的頻率非常高，國家語言文字工作委員會和國家教育委員會發(fā)布的《現代漢語常用字表》中常用字只有2500個，次常用字1000個。山西大學計算機科學系統(tǒng)計了200萬字的語料，檢測常用字的使用頻率和覆蓋率，其結果是:常用字覆蓋率達 97.97%［12］。

中文詞匯方面也有類似的特點，北京語言學院語言教學所對200萬字現代漢語語料進行了統(tǒng)計，列出了使用度最高的前8000詞詞表?？梢娭形奈谋臼褂玫脑~匯大都是出自高頻詞匯。

基于這個前提，對網絡文本進行了統(tǒng)計。從鳳凰新聞、新浪新聞、天涯論壇及地方論壇共提取了2670篇文檔，對其進行詞頻統(tǒng)計，其中1500篇用于統(tǒng)計詞頻，1170篇用于詞頻覆蓋率統(tǒng)計。統(tǒng)計結果如表1所示。其中平均覆蓋率和80%覆蓋率所占的比率增長圖1如所示。

表1 文本詞組覆蓋率統(tǒng)計

圖1 文本詞組覆蓋增長率統(tǒng)計圖

考慮影響文本情感極性的詞組的詞性包含形容詞、名詞、動詞、狀態(tài)詞、代詞［10］。其中，形容詞大多修飾某種情感，所以目前大多數文本情感分類算法都以形容詞為基礎。但是，根據語料分析，發(fā)現引入形容詞的同時將名詞、動詞、狀態(tài)詞、代詞一并考慮會大大提高情感分類的準確性(實驗結果見表7)，因為雖然大多數名詞、動詞、狀態(tài)詞和代詞本身并沒有情感傾向，但擁有相同情感極性的文本中通常會重復出現某些詞性為名詞、動詞、狀態(tài)詞和代詞的詞匯，比如在文中使用的情感挖掘語料［13］中關于酒店的評論中包含的“房間”這個名詞在負面評論中出現的頻率非常高，如“房間很舊，有霉味，居然還有蟑螂”、“房間地毯還有沙發(fā)都很臟”，這里的“房間”、“蟑螂”都是名詞，本身也沒有極性，但它們出現在文本中都是為了說明房間不好，即為負面情感服務的。因此，把形容詞、名詞、動詞、狀態(tài)詞、代詞都識別為情感詞。

利用上述文本針對情感詞進行了詞頻統(tǒng)計，統(tǒng)計結果如表2所示。其中平均覆蓋率和80%覆蓋率所占的比率增長圖如圖2所示。

表2 文本情感詞覆蓋率統(tǒng)計

從表1、表2、圖1、圖2可以看出，文檔數從100篇增加到300篇時，詞匯的覆蓋率和情感詞的覆蓋率快速上升(全部詞匯的平均覆蓋率從79.01%上升到89.77%，情感詞的覆蓋率從74.34%上升到89.77%)，詞匯80%覆蓋率所占的比率急劇上升(全部詞匯從47.69%上升到97.44%，情感詞從24.01%上升到92.22%)。當文檔數達到500篇時，所包含的詞匯和情感詞在測試文檔中均能達到90%以上，且覆蓋率達80%以上的文檔所占的比率在90%以上，覆蓋率趨于穩(wěn)定狀態(tài)。這和北京語言學院語言教學所做的統(tǒng)計結果一致。實驗結果表明，少量文檔中出現的詞匯基本能覆蓋大多數文檔中的詞匯，這類詞匯就是常用高頻詞匯。

圖2 情感詞覆蓋增長率統(tǒng)計圖

2 協同過濾在文本情感極性分類的應用

2．1 文本-情感詞矩陣表示法

從前一章的統(tǒng)計詞匯覆蓋率的相關實驗結果可以得出大部分文本使用的詞匯都為常用高頻詞匯。一篇文本包含多個情感詞，一個情感詞也會出現在多篇文本中。使用協同過濾算法，可把文本看作用戶(User)，把文本中的情感詞看作項目(Item)，從而得到一個二維表，其中每行表示為一個文本(User)，每列表示一個情感詞(Item)，而值是文本中出現相應情感詞的得分情況，這樣就生成了文本-情感詞評分矩陣如表3所示。

表3 文本-情感詞評分矩陣R(m，n)

2．2 文本相似度計算

相似度的計算方法很多，如常用的有相關相似性(Correlation Similar)［14］、余弦相似性(Cosine Similarity)［15］和修正、余弦相似性(Adjusted Cosine Similarity)［14］，和基于云模型的相似度［14］。相關相似性也稱皮爾森(Pearson)系數相關，可用于度量用戶之間的相似性。余弦相似性是通過計算用戶間的向量夾角的余弦值來度量用戶之間的相似性。修正的余弦相似性是對余弦相似性的一種改進，主要改善了不同用戶評分標準不一致所帶來的缺陷。云模型把每個用戶看作一朵云，通過逆向云算法計算兩朵云的相似度［15］。

不同的Web文本，因為文本長度不同，向量規(guī)模也不同，比如一篇10000字的文本比一篇500字的文本的向量維度規(guī)模大很多，比較規(guī)模沒有太大意義。余弦相似度計算通過計算兩個向量的夾角來度量它們的相似度，在比較過程中，向量的規(guī)模不予考慮，僅僅考慮向量的方向，可有效避免因文本規(guī)模不同而產生的差異。通過計算向量的夾角可有效地判斷文本的相似度。因此，本文采用余弦相似性計算兩個文本的相似度，計算公式為

其中，Ri，c和 Rj，c分別表示文檔 i和文檔 j對情感詞c(Itemc)的評分。

2．3 文本情感極性輸出

根據文本相似性可計算出待預測情感極性的目標文檔的最近鄰居集合。為輸出文本情感極性，還需應用的基本步驟包括:求出文檔對任意情感詞的評分和文本Top-N的情感詞推薦。

文檔對任意情感詞的評分。對于文檔uk，最近鄰居集合 U={u1，u2，…，up}，uk不屬于 U，從 u1到 up，sim(uk，ui)從大到小排列?？衫孟嗨凄従舆M行中心加權求和的方法來給情感詞i評分

其中，Puk，i表示文檔 uk對情感詞 i的評分表示文檔uj在已經打分的情感詞的平均分，sim(uk，uj)是余弦相似度。

Top-N的情感詞推薦。分別統(tǒng)計待預測“最近鄰居”集中的文檔對不同情感詞的評分的加權平均值，其中N個排在前面且不屬于Ii(Ii表示用戶i評分的情感詞集合)的情感詞作為Top-N推薦集。在得出Top-N推薦集后，文檔獲得了新的情感詞推薦，對相似度低于閥值的文檔使用新的文本-情感詞向量矩陣計算文本相似度。通過迭代使用相似性計算和協同過濾算法，可進一步判斷待預測文本的情感極性。

3 情感極性分類算法實現

圖3 基于協同過濾和文本相似性的文本情感極性分類流程

表4 文檔-情感詞表

表5 文檔-情感詞評分矩陣

圖3總結了該基于協同過濾和文本相似性的文本情感極性分類算法的總體處理流程。先對已知情感極性和待預測情感極性文本做預處理，提取文本中的情感詞，形成一個文檔-情感詞二維矩陣。再使用余弦相似性計算方法，式(1)計算文本間的相似度，當待預測文檔與已知情感極性的文檔的相似度大于閥值時，可直接對該文本推薦情感極性，其情感極性為相似度最大的已知情感極性的文檔的情感極性。對于低于閥值的文檔，需要繼續(xù)使用協同過濾算法計算文檔對情感詞的評分和Top-N情感詞推薦，并進一步計算文本相似度。

假設有5篇文檔，文檔所包含的情感詞和情感極性如表4所示，其中文檔1和文檔4的情感已知，其它文檔為待預測的文檔。先把文檔和情感詞矩陣化，得到文檔-情感詞評分矩陣，如表5所示。再使用余弦相似性計算式(1)分別計算文檔之間的相似度，計算結果如下

文檔2和文檔3相似度低于閥值，需要迭代計算。其中文檔2的最近鄰居為 U={u1，u3，u4，u5}，由公式2計算文檔2的情感詞“幸福”、“真摯”、“差”、“無語”和“吐槽”的評分，結果如下

再根據Top-N推薦情感詞，可認為文檔2也包含“幸?！焙汀罢鎿础边@兩個情感，再次計算余弦相似度為，此時相似度已超過閥值，可推薦文檔2的情感極性為正面。

4 實驗結果分析

4．1 實驗數據

文中的實驗數據是由數據堂提供的中文情感挖掘語料-ChnSentiCorp［13］，包含對酒店、筆記本電腦(簡稱電腦)和書籍3個領域的評論語料，每個領域包含負面文檔和正面文檔各2000篇。分別對這3個語料進行測試，從每個語料庫中選取500篇負面文檔和500篇正面文檔作為已知情感極性文檔，剩余3000篇作為待預測文檔。

4．2 文本情感極性分類結果及分析

分別對酒店、電腦和書籍3個領域的文本進行測試，從查全率、查準率和F值評估算法的性能指標。查全率、查準率和F值的定義如下。

查全率和查準率。在情感極性分類中，以負面情感為例，負面文檔并分類為負面的文檔數為a，負面文檔被分類為正面的文檔數為b，正面文檔被分類為負面的文檔數為c。則查全率為正確判斷為負面的文檔數與所有負面文檔總數之比，即R=a/(a+b)。查準率為正確判斷為負面的文檔數與所有判斷為負面的文檔數之比，即P=a/(a+c)。

F值為查全率R和查準率P的函數

文中與文獻［10］的H-C算法、文獻［16］的基于情感詞典和樸素貝葉斯的算法進行了對比。通過測試并調整閥值，得出較好的結果，如表6所示。

表6 實驗結果分析比較

從表6可知，相比于H-C方法、基于情感詞典和樸素貝葉斯的方法，基于協同過濾和文本相似性的算法具有更高的查全率、查準率和F值，在這3個領域的語料集中都有明顯的提高。由于Web文本的用詞隨意性以及語法的不規(guī)范性，同時，在一篇負面文檔中也會出現正面句子，正面文檔也出現正面句子，及一篇文本有一個主要情感，而在某一小的方面予以不同于主情感的肯定或否定，使得H-C算法不能很好的處理這類文本。而文中算法基于文本相似度計算方法，且訓練集和測試集來源相同，因而在不規(guī)范的Web文本也能表現較好的分類效果。傳統(tǒng)使用情感詞庫的方法，情感詞的情感極性大都是非正即負，忽略了不同詞匯對情感的影響權重和文本間的相似性，也忽略了句子和篇章對文本情感極性的影響，這些弊端使得基于情感詞典的分類算法分類效果不理想。而文中的情感分類方法，使用文本相似性計算有效地避免了傳統(tǒng)情感詞庫的弊端，通過文本相似性的分析并調整相關閥值，使得分類效果具有顯著的提高。

為對比不同詞性種類作為情感詞對文本情感極性分類效果的影響，文中對只選取形容詞作為情感詞和選取本文定義的情感詞兩個方法應用基于協同過濾和文本相似性的算法進行對比，實驗結果如表7所示。

表7 形容詞和本文定義情感詞的實驗結果對比

從表7可知，與只把形容詞作為情感詞的方法相比較，把形容詞、名詞、動詞、狀態(tài)詞、代詞都識別為情感詞時，算法在這3個領域的語料集中的查全率、查準率和F值都有一定的提高。因為相同情感極性的文本會重復出現類似的詞匯，這類詞匯的詞性不僅包含形容詞，還包含了名詞、動詞、狀態(tài)詞、代詞，使得這類詞雖然從字意上看沒有情感傾向，但在整個句子甚至整個篇章中都會隱含地表現出某種情感的傾向。所以相對于單純的以形容詞為情感詞的方法，加入名詞、動詞、狀態(tài)詞、代詞后，分類效果具有明顯的提高。

5 結束語

提出一種基于協同過濾和文本相似性的Web文本情感極性分類算法。方法使用余弦相似性計算文本的相似度，通過協同過濾推薦文本情感極性和Top-N情感詞推薦，能夠更精確地判斷文本的情感極性。該算法改進了傳統(tǒng)詞庫忽略句子和篇章以及傳統(tǒng)互信息方法概率偏向的弊端。實驗表明，方法在Web文本情感極性分類應用上表現出較好的結果，相比傳統(tǒng)互信息方法具有更高的查全率和查準率(實驗結果見表6)。該算法在海量網絡文本輿情自動化監(jiān)測方面具有較好的實用性。

從實驗中可以看出，閥值的選擇對算法的效果會有很大的影響，并且不同領域的語料集會需要不同的最佳閥值，而最佳的閥值是難以計算得出。在將來的工作中，還需要進一步研究自適應閥值選擇，同時改進相似度計算方法，實現多個特征值提取，以進一步提高分類精度和效率。

［1］ 于帥.中文Web文本情感傾向性分析技術的研究［D］.哈爾濱:哈爾濱工程大學，2013.

［2］ 王平，謝耘耕.突發(fā)公共事件網絡輿情的形成及演變機制研究［J］.中國傳媒大學學報，2013，(3):63-69.

［3］ 楊志國.基于Web挖掘和文本分析的動態(tài)網絡輿情預警研究［D］.武漢:武漢理工大學，2014.

［4］ 李光敏，許新山，熊旭輝.Web文本情感分析研究綜述［J］.現代情報，2014，(5):173-176.

［5］ 王洪偉，劉勰，尹裴，等.Web文本情感分類研究綜述［J］.情報學報，2010，29(5):931-938.

［6］ Tong，R M.An operational system for detecting and tracking opinions in on-line discussions［C］.Working Notes of the ACM SIGIR 2001 Workshop on Operational Text Classification.New York，NY:ACM，2001:1-6.

［7］ Minqing Hu，Bing Liu.Mining and Summarizing Customer Reviews［C］.Association for Computing Machinery(ACM)Special Interest Groupon Knowledge Discovery and Data Mining(SIGKDD)International Conference on Knowledge Discovery and Data Mining;20040822-20040825;Seattle，WA;US，2004.

［8］ 李鈍，曹付元，曹元大，等.基于短語模式的文本情感分類研究［J］.計算機科學，2008，(4).

［9］ Pang B，Lee L，Vaithyanathan S.Thumbs up Sentiment Classification using Machine Learning Techniques［J］.Proceedings of Emnlp，2002:79-86.

［10］ 孟迪，李立宇，于津.基于情感項區(qū)分極性可信度的文本情感分類［J］.汕頭大學學報:自然科學版，2014，(3).

［11］ 郭艷紅.推薦系統(tǒng)的協同過濾算法與應用研究［D］.大連:大連理工大學，2008.

［12］ 鄭澤之，王強軍，張普，等.基于大規(guī)模DCC語料庫的《現代漢語常用字表》、《現代漢語通用字表》收字情況統(tǒng)計分析［J］.Advances，2003.

［13］ 數據堂.中文情感挖掘語料-ChnSentiCorp［EB/OL］.http://www.datatang.com/data/14614.

［14］ 徐翔，王煦法.協同過濾算法中的相似度優(yōu)化方法［J］.計算機工程，2010，(6):52-54.

［15］ 張光衛(wèi)，李德毅，李鵬，等.基于云模型的協同過濾推薦算法［J］.軟件學報，2007，18(10):2403-2411.

［16］ 楊鼎，陽愛民.一種基于情感詞典和樸素貝葉斯的中文文本情感分類方法［J］.計算機應用研究，2010，27:3737-3739.