王 劍，唐 珊，黃于欣，余正濤*

（1.昆明理工大學(xué)信息工程與自動(dòng)化學(xué)院，昆明 650500；2.云南省人工智能重點(diǎn)實(shí)驗(yàn)室（昆明理工大學(xué)），昆明 650500）

（*通信作者電子郵箱ztyu@hotmail.com）

0 引言

漢越雙語(yǔ)觀點(diǎn)句識(shí)別旨在從描述同一事件的多篇漢越雙語(yǔ)新聞文檔中識(shí)別出能夠傳遞作者情感、表征作者觀點(diǎn)的句子，對(duì)開(kāi)展跨語(yǔ)言事件分析和輿情分析等有著重要的支撐作用。

傳統(tǒng)的觀點(diǎn)句識(shí)別任務(wù)包括單語(yǔ)言觀點(diǎn)句識(shí)別和跨語(yǔ)言觀點(diǎn)句識(shí)別。單語(yǔ)言觀點(diǎn)句識(shí)別主要利用單語(yǔ)信息，基于情感詞典或機(jī)器學(xué)習(xí)算法實(shí)現(xiàn)觀點(diǎn)句識(shí)別。前者主要依據(jù)情感詞典來(lái)判斷句子是否包含情感特征。如文獻(xiàn)［1］通過(guò)建立觀點(diǎn)詞集，通過(guò)計(jì)算句子中觀點(diǎn)詞的強(qiáng)度來(lái)實(shí)現(xiàn)觀點(diǎn)句識(shí)別。基于機(jī)器學(xué)習(xí)方法則將觀點(diǎn)句識(shí)別視為傳統(tǒng)的分類(lèi)任務(wù)，通過(guò)選擇合適的主客觀分類(lèi)特征和機(jī)器學(xué)習(xí)分類(lèi)算法實(shí)現(xiàn)觀點(diǎn)句分類(lèi)；文獻(xiàn)［2］利用主觀詞和客觀詞作為分類(lèi)特征訓(xùn)練樸素貝葉斯分類(lèi)器來(lái)實(shí)現(xiàn)觀點(diǎn)句識(shí)別；文獻(xiàn)［3］中提出了通過(guò)隱馬爾可夫模型抽取情感特征，對(duì)句子進(jìn)行序列標(biāo)注，通過(guò)賦予句子不同的權(quán)重來(lái)實(shí)現(xiàn)觀點(diǎn)句的識(shí)別。相比單語(yǔ)觀點(diǎn)句識(shí)別任務(wù)，跨語(yǔ)言觀點(diǎn)句識(shí)別相關(guān)研究較少。目前常用的主要有基于雙語(yǔ)詞典、基于平行語(yǔ)料和基于機(jī)器翻譯和基于雙語(yǔ)詞嵌入模型的方法?；陔p語(yǔ)詞典方法的是將句子看成要素的集合，通過(guò)預(yù)先構(gòu)造的雙語(yǔ)對(duì)齊詞典來(lái)實(shí)現(xiàn)跨語(yǔ)言句子要素對(duì)齊，然后基于雙語(yǔ)對(duì)齊要素實(shí)現(xiàn)觀點(diǎn)句識(shí)別?；谄叫姓Z(yǔ)料的方法則利用平行語(yǔ)料間的對(duì)齊關(guān)系進(jìn)行映射，得到目標(biāo)語(yǔ)言信息。文獻(xiàn)［4］利用詞對(duì)齊的雙語(yǔ)平行語(yǔ)料進(jìn)行跨語(yǔ)言觀點(diǎn)挖掘，提出了一種基于依存關(guān)系的細(xì)粒度觀點(diǎn)挖掘算法；文獻(xiàn)［5］中提出了一種利用源語(yǔ)言主客觀分類(lèi)器及平行語(yǔ)料來(lái)對(duì)目標(biāo)語(yǔ)言進(jìn)行觀點(diǎn)句分類(lèi)。然而這類(lèi)方法要求在做觀點(diǎn)句識(shí)別時(shí)，必須有高質(zhì)量的平行語(yǔ)料?；跈C(jī)器翻譯的思想是利用機(jī)器翻譯將源語(yǔ)言翻譯為目標(biāo)語(yǔ)言，將跨語(yǔ)言問(wèn)題轉(zhuǎn)換為單語(yǔ)言觀點(diǎn)句識(shí)別。文獻(xiàn)［6］中提出了源語(yǔ)言翻譯到目標(biāo)語(yǔ)言和目標(biāo)語(yǔ)言翻譯到源語(yǔ)言兩種跨語(yǔ)言方式，然后在單語(yǔ)上進(jìn)行觀點(diǎn)句分類(lèi)。這類(lèi)方法過(guò)于依賴于機(jī)器翻譯的性能，而越南語(yǔ)屬于低資源語(yǔ)言，機(jī)器翻譯性能不佳。因此基于機(jī)器翻譯的跨語(yǔ)言觀點(diǎn)句識(shí)別方法在漢-越等低資源語(yǔ)言上不適用。近年來(lái)，利用雙語(yǔ)詞嵌入來(lái)實(shí)現(xiàn)跨語(yǔ)言文本的語(yǔ)義空間對(duì)齊，解決不同語(yǔ)言之間差異性成為了重要的研究方向［7-9］。如文獻(xiàn)［7］中提出了一種基于注意力機(jī)制（Attention Mechanism）的跨語(yǔ)言表征方法，并結(jié)合長(zhǎng)短期記憶網(wǎng)絡(luò)（Long Short Term Memory Network，LSTM）實(shí)現(xiàn)跨語(yǔ)言情感分類(lèi)；文獻(xiàn)［10］中提出一種基于雙語(yǔ)詞嵌入，融合主題特征、位置特征和情感特征的跨語(yǔ)言觀點(diǎn)句識(shí)別方法。綜上所述可以看出，通用的觀點(diǎn)句識(shí)別任務(wù)，不管是單語(yǔ)言還是跨語(yǔ)言，都將其作為一個(gè)基于句子內(nèi)部情感特征的分類(lèi)任務(wù)，而很少考慮不同句子間的關(guān)聯(lián)關(guān)系對(duì)觀點(diǎn)句識(shí)別的影響。

針對(duì)漢越雙語(yǔ)多文檔新聞?dòng)^點(diǎn)句識(shí)別任務(wù)，僅通過(guò)判斷句子內(nèi)部的情感特征難以達(dá)到很好的效果。在描述同一事件的多語(yǔ)言文檔中，句子之間存在復(fù)雜的關(guān)聯(lián)關(guān)系，這些關(guān)聯(lián)關(guān)系對(duì)觀點(diǎn)句識(shí)別有著重要的支撐作用［11-12］?；诖吮疚亩x了兩類(lèi)關(guān)聯(lián)關(guān)系，即事件要素關(guān)聯(lián)和情感要素關(guān)聯(lián)。如表1所示，漢越雙語(yǔ)話題“一帶一路”中的兩個(gè)句子均包含事件要素“阮春福”“中國(guó)北京”，這種關(guān)聯(lián)稱(chēng)為事件要素關(guān)聯(lián)。此外，這兩個(gè)句子均出現(xiàn)了情感詞“重要”，這種關(guān)聯(lián)稱(chēng)為情感要素關(guān)聯(lián)。本文認(rèn)為具有較強(qiáng)關(guān)聯(lián)關(guān)系的句子是不同來(lái)源媒體所共同關(guān)注的焦點(diǎn)，更容易成為觀點(diǎn)句。因此提出通過(guò)構(gòu)造句子之間的關(guān)聯(lián)關(guān)系圖來(lái)表征多語(yǔ)言、多文檔句子之間的關(guān)聯(lián)特性，并結(jié)合深度學(xué)習(xí)框架，融合句子編碼特征和關(guān)聯(lián)特征實(shí)現(xiàn)跨語(yǔ)言觀點(diǎn)句分類(lèi)。

表1 漢越雙語(yǔ)新聞文檔示例Tab.1 Example of Chinese-Vietnamese bilingual news document

1 基于句子關(guān)聯(lián)特征的觀點(diǎn)句識(shí)別模型

本文提出了一種基于雙向長(zhǎng)短期記憶（Bi-directional Long Short Term Memory，Bi-LSTM）網(wǎng)絡(luò)［13］和句子關(guān)聯(lián)特征的漢越雙語(yǔ)新聞?dòng)^點(diǎn)識(shí)別模型。首先構(gòu)建漢越雙語(yǔ)句子關(guān)聯(lián)圖，生成句子關(guān)聯(lián)特征；然后基于雙語(yǔ)詞嵌入和Bi-LSTM 獲得漢越雙語(yǔ)同一語(yǔ)義空間下的表征；最后聯(lián)合句子的編碼特征和關(guān)聯(lián)特征構(gòu)造觀點(diǎn)句分類(lèi)器。總體結(jié)構(gòu)如圖1 所示，模型共分為四個(gè)部分：句子關(guān)聯(lián)圖構(gòu)建、雙語(yǔ)詞嵌入層、編碼層和觀點(diǎn)句分類(lèi)層。圖1中：wi，k表示第i個(gè)句子的第k個(gè)詞；hi是句子編碼表示；ea表示相同語(yǔ)言頂點(diǎn)之間的邊；eb表示不同語(yǔ)言頂點(diǎn)之間的邊；v1、v2、v3、v4代表漢語(yǔ)句子；va、vb、vc、vd代表越南語(yǔ)句子；Avg 表示對(duì)句子編碼特征和句子關(guān)聯(lián)特征加權(quán)平均來(lái)獲得最終的觀點(diǎn)分類(lèi)特征。

圖1 基于句子關(guān)聯(lián)特征的漢越雙語(yǔ)新聞?dòng)^點(diǎn)識(shí)別模型Fig.1 Chinese-Vietnamese bilingual news opinion sentence recognition model based on sentence association features

1.1 漢越雙語(yǔ)多文檔新聞句子關(guān)聯(lián)圖構(gòu)建

漢越雙語(yǔ)多文檔句子關(guān)聯(lián)圖能夠體現(xiàn)不同語(yǔ)言、不同文檔的句子間關(guān)聯(lián)關(guān)系，對(duì)于開(kāi)展多文檔觀點(diǎn)句識(shí)別有著一定的支撐作用。首先定義了事件要素關(guān)聯(lián)和情感要素關(guān)聯(lián)兩種關(guān)聯(lián)關(guān)系；然后構(gòu)造以漢越雙語(yǔ)句子為頂點(diǎn)，以關(guān)聯(lián)關(guān)系為邊的句子關(guān)聯(lián)圖；最后基于句子關(guān)聯(lián)圖，通過(guò)TextRank 算法［14］計(jì)算句子的關(guān)聯(lián)特征。

1.1.1 事件要素關(guān)聯(lián)

事件要素包含事件發(fā)生的時(shí)間、地點(diǎn)、人物和組織機(jī)構(gòu)等信息。利用不同新聞句中事件要素的共現(xiàn)次數(shù)來(lái)表示不同句子間事件要素的關(guān)聯(lián)強(qiáng)度。具體來(lái)說(shuō)，首先抽取漢越雙語(yǔ)新聞句子中的命名實(shí)體作為事件要素，得到的漢語(yǔ)事件要素的集合記為和相應(yīng)的越南語(yǔ)事件要素集合記為。對(duì)于漢越雙語(yǔ)句子sk，將其表征為相應(yīng)要素集合，即：sk={a1，a2，…，ak}，其中事件要素ak為漢語(yǔ)或越南語(yǔ)對(duì)應(yīng)的事件要素。為了計(jì)算不同語(yǔ)言句子的要素關(guān)聯(lián)強(qiáng)度，首先利用漢越雙語(yǔ)詞典對(duì)抽取的要素進(jìn)行對(duì)齊，得到對(duì)齊的漢越雙語(yǔ)事件要素集合Acv=。最后通過(guò)計(jì)算不同句子的事件要素共現(xiàn)次數(shù)來(lái)確定其關(guān)聯(lián)強(qiáng)度，共現(xiàn)次數(shù)可以通過(guò)判斷兩個(gè)句子是否包含相同的要素，即任意語(yǔ)言的兩個(gè)句子si、sj的要素集合是否存在交集。特別說(shuō)明，不同語(yǔ)言句子的要素關(guān)聯(lián)強(qiáng)度需要利用對(duì)齊的漢越雙語(yǔ)事件要素集合中的實(shí)體共現(xiàn)來(lái)實(shí)現(xiàn)。具體計(jì)算如式（1）所示：

其中：C(si∩sj)表示新聞句si和sj的共現(xiàn)要素?cái)?shù)；C(si)表示句子si的要素個(gè)數(shù)。

1.1.2 情感要素關(guān)聯(lián)

情感要素關(guān)聯(lián)是指漢越雙語(yǔ)新聞句子中包含的情感詞的關(guān)聯(lián)關(guān)系，通過(guò)計(jì)算不同句子間情感詞的相似性來(lái)衡量其關(guān)聯(lián)關(guān)系。為了實(shí)現(xiàn)情感要素關(guān)聯(lián)，首先抽取不同語(yǔ)言新聞句中所包含的情感詞，其中，漢語(yǔ)新聞句情感詞抽取利用知網(wǎng)情感詞典和臺(tái)灣大學(xué)情感詞典［15］，提取出每個(gè)句子中的情感詞集。針對(duì)越南語(yǔ)情感詞典資源缺乏的問(wèn)題，采用漢越雙語(yǔ)詞典翻譯漢語(yǔ)情感詞典，來(lái)構(gòu)建越南語(yǔ)情感詞典。抽取后得到每個(gè)越南語(yǔ)句子中包含的情感詞集合。通過(guò)計(jì)算任意兩個(gè)句子si和sj所包含情感詞的相似性作為句子的情感關(guān)聯(lián)強(qiáng)度。其中情感詞相似性通過(guò)漢越雙語(yǔ)詞向量的余弦相似度得到，如式（2）所示：

最終兩個(gè)句子的情感關(guān)聯(lián)強(qiáng)度通過(guò)計(jì)算兩個(gè)句子的所有情感詞相似度的最大值得到。如式（3）所示：

1.1.3 漢越雙語(yǔ)多文檔句子關(guān)聯(lián)圖的構(gòu)建

其中：Fa(si，sj)為句子的要素關(guān)聯(lián)強(qiáng)度；Fb(si，sj)為句子的情感關(guān)聯(lián)強(qiáng)度。特別說(shuō)明，為了降低模型的復(fù)雜性，設(shè)置邊的權(quán)重閾值ε，如果W(vi，vj) ＞ε則保留這條邊，反之則刪除這條邊。

最后在已構(gòu)建的圖G上，利用TextRank 算法計(jì)算得到漢越雙語(yǔ)的句子關(guān)聯(lián)特征，如式（5）所示：

其中：R(vi)是句子vi的句子關(guān)聯(lián)特征；W(vj，vi)為頂點(diǎn)vi和vj的邊的權(quán)重；nb(vi)為與vi有關(guān)聯(lián)關(guān)系的鄰居節(jié)點(diǎn)；d=0.85，為阻尼系數(shù)。

1.2 雙語(yǔ)詞嵌入層

雙語(yǔ)詞嵌入的目的是為了把不同語(yǔ)言的詞語(yǔ)映射在同一語(yǔ)義空間內(nèi)，以實(shí)數(shù)向量的形式來(lái)表示詞語(yǔ)，同時(shí)保證語(yǔ)義相近的詞語(yǔ)在向量空間上也足夠接近，是一種解決跨語(yǔ)言問(wèn)題的通用框架。首先利用雙語(yǔ)詞向量模型將漢語(yǔ)、越南語(yǔ)兩種不同的語(yǔ)言映射到同一個(gè)語(yǔ)義空間下。對(duì)于給定的句子si={wi，1，wi，2，…，wi，k}，其中wi，k表示第i個(gè)句子的第k個(gè)詞，利用式（6）計(jì)算得到其雙語(yǔ)詞嵌入表征：

1.3 語(yǔ)義編碼層

編碼器的目標(biāo)是把輸入的文本映射為向量表示，獲取其深層的語(yǔ)義特征。使用雙向長(zhǎng)短期記憶（Bi-directional Long Short Term Memory，Bi-LSTM）網(wǎng)絡(luò)作為編碼器，編碼器在接收到每個(gè)雙語(yǔ)詞向量后，順序更新其隱藏狀態(tài)，輸出句子向量。具體來(lái)講，通過(guò)Bi-LSTM 編碼器對(duì)雙語(yǔ)詞嵌入進(jìn)行編碼，如式（7）所示：

其中：ei，k為在第i個(gè)句子中第k個(gè)詞的雙語(yǔ)詞向量表示；hi，k為隱層向量。編碼狀態(tài)中，前向LSTM 順序讀入句子中包含的每個(gè)詞產(chǎn)生前向隱式狀態(tài)序列，其中表示第i個(gè)句子中第k個(gè)詞，后向LSTM 逆序讀入句子中包含的每個(gè)詞產(chǎn)生后向隱式狀態(tài)序列，采用編碼器最后時(shí)刻的前向和后向?qū)?yīng)的隱層狀態(tài)拼接，構(gòu)成句子的編碼表示，如式（8）所示：

1.4 觀點(diǎn)句分類(lèi)器

在獲得句子的語(yǔ)義編碼之后，需要對(duì)其進(jìn)行降維來(lái)獲得其語(yǔ)義特征，如式（9）所示：

其中：Ws和bs為訓(xùn)練參數(shù)；sigmoid函數(shù)為激活函數(shù)。

最后聯(lián)合句子關(guān)聯(lián)特征和句子語(yǔ)義特征獲得最終的觀點(diǎn)分類(lèi)特征，如式（10）所示：

采用二分類(lèi)的交叉熵?fù)p失函數(shù)對(duì)模型進(jìn)行優(yōu)化。

其中：yi是第i個(gè)樣本的標(biāo)簽；是模型預(yù)測(cè)樣本是正樣本的概率。

2 實(shí)驗(yàn)與結(jié)果分析

2.1 數(shù)據(jù)集構(gòu)造

由于目前還沒(méi)有公開(kāi)的漢越雙語(yǔ)新聞?wù)Z料，因此利用爬蟲(chóng)工具從中文新聞網(wǎng)站和越南新聞網(wǎng)站收集新聞文檔。選擇三個(gè)中越共同關(guān)心事件的雙語(yǔ)新聞文檔作為數(shù)據(jù)集，共計(jì)200 篇文檔，2 832 個(gè)句子，詳細(xì)信息如表2 所示。對(duì)每個(gè)話題下的新聞文檔按照90%、5%、5%隨機(jī)劃分訓(xùn)練集、驗(yàn)證集和測(cè)試集。

表2 漢越雙語(yǔ)新聞文檔數(shù)據(jù)集Tab.2 Dataset of Chinese-Vietnamese bilingual news documents

2.2 評(píng)價(jià)指標(biāo)

采用準(zhǔn)確率P、召回率R、F1值作為評(píng)價(jià)指標(biāo)。計(jì)算公式如下所示：

其中：a表示模型將觀點(diǎn)句預(yù)測(cè)正確的個(gè)數(shù)；b表示模型將非觀點(diǎn)句預(yù)測(cè)為觀點(diǎn)句的個(gè)數(shù)；c表示模型將觀點(diǎn)句預(yù)測(cè)為非觀點(diǎn)句的個(gè)數(shù)。

2.3 實(shí)驗(yàn)參數(shù)設(shè)置

采用的2 層的Bi-LSTM 網(wǎng)絡(luò)獲取漢越雙語(yǔ)的語(yǔ)義特征，其中雙語(yǔ)詞嵌入維度為300 維。Bi-LSTM 隱狀態(tài)設(shè)置為512維。為避免模型過(guò)擬合，dropout 設(shè)置為0.3。模型訓(xùn)練批次大小設(shè)置為64，訓(xùn)練200輪次。采用Adam 優(yōu)化器對(duì)模型進(jìn)行優(yōu)化，學(xué)習(xí)率為1E -3，同時(shí)在模型訓(xùn)練過(guò)程中加入梯度裁剪，最大梯度裁剪為5。

2.4 實(shí)驗(yàn)結(jié)果及分析

為了驗(yàn)證本文方法的有效性，第一組實(shí)驗(yàn)在7 個(gè)基準(zhǔn)模型上進(jìn)行實(shí)驗(yàn)，結(jié)果如表3 所示。其中：卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Network，CNN）設(shè)置卷積層和全連接層皆為一層，卷積濾波器的大小設(shè)置為2、3、4；單向長(zhǎng)短期記憶網(wǎng)絡(luò)（Long Short Term Memory Network，LSTM）參數(shù)設(shè)置與Bi-LSTM 相同，具體如2.3 節(jié)所示。僅使用關(guān)聯(lián)特征則利用TextRank算法得到的關(guān)聯(lián)特征值對(duì)句子進(jìn)行排序得到相應(yīng)的觀點(diǎn)句。

表3 不同模型觀點(diǎn)句識(shí)別結(jié)果Tab.3 Results of opinion sentence recognition of different models

從表3 可以看出，三種模型在都不使用關(guān)聯(lián)特征時(shí)，Bi-LSTM 模型取得了最佳的性能，這也說(shuō)明Bi-LSTM 在文本數(shù)據(jù)上強(qiáng)大的建模能力。但是同時(shí)可以看出，在不使用關(guān)聯(lián)特征時(shí)，性能最佳的Bi-LSTM 模型也僅能獲得63.8%的準(zhǔn)確率，比僅利用關(guān)聯(lián)特征的準(zhǔn)確率低了7.4%。這也說(shuō)明了在多文檔觀點(diǎn)句識(shí)別過(guò)程中，模型僅依賴深度學(xué)習(xí)模型的輸出無(wú)法得到很好的語(yǔ)義表征。本文認(rèn)為造成這種現(xiàn)象有兩個(gè)原因：一個(gè)是因?yàn)閿?shù)據(jù)集規(guī)模較小，模型訓(xùn)練不充分；另一個(gè)原因是漢越雙語(yǔ)詞向量質(zhì)量不高，在詞嵌入階段存在誤差。另外還能看出，僅使用關(guān)聯(lián)特征相比三種深度學(xué)習(xí)模型在準(zhǔn)確率、召回率和F1值均能夠獲得較好的性能，這也說(shuō)明了本文提出的句子關(guān)聯(lián)特征建模方法是有效的，并且在深度學(xué)習(xí)模型中融入句子關(guān)聯(lián)特征是有效的。最后可以看出，聯(lián)合建模深度學(xué)習(xí)模型和句子關(guān)聯(lián)特征，模型性能有一個(gè)較大幅度的提升。相比Bi-LSTM 模型，加入句子關(guān)聯(lián)特征，模型準(zhǔn)確率提升了15.1%，相比僅使用關(guān)聯(lián)特征，模型準(zhǔn)確率提升了7.7%。這些都充分說(shuō)明了本文提出的結(jié)合語(yǔ)義特征和關(guān)聯(lián)特征能夠有效提升漢越雙語(yǔ)多文檔觀點(diǎn)句識(shí)別任務(wù)的性能。

第二組實(shí)驗(yàn)是為了驗(yàn)證式（4）中參數(shù)α和β對(duì)模型性能的影響，這兩個(gè)參數(shù)分別表示事件要素和情感要素在計(jì)算關(guān)聯(lián)特征時(shí)的比例對(duì)關(guān)聯(lián)特征有著重要的影響。實(shí)驗(yàn)結(jié)果如表4所示。

表4 超參數(shù)α和β對(duì)模型性能的影響Tab.4 Effect of hyper-parameter α and β on model performance

從表4 可看出，模型在α=0.3，β=0.7 時(shí)取得了最佳性能，這也表明情感要素在計(jì)算關(guān)聯(lián)特征時(shí)更重要。本文認(rèn)為這也說(shuō)明了觀點(diǎn)句識(shí)別中情感詞仍然是一個(gè)重要的影響因素。當(dāng)α=0.9，β=0.1 時(shí)模型性能最差，這也反映了僅使用事件要素來(lái)表征關(guān)聯(lián)特征并不能很好地反映不同句子之間的情感關(guān)聯(lián)關(guān)系。

設(shè)計(jì)第三組實(shí)驗(yàn)來(lái)驗(yàn)證超參數(shù)ε對(duì)模型性能的影響，其大小決定了多文檔關(guān)聯(lián)圖的稀疏程度：ε值越大，則關(guān)聯(lián)圖越稀疏；反之則越稠密。實(shí)驗(yàn)結(jié)果如表5所示。

表5 超參數(shù)ε對(duì)模型性能的影響Tab.5 Effect of hyper-parameter ε on model performance

從表5可以看出，超參數(shù)ε=0.5時(shí)模型性能最佳。同樣可以看出ε過(guò)小或者過(guò)大，模型性能均有顯著的下降。特別是ε=0.9 時(shí)，相比ε=0.5，模型F1值下降了6.9%，這也說(shuō)明ε=0.9 時(shí)，圖模型過(guò)于稀疏，很多句子間的有用的關(guān)聯(lián)關(guān)系被丟棄，從而導(dǎo)致句子關(guān)聯(lián)特征產(chǎn)生較大偏差。

3 結(jié)語(yǔ)

針對(duì)漢越雙語(yǔ)多文檔觀點(diǎn)句任務(wù)，提出一種在深度學(xué)習(xí)框架下，在模型分類(lèi)層融入句子關(guān)聯(lián)特征的觀點(diǎn)句識(shí)別方法。實(shí)驗(yàn)結(jié)果表明，融入句子關(guān)聯(lián)特征能夠顯著提升漢越雙語(yǔ)觀點(diǎn)句識(shí)別模型的性能。在下一步研究中，擬開(kāi)展利用深度神經(jīng)網(wǎng)絡(luò)聯(lián)合訓(xùn)練句子關(guān)聯(lián)特征和句子語(yǔ)義特征，探索利用圖卷積神經(jīng)網(wǎng)絡(luò)等方式利用句子關(guān)聯(lián)圖來(lái)提升觀點(diǎn)句識(shí)別模型性能。