費 艷，劉學軍

(南京工業(yè)大學 計算機科學與技術學院，南京 211816)

1 引 言

隨著大數(shù)據(jù)和互聯(lián)網(wǎng)技術的迅速普及，推薦系統(tǒng)已經(jīng)成為幫助人們找到自己潛在興趣的商品的重要辦法，用戶在使用在線購物平臺時，面對巨大的商品數(shù)量以及眾多的信息時，往往容易眼花繚亂而無法抉擇，推薦系統(tǒng)的引入，能夠有效解決信息過載問題.傳統(tǒng)的推薦系統(tǒng)以一種靜態(tài)的方式建模用戶和商品的交互并且只可以捕獲用戶廣義的喜好，而在大多數(shù)應用中，用戶的行為往往是連續(xù)的，用戶與物品之間的交互、用戶偏好以及商品的流行度往往是隨時間而變化的，此時，序列推薦系統(tǒng)便應運而生，它將用戶和商品的交互建模為動態(tài)的序列，并且利用序列的依賴性來學習當前和最近用戶的喜好.

由于具有很高的實用價值，這一問題的研究日益增加，各種序列推薦的方案已被提出.一些基于馬爾可夫鏈思想的方法，根據(jù)前一個行為預測用戶的下一個行為，在很強的獨立性的假設下，過去各成分的獨立組合限制了預測精度.最近，基于深度學習的方法已經(jīng)被提出并應用到序列推薦中，這些深度學習方法可以表征用戶項目的動態(tài)交互，并學習有效的用戶行為表示.還有研究將用戶或物品的上下文信息融合到模型中來提高預測性能.實驗已經(jīng)證實了這些實驗的優(yōu)點，但是仍然存在以下問題：忽略了用戶的微觀行為.用戶的微觀行為即是用戶對項目交互的具體操作，往往可以更加細致得刻畫用戶的興趣.如圖1所示，本文以電子購物網(wǎng)站為例解釋考慮用戶微觀行為給序列推薦帶來的意義.

圖1 用戶微觀行為在兩個不同序列中的影響Fig.1 Influence of user micro behavior in two different sequences

在圖1中，分別展示了兩個不同序列的宏觀行為和微觀行為，可以看出用戶的每一個宏觀行為都是由一系列微觀行為組成的，這些微觀行為體現(xiàn)了用戶興趣強弱的不同.同樣是想要買一件襯衫，在序列S1中，用戶瀏覽了襯衫1的詳情介紹，接著又看了其他用戶對于襯衫1的評論，并將其加入了購物車，接著瀏覽了襯衫2的物品詳情介紹，看了其他用戶對于襯衫2的評論，收藏了襯衫2，最后回到了購物車頁面，下單了襯衫1，系統(tǒng)根據(jù)用戶前面這一系列行為，為用戶推薦了褲子1，用戶瀏覽了褲子1的詳情和評論.在會話S2中，用戶瀏覽了襯衫1的詳情介紹，接著瀏覽了襯衫2的物品詳情介紹，看了其他用戶對于襯衫2的評論，并下單了襯衫2，最后又瀏覽了襯衫1其他用戶對該襯衫的評論，系統(tǒng)根據(jù)用戶前面這一系列行為，為用戶推薦了褲子2，用戶瀏覽了褲子2的詳情和評論.從宏觀角度看，用戶均與襯衫1，襯衫2，襯衫1進行了交互，需要預測用戶隨后將與哪個項目進行交互，根據(jù)傳統(tǒng)的序列推薦模式，只基于項目序列建模會話，S1和S2都將出現(xiàn)相同的推薦結果，因為他們都是先后與襯衫1，襯衫2，襯衫1進行了交互，因此，同一個項目可能被推薦為兩個會話的下一個交互項目，這與上圖中的觀察結果不一致.而從微觀角度來看，用戶的一系列微行為展示了用戶對項目的不同操作體現(xiàn)了用戶對該項目的興趣強弱，提供了對用戶序列的更細粒度深入的理解，例如，用戶收藏的項目可能比僅僅瀏覽詳情和評論的項目興趣更大，而用戶下單的項目則顯示了比收藏的項目更強的興趣.因此，利用并開發(fā)用戶微觀行為信息對于提升序列推薦系統(tǒng)的性能有巨大的影響.

在本文中，從用戶微觀行為的角度研究序列推薦的問題，提出了一種融合項目序列與微觀行為的序列推薦方法(A Sequential Recommendation Method for Integrating Item Sequence and Micro-behavior，簡寫ISM-SR).在該模型中，用戶序列由宏觀序列與微觀序列組成.具體來說，用戶的宏觀序列為傳統(tǒng)意義上用戶交互的一系列項目，而微觀序列就是與項目交互的具體操作序列.為了學習用戶的會話序列并為其產(chǎn)生推薦，又因宏觀序列與微觀行為序列具有不同的特點，本研究將用戶的項序列與操作行為序列分別輸入GGNN(Gated Graph Neural Network，門控圖神經(jīng)網(wǎng)絡)和Transformer來學習各自的嵌入，并生成會話表示，學習會話序列的表示并為其產(chǎn)生推薦.本文的主要工作可歸納如下：

1)提出了項目序列與用戶微觀行為融合的方法，對用戶偏好提供了更加細粒度與深入的了解；

2)根據(jù)項序列與操作序列的不同特性，使用GGNN和Transformer分別對序列進行建模，實驗證明，本文的方法有效的提高了序列推薦系統(tǒng)的性能.

2 相關工作

2.1 傳統(tǒng)的序列推薦方法

傳統(tǒng)的序列推薦模型包括基于馬爾可夫鏈的模型以及融合上下文信息的方法.

基于馬爾可夫鏈的序列推薦方法為了預測下一次交互，通常會采用Markov鏈模型對用戶和商品的交互轉(zhuǎn)換進行建模，最簡單的基于馬爾可夫鏈的方法利用訓練集[17]中的轉(zhuǎn)移頻率啟發(fā)式地計算轉(zhuǎn)移矩陣.但是，此方法不能處理未觀察到的轉(zhuǎn)換.FPMC方法[16]提出了一種解決方案，該方法使用張量分解技術分解個性化轉(zhuǎn)移矩陣.而Chen等[1]將項目嵌入到歐幾里得空間中，并通過項目嵌入的歐幾里得距離來估計項目之間的轉(zhuǎn)移概率.由于當考慮更多先前的項時，狀態(tài)大小很快就變得難以管理.融合上下文信息的序列推薦方法考慮使用項目的鄰域信息或流行度信息并以此來提高序列推薦系統(tǒng)的性能.早期的KNN方法通過考慮交互時間來捕獲項目的最新共現(xiàn)信息具有一定的有效性，SKNN方法及其變體[6，10]將整個當前會話與訓練數(shù)據(jù)中的過去會話進行比較，以確定要推薦的項目，然而，SKNN并沒有考慮到會話中現(xiàn)成的順序和時間信息.

2.2 基于深層神經(jīng)網(wǎng)絡的序列推薦方法

深層神經(jīng)網(wǎng)絡(DNN)能夠在一個序列中模擬和捕捉不同實體(如用戶、項目、交互)之間的復雜的綜合關系，因此在過去的幾年中，DNN幾乎占據(jù)了序列化推薦的主導地位.尤其是基于循環(huán)神經(jīng)網(wǎng)絡的模型，包括GRU和LSTM，B等[2]最大的貢獻就是第一次將RNN應用到序列推薦中來，將項目編碼成one-hot嵌入輸入到基于GRU的RNN的模型中并實現(xiàn)推薦，文獻[3]在文獻[2]的基礎上提出了一種數(shù)據(jù)增強技術，同時改變輸入數(shù)據(jù)的數(shù)據(jù)分布，改進了模型的性能；Wu[4]等人為了獲得準確的項目嵌入和考慮項目的復雜轉(zhuǎn)換，將序列建模為圖形結構數(shù)據(jù)，提出了基于圖神經(jīng)網(wǎng)絡的序列推薦方法，同樣也有將注意力網(wǎng)絡應用到序列推薦中的方法，如Liu等[5]提出了一種新的短期注意記憶優(yōu)先級模型，該模型能夠從會話上下文的長期記憶中獲取用戶的一般興趣，同時考慮到用戶當前的興趣來自于最后一次點擊的短期記憶，具有較好的推薦性能等.基于知識的推薦近年來在提高序列推薦性能的任務中發(fā)揮著越來越重要的作用.文獻[18]根據(jù)知識圖譜中中實體之間的不同關系使用Node2Vec來學習用戶以及項目表示；Wang[19]等利用知識圖譜嵌入模型TransD來學習知識嵌入，提出了深度模型DKN等.盡管這些深度神經(jīng)網(wǎng)絡模型在序列推薦任務重都取得了不錯的效果，但是他們都忽略了用戶微觀行為的重要性，因此仍然有改進的地方.當然，目前為止也有將用戶微觀行為考慮其中的模型，文獻[8]采用LSTM對微觀序列進行建模，但是該方法忽略了項目序列和操作序列的不同轉(zhuǎn)換特性.

2.3 基于Transformer的序列推薦方法

受到Transformer在自然語言處理領域獲得的巨大成功的啟發(fā)，已經(jīng)有學者將Transformer應用到序列推薦系統(tǒng)來，SASRec[7]使用了與Transformer模型的編碼器部分類似的架構，試圖從用戶的操作歷史中識別哪些項是相關的，并使用它們來預測下一個項；Wu[9]等人針對SASRec本質(zhì)上是個非個性化模型，提出了一個個性化Transformer模型；Chen[12]等人提出了BST架構，利用Transformer層學習序列中每個項的更深層表示等.但是，這些模型都是在宏觀層面對序列進行分析，沒有考慮到用戶的微觀行為.

與上述方法不同，本文融合了宏觀層面的項目序列以及微觀的操作序列，分別采用不同的方法從多層次多角度建模學習用戶序列特征，捕獲到用戶更加細粒度的偏好和意圖，以此來產(chǎn)生下一項推薦.

3 ISM-SR方法

在本節(jié)中，首先將形式化描述本文所要解決的序列推薦問題，然后對模型框架進行簡單概括與介紹，接著詳細介紹ISM-SR序列推薦方法的細節(jié)，包括多層次序列特征提取，模型的構建以及生成最終推薦等.

3.1 問題描述

3.2 模型框架

ISM-SR的總體模型框架如圖2所示.圖2中的黑色實心矩形表示項目序列嵌入，格子矩形表示微觀操作序列嵌入，斜線矩形表示模型的其他操作.首先為了捕捉用戶興趣偏好，本研究分別使用不同的模型，GGNN以及Transformer學習項目嵌入以及微觀操作序列嵌入，學習后將兩者串聯(lián)起來作為最終的序列表示s，將當前的序列表示s以及候選項目j的嵌入輸入多層感知器層(MLP，Multilayer Perceptron)以及softmax層計算得到可能為下一項推薦的得分，為當前用戶推薦得分最高的項目，完成模型的推薦功能.

圖2 ISM-SR的總體模型框架Fig.2 General model framework of ISM-SR

3.3 多層次序列特征提取

在推薦系統(tǒng)領域，海量的用戶行為數(shù)據(jù)從本質(zhì)上體現(xiàn)出了用戶的興趣偏好，例如在電子購物網(wǎng)站中，用戶對商品的評價打星體現(xiàn)出了用戶在購買完該商品驗貨后對該商品的滿意程度，打一顆星表示非常不滿意，五顆星表示十分滿意，用戶可能以后還會買它或者類似的商品等.提取用戶行為數(shù)據(jù)中序列特征對于本文的序列推薦任務至關重要，在本節(jié)中，將介紹如何學習序列嵌入，獲得給定會話表示以便于提取用戶行為特征.在本文的研究中，用戶的序列包括項目序列以及操作序列，兩種序列對任務建模有著不同的影響，并表現(xiàn)著不同的轉(zhuǎn)換模式，因此采用不同的方式進行建模.

3.3.1 項目序列嵌入

首先，使用門控圖神經(jīng)網(wǎng)絡對項目序列進行建模，作為圖神經(jīng)網(wǎng)絡的一種，門控圖神經(jīng)網(wǎng)絡近年來被用于建模自然語言處理等領域，如腳本事件預測、圖像分類、情境識別等[11].而項目序列的轉(zhuǎn)換形式不是連續(xù)項目之間的單一方式，前面的項與后面的項彼此都相關，相互依賴，因此這種轉(zhuǎn)換模式依賴于雙向上下文，因此為了考慮到節(jié)點與節(jié)點之間的聯(lián)系以及項目的復雜轉(zhuǎn)換，可以通過圖控神經(jīng)網(wǎng)絡來建模，它能夠在考慮豐富節(jié)點鏈接的情況下自動提取圖的特征，非常適合項目序列的建模以及特征的提取.

(1)

1https://jdata.jd.com/html/detail.html?id=8

圖G中所有項目節(jié)點的嵌入表示為：

(2)

3.3.2 操作序列嵌入

因為用戶對項目的不同操作體現(xiàn)了用戶對該項目的興趣強弱，例如，用戶收藏的項目可能比僅僅瀏覽詳情和評論的項目興趣更大，而用戶下單的項目則顯示了比收藏的項目更強的興趣.此外，用戶操作序列中各個操作之間也表現(xiàn)出一定的順序性，而順序?qū)τ陬A測用戶未來的交互項目非常重要.如收藏了項目X的用戶，下一步可能會直接下單購買項目X.近年來新出現(xiàn)的序列模型Transformer在機器翻譯任務中取得了較先進的性能和效率，與現(xiàn)有的基于卷積模塊或基于循環(huán)模塊的順序模型不一樣，Transformer是一種完全基于自注意力機制的模型，加入了位置嵌入又使這種機制非常高效，能夠考慮到序列中的順序特征.它的思想是，每個順序輸出依賴于輸入的相關部分，而這些相關部分才是模型應該關注的.受到啟發(fā)，本文應用自注意力機制，通過考慮嵌入階段操作序列的順序信息，將Transformer方法應用到序列推薦中來.通過它來提取用戶操作序列中微觀行為之間的依賴關系，結合用戶項目序列的學習，輸入MLP網(wǎng)絡學習隱藏特征之間的相互作用，以產(chǎn)生用戶的下一項推薦.

對于操作序列O={o1,o2,o3,o4,…,on}，將其嵌入矩陣設為M={M1,M2,M3,…Mn}，M∈Rn×d此外，由于自注意力模型中不包含學習序列中項之間位置的模塊，而本研究又需要利用序列中的順序信息，因此在操作序列輸入嵌入中加入一個可學習的位置嵌入P∈Rn×d，輸入嵌入可表示如下：

(3)

圖3 Transformer層Fig.3 Transformer layer

位置嵌入使用文獻[13]所提出的方法，使用不同頻率的正弦和余弦函數(shù)，將位置編碼添加到輸入嵌入中，將最終獲得的操作序列嵌入輸入transformer層，它通過捕獲序列中與其他項的關系來學習每個項的更深層次的表示，如圖3所示，transformer層由由一個個自注意力模塊堆疊而成，而每一個自注意力模塊又由自注意力層以及逐點前饋網(wǎng)絡層組成.注意力[13]的計算方法如下：

(4)

S=MH(E)=Concat(head1,head2,…,headh)WHheadi
=Attention(EWQ,EWQ,EWV)

(5)

其中投影矩陣WQ，WQ，WV∈Rd×d，h表示head的數(shù)目，為了使模型具有非線性，采用逐點前饋網(wǎng)絡：

F=FFN(S)=RELU(SW(1)+b(1))W(2)+b(2)

(6)

其中，W(1),W(2),b(1),b(2)都是可學習的參數(shù)，隨著網(wǎng)絡的加深，為了避免過擬合，在將嵌入輸入自我注意層和FFN層前對輸入進行層歸一化，對層的輸出進行dropout，然后再將輸入x加到最終的輸出中：

f′(x)=x+Dropout(g(LayerNorm(x)))

(7)

其中，f(x)表示自我注意層或FFN層.為了進一步建模操作序列背后的復雜關系，將自注意力塊進行堆疊，其中第b塊定義如下：

Sb=MH(F(b-1))
Fb=FFN(Sb)

(8)

經(jīng)過Transformer層的嵌入學習后，將學習到的輸出表示為:

(9)

(10)

⊕表示串聯(lián)運算.通過這種操作序列嵌入的方法，具有相同項目序列但是微觀操作不同的兩個序列然后具有不同的表示，可以捕獲用戶更加細粒度的偏好和意圖.

3.4 生成推薦

(11)

為了訓練模型ISM-SR，本文使用二元交叉熵作為序列推薦任務的損失函數(shù)：

(12)

其中，S表示序列集合，D表示項目集合，Ysj∈(0,1)表示用戶是否真的會與j產(chǎn)生交互，如果Ysj=1，表示用戶的下一項交互項目是j，如果Ysj=0，表示用戶的下一項交互項目不是j.

4 實驗與評價

4.1 實驗數(shù)據(jù)集

本次實驗采用的數(shù)據(jù)集為JDATA1數(shù)據(jù)集，該數(shù)據(jù)集來自中國著名的電子商務網(wǎng)站京東，包含了京東網(wǎng)站上兩個月的用戶行為數(shù)據(jù).其中具體的操作類型有瀏覽、下單、關注、評論以及加購物車.

對于該數(shù)據(jù)集，本研究將會話的持續(xù)時間閾值設置為1小時，過濾在數(shù)據(jù)集中出現(xiàn)次數(shù)少于3次的項目以及長度為1的會話.實驗中，為了驗證該模型的序列推薦的有效性，將數(shù)據(jù)預處理后的數(shù)據(jù)分為訓練集和測試集后在輸入序列推薦模型，將早期的90%用戶行為作為訓練集，并將近期10%的用戶行為作為測試集.為了進一步驗證本文提出的模型的有效性，模擬了一個稀疏的JDATA數(shù)據(jù)集，僅保留最初的1%用戶行為，將該稀疏數(shù)據(jù)集表示為Few.在模型的預測過程中，首先會計算項目集中所有項目的匹配分數(shù)，然后根據(jù)分數(shù)的大小生成top-k列表.

4.2 實驗配置

實驗中數(shù)據(jù)預處理、多層次序列特征提取、序列推薦模型的構建均采用python語言來實現(xiàn).具體硬件環(huán)境為CPU：Intel Xeon E5-2630 v3，內(nèi)存：32GB，顯卡：NVIDIA Geforce GTX 1080 Ti 2張，Window10系統(tǒng)，軟件環(huán)境為Pytorch 1.8.0.

4.3 評價指標

本文使用如下兩個指標來評估ISM-SR模型推薦性能，包括Hit@k，MRR@k.

Hit@k：命中率，能直觀的衡量測試目標項目是否存在于列表的top-k項中，是基于召回的度量，測量了推薦的準確性.

MRR@k：表示用戶真正交互的項目在推薦列表中位置序號的倒數(shù)平均值，如果用戶真正交互的項目沒有出現(xiàn)在top-k列表中，則MRR為零.較大的MRR值表示正確的推薦位于推薦列表中較高的位置，表明此時的推薦性能更好.在實驗中，K取20.

4.4 實驗結果與分析

4.4.1 敏感度分析

本文提出了ISM-SR算法，該算法包含眾多不同的參數(shù)，尤其是transformer的不同組件，包括自注意力模塊的個數(shù)b，模型中的所有子層以及嵌入層產(chǎn)生維度為d，學習率(Learning rate，lr)等.這一部分將在JDATA數(shù)據(jù)集上對這些參數(shù)進行分析與研究.

對于超參數(shù)學習率lr，它的值過小可能導致模型收斂速度較慢，需要更長時間的訓練，當學習率過大可能會導致模型不收斂，損失loss不斷上下震蕩.為了對比出最優(yōu)的參數(shù)lr，在其他參數(shù)不變的情況下，lr取不同的值，Hit@20以及MRR@20的變化情況如圖4(a)、圖4(b)所示.

圖4 學習率的影響Fig.4 Influencce of LR

從圖4(a)、圖4(b)中可以看出，隨著lr取值越來越大，Hit@20以及MRR@20的值也在增大，實驗效果越好，在lr=0.01時，實驗效果達到最好，但是隨著lr取更大的值，實驗效果變差，因此，在本模型中，lr可取0.01.

接著，展示了自注意力模塊疊加對實驗的影響.如圖5(a)、圖5(b)所示，實驗發(fā)現(xiàn)，對于本模型更多的自注意模塊是首選的，對于JDATA數(shù)據(jù)集，在b=5時獲得了最佳性能.

圖5 自注意模塊個數(shù)的影響Fig.5 Influence of the number of modules

在圖6中，還分析了一個關鍵的超參數(shù)潛在維度d的影響，當d取64，128，256，512時，可以看到兩個評價指數(shù)的值都是先上升然后逐漸降低，模型的推薦性能也因此先上升然后逐漸降低，因為嵌入維度過大會導致過擬合現(xiàn)象，說明實驗中取較大的嵌入維度不一定會得到更好的模型性能，當嵌入維度取128時，模型性能最好.

圖6 潛在維度d對實驗效果的影響Fig.6 Influence of potential dimension d on experimental results

實驗中對于模型中的其他參數(shù)如多頭注意力中頭的個數(shù)nhead等同樣進行了分析，由于文章篇幅限制就不再描述.

4.4.2 算法對比

經(jīng)過大量的實驗，模型ISM-SR中的各種參數(shù)得到了調(diào)整.為了探究本文提出的模型的整體推薦性能，接下來將與以下幾種方法在JDATA數(shù)據(jù)集以及Few數(shù)據(jù)集上進行對比.

FPMC[16]：一種基于個性化馬爾可夫鏈以及矩陣分解的序列推薦預測方法.

GEU4Rec[2]：第一次將RNN應用到序列推薦中來，將項目編碼成one-hot嵌入輸入到基于GRU的RNN的模型中并實現(xiàn)推薦.

GEU4Rec+[3]：在文獻[2]的基礎上提出了一種數(shù)據(jù)增強技術，同時改變輸入數(shù)據(jù)的數(shù)據(jù)分布，改進了模型的性能.

NARM[14]：基于GRU的序列推薦模型，引入注意力機制考慮用戶偏好的長期依賴關系.

SR-GNN[4]：將序列建模為圖形結構數(shù)據(jù)，提出了基于圖神經(jīng)網(wǎng)絡的序列推薦方法.

MKM-SR[15]：同樣是將用戶微觀行為考慮其中，使用GRU處理用戶操作序列.

此外，為了證明在本文模型中納入微觀行為有效性，進一步提出ISM-SR的一些變體進行比較.

IS-SR：該變體去除了操作嵌入學習的模塊，剩下的模塊與ISM-SR相同；

ISM-SR-RPE：該變體去除了操作嵌入學習模塊中的位置嵌入，也就是僅考慮序列中用戶的具體操作，不考慮各個操作的順序.

為了進行公平比較，ISM-SR以及對比模型使用相同的嵌入維度，設置為128，batch_size設置為128，多頭注意力的nhead取8，lr=0.01，b=5.如表1所示，展示了所有方法的推薦性能對比.

從表1可以看出，在JDATA和Few這兩個數(shù)據(jù)集上，相對于傳統(tǒng)的推薦方法FPMC，深度神經(jīng)網(wǎng)絡方法GEU4Rec，GEU4Rec+，NARM以及SR-GNN取得了更好的實驗效果，是因為FPMC方法只捕捉一階的馬爾可夫關系，但是現(xiàn)實生活中用戶的偏好會受到各種因素的影響產(chǎn)生間歇性的變化，并不是絕對連續(xù)的.

表1 推薦性能對比Table 1 Recommended performance comparison

而本文所提出的模型ISM-SR的推薦效果優(yōu)于以上所提出的所有方法，在各項指標都有所提升.與GEU4Rec，GEU4Rec+相比，ISM-SR方法的推薦性能提高很多，這是因為這兩種方法雖然考慮到了用戶的序列行為，使用RNN來解決序列問題，但是沒有將用戶的微觀行為即用戶與項目相互時的具體操作考慮其中；NARM以及SR-GNN方法比前兩種深度神經(jīng)網(wǎng)絡方法取得了更好的效果，這是因為NARM方法在使用基于具有GRU單元的RNN來建模用戶行為序列，SR-GNN為了使用了圖神經(jīng)網(wǎng)絡來建模順序序列，同時，這兩種方法還加入了注意力機制來捕獲用戶的興趣，提高了模型性能，但是它們同樣沒有考慮到用戶的微觀操作行為，本文的方法將用戶的微觀操作行為考慮進來，且根據(jù)項目序列與操作序列的不同特點使用了不同的方法進行建模，取得了比NARM以及SR-GNN方法更好的效果.而與MKM-SR方法相比，本方法使用Transformer來處理用戶的操作序列，一方面Transformer比GRU可以捕獲時間序列中更加長期的依賴，另一方面Transformer的并行計算能力強，通過自注意力模塊提取不同的特征，計算效率高，節(jié)省時間，同時它的自注意力機制也使模型具有一定的可解釋性.

與ISM-SR的兩種變體方法相比，ISM-SR取得了更好的序列推薦效果，證明了本文在序列推薦任務中將用戶操作微觀行為考慮進來的有效性，同時各個操作行為的順序也是十分重要的因素，可以進一步提升序列推薦的效果.

5 總結與展望

對于序列推薦任務，在用戶宏觀項目序列的基礎上，本文從更加細粒度的角度出發(fā)，提出將用戶微觀行為即用戶與項目交互的具體操作序列考慮進來，并根據(jù)宏觀項目序列與微觀操作序列的不同轉(zhuǎn)換模式，分別采用圖神經(jīng)網(wǎng)絡以及Transformer來分別建模序列，以便獲取不同層次的用戶特征，將學習出來的兩種序列嵌入串聯(lián)起來輸入MLP及softmax網(wǎng)絡，計算出可能為下一項推薦的得分，以產(chǎn)生用戶的下一項推薦.綜合實驗表明，本文提出的方法優(yōu)于基線方法，有效地提高了推薦系統(tǒng)的性能.

未來的工作可以在此基礎上，考慮融合當前會話的上下文信息，如鄰域知識、流行度因素等，應該會對推薦任務起到一定的輔助作用.