北京郵電大學(xué)網(wǎng)絡(luò)與交換技術(shù)國家重點(diǎn)實(shí)驗(yàn)室 北京 100876

概述

隨著互聯(lián)網(wǎng)信息快速增長，個(gè)人和企業(yè)的發(fā)展都離不開互聯(lián)網(wǎng)技術(shù)。面對(duì)如此眾多的數(shù)據(jù)，用戶使用信息檢索時(shí)，很難快速有效地找到符合自身需求的資源。隨著此類問題日益受到關(guān)注，個(gè)性化服務(wù)應(yīng)運(yùn)而生。個(gè)性化服務(wù)就是利用機(jī)器學(xué)習(xí)與數(shù)據(jù)挖掘的相關(guān)算法收集、分析用戶數(shù)據(jù)，同時(shí)，根據(jù)分析得到的結(jié)果對(duì)用戶將要采取的行為進(jìn)行預(yù)測，然后產(chǎn)生個(gè)性化的推薦結(jié)果，以達(dá)到主動(dòng)推薦的目的，從而提高站點(diǎn)的服務(wù)效率，并以此來吸引更多消費(fèi)者[1]。個(gè)性化推薦作為推薦系統(tǒng)服務(wù)中的一項(xiàng)重要內(nèi)容，常常被用在電商網(wǎng)站之中來為用戶提供商品信息以及購買意見，以幫助用戶完成整個(gè)購買流程。個(gè)性化推薦的原理是：利用各種推薦算法，如基于內(nèi)容推薦算法、基于用戶的協(xié)同過濾算法、基于物品的協(xié)同過濾算法、基于上下文的推薦算法等，根據(jù)系統(tǒng)采集的用戶行為等特征，為用戶尋找相近的用戶群，而后在群內(nèi)用戶之間，互相推薦瀏覽過的商品[2]。用戶通過使用個(gè)性化推薦系統(tǒng)，能夠快速準(zhǔn)確地找到所需商品，減少購物時(shí)間，提高購買和服務(wù)的效率。

在個(gè)性化推薦系統(tǒng)帶來巨大便利與收益的同時(shí)，業(yè)界也開始更加關(guān)注用戶隱私泄露、惡意信息注入等安全問題。如何保證用戶隱私數(shù)據(jù)安全，如何保證推薦系統(tǒng)在復(fù)雜網(wǎng)絡(luò)環(huán)境中的穩(wěn)定性，如何定位并查找惡意用戶等問題，成為個(gè)性化推薦系統(tǒng)安全問題的主要研究方向。本文從個(gè)性化推薦系統(tǒng)的數(shù)據(jù)安全(用戶隱私安全)和推薦算法安全兩個(gè)方面分析在個(gè)性化推薦系統(tǒng)中常出現(xiàn)的安全問題并提出建議性的解決方案。為個(gè)性化推薦系統(tǒng)的使用者及開發(fā)者提供一個(gè)可供參考的意見。

1 個(gè)性化推薦系統(tǒng)及其信任度

1.1 個(gè)性化推薦系統(tǒng)

根據(jù)1997年Resnick等人給出的推薦系統(tǒng)概念的定義[1]：利用電子商務(wù)網(wǎng)站向客戶提供商品信息和建議，幫助用戶決定應(yīng)該購買什么產(chǎn)品，模擬銷售人員幫助客戶完成購買過程。個(gè)性化推薦系統(tǒng)一般由用戶信息抽取、用戶建模、推薦算法三個(gè)部分組成。推薦系統(tǒng)模型流程如圖1所示。

圖1 推薦系統(tǒng)通用模型

在運(yùn)行時(shí)，推薦系統(tǒng)會(huì)將待推薦對(duì)象的特征信息與系統(tǒng)中的特征信息進(jìn)行匹配、篩選、過濾。選出匹配度較高的推薦對(duì)象，推薦給用戶。推薦系統(tǒng)的個(gè)性化程度與用戶信息的掌握情況成正比。掌握用戶信息越多、越全面的個(gè)性化推薦系統(tǒng)，就越容易做出個(gè)性化程度與精確度較高的推薦。同時(shí)，推薦系統(tǒng)還需要用戶不斷地進(jìn)行反饋，以便自身能夠隨著用戶的變化而及時(shí)地做出調(diào)整。其中，用戶的個(gè)性化信息除了包括用戶的年齡、職業(yè)、學(xué)歷、居住地點(diǎn)、婚姻狀態(tài)等基本屬性信息外，還包括用戶所喜好的領(lǐng)域、分類、檢索的關(guān)鍵詞、瀏覽網(wǎng)站的內(nèi)容等偏好和需求信息。

1.2 推薦系統(tǒng)信任度

信任度是指用戶對(duì)于推薦系統(tǒng)推薦結(jié)果的信任程度。隨著推薦系統(tǒng)推薦準(zhǔn)確率的提升，信任度作為推薦系統(tǒng)眾多評(píng)價(jià)指標(biāo)中非常重要的一項(xiàng)，開始受到更多開發(fā)者的關(guān)注。在商品推薦的推薦系統(tǒng)中，用戶對(duì)于推薦系統(tǒng)的信任度顯得尤為重要。對(duì)于不同推薦系統(tǒng)產(chǎn)生的相同推薦結(jié)果，信任度高的推薦系統(tǒng)更能促進(jìn)用戶的購買欲望。同時(shí)，對(duì)于信任度較高的推薦系統(tǒng)，用戶更愿意與之進(jìn)行交互、反饋，并提供一些興趣、愛好等個(gè)人信息；而對(duì)于信任度較低的推薦系統(tǒng)，用戶很難產(chǎn)生購買意愿，甚至?xí)?dān)憂個(gè)人信息的安全。這樣站點(diǎn)就失去了用戶黏性，用戶開始逐漸流失，失去了用戶行為數(shù)據(jù)作為推薦系統(tǒng)的基礎(chǔ)，導(dǎo)致推薦準(zhǔn)確率下降，最終進(jìn)入信任度降低—準(zhǔn)確率下降的惡性循環(huán)。所以，保證推薦系統(tǒng)推薦算法的可靠與數(shù)據(jù)安全勢(shì)在必行。

2 用戶隱私數(shù)據(jù)安全防護(hù)

2.1 用戶隱私數(shù)據(jù)安全問題

部分互聯(lián)網(wǎng)公司為提供更加精準(zhǔn)的服務(wù)或謀取利益，通常會(huì)共享或出售部分用戶數(shù)據(jù)進(jìn)行數(shù)據(jù)挖掘和分析，數(shù)據(jù)中隱含的、能夠識(shí)別用戶身份的標(biāo)識(shí)同樣會(huì)泄露用戶重要的隱私信息。表1為《推薦系統(tǒng)實(shí)戰(zhàn)》[2]中給出的針對(duì)用戶對(duì)個(gè)人隱私泄露擔(dān)心的統(tǒng)計(jì)數(shù)據(jù)。

表1 用戶調(diào)查統(tǒng)計(jì)表

據(jù)《推薦系統(tǒng)實(shí)戰(zhàn)》調(diào)查，用戶對(duì)于隱私的擔(dān)心使得他們大多拒絕或反感給出個(gè)人數(shù)據(jù)，這將直接導(dǎo)致個(gè)性化推薦系統(tǒng)推薦精度的下降。

2.2 用戶隱私數(shù)據(jù)安全保護(hù)策略

2.2.1 隱私參數(shù)平臺(tái)P3P

針對(duì)Web用戶信息保密的問題，W3C提出隱私參數(shù)平臺(tái)(Platform for Privacy Preferences，P3P)[3]。通過P3P，網(wǎng)站只能獲取到用戶選擇提供的信息，從而達(dá)到保護(hù)用戶隱私的目的。目前，支持P3P的網(wǎng)站有www.w3c.org等。但由于P3P無法保證網(wǎng)站在使用數(shù)據(jù)的過程中，同樣遵守隱私條款，因此用戶無法保證隱私數(shù)據(jù)是否安全。

2.2.2 傳統(tǒng)的數(shù)據(jù)隱私保護(hù)算法

傳統(tǒng)的數(shù)據(jù)隱私保護(hù)算法是對(duì)原始值進(jìn)行修改，讓用戶提供有關(guān)敏感信息的值[4]。修改這些原始值的方法有2個(gè)。1)對(duì)“屬性”進(jìn)行離散化。對(duì)屬性進(jìn)行離散化是隱藏信息較常用的方法之一。將屬性值根據(jù)情況劃分為間隔長度不同或者相同的幾類。如年齡，對(duì)數(shù)據(jù)使用方不再提供真實(shí)數(shù)值，而是提供屬性所對(duì)應(yīng)的分類。2)原始值失真。在原始值xi的基礎(chǔ)之上引入隨機(jī)因子r，由此可以得到隨機(jī)變量在[-α,+α]上，隨機(jī)變量的均值為0的聯(lián)合分布和隨機(jī)變量均值為μ=0，標(biāo)準(zhǔn)差為δ的高斯分布。

2.2.3 本地化推薦計(jì)算及用戶興趣配置文件(Dynamic User Profile, DUP)

該方法將用戶隱私數(shù)據(jù)的數(shù)據(jù)挖掘和管理都交給客戶端來進(jìn)行。客戶端根據(jù)DUP進(jìn)行分析選擇，然后將提給內(nèi)容提供服務(wù)器。其設(shè)計(jì)如圖2所示。

圖2 DUP及推薦本地化設(shè)計(jì)如圖

從圖中2可以看出，該方法分為3個(gè)部分。1)用戶信息收集代理： 主要負(fù)責(zé)搜集用戶信息并形成格式化的用戶行為文件。可以采用TF-IDF(term frequency–inverse document frequency)等加權(quán)算法在收集用戶數(shù)據(jù)時(shí)計(jì)算關(guān)鍵詞在語料庫中的權(quán)重，生成詞向量，從而建立用戶DUP模型。同時(shí)為適應(yīng)用戶興趣的變化，可引入相關(guān)的隨時(shí)間衰減函數(shù)。2)內(nèi)容推薦服務(wù)器。其作用為管理資源并根據(jù)客戶端發(fā)送的請(qǐng)求發(fā)送對(duì)應(yīng)的內(nèi)容和收集用戶反饋信息。3)本地推薦客戶端。采用基于內(nèi)容過濾技術(shù)，比較資源與DUP文件，然后進(jìn)行推薦。

從以上描述可以看出，本地化推薦計(jì)算和DUP文件的方法可以通過本地推薦客戶端防止用戶數(shù)據(jù)的泄露，保證推薦的效率。但卻只能應(yīng)用于基于內(nèi)容的推薦系統(tǒng)，這就使得推薦結(jié)果喪失了社交屬性，因?yàn)榉?wù)器無法建立用戶與用戶之間的聯(lián)系，同時(shí)，推薦計(jì)算的本地化要求推薦系統(tǒng)必須擁有本地客戶端以方便進(jìn)行推薦計(jì)算，這也加大了系統(tǒng)開發(fā)和用戶使用成本。

2.2.4 采用聚合的方法保護(hù)隱私

文獻(xiàn)《推薦系統(tǒng)安全問題研究綜述》[5]在分布式的體系結(jié)構(gòu)下使用了聚合(aggregation)的方法。首先，將系統(tǒng)中的用戶根據(jù)某些偏好或規(guī)則聚集成為一些“用戶集”。此后，推薦系統(tǒng)不再以單個(gè)用戶作為推薦的基本單位，而是將推薦的基本單位變?yōu)椤坝脩艏?。推薦系統(tǒng)針對(duì)這些“用戶集”所具有的數(shù)據(jù)特征做出推薦，而單個(gè)用戶共享“用戶集”的推薦結(jié)果。在此過程中，用戶不需要將個(gè)人數(shù)據(jù)同步到服務(wù)端，所以用戶個(gè)人對(duì)數(shù)據(jù)享有絕對(duì)的控制權(quán)。當(dāng)需要進(jìn)行數(shù)據(jù)交流時(shí)，用戶先與其他用戶進(jìn)行數(shù)據(jù)交換，再將得到的數(shù)據(jù)與自身所在“用戶集”數(shù)據(jù)進(jìn)行聚合，然后再次計(jì)算得到推薦結(jié)果。在上述所有的操作過程中，用戶的信息均沒有暴露。

團(tuán)體模型方法與聚合方法類似，同樣是通過尋找用戶共同屬性、偏好建立用戶群體模型；數(shù)據(jù)的交互與用戶獲得的推薦均是以用戶團(tuán)體為單位來進(jìn)行的。

3 推薦系統(tǒng)攻擊的安全防護(hù)

3.1 推薦系統(tǒng)攻擊的定義

推薦系統(tǒng)能夠?yàn)橛脩籼峁﹤€(gè)性化推薦的前提是與用戶進(jìn)行交互，并記錄用戶的訪問記錄來形成“知識(shí)”，從而為用戶提供推薦。然而，這些交互數(shù)據(jù)與記錄均是開放式的，這使得一些攻擊者利用推薦系統(tǒng)這一特點(diǎn)，人為地向其注入惡意的行為數(shù)據(jù)。誘導(dǎo)推薦提供做出對(duì)他們有利的推薦，從而達(dá)到謀取利益的目的。這樣的攻擊方式稱之為用戶概貌植入攻擊，又叫做托攻擊(Shilling Attack)[6-7]。

根據(jù)攻擊的目的不同可以分為推攻擊和核共計(jì)[8]。推攻擊(Push Attack)是為了將目標(biāo)項(xiàng)目的推薦頻率提高。核攻擊(Nuke Attack)是為了將目標(biāo)項(xiàng)目的推薦頻率降低。

3.2 協(xié)調(diào)過濾推薦系統(tǒng)攻擊舉例

推薦系統(tǒng)受到了托攻擊，如果其推薦系統(tǒng)采用的是基于用戶協(xié)同過濾算法，那么它產(chǎn)生的推薦結(jié)果將會(huì)發(fā)生很大的變化。例如：在某電商網(wǎng)站中，以數(shù)字1～5表示用戶對(duì)圖書的偏好程度，分?jǐn)?shù)越高表明用戶購買圖書的傾向性越大。如表2所示，系統(tǒng)中出現(xiàn)有8個(gè)用戶，User1-User7和User Alice，現(xiàn)在推薦系統(tǒng)將要預(yù)測用戶User Alice對(duì)圖書i6的喜好程度。根據(jù)Userbased協(xié)同過濾算法原理，首先要根據(jù)目標(biāo)用戶來尋找和目標(biāo)用戶偏好相似的用戶。在托攻擊沒有發(fā)生之前，用戶User6、User2和User3為與User Alice最為相近的三個(gè)用戶，可以看到這三個(gè)用戶對(duì)圖書i6的喜好程度都很低，因此可以得知，用戶User Alice對(duì)于i6的喜好程度很低。不會(huì)推薦i6給User Alice。然后，當(dāng)攻擊發(fā)生后，系統(tǒng)中多了Attack1-3三個(gè)惡意用戶。由于注入的惡意信息具有很強(qiáng)的目的性，從而導(dǎo)致和User Alice 最相似的用戶發(fā)生了變化，變?yōu)榱薃ttack1-3。由于Attack1-3用戶對(duì)圖書i6的偏好程度較高，從而導(dǎo)致對(duì)User Alice的推薦結(jié)果發(fā)生了變化，誤將圖書i6推薦給了User Alice。

從上述實(shí)例中可以看到。惡意用戶的托攻擊會(huì)誘導(dǎo)推薦系統(tǒng)做出錯(cuò)誤的判斷。即使推薦算法的結(jié)果是非常準(zhǔn)確的，但是一旦受到攻擊，推薦系統(tǒng)將無法做出準(zhǔn)確推薦，甚至做出錯(cuò)誤推薦；因此，如何識(shí)別惡意用戶以及惡意行為等推薦系統(tǒng)安全問題不容忽視。

3.3 協(xié)調(diào)過濾推薦系統(tǒng)攻擊檢測算法

推薦系統(tǒng)攻擊者，通常是利用根據(jù)推薦系統(tǒng)原有的用戶行為信息，來構(gòu)建出大量對(duì)自身有利的攻擊模型注入到推薦系統(tǒng)之中，從而對(duì)推薦系統(tǒng)的結(jié)果產(chǎn)生影響。而攻擊檢測的目的，是對(duì)推薦系統(tǒng)內(nèi)現(xiàn)有用戶行為數(shù)據(jù)進(jìn)行分析。將已經(jīng)成功注入到推薦系統(tǒng)中的攻擊用戶信息從系統(tǒng)中分離出來。降低攻擊用戶信息的影響，保證推薦系統(tǒng)的準(zhǔn)確性。

3.3.1 基于統(tǒng)計(jì)學(xué)的檢測算法

文獻(xiàn)[9]中指出：可疑數(shù)據(jù)引起的數(shù)據(jù)異常，可以通過統(tǒng)計(jì)分析的方法檢測到。統(tǒng)計(jì)檢測的方法依靠統(tǒng)計(jì)過程控制技術(shù)確定離群項(xiàng)目，從而對(duì)數(shù)據(jù)異常進(jìn)行檢測。其中兩個(gè)統(tǒng)計(jì)過程測量項(xiàng)目為：1)項(xiàng)目評(píng)分離群程度，通過計(jì)算項(xiàng)目評(píng)分與項(xiàng)目均值的距離，來判斷項(xiàng)目是否在一個(gè)安全的范圍內(nèi)；2)置信區(qū)間，根據(jù)置信率確定置信區(qū)間，計(jì)算項(xiàng)目的評(píng)分均值是否在置信區(qū)間之內(nèi)，如果在置信區(qū)間之內(nèi)，則證明推薦系統(tǒng)在這段時(shí)間內(nèi)是安全的。

3.3.2 基于無監(jiān)督聚類的檢測算法

此方法周期性地從數(shù)據(jù)庫中抽取用戶數(shù)據(jù)進(jìn)行聚類分析，并對(duì)聚類中心的位置進(jìn)行分析。如果聚類中心位置沒有顯著變化，則認(rèn)為系統(tǒng)是安全的；相反，如果發(fā)現(xiàn)聚類中心發(fā)生顯著位移，則認(rèn)為系統(tǒng)受到了攻擊，而那些偏離聚類中心過多的用戶則有可能為惡意用戶。

3.3.3 基于PCA的攻擊檢測算法

根據(jù)Mehta等人[7]對(duì)攻擊過程特征的研究，惡意用戶與惡意用戶之間及惡意用戶與正常用戶之間都有著很強(qiáng)的相關(guān)性，反而正常用戶之間的相關(guān)性較小。PCA(Principal Component Analysis)算法是一種基于變量的協(xié)方差矩陣二次排序方法，通過用最大方差找出原始變量的一些正交線性合并，這些合并后的成分就是主要成分，用它們來探索數(shù)據(jù)相關(guān)性。

第一個(gè)主要成分其中w為系數(shù)向量

P C A對(duì)原始數(shù)據(jù)進(jìn)行了特征值分解。假設(shè)數(shù)據(jù)為的矩陣形式，其中一列代表一個(gè)項(xiàng)目假設(shè)數(shù)據(jù)為零居中形式，現(xiàn)在的協(xié)方差矩陣C如下：可以將C轉(zhuǎn)化為的形式。其中λ是C的特征值組成的對(duì)角矩陣，U為對(duì)應(yīng)的特征向量。這表明主要成分(PCs)能夠用矩陣S的行來給出。即按照C的特征值的順序?qū)進(jìn)行排序。這樣便得到了PCA選擇攻擊用戶的算法。降序排序后的前r個(gè)用戶，即為攻擊用戶。

3.3.4 攻擊檢測算法評(píng)價(jià)及其他攻擊檢測算法

上述三類算法，基于概率學(xué)的檢測算法相對(duì)容易實(shí)現(xiàn)，有其概率的合理性，但相關(guān)參數(shù)較多且難于控制。隨著推薦系統(tǒng)規(guī)模的擴(kuò)大，需要不斷地對(duì)各類參數(shù)進(jìn)行調(diào)整，以適應(yīng)推薦系統(tǒng)自身的變化?；诰垲惖墓魴z測算法可以適應(yīng)推薦系統(tǒng)的變化，但它基于的共識(shí)是：攻擊用戶與攻擊用戶的特征之間往往具有很高的相似度，可以通過某些聚類算法對(duì)攻擊用戶進(jìn)行聚類。由于攻擊用戶的特征可能與某些正常用戶相似，所以并不能通過聚類將所有攻擊用戶聚在一起。為解決這一問題，學(xué)者們提出可以降維評(píng)分?jǐn)?shù)據(jù)。通過降維數(shù)據(jù)，使得攻擊用戶與正常用戶的關(guān)聯(lián)性減低，從而能夠更好地反應(yīng)用戶的評(píng)分特性[9]。但在面對(duì)海量數(shù)據(jù)情況下，計(jì)算協(xié)方差矩陣的時(shí)間復(fù)雜度較高。通常使用評(píng)分矩陣的零矩陣的z-scores()來代替元矩陣進(jìn)行分解[10]。即使這樣，PCA算法的計(jì)算復(fù)雜度仍舊很高，面對(duì)推薦系統(tǒng)中巨大的用戶偏好矩陣，PCA算法是很難實(shí)現(xiàn)的。

針對(duì)上述的種種問題，研究人員也提出了很多攻擊檢測算法。Tang等[11]在2011年提出分析用戶的評(píng)分時(shí)間間隔的方法來進(jìn)行檢測。如果在一個(gè)時(shí)間段內(nèi)，某個(gè)用戶對(duì)一些項(xiàng)目產(chǎn)生了大量購買、訂閱等行為，則此用戶有很大嫌疑成為惡意用戶。Zhang等人[12]在2011年提出一種數(shù)據(jù)沿襲(data lineage)的方法，通過查詢用戶的歷史行為記錄，和推薦結(jié)果來定位惡意用戶。

4 結(jié)束語

在電子商務(wù)及推薦系統(tǒng)普及、應(yīng)用、蓬勃發(fā)展的今天，人們?cè)絹碓蕉嗟厥褂谩⒁蕾囃扑]系統(tǒng)。然而，由于推薦系統(tǒng)自身的開放性，很容易受到外界用戶的攻擊；因此，如何保證推薦系統(tǒng)的推薦質(zhì)量、增強(qiáng)推薦系統(tǒng)的安全性，成為受到越來越多關(guān)注的問題。本文對(duì)推薦系統(tǒng)的數(shù)據(jù)安全及算法安全問題進(jìn)行了分析和研究、提出并對(duì)比了相應(yīng)的解決方案，對(duì)推薦系統(tǒng)的發(fā)展有著重要的意義。相信隨著科學(xué)技術(shù)的不斷發(fā)展，推薦系統(tǒng)的變革創(chuàng)新，會(huì)迎來一個(gè)推薦準(zhǔn)確、隱私安全的全新電商時(shí)代。

參考文獻(xiàn)

[1] KOBSA A. User modeling in dialog system: potentials and hazards[C]//Proc of IFIP/GI Conference on Opportunities and Risks of Artif i cial Intelligence System.1989:147-165

[2] 項(xiàng)亮.推薦系統(tǒng)實(shí)戰(zhàn)[M].北京:人民郵電出版社,2012年

[3] 王國霞,王麗君,劉賀平.個(gè)性化推薦系統(tǒng)隱私保護(hù)研究進(jìn)展[J].計(jì)算機(jī)應(yīng)用研究,2012,29(6):2001-2008

[4] Lorrie C, Langheinrich M, Marchiori M, et al. The Platform for Privacy Preferences 1.0 Specification[EB/OL].(2002-04-12)[2016-07-19].http://www.w3.org/TR/2000/CR-P3P-20001215/

[5] 何發(fā)鎂,馮勇,許榕生,等.推薦系統(tǒng)安全問題研究綜述[C]//全國計(jì)算機(jī)、網(wǎng)絡(luò)在現(xiàn)代科學(xué)技術(shù)領(lǐng)域的應(yīng)用學(xué)術(shù)會(huì)議,2007

[6] 高峰.個(gè)性化協(xié)同過濾算法的安全問題研究[D].北京:燕山大學(xué),2009

[7] 余力,董斯維,郭斌,電子商務(wù)推薦攻擊研究[J].計(jì)算機(jī)科學(xué),2007,l134 (15):134-138

[8] R.Burke, B.Mobasher, R.Bhaumik. Limited knowledge shilling attacks in collaborative filtering systems.//Proceedings of the 3rd IJCAI Workshop in Intelligent Techniques for Personalization, Edinburgh,Scotland,2005:76-82.

[9] Williams C. A, Mobasher B, Burke R, et al. Detecting profile injection attacks in collaborative filtering: a classification-based approach[M]. Advances in Web Mining and Web Usage Analysis. Springer Berlin Heidelberg, 2007: 167-186

[10] K. Bryan, M. O'Mahony, P. Cunningham. Unsupervised retrieval of attack prof i les in collaborative recommender systems[C]. Proceedings of the 2008 ACM conference on Recommender systems. ACM, 2008: 155-162

[11] T. Tang, Y. Tang. An effective recommender attack detection method based on time SFM factors[C].Communication Software and Networks (ICCSN), 2011 IEEE 3rd International Conference on. IEEE, 2011: 78-81

[12] F. G. Zhang. Preventing recommendation attack in trustbased recommender systems[J]. Journal of Computer Science and Technology,2011,26(5):823-828