楊楚珺，胡哲

（西南大學(xué)計(jì)算機(jī)信息與科學(xué)學(xué)院，重慶 400715）

介紹推薦系統(tǒng)在口碑平臺(tái)的應(yīng)用。在提取用戶特性和時(shí)間特性以及商家特性的基礎(chǔ)上，使用BP 神經(jīng)網(wǎng)絡(luò)給用戶推薦商家，同時(shí)對(duì)比BP 神經(jīng)網(wǎng)絡(luò)中單隱層和雙隱層的效果區(qū)別。對(duì)有線上記錄的用戶使用協(xié)同過(guò)濾進(jìn)行推薦，對(duì)于無(wú)線上記錄的新用戶由于沒(méi)有淘寶購(gòu)物記錄，無(wú)法判斷其愛(ài)好，所以從商家特性進(jìn)行分析并推薦給新用戶。

BP 神經(jīng)網(wǎng)絡(luò)；推薦系統(tǒng)；協(xié)同過(guò)濾

0 引言

隨著智能手機(jī)的普及，基于位置的服務(wù)也進(jìn)入了日常生活，人們會(huì)在使用滴滴打車(chē)、高德地圖、美團(tuán)外賣(mài)等App 上面共享自己的位置。因此，大量的用戶數(shù)據(jù)積累下來(lái)，打開(kāi)了機(jī)器學(xué)習(xí)/數(shù)據(jù)挖掘的大門(mén)。在這次本賽中，需要研究線上和線下的相關(guān)性偏好用于推薦就近商店。阿里巴巴提供了淘寶和天貓的線上購(gòu)物數(shù)據(jù)，螞蟻金服提供了支付寶的口碑中的線下數(shù)據(jù)。同時(shí)享受了這兩項(xiàng)服務(wù)的用戶擁有同樣的用戶ID。淘寶和天貓的線上數(shù)據(jù)擁有大量的用戶數(shù)據(jù)，但口碑才上線五個(gè)月，所以用戶數(shù)據(jù)較少。

淘寶和天貓的線上數(shù)據(jù)能夠加強(qiáng)口碑的線下推薦準(zhǔn)確度。Zheng 等人和Bao 等人[2]使用用戶歷史地理位置來(lái)幫助構(gòu)建社交網(wǎng)絡(luò)。Liao[3]和Zheng 等人[4]使用GPS 數(shù)據(jù)模擬人類(lèi)行為模式，并預(yù)測(cè)人類(lèi)活動(dòng)，推薦本地服務(wù)。

本數(shù)據(jù)集中，口碑線下商家有五個(gè)月的歷史記錄，涉及到冷啟動(dòng)問(wèn)題。冷啟動(dòng)是推薦系統(tǒng)最常見(jiàn)且最大的挑戰(zhàn)。已經(jīng)有很多研究員在這個(gè)問(wèn)題上做了大量研究。Zhou 等人[5]通過(guò)使用基于用戶的協(xié)同過(guò)濾的決策樹(shù)預(yù)測(cè)新用戶偏好，Liu 等人[6]使用現(xiàn)有用戶的線性組合來(lái)近似新用戶的行為。還可以利用其他來(lái)源中的用戶信息來(lái)處理冷啟動(dòng)的問(wèn)題。Lin 等人[7]通過(guò)社交網(wǎng)絡(luò)的用戶信息解決了App 推薦的冷啟動(dòng)問(wèn)題。并且應(yīng)用潛在因素模型來(lái)處理冷啟動(dòng)問(wèn)題。用戶特征被投影到降維空間中，這個(gè)降維空間可以找到用戶相似度最有效的表示[8]。適用于冷啟動(dòng)解的潛在因素模型包括主成分分析[9]，限制波爾茨曼機(jī)制[10]和奇異矢量分解[11]。

由于口碑只有從上線開(kāi)始的五個(gè)月的記錄，大量的新用戶和新商家的加入造成了冷啟動(dòng)問(wèn)題。這里，將用戶群分成三類(lèi)：有淘寶購(gòu)物記錄的新用戶、無(wú)淘寶購(gòu)物記錄的新用戶、有口碑記錄的老用戶。線下購(gòu)買(mǎi)行為能夠從以前的記錄中得到，也可以由線上購(gòu)物記錄推測(cè)而來(lái)。數(shù)據(jù)集的典型特征和分析，以及相關(guān)算法如下。

1 數(shù)據(jù)分析

本文主要的目標(biāo)在解決兩個(gè)推薦問(wèn)題，一個(gè)是冷啟動(dòng)問(wèn)題，一個(gè)是實(shí)體店的人流量控制問(wèn)題。

首先，由于口碑只有五個(gè)月的銷(xiāo)售記錄，并且是剛上線的五個(gè)月的銷(xiāo)售記錄，每個(gè)月都會(huì)出現(xiàn)很多新用戶和新商家。要給這些用戶推薦好的商家就成了一個(gè)棘手的難題，不過(guò)，這里還給出了這五個(gè)月來(lái)口碑中一部分用戶的淘寶購(gòu)物記錄。我們可以通過(guò)淘寶記錄上的用戶偏好來(lái)給口碑用戶進(jìn)行推薦。

然后，是每個(gè)商家的人流量問(wèn)題，雖然店主都希望人越多越好，但從用戶角度看，人多就會(huì)造成等待時(shí)間過(guò)長(zhǎng)這個(gè)問(wèn)題，每個(gè)商家每天能接待的客戶都是有限的。由于沒(méi)有十二月份的評(píng)測(cè)數(shù)據(jù)集，并且口碑上線時(shí)間短，每個(gè)地點(diǎn)用戶基數(shù)不大，人流量問(wèn)題不予考慮。

本文使用的四個(gè)數(shù)據(jù)集，分為：淘寶數(shù)據(jù)集、口碑訓(xùn)練數(shù)據(jù)集、商家數(shù)據(jù)集和測(cè)試數(shù)據(jù)集。

第一個(gè)是淘寶線上購(gòu)物記錄集。淘寶集共有44528127 條數(shù)據(jù)，用戶ID 最大為2063701，包含用戶963823 名、店鋪一萬(wàn)家。淘寶集是用戶某一天在淘寶上瀏覽或者購(gòu)買(mǎi)的記錄。

第二個(gè)是口碑訓(xùn)練集，口碑集共有1081724 條數(shù)據(jù)，用戶ID 最大為2063695，包含用戶230496 名、店鋪5910 家（不包含連鎖店數(shù)量），商家ID 號(hào)為1 到9999?？诒怯脩裟骋惶煸诳诒系馁?gòu)買(mǎi)記錄。

第三個(gè)是商家信息集，商家集共有5910 條數(shù)據(jù)，商家ID 最大為9999。商家集是口碑七月份到十二月份上線的所有商家。

第四個(gè)是測(cè)試集，有數(shù)據(jù)473533 條，是十二月會(huì)消費(fèi)的用戶會(huì)去哪些地方的數(shù)據(jù)集，競(jìng)賽要求是要按照這個(gè)集合進(jìn)行商家推薦。

2 推薦系統(tǒng)

因?yàn)榭诒纳碳抑写嬖谛律碳?，用戶也存在新用戶，所以此處將用戶集分為：無(wú)淘寶購(gòu)物記錄的新用戶、有淘寶購(gòu)物記錄的新用戶和老用戶。針對(duì)不同的集合采用不同的方法。

無(wú)淘寶購(gòu)物記錄的新用戶有90602 名，有淘寶購(gòu)物記錄的新用戶有330609 名，老用戶有52322 名，對(duì)于不同的用戶組采用不同的方法。

2.1 老用戶

由于沒(méi)有十二月份的口碑記錄，無(wú)法判斷最后結(jié)果好壞，所以先針對(duì)老用戶，將口碑集中前五個(gè)月的特征提取出來(lái)，得到訓(xùn)練集，并從訓(xùn)練集中取95%作為訓(xùn)練數(shù)據(jù)，5%作為測(cè)試數(shù)據(jù)。由于在大多數(shù)地點(diǎn)，商家數(shù)量較少，如圖1 所示，大部分地區(qū)的商家數(shù)量為0-10，基于項(xiàng)目的協(xié)同過(guò)濾方法不適用于這里。

采用BP 神經(jīng)網(wǎng)絡(luò)，雙隱含層，每層十個(gè)神經(jīng)元。對(duì)于每一個(gè)用戶-商家-地點(diǎn)組，統(tǒng)計(jì)用戶特性，時(shí)間特性和商家特性，用戶特性包括是否去過(guò)那家店，去的總次數(shù)，去的可能性，在線購(gòu)買(mǎi)總量。時(shí)間特性包括最近一次購(gòu)買(mǎi)時(shí)間，是否最后一次購(gòu)物商家，第一次購(gòu)買(mǎi)時(shí)間。商家特性有，與這家店最相似的兩家商家id，去過(guò)沒(méi)，購(gòu)買(mǎi)可能性，地點(diǎn)商家總量。特征表如表1 所示。特征集包含數(shù)據(jù)30 多萬(wàn)條。

圖1 商家數(shù)量

BP 算法具體內(nèi)容如下：

（1）輸入模式是由輸入層經(jīng)過(guò)隱含層向輸出層逐層傳播的“模式順傳播”過(guò)程。

（2）網(wǎng)絡(luò)的期望輸出與實(shí)際輸出之差，即誤差信號(hào)，是由輸出層經(jīng)隱含層向輸入層逐層修正連接權(quán)值的“誤差逆?zhèn)鞑ァ边^(guò)程。

（3）由“模式順傳播”過(guò)程和“誤差逆?zhèn)鞑ァ边^(guò)程反復(fù)交替進(jìn)行的網(wǎng)絡(luò)“記憶訓(xùn)練”過(guò)程。

（4）網(wǎng)絡(luò)趨向收斂，即網(wǎng)絡(luò)的全局誤差趨向極小值的“學(xué)習(xí)收斂”過(guò)程

BP 神經(jīng)網(wǎng)絡(luò)的主要能力有非線性映射能力、泛化能力和容錯(cuò)能力。

（1）非線性映射能力:無(wú)需事先了解輸入輸出模式之間的映射關(guān)系，只要能夠?yàn)锽P 神經(jīng)網(wǎng)絡(luò)提供足夠多的輸入輸出樣本模式供其進(jìn)行學(xué)習(xí)訓(xùn)練，BP 神經(jīng)網(wǎng)絡(luò)就能夠?qū)W習(xí)并存儲(chǔ)大量的輸入輸出模式映射關(guān)系，就能夠完成由n 維輸入空間到m 維輸出空間的非線性映射。

表1 特征表

（2）泛化能力：BP 神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練完成后會(huì)將所提取的樣本模式對(duì)中的非線性映射關(guān)系存儲(chǔ)在網(wǎng)絡(luò)連接權(quán)向量中，因此，在其后的正常工作階段，當(dāng)向BP神經(jīng)網(wǎng)絡(luò)輸入訓(xùn)練時(shí)未曾見(jiàn)過(guò)的數(shù)據(jù)時(shí)，BP 神經(jīng)網(wǎng)絡(luò)也能夠完成由輸入模式到輸出模式的正確映射。BP神經(jīng)網(wǎng)絡(luò)的泛化能力是衡量BP 神經(jīng)網(wǎng)絡(luò)性能優(yōu)劣的一個(gè)重要因素。

（3）容錯(cuò)能力：BP 神經(jīng)網(wǎng)絡(luò)的另外一個(gè)重要能力，也是人工神經(jīng)網(wǎng)絡(luò)的重要特點(diǎn)之一，是容錯(cuò)能力，即允許輸入模式及樣本中存在較大的誤差，甚至允許出現(xiàn)錯(cuò)誤。這時(shí)，因?yàn)檫B接權(quán)向量的調(diào)整過(guò)程是從大量的樣本模式對(duì)中提取的統(tǒng)計(jì)特性的過(guò)程，而反映正確規(guī)律的只是來(lái)自于全體樣本模式，所以個(gè)別樣本中存在的誤差不能影響對(duì)連接權(quán)向量的正確調(diào)整。

采用BP 神經(jīng)網(wǎng)絡(luò)的方法以特征集為輸入，輸出為這個(gè)用戶下一次會(huì)光顧的商家id，迭代100 次，使用MATLAB 自帶的神經(jīng)網(wǎng)絡(luò)工具箱。

迭代一百次以后，訓(xùn)練集最穩(wěn)定表現(xiàn)如圖2 所示。

圖2 訓(xùn)練效果

迭代100 次的BP 網(wǎng)絡(luò)預(yù)測(cè)誤差如圖3 所示，綠色圓圈為預(yù)測(cè)輸出，藍(lán)色星號(hào)為期望輸出。從圖中可以看出存在離群點(diǎn)，這可能是用戶嘗試了新的店。圖4是BP 網(wǎng)絡(luò)的預(yù)測(cè)誤差，雖然有很多誤差較大的輸出，但是可以看到有很多點(diǎn)是在0 周?chē)?/p>

誤差在一定范圍內(nèi)是允許的，計(jì)算預(yù)測(cè)準(zhǔn)確率有0.7130。同樣的訓(xùn)練集，只用一層隱含層。使用同樣的訓(xùn)練集、測(cè)試集，單隱含層的計(jì)算預(yù)測(cè)準(zhǔn)確率有0.2364。

為防止過(guò)擬合的情況，這里我們計(jì)算了十次雙隱含層和單隱含層的訓(xùn)練情況，如圖5 所示，僅有兩次情況，單隱含層與雙隱含層準(zhǔn)確度類(lèi)似，80%的情況下雙隱含層的結(jié)果好于單隱含層。

圖3 BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)輸出

圖4 BP網(wǎng)絡(luò)預(yù)測(cè)誤差

圖5 BP單、雙隱含層結(jié)果對(duì)比

2.2 無(wú)淘寶記錄的新用戶

對(duì)于沒(méi)有淘寶線上購(gòu)物記錄和口碑線下購(gòu)物記錄，亦即沒(méi)有任何用戶偏好特性的用戶群來(lái)說(shuō)，無(wú)法從用戶角度給用戶推薦商家，只能從商家角度出發(fā)，給用戶推薦商家。這里，我們提取了商家的相關(guān)特性：商家連鎖店數(shù)量、商家銷(xiāo)售記錄、商家預(yù)算、商家第一次銷(xiāo)售記錄時(shí)間、商家最后一次銷(xiāo)售記錄時(shí)間和商家營(yíng)業(yè)時(shí)間。

主要特征為商家ID，商家連鎖店數(shù)量，商家銷(xiāo)售記錄，商家營(yíng)業(yè)時(shí)間，商家第一次銷(xiāo)售記錄時(shí)間，可以默認(rèn)為商家上線時(shí)間，商家最近一次銷(xiāo)售記錄時(shí)間。然后計(jì)算商家與商家之間的Pearson 相關(guān)系數(shù)。為了統(tǒng)計(jì)商家特性，本文還根據(jù)地點(diǎn)的銷(xiāo)售數(shù)量、商店數(shù)量、連鎖店數(shù)量這三類(lèi)分出了最熱門(mén)區(qū)域，次熱門(mén)區(qū)域以及冷門(mén)區(qū)域。

區(qū)域主要特征為最熱門(mén)區(qū)域，次熱門(mén)區(qū)域，冷門(mén)區(qū)域。根據(jù)這個(gè)圖我們給用戶推薦在熱門(mén)區(qū)域有連鎖店的商家。但是由于沒(méi)有官方的對(duì)比數(shù)據(jù)無(wú)從得知最后結(jié)果如何，因此這里只說(shuō)明采用的方法，沒(méi)有最后的結(jié)果比對(duì)。

2.3 有淘寶購(gòu)物記錄的新用戶

對(duì)于有淘寶記錄的新用戶，這里可以借用這個(gè)用戶線上購(gòu)物偏好特性給這位用戶進(jìn)行線下推薦。由于淘寶的記錄是每個(gè)用戶在每家店的購(gòu)物記錄，而不是評(píng)分記錄，所以此處統(tǒng)計(jì)淘寶集中每個(gè)用戶在每家店的購(gòu)物次數(shù)，以用戶標(biāo)號(hào)為行，商家標(biāo)號(hào)為列，形成用戶評(píng)分矩陣，計(jì)算每個(gè)用戶的平均評(píng)分，沒(méi)有購(gòu)物記錄的不列入平均評(píng)分計(jì)算中。然后計(jì)算每個(gè)用戶的Pearson 相關(guān)系數(shù)，找出前N 個(gè)最相似的用戶，找出這前N 個(gè)用戶中有口碑購(gòu)物記錄的用戶，統(tǒng)計(jì)這些用戶最經(jīng)常去的商家，然后選出top10 推薦給新用戶。

3 結(jié)語(yǔ)

本文首先采用協(xié)同過(guò)濾對(duì)數(shù)據(jù)集進(jìn)行分類(lèi)，此方法對(duì)于商家推薦卓有成效。另外選用了兩種方法進(jìn)行比較，在BP 神經(jīng)網(wǎng)絡(luò)算法中，根據(jù)針對(duì)老用戶集進(jìn)行推薦的比較結(jié)果來(lái)看，雙隱含層要優(yōu)于單隱含層。

后續(xù)改進(jìn)，研究采用代價(jià)函數(shù)是否為交叉熵的優(yōu)缺點(diǎn)進(jìn)行推薦，同時(shí)調(diào)節(jié)BP 神經(jīng)網(wǎng)絡(luò)中神經(jīng)元的個(gè)數(shù)，比較對(duì)最后結(jié)果造成的影響。