陶 丹，姚 伊，吳謹(jǐn)汐，范睿明，鄭晨旺

(北京交通大學(xué) 電子信息工程學(xué)院，北京 100044)

1 引 言

近年來(lái)定位技術(shù)、移動(dòng)智能設(shè)備以及移動(dòng)互聯(lián)網(wǎng)技術(shù)發(fā)展迅猛，基于位置的社交網(wǎng)絡(luò)(Location-based Social Network，LBSN)也變得更加熱門，如Foursquare、Gowalla、Yelp等.用戶在LBSNs上能夠以“簽到”的方式，更加快速地分享自己的實(shí)時(shí)位置信息，以及帶有地理標(biāo)記的文本圖像等內(nèi)容信息.利用LBSNs中大量的用戶歷史簽到數(shù)據(jù)挖掘用戶習(xí)慣特點(diǎn)和偏好，并向用戶推薦其可能感興趣的新的地點(diǎn)稱為興趣點(diǎn)(Point of Interest，POI)推薦.興趣點(diǎn)推薦在LBSNs中扮演著重要的角色.

早期的多數(shù)研究關(guān)注于如何在協(xié)同過(guò)濾模型(Collaborative Filtering，CF)基礎(chǔ)上整合上下文信息.最近研究表明用戶的簽到行為具有序列性，并且這種特性對(duì)預(yù)測(cè)用戶的行為具有重要作用.循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Network，RNN)已經(jīng)被成功的使用在對(duì)用戶簽到的序列行為建模.但是現(xiàn)實(shí)中用戶的簽到序列中往往還包含著復(fù)雜的時(shí)空信息屬性，并不是序列中所有的已訪問(wèn)的地點(diǎn)對(duì)預(yù)測(cè)用戶未來(lái)的行為都同等重要.并且絕大多數(shù)興趣點(diǎn)推薦方法都未能很好地處理用戶的興趣是動(dòng)態(tài)變化的這一重要問(wèn)題.用戶既存在長(zhǎng)期穩(wěn)定的偏好，也存在短期的行為需求[1].近年來(lái)，研究學(xué)者相繼提出了長(zhǎng)短期偏好融合的興趣點(diǎn)推薦模型，例如Sun等人[2]提出了一種利用非局域網(wǎng)絡(luò)對(duì)長(zhǎng)期偏好建模和利用地理擴(kuò)展RNN對(duì)短期偏好建模結(jié)合的模型.該模型通過(guò)對(duì)用戶長(zhǎng)短期偏好的充分學(xué)習(xí)與融合，實(shí)現(xiàn)了推薦性能的大幅提升.

基于此，本文設(shè)計(jì)了一種混合的興趣點(diǎn)推薦模型(User Preference & Time Sequence based POI Recommendation，UPTS-PRec)，該模型能夠有效地捕捉用戶的長(zhǎng)期偏好和短期偏好.首先利用長(zhǎng)短期記憶網(wǎng)絡(luò)(Long Short-Term Memory，LSTM)對(duì)用戶的短期序列偏好進(jìn)行建模，并在LSTM網(wǎng)絡(luò)的每一步中傳入時(shí)空上下文信息，以捕捉用戶短期行為中復(fù)雜的轉(zhuǎn)移特性.基于注意力機(jī)制構(gòu)建長(zhǎng)期模型，過(guò)濾用戶長(zhǎng)期行為歷史中的無(wú)關(guān)的簽到記錄，并且能夠構(gòu)建用戶長(zhǎng)期偏好.最后，本文還將用戶短期偏好與長(zhǎng)期進(jìn)行偏好進(jìn)行融合，獲得用戶更全面和豐富的偏好表示，從而實(shí)現(xiàn)更高效精確的興趣點(diǎn)推薦[3].

2 相關(guān)工作

2.1 傳統(tǒng)的興趣點(diǎn)推薦

早期協(xié)同過(guò)濾作為推薦系統(tǒng)中應(yīng)用最為廣泛和高效的方法之一，常被用作興趣點(diǎn)推薦的基本模型.例如Yuan等人[4]將基于用戶的協(xié)同過(guò)濾方法與時(shí)間地理信息相結(jié)合，分別對(duì)分人群簽到行為中的時(shí)間及空間影響進(jìn)行分析，以此提出了一種融合了空間及時(shí)間影響的興趣點(diǎn)推薦框架.興趣點(diǎn)推薦技術(shù)的發(fā)展過(guò)程中，Li等人[5]提出了一種基于排序的地理因子分解方法，該方法通過(guò)所有簽到對(duì)興趣點(diǎn)排序?qū)W習(xí)因子分解并融合不同類型的上下文信息，從而可以緩解數(shù)據(jù)稀疏的問(wèn)題.基于協(xié)同過(guò)濾的模型雖然被廣泛地研究與改進(jìn)，但仍存在數(shù)據(jù)稀疏的問(wèn)題，模型的推薦性能仍然不足.隨著詞嵌入模型在自然語(yǔ)言處理領(lǐng)域的提出，推薦系統(tǒng)開(kāi)始應(yīng)用嵌入學(xué)習(xí)這一全新的興趣點(diǎn)推薦方法.例如：Zhao等人[6]提出一個(gè)地理時(shí)間序列化嵌入模型，該模型利用嵌入學(xué)習(xí)技術(shù)來(lái)獲取上下文簽入信息.Liu等人[7]提出了一種新的時(shí)空感知表示方法，將時(shí)空信息建模為連接用戶和興趣點(diǎn)的關(guān)系.基于嵌入學(xué)習(xí)的方法雖然很好地緩解了數(shù)據(jù)稀疏性問(wèn)題，但對(duì)模型從歷史簽到數(shù)據(jù)中挖掘一些復(fù)雜的特殊關(guān)系或關(guān)系圖的能力有很高的要求，大多數(shù)模型學(xué)習(xí)的關(guān)系過(guò)淺，還有較大的提升改進(jìn)空間[8].

2.2 基于深度學(xué)習(xí)的興趣點(diǎn)推薦

隨著大數(shù)據(jù)應(yīng)用的快速發(fā)展和機(jī)器學(xué)習(xí)模型技術(shù)水平的提升，基于深度學(xué)習(xí)的推薦算法也漸漸發(fā)展起來(lái).例如利用循環(huán)神經(jīng)網(wǎng)絡(luò)、深度神經(jīng)網(wǎng)絡(luò).Zhao等人[9]提出了一種LSTM的變體ST-LSTM，其在LSTM中實(shí)現(xiàn)了時(shí)間門和距離門來(lái)捕獲連續(xù)簽入之間的時(shí)空關(guān)系，并減少了參數(shù)的數(shù)目，提高了模型學(xué)習(xí)的效率.Yang等人[10]提出了一種新的神經(jīng)網(wǎng)絡(luò)模型，利用RNN對(duì)和GRU對(duì)移動(dòng)軌跡中不同等級(jí)的序列關(guān)系進(jìn)行建模，從而融合用戶的長(zhǎng)期和短期序列偏好能更好地分析和挖掘LBSN數(shù)據(jù).普通RNN在面對(duì)較復(fù)雜的問(wèn)題時(shí)，存在無(wú)法整合序列內(nèi)部固有的復(fù)雜的時(shí)空信息的缺陷，以及數(shù)據(jù)較少時(shí)容易引起過(guò)擬合等問(wèn)題.若只采用RNN對(duì)用戶序列歷史建模，具有局限性.本文采用了改進(jìn)型RNN，避免了傳統(tǒng)RNN梯度爆炸，梯度消失等問(wèn)題.同時(shí)將注意力機(jī)制整合到RNN中，學(xué)習(xí)用戶短期的序列相關(guān)性，精確捕捉用戶的短期偏好，使得模型既能夠捕獲序列動(dòng)態(tài)，又能夠充分利用歷史信息.

3 符號(hào)說(shuō)明及問(wèn)題定義

定義U={u1,u2,…,u|U|}表示用戶集合，L={l1,l2,…,l|L|}表示興趣點(diǎn)集合，其中|U|和|L|分別表示用戶的總數(shù)和興趣點(diǎn)的總數(shù).為了便于說(shuō)明，本文給出符號(hào)說(shuō)明表格如表1所示.

表1 符號(hào)描述Table 1 Symbols description

定義1.興趣點(diǎn)(POI). 一個(gè)興趣點(diǎn)l被定義為具有由緯度和經(jīng)度坐標(biāo)唯一確定的地理空間項(xiàng)目，例如餐館或博物館等.可以用興趣點(diǎn)ID、緯度和經(jīng)度的集合〈lid，latlid，lonlid〉來(lái)表示一個(gè)興趣點(diǎn).

定義2.簽到(Check-in). 用戶的簽到記錄由用戶u、興趣點(diǎn)l和時(shí)間t這3個(gè)元素組成的集合表示，表示用戶u∈U在時(shí)間t時(shí)訪問(wèn)了POIl∈L.

問(wèn)題定義-興趣點(diǎn)推薦. 在給定用戶u的簽到序列Mu和查詢時(shí)間t的情況下，預(yù)測(cè)該用戶在時(shí)間t訪問(wèn)未曾訪問(wèn)過(guò)的興趣點(diǎn)lt∈L的概率.將預(yù)測(cè)概率的分?jǐn)?shù)按降序排列，為用戶推薦前N個(gè)地點(diǎn).

4 本文提出的興趣點(diǎn)推薦模型

本文提出的興趣點(diǎn)推薦模型分為3部分，即用戶的短期偏好模塊、長(zhǎng)期偏好模塊以及長(zhǎng)短期偏好融合模塊.

在短期偏好模塊中，采用融合時(shí)空上下文信息的LSTM來(lái)學(xué)習(xí)用戶簽到行為中復(fù)雜的序列轉(zhuǎn)移模式，并通過(guò)基于目標(biāo)地點(diǎn)的注意力機(jī)制進(jìn)一步精確地提取短期偏好.在長(zhǎng)期模塊中采用基于用戶注意力機(jī)制來(lái)構(gòu)建用戶長(zhǎng)期偏好，同時(shí)該模塊還能捕捉用戶和興趣點(diǎn)之間細(xì)粒度的交互關(guān)系，讓模型更有關(guān)注性和分辨性地學(xué)習(xí)序列化依賴，過(guò)濾不相關(guān)的信息.最后將用戶的短期偏好和長(zhǎng)期偏好進(jìn)行融合，實(shí)現(xiàn)了兼顧用戶短期的行為需求和長(zhǎng)期穩(wěn)定的偏好的興趣點(diǎn)推薦.模型的整體流程圖如圖1所示.

圖1 UPTS-PRec模型整體流程圖Fig. 1 Overall flow chart of UPTS-PRec model

4.1 短期偏好建模

短期偏好反映了用戶在短時(shí)間內(nèi)的興趣和需求.對(duì)短期偏好建模的目的，是捕捉簽到序列中用戶對(duì)興趣點(diǎn)的序列轉(zhuǎn)移偏好.在此模塊中，本文首先使用LSTM對(duì)輸入的簽到序列進(jìn)行建模，然后利用基于目標(biāo)興趣點(diǎn)的注意力網(wǎng)絡(luò)，進(jìn)一步精確地提取用戶的短期偏好.

ci=[eli；eti；lati；loni]

(1)

xi=ReLU(Wcx·ci+bcx)

(2)

把xi作為L(zhǎng)STM的輸入進(jìn)行短期序列偏好建模.LSTM是一種最常應(yīng)用于各種推薦系統(tǒng)的改進(jìn)型RNN模型[11].它能夠很好對(duì)短期和長(zhǎng)期的序列的依賴關(guān)系進(jìn)行學(xué)習(xí)，巧妙地解決了傳統(tǒng)RNN的梯度爆炸或梯度消失的問(wèn)題.本文采用的LSTM模型表達(dá)式如下：

ft=σ(Wfxt+Wvfht-1+bf)

(3)

it=σ(Wixt+Wviht-1+bi)

(4)

(5)

(6)

ot=σ(Woxt+Wvoht-1+bo)

(7)

ht=ot⊙tanh(ct)

(8)

(9)

(10)

(11)

4.2 長(zhǎng)期偏好建模

針對(duì)于長(zhǎng)期偏好建模(如RUM[12]、ST-RNN)，現(xiàn)有方法通常直接為每個(gè)用戶學(xué)習(xí)一個(gè)靜態(tài)潛在向量qu∈Rd來(lái)表示用戶長(zhǎng)期的興趣偏好，該向量可反映用戶固有的偏好特征.

然而，用戶的歷史簽到記錄往往會(huì)隨著時(shí)間變化，而且用戶在長(zhǎng)期歷史中往往展現(xiàn)出復(fù)雜多樣的興趣.因此，僅僅學(xué)習(xí)一個(gè)靜態(tài)的嵌入向量會(huì)在一定程度上限制模型捕捉用戶變化的、復(fù)雜的長(zhǎng)期偏好的能力.本文選擇對(duì)用戶的歷史簽入記錄進(jìn)行編碼，以獲得另一種偏好表示，稱為用戶記憶嵌入向量，該向量可以根據(jù)用戶不斷更新的簽到記錄動(dòng)態(tài)重構(gòu).

(12)

本文用特征向量u∈Rd來(lái)表示用戶，以u(píng)作為查詢向量來(lái)訪問(wèn)用戶的歷史行為序列m，對(duì)注意力分布(即權(quán)重)進(jìn)行計(jì)算，公式如下：

(13)

其中LN為source長(zhǎng)度，即用戶歷史行為序列長(zhǎng)度.與短期偏好模型相似，這里注意力計(jì)算方式同樣采用縮放點(diǎn)積模型.

盡管通過(guò)聚合用戶的長(zhǎng)期簽到歷史可以捕捉到用戶的長(zhǎng)期偏好的變化屬性，但由于用戶的實(shí)際簽到數(shù)量是有限的，這樣的方法仍然不能準(zhǔn)確地表示出用戶長(zhǎng)期偏好的一般屬性.

(14)

其中bl∈Rd是一偏置矩陣，Wl∈R2d×d是一權(quán)重矩陣.

4.3 用戶偏好融合模塊

短期模型能夠較好地捕捉用戶在短期內(nèi)的需求，而長(zhǎng)期模型能夠捕捉到用戶的長(zhǎng)期偏好.為了使本算法能夠兼具短期模型和長(zhǎng)期模型的優(yōu)點(diǎn)，擁有更高的推薦精確度和排序精確度，本文將短期模型和長(zhǎng)期模型進(jìn)行融合.

為獲得更為全面的用戶偏好，將用戶的短期偏好和長(zhǎng)期偏好進(jìn)行融合，表達(dá)式如下：

(15)

其中WP為權(quán)重矩陣，⊕為運(yùn)算連接符，bp為偏置向量，而pu表示為用戶最終的偏好.

已知興趣點(diǎn)推薦的要求與用戶、時(shí)間、地點(diǎn)相關(guān)，本文將其表示為q=.本文考慮用戶偏好與興趣點(diǎn)的時(shí)間屬性，構(gòu)建整體預(yù)測(cè)得分表達(dá)式如下：

(16)

考慮到可將興趣點(diǎn)推薦視為二分類問(wèn)題，本文采用二分交叉熵作為損失函數(shù)，將目標(biāo)函數(shù)設(shè)置為正則化的對(duì)數(shù)似然函數(shù)，得到如下表達(dá)式：

(17)

其中λ為正則化系數(shù)，Θ為模型參數(shù)集.所有模型參數(shù)均是通過(guò)最小化訓(xùn)練數(shù)據(jù)上的目標(biāo)函數(shù)L來(lái)學(xué)習(xí).為實(shí)現(xiàn)訓(xùn)練過(guò)程中學(xué)習(xí)速率的自動(dòng)調(diào)整，本文采用了自適應(yīng)矩估計(jì)優(yōu)化器.并在全連接層使用了dropout技術(shù)，避免了過(guò)度擬合的問(wèn)題.

5 實(shí) 驗(yàn)

5.1 實(shí)驗(yàn)數(shù)據(jù)集、評(píng)價(jià)標(biāo)準(zhǔn)及對(duì)比算法

5.1.1 實(shí)驗(yàn)數(shù)據(jù)集

本文實(shí)驗(yàn)的數(shù)據(jù)集來(lái)自Foursquare[注]http：//spatialkeyword.sce.ntu.edu.sg/eval-vldb17/和Gowalla[注]http：//www.yongliu.org/datasets/index.html，這兩個(gè)數(shù)據(jù)集的數(shù)據(jù)真實(shí)且公開(kāi).Foursquare是一個(gè)手機(jī)服務(wù)網(wǎng)站，Gowalla是一個(gè)社交游戲的網(wǎng)絡(luò)平臺(tái)，二者都能夠?yàn)橛脩籼峁┗谖恢玫木W(wǎng)絡(luò)服務(wù).本文分別從兩個(gè)數(shù)據(jù)集獲取了兩萬(wàn)余名用戶一年的簽到記錄，每條簽到記錄都包含用戶ID、興趣點(diǎn)ID、簽到時(shí)間戳和興趣點(diǎn)的經(jīng)緯度等信息.

為使算法的準(zhǔn)確性能夠得到充分的評(píng)估，將Foursquare與Gowalla數(shù)據(jù)集中用戶活躍度較小的、不適于本模型學(xué)習(xí)的數(shù)據(jù)進(jìn)行剔除，即對(duì)數(shù)據(jù)進(jìn)行預(yù)處理.對(duì)簽到記錄少于10條和訪問(wèn)地點(diǎn)數(shù)少于10個(gè)的數(shù)據(jù)進(jìn)行剔除后，數(shù)據(jù)集的基本統(tǒng)計(jì)信息如表2所示.在模型訓(xùn)練中，將較早的簽到記錄用于訓(xùn)練模型，而將最近的簽到記錄用作對(duì)模型性能進(jìn)行評(píng)估的測(cè)試樣本.

表2 數(shù)據(jù)集基本信息Table 2 Basic data set information

5.1.2 評(píng)價(jià)標(biāo)準(zhǔn)

本文采用推薦算法中常用的精確度評(píng)價(jià)標(biāo)準(zhǔn)Accuracy@N、NDCG@N與MRR對(duì)模型進(jìn)行性能評(píng)價(jià).定義Dtest為測(cè)試數(shù)據(jù)的集合，|Dtest|為測(cè)試數(shù)據(jù)的總數(shù).定義正確推薦的興趣點(diǎn)li在所有推薦的興趣點(diǎn)中的排名為reli，表示位置i的推薦結(jié)果的相關(guān)性.

Accuracy@N：本文采用的評(píng)價(jià)標(biāo)準(zhǔn)Accuracy@N與Yin等人[12]所采取的相同.由于本文的最終目標(biāo)是形成一個(gè)由排名前N項(xiàng)的興趣點(diǎn)構(gòu)成的top-N推薦列表，因此如果reli滿足reli≤N，表示推薦的POI滿足用戶需求.定義指示函數(shù)IN(x)，表達(dá)式如下：

(18)

當(dāng)本文的推薦列表top-N滿足了用戶的需求時(shí)，IN(x)的值取1，否則取0.因此Accuracy@N的計(jì)算公式為：

(19)

為方便后續(xù)表達(dá)，本文將該評(píng)價(jià)標(biāo)準(zhǔn)簡(jiǎn)稱為Acc@N.

NDCG@N：NDCG是歸一化后考慮位置影響因素的累積增益.這個(gè)評(píng)估標(biāo)準(zhǔn)既可以評(píng)價(jià)一個(gè)系統(tǒng)是否準(zhǔn)確地推薦了POI，還注意到了所推薦的正確POI在推薦序列中的排名，其計(jì)算公式為：

(20)

其中|REL|表示將所得到的結(jié)果按照相關(guān)性降序排列，取前N個(gè)結(jié)果組成的集合.

MRR：將正確檢索結(jié)果值在所有檢索結(jié)果中的排名取倒數(shù)，再對(duì)測(cè)試數(shù)據(jù)取平均.其計(jì)算公式為：

(21)

5.1.3 對(duì)比算法

為驗(yàn)證本文提出的模型的興趣點(diǎn)推薦性能，本文選取了7種具有代表性的推薦模型進(jìn)行對(duì)比，其中POP、FPMC-LR為傳統(tǒng)的推薦算法，而POI2Vec、ST-RNN、RUM、AttRec和SHAN為基于深度學(xué)習(xí)的推薦算法.

POP：基于地點(diǎn)的受歡迎程度的進(jìn)行興趣點(diǎn)推薦，是一種非個(gè)性化的模型.

FPMC-LR[13]：將矩陣分解與個(gè)性化馬爾可夫鏈結(jié)合進(jìn)行興趣點(diǎn)推薦的模型.

POI2Vec[14]：在學(xué)習(xí)興趣點(diǎn)嵌入過(guò)程中整合了興趣點(diǎn)的地理關(guān)系、興趣點(diǎn)的順序轉(zhuǎn)換和用戶偏好進(jìn)行聯(lián)合建模的興趣點(diǎn)推薦模型.

ST-RNN[15]：利用連續(xù)簽到的時(shí)間間隔和地理距離信息對(duì)經(jīng)典RNN進(jìn)行改進(jìn)的興趣點(diǎn)推薦模型.

RUM[12]：利用外部存儲(chǔ)網(wǎng)絡(luò)集成協(xié)同過(guò)濾的順序進(jìn)行興趣點(diǎn)推薦的模型.本文使用項(xiàng)目級(jí)RUM進(jìn)行對(duì)比.

AttRec[16]：同時(shí)考慮了局部與全局的興趣點(diǎn)推薦模型.該模型利用自注意力機(jī)制來(lái)捕捉用戶歷史行為交互的關(guān)系，并利用度量學(xué)習(xí)對(duì)用戶的長(zhǎng)期偏好建模進(jìn)行建模.

SHAN[17]：兩層次的注意力網(wǎng)絡(luò)推薦模型.第1層注意力網(wǎng)絡(luò)專注于學(xué)習(xí)用戶的長(zhǎng)期偏好，第2層注意力網(wǎng)絡(luò)通過(guò)耦合用戶的長(zhǎng)期和短期偏好實(shí)現(xiàn)興趣點(diǎn)推薦.

5.2 實(shí)驗(yàn)結(jié)果分析

5.2.1 UPTS-PRec模型與其他推薦方法的性能對(duì)比

本節(jié)實(shí)驗(yàn)在Foursquare和Gowalla數(shù)據(jù)集的基礎(chǔ)上，將本文推薦模型與POP、FPMC-LR等7種推薦模型的Acc@N、NDCG@N和MRR進(jìn)行對(duì)比，各模型均取得最佳性能.對(duì)比結(jié)果見(jiàn)圖2-圖4.

圖2-圖4分別展示了在Foursquare和Gowalla數(shù)據(jù)集上，各模型所推薦興趣點(diǎn)個(gè)數(shù)分別為5、10、20時(shí)的推薦性能.隨著所推薦興趣點(diǎn)個(gè)數(shù)的個(gè)數(shù)的增加，各模型的Acc@N、NDCG@N和MRR均有所升高.這是因?yàn)橄蛴脩敉扑]的興趣點(diǎn)的個(gè)數(shù)越多，越有利于對(duì)用戶偏好的挖掘，對(duì)模型的推薦性能有一定的影響.

從圖2-圖4可以看出，本文所提出的模型的Acc@N、NDCG@N和MRR明顯優(yōu)于其他7種模型，在本實(shí)驗(yàn)中，本模型的Acc@N、NDCG@N及MRR最優(yōu)分別可達(dá)到27.90%、15.06%、12.42%，高出對(duì)比算法至少2.06%、2.17%、2.80%.其中POP模型性能均顯著低于其他模型，這是因?yàn)镻OP模型只考慮地點(diǎn)的受歡迎程度，而沒(méi)有考慮到用戶個(gè)體的不同. FPMC-LR是基于馬爾可夫鏈的推薦方式，POI2Vec是基于嵌入的推薦方式，這些方式能夠捕捉簽到序列成對(duì)的關(guān)系，進(jìn)行個(gè)性化推薦，因此推薦性能有所提高.但是，由于這些方法并不能探索更高級(jí)的關(guān)聯(lián)方式，因此這些推薦方法的性能較如RUM等基于深度學(xué)習(xí)的興趣點(diǎn)推薦算法仍性能較弱.而在基于深度學(xué)習(xí)的興趣點(diǎn)推薦模型ST-RNN、RUM、AttRec和SHAN中，AttRec和SHAN性能略優(yōu)于ST-RNN、RUM，這也驗(yàn)證了基于用戶偏好與時(shí)間序列的思想在興趣點(diǎn)推薦中的優(yōu)越性.

5.2.2 性能比較

本節(jié)對(duì)前文提出的短期模型、長(zhǎng)期模型與UPTS-PRec模型的有效性加以驗(yàn)證.實(shí)驗(yàn)分別在經(jīng)過(guò)處理的Foursquare和Gowalla數(shù)據(jù)集上比較短期、長(zhǎng)期與UPTS-PRec模型在分別為用戶推薦5個(gè)、10個(gè)和20個(gè)興趣點(diǎn)的實(shí)驗(yàn)時(shí)Acc@N、NDCG@N與MRR的變化情況的變化情況.實(shí)驗(yàn)中將算法的參數(shù)設(shè)置為最優(yōu)值.

表3、表4分別為本文的短期模型、長(zhǎng)期模型與UPTS-PRec模型在Foursquare和Gowalla數(shù)據(jù)集上Acc@N、NDCG@N與MRR的變化情況. 其中，短期模型和長(zhǎng)期模型分別用UPTS-PRec-s和UPTS-PRec-l表示.通過(guò)在該兩大數(shù)據(jù)集上的實(shí)驗(yàn)結(jié)果，可看出推薦地點(diǎn)數(shù)相同的情況下，UPTS-PRec模型的性能優(yōu)于未經(jīng)融合的模型性能，且短期模型的性能普遍優(yōu)于長(zhǎng)期模型的推薦性能.UPTS-PRec模型推薦性能的優(yōu)化程度有隨推薦興趣點(diǎn)數(shù)量的增加而增大的趨勢(shì)，且在Gowalla數(shù)據(jù)集集上的變化更為明顯，優(yōu)化最大可表現(xiàn)為Acc@N較UPTS-PRec-s提高1.78%，NDCG@N提高0.67%.UPTS-PRec模型相對(duì)于短期模型和長(zhǎng)期模型推薦性能能夠提高的原因是UPTS-PRec模型兼具短期模型和長(zhǎng)期模型的優(yōu)點(diǎn)，既能夠較好地捕捉用戶在短期內(nèi)的需求，又能夠捕捉到用戶的長(zhǎng)期偏好.

表3 兩數(shù)據(jù)集上不同模型的Acc@NTable 3 Acc@N for different models on the two datasets

表4 兩數(shù)據(jù)集上不同模型的NDCG@N、MRRTable 4 NDCG@N and MRR for different models on the two datasets

5.2.3 實(shí)驗(yàn)參數(shù)的影響

本實(shí)驗(yàn)主要分析短期序列長(zhǎng)度k與正則化系數(shù)λ對(duì)實(shí)驗(yàn)結(jié)果的影響.由于篇幅有限，本文僅展示Acc@20和NDCG@20時(shí)的實(shí)驗(yàn)結(jié)果.在短期偏好模塊中，序列長(zhǎng)度k是注意力網(wǎng)絡(luò)捕捉用戶序列模式的關(guān)鍵.本文將序列長(zhǎng)度k的范圍設(shè)置為1～10，結(jié)果如圖5所示.從圖中可看出，在Foursquare和Gowalla數(shù)據(jù)集上，模型性能在開(kāi)始會(huì)隨k的提高而增強(qiáng)，但k達(dá)到一定數(shù)值后，模型性能會(huì)隨k的增大而有一定程度的下降，模型在k分別取4、3時(shí)在兩數(shù)據(jù)集上性能達(dá)到最優(yōu).原因可能是用戶的序列模式通常包含較短的序列，較長(zhǎng)的序列會(huì)給模型帶來(lái)一些噪聲，不利于性能的提高.對(duì)于正則化系數(shù)λ，本文依次取值為1×10-6、5×10-6、1×10-5、5×10-5、1×10-4和1×10-3，結(jié)果如圖6所示.可以看出模型在兩數(shù)據(jù)集上均在λ為5×10-6時(shí)，達(dá)到最好效果，λ過(guò)高或過(guò)低均會(huì)導(dǎo)致模型效果變差.原因可能是因?yàn)檎齽t化系數(shù)過(guò)小會(huì)使目標(biāo)函數(shù)區(qū)趨于低次項(xiàng)而出現(xiàn)欠擬合現(xiàn)象，而正則化系數(shù)過(guò)大可能會(huì)使目標(biāo)函數(shù)區(qū)趨于高次項(xiàng)而出現(xiàn)過(guò)擬合的情況，同樣導(dǎo)致模型推薦效果不佳.可以看出，在模型中選用合適的短期序列長(zhǎng)度與正則化系數(shù)對(duì)于提高模型性能是非常重要的.

圖5 序列長(zhǎng)度k影響Fig. 5 Effect of sequence length k

圖6 正則化系數(shù)λ影響Fig. 6 Effect of regularization coefficient λ

6 總 結(jié)

根據(jù)用戶興趣點(diǎn)偏好的復(fù)雜性與變化性，本文提出了一種基于用戶偏好與時(shí)間序列的興趣點(diǎn)推薦模型.本文采用LTSM與注意力機(jī)制建立短期模型，采用注意力機(jī)制建立長(zhǎng)期模型，并實(shí)現(xiàn)長(zhǎng)期模型與短期模型的融合.為用戶提供興趣點(diǎn)推薦服務(wù).實(shí)驗(yàn)結(jié)果表明：本文提出的興趣點(diǎn)推薦模型性能在3種評(píng)價(jià)標(biāo)準(zhǔn)下均優(yōu)于對(duì)比方法.未來(lái)工作將進(jìn)一步擴(kuò)大實(shí)驗(yàn)數(shù)據(jù)集，對(duì)模型的普適性進(jìn)行驗(yàn)證.