基于行為延遲共享網(wǎng)絡(luò)的個性化商品推薦方法

張紅霞 董燕輝 肖軍弼 楊勇進

(中國石油大學(xué)(華東)計算機科學(xué)與技術(shù)學(xué)院 青島 266580)

1 引言

隨著電子商務(wù)平臺的快速發(fā)展，商品數(shù)量呈現(xiàn)海量式增長，使得用戶很難從海量商品中找到符合自身需求的商品，從而導(dǎo)致平臺商品銷量增加緩慢。推薦系統(tǒng)為用戶提供了個性化的商品推薦，能夠主動推送感興趣的商品，有效提升電商平臺的轉(zhuǎn)化收益[1,2]。

近年來基于神經(jīng)網(wǎng)絡(luò)建立推薦模型的研究逐漸成為研究熱點[3–5]。Cheng等人[6]將線性模型和深度模型結(jié)合提出了Wide Deep模型，解決了低階特征和高階特征的組合問題。文獻[7]利用深度神經(jīng)網(wǎng)絡(luò)分別對用戶歷史行為的嵌入表示進行深度提取構(gòu)建了召回和排序模型，解決了大規(guī)模推薦的實時性問題[8]。Qu等人[9]針對全連接層組合特征的不充分性提出了基于乘積的推薦模型，將輸入特征通過乘積層得到更高階的組合表示，進一步提升了點擊率預(yù)估表現(xiàn)。但是以上通過組合特征的方法很少考慮到用戶行為序列之間的聯(lián)系[10,11]，并且模型的用戶表示和商品表示很難確保映射到統(tǒng)一空間[12]，進而造成用戶興趣和推薦商品不匹配問題[13]，導(dǎo)致推薦商品點擊率較低。

Zhou等人[14]將注意力機制引入時序推薦模型，提出的動態(tài)興趣模型解決了用戶興趣變化問題。在此基礎(chǔ)上，Zhou等人[15]通過將門控循環(huán)單元(Gated Recurrent Unit,GRU)的更新門與注意力相結(jié)合，提出了興趣漂移模型(DREN)，解決了用戶多興趣匹配問題。雖然上述模型利用GRU實現(xiàn)了用戶歷史行為序列建模，但沒有考慮用戶活躍度[16,17]對用戶行為序列表示的影響。

在電商平臺中，不同活躍度的用戶可能對應(yīng)著不同的購買模式，直接影響商品推薦的精準(zhǔn)度和多樣性，如何將用戶活躍度引入時序模型提高推薦性能仍具有極大的挑戰(zhàn)性[18,19]；另一方面，在大規(guī)模推薦場景中，需要通過預(yù)先計算用戶向量和商品向量相似度得到候選商品來提高推薦速度[20,21]，這就要求用戶表示和商品表示必須映射在統(tǒng)一空間，因此如何進一步提高用戶表示和商品表示映射到統(tǒng)一空間至關(guān)重要。

針對以上問題，本文提出基于行為延遲共享網(wǎng)絡(luò)(Behavior Delay Shared Network,BDSN)模型的個性化商品推薦方法，該模型在分析不同用戶購買模式的基礎(chǔ)上[22]，提出行為延遲門控循環(huán)神經(jīng)單元(Behavior Delayed Gated Recurrent Unit,BDGRU)，將用戶行為活躍度作為影響因素引入用戶瀏覽序列狀態(tài)表示計算過程。同時將用戶表示和商品表示融合到統(tǒng)一空間，以提高模型的推薦性能和可解釋性[23]。具體地，首先在GRU的狀態(tài)值更新過程中引入用戶活躍度因子，用以明確應(yīng)該保留多少先前狀態(tài)和當(dāng)前狀態(tài)，采用BDGRU對用戶歷史行為建立時序模型，用以提取用戶歷史行為的時序特征；然后將用戶表示和商品表示通過共享網(wǎng)絡(luò)進一步提取高階的用戶和商品表示，通過共享網(wǎng)絡(luò)可以保證用戶表示和商品表示能夠收斂到統(tǒng)一空間，增加模型的可解釋性；最后設(shè)計BDSN模型實現(xiàn)個性化商品推薦，并在公共數(shù)據(jù)集上對模型的準(zhǔn)確性和可解釋性進行驗證，結(jié)果表明該模型在驗證集上的曲線下面積(Area Under Curve,AUC)指標(biāo)和損失函數(shù)均處于最優(yōu)，在測試集上的AUC指標(biāo)相較基本模型提高37%，能夠有效提升商品推薦的準(zhǔn)確性。

本文的主要貢獻如下：

(1)提出基于行為延遲共享網(wǎng)絡(luò)模型的個性化商品推薦方法，結(jié)合用戶行為活躍度和統(tǒng)一向量表示得到高階特征表示，有效提升了個性化商品推薦的準(zhǔn)確性；

(2)提出了行為延遲門控循環(huán)神經(jīng)單元，在GRU的狀態(tài)值更新過程中引入了用戶活躍度因子，解決了用戶活躍度影響購買行為的問題；

(3)本文所提方法在真實數(shù)據(jù)集上的表現(xiàn)相對于其它方法在推薦性能上有顯著提升，驗證了提出的方法在推薦問題上的可用性和準(zhǔn)確性。

2 基于行為延遲和共享參數(shù)的特征提取方法

2.1 問題描述

在電商推薦領(lǐng)域，用戶活躍度對購買商品的意向具有重要的影響，例如，某用戶在某一時間段內(nèi)瀏覽商品較頻繁即活躍度較高，具有較強的購買行為，推薦的商品應(yīng)偏向當(dāng)前商品的相似商品；反之，若用戶活躍度較低，則表示用戶還沒有明確的購買行為，應(yīng)采用多樣化的推薦結(jié)果引導(dǎo)用戶選擇商品。本文將用戶活躍度對用戶的影響稱為行為延遲問題。

給定用戶集合U={u1,u2,...,um}和商品集合I={i1,i2,...,in}，B={b1,b2,...,bk}是所有用戶的行為記錄，其中b={u,i,t}表 示某用戶u在時刻t瀏覽某商品i。因此，用戶個性化商品推薦是在給定候選商品i和 用戶u的 歷史行為記錄的條件下，依據(jù)用戶瀏覽商品的時序特征，計算在未來下一時刻t+1下 用戶瀏覽商品i的概率，然后將結(jié)果中瀏覽概率最大的商品推薦給用戶。

2.2 特征提取及表示

在電商個性化推薦領(lǐng)域，所使用的數(shù)據(jù)包括用戶特征文件、商品特征文件、所有用戶點擊數(shù)據(jù)等。將這3類文件合并后按照點擊時間升序排序并按照用戶分組后可以得到每個用戶的歷史行為數(shù)據(jù)，其中特征值以分組形式表示。除了某些具有實際意義的特征，通常神經(jīng)網(wǎng)絡(luò)不能直接輸入這些特征值，需要將這些數(shù)據(jù)編碼轉(zhuǎn)化為特征向量，獲取每個組的嵌入表示。嵌入表示可以將無實際意義的標(biāo)識值表示為低維稠密向量，對于第i個 特征組fi，令Wi=∈ED×Ki代 表第i個嵌入詞典，其中D和Ki分別表示特征組個數(shù)和第i個特征組的嵌入向量長度，可通過以下的表查找機制獲取特征值的嵌入表示：

(1)如果特征值為單一標(biāo)識ID，即fi=j，則這個特征值的嵌入表示為一個單獨的嵌入向量ei=。

(2)如果特征值為一系列標(biāo)識I D，即fi={j1,...,jk}，則這個特征值的嵌入表示為一個嵌入向量列表：

2.3 行為延遲門控循環(huán)單元結(jié)構(gòu)

用戶行為的頻繁程度(即用戶活躍度)在一定程度上決定了用戶的當(dāng)前預(yù)估行為，傳統(tǒng)GRU沒有考慮用戶的活躍度對于整個用戶歷史行為狀態(tài)的影響，BDGRU將用戶活躍度引入隱狀態(tài)的更新階段，明確指明應(yīng)該保留多少先前序列和當(dāng)前時刻的信息，BDGRU結(jié)構(gòu)如圖1所示，單元更新門計算公式為

圖1 行為延遲門控循環(huán)單元結(jié)構(gòu)圖

其中，ht-1，分別為傳統(tǒng)GRU中t-1時刻的隱藏狀態(tài)值，t時刻的隱藏狀態(tài)值，dtt表 示t時刻的活躍度因子。與文獻[17]計算用戶活躍度的方法不同，本文的用戶活躍度為向量形式，計算公式為

其中，ΔT∈LT為用戶t時刻行為與t-1時刻行為的時間間隔，LT為用戶歷史行為長度。從式(4)可以發(fā)現(xiàn)，頻繁的瀏覽行為將導(dǎo)致保留更多的t時刻狀態(tài)，進而推薦相似商品；而瀏覽行為不頻繁將導(dǎo)致保留更多的t時刻之前的狀態(tài)，進而推薦更加多樣化的商品。

2.4 共享參數(shù)向量表示層

為了增加用戶表示和商品表示之間的內(nèi)在關(guān)聯(lián)，本文提出共享表示層使得最終的用戶表示和商品表示能夠收斂到統(tǒng)一空間，網(wǎng)絡(luò)結(jié)構(gòu)如圖2所示，在多層感知機(MultiLayer Perceptron,MLP)之前設(shè)計一個共享網(wǎng)絡(luò)層得到用戶和商品的表示。首先將用戶和商品的拼接特征通過單層網(wǎng)絡(luò)映射為同一大小的用戶和商品向量vp,vs∈nc，具體計算公式為：

圖2 共享參數(shù)向量表示網(wǎng)絡(luò)結(jié)構(gòu)

其中，ip,is分別表示用戶側(cè)的BDGRU的最終狀態(tài)輸出和目標(biāo)商品側(cè)的商品嵌入表示，Wp∈Rnc×np,Ws∈Rnc×ns分別表示用戶側(cè)和商品側(cè)的網(wǎng)絡(luò)權(quán)重矩陣，bp,bs∈nc分別表示用戶側(cè)和商品側(cè)的網(wǎng)絡(luò)偏置矩陣，nc,np,ns分別表示網(wǎng)絡(luò)隱層單元個數(shù)、用戶側(cè)網(wǎng)絡(luò)輸入特征大小、商品側(cè)網(wǎng)絡(luò)輸入特征大小。然后將用戶和商品向量通過共享網(wǎng)絡(luò)層得到最終的用戶和商品表示，公式如式(7)，式(8)所示：

其中，Wc∈RnH×nc,bc∈nH分別表示共享網(wǎng)絡(luò)層的權(quán)重和偏置矩陣，nH為共享網(wǎng)絡(luò)層的隱層單元數(shù)。

3 基于行為延遲和共享網(wǎng)絡(luò)的商品推薦方法

基于行為延遲和共享網(wǎng)絡(luò)的特征提取方法，本文提出了行為延遲共享網(wǎng)絡(luò)結(jié)構(gòu)模型BDSN。如圖3所示，該模型首先通過嵌入表示處理用戶和候選商品的基礎(chǔ)特征，得到嵌入表示后通過拼接操作得到特征表示，包括用戶側(cè)特征和商品側(cè)特征，其中用戶側(cè)特征使用BDGRU提取時序特征，然后將用戶特征和商品特征通過共享參數(shù)網(wǎng)絡(luò)得到更高階的統(tǒng)一表示。最終通過計算用戶對商品的點擊率實現(xiàn)商品推薦，預(yù)估點擊率計算公式為

圖3 BDSN模型結(jié)構(gòu)

在深度點擊率預(yù)估模型中廣泛采用負對數(shù)似然函數(shù)作為損失函數(shù)，利用目標(biāo)商品作為標(biāo)簽監(jiān)督模型訓(xùn)練，損失函數(shù)計算公式為

其中，x∈D表 示模型的原始輸入特征，D為大小為N的訓(xùn)練集，y∈{0,1}表示用戶是否點擊目標(biāo)商品，為網(wǎng)絡(luò)模型的輸出，表示用戶點擊目標(biāo)商品的概率。

利用BDSN模型構(gòu)建商品推薦流程，如圖4所示，候選商品集包含了所有有效商品，首先從候選商品集和用戶行為日志中構(gòu)造輸入數(shù)據(jù)，然后通過BDSN模型計算出點擊率較高的商品生成推薦列表，用戶對感興趣的推薦商品進行點擊、瀏覽、購買。

圖4 商品推薦流程圖

4 實驗及分析

為了驗證所提方法的有效性，本文在公共數(shù)據(jù)集上比較了BDSN模型與其它點擊率預(yù)估模型的表現(xiàn)，以評估所提模型的推薦性能；除此之外，還分別設(shè)計了BDGRU和共享網(wǎng)絡(luò)層如何影響用戶和商品向量表示的實驗，并通過實驗結(jié)果分析了BDSN有效性的原因。

4.1 數(shù)據(jù)集介紹

實驗所用數(shù)據(jù)集來自于天池數(shù)據(jù)集[24]，我們將原始數(shù)據(jù)集分割為訓(xùn)練集、驗證集和測試集3部分，數(shù)據(jù)詳細統(tǒng)計見表1，其中每條記錄代表了用戶的一次點擊行為。為了得到訓(xùn)練集、驗證集和測試集，對原始數(shù)據(jù)按照時間戳進行排序，構(gòu)造了單個用戶的時間行為序列，通過隨機策略選擇其中的1664個用戶作為測試集用戶；對于在測試集中的每一條用戶行為序列，選擇序列的最后一個點擊商品作為測試商品，之前的點擊行為記錄作為歷史行為輸入序列，構(gòu)造測試數(shù)據(jù)；選擇序列的倒數(shù)第2個點擊商品作為驗證商品，之前的點擊行為記錄作為歷史行為輸入序列，構(gòu)造驗證數(shù)據(jù)；類似地，將測試集中剩余的序列數(shù)據(jù)和訓(xùn)練集中數(shù)據(jù)按照點擊商品和歷史行為分割整理為模型訓(xùn)練數(shù)據(jù)。

表1 實驗數(shù)據(jù)集統(tǒng)計信息

4.2 評估指標(biāo)

為了驗證BDSN的點擊率預(yù)估表現(xiàn)，本文使用曲線下面積AUC和RelaImpr評估指標(biāo)，其中AUC反映了模型的排序能力，RelaImpr代表了模型的性能提升程度，計算公式為

其中，D+是所有正樣本數(shù)據(jù)集，D-是所有負樣本數(shù)據(jù)集，m+和m-分別表示正、負樣本的數(shù)量，f(·)是樣本x的模型預(yù)測結(jié)果，x+和x-分別表示數(shù)據(jù)集中的一條正、負樣本，I(·)是指示函數(shù)，運算規(guī)則為：如果滿足條件，函數(shù)結(jié)果返回1，否則返回0。

其中，A UCbm和A UCmm分別表示基準(zhǔn)模型和對比模型。

4.3 實驗結(jié)果和分析

為了驗證延遲共享網(wǎng)絡(luò)的預(yù)測性能，與PNN[9],DNN[7]和WideDeep[6]網(wǎng)絡(luò)以及注意力興趣網(wǎng)絡(luò)DREN[9]進行對比。為了驗證BDSN的BDGRU和共享網(wǎng)絡(luò)是有效的，本文還設(shè)計了兩個BDSN的變型網(wǎng)絡(luò)：

(1)GRUSN：將BDSN中的BDGRU替換為傳統(tǒng)GRU，網(wǎng)絡(luò)結(jié)構(gòu)保持不變。

(2)BD-Sep：將BDSN中的共享網(wǎng)絡(luò)分解為兩個獨立的網(wǎng)絡(luò)，分別對應(yīng)于用戶側(cè)和商品側(cè)的網(wǎng)絡(luò)，其中隱層單元數(shù)和深度保持不變，其它網(wǎng)絡(luò)結(jié)構(gòu)保持不變。

4.3.1 BDSN與其它推薦模型的性能對比

為了說明模型訓(xùn)練時的表現(xiàn)，收集了模型訓(xùn)練時每次迭代驗證集產(chǎn)生的點擊率計算結(jié)果以及損失值變化，如圖5所示，折線圖的橫坐標(biāo)代表訓(xùn)練集的迭代次數(shù)，縱軸表示驗證集數(shù)據(jù)的AUC結(jié)果，從圖中可以看出，BDSN的最終AUC指標(biāo)可以達到0.75以上并保持平穩(wěn)，其它模型在10次迭代之前AUC都保持快速增長，但是之后模型的AUC指標(biāo)卻急速下降。圖6中表示模型訓(xùn)練時損失值的變化情況，BDSN在10次迭代之后損失值基本為0，低于其它模型的損失值，其中DIEN模型的損失值在迭代20次之后開始緩慢下降并仍然保持在較高水平。

圖5 BDSN與其它對比方法的驗證集精確度指標(biāo)比

圖6 BDSN與其它對比方法的訓(xùn)練損失值變化情況

以上結(jié)果表明，BDSN在訓(xùn)練過程中可以保持良好的表現(xiàn)，這是因為在訓(xùn)練初期，由于BDSN用戶活躍度因子在訓(xùn)練前期對于網(wǎng)絡(luò)參數(shù)具有擾動現(xiàn)象，所以導(dǎo)致網(wǎng)絡(luò)參數(shù)收斂變慢，但是經(jīng)過約20次迭代訓(xùn)練后，其它網(wǎng)絡(luò)模型因為過擬合問題導(dǎo)致AUC指標(biāo)開始下降，而本文提出的延遲共享網(wǎng)絡(luò)BDSN的AUC指標(biāo)相對于其它網(wǎng)絡(luò)模型處于最優(yōu)且沒有出現(xiàn)過擬合問題。

將BDSN與兩種BDSN變型以及其它對比模型在測試集上進行了實驗，表2 展示了各種模型的實驗對比結(jié)果，從表中可以看出，BDSN模型的AUC指標(biāo)達到0.87以上，相對其它模型處于最優(yōu)，較基準(zhǔn)模型DNN提升了37%，GRUSN和BD-Sep的AUC均在0.80以上，提升效果分別為20%和12%，低于其它模型的提升效果。

表2 不同方法模型在測試集上的AUC值

以上結(jié)果表明BDSN的測試結(jié)果優(yōu)于其它模型，這是由于BDGRU中的延遲因子可以更好地擬合用戶的興趣以及共享網(wǎng)絡(luò)限制了網(wǎng)絡(luò)的過擬合問題；GRUSN的提升幅度為20%，大于BD-Sep的提升幅度，說明向量表示的統(tǒng)一性對模型效果提升更為重要。

4.3.2 BDGRU與傳統(tǒng)GRU的對比實驗與分析

為了說明BDGRU對于最終狀態(tài)值輸出的影響，在模型訓(xùn)練迭代20次后，分別對BDGRU和傳統(tǒng)GRU的最終狀態(tài)值進行了數(shù)值統(tǒng)計，圖7展示了BDGRU和傳統(tǒng)GRU的最終狀態(tài)值統(tǒng)計結(jié)果，可以看出前者的大部分數(shù)據(jù)頻次都在500次以下，分布更為廣泛且明顯服從中心極限定理，后者大部分的數(shù)據(jù)頻次都在500次以上，數(shù)據(jù)分布更集中且服從中間少、兩端多的分布特征。

圖7 行為延遲門控單元對狀態(tài)值的影響

以上結(jié)果說明BDGRU引入延遲因子可以加強用戶序列表示效果，使用戶表示更加多樣，從而促進BDSN網(wǎng)絡(luò)整體性能的提高，而傳統(tǒng)GRU輸出大部分集中在±1，對于后續(xù)網(wǎng)絡(luò)計算只是起到逆轉(zhuǎn)或保持不變的效果，表達能力不及BDGRU。

4.3.3 共享網(wǎng)絡(luò)層對嵌入表示的影響

為了證明本文提出的用戶側(cè)和商品側(cè)共享網(wǎng)絡(luò)參數(shù)共享網(wǎng)絡(luò)層的有效性，我們選擇BDSN和BDSep進行對比實驗，通過收集用戶和商品的嵌入表示和共享層輸出來分析共享網(wǎng)絡(luò)層對嵌入層和共享層輸出的影響。嵌入層實驗結(jié)果如圖8所示，從圖中可以發(fā)現(xiàn)，基于BDSN得到的用戶和商品嵌入表示數(shù)值范圍在±0.04之內(nèi)，基本保持一致，而BD-Sep得到的用戶和商品嵌入表示數(shù)值范圍分別為±0.03和±0.06，一致性表現(xiàn)較差；為了更直觀地表現(xiàn)相似性，將共享層輸出的1×128向量轉(zhuǎn)化為8×16的矩陣并可視化，結(jié)果如圖9所示，其中框內(nèi)標(biāo)識了用戶側(cè)和商品側(cè)的相似區(qū)域，可以看出兩者具有較強的相似性。

圖8 共享網(wǎng)絡(luò)對用戶和商品嵌入表示的影響

圖9 BDSN用戶和商品側(cè)的向量可視化

以上實驗結(jié)果說明共享網(wǎng)絡(luò)對于保持用戶側(cè)和商品側(cè)的一致性表示具有重要作用，共享機制不僅促進用戶和商品嵌入層保持一致性，而且也會影響高階輸出，使共享層后的用戶表示和商品表示保持在統(tǒng)一向量空間內(nèi)，進一步提升BDSN的表示能力。

5 結(jié)論

本文針對用戶活躍度及用戶物品表示對個性化電商推薦結(jié)果的影響，提出了行為共享延遲網(wǎng)絡(luò)，對行為頻繁的用戶更加關(guān)注近期的物品信息，對行為不頻繁的用戶更加關(guān)注先前的物品信息；提出的用戶、物品共享網(wǎng)絡(luò)結(jié)構(gòu)利用共享參數(shù)實現(xiàn)用戶側(cè)和物品側(cè)的表示向量收斂到統(tǒng)一空間，本文基于以上兩點構(gòu)建了點擊率預(yù)估網(wǎng)絡(luò)模型，并且在真實數(shù)據(jù)集上與當(dāng)前先進方法進行了對比實驗，并進一步分析了用戶活躍度因子和共享網(wǎng)絡(luò)如何影響網(wǎng)絡(luò)輸出，結(jié)果表明本文提出的網(wǎng)絡(luò)結(jié)構(gòu)可以取得最佳性能指標(biāo)。

雖然本文提出的方法在電商數(shù)據(jù)集上可以取得不錯的效果，但是對于其它類型的推薦數(shù)據(jù)的推薦效果還有待進一步研究。下一步計劃在本文研究的基礎(chǔ)上深入研究用戶和時間因素的具體關(guān)聯(lián)關(guān)系，以更加高效的方式區(qū)分用戶類別。