基于用戶行為特征的動態權重混合推薦算法

劉沛文 陳華鋒

(武漢大學國家多媒體軟件工程技術研究中心 湖北 武漢 430072)(武漢大學計算機學院 湖北 武漢 430072)

基于用戶行為特征的動態權重混合推薦算法

劉沛文 陳華鋒

(武漢大學國家多媒體軟件工程技術研究中心 湖北 武漢 430072)(武漢大學計算機學院 湖北 武漢 430072)

推薦系統可以為不同的用戶定制個性化的網絡服務，如何提供準確的推薦則成為其最大難點。針對傳統推薦算法的稀疏性問題，提出基于用戶行為特征的動態權重混合推薦算法。通過對數據集中的數據進行預處理，計算出不同用戶對于不同物品的個性化行為特征指數，并將其引入相似度的計算中。依據用戶評分數據稀疏性的差異計算出動態權重，并依此將基于用戶內容的推薦和協同過濾推薦進行動態混合。實驗結果表明，該算法在稀疏數據集中能有效降低推薦誤差，提高推薦精度。

行為特征 動態權重 混合推薦算法

0 引 言

為了能夠提供更好的產品設計和用戶服務，電子商務和社交網絡始終致力于提高對用戶興趣的理解和預測。2013年下半年，Twitter通過監測用戶關注和轉發等操作，設計了一個向個人推薦推文和賬戶的新功能。推薦系統開始大范圍的應用于Amazon、Netflix和LinkedIn等網站。

在推薦系統中，推薦算法是其核心。傳統的推薦算法主要包括基于內容的過濾算法CBF(Content-based Filtering)、協同過濾算法CF(Collaborative Filtering)和混合過濾算法HR(Hybrid Recommendation)等[1]。

基于內容的過濾算法使用對象的自身信息來進行推薦，核心思想是針對待推薦的目標用戶，其將來很可能對與該用戶相似的用戶以往感興趣的物品或在內容上與該用戶以往感興趣的物品相似的物品仍然感興趣[2]。針對算法的計算對象，基于內容的推薦算法可分為基于用戶內容的過濾算法和基于項目內容的過濾算法[3]。兩種算法分別從用戶和物品的角度，分析目標用戶或物品與其他用戶或物品之間因自身內容或屬性的不同所存在的內在聯系，例如用戶資料、物品描述等，利用相似度計算公式計算用戶或物品間的相似程度，最終加權計算出推薦預測值，并按預測值的大小來決定目標用戶的推薦物品。

協同過濾算法分為兩種，基于用戶的協同過濾算法UBCF(User-based Collaborative Filtering)和基于項目的協同過濾算法IBCF(Item-based Collaborative Filtering)[4]，其依據用戶對物品的歷史評分，分別計算用戶或物品間的相似度，找到與目標用戶或目標物品相似的對象，并根據相似對象的歷史評分信息計算目標用戶對目標物品的推薦預測值，以此來進行推薦。

混合過濾算法是將上述提到了多種推薦算法進行不同方式的融合，進而衍生出的一種推薦算法[5]。大多是引入一個平衡因子，通過線性公式將推薦算法進行混合，并通過在特定測試數據集上對特定用戶的反復實驗來確定平衡因子的值。

雖然以上推薦算法在目前的推薦系統中已經得到了較為廣泛的應用，但還存在以下幾個問題：

(1) 推薦效果強烈依賴于用戶和項目的歷史數據，受數據集稀疏性的干擾[6]；

(2) 傳統的混合推薦算法不能靈活感知用戶在不同時期、不同用戶所產生的動態的個性化偏好[7]；

(3) 在實際應用中，混合推薦的固定權重不能適應數據集中不同用戶數據稀疏性的個性化差異。

針對上述問題，本文提出一種基于用戶行為特征的動態權重混合推薦算法DWHR(Dynamic-Weighted Hybrid Recommendation)，其核心思想是根據用戶在不同的時期所產生的行為操作，例如評分、瀏覽記錄等，自適應地將多種推薦算法進行動態加權，預測用戶對于該物品的喜好程度。在MovieLens公共電影評分數據集上的實驗結果表明，該算法可以針對不同用戶的個性化差異，有效提高在稀疏數據集下的推薦精度。

1 本文提出的算法

1.1 相關定義

1.1.1 評分矩陣

在推薦系統中，定義U={u1,u2,…,um}為系統中所有m個用戶的集合，I={i1,i2,…,in}為所有n個項目的集合。則評分矩陣R[m×n]可用表1表示。其中，用戶i對項目j的評分表示為rij。若rij=0，則表示用戶i對項目j未進行評分。另外，針對MovieLens數據集，定義X={x1,x2,…,x19}為所有19種電影類型，而每種電影類型中又包含了多部電影，即xa={ii},ii∈I,xa∈X。

表1 評分矩陣R[m×n]

1.1.2 相似度定義

(1)

(2)

(3)

(4)其中，T={i|ui≠0∧vi≠0}。從以上公式中可以看出，相對于余弦相似度和皮爾遜相似度，歐氏距離強調在向量中每個維度在數值特征上的絕對差異；而余弦相似度關注的是向量每個維度間的相對差異；修正余弦相似度在余弦相似度的基礎上，修正了其可能在度量標準上存在的不統一的問題；而皮爾遜相似度進一步將向量的計算維度縮小至兩向量共有數據的維度上。

針對MovieLens數據集，評分矩陣可以被看作是針對用戶的n維或是針對項目的m維向量，然后根據上述公式即可針對不同情況計算出用戶或物品之間的相似度。

1.1.3 用戶行為特征定義及提取

一些早期的推薦模型常常假定用戶的興趣愛好是固定的，以至于在任何情況下系統總是推薦同一類型的項目給用戶。但事實上，用戶的興趣經常隨著時間及周圍環境的影響而改變。比如，用戶在不同的季節或不同的年齡段喜歡穿不同款式的衣服，看不同類型的電影等。所以，行為特征是用戶由外界環境影響所引發的一系列行為表現。

為了量化行為特征，選取MovieLens數據集中用戶在不同時間和不同年齡段對不同類型電影的評分情況作為量化指標。在通常情況下，用戶如果喜歡一部電影，其評分往往會高于均分。由于MovieLens數據集的評分范圍是1～5，因此定義3分為用戶的評分喜好點，即如果用戶對一部電影的評分大于等于3分，則說明用戶是喜歡此部電影的。本文定義時間特征指數monthlike(m,xa)為用戶在m月對xa類型電影的喜好程度；年齡特征指數agelike(i,xa)為用戶i所在的年齡段xa類型電影的喜好程度，其中年齡段依據數據集中的標示進行劃分。二者的計算公式如下：

(5)

(6)

其中，Lm,xa表示用戶在m月中喜歡xa類型電影的評分數據集合，Li,xa表示用戶i所對應的年齡段喜歡xa類型電影的評分數據集合，Lxa表示評分數據中所有喜歡xa類型電影的評分集合。

依據上述公式對MovieLens數據集中的數據進行預處理，計算出每個月份和每個年齡段的用戶對不同類型電影的特征指數，結果如圖1和圖2所示。從圖1可看出，用戶隨著其年齡的增長，觀看電影的數量總體上呈先上升再下降的趨勢。而針對不同的年齡段的用戶，其對不同類型的電影也有著較為明顯的區別，例如25歲以下的用戶最喜愛動畫片，而25～45歲的用戶喜歡紀錄片的居多。從圖2可看出，用戶在8月和11月最喜歡看電影。而在1月用戶最喜歡看紀錄片，在8月喜歡看恐怖片，最不喜歡看紀錄片。

圖1 不同年齡段對不同類型電影的喜好程度

圖2 不同時間段對不同類型電影的喜好程度

因此，行為特征指數越大，則此用戶所代表的這類人對該類型的電影越感興趣，則其喜歡對應類型電影的可能性越大。

1.1.4 動態權重

當一個新用戶或新項目進入到系統中時，其必然會面對“冷啟動”問題[8-10]。在這種情況下，推薦系統無法利用協同過濾等基于歷史數據的推薦算法進行推薦，只有利用基于內容的過濾算法，根據用戶或項目自身特定的屬性和信息來進行粗粒推薦；而當用戶和項目的歷史數據積累到一定數量之后，基于內容的過濾算法過于粗糙的弊端暴露，協同過濾算法依據歷史數據精確推薦的優勢逐漸突出。所以，混合推薦將兩種算法進行不同方式的融合，目的在于使單一的推薦算法在不同使用場景中能夠揚長避短，提升推薦精度。

傳統的混合推薦算法大多引入一個平衡因子，通過線性公式將兩種或多種推薦算法混合而來[11-14]。其中，平衡因子的取值往往需要在特定的測試數據集上反復實驗，才能找到一個特定的值，來達到最好的推薦效果。然而，在實際應用中，由于項目數量遠大于用戶數量[15]，評分數據矩陣對總體而言十分稀疏，但對于不同的用戶和項目個體來說其稀疏性差別巨大。所以，固定權重值的混合推薦算法只能針對特定的數據集在宏觀上平衡每個個體的推薦誤差，不能很好地滿足用戶的個性差異。

為了解決上述問題，針對不同用戶評分數據稀疏性的個性化差異，將用戶已評分的物品數量占物品集總數量的比值作為動態權重平衡因子引入進混合推薦中，即依據用戶評分的多少來動態決定權重大小，以此來動態平衡混合推薦算法中兩種推薦算法所占比重，提出如下計算公式：

(7)

其中，λ為引入的線性因子，用來控制在一定物品數量下已評分物品數據量的線性增長快慢對動態權重影響的大小；Tr為用戶i已評分的項目集合，即Tr={r|rij≠0,1≤j≤n}，I表示物品集。

1.2 基于用戶行為特征的動態權重混合推薦算法

基于用戶行為特征的動態權重混合推薦算法主要分為基于內容的過濾算法和協同過濾兩大部分。

首先是基于內容過濾算法部分的計算。由上文可知，基于內容的過濾算法分為基于用戶和項目兩種。但由于用戶社會網絡信息的豐富程度遠高于物品，所以基于用戶內容的推薦計算維度更廣，精確度更高。另一方面，在大部分數據集中，物品數量極大于用戶數量，且物品增長速度遠高于用戶增長速度，所以基于用戶內容信息推薦的計算復雜度遠低于基于項目信息內容過濾算法。因此，基于內容的過濾算法部分采用基于用戶內容的推薦算法進行計算，可分為以下3個步驟：

1) 計算用戶內容相似度并組成相似用戶數據集

2) 計算用戶行為特征指數

確定待推薦電影j的電影類型為xj，并遍歷用戶集Ua中每一個用戶和其看過的所有xj類型的電影，根據式(5)、式(6)分別計算出其對應的時間特征指數monthlike(m,xj)和年齡特征指數agelike(i,xj)。

3) 計算基于用戶內容推薦預測值

利用加權平均公式，計算出相似用戶對同類型電影的評分和其特征指數的基于用戶內容推薦的預測值，即：

PDBR(i,j)=

(8)

其中Ui表示用戶i的基于用戶內容推薦的相鄰用戶集，xj表示與電影j相同類型的電影集合，rbk表示用戶b對電影k的評分。

其次進行協同過濾部分的算法計算。由于物品數量極大于用戶數量，所以計算物品之間相似度的準確性會大大優于計算用戶之間的。因此，協同過濾部分的算法采用基于項目的協同過濾算法。正如上文所述，基于評分矩陣計算相似度更加關注兩個向量在不同維度之間的相對差異。并且，在評分向量單個維度數據稀疏的情況下，皮爾遜相似度可以有效規避向量之間因線性獨立所帶來的計算誤差。因此本文采用皮爾遜相似度作為用戶相似度計算的主要方法，相似度計算公式可由式(4)轉變為：

PCC(i,j) =simPCC(i,j)

(9)

因此，協同過濾部分的算法概括為以下2個步驟：

1) 計算物品之間的相似度并組成相似物品數據集

根據式(9)計算出待推薦物品i與任意其他物品j之間的相似度集合SPCC。將SPCC中的相似度按大小進行降序排列，并選取前θ個組成相鄰物品數據集IPCC。

2) 計算協同過濾預測值

針對目標用戶，利用IPCC中相似物品的評分數據進行加權，計算出目標用戶i對于待推薦物品j的基于項目的協同過濾的加權預測值，即：

(10)

最后，利用式(7)計算出的動態權重，將上述基于用戶內容的推薦和協同過濾的推薦算法分別計算出來的預測值進行線性組合，計算出本文提出的基于用戶行為特征的動態權重混合推薦算法的預測結果，即：

P(i,j)=DynamicWeight(i)·PPCC(i,j)+

(1-DynamicWeight(i))PDBR(i,j)

(11)

2 數據實驗及結果分析

2.1 實驗設計

實驗采用平均絕對誤差MAN(MeanAbsoluteDifference)作為衡量算法準確性的標準，其通過統計算法計算出來的預測評分與用戶的實際評分之間的絕對距離的均值來實現精確性的度量。介于MAE的計算和實現都非常簡單，所以其已經成為絕大多數文獻中使用的標準[2]。對于n個用戶的實際評分R={r1,r2,…,rn}，推薦算法計算出的預測評分P={p1,p2,…,pn}，則MAE計算公式如下：

(12)

其中pi為預測評分，ri為實際評分。

實驗方案為10折交叉驗證法(10-FoldCross-Validation)[2,3]。此方案將MovieLens數據集隨機分為10個互不相交的數據集，輪流選擇其中的一份作為測試數據集，其他9份作為訓練集，重復執行10次測試算法，保證每個子數據集有且僅有一次作為訓練集，最后取十次計算結果的平均值作為實驗的整體結果。

2.2 實驗結果及分析

2.2.1 動態權重線性因子λ的影響

在式(7)中，動態權重線性因子λ起著非常重要的作用，如果λ的取值不當，會造成動態權重DynamicWeight(i)的值過大或者過小，進而改變基于用戶內容的推薦和協同過濾兩種推薦算法在混合推薦中所占比重大小，極大影響算法的推薦精度。所以，本次實驗針對在不同線性因子λ下，對本文提出算法的推薦結果進行測試，并對不同的相鄰用戶數量θ之間的實驗結果進行了對比，實驗結果如圖3所示。

圖3 不同線性因子λ的實驗結果對比

從式(7)中可以發現，隨著λ的增加，在最終的預測評分中協同過濾部分所占比重增加。而從圖中的曲線變化可知，針對同一相鄰用戶數量，MAE總體呈下降趨勢，說明相對較大的λ值所提高的協同過濾比重可以在一定程度上提高推薦的準確性。特別是當λ=4時，算法可以達到最佳的推薦質量。但隨著λ繼續增大，MAE的數值并沒有顯著減小，反而略微開始增加，這說明此時協同過濾預測所帶來的誤差對結果的影響增大，而基于用戶內容部分在稀疏數據中所展現出來的優勢在低權值下無法對結果產生影響，從而降低了算法的推薦精度。

2.2.2 常見推薦算法推薦效果對比

為了驗證本文算法在提高推薦預測準確性方面的有效性，本次實驗選用同是混合推薦算法但采用固定權重推薦的文獻[16]。優化混合推薦算法作為主要對比算法。而在傳統的推薦算法中，相鄰用戶是目標用戶預測評分的關鍵依據，鄰居規模的大小都有可能影響推薦算法的準確度。所以，本次實驗分別對傳統的基于用戶的協同過濾、基于項目的協同過濾、優化混合推薦算法[16]。以及本文提出的算法等四種算法在不同的相鄰用戶數量θ下的推薦精度進行對比。實驗結果如圖4所示。

圖4 不同相鄰用戶數量θ的實驗結果對比

由圖可知，不論是文獻[16]算法還是本文的算法，其核心都是將多種推薦算法進行組合，減小傳統單一推薦算法在不同使用場景下的計算誤差，所以混合算法的推薦精度都遠高于傳統單一推薦算法。而針對混合推薦算法，由于文獻[16]算法在計算相似度的過程中采用固定權重的方式將物品屬性相似性和修正余弦相似度線性組合，忽略了相鄰用戶個體評分數據稀疏性差異以及用戶評分數據受外界條件等因素的影響。因此，從實驗結果可以看出，本文所提出的推薦算法在不同數量的相鄰用戶下其MAE均小于文獻[16]中的混合推薦算法，推薦效果一直處于較高的優勢，并隨著相鄰用戶數量的增加，優勢也逐漸增加。就本文提出的算法而言，隨著相鄰用戶數量的增加，MAE總體呈下降趨勢，特別是當50<θ<60，即相鄰用戶數量取到所有訓練集用戶數量的50%～60%時，MAE值取最小，推薦效果最好。而當相鄰用戶數量超過60%時，由于過多的鄰居評分引入了更多相似度不高的噪聲數據，從而降低了推薦精度，影響了算法的推薦效果。

3 結 語

本文對傳統的混合推薦算法進行了優化，將用戶行為特征進行量化并引入到用戶相似度的計算中來，并根據用戶數據稀疏性的個性化差異，自適應地將多種推薦算法動態連接并進行推薦預測。實驗結果表明，該算法從多方面縮小因單一推薦算法所帶來的推薦誤差，極大地提高了傳統單一推薦算法在稀疏數據集中推薦的準確性。相較于其他的混合過濾算法，引入動態權重的概念來調整不同推薦算法所占的比重，有效平衡因用戶歷史數據集稀疏性的個性差異所帶來的推薦誤差，提高推薦質量。從實驗中發現，算法在相鄰用戶數量較低的情況下推薦精度下降，并且混合推薦自身存在的計算量大、耗時長等問題，下一步該算法還需在以上兩個方面進行深入研究。

[1]AdomaviciusG,TuzhilinA.Towardthenextgenerationofrecommendersystems:Asurveyofthestate-of-the-artandpossibleextensions[J].IEEETransactionsonKnowledgeandDataEngineering,2005,17(6):734-749.

[2] 任磊.推薦系統關鍵技術研究[D].上海:華東師范大學,2012.

[3] 朱文奇.推薦系統用戶相似度計算方法研究[D].重慶:重慶大學,2014.

[4]GuptaJ,GadgeJ.Performanceanalysisofrecommendationsystembasedoncollaborativefilteringanddemographics[C]//Communication,Information&ComputingTechnology(ICCICT),2015InternationalConferenceon.IEEE,2015:1-6.

[5] 趙偉明.基于用戶行為分析和混合推薦策略的個性化推薦方法研究[D].北京:北京工業大學,2014.

[6]AbhishekK,KulkarniS,ArchanaVKN,etal.AReviewonPersonalizedInformationRecommendationSystemUsingCollaborativeFiltering[J].InternationalJournalofComputerScienceandInformationTechnologies(IJCSIT),2011,2(3):1272-1278.

[7]ScheinAI,PopesculA,UngarLH,etal.Methodsandmetricsforcold-startrecommendations[C]//Proceedingsofthe25thAnnualInternationalACMSIGIRConferenceonResearchandDevelopmentinInformationRetrieval.ACM,2002:253-260.

[8]BaoH,LiQ,LiaoSS,etal.AnewtemporalandsocialPMF-basedmethodtopredictusers’interestsinmicro-blogging[J].DecisionSupportSystems,2013,55(3):698-709.

[9]LeeTQ,ParkY,ParkYT.Atime-basedapproachtoeffectiverecommendersystemsusingimplicitfeedback[J].ExpertSystemswithApplications,2008,34(4):3055-3062.

[10]KoenigsteinN,DrorG,KorenY.Yahoo!musicrecommendations:modelingmusicratingswithtemporaldynamicsanditemtaxonomy[C]//ProceedingsoftheFifthACMConferenceonRecommenderSystems.ACM,2011:165-172.

[11] 張騰季.個性化混合推薦算法的研究[D].杭州:浙江大學,2013.

[12] 張新猛,蔣盛益,李霞,等.基于網絡和標簽的混合推薦算法[J].計算機工程與應用,2015,51(1):119-124.

[13]PazzaniMJ,BillsusD.Content-basedrecommendationsystems[M]//TheAdaptiveWeb.Springer,2007:325-341.

[14]ChenW,NiuZ,ZhaoX,etal.Ahybridrecommendationalgorithmadaptedine-learningenvironments[J].WorldWideWeb,2014,17(2):271-284.

[15]TangX,ZhouJ.Dynamicpersonalizedrecommendationonsparsedata[J].IEEETransactionsonKnowledgeandDataEngineering,2013,25(12):2895-2899.

[16] 李鵬飛,吳為民.基于混合模型推薦算法的優化[J].計算機科學,2014,41(2):68-71,98.

A DYNAMIC-WEIGHTED HYBRID RECOMMENDATION ALGORITHM BASED ON USER BEHAVIOR CHARACTERISTICS

Liu Peiwen Chen Huafeng

(NationalEngineeringResearchCenterforMultimediaSoftware,WuhanUniversity,Wuhan430072,Hubei,China)(CollegeofComputer,WuhanUniversity,Wuhan430072,Hubei,China)

A recommendation system can personalize website service for different users, and how to provide accurate recommendations has become the biggest difficulty. Aiming at the sparsity problem of traditional recommendation algorithm, dynamic-weighted hybrid recommendation algorithm based on user behavior characteristics is proposed. Through the data preprocessing in dataset, the personalized behavior characteristic index of different users for different items is calculated and introduced into the similarity calculation. The dynamic weight is calculated according to the difference of the user’s rate data sparseness, and the user’s content recommendation and collaborative filtering recommendation are dynamically mixed. Experimental results show that the proposed algorithm can reduce the recommendation error effectively and improve the recommendation accuracy in the sparse data set.

User behavior characteristics Dynamic-weighted Hybrid recommendation algorithm

2016-03-19。劉沛文，碩士生，主研領域：模式識別與智能系統。陳華鋒，博士生。

TP301.6

A

10.3969/j.issn.1000-386x.2017.04.054