








摘 要:針對如何在圖卷積網絡中融入用戶的社交網絡以及有效實現異構關系學習的問題,提出了一種包含隱式信任和影響的新穎的異構圖卷積網絡框架(HGCNTI)。該框架基于用戶-用戶二分圖構建信任子圖和影響子圖,充分利用用戶間的隱式關系達到增強用戶-項目表示的目的;此外,設計了一個多視角元網絡,從不同用戶或項目中提取個性化信息,實現個性化知識轉換的自適應增強。實驗結果表明,在Ciao和Epinions兩個數據集上,HGCNTI均表現出色。與各種最新基線相比,在Ciao數據集上,其召回率@5提升了22.6%,召回率@10提升了19.7%,NDCG@10提升了19%;在Epinions數據集上,NDCG@5提升了2.9%,精確率@10提升了4.5%。
關鍵詞:社會信任;社交推薦;異構圖學習;元網絡
中圖分類號:TP391 文獻標志碼:A
0 引言(Introduction)
在當前信息爆炸的時代,推薦系統已經成為連接用戶與海量信息內容的橋梁,其中社交推薦因其能深入挖掘用戶的社交網絡信息及行為模式而顯得尤為重要。社交推薦系統通過細致分析用戶在社交網絡中建立的關聯、展現的興趣及偏好,能夠更精準地捕捉用戶的真實需求,進而推送高度個性化的內容。然而,現實生活的推薦場景復雜多變,涉及的數據對象類型多樣,并且對象之間的交互方式也呈現多樣化的特點,這對行之有效地從不同對象的交互中學習到用戶的偏好提出了嚴峻的挑戰。為了應對這一挑戰,本文提出了一種新方法,它在原有LightGCN(LightGraphConvolutionNetwork)的基礎上引入了兩個用戶-用戶交互圖(信任圖和影響力圖),同時設計了一個多視角的元網絡,用于學習用戶側和項目側的個性化信息,增強個性化知識轉換的自適應。
1 相關工作(Relatedwork)
近年來,社交推薦系統因其能有效利用用戶的社交網絡信息以模擬用戶的偏好而引起了廣泛關注。針對社交推薦系統的研究,主要聚焦于探索社交關系和評分如何影響用戶嵌入和項目嵌入[1]。同時,利用用戶相似度預測用戶評分的研究也日益增多[2-3]。GCNs(GraphConvolutionNetworks)憑借其在建模圖結構數據領域的出色表現而被成功應用到社交推薦系統中[4-5]。例如,LIAO 等[6]提出了一個名為SocialLGN(SocialLightGraphConvolutionNetwork)的系統,該系統擴展了LightGCN(LightGraphConvolutionNetwork),使其更適應社交推薦問題。他們為用戶-項目交互圖和社交圖同時設計了一種基于輕量圖卷積網絡的表示傳播機制。SENG等[7]首先通過圖神經網絡(GNN)學習用戶的潛在因子和項目的潛在因子,其次將兩個潛在因子連接起來進行最終評分預測。在用戶建模方面,用戶的潛在表示是項目聚合和社交聚合的串聯。與靜態建模社交關系不同,朋友的推斷可能會隨著時間的變化而改變。YUAN等[8]考慮了一種動態情況,即社交關系動態影響用戶興趣,因此他們提出了一種基于會話的社交推薦算法,該算法模型化了動態興趣和動態社交影響。HUO 等[9]提出了一種名為TrustGNN(TrustGraphNeuralNetwork)的新GNN(GraphNeuralNetwork)信任評估方法,它巧妙地將信任圖的傳播和可組合性質融入GNN框架中,以更好地進行信任評估。YANG等[10]打算賦予GNN模型解決社交不一致問題的能力,并提出通過將鄰居間一致性得分與采樣概率相聯系,進而生成抽樣一致的鄰居。
盡管上述基于GCNs的社交推薦模型已經以卓越的推薦表現證明了其有效性,但是在現有方法中,尚未很好地解決以下3個挑戰。一是傳統的社交推薦模型[11-12]往往依賴靜態模型分析每個用戶的本地鄰居信息,導致推薦性能不理想。二是近期的研究[13-14]忽視了每個用戶受其值得信賴的朋友影響的潛在有價值的嵌入。三是鑒于社交信息與用戶-項目交互建模之間的依賴關系往往不是單一形態而是多樣的,因此實現異質關系學習成為提升推薦系統性能的關鍵挑戰。
2 模型構建(Modelbuilding)
本文提出的HGCNTI模型由嵌入層(EmbeddingLayer)、傳播層(PropagationLayer)、元網絡層(MetaNetworkLayer)及模型預測層(ModelPredictionLayer)4個主要組成部分構成。基于異構圖卷積網絡的隱式信任和影響力的模型圖如圖1所示。
2.1 準備工作
事實上,推薦系統通常是異構的,它包含來自用戶和項目的不同信息。本文使用Gui ={Vu,yu,i,Vi}表示用戶-項目交互圖,這里的Vu和Vi分別表示用戶和項目的集合。如果yu,i=0,那么意味著用戶和項目之間不存在交互,若yu,i=1,則表示用戶和項目之間存在交互。與之相類似,本文使用GT ={Vu,yu,u}和GI={Vu,yu,u}分別表示用戶信任圖與用戶影響力圖。對于項目圖,按照其類別,將其定義為Gii={Vi,yi,i}。對于上述定義的用戶-項目交互圖、用戶信任圖、用戶影響力圖與項目圖,本文定義了3種鄰接矩陣,分別為Au,i ∈Rm×n,Au,u ∈Rm×m ,Ai,i∈Rn×n。其中,m 和n 分別表示用戶數量與項目數量。
2.2 信任圖的生成
用戶信任值的計算是社交推薦過程中的重要步驟。信任源于主觀個體的經歷。如果用戶u 更信任用戶v,則他們之間的相似度更高。在現實生活中,個體間的信任水平是動態變化的,它深受雙方互動關系的質量及互動結果的影響。具體而言,積極成功的互動經歷能夠增進彼此間的信任感,而不良或失敗的互動則可能導致信任度下降。此外,由于用戶對物品有各自獨特的興趣偏好,互動產生的信任影響也會有所不同。因此,本文考慮了用戶的互動信息和偏好,使用一個信任關系的測量模型,以綜合考慮用戶對不同物品的評分和偏好程度。本文做出如下兩種假設:①如果兩個用戶都與一個物品產生過交互,那么我們就假設這兩個用戶之間存在一次交互;②如果這兩個用戶對該物品的評分均大于或是均小于他們的各自的平均評分,我們則認為這是一次成功的交互,反之則是一次失敗的交互。
基于上述假設,當用戶u 和用戶v 之間至少存在一次交互的前提下,用戶u 對用戶v 的信任值計算如下:
其中:Ui表示同樣對物品i 進行過評分的用戶群,用戶u 與Ui內的其他用戶相似度越高,那么可以認為用戶u 對這個物品i的偏好度越高。sim(u,o)是用戶u 與Ui 中用戶o 的相似度。具體而言,本文使用皮爾遜相關系數(PearsonCorrelationCoefficient,PCC)計算,通過引入共同交互次數,將相似度限制在0到1的范圍內,其公式如下:
考慮到用戶對不同項目的偏好度之后,本文將最終的信任值定義為公式(1)。
2.3 影響力圖的生成
由社會學家羅納德·伯特(RonaldBurt)在1992年提出的傳統的結構洞(StructureHole,SH)理論在社交網絡中具有廣泛的應用,它能夠有效地識別影響力節點。結構洞是一種利用局部信息識別網絡關鍵節點的有效方法。在結構洞算法中約束度扮演了一個重要的角色,它主要是指FREEMAN的中介中心性指標以及其改進形式,其基本思想是,如果一個節點位于許多其他節點對的最短路徑上,則該節點具有較高的中介中心性,更有可能占據結構空洞位置,它也就是所謂的影響力用戶,其公式定義如下:
其中:f1mlp 和f2mlp 是用于從信任矩陣中學習元知識的兩個全連接層,而f3mlp 和f4mlp 是用于從影響矩陣中學習元知識的兩個全連接層,上述全連接層都使用PReLU作為激活函數。本文為每個用戶的元學習網絡配置了兩個參數矩陣,以自定義每個用戶個性化偏好的學習過程,其中WMT1、WIM1∈Rm×d×k,WTM2、WIM2∈Rm×k×d。這些參數張量中每個用戶都有矩陣。根據相應的用戶和物品的獨特特征生成個性化的轉換,為每個用戶和物品投影一個個性化的新向量矩陣。此外,限制了轉換的秩klt;d,這有助于提取主要特征并簡化后續的計算或分析過程。從元網絡輸出的用戶最終嵌入可以用公式(19)和公式(20)描述:
EMT =σ(WTM1WM2 T ET ) (19)
EMI =σ(WIM1WM2 I EI) (20)
其中:σ(·)是PReLU函數;EMT 、EMI ∈Rm×d 是從元學習網絡中生成的最終結果,分別包含從信任圖和信息圖中提取的個性化信息。類似于公式(12),本研究使用圖融合模型獲取最終的用戶嵌入。該嵌入的計算方式如公式(21)所示:
EFu =W5(σ(W6EMT )||σ(W7EMI )||σ(W8Eu)) (21)
其中:EFu 是最終的用戶嵌入矩陣,類似于EFu 的生成過程。我們也可以生成項目的最終嵌入矩陣。
2.7 預測層
從元網絡層得到最終的用戶和項目向量后,給定用戶u 和項目i,我們通過計算其內積的方式i 獲得在u 上的排名分數,其計算公式如公式(22)所示:
^yui=eTuei (22)
在本文提出的模型中,使用貝葉斯個性化排序(BAYESIANPERSONALIZEDRANKING,BPR)損失函數優化參數。BPR損失函數的設計目標是優化推薦系統中的個性化排序性能,確保用戶實際喜歡或交互過的項目在推薦列表中的排名高于用戶未喜歡或未交互過的項目,其公式如公式(23)所示:
其中:NIu是指u 在用戶-項目交互圖中的鄰居,E(0)是嵌入層輸出的N 個用戶和M 個項目的嵌入。
3 實驗(Experiment)
3.1 實驗環境和數據集
對于本文提出的模型和所有基線模型,將嵌入大小統一設置為128,并將批處理大小設置為1024。本文提出的模型是基于PyTorch框架構建的,并且所有實驗數據是在一塊3080Ti顯卡上運行獲得的。對于每個數據集,采用80%的數據作為訓練集,剩余數據則作為測試集。為了確保超參數不帶有偏差,并防止模型過擬合,本實驗從訓練交互中隨機抽取10%的數據作為單獨的驗證集。與LightGCN類似,本文提出的模型使用Adam優化器,并將學習率設置為1e-3對模型中的參數進行優化。傳播層的層數設置為3。用戶和物品的初始嵌入通過均值為0、標準差為0.01的高斯分布進行初始化。
實驗是在現實世界收集到的Ciao和Epinions兩個數據集上進行的。Ciao包含了各種產品(包括圖書、電子產品等)的用戶評論和評分,為探究用戶偏好及產品評價提供了寶貴的數據支持;該數據集包括7375個用戶和106797個物品;Epinions數據集是一個在線社交網絡數據集,包含用戶對產品和服務的評論與評分,它包含22166個用戶和296277個物品。
3.2 評價指標
為了全面評估我們所提出的模型與基線模型在top-N排名推薦方面的性能,本研究采用了3個在業界廣泛認可的評估指標:精確度(Precision)、召回率(Recall)和歸一化折損累計增益(NDCG)。上述指標以及計算NDCG過程中的DCG,其公式分別如公式(24)至公式(27)所示:
其中:推薦列表的長度N 設置為5和10,U 表示測試集中的所有用戶,Ru表示用戶u 被推薦的所有物品集合,Iu 表示與用戶u 有互動的物品集合。
3.3 基線介紹
為了測試本文提出的模型的性能提升效果,本研究將其與當前一些先進的推薦模型進行了比較實驗,針對比較模型的介紹如下。
(1)FSTID[11]:一種基于深度學習且引入了基于信任和社交影響的因子化模型(FSTID),其通過深度學習對矩陣分解(MF)中的特征進行配置,摒棄了傳統的隨機初始化方法。此外,FSTID創建了一個信任度量模型,以量化隱式信任的強度。
(2)LightGCN[16]:LightGCN(LightGraph ConvolutionNetwork)是一種輕量級的圖卷積網絡模型,用于推薦系統中的協同過濾任務,它在傳統的GCN模型基礎上進行了簡化和改進,以適應推薦系統的需求。
(3)SocialLGN[6]:SocialLGN(SocialLightGraphConvolutionNetwork)是一個將社交網絡信息融入LightGCN的模型。通過整合社交關系,它增強了推薦系統中用戶-物品交互建模,并提升了模型推薦的性能。SocialLGN能更有效地捕捉用戶之間的社交影響,從而獲得更準確和個性化的推薦結果。
(4)TIGCN[17]:TIGCN (LightGCNBasedonImplicitTrustandInfluence)是基于LightGCN的圖卷積網絡,它同時將信任圖、影響圖及用戶-物品交互圖放入LightGCN中,從而在建模過程中提供了更多的信息,因此達到了更好的推薦效果。
3.4 實驗結果與分析
Ciao數據集的實驗結果見表1;Epinions數據集的實驗結果見表2。從表1與表2中的結果來看,HGCNTI通過聚合顯式反饋(即用戶-物品交互)表示和社交反饋(用戶信任和用戶影響力),豐富了模型的輸入信息,能更好地對用戶和物品進行建模。顯然,基于GCN的模型比基于MF的模型在兩個數據集上的表現更好。在LightGCN 的基礎上,當引入更多信息時,結果變得更好。在此基礎上,元網絡的引入大大提升了本文提出模型的推薦效果。HGCNTI在Ciao數據集上實現了顯著提升,特別是在召回率和精確率指標上表現突出。具體而言,在召回率@5上提升了22.6%,在召回率@10上提升了19.7%,在NDCG@10上提升了19.0%。相比之下,在Epinions數據集上,由于該數據集相較于Ciao數據集具有更高的稀疏性,HGCNTI的改進幅度相對較小,盡管如此,模型仍然在NDCG@5上實現了2.9%的提升,在精確率@10上實現了4.5%的提升。
3.5 消融實驗
本研究開展了消融實驗以驗證信任圖和影響圖的影響。在Ciao數據集上Top10消融實驗的結果如圖2所示。在圖2中,G表示用戶-項目交互圖,I表示影響力圖,T表示信任圖,M表示元網絡。G+I+T表示不使用元網絡,這時各項指標均出現了大幅下降,例如精確率從0.0344降至0.0305,因為用戶定制化的信息不足,模型會假設兩個用戶相似,而不考慮用戶的偏好。G+I+M、G+T+M 表示沒有將信任矩陣或影響矩陣及其對應的元網絡考慮到本文提出的模型中,從圖2中可以看出,各項指標顯示出不同程度的下降,例如缺少了信任圖,召回率從0.0548降至0.0520;而缺少了影響力圖,召回率從0.0548降至0.0525。這進一步證明了本文提出模型的性能優勢。
4 結論(Conclusion)
本文提出了一種新穎的異構圖卷積網絡框架,稱為HGCNTI。該框架通過利用用戶和物品的隱含關系(例如社交信任和影響)以增強用戶-物品表示。該模型能夠將異構社交關系語義整合到用戶-物品交互建模中,并利用圖卷積網絡在不同視圖之間進行知識傳遞的增強。具體而言,HGCNTI基于用戶-用戶二部圖和嵌入向量構建信任子圖和影響子圖,以探索用戶之間的隱含關系。這種模塊能夠共同探索用戶興趣和社交關系的傳播過程。同時,研究人員設計了一個多視圖元網絡,從不同用戶或項目中提取個性化信息,通過元網絡增強異構圖卷積網絡,實現自適應增強的個性化知識轉換。在Ciao數據集與Epinions數據集的實驗結果表明,與一些優秀的基線模型相比,HGCNTI在性能上取得了明顯的提升,證明了模型的有效性。
參考文獻(References)
[1]XUSS,SUNF,WU XS,etal.Aheterogeneousgraphneuralrecommendationmodelwithhierarchicalsocialtrust[J].Computersandelectricalengineering,2023,111:108912.
[2]呂剛,張偉.基于深度學習的推薦系統應用綜述[J].軟件工程,2020,23(2):5-8.
[3]蘇湛,黃忠,艾均.一種融合用戶相似性與評分距離的個性化推薦算法[J].軟件工程,2022,25(10):20-27.
[4]WUL,LIJW,SUNPJ,etal.Diffnet++:aneuralinfluenceandinterestdiffusionnetworkforsocialrecommendation[J].IEEEtransactionsonknowledgeanddataengineering,2020,34(10):4753-4766.
[5]YUJL,YINHZ,LIJD,etal.Enhancingsocialrecommendationwithadversarialgraphconvolutionalnetworks[J].IEEEtransactionsonknowledgeanddataengineering,2022,34(8):3727-3739.
[6]LIAOJ,ZHOU W,LUOFJ,etal.SocialLGN:lightgraphconvolutionnetworkforsocialrecommendation[J].Informationsciences,2022,589:595-607.
[7]SENG D W,LIM F,ZHANG XF,etal.Researchonneuralgraphcollaborativefilteringrecommendationmodelfusedwithitemtemporalsequencerelationships[J].IEEEaccess,2022,10:116972-116981.
[8]YUANCY,LIJC,ZHOU W,etal.DyHGCN:adynamicheterogeneousgraphconvolutionalnetworktolearnusers'dynamicpreferencesforinformationdiffusionprediction[C]∥HUTTERF,KERSTINGK,LIJFFIJTJ,etal.MachineLearning and Knowledge Discoveryin Databases:EuropeanConference,ECMLPKDD2020,Ghent:Springer,2021:347-363.
[9]HUOCY,HEDX,LIANGCD,etal.TrustGNN:graphneuralnetwork-andcomposablenature[J].IEEEtransactionsonneuralnetworksandlearningsystems,2024,35(10):14205-14217.
[10]YANGZ,DINGM,XUB,etal.STAM:aspatiotemporalaggregationmethodforgraphneuralnetwork-basedrecommendation[C]∥LAFORESTFTRONCYR.Proceedingsofthe ACM Web Conference2022.Lyon:ACM,2022:3217-3228.
[11]ZHANGXF,CHENXL,SENGD W,etal.Afactoredsimilaritymodelwithtrustandsocialinfluencefortop-Nrecommendation[J].Internationaljournalofcomputerscommunicationsamp;control,2019,14(4):590-607.
[12]SENGDW,LIUJX,ZHANGXF,etal.Top-Nrecommendationbasedonmutualtrustandinfluence[J].Internationaljournalofcomputerscommunicationsamp;control,2019,14(4):540-556.
[13]MENGQ,LIUB,ZHANG H Y,etal.Temporal-awareandmultifacetedsocialcontextsmodelingforsocialrecommendation[J].Knowledge-basedsystems,2022,248:108923.
[14]DONG M Q,YUANF,YAOLN,etal.Asurveyfortrust-awarerecommendersystems:adeeplearningperspective[J].Knowledge-basedsystems,2022,249:108954.
[15]CHENMR,HUANGC,XIALH,etal.Heterogeneousgraphcontrastivelearningforrecommendation[C]∥CHUAT,LAUW H,SIL,etal.ProceedingsoftheSixteenthACMInternationalConferenceonWebSearchandDataMining.Singapore:ACM,2023:544-552.
[16]HEXN,DENGK,WANGX,etal.Lightgcn:Simplifyingandpoweringgraphconvolutionnetworkforrecommendation[C]∥HUANGJ,CHANGY,CHENGXQ,etal.Proceedingsofthe43rdInternationalACMSIGIRConferenceonResearchandDevelopmentinInformationRetrieval.VirtualEventChina:ACM,2020:639-648.
[17]CAIXL,WANG XY,ZHANGYY,etal.Anexaminationofimplicittrustandinfluenceinsocialrecommendationthroughgraphconvolutionalnetworks[J].Traitementdusignal,2023,40(3):1055-1064.
作者簡介:
王希源(1999-),男(漢族),嘉興,碩士生。研究領域:推薦系統。
僧德文(1977-),男(漢族),漳州,副教授,博士。研究領域:機器學習,推薦系統,智能交通系統。本文通信作者。
基金項目:教育部產學合作協同育人項目(220903242265640)