基于注意力機制和異質信息網絡元路徑的推薦系統

收稿日期：2022-05-27；修回日期：2022-07-18

作者簡介：姜征和（1998-），男（通信作者），山東威海人，碩士研究生，主要研究方向為圖神經網絡和推薦系統（837256246@qq.com）；陳學剛（1970-），男，山東泰安人，教授，博士，主要研究方向為組合優化、算法設計與分析和圖神經網絡.

摘 要：

異質信息網絡（HIN）包含豐富的網絡結構和語義信息使其常見于推薦系統中。然而，當前推薦系統的研究工作主要是基于元路徑提供的間接信息進行推薦，而未充分利用直接交互信息。為了充分利用這些信息，提出一種融合注意力機制和異質信息網絡元路徑的三元交互模型（AMMRec）。在異質信息網絡中使用隱式反饋矩陣構造用戶相似度矩陣和項目相似度矩陣，運用異質信息網絡的表示學習方法獲得對應的特征向量嵌入，通過注意力機制對其進行修正；設計注意力神經網絡，將不同元路徑的表示向量進行融合；拼接用戶嵌入、元路徑嵌入和項目嵌入，通過全連接神經網絡生成推薦結果。在真實數據集上的實驗結果表明，AMMRec的推薦精度最高提升了9.5%。此外，AMMRec對推薦結果具有良好的可解釋性。

關鍵詞：異質信息網絡；元路徑；注意力機制；推薦算法

中圖分類號：TP183"" 文獻標志碼：A""" 文章編號：1001-3695（2022）12-009-3587-05

doi：" 10.19734/j.issn.1001-3695.2022.05.0248

Recommendation systems based on attention mechanism and

meta-paths of heterogeneous information network

Jiang Zhenghe， Chen Xuegang

（Institute of Mathematical amp; Physical Sciences， North China Electric Power University， Beijing 102206， China）

Abstract：

Because heterogeneous information network（HIN） contains rich network structure and semantic information， re-commendation systems often use HIN for recommendation. However， the current researches of recommender systems is mainly based on indirect information provided by meta-paths for recommendation， but these researches don’t make full use of direct interactive information. To make full use of this information， this paper proposed a ternary interaction model（AMMRec） that incorporated attention mechanisms and heterogeneous information network meta-paths. This method firstly used the implicit feedback matrix to construct user similarity matrix and item similarity matrix and used the representation learning method of the HIN to obtain the corresponding feature vector embeddings in HIN. Then it used the the attention mechanism to modify the embeddings and designed attention neural network to fuse representation vectors of different meta-paths. Finally it concatenated user embeddings and meta-path embeddings and item embeddings， and generated recommendation results through fully connected neural network. The experimental results on real datasets show that AMMRec improves the recommendation accuracy by up to 9.5%. In addition， AMMRec has good interpretability for the recommendation results.

Key words：heterogeneous information network; meta path; attentional mechanism; recommendation algorithm

0 引言

在當下信息爆炸的時代，有效信息淹沒于大量的無關信息中，這種現象稱為信息過載［1］，這極大地降低了人們獲取有用信息的效率。推薦系統如今在各種在線平臺發揮著至關重要的作用，可以有效地緩解信息過載現象，因此被廣泛應用于電子商務的生產推薦和服務推薦等各個領域。

推薦系統的方法和模型經歷了許多發展階段，從最初的基于內容的協同過濾推薦［2］，到現在流行的針對屬性［3］、上下文［4］、知識圖［5，6］等的輔助信息推薦。近年，基于輔助信息推薦的研究主要集中于因子分解機（FM［7］）、Wideamp;Deep［8］和DeepFM［9］。其中FM通常被用來建模二階特征交互作用并學習特征之間的成對關系，其支持的神經網絡（FNN ［10］）和基于乘積的神經網絡（PNN［11］）用全連接神經網絡來建模高階特征交互。Wideamp;Deep分別使用線性模型和深度模型學習單詞和高階特征交互作用。DeepFM 用FM模型代替了Wideamp;Deep的線性模型，取得了更好的性能。雖然這些算法在推薦領域取得了很好的效果，但它們大多只利用了基礎的輔助信息，并未充分利用節點間的交互信息，從而導致推薦性能難以滿足用戶期許。

因圖神經網絡（GNN）可以高效挖掘用戶與項目之間的交互來生成高質量的特征嵌入，已廣泛應用于推薦系統［12，13］、鏈接預測 ［14，15］和相似性搜索［16］等任務中。GNN使用給定圖的傅里葉變換在譜域中執行卷積［17，18］，或者通過將節點特征傳遞給鄰居來直接在圖上執行卷積［19，20］。目前GNN主要面向于僅有一種類型的節點和邊的同構圖。然而實際問題抽象后的圖通常具有多種類型的節點和邊，此種圖被稱為異質信息網絡（HIN）［21］。

如何有效地從HIN中提取信息并用于推薦是基于HIN的推薦的關鍵問題。基于元圖的方法［22］是通過計算HIN的元圖（也稱為元結構）上的節點相似度進行推薦。基于元路徑的方法［23，24］則是從HIN的路徑中提取輔助特征進行推薦。元路徑是一種連接HIN中節點對的關系序列，可以充分提取結構特征來捕獲相關語義信息來進行推薦。例如，在電影推薦場景中，“user-movie-user-movie”的元路徑表示將有共同觀影記錄的某個用戶喜歡的電影推薦給該用戶。現有基于元路徑的推薦方法主要有：利用HIN上基于路徑的語義相關性作為用于推薦直接特征［25，26］，對基于路徑的相似性執行一些變換。例如，對基于路徑的相似性矩陣進行分解以學習有效的變換特征，用于學習推薦系統中的用戶與項目嵌入［26，27］。Hu等人［13］提出了基于元路徑的上下文的協同注意力推薦模型 MCRec。但MCRec只通過元路徑學習了間接交互的信息，并沒有充分利用節點之間的直接交互信息。

近年來結合深度學習的推薦算法越來越多。劉志鑫等人［28］提出了MMGRec模型通過圖注意力網絡學習節點的嵌入特征進行推薦；劉浩翰等人［29］提出通過循環神經網絡學習用戶長短期興趣關聯進行推薦；楊丹陽等人［30］提出基于深度學習和淺因子模型的NN_LF模型，融合卷積神經網絡學習序列特征以及淺因子模型學習用戶特定特征進行推薦。但現有基于HIN中的推薦系統存在以下問題：如何利用低階信息獲取用戶與項目之間的語義級交互特征；如何融合直接信息與間接信息來增強推薦系統的性能；如何更好地從元路徑中提取信息用于輔助推薦。

為解決上述問題，本文提出了基于注意力機制和異質信息網絡元路徑的推薦模型（AMMRec），主要貢獻如下：

a）提出了融合注意力機制和異質信息網絡元路徑的推薦模型，通過注意力神經網絡融合直接與間接信息，增強用戶和項目等節點特征向量的表示能力，從而提升模型的推薦性能。

b）基于注意力機制修正的用戶與項目的特征向量，設計注意力神經網絡，將不同元路徑的表示向量進行融合，進而進一步融合用戶、元路徑和項目的特征向量，共同拼接構成三元交互模型，從而使模型具有更好的可解釋性。

c）使用MovieLens和Last_FM兩個實際的數據集與對比模型進行了大量的實驗，結果表明AMMRec模型的精確度有大幅提升。

1 相關定義和問題描述

本章首先介紹一些異質信息網絡的相關定義，然后給出針對異質信息網絡元路徑的推薦問題的形式化描述。

定義1 異質信息網絡［21］。給定一個有向網絡圖G=（V，E），V是所有實體節點的集合，E是所有關系邊的集合，且存在節點類型的映射函數φ：V→A和邊類型的映射函數ψ：E→R，對于每個節點v∈V屬于一種對象類型φ（v）∈A，每條邊e∈E屬于一種關系類型ψ（e）∈R，那么這種網絡類型就是信息網絡。當對象類型的種類|A|gt;1或者關系類型的種類|R|gt;1時稱為異質信息網絡。圖1給出了一個基于HIN的音樂推薦實例，可以看出，HIN包含了多種類型的實體，實體之間由不同類型的關系連接。

定義2 元路徑［21］。一個元路徑P被定義為A1→R1A2→R2…→RlAl+1，簡寫為A1A2…Al+1，其中Ai∈A，Rj∈R。它描述了對象A1和Al+1之間的復合關系R1R2…RL。元路徑P下存在多個特定的路徑，稱為路徑實例，由p表示。

定義3 基于元路徑的上下文［4］。給定兩個節點，基于元路徑的上下文定義為：HIN上兩個節點間的元路徑下路徑實例的集合。例如，在Last_FM數據集中，用戶u1和藝術家a9可以經由多個元路徑連接，構成交互〈u1、a9〉的上下文的元路徑，例如：u1-a54-t127-a9（UATA）和u1-a54-u998-a9（UAUA）。不同的元路徑可以傳達不同的交互語義，例如，元路徑UATA下的路徑實例u1-a54-t127-a9表達用戶u1喜歡與藝術家a54標簽相同的藝術家a9，而元路徑UAUA下的路徑實例u1-a54-u998-a9表示和用戶u1有相同愛好的用戶u998還喜歡藝術家a9，這些基于元路徑的上下文通過聚合不同的元路徑來揭示不同的交互語義信息。

現有基于HIN的推薦工作大多集中在評分預測任務上，即通過用戶對現有項目的評分來預測對新項目的絕對偏好分數［27］。而在實踐中不直接表現用戶喜好的隱式反饋更容易獲得，因此top-n推薦任務更為常見。

問題描述：基于異質信息網絡的top-n推薦：給定一個異質信息網絡G=（V，E）和用戶隱式反饋矩陣R，對于每個用戶u∈V，推薦一個其可能感興趣的項目排序列表。

2 基于注意力機制和異質信息網絡元路徑的推薦模型

AMMRec流程如下：運用異質信息網絡的表示學習方法獲得對應節點（user， artist）的特征向量嵌入，使用隱式反饋矩陣構造用戶相似度矩陣和項目相似度矩陣，使用查找層（look up layer）獲得對應節點（xu，ya）及鄰居節點（xu-knn， ya-knn）的嵌入；通過卷積神經網絡的卷積層（CNN）和池化層（pooling）分別對鄰居節點以及元路徑（UATA和UUA）下路徑實例的嵌入進行信息聚合，通過歸一化函數（softmax）將聚合后的鄰居節點的特征向量歸一化后對節點的原始嵌入進行修正；運用路徑注意力機制（path-attention）融合多種元路徑下的路徑實例的嵌入（m1，m2），并使用聚合后的元路徑（cu→a）通過用戶注意力機制（user-attention）和項目注意力機制（artist-attention）分別對節點嵌入（u，a）進行修正；拼接（concatenate）用戶嵌入（u）、元路徑嵌入（cu→a）和項目嵌入（a）并輸入全連接神經網絡（MLP）中生成推薦結果（ru，a）。整體框架如圖2所示。

2.1 節點與路徑實例的嵌入

傳統的表示用戶和項目的方法主要是利用矩陣分解［31］技術來獲取用戶和項目在HIN中的表示。受文獻［32］ 的啟發，本文模型使用HIN2Vec學習異質圖中每個節點的特征嵌入，xu和yi是學習到的用戶u和項目i的特征向量嵌入。

獲得節點嵌入之后需要研究如何基于元路徑獲得高質量的路徑實例，進而學習基于元路徑上下文的有效表示。現有HIN的嵌入模型主要是基于元路徑引導的隨機游走策略來生成路徑實例，以相同的轉移概率在節點上進行游走。然而這種簡單的隨機游走策略生成的路徑實例通常質量較低，因此，本文通過定義不同節點間的相似度來調整節點隨機游走的概率。即在每一步，節點都應該以更大的概率游走到與當前節點相似度更高的節點上去。

本文通過如下方法來定義相似度，其基本思想是利用HIN2Vec的嵌入方式，在未給定元路徑的情況下，對所有的有交互記錄的節點學習特征向量，然后計算節點之間向量的余弦相似度來確定節點游走的優先級分數。這樣的優先級分數表示了節點間的關聯程度，通過計算給定元路徑下每個路徑實例的節點對間的相似度的平均值進行排序，從而獲得每個元路徑下不同的用戶和項目對之間相似度最高的k個路徑實例。

每個路徑實例本質上是一系列實體節點，本文通過卷積神經網絡將這些路徑實例嵌入為低維特征向量。對一個路徑實例v1m-v2m-…-vnm，這一過程的描述如下：

vm=CNN（［v1m，v2m，…，vnm］T，θ）（1）

CNN表示卷積神經網絡模型，輸入的參數［v1m，v2m，…，vnm］T表示表示一個由向量v1m到vnm組成的矩陣，θ表示CNN的參數，向量vim∈Euclid ExtraaBpd×1（1≤i≤n）為路徑實例中每個節點的d維嵌入。

每個元路徑至多有k個路徑實例，因此本文通過池化操作來生成元路徑的嵌入，設元路徑P下獲得的路徑實例嵌入為v1，v2，…，vk，則元路徑的嵌入可以通過式（2）計算。

hp=mean_pooling（v1，v2，…，vk）（2）

式（2）通過對k個路徑實例進行平均池化操作，來獲得元路徑的特征向量嵌入。

2.2 基于注意力機制獲得元路徑的嵌入

利用上述公式獲得單一的元路徑嵌入后，傳統的聚合方法是給不同的元路徑相同的權重后進行求和，即簡單的平均池化：

cu→i=1|P|∑pv∈Phpv（3）

其中：cu→i是用戶u和項目i之間的元路徑的嵌入；hpv是單個元路徑的嵌入；P是考慮的元路徑的集合；|P|為元路徑的數量。在這種聚合方法中，每個元路徑的權重都相同。但在實際的推薦場景，不同用戶對不同元路徑的偏好不同，所以不同的元路徑在每個用戶的推薦場景中的貢獻度也不同，所以對元路徑的權重分配不該是簡單的平均求和。受注意力機制在自然語言處理方面的最新進展的啟發［33］，本文通過一種融合的注意力機制來實現這一目標。由于不同的元路徑在同一組用戶和項目之間有不同的語義，且不同的用戶之間對元路徑的偏好也不同，所以本文對每組用戶和項目都學習不同的元路徑的權重，給定用戶的嵌入向量xu，項目的嵌入向量yi，則對于用戶u和項目i之間的第k條元路徑的嵌入權重的計算公式為

α（1）u，i，k=σ（W（1）uxu+W（1）pkhpk+W（1）iyi+b（1））（4）

α（2）u，i，k=σ（W（2）α（1）u，i，k+b（2））（5）

其中：W（1）u、W（1）pk和W（1）i為第一層的權重矩陣；b（1）為第一層的偏置向量；W（2）和b（2）分別為第二層的權重矩陣和偏置向量；σ為激活函數，本文采用LeakyReLU函數。之后通過softmax函數對求得的權重進行歸一化，得到每個的元路徑的注意力分數。

αu，i，k=exp（α（2）u，i，k）∑p∈Pexp（α（2）u，i，p）（6）

元路徑的注意力分數即為該元路徑對推薦模型的重要程度，獲得不同元路徑的注意力分數后，就可以得到用戶和項目之間聚合的元路徑的嵌入。

cu→i=∑k∈Pαu，i，k·hk（7）

其中：hk是式（2）獲得的單個元路徑的嵌入；αu，i，k為其對應的注意力分數。

2.3 基于注意力機制修正用戶和項目的嵌入

在實際的推薦問題中，每個用戶都會受到家人、朋友或同事的喜好影響，因此對某個特定用戶的推薦也會受到和其偏好相近的用戶的影響。每個項目的特征也應該和與這個項目相似度高的項目存在某些關聯，所以本文通過尋找與用戶最相近的L個用戶，通過這些用戶的特征修正用戶的原始特征嵌入，同樣，對每個項目用與其最相近的L個項目來修正。用戶uk最相近的L個用戶表示為uk1，uk2，…，ukL，項目ij最相近的L個項目表示為ij1，ij2，…，ijL，具體操作如下：

αup=CNN（［uk1，uk2，…，ukL］T，θ）（8）

βiq=CNN（［ij1，ij2，…，ijL］T，θ）（9）

以式（8）為例，其中，CNN表示卷積神經網絡，輸入參數為［uk1，uk2，…，ukL］T表示一個由向量uk1，uk2，…，ukL組成的矩陣的轉置，ukl∈Euclid ExtraaBpd×1，d為特征向量的嵌入維度，θ為卷積神經網絡的參數。本文采用兩層卷積層和一層池化層來聚合鄰居特征，CNN的輸出為含有用戶特征信息的d維向量αup=［αup1，αup2，…，αupd］T。將輸出通過softmax函數進行歸一化修正。

upj=exp（αupj）∑m∈dexp（αupm）（10）

iqk=exp（αiqk）∑m∈dexp（αiqm）（11）

然后，用式（10）（11）得到的用戶和項目的修正向量up=［up1，up2，…，upd］T和iq=［iq1，iq2，…，iqd］T來修正用戶和項目的原始嵌入。

u=u⊙xu（12）

i=i⊙yi（13）

除了用戶的個人偏好和項目的相似關系，連接用戶和項目的元路徑也會影響它們的嵌入表示，給定用戶和項目之間的元路徑cu→i，通過單層神經網絡來計算注意力向量 βu和 βi。

βu=σ（Wuu+W（1）u→icu→i+bu）（14）

βi=σ（Wii+W（2）u→icu→i+bi）（15）

其中：Wu、Wi、W（1）u→i、W（2）u→i為神經網絡的權重矩陣；bu和bi為偏置向量；σ為LeakyReLU激活函數，最后通過注意力向量 βu和βi來計算用戶和項目的最終嵌入。

xu=u⊙βu（16）

yi=i⊙βi（17）

2.4 基于注意力機制和HIN元路徑的預測

至此，本文獲得了修正后的用戶u的嵌入xu、項目i的嵌入 yi和〈u，i〉之間元路徑的嵌入cu→i，將上述三個向量拼接，并輸入全連接神經網絡中生成預測結果。

ru→i=MLP（xu⊕cu→i⊕yi）（18）

傳統的推薦任務中通常采用均方損失函數，但本文模型只能得到隱式的反饋，受文獻［33］啟發，本文的損失函數表示為

L=-log ru，i－Ej～Pneg［log（1－ru，j）］（19）

其中：第一項模擬觀察到的相互作用；第二項模擬從噪聲分布中得到的負反饋，在本文中負采樣分布pneg設置為均勻分布。

3 實驗設計與分析

3.1 實驗設計

3.1.1 數據集

本文采用MovieLens電影數據集（https：//grouplens.org/datasets/movielens）和Last_FM音樂數據集（https：//www.last.fm）兩個被廣泛使用的數據集。MovieLens數據集包含用戶、電影以及用戶對電影的評分；Last_FM數據集包含用戶、藝術家和用戶收聽藝術家歌曲的次數。數據集的詳細信息如表1所示。

3.1.2 評價指標

為了評估推薦模型的性能，本文將數據集中用戶和項目的交互記錄隨機分為訓練集和測試集，80%作為訓練集，20%作為測試集。由于在測試的時候對所有的用戶進行訓練是很耗時的，所以對測試集中的每個正樣本都隨機抽取50個與目標用戶沒有交互記錄的項目作為負樣本。然后，將包含正樣本和負樣本的列表進行排序。本實驗使用top-k精確率（Pre@k），top-k召回率（recall@k）和歸一化折損累積增益（NDGG@k）作為模型的評價指標。最終的結果為所有用戶結果的平均值。

3.1.3 對比方法

為了證明模型的有效性，本實驗考慮了兩類具有代表性的推薦方法。一類是只考慮隱式反饋的基于協同過濾的方法，如BPR和MF;另一類是基于異質信息網絡的方法，如MMGRec、UIDRec、HeteRS、FMGrank和MCRec。

對比方法介紹如下：a）BPR［34］是基于矩陣分解的排序算法，通過成對排序損失最小化來優化矩陣分解；b）MF［31］是標準的矩陣分解算法；c）MMGRec［28］是一種基于層次粒化和圖注意力機制的推薦算法；d）UIDRec［30］是一種基于LSTM和注意力機制建模用戶興趣漂移的推薦模型；e）HeteRS［35］是一種基于異質信息網絡的排名算法，它使用多變量馬爾可夫鏈來建模用戶喜好；f）FMGrank［27］是一種基于異質信息網絡的評級預測模型，采用成對排序損失最小化作為優化目標；g）MCRec［13］是采用協同注意力機制的推薦模型，通過用戶、項目和元路徑相互修正進行推薦排序。

3.1.4 參數設置

對兩個數據集選取的元路徑如表2所示，因過長的元路徑可能會引入噪聲信息［22］，本文對不同的用戶和項目選取的元路徑步長不超過4。路徑實例數至多為5，在本文模型中，采用正態分布隨機初始化模型參數，利用Adam優化器對模型進行優化，batch_size設置為256，epoch設置為30，用戶和項目的嵌入維度為64維，正負樣本采樣比例為1∶4，模型預測的MLP隱藏層數設置為3層，每層神經元的個數分別為［256，128，64］。

3.2 結果與參數分析

3.2.1 實驗結果

AMMRec模型與對比模型在兩個數據集上的實驗結果比較如表3所示，可以看出，本文模型在MovieLens和Last_FM數據集上的三個評價指標均明顯優于基線模型。結果表明，AMMRec模型可以有效提升推薦精度，因此得出以下結論：

基于注意力機制和異質信息網絡元路徑的推薦模型在精確率、召回率以及歸一化折損累積增益指標上較基線模型均有顯著提升，證明本文模型可以有效地融合多種異質信息來進行推薦；

與同樣使用元路徑提取異質信息來進行推薦的MCRec模型相比，AMMRec在上述數據集的評價指標均優于MCRec，這表明本文模型中融合的注意力神經網絡模型可以更有效地提取特征向量之間的潛在特征，能更充分地利用向量之間的交互關系，得到更精確的推薦結果。

3.2.2 參數分析

1）不同元路徑對模型的影響

為了分析不同元路徑對AMMRec的影響，現將不同元路徑逐個合并到模型中，通過對比評價指標的變化來驗證不同的元路徑對模型推薦結果的影響。結果如圖3所示，可以看出模型的推薦性能整體上隨著元路徑的加入而提高，同時不同的元路徑對模型的性能提升的比重也不同，這也和之前的發現相吻合，即少量的高質量的元路徑能對模型的性能作出較大提升［23］。因此，本文可以通過對元路徑的選擇來控制模型的復雜度，提升推薦的效率。

（a）精確率和召回率

（b）歸一化折損累積增益

圖3 逐個添加元路徑對實驗結果的影響

Fig. 3 Effect of gradually adding meta-paths on experimental results

2）不同元路徑的注意力權重

在AMMRec中，元路徑在用戶與項目的交互中發揮了重要作用，在不同的用戶和項目中，元路徑的權重也不同。本文以Last_FM數據集為例，從中任選一個用戶項目對〈u547，a8117〉，其交互中的元路徑注意力分布如圖4所示。

可以發現在這次交互中元路徑UATA發揮了重要的作用。通過查閱數據集可發現，a8117的標簽中包含了u547最喜歡的部分標簽，如tag192、tag193、tag247等。因此以標簽為導向的元路徑在這次交互中占據比重較大。本模型中不同的用戶和項目可以產生不同的元路徑注意力權重分布，使推薦結果具有良好的可解釋性。

3）負樣本個數和隱藏層層數對預測結果的影響

AMMRec模型包含了一些需要調整的重要參數，此處主要考察式（18）中的MLP中隱藏層的層數和式（19）的負采樣中負樣本的個數這兩個超參數對結果的影響。對負樣本個數，本文分別從1取到5，對于隱藏層層數，本文分別從1取到4，通過評價指標的變化來判斷這兩個超參數對預測結果的影響。

總體而言AMMRec對負樣本個數變化較為敏感，對隱藏層的層數變化不敏感。如圖5、6所示，在負樣本數量為4、隱藏層層數為3時，本文模型取得最好的結果。

4 結束語

本文提出了基于注意力機制和異質信息網絡元路徑的AMMRec推薦模型，充分地利用了異構信息網絡中的輔助信息進行推薦。AMMRec首先利用HIN2Vec模型獲得用戶與項目的原始嵌入；然后基于卷積神經網絡模型獲得元路徑的低維嵌入；之后通過融合的注意力機制將元路徑的嵌入和用戶、項目的嵌入相互修正；最后將用戶、元路徑和項目的嵌入拼接并輸入神經網絡完成推薦預測。在兩個實際數據集上與兩類主流算法進行對比實驗。實驗結果顯示，AMMRec的推薦精度最高提升了9.5%，證明了此模型的有效性。另外本文模型通過用戶和項目的嵌入來學習不同元路徑的權重使得其具有良好的可解釋性。

但AMMRec的元路徑是手動選取的，今后可以考慮如何找到一種有效的方法來自動完成元路徑的選取，或者進一步利用元圖等HIN中更復雜的結構模式來進行推薦。

參考文獻：

［1］Jacoby J. Perspectives on information overload［J］. Journal of Consumer Research，1984，10（4）： 432-435.

［2］Zhang Jing，Peng Qinke，Sun Shiquan，et al. Collaborative filtering recommendation algorithm based on user preference derived from item domain features［J］. Physica A： Statistical Mechanics and Its Applications，2014，396（2）： 66-76.

［3］Dong Jiali，Li Xiaoyong，Fang Binxing. A recommendation system based on multi-attribute［C］// Proc of the 9th International Conference on Service Science. Piscataway，NJ： IEEE Press，2016： 165-169.

［4］Hu Binbin，Shi Chuan，Zhao Xin，et al. Leveraging meta-path based context for top-n recommendation with a neural co-attention model［C］// Proc of the 24th ACM SIGKDD International Conference on Knowledge Discovery amp; Data Mining. New York： ACM Press，2018： 1531-1540.

［5］Sun Rui，Cao Xuezhi，Zhao Yan，et al. Multi-modal knowledge graphs for recommender systems［C］// Proc of the 29th ACM International Conference on Information amp; Knowledge Management. New York： ACM Press，2020： 1405-1414.

［6］Wang Hongwei，Zhang Fuzheng，Wang Jialin，et al. RippleNet： propagating user preferences on the knowledge graph for recommender systems［C］// Proc of the 27th ACM International Conference on Information and Knowledge Management.New York：ACM Press，2018：417-426.

［7］Rendle S. Factorization machines［C］// Proc of IEEE International Conference on Data Mining.Piscataway，NJ：IEEE Press，2010：995-1000.

［8］Cheng H T，Koc L，Harmsen J，et al. Wide amp; deep learning for recommender systems［C］// Proc of the 1st Workshop on Deep Learning for Recommender Systems. New York： ACM Press，2016： 7-10.

［9］Guo Huifeng，Tang Ruiming，Ye Yunming，et al. DeepFM： a factorization-machine based neural network for CTR prediction ［EB/OL］. （2017-03-13）. https：//arxiv. org/abs/1703. 04247.

［10］Zhang Weinan，Du Tianming，Wang Jun. Deep learning over multi-field categorical data［C］// Proc of European Conference on Information Retrieval. Berlin： Springer，2016： 45-57.

［11］Qu Yanru，Cai Han，Ren Kan，et al. Product-based neural networks for user response prediction［C］// Proc of the 16th International Conference on Data Mining. 2016： 1149-1154.

［12］Shi Chuan，Hu Binbin，Zhao Xin，et al. Heterogeneous information network embedding for recommendation［J］. IEEE Trans on Know-ledge and Data Engineering，2018，31（2）： 357-370.

［13］Hu Binbin，Shi Chuan，Zhao Xin，et al. Leveraging meta-path based context for top-n recommendation with a neural co-attention model［C］// Proc of the 24th ACM SIGKDD International Conference on Knowledge Discovery amp; Data Mining. New York： ACM Press，2018： 1531-1540.

［14］Peng Jiajie，Wang Yuxian，Guan Jiaojiao，et al. An end-to-end heterogeneous graph representation learning-based framework for drug-target interaction prediction［J/OL］. Brief Bioinform，2021. https：//doi.org/10.1093/bib/bbaa430.

［15］Mo Xiaoyu，Huang Zhiyu，Xing Yang，et al. Multi-agent trajectory prediction with heterogeneous edge-enhanced graph attention network ［J］. IEEE Trans on Intelligent Transportation Systems，2022，23（7）： 9554-9567.

［16］Shang Jingbo，Qu Meng，Liu Jialu，et al. Meta-path guided embedding for similarity search in large-scale heterogeneous information networks ［EB/OL］. （2016-10-31）. https：//arxiv. org/abs/1610. 09769.

［17］Bruna J，Zaremba W，Szlam A，et al. Spectral networks and locally connected networks on graphs［EB/OL］. （2013-12-21）. https：//arxiv. org/abs/1312. 6203.

［18］Kipf T N，Welling M. Semi-supervised classification with graph con-volutional networks［EB/OL］. （2016-09-09）. https：//arxiv. org/abs/1609. 02907.

［19］Velikovic＇ P，Cucurull G，Casanova A，et al. GAT-graph attention networks［EB/OL］.（2017-10-30）.https：//arxiv.org/abs/1710.10903.

［20］Hamilton W，Ying Z，Leskovec J. Inductive representation learning on large graphs ［EB/OL］. （2017-07-22）. https：//arxiv.org/abs/1706.02216.

［21］石川，王睿嘉，王嘯. 異質信息網絡分析與應用綜述［J］. 軟件學報，2022，33（2）： 598-621. （Shi Chuan，Wang Ruijia，Wang Xiao. Survey on heterogeneous information networks analysis and applications［J］. Journal of Software，2022，33（2）： 598-621.）

［22］Shi Chuan，Zhang Zhiqiang，Ji Yugang，et al. SemRec： a personalized semantic recommendation method based on weighted heterogeneous information networks［J］. World Wide Web-Internet amp; Web Information Systems，2019，22（1）： 153-184.

［23］Chen Hongxu，Li Yicong，Sun Xiangguo，et al. Temporal meta-path guided explainable recommendation［C］// Proc of the 14th ACM International Conference on Web Search and Data Mining. New York： ACM Press，2021： 1056-1064.

［24］Liang Xingxing，Ma Yang，Cheng Guangquan，et al. Meta-path-based heterogeneous graph neural networks in academic network［J］. International Journal of Machine Learning and Cybernetics，2022，13（6）： 1553-1569.

［25］Feng Wei，Wang Jianyong. Incorporating heterogeneous information for personalized tag recommendation in social tagging systems［C］// Proc of the 18th ACM SIGKDD International Conference on Knowledge Disco-very and Data Mining. New York： ACM Press，2012： 1276-1284.

［26］Yu Xiao，Ren Xiang，Sun Yizhou，et al. Personalized entity recommendation： a heterogeneous information network approach［C］// Proc of the 7th ACM International Conference on Web Search and Data Mining. New York： ACM Press，2014： 283-292.

［27］Zhao Huan，Yao Quanming，Li Jiada，et al. Meta-graph based recommendation fusion over heterogeneous information networks ［C］// Proc of the 23rd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York： ACM Press，2017： 635-644.

［28］劉志鑫，張澤華，張杰. 基于多層次多視角的圖注意top-n推薦方法 ［J］. 計算機科學，2021，48（4）： 104-110. （Liu Zhixin，Zhang Zehua，Zhang Jie. Top-n recommendation method for graph attention based on multi-level and multi-view ［J］. Computer Science，2021，48（4）： 104-110.）

［29］劉浩翰，馬曉璐，賀懷清. 融合用戶興趣漂移的top-n推薦算法 ［J］. 中國民航大學學報，2021，39（3）： 56-61. （Liu Haohan，Mao Xiaolu，He Huaiqing. Top-n recommendation algorithm based on user’s interest drift［J］. Journal of Civil Aviation University of China，2021，39（3）： 56-61.）

［30］楊丹陽，孫英娟，李婉樺，等. 基于深度學習的top-n順序推薦［J］. 長春師范大學學報，2021，40（8）： 32-36. （Yang Danyang，Sun Yingjuan，Li Wanhua，et al. Top-n sequential recommendation based on deep learning［J］. Journal of Changchun Normal University，2021，40（8）： 32-36.）

［31］Koren Y，Bell R，Volinsky C. Matrix factorization techniques for recommender systems［J］. Computer，2009，42（8）： 30-37.

［32］Fu Taoyang，Lee W C，Lei Zhen. HIN2Vec： explore meta-paths in heterogeneous information networks for representation learning［C］// Proc of ACM on Conference on Information and Knowledge Management. New York： ACM Press，2017： 1797-1806.

［33］He Xiangnan，Liao Lizi，Zhang Hanwang，et al. Neural collaborative filtering［C］// Proc of the 26th International Conference on World Wide Web. New York： ACM Press，2017： 173-182.

［34］Rendle S，Freudenthaler C，Gantner Z，et al. BPR： Bayesian perso-nalized ranking from implicit feedback［EB/OL］. （2012-05-09）. https：//arxiv. org/abs/1205. 2618.

［35］Pham T，Li Xutao，Gao Cong，et al. A general recommendation model for heterogeneous networks［J］. IEEE Trans on Knowledge and Data Engineering，2016，28（12）： 3140-3153.

［36］Mnih V，Heess N，Graves A. Recurrent models of visual attention［C］// Proc of the 27th International Conference on Neural Information Processing Systems. New York： ACM Press，2014： 2204-2212.