基于用戶畫像的個性化搜索推薦系統

丁海濤

（北京郵電大學經濟管理學院 北京市 100089）

社交網絡的普及讓網絡用戶在網絡上留下了豐富的用戶數據，對用戶數據的深度挖掘可以全面的表征用戶的畫像。推薦系統的實質就是依賴于用戶的歷史行為畫像實現用戶點對點的推薦過程。傳統的深度學習算法在推薦系統中的應用主要依賴于簡單神經網絡（如MLP），當涉及到比較復雜的附加信息（如圖像、文本等）通常會涉及到CNN、RNN 等一些更加復雜的特征提取網絡[1]。現行的推薦算法在傳統算法的基礎上進一步的提升和發展，并擁有較好的推薦效果。但是面向于海量數據的推薦過程時，傳統的推薦系統往往顯得耗時、又是甚至無能為力。其主要面臨的問題在于海量數據查找過程緩慢、推薦算法無法有效的與用戶歷史行為有效的結合等，降低了用戶體驗。基于此，本文力圖設計一種具有高效的圖像檢索并實現用戶定向推薦過程的個性化搜索推薦系統，用以解決現有的在電商用戶平臺上用戶搜索過程的有效性問題，提高用戶體驗，提升平臺價值。

1 設計思路

本文的設計主要包含兩個層面，一個是用戶層面，主要集中于用戶的畫像建立與輸入圖像的處理。文章介紹了通過現行的深度神經網絡（CNN 等）對用戶多維度的歷史行為信息進行分析并構建用戶畫像的方法，并將用戶輸入圖片轉化為高維嵌入向量；另一個是系統層面，首先通過倒排索引的方式構建海量數據的快速查詢過程得到用戶搜索的百級大小的候選數據集，然后利用貝葉斯網絡將用戶畫像與候選數據集中搜索結果融合進行排序實現推薦。文章最后通過實驗驗證了本方案的有效性。

2 用戶畫像模型的建立

用戶畫像的實質是指利用用戶的各種歷史行為信息，得到一個描述用戶的文本文件。一般來講，用戶畫像可以分為隱式和顯式兩種畫像模型。顯式的描述方法直接通過對用戶打標簽的方法形成一個用戶特有的標簽文檔，該標簽集合就是該用戶特有的畫像模型。隱式的用戶畫像模型通過將機器學習方法提取用戶的歷史文本、圖像信息，得到一組沒有明確含義的關于用戶的向量集合。后者表示的用戶畫像模型更加精確，因此對其研究應用也更多。

圖1：倒排索引的基本原理

用戶的歷史行為信息通常包含文本和圖像兩個類別，需要分開進行處理并提取特征。對于文本文件，利用TF-IDF 方法提取文本的關鍵詞，并且結合Word2Vec 方法對關鍵詞進行編碼，實現評論文本數據的關鍵詞向量嵌入，提高模型泛化性能，有助于用戶畫像文本多興趣特征描述的準確性和完整性；對于圖像數據，則需要利用到現有的圖像特征提取網絡結構，其中最常用的是VGG16、VGG19 網絡以及殘差網絡（ResNet）等。該網絡是深度學習的一大經典網絡，采取端到端的多層方式提取低、中、高層特征或實現分類功能，可以實現豐富的圖像特征提取功能，通過去掉網絡最后一層的全連接層結構用以直接表征圖像特征。將用戶文本特征與圖像特征拼接融合，形成高向量后利用聚類的方式實現用戶興趣畫像的向量嵌入過程。此外，在現有的一些研究中也提出了一些成熟的用戶畫像的方法，如谷歌團隊[2]提出了一種應用于Google Play 推薦的“wide and deep”交差融合模型，以及阿里[3]的算法團隊提出了一種“Tree-based Deep Model”的用戶的興趣樹模型等,均可以運用到本工作的后續的推薦系統中。

3 乘積量化的倒排索引候選集生成辦法

用戶海量數據的快速檢索的方法主要包含三個方面：通過樹的快速檢索、通過哈希表檢索以及通過乘積量化的方法實現檢索。本文主要依賴于乘積量化（product quantization，PQ）的方法實現候選集數據的快速查找過程。

PQ 算法主要包含訓練過程和查找過程。對于數據訓練過程，在原數據空間中訓練向量為N*M，即數據向量為N，每個樣本的維度為M 維。將N*M 的數據空間在列方向上劃分為[M/T]個子空間并在每一個子空間使用K-means 量化器對子空間進行向量量化，每一個子空間都可以獲得一個碼本Ci,i=1,2,…,[M/T]。而后輸入樣本數據的查找過程就轉化為了輸入樣本與碼本空間的向量之間的對比，極大的減小了數據對比數量。

表1：推薦系統結果分布

倒排索引是相對與傳統的索引方法提出的一種加快搜索速度的方法。傳統的索引方法往往是通過ID 等標識信息找到適合的單元，然后根據單元確定單元的屬性。在實際的對比過程中，我們更傾向于對比更加有可能的數據而直接過濾掉可能性極小的碼本，進一步的實現加速。具體的，在PQ 算法的訓練之前，先對N 個訓練樣本進行一次k=1024 的聚類過程，形成1024 個類中心然后將每個源空間中的數據向量減去其對應的最短距離的聚類中心，形成N*M 大小的殘差向量空間。當輸入數據來臨時，首先確定輸入數據與聚類中心的殘差索引，就實現了有效數據的劃分，然后再進一步通過前述的PQ 算法計算距離索引即可。圖1展示了倒排索引的基本原理。

4 用戶畫像引導下的貝葉斯排序

從形式上講，基于查詢圖像probe 的高維特征fp和多標簽表述的用戶畫像di={vi,ti}，其目的是在百級候選集Ch中，搜索與查詢商品相似度最高的商品c，因此對目標商品的偏好的可以定義為：

Pr (Pp=Pc|fp,fc,vi,ti)

其中，Pp與Pc分別代表目標商品與候選商品對應的商品ID，fp與fc分別代表二者的圖像高維特征，上式表示在圖像特征和用戶畫像的條件下，目標商品與候選商品ID 是否一致的概率。基于貝葉斯公式，可得到：

由于商品相似但是有可能并不符合用戶偏好，因此提出用戶畫像與圖像分布的獨立性假設，且根據條件概率公式進而得到

式中Pr (Pp=Pc|fp,fc)可理解為兩個商品基于視覺相似度為同一ID的概率，而Pr (vi,ti|Pp=Pc)可解釋為當商品一致時用戶偏好的概率，由于用戶目的為搜索與查詢商品ID 一致的物品，因此該項概率值為1。再次利用獨立性假設，公式可寫為：

通過上式將用戶畫像、圖像特征融合形成推薦概率進行排序即可得到推薦列表。

5 實驗與結論

本文用于用戶搜索的數據集為香港中文大學開放的大規模服飾數據集deep fashion，進行離線的用戶推薦過程仿真和驗證。

對于被推薦的商品存在以下四種情況，如表1所示。

定義推薦準確率表示推薦系統推薦的商品中用戶滿意的商品的比例（P（L）），定義召回率為用戶滿意的商品恰好被系統推薦的比例（R（L）），為能全面考量兩者并對算法準確評估，可以采用F1指標。

前述的實驗結果表明，本文的推薦系統可以在快速的實現在海量數據中的候選數據集的生成過程，且整體的推薦系統的評價上，以基礎的推薦準確率為主要參考指標進行線下的實驗時，推薦系統表現出良好的推薦效果。