電子商務中基于潛在類回歸模型的農產品個性化推薦方案

彭潔+徐劍暉+陳超

摘要：針對現有電子商務中農產品個性化推薦方案精度較低的問題，提出一種基于潛在類回歸模型（latent-class regression model，簡稱LCRM）和組群偏好的個性化推薦方案。首先，收集農產品的評價信息，進行預處理，提取出每個評價者的特征-意見值對。然后，利用LCRM根據整體與特征評價，將具有相同愛好的評價者進行分組，構建組群偏好，并計算單個評價者的偏好。最后，通過計算用戶與組群偏好的相似度來定位組群，通過計算用戶與該組群中評價者偏好的相似度來定位農產品，最終列出推薦表。結果表明，該方案能夠準確為用戶推薦所需的農產品，推薦列表中農產品的命中率達到了83%，同時具有較低的計算復雜度。

關鍵詞：電子商務；農產品個性化推薦；潛在類回歸模型；組群偏好

中圖分類號： TP391文獻標志碼： A文章編號：1002-1302（2017）12-0274-05

現今，利用網絡進行日常商業交易的互聯網用戶越來越多，許多公司利用網絡來銷售他們的商品和服務。由于冷藏運輸條件的改善，水果、蔬菜等農產品也開始融入到電子商務中[1]。在電子商務中，對于一個特定的商品，顧客面臨多個選擇，常處于困惑和迷失狀態。對于網站管理員而言，評估提供的商品和服務是否迎合用戶，為用戶提供感興趣的個性化商品推薦單至關重要[2]。

目前學者提出了多種電子商務推薦方案，例如Huang提出了一種基于知識決策支持的推薦方案，將推薦問題轉化成約束滿意問題，通過知識庫檢測商品和用戶偏好的匹配度，查找與用戶首選最接近的商品來生成推薦列表[3]。然而，這種方案僅依靠評價特征詞出現的頻率來定位商品，準確率較低。Krohn-Grimberghe等提出了一種基于評價特征分析的推薦方案，從眾多評價中提取特征，采用多關系矩陣分解（multi-relational matrix factorization，簡稱MRMF）來搭建用戶對商品和特定特征觀點之間相關性的模型，從而預測客戶所需商品的可能性[4]。然而，這種方案的局限性在于并沒有強調新用戶“不完全偏好”現象。Jain等提出了一種基于線性回歸模型（linear regression model，簡稱LRM）的推薦方案，利用評價者評論形成評價者偏好，根據用戶和該偏好的相似度來定位商品[5]。然而，該方案僅匹配用戶與單個評價者的偏好，沒有考慮其他用戶評價中的商品潛在信息，一定程度上影響了推薦精度。另外，現有的推薦方案主要是應用在電影、圖書、電子產品等商品，對農產品的個性化推薦研究較少。鄭云飛等設計了一種農產品協同過濾推薦系統[6]，但主要側重于軟件系統的構建，對推薦方案的描述較少，且效果不佳。將高效的個性化推薦技術應用到農產品推薦中，將會有助于農產品電子商務和農業地區經濟的發展，具有重要的意義[7-8]。

偏好模型基于多屬性效用理論（multi-attribute utility theory，簡稱MAUT）[9]，根據用戶偏好，利用匹配工具將所有商品進行排序從而給出推薦。然而，傳統偏好模型盡管可以基于交互式偏好技術來了解買家的需求，但所得出的偏好不完整且不準確。另外，現有基于偏好模型的推薦方案中，大多僅考慮根據單個評價者對商品的評價信息建立偏好，沒有充分挖掘商品評價中其他客戶有價值的評價信息，不能很好地為新用戶進行推薦。

為此，本研究針對農產品的個性化推薦應用，提出一種基于潛在類回歸模型（latent-class regression model，簡稱LCRM）的推薦方案[10]。利用LCRM根據整體與特征評價，將具有相同愛好的評價者進行分組，構建組群偏好，并計算單個評價者的偏好。通過計算用戶與組群偏好的相似度來定位組群，通過計算用戶與該組群中評價者偏好的相似度來定位農產品，最終給出推薦列表。結果表明，本研究方案能夠準確地為客戶推薦所需的農產品。

1方案架構

根據現有的偏好啟發式技術，可以推導出當前新買家對農產品特征的偏好，并基于多屬性效用理論進行模型化：prefu={（fi，wui）|1≤i≤n}。其中prefu表示用戶偏好；fi表示從所有評價中提取的第i個特征；wui表示特征fi對應的偏好權重，但是，由此推導出的偏好事實上并不完整[11]。因此，為了生成當前買家的精確推薦，其核心理念是：區分買家固有偏好與農產品評價者間的相似性。其中，亟待解決的問題有：（1）根據買家提供的評價信息來恢復評價者的多特征偏好；（2）建立當前買家和評價者間的偏好相關性；（3）預測買家的完整偏好，并作出推薦。

純粹地計算評價中特征的發生頻率并不能真實地體現評價者的偏好權重，因此，須要引入更先進的學習方法，用以綜合考慮評價者的整體評價和特征級意見。此外，單個評價者生成的信息是有限的，所以提出方法中須包含多個評價者，生成它們的偏好相似性，并構建組群的偏好。

本研究的基本思想是，根據所有評論信息（包括整體評價和特征觀點評價），首先將評論者分組創建無監督集群，目的是建立組群偏好來代表1個組群評論者的共同喜好。同時，使用組群級偏好調整評論者級偏好。在下一次迭代循環中，再使用評論者級偏好來改善組群結果。當2種類型的偏好都穩定不變的時候，迭代終止。然后通過計算機用戶與組群偏好和評價者級偏好的相似度來定位農產品。本研究推薦系統的工作流程主要由三大步驟構成，如圖1所示。

步驟1：對評價進行預處理，進行特征級意見挖掘，用以確定每個評價者的特征-意見值〈feature，opinion_value〉對。意見（opinion）表示評價者對特征的積極、中性或負面的評價。

步驟2：利用潛在類回歸模型生成評價者組群的偏好（組群級偏好），然后推斷出評價者的權重偏好（評價者級偏好）。該模型集成了4個評價元素：評價者對農產品的整體評價；評價中每個特征相關聯的意見；特征發生頻率（作為1種先驗知識進行建模）；評價者推薦的農產品。endprint

步驟3：根據步驟2輸出的評價者級偏好和組群級偏好，計算用戶偏好和組群偏好的相似度，再計算用戶偏好與組群中評價者偏好的相似度，最終定位相關農產品，并返回排名前N的農產品。同時通過評價任務測試當前買家的目標選擇（即買家打算購買的農產品）是否存在反饋農產品列表中。該步驟通過組群偏好機制，來解決僅依靠單個評價者偏好所產生的不穩定性。文中相關符號及說明如表1所示。

2預處理：提取特征-意見值對

在推導評價者權重偏好前，須先對原始評價文本進行預處理， 轉化生成特征-意見值〈feature，opinion_value〉對。本表1涉及的符號及說明

符號含義REV={rev1，…，revM}表示M個評價者的集合P={p1，…，p|P|}P個農產品的集合SREV×P評價者-農產品對的集合，其中（revi，pj）∈S表示一個評價者revi對農產品pj發表的評價F={f1，…，fn}表示從所有評價中提取的不相同特征rijrij表示評價者revi給農產品pj的評價Rij評價者revi給農產品pj的整體評價等級Xij=[xij1，…，xijn]在評價rij中關于特征F的觀點值Wrevi=[wi1，…，win]評價者revi的權重偏好，其中wi1是特征fi∈F的權重，若評價者對該特征沒有評價，則權重為0c=[c1，…，ck]評價者的k個組群Wck=[wck1，…，wckn]組群ck的偏好，其中wck1是特征fi∈F的組群權重偏好z=[z1，…，zM]具有M個評價者的組群，zi=k時表示評價者revi屬于組群ck

研究實施2個步驟來生成特征-意見值對：

步驟1：從評價中提取特征并對同義詞特征進行分組。本研究中使用Core-NLP包的詞性標記（part-of-speech，簡稱POS）來提取常見的名詞和名詞短語，用以識別潛在的候選特征。此外，評價者常常用不同的詞表示相同的農產品特征，為此，本研究定義了種子詞集合，利用WordNet工具[12]，通過計算詞匯與種子詞的相似度來對同義特征進行分組。這種處理有助于識別可靠的特征表述，并有效地對詞匯進行分組。

步驟2：量化意見值。本研究評估每個意見詞的情緒強度（也叫做極性值），為此，研究中對每個意見詞s提供3種極性值：積極性、消極性、客觀性，分別記為Pos（s）、Neg（s）和Obj（s），范圍從0.0到1.0，并滿足Pos（s）+Neg（s）+Obj（s）=1。然后，將3種分值綜合為單一的情感評分：Os=Neg（s）×Rmin+Pos（s）×Rmax+Obj（s）×Rmin+Rmax2。其中，Rmin和Rmax分別表示最小和最大規模。設置Rmin=1、Rmax=5；Os范圍為從1到5。

3基于潛在類回歸模型的計算偏好

通常，一些暢銷農產品有多個評價，因此，單一評價者提供的信息是非常有限的。在基于傳統回歸模型的方法中，稀疏現象可能會導致過度擬合問題，因為評價者權重偏好的絕對偏差完全取決于自身評價。此外，根據傳統回歸模型推導的權重偏好值的范圍處于多元高斯分布均值μ附近，由于輸出結果受到均值μ的約束，所以不能充分反映評價者的真實偏好。為此，本研究利用潛在類回歸模型，通過固有偏好與其他評價者之間相似性的比較，來準確地估計評價者的權重偏好。

3.1LCRM簡述

LCRM起源于市場營銷領域，用于市場細分工作，致力于尋找潛在客戶。根據他們的偏好，劃分為相對較小的同質組群。具體來說，LCRM方法假設整個族群可以通過有限數量的劃分進行定義（每個劃分代表了市場分割中的1個消費者組群），所以LCRM的首要目標是按組群級來評估每個劃分的回歸模型[13]。因此，LCRM可以根據單一實體的回歸值相關知識（例如：來自單個消費者），利用整個族群結構生成組群。當實體具有最高的隸屬概率時，將其分配給唯一的組群。

本研究利用LCRM同時獲得所有評價者的偏好和組群級偏好，不僅要考慮評價者的自身信息，還將其與其他評價者間相似的固有偏好進行合并，解決僅依靠單一評價者信息帶來的不準確性問題。

3.2計算組群級和評價者級偏好

根據LCRM模型，首先假設將所有的評價者劃分為k個組群C={c1，c2，…，ck}。整體評級Rij的似然概率函數定義如下：

Pro（Rij|Xij，F）=∑kk=1πkPro（Rij|Xij，ck）。（1）

其中：F表示所有參數集；πk表示組群ck的先驗概率；Xij是與評價者revi的F特征相關聯的意見值向量。在公式（1）中，Pro（Rij|Xij，ck）給出了整體評價Rij的條件概率，其中revi屬于組群ck：

Pro（Rij|Xij，ck）=Pro（Rij|Xij，Wrevi）·Pro（Wrevi|ck）。（2）

式中：Wrevi表示評價者revi的權重偏好；Pro（Rij|Xij，Wrevi）給出了Wrevi的似然度和特征意見向量Xij。這里，可以從組群級偏好分布中推導得到評價者級偏好。該偏好可能是一種均值為Wck（組群級偏好）、協方差為∑k的多元高斯分布：

Pro（Wrevi|ck）=Pro（Wrevi|Wck，∑k）～N（Wrevi|Wck，∑k）。（3）

此外，組群級偏好分布N（Wrevi|Wck，∑k）具有不確定性，基于KL散度模擬如下：

Pro（Wck，∑k）=exp{-ψ·KL[N（Wck，∑k）|N（μ0，I）]}。（4）

其中，μ0表示評價中特征發生頻率的集合。

由于整體評價Rij已知，因此，可以估計評價者屬于某一組群的概率。

qk（revi）=∏（revi，pj）∈S πjk·Pro（Rij|Xij，ck）∑ch∈Cπjh·Pro（Rij|Xij，ch）。（5）endprint

此外，可以合理假設，推薦相同農產品的評價者中，誰的偏好相關性更高，因此，推薦農產品pj的分布πj={-πj1，…，πjk}可作為模擬的先驗概率，其中revi屬于確定的組群。所有觀察S（收集的評價者-農產品對）的完全混合對數似然度定義如下：

L（Φ|S）=∑（revi，pj）∈Slog （∑kk=1πk·Pro（Rij|Xij，ck））。（6）

進一步推導公式（7）、（9），分別用于推導組群級偏好和評價級偏好：

W^ck=（Nk∑k-1+ψ·I）-1（∑k-1∑Mzi=kWrevi+ψ·I·μ0）。（7）

當

∑^k=1ψ∑Mzi=k（Wrevi-Wck）（Wrevi-Wck）T+（Nk-ψ2ψ）2I1/2-Nk-ψ2ψIT。（8）

W^revi=1N（revi）∑（revi，pj）∈S（XijXTijσ2+∑k-1）-1（Rij-WTreviXij）σ2+∑k-1Wck。（9）

上式中，N（revi）為評價者revi提出的評價數。

然后，通過期望-最大化（expectation maximization，簡稱EM）算法估計參數集：Φ={z1，…，zM，Wc1，…，Wck，∑1，…，∑k，Wrev1，…，WervM}，通過以下2步迭代過程確定最大對數似然度。

3.2.1期望步驟（E）根據個體評價者偏好Wrevi，更新評價者組群分配、組群級偏好分布和組群先驗概率。

（1）組群分配zi（如果評價者revi屬于組群revi，則zi=k），公式：

zi=arg maxkqk（revi）。（10）

式中，qk（revi）與公式（5）相關。只有當獲得最高概率時，評價者才分配給組群。

（2）對于每個組群，組群級偏好Wck用公式（7）進行更新。

（3）組群的先驗概率（即，πj={-πj1，…，πjk}）可視為多項分布，并通過拉普拉斯平滑更新：

πjk=∑（revi，pj）∈SIzi=k+λN（pj）+K×λ。（11）

式中，N（pj）表示農產品pj的評價數，平滑參數變化范圍λ∈[0，1]。

3.2.2最大化步驟（M）在該步驟中，旨在通過公式（9）更新評價者偏好Wrev1。

重復E和M步驟，直到方程（6）收斂。最終，將所有評價者劃分為k個不相交組群，并獲得每個組群生成的組群級偏好Wck和每個評價者的評價級偏好Wrevi。

4基于偏好相似度生成推薦

本研究通過2個步驟來精確生成當前買家推薦：（1）計算買家與評價者組群的相似度，將買家分類到最相關組群；（2）計算買家與該組群中評價者的相似度來定位農產品。買家和組群間的偏好相似度計算如下：

sim（Wu，Wck）=11+∑i=1n[wfi（u）-wfi（ck）]2。（12）

式中，Wu表示買家聲明的權重偏好；Wck表示組群ck的組群級偏好。

為買家選擇具有高相似度值的組群。在該組群中對應的評價者級偏好中，尋找與當前買家最相似的k個評價者。評價者和當前買家間的相似度計算公式：

sim（Wu，Wrevi）=11+∑wfi∈Wu[wfi（u）-wfi（revi）]2。（13）

式中，wfi（u）是基于特征的當前買家權重偏好fi；wfi（revi）是第i個評論者。

然后，由這k個評價者生成得到農產品池，計算得到農產品pj的預測評分，其匹配程度表明了買家的潛在興趣：

PredictionScore（u，pj）=∑revi∈ci⌒K^（revi，pj）∈Ssim（Wu，Wrevi）×Rij∑revi∈ci⌒K^（revi，pj）∈Ssim（Wu，Wrevi）。（14）

式中：ci表示最相關組群；K表示k最相近評價者集合；Rij為評價者對農產品的整體評價；sim（Wu，Wrevi）為買家u和評價者revi間的偏好相似度。將具有較高評分的前N個農產品生成推薦列表，并推薦給買家。

5試驗與分析

5.1試驗設置及數據集

試驗中從1個電子商務網站上獲取一些農產品（水果、蔬菜等）的網上銷售數據集。對于每個文本，對評價者的評價分配等級為1～5星。首先清理數據集：（1）移除少于4個特征的評價（包括那些太短或沒有意義的字符）[14]；（2）移除少于10個評價的農產品。清理過程確保每個評價都包含相當量的信息，每個農產品都有充分的評價用于分析[15]。該步驟之后，農產品數據集有122種農產品，一共18 251個評價。其中，每個評價者在農產品上只給出1條評價。數據集的詳細信息如表2所示。

5.2性能指標

使用命中率和平均倒數排名（mean reciprocal rank，簡稱MRR）作為試驗指標。

命中率（H@N）主要用于檢測所選擇目標是否出現在N推薦集中 （試驗中，N設置為5、10、20）。 它返回用戶選擇命

5.3結果與分析

將2種現有商品推薦方案應用到農產品推薦中，并將本研究方案與這2種方案和僅利用評論者級偏好的本研究方案進行比較，4種方案分別為：（1）本研究方案（LCRM+評價者級偏好+組群級偏好）；（2）LCRM+評價者級偏好；（3）文獻[4]方案（MRMF）；（4）文獻[5]方案（LRM）。另外，試驗中設置推薦列表長度N為5、10、20等3種情況。

由圖2可以看出，基于LCRM的方案能夠獲得較優的性能，因為基于買家和評論者之間的相似關系建立特征偏好，同時也表明LCRM在推導單個評論者特征偏好時比傳統回歸模型更加精確。然而，文獻[5]中傳統LRM純粹依靠評論者自身提供的信息進行偏好提取，在稀疏評論的情況下，不可避免地存在偏見和過擬合現象，從而影響了推薦精度。endprint

另外，本研究方案比LCRM+評價者級偏好的方案的命中率更高，這是因為本研究方案不僅考慮了評價者級偏好，還考慮了組群級偏好。通過關聯志趣相投的評論者，能夠更精確地預測買家未聲明的偏好。

圖3描述了4種方案在MRR方面的比較結果。可以看出，本研究方案獲得了優越的性能。這表明，本研究方案不僅能夠提高推薦表中客戶所需農產品命中的數量，還能提高客戶真正所需農產品在列表中排名位置，使其能夠更好地呈現在客戶面前。4種方案的平均命中率分別為85.5%、79.20%、74.80%、57.00%，本研究方案比其他3種方案分別提高7.95%、14.30%、50.00%；4種方案的MRR分別為0076、0.068、0.062、0.034。

5.4時間復雜度分析

對于算法的時間復雜度，主要是計算偏好中參數估計所消耗的時間。其中，LCRM的期望-最大化（EM）算法中的E步驟耗費O（max（|S|，n）×k×n2）步操作，M步驟耗費 O（k×n3+|S|n2） 步操作，其中k表示組群數；n表示農產品特征數。假設LCRM經t次迭代后收斂，則LCRM的計算復雜度為O（t×max（|S|，n）×k×n2）。

相比之下，傳統回歸模型要計算協方差矩陣的行列式，花費O（n3）步操作，它的復雜度為O（t×M×n3），其中M為評價者數。由于M遠大于k，所以該復雜度要高于本研究LCRM方案。

6結束語

提出了一種基于潛在類回歸模型的農產品電子商務個性化推薦方案。利用LCRM將具有相同愛好的評價者進行分組，構建組群偏好。通過計算用戶與組群偏好的相似度來定位組群，計算用戶與該組群中評價者偏好的相似度來定位農產品，最終給出推薦列表。試驗結果表明，提出的方案所生成的推薦列表中農產品的命中率達到了83%，且能夠將客戶所需農產品排到列表前端。同時，相比于傳統回歸模型，本研究方案具有較低的計算復雜度。

提出的方案中，集群是不相交的，這意味著每個評論者只能隸屬于一個集群。在今后的工作中，將考慮允許存在相交集群，使每個評論者可分配給多個集群，以此進一步提高本研究方案的適用范圍。

參考文獻：

[1]劉琦，苑金鳳，王倩，等. 農產品網購意愿研究綜述[J]. 江蘇農業科學，2014，42（4）：401-403.

[2]王偉，徐平平，王華君，等. 基于概率回歸模型和K-最近鄰的電子商務個性化推薦方案[J]. 湘潭大學自然科學學報，2016，38（1）：97-100.

[3]Huang S L. Designing utility-based recommender systems for e-commerce：evaluation of preference-elicitation methods[J]. Electronic Commerce Research and Applications，2011，10（4）：398-407.

[4]Krohn-Grimberghe A，Drumond L，Freudenthaler C，et al. Multi-relational matrix factorization using bayesian personalized ranking for social network data [C]. Proceedings of the fifth ACM International Conference on Web Search and Data Mining. Washington：Seattle，2012：173-182.

[5]Jain G，Mishra N，Sharma S. CRLRM：Category based recommendation using linear regression model[C]. Proceedings of the 2013 Third International Conference on Advances in Computing and Communications. India：Cochin，2013：29-31.

[6]鄭云飛，夏帥，譚武坤. 基于用戶的農產品協同過濾推薦系統的設計與實現[J]. 農業網絡信息，2014，10（9）：49-53.

[7]李冰潔，丁疆輝. 冀中南地區農村居民電子商務應用及其空間影響[J]. 江蘇農業科學，2016，44（4）：572-577.

[8]王爍. 云環境下個性化農業產銷信息匹配推薦系統的研究和實現[D]. 北京：中國農業科學院，2014：18-22.

[9]王崇，李一軍. B2C環境下基于多屬性效用理論的消費者行為模式[J]. 系統管理學報，2010，19（1）：62-67.

[10]Moors G. Ranking the ratings：a latent-class regression model to control for overall agreement in opinion research[J]. International Journal of Public Opinion Research，2010，22（1）：93-119.

[11]許棣華，王志堅，林巧民，等. 一種基于偏好的個性化標簽推薦系統[J]. 計算機應用研究，2011，28（7）：2573-2575.

[12]Gan M. Cousin：a network-based regression model for personalized recommendations[J]. Decision Support Systems，2015，26（8）：361-373.

[13]Thiene M，Galletto L，Scarpa R，et al. Determinants of WTP for prosecco wine：a latent class regression with attitudinal responses[J]. British Food Journal，2013，115（2）：279-299.

[14]Zhang Y. Analysis and comparative of e-commerce personalized recommendation[J]. Journal of Chemical and Pharmaceutical Research，2014，55（2）：6762-6765.

[15]Kuang G，Li Y. Using fuzzy association rules to design e-commerce personalized recommendation system[J]. Telkomnika Indonesian Journal of Electrical Engineering，2014，12（2）：321-332.李晨曦，吳克寧，劉霈珈，等. 土地利用變化及社會經濟驅動因素——以京津冀地區為例[J]. 江蘇農業科學，2017，45（12）：279-283.endprint