999精品在线视频,手机成人午夜在线视频,久久不卡国产精品无码,中日无码在线观看,成人av手机在线观看,日韩精品亚洲一区中文字幕,亚洲av无码人妻,四虎国产在线观看 ?

隱馬爾可夫模型的異質網絡鏈接預測方法研究

2022-06-07 04:28:10錢榕許建婷張克君董宏宇邢方遠
通信學報 2022年5期
關鍵詞:精確度

錢榕,許建婷,張克君,董宏宇,邢方遠

(1.北京電子科技學院網絡空間安全系,北京 100070;2.西安電子科技大學計算機科學與技術學院,陜西 西安 710071)

0 引言

隨著網絡信息技術的迅速發展,人類社會進入復雜網絡時代,人們的生產和生活越來越依賴于以Internet、WWW、通信網絡、社會關系網絡、經濟網絡等為代表的復雜網絡系統的安全可靠和有效運行。異質網絡從拓撲結構上看擁有不同類型的頂點和不同類型的邊,更加貼近于客觀世界。因此人們對異質網絡進行研究具有現實意義和挑戰性。

鏈接預測是復雜網絡研究的一個重要方向,旨在根據已知的網絡結構和信息,發現和還原網絡中丟失的信息,或者預測節點之間未來可能存在的關系[1]。在現實生活中,鏈接預測已經有很多成功的應用,比如推薦系統,可以給新用戶推薦興趣相近的朋友,或給用戶推薦其可能感興趣的視頻;再如疫情傳播動力學中,可以還原一些丟失的傳播路徑。隨著異質網絡研究的深入,元路徑思想給異質網絡預測鏈接的研究提供了新的思路。基于元路徑的異質網絡鏈接預測能夠考慮不同節點類型及節點之間的關系,更好地提取網絡中不同的語義信息,從而大大提高網絡鏈接預測方法結果的精確度。近年來,更多的研究學者將元路徑融入異質網絡的研究中,如將元路徑權重融合到異質網絡的表征學習中[2],將元路徑與圖神經網絡結合[3]采樣異質鄰居節點,使用元路徑高效提取異質網絡的語義信息[4-5]等。因此,將元路徑與隱馬爾可夫模型(HMM,hidden Markov model)結合并應用于異質網絡的預測有著十分重要的理論意義與應用前景。

本文的主要研究工作如下。

1) 提出基于聚簇的一階隱馬爾可夫模型的鏈接預測方法,即C-HMM(1)。將HMM 應用于鏈接預測中,并將數據簇的方法應用于 HMM。對k-means 算法在確定初始聚簇中心時進行改進,得到基于距離均方差最小的方法,使簇中心同時滿足到其他簇中心之間的距離之和最大以及與其他所有的簇中心之間距離的均方差最小。

2) 提出基于聚簇的二階隱馬爾可夫模型的鏈接預測方法,即C-HMM(2),并分析了C-HMM(2)在鏈接預測上的有效性。C-HMM(2)在考慮模型當前狀態的基礎上,又合理地考慮了概率和模型歷史狀態之間的關聯性,提高了鏈接預測的準確率。

3) 提出基于最大熵(ME,maximum entropy)的C-HMM(2)的鏈接預測方法,即ME-HMM。通過最大熵模型,在鏈接預測中加入訓練數據的特征信息;同時通過C-HMM(2)考慮狀態轉移概率和觀測值輸出概率和模型歷史狀態之間的關聯性,進一步提高了鏈接預測的準確率。

4) 對本文提出的方法與已有的鏈接預測方法進行實驗對比分析。實驗結果表明,本文提出的方法優于已有的鏈接預測方法。

本文方法的研究框架如圖1所示,其中C-HMM(1)與C-HMM(2)統稱為C-HMM 方法。

圖1 本文方法的研究框架

1 相關工作

基于異質網絡中的鏈路預測問題引起了學者們的廣泛關注,目前基于元路徑的鏈接預測研究十分火熱。

1.1 異質網絡

異質網絡[6]是一個帶有對象類型映射函數? :ν→ Α和鏈接類型映射函數 ψ :ε → R 且的有向圖 G=(ν ,ε),其中ν 和ε 分別表示網絡的節點集合和鏈接的邊集合,Α 和R分別表示網絡中的節點類型集合和鏈接類型集合。本文選用的DBLP(digital bibliography &library project)數據集中選取了論文、作者、會議3 種類型節點,以及作者與論文之間的撰寫關系、論文與會議之間的發表關系等。

1.2 元路徑

元路徑[7]是在異質網絡模式上鏈接兩類節點的路徑。元路徑 P 定義為的形式,它表示節點A1和Al+1之間的復合關系其中,Ai為節點類型,Ri為關系類型,?為關系間的復合算子。在DBLP 數據集中,作者與作者合作撰寫論文關系的元路徑可以表示為作者( A)”,如果作者與論文、論文與作者之間沒有任何其他的鏈接關系,則該元路徑可以簡化為“APA”,語義信息為與指定作者合作的作者。圖2為異質網絡DBLP 的常見元路徑。

圖2 異質網絡DBLP 的常見元路徑

1.3 鏈路預測技術

鏈路預測技術是研究異質網絡中重要的研究方向之一。郭振宏等[8]提出對不同元路徑綜合網絡的拓撲特征獲得異質和同質數據,再通過邏輯回歸作為鏈路預測模型。韓忠明等[9]提出基于動態網絡表示的鏈接預測(DNRLP,dynamic network representation based link prediction)模型,基于連接強度的隨機游走算法模擬網絡的動態信息擴散,對新時刻下得到的節點表示通過度量相似度得到預測結果。劉大偉等[10]提出將局部共同鄰居集合根據全局最短路徑信息進行建模的鏈路預測算法。董鑫等[11]提出基于Boosting 的異質信息網絡鏈路預測方法,通過選擇樣本擇優的方式和增設閾值分別對Boosting 算法的訓練速度和防止過擬合方面進行改進,并通過集成學習的思想改進鏈路預測性能。趙妍等[12]提出挖掘有效元路徑來生成帶節點屬性的子圖,用子圖代表被預測鏈路,用圖核方法計算子圖相似性,再訓練支持向量機得到預測結果。孫誠等[13]提出基于共同鄰居(CN,common neighbor)、路徑和隨機游走的8種常用鏈路預測指標的線性組合作為度量指標,并找到較好的優化參數,提出相應的神經網絡模型。黃立威等[14]分析了異質信息網絡不同元路徑上不同類型節點和關系的不同語義,并通過不同元路徑上節點之間的連接概率進行鏈接預測。

本文選用易于擴展、可用于大型數據集且最常用的基于相似性指標的CN 方法[15-16]、能夠獲得大量節點之間的上下文信息的重啟隨機游走(RWR,restart in random walks)方法[17]、單一的HMM 方法[18],以及近些年學者提出的針對不同類型對象間來凝結關系而重構異質網絡的BRLinks 方法[19]、通過將異質網絡劃分多通道再對其進行圖卷積網絡學習網絡節點的向量表示的MDGCN(multichannel deep graph convolutional network)方法[20]、將異質網絡關系預測視為PU 學習問題的PURP(positive and unlabeled relationship link prediction)方法[21],在此只簡單介紹CN 和RWR 方法。

1) CN 方法

CN 是最常見的相似性指標之一。CN 指的是2 個節點之間的公共鄰居節點。公共鄰居節點數目越多,這2 個節點就越有可能產生鏈接。若節點x的鄰居節點集合是 Γ(x),那么節點x和節點y的相似性指標CN 為2) RWR 方法

RWR 是在隨機游走方法的基礎上改進得到的,其主要原理是從圖中的某一節點開始出發,隨機選擇該節點相鄰節點的一個或返回開始的節點。RWR方法有一個重啟概率α,而1 -α則表示移動到相鄰節點的概率,經過多次迭代達到穩定狀態之后結束。RWR 的定義式為

其中,rt=[ri,j]是 n× 1的得分向量,ri,j是節點j到節點i的相關度得分;et是 n× 1的初始向量,第i個元素為1,其他為0。

2 基于聚簇隱馬爾可夫的異質網絡鏈接預測

2.1 隱馬爾可夫模型

HMM 常用來描述一個含有隱含未知參數的馬爾可夫過程。在HMM 中,狀態是不直接可見的,可以通過觀測序列的隨機過程表現出來。HMM 可以用S、 O、π、A、 B 這5 個元素表示。其中,S為隱含狀態,O為可觀測狀態,π 為初始狀態概率矩陣,A為隱含狀態轉移概率矩陣,B為觀測狀態轉移概率矩陣。HMM(1)如圖3 所示。HMM 在研究中被廣泛應用,如用HMM 進行食品安全風險評估[22]、進行人臉特征標注與識別[23]等。

圖3 HMM(1)

2.2 基于C-HMM(1)的鏈接預測

1) 數據聚簇

由k-means 算法的基本思想[24]可知,選到合理節點作為初始簇中心的可能性比較小,算法的復雜性也相對增加,不一定能得到理想的聚簇結果。本文了解到有學者通過聚簇分析理論提出了層次和密度聚簇分析方法的航跡關聯算法[25],提高了目標數量多且相互位置較近時航跡關聯的準確性;以及為了改進空間聚簇算法的效率提出了距離代價函數的概念,利用距離代價最小準則,設計了一個新的k值優化算法[26],對空間聚簇算法k-means 算法和k-中心法進行改進等。因此本文也嘗試通過提高聚簇的性能,提出一種基于距離均方差最小的初始聚簇中心方法,思想如下。

一般用對象之間的距離表示相似度[27],首先根據數據集中節點的相似性矩陣(計算式如式(3)所示),得到具有最大距離的2 個節點,作為2 個聚簇的初始簇中心。

其中,d(i,j)表示節點i和節點j之間的距離,其計算式為

其中,pIij表示第I個節點從狀態si到狀態sj的轉移概率。2 個節點之間的相似性程度越高,其距離值d越小。其余聚簇中心的確定方式如下:假設需要聚簇的總個數為k,已經得到的初始簇中心的個數為n,那么第n+1個待確定的簇中心與其他已得到的簇中心的距離為

其中,di,n+1表示第n+1個簇中心與第i個簇中心之間的距離。同時,第n+1個待確定的簇中心節點需滿足該簇中心到其他所有簇中心之間的距離之和最大,且和其他所有簇中心之間距離的均方差最小,也就是

常用平方誤差作為準則函數,即

其中,Ci表示第i個聚簇,p表示Ci中的一個數據節點(p∈Ci),mi表示Ci的簇中心。

采用改進k-means 進行聚簇,聚簇算法如算法1 所示。

算法1聚簇算法

輸入n 個已標記的數據訓練集,聚簇數目k

輸出滿足函數收斂的k個聚簇

①用最大似然估計(MLE,maximum likelihood estimate)中的統計公式計算已標記的數據訓練集的狀態轉移概率,計算訓練集的初始狀態概率,訓練HMM;

② 用式(4)計算節點之間的距離,構造節點相似性矩陣;

③利用初始簇中心算法,初始化k個聚簇中心;

④ 將數據訓練集中的節點分配給與簇中心距離最近的簇;

⑤ 計算簇的平均值,更新各簇的簇中心;

⑥ 若準則函數(式(7))未收斂,或仍有節點需要進行重新分配,則重復執行步驟④;否則結束算法,輸出聚簇結果。

2) 基于聚簇一階隱馬爾可夫模型的鏈接預測算法

采用DBLP 數據集引入元路徑的思想,抽取節點之間的關系,預測某個作者與某個會議是否存在鏈接關系或是否將會發生鏈接關系。C-HMM(1)算法主要分為以下5 個步驟。

①在保留語義信息的基礎上,去除冗雜數據,提取作者、論文、會議信息。

② 提取異質網絡中的作者信息,采用改進的k-means 進行聚簇分析。

③挖掘異質網絡中節點之間的相關性,提取各聚簇對應的元路徑。

④ 對每個聚簇分別進行訓練,得到狀態轉移概率矩陣。

⑤ 對預測節點所在的聚簇使用 Viterbi 算法,選擇概率最大的結果作為鏈接預測的最終結果。

C-HMM(1)算法的流程如圖4 所示。

圖4 C-HMM(1)算法的流程

將數據聚簇,從而得到多個簇,分別訓練HMM中的3 個參數π、A、B。運用MLE 算法訓練數據集并對HMM 的參數進行學習,其參數估計式為

從數據集訓練出HMM 的參數后,使用Viterbi算法來預測待預測節點的元路徑。將 δt定義為在時刻t且狀態為i的所有路徑 (i1,i2,…,it)中的概率最大值,其計算方法為

遞推式為

定義在時刻t且狀態為i的所有路徑中概率最大路徑的第 t-1個節點的計算式為

2.3 基于C-HMM(2)的鏈接預測

HMM(2)如圖5 所示。HMM(2)增加了觀測值輸出的約束條件,相應地,鏈接預測的準確率也有較大的提高。

圖5 HMM(2)

HMM(2)可以被定義為七元組(S ,O,π,A1,A2,B1,B2),七元組中S、 O、π 和C-HMM(1)中的含義一樣,其他需要重點說明的介紹如下。

HMM(2)與HMM(1)一樣,在鏈接預測中用來解決學習問題和解碼問題。

C-HMM(2)算法利用數據集中的訓練樣本,首先用C-HMM(2)中的MLE 算法學習HMM(2)的參數,然后用C-HMM(2)中的Viterbi 算法獲取鏈接預測的最大概率的狀態序列。基于C-HMM(2)的鏈接預測與基于C-HMM(1)的鏈接預測類似:收集處理異質網絡數據,對其聚簇;提取元路徑;應用C-HMM(2)。

1) C-HMM(2)的MLE 算法模型

初始狀態概率計算式為

其中,Init(i)表示在數據集訓練樣本中初始狀態si的序列數目表示在數據集訓練樣本中所有狀態的序列數目之和。

隱含狀態轉移概率計算式為

其中,cij表示數據集訓練樣本中,在時刻t狀態為si、時刻 t+1狀態轉換為sj的次數;cijk表示數據集訓練樣本中,在時刻 t-1狀態為si、時刻t狀態為sj、時刻 t+1轉換為狀態sk的次數;表示在數據集訓練樣本中,在時刻 t-1狀態為si、時刻t狀態為sj,時刻 t+1轉換到所有狀態的次數之和。

觀測狀態轉移概率計算式為

其中,Ej(ok)表示數據集訓練樣本中,在時刻t狀態為sj時可觀測狀態為ok的次數表示數據集訓練樣本中,在時刻 t-1狀態為si、時刻t狀態為sj時可觀測狀態為ok的次數表示數據集訓練樣本中,在時刻 t-1狀態為si、時刻t狀態為sj時所有觀測狀態為ok的次數之和。

3 基于最大熵隱馬爾可夫模型的異質網絡鏈接預測

最大熵原理的主要思想是在只掌握知識的部分信息且是未知知識時,應該選擇對已知的知識熵最大的概率分布。為了進一步提高鏈接預測性和準確率,在最大熵模型中加入了特征信息對鏈接預測中狀態轉移的影響,提出了ME-HMM 方法,如圖6所示。ME-HMM 方法處理流程大致概括為:對異質網絡數據集聚簇并提取元路徑;進行最大熵處理提取特征;應用C-HMM(2)。

圖6 ME-HMM 方法

3.1 特征-狀態轉移概率矩陣的訓練

首先在數據集中選擇合適的特征信息,考慮這些特征信息對鏈接預測模型狀態轉移的影響,將其加入鏈接預測模型的訓練中,訓練特征-狀態轉移概率矩陣。

1) 提取特征信息。根據本文采用的數據集,選取一些特征信息,如是否包含人名、是否都是大寫字母、是否以“.”結尾、是否以“a”開頭、是否以“v”開頭。

如果特征信息l只影響一個狀態sj,則應用

如果特征信息l同時影響狀態sj和狀態si,則應用

2) 計算特征-狀態轉移概率矩陣。當特征信息l只影響狀態sj時,特征-狀態轉移概率矩陣為M={Mi,j},其中Mi,j是從狀態i到狀態j的轉移概率,且滿足

其中,NF表示特征的個數,NS表示狀態的個數。

當特征信息l同時影響狀態sj和si時,特征-狀態轉移概率矩陣為其中l,i,j

M 是從狀態l到狀態i、狀態j的狀態轉移概率,且滿足

訓練特征-狀態轉移概率矩陣的步驟如下。

①計算數據集中每個特征-狀態的平均值。假設可觀測狀態的長度是ms,第l個特征信息、第j個狀態平均值的計算式為

第l個特征信息、第i個狀態、第j個狀態平均值的計算式為

② 根據GIS 參數估計算法,得出特征-狀態概率矩陣。

3.2 結合最大熵的狀態轉移概率

在最大熵的C-HMM(2)中,時刻 t+1的狀態sk的轉移概率由時刻t的狀態sj、時刻 t-1的狀態si,以及在時刻t得到的特征-狀態轉移概率共同決定。

當第l個特征信息僅影響狀態sk時,狀態sk的狀態轉移概率的計算式為

其中,αi,j,k是時刻 t-1狀態為si、時刻t狀態為sj時,時刻 t+1狀態是sk的狀態轉移概率,γ 是歸一化常數。

當第l個特征信息同時影響sk和si時,狀態sk的狀態轉移概率的計算式為

其中,λ 是調節特征-狀態轉移概率和狀態轉移概率矩陣重要性的權重。

4 實驗結果與分析

4.1 數據預處理

本文所采用的DBLP 數據集為XML 格式文件且文件較大,在此選擇SAX 解析方式來處理文件。DBLP 數據集按年份列出了60 000 多名作者的科研成果,包括72 902 篇論文和464 個會議。其中,每條數據

中包含、<page>、<year>、<volume>、<journal>、<ee>、<url>等信息。</p><p>數據預處理首先需要提取數據中所收錄的論文,每一條記錄中都包含論文的作者、標題、會議等信息。論文中涉及的作者為合作關系,同時將論文的標題信息加入相關作者的屬性信息中。另外,在當前數據庫中檢索當前作者相關的其他論文,保證作者的文本屬性完整。本文只提取論文中前3 位作者與該論文的關系。DBLP 數據預處理流程如圖7所示。</p><p><img src="https://cimg.fx361.com/images/2023/0118/c883f12310db030eec5b15c42d05706eb3c1b8b6.webp"/></p><p>圖7 DBLP 數據預處理流程</p><p>本文在Intel i7 10750H 6 核12 線程CPU 主頻為2.6 GHz 的機器上運行程序,隨機抽取90%的數據集作為訓練集,剩下的10%作為測試集。</p><h3>4.2 抽取元路徑</h3><p>本文通過隨機游走模型生成元路徑來表示網絡結構和節點的上下文關系,并采用skip-gram 模型生成異質網絡的節點表示,提取出待預測的2 個節點之間的元路徑作為候選集。同時通過調查大量基于元路徑的研究和工作發現,異質網絡中最常用的也是最有效的元路徑方案是APVPA,表示的語義信息是兩位作者在同一會議發表論文的關系。考慮到本文的實驗環境,本文抽取的元路徑長度是100,每個節點的游走次數是500。部分抽取的元路徑如圖8 所示。</p><p><img src="https://cimg.fx361.com/images/2023/0118/bae39eba5470bd22811ec23f9a271c5f9b2abaa2.webp"/></p><p>圖8 部分抽取的元路徑</p><h3>4.3 實驗評價指標</h3><p>采用計算測試集的精確度(Precision)、召回率(Recall)、F 值(F-Measure)3 種指標作為衡量本文提出的鏈接預測模型的指標。本文將鏈接預測的結果分為有鏈接和無鏈接2 種,將有鏈接的數據定義為正例,無鏈接的數據定義為負例。針對以上2 種不同情況,分別計算Precision 和Recall。總體的Precision 和Recall 分別如式(22)和式(23)所示。</p><p><img src="https://cimg.fx361.com/images/2023/0118/ff6c9cb6c73e1a119c1907add414bd6255b189c3.webp"/></p><p>其中,PrecisionE和 PrecisionN分別為正例和反例的準確率,RecallE和 RecallN分別為正例和反例的召回率。精確率表示預測正確的鏈接數目占預測為有鏈接(無鏈接)的數目的比值;召回率又稱查全率,表示預測正確的鏈接數目占實際存在鏈接(無鏈接)的數目的比值。采用Precision 和Recall 這2 個指標的調和平均值F-Measure 作為評估標準,其計算式為其中,β 是衡量精確度和召回率重要性的權值,本文將β 的值設為常數1。</p><p><img src="https://cimg.fx361.com/images/2023/0118/ba67ff5e721a4ec323cbfad64443fd28db66865d.webp"/></p><h3>4.4 實驗結果及分析</h3><p>本文選擇 CN、RWR、HMM、BRLinks、MDGCN、PURP 方法來進行對比實驗。首先確定聚簇的數目,以達到最佳的鏈接預測性能。通過多次改變聚簇數目進行實驗測試,得到鏈接預測的總精確度與聚簇數目的關系,如圖9 所示。</p><p><img src="https://cimg.fx361.com/images/2023/0118/85d721effe3a59a2b48a9753cfe5f1e600d71161.webp"/></p><p>圖9 鏈接預測的總精確度與聚簇數目的關系</p><p>從圖9 中可以看出,鏈接預測的總精確度隨著聚簇數目的增加而提高,但當聚簇數目為6 時,精確度不再有明顯的提高。其原因一方面是有些聚簇訓練得到的HMM 的鏈接預測準確率大致相同;另一方面是對于同一條元路徑來說,不同模型的鏈接預測結果可能相同;除此之外,聚簇數目多的簇中可能包含的訓練數據不多,通過這些簇得到的鏈接預測模型很少作為最終的鏈接預測結果。因此,這些新增簇對HMM 鏈接預測的結果影響不大。同時,本節又對不同聚簇數目下的程序運行時間做了測試,如圖10 所示。</p><p><img src="https://cimg.fx361.com/images/2023/0118/7f5ba7dea9ac216fd4acafc36e649b1e00fa4316.webp"/></p><p>圖10 不同聚簇數目下的程序運行時間</p><p>從圖10 中可以看出,聚簇數目越多,程序運行時間也就更多。圖9 和圖10 的實驗數據表明,本文實驗選擇聚簇數目為6 的效果是最佳的,因此以下對比實驗均采用聚簇數目為6。</p><p>1) C-HMM(1)和HMM 鏈接預測的實驗對比</p><p>選擇最佳聚簇數目6 進行C-HMM(1)和HMM這2 種方法的實驗。C-HMM(1)和HMM 鏈接預測總精確度比較如圖11 所示。</p><p><img src="https://cimg.fx361.com/images/2023/0118/943631048871b0989a4cba71b1371e74a9881183.webp"/></p><p>圖11 C-HMM(1)和HMM 鏈接預測總精確度比較</p><p>從圖11 中可以看出,C-HMM(1)總精確度比單獨使用HMM 精確度高。當訓練元路徑數為170 000 時,預測類型節點鏈接預測精確度比較如表1 所示,進一步說明聚簇能更有效地捕捉異質網絡的結構信息,因此C-HMM(1)有更好的鏈接預測性能。</p><p><img src="https://cimg.fx361.com/images/2023/0118/ad6f4095bcefd30ccb2026f4c8a435aa01f266b2.webp"/></p><p>表1 C-HMM(1)和HMM 對各狀態鏈接預測精確度比較</p><p>2) C-HMM(1)和C-HMM(2)鏈接預測的實驗對比</p><p>訓練集從30 000 條開始,不斷增加到170 000 條,C-HMM(1)和C-HMM(2)鏈接預測總精確度比較如圖12 所示。</p><p><img src="https://cimg.fx361.com/images/2023/0118/bc96e19cdf06580b15bd7041190b10332cb0cb02.webp"/></p><p>圖12 C-HMM(1)和C-HMM(2)鏈接預測總精確度比較</p><p>從圖12 中可以看出,選取不同數量的元路徑,C-HMM(2)鏈接預測的總精確度都高于C-HMM(1)。隨著訓練數據的增加,C-HMM(2)的總精確度始終較高,這是因為隨著訓練數據的增加,C-HMM(2)更加優化,識別錯誤的能力更強。當訓練數據從120 000 條增加到150 000 條時,2 種方法精確度提高不大,這可能是因為此時增加的訓練集和測試集中數據的匹配度較低。</p><p>以150 000條元路徑作為訓練集為例,C-HMM(1)和C-HMM(2)鏈接預測的總精確度如表2 所示。</p><p><img src="https://cimg.fx361.com/images/2023/0118/d0bae9e6bd77b3d291d13a6d39b3c7c3f90ce009.webp"/></p><p>表2 C-HMM(1)和C-HMM(2)鏈接預測的總精確度</p><p>從表2 中可以看出,基于C-HMM(2)的鏈接預測精確度高于C-HMM(1)的鏈接預測精確度,更進一步論證了C-HMM(2)的算法性能高于C-HMM(1)。</p><p>3) ME-CHMM 鏈接預測的實驗對比</p><p>選取相關的特征信息,建立相關的特征匹配字典進行匹配。在判斷是否包含人名特征信息時,使用從網上下載的外國人名進行匹配;對于是否都是大寫字母、是否以“a”“v”開頭、是否以“.”結尾的特征信息,不需要建立特征字典,在程序中可以通過邏輯判斷的方式進行匹配。在實驗中,進行交叉測試,取平均值,不斷調整特征-狀態轉移概率和狀態轉移概率的相對重要程度λ 的值。當λ 取0.6、訓練集從30 000 條增加到170 000 條時,部分鏈接預測方法總精確度的比較如圖13 所示。</p><p><img src="https://cimg.fx361.com/images/2023/0118/87dec278f6e8e5d9019bb86cebbadb3859db8559.webp"/></p><p>圖13 部分鏈接預測方法總精確度的比較</p><p>從圖13 中可以看出,隨著訓練數據的增加,各方法的總精確度都有不同程度的提升,其中ME-HMM 的鏈接預測總精確度高于其他模型,尤其是高于CN、RWR 和基準方法。C-HMM(1)和C-HMM(2)隨著訓練數據的增加,鏈接預測的總精確度有所下降,這是由于新增加的訓練集與測試集匹配度不高,但是在ME-HMM 模型的預測中,這種情況并沒有出現,這表明在HMM(2)中加入數據特征信息的最大熵模型對鏈接預測更加有效。多種鏈接預測方法實驗比較如表3 所示。</p><p><img src="https://cimg.fx361.com/images/2023/0118/f1c42b0485985ffe33dee422a83acf21cae6a08e.webp"/></p><p>表3 多種鏈接預測方法實驗比較</p><p>從表3 中可以看出,在鏈接預測精確度上,C-HMM(2)比 C-HMM(1)更高;在召回率方面,C-HMM(2)沒有優勢,但C-HMM(2)總的F-Measure比C-HMM(1)高,這說明C-HMM(2)的鏈接預測性能更高。ME-HMM 在進一步提高鏈接預測精確度的同時,也提高了鏈接預測的召回率。HMM、MDGCN的精確度分別為0.829、0.830,而本文提出的方法的精確度都在0.853 以上;BRLinks、PURP 的F-Measure 的值分別為0.873、0.805,而本文提出的方法的F-Measure 都在0.903 以上,通過對比可以發現,本文提出的方法的F-Measure 至少提高了3 個百分點。由以上實驗結果可知,本文提出的方法性能較為優異,其中ME-HMM 方法的性能最好。</p><h2>5 結束語</h2><p>在復雜網絡中,如何更加精確地對異質網絡進行鏈接預測一直是人們研究的熱點之一,據此本文提出了通過改進k-means 算法實現基于聚簇的隱馬爾可夫模型的異質網絡的鏈接預測,并通過分析在C-HMM(2)中狀態轉移概率、觀測值輸出概率和模型歷史狀態之間的關系,可知鏈接預測的準確率有較大的提高。在此基礎上,提出ME-HMM,將數據的特征信息加入鏈接預測中。實驗表明,ME-HMM在本文中的鏈接預測中具有最優的性能,最大程度地提高了鏈接預測的準確率。但本文使用的是靜態數據,沒有考慮到數據的實時動態問題。但在實際生活中,數據每時每刻都在快速增長,對增量數據集的研究更符合現實網絡的特征。因此,在后續的工作中,可以更深一步地對異質網絡鏈接預測的有關課題進行研究。</p></p> <!-- <div id="g0gggggg" class="article_pdf"><a >查看pdf文檔請下載app</a></div>--><div id="g0gggggg" class="article_love"> <div id="g0gggggg" class="title">猜你喜歡</div> <div id="g0gggggg" class="article_love_keyword"><span><a href="/tags/a/8/69e0d4ff3e202d50/1.html" target="_blank">精確度</a></span></div> <div id="g0gggggg" class="article_love_news"><dd><a class="txt_title" href="/page/2022/0505/12568747.shtml" target="_blank" title="CVD 預測模型精確度優化措施探究">CVD 預測模型精確度優化措施探究</a><div id="g0gggggg" class="rsorc"><a href="/bk/shlgdxxb/20222.html" class="ly" title="上海理工大學學報(2022年2期)">上海理工大學學報(2022年2期)</a><span id="g0gggggg" class="txt">2022-05-05 02:26:56</span></div></dd><dd><a class="txt_title" href="/page/2021/0107/17743150.shtml" target="_blank" title="研究核心素養呈現特征提高復習教學精確度">研究核心素養呈現特征提高復習教學精確度</a><div id="g0gggggg" class="rsorc"><a href="/bk/ynjyzxjs/202011.html" class="ly" title="云南教育·中學教師(2020年11期)">云南教育·中學教師(2020年11期)</a><span id="g0gggggg" class="txt">2021-01-07 08:26:28</span></div></dd><dd><a class="txt_title" href="/page/2020/0306/13728969.shtml" target="_blank" title="“硬核”定位系統入駐兗礦集團,精確度以厘米計算">“硬核”定位系統入駐兗礦集團,精確度以厘米計算</a><div id="g0gggggg" class="rsorc"><a href="/bk/sdmtkj/20201.html" class="ly" title="山東煤炭科技(2020年1期)">山東煤炭科技(2020年1期)</a><span id="g0gggggg" class="txt">2020-03-06 06:43:28</span></div></dd><dd><a class="txt_title" href="/page/2017/0912/2260833.shtml" target="_blank" title="放縮法在遞推數列中的再探究">放縮法在遞推數列中的再探究</a><div id="g0gggggg" class="rsorc"><a href="/bk/xyysdjsb/201730.html" class="ly" title="新教育時代·教師版(2017年30期)">新教育時代·教師版(2017年30期)</a><span id="g0gggggg" class="txt">2017-09-12 08:17:15</span></div></dd><dd><a class="txt_title" href="/page/2017/0601/1864427.shtml" target="_blank" title="BIM技術在橋梁施工過程中的應用">BIM技術在橋梁施工過程中的應用</a><div id="g0gggggg" class="rsorc"><a href="/bk/zggxjsqy/20179.html" class="ly" title="中國高新技術企業(2017年9期)">中國高新技術企業(2017年9期)</a><span id="g0gggggg" class="txt">2017-06-01 23:49:33</span></div></dd><dd><a class="txt_title" href="/page/2017/0119/624399.shtml" target="_blank" title="數形結合">數形結合</a><div id="g0gggggg" class="rsorc"><a href="/bk/xxjxyj/20171.html" class="ly" title="小學教學研究(2017年1期)">小學教學研究(2017年1期)</a><span id="g0gggggg" class="txt">2017-01-19 19:20:03</span></div></dd><dd><a class="txt_title" href="/page/2016/0725/1525695.shtml" target="_blank" title="基于有機RFID的溯源精確度提高方法的研究">基于有機RFID的溯源精確度提高方法的研究</a><div id="g0gggggg" class="rsorc"><a href="/bk/jsnykx/20166.html" class="ly" title="江蘇農業科學(2016年6期)">江蘇農業科學(2016年6期)</a><span id="g0gggggg" class="txt">2016-07-25 23:48:17</span></div></dd><dd><a class="txt_title" href="/page/2016/0712/509946.shtml" target="_blank" title="試論數控機床切削控制能力對機械加強精確度的影響">試論數控機床切削控制能力對機械加強精確度的影響</a><div id="g0gggggg" class="rsorc"><a href="/bk/kjsj/20166.html" class="ly" title="科技視界(2016年6期)">科技視界(2016年6期)</a><span id="g0gggggg" class="txt">2016-07-12 18:40:29</span></div></dd><dd><a class="txt_title" href="/page/2012/0101/29469597.shtml" target="_blank" title="易錯題突破:提高語言精確度">易錯題突破:提高語言精確度</a><div id="g0gggggg" class="rsorc"><a href="/bk/gkjklkb/20123.html" class="ly" title="高考金刊·理科版(2012年3期)">高考金刊·理科版(2012年3期)</a><span id="g0gggggg" class="txt">2012-01-01 00:00:00</span></div></dd><dd><a class="txt_title" href="/page/2011/0131/17068998.shtml" target="_blank" title="浙江省大麥區試的精確度分析">浙江省大麥區試的精確度分析</a><div id="g0gggggg" class="rsorc"><a href="/bk/zjnykx/20113.html" class="ly" title="浙江農業科學(2011年3期)">浙江農業科學(2011年3期)</a><span id="g0gggggg" class="txt">2011-01-31 11:01:30</span></div></dd></div> </div><div id="g0gggggg" class="other_pel mt80"> <p class="fl"><a href="/bk/tongxinxb/20225.html" target="_blank"><img src="https://cimg.fx361.com/images/2023/0118/0c0b70621877fe883e523f9c3c80a84053a7fb6a.webp" alt=""></a><span id="g0gggggg" class="p1"><a href="/bk/tongxinxb/" target="_blank">通信學報</a></span><span id="g0gggggg" class="p2"><a href="/bk/tongxinxb/20225.html" target="_blank">2022年5期</a></span></p> <dl class="fl"><dt>通信學報的其它文章</dt><dd><a href="/page/2022/0607/15124046.shtml" title="基于推土機距離的證據沖突強度量方法">基于推土機距離的證據沖突強度量方法</a></dd><dd><a href="/page/2022/0607/15123962.shtml" title="基于深度學習的光學遙感圖像目標檢測研究進展">基于深度學習的光學遙感圖像目標檢測研究進展</a></dd><dd><a href="/page/2022/0607/15123934.shtml" title="低軌巨型星座網絡:組網技術與研究現狀">低軌巨型星座網絡:組網技術與研究現狀</a></dd><dd><a href="/page/2022/0607/15123913.shtml" title="高速移動環境下基于RM-Net 的大規模MIMO CSI 反饋算法">高速移動環境下基于RM-Net 的大規模MIMO CSI 反饋算法</a></dd><dd><a href="/page/2022/0607/15123617.shtml" title="基于改進PSO 的鐵路監測線性無線傳感器網絡路由算法">基于改進PSO 的鐵路監測線性無線傳感器網絡路由算法</a></dd><dd><a href="/page/2022/0607/15123086.shtml" title="基于云邊協同的無證書多用戶多關鍵字密文檢索方案">基于云邊協同的無證書多用戶多關鍵字密文檢索方案</a></dd></dl> </div></div> </div> </div> <div id="g0gggggg" class="sidebarR"> <!-- tab選項卡 --> <div id="g0gggggg" class="tab01 mb20"><div id="g0gggggg" class="tabArrow"></div><div id="g0gggggg" class="tabItem"><div id="g0gggggg" class="tabTit"><a href="#">雜志排行</a></div> <div id="g0gggggg" class="tabCont"><ol><li><p class="row01"><span id="g0gggggg" class="topNum">1</span><a href="/bk/sdjy/202410.html" class="row01a">《師道·教研》</a><span id="g0gggggg" class="row01_fr"><a href="/bk/sdjy/202410.html">2024年10期</a></span></p></li><li><p class="row01"><span id="g0gggggg" class="topNum">2</span><a href="/bk/swyzhsby/202411.html" class="row01a">《思維與智慧·上半月》</a><span id="g0gggggg" class="row01_fr"><a href="/bk/swyzhsby/202411.html">2024年11期</a></span></p></li><li><p class="row01"><span id="g0gggggg" class="topNum">3</span><a href="/bk/xdgyjjhxxh/20242.html" class="row01a">《現代工業經濟和信息化》</a><span id="g0gggggg" class="row01_fr"><a href="/bk/xdgyjjhxxh/20242.html">2024年2期</a></span></p></li><li><p class="row01"><span id="g0gggggg" class="topNum">4</span><a href="/bk/wxxsyb/202410.html" class="row01a">《微型小說月報》</a><span id="g0gggggg" class="row01_fr"><a href="/bk/wxxsyb/202410.html">2024年10期</a></span></p></li><li><p class="row01"><span id="g0gggggg" class="topNum">5</span><a href="/bk/gywsw/20241.html" class="row01a">《工業微生物》</a><span id="g0gggggg" class="row01_fr"><a href="/bk/gywsw/20241.html">2024年1期</a></span></p></li><li><p class="row01"><span id="g0gggggg" class="topNum">6</span><a href="/bk/xl/20249.html" class="row01a">《雪蓮》</a><span id="g0gggggg" class="row01_fr"><a href="/bk/xl/20249.html">2024年9期</a></span></p></li><li><p class="row01"><span id="g0gggggg" class="topNum">7</span><a href="/bk/sjbl/202421.html" class="row01a">《世界博覽》</a><span id="g0gggggg" class="row01_fr"><a href="/bk/sjbl/202421.html">2024年21期</a></span></p></li><li><p class="row01"><span id="g0gggggg" class="topNum">8</span><a href="/bk/zxqyglykj/20246.html" class="row01a">《中小企業管理與科技》</a><span id="g0gggggg" class="row01_fr"><a href="/bk/zxqyglykj/20246.html">2024年6期</a></span></p></li><li><p class="row01"><span id="g0gggggg" class="topNum">9</span><a href="/bk/xdsp/20244.html" class="row01a">《現代食品》</a><span id="g0gggggg" class="row01_fr"><a href="/bk/xdsp/20244.html">2024年4期</a></span></p></li><li><p class="row01"><span id="g0gggggg" class="topNum">10</span><a href="/bk/wszyjy/202410.html" class="row01a">《衛生職業教育》</a><span id="g0gggggg" class="row01_fr"><a href="/bk/wszyjy/202410.html">2024年10期</a></span></p></li></ol> </div></div> </div> </div> <div id="g0gggggg" class="clr"></div> </div> </div> <!--div class="advertisement"> </div--> <div id="g0gggggg" class="footer"> <p><a href="/aboutus/index.html">關于參考網</a></p> </div> <!-- <script> if ('serviceWorker' in navigator) { window.onload = function () { navigator.serviceWorker.register('/sw.js'); }; } </script> --> <script type="text/javascript" src="https://s1.pstatp.com/cdn/expire-1-M/jquery/3.4.0/jquery.min.js"></script> <script type="text/javascript" src="https://s1.pstatp.com/cdn/expire-1-M/sticky-kit/1.1.3/sticky-kit.min.js"></script> <script type="text/javascript"> document.write('<script src="https://cimg.fx361.com/cdn/w/index.js"><\/script>'); </script> <footer> <div class="friendship-link"> <p>感谢您访问我们的网站,您可能还对以下资源感兴趣:自贡牌麓投资有限公司</p> <a href="http://m.handmsg.com"title=999精品在线视频,手机成人午夜在线视频,久久不卡国产精品无码,中日无码在线观看,成人av手机在线观看,日韩精品亚洲一区中文字幕,亚洲av无码人妻,四虎国产在线观看">999精品在线视频,手机成人午夜在线视频,久久不卡国产精品无码,中日无码在线观看,成人av手机在线观看,日韩精品亚洲一区中文字幕,亚洲av无码人妻,四虎国产在线观看</a> <a href="/sitemap.xml">网站地图</a> <div style="position:fixed;left:-9000px;top:-9000px;"></div> <div class="friend-links"> </div> </div> </footer> 主站蜘蛛池模板: <a href="http://www.hixulei.net" target="_blank">97人人做人人爽香蕉精品 </a>| <a href="http://www.0391cbd.com" target="_blank">扒开粉嫩的小缝隙喷白浆视频</a>| <a href="http://www.btjhjj.com" target="_blank">四虎国产在线观看</a>| <a href="http://www.hyxcx.com" target="_blank">国模极品一区二区三区</a>| <a href="http://www.ahhehao.com" target="_blank">av无码一区二区三区在线</a>| <a href="http://www.yw3189.com" target="_blank">亚洲欧美日韩成人在线</a>| <a href="http://www.dlgfjs.com" target="_blank">波多野结衣一区二区三区88</a>| <a href="http://www.cqjz98.com" target="_blank">就去色综合</a>| <a href="http://www.yuanxiangplastics.com" target="_blank">免费激情网址</a>| <a href="http://www.gztuteng.com" target="_blank">国产一区二区三区免费观看</a>| <a href="http://www.lzxjz.net" target="_blank">国产99久久亚洲综合精品西瓜tv</a>| <a href="http://www.zrsz.net" target="_blank">91精品人妻一区二区</a>| <a href="http://www.absolutelyportable.com" target="_blank">91精品久久久久久无码人妻</a>| <a href="http://www.justchoosehappiness.net" target="_blank">午夜无码一区二区三区在线app</a>| <a href="http://www.anhuidc.com" target="_blank">国产亚洲高清在线精品99</a>| <a href="http://www.filmkeeper.com" target="_blank">亚洲国产AV无码综合原创</a>| <a href="http://www.nokia4issu.net" target="_blank">无码免费试看</a>| <a href="http://www.51jhyy.com" target="_blank">国产一级一级毛片永久</a>| <a href="http://www.qianghaodan.com" target="_blank">72种姿势欧美久久久大黄蕉</a>| <a href="http://www.zqyfkj.com" target="_blank">成年人国产视频</a>| <a href="http://www.wasds.cc" target="_blank">一区二区日韩国产精久久</a>| <a href="http://www.bjhuatian.com" target="_blank">亚洲国产系列</a>| <a href="http://www.zgzjfc.net" target="_blank">国产99精品久久</a>| <a href="http://www.maftkay.cn" target="_blank">国产永久无码观看在线</a>| <a href="http://www.hixulei.net" target="_blank">亚洲AV成人一区国产精品</a>| <a href="http://www.sesguvenlik.net" target="_blank">久久精品国产一区二区小说</a>| <a href="http://www.xiyuled.com" target="_blank">国产精品成人不卡在线观看</a>| <a href="http://www.aalphafood.com" target="_blank">久久青草视频</a>| <a href="http://www.if0315z7.com" target="_blank">亚洲AⅤ无码国产精品</a>| <a href="http://www.vertusmart.com" target="_blank">国产在线拍偷自揄拍精品</a>| <a href="http://www.ccdogpx.com" target="_blank">伊人色在线视频</a>| <a href="http://www.easysaturday.com" target="_blank">亚洲欧美另类视频</a>| <a href="http://www.409mu.com" target="_blank">精品福利一区二区免费视频</a>| <a href="http://www.zhongtailai.com" target="_blank">中文字幕在线播放不卡</a>| <a href="http://www.hahtkj.com" target="_blank">国产91麻豆视频</a>| <a href="http://www.990uc.com" target="_blank">蝴蝶伊人久久中文娱乐网</a>| <a href="http://www.ishengpai.com" target="_blank">伊人久久大线影院首页</a>| <a href="http://www.aixifang.com" target="_blank">狂欢视频在线观看不卡</a>| <a href="http://www.s57887.com" target="_blank">欧美亚洲欧美</a>| <a href="http://www.zmnzs.com" target="_blank">国产亚洲欧美在线专区</a>| <a href="http://www.longrunguoji.com" target="_blank">亚洲精选无码久久久</a>| <a href="http://www.yxhfgyp.com" target="_blank">日本不卡在线视频</a>| <a href="http://www.shgc610.com" target="_blank">国产精品白浆无码流出在线看</a>| <a href="http://www.ytpaint.cn" target="_blank">99青青青精品视频在线</a>| <a href="http://www.xianhuasen.com" target="_blank">欧美午夜在线观看</a>| <a href="http://www.suzhoushuman.com" target="_blank">成人午夜免费视频</a>| <a href="http://www.lmsht666.com" target="_blank">永久在线播放</a>| <a href="http://www.njrycc.com" target="_blank">精品少妇人妻av无码久久</a>| <a href="http://www.ky481.com" target="_blank">欧美三级不卡在线观看视频</a>| <a href="http://www.ssc84888.com" target="_blank">精品偷拍一区二区</a>| <a href="http://www.miqpkyb.cn" target="_blank">91亚洲精品第一</a>| <a href="http://www.mshining.com" target="_blank">中文字幕在线永久在线视频2020</a>| <a href="http://www.shibarishop.net" target="_blank">波多野结衣一区二区三视频</a>| <a href="http://www.gssc51.com" target="_blank">无码免费试看</a>| <a href="http://www.010365.net" target="_blank">欧美色视频日本</a>| <a href="http://www.090202.com" target="_blank">制服丝袜一区</a>| <a href="http://www.0455dz.com" target="_blank">欧美国产综合色视频</a>| <a href="http://www.66visa.net" target="_blank">欧美日韩国产在线人成app</a>| <a href="http://www.whwangshi.com" target="_blank">亚洲无码免费黄色网址</a>| <a href="http://www.xiefuku.com" target="_blank">免费不卡视频</a>| <a href="http://www.laidianduo.com" target="_blank">欧美a级完整在线观看</a>| <a href="http://www.jsdtyljx.com" target="_blank">亚洲综合第一区</a>| <a href="http://www.biopaint.net" target="_blank">九九九精品视频</a>| <a href="http://www.xxzjhrsb.com" target="_blank">91麻豆精品视频</a>| <a href="http://www.longsda.com" target="_blank">在线看AV天堂</a>| <a href="http://www.yueyuexiao.cn" target="_blank">久久人搡人人玩人妻精品</a>| <a href="http://www.mothermystic.net" target="_blank">亚洲精品在线影院</a>| <a href="http://www.lawyers114.com" target="_blank">亚洲精品免费网站</a>| <a href="http://www.asianewking.com" target="_blank">三上悠亚在线精品二区</a>| <a href="http://www.feixuegongzhu.com" target="_blank">国产91麻豆免费观看</a>| <a href="http://www.lezaojiao.com" target="_blank">91亚瑟视频</a>| <a href="http://www.0523wan.com" target="_blank">青草视频久久</a>| <a href="http://www.niaogege.com" target="_blank">欧美乱妇高清无乱码免费</a>| <a href="http://www.xiangshetian.com" target="_blank">亚洲精品无码AV电影在线播放</a>| <a href="http://www.avenir-geopolitique.net" target="_blank">欧美日韩成人在线观看</a>| <a href="http://www.nt-shsm.com" target="_blank">国产美女免费网站</a>| <a href="http://www.teaart.net" target="_blank">韩国自拍偷自拍亚洲精品</a>| <a href="http://www.qdlikai.com" target="_blank">小说 亚洲 无码 精品</a>| <a href="http://www.gdtarget.com" target="_blank">亚洲天堂免费观看</a>| <a href="http://www.xjcits02.com" target="_blank">国产精品久久国产精麻豆99网站</a>| <a href="http://www.enterghana.net" target="_blank">日本成人一区</a>| <a href="http://www.degyves.net" target="_blank">福利在线不卡一区</a>| <script> (function(){ var bp = document.createElement('script'); var curProtocol = window.location.protocol.split(':')[0]; if (curProtocol === 'https') { bp.src = 'https://zz.bdstatic.com/linksubmit/push.js'; } else { bp.src = 'http://push.zhanzhang.baidu.com/push.js'; } var s = document.getElementsByTagName("script")[0]; s.parentNode.insertBefore(bp, s); })(); </script> </body><div id="lllll" class="pl_css_ganrao" style="display: none;"><optgroup id="lllll"><address id="lllll"></address></optgroup><strong id="lllll"><legend id="lllll"></legend></strong><meter id="lllll"></meter><th id="lllll"><big id="lllll"></big></th><sup id="lllll"></sup><sup id="lllll"></sup><span id="lllll"><nobr id="lllll"></nobr></span><dl id="lllll"></dl><u id="lllll"><span id="lllll"><progress id="lllll"><strong id="lllll"></strong></progress></span></u><pre id="lllll"><th id="lllll"><label id="lllll"><thead id="lllll"></thead></label></th></pre><mark id="lllll"></mark><ins id="lllll"></ins><th id="lllll"><big id="lllll"></big></th><menuitem id="lllll"><style id="lllll"></style></menuitem><style id="lllll"><ol id="lllll"></ol></style><rp id="lllll"><dfn id="lllll"></dfn></rp><legend id="lllll"></legend><dfn id="lllll"></dfn><optgroup id="lllll"></optgroup><progress id="lllll"><pre id="lllll"></pre></progress><track id="lllll"><div id="lllll"></div></track><i id="lllll"><sup id="lllll"></sup></i><legend id="lllll"><tt id="lllll"><rp id="lllll"><thead id="lllll"></thead></rp></tt></legend><sup id="lllll"><strike id="lllll"><u id="lllll"><span id="lllll"></span></u></strike></sup><listing id="lllll"></listing><b id="lllll"></b><em id="lllll"></em><acronym id="lllll"><div id="lllll"><sub id="lllll"><mark id="lllll"></mark></sub></div></acronym><output id="lllll"></output><dfn id="lllll"><style id="lllll"></style></dfn><output id="lllll"><p id="lllll"><pre id="lllll"><big id="lllll"></big></pre></p></output><var id="lllll"></var><u id="lllll"><span id="lllll"></span></u><dfn id="lllll"><menuitem id="lllll"><style id="lllll"><label id="lllll"></label></style></menuitem></dfn><div id="lllll"></div><track id="lllll"><div id="lllll"></div></track><style id="lllll"><tt id="lllll"></tt></style><label id="lllll"></label><legend id="lllll"></legend><ruby id="lllll"><small id="lllll"><track id="lllll"><div id="lllll"></div></track></small></ruby><tt id="lllll"><rp id="lllll"><thead id="lllll"><form id="lllll"></form></thead></rp></tt><font id="lllll"></font><output id="lllll"><dfn id="lllll"><th id="lllll"><optgroup id="lllll"></optgroup></th></dfn></output><address id="lllll"><dfn id="lllll"><style id="lllll"><font id="lllll"></font></style></dfn></address><span id="lllll"><nobr id="lllll"><strong id="lllll"><sub id="lllll"></sub></strong></nobr></span><div id="lllll"><form id="lllll"></form></div><label id="lllll"><p id="lllll"></p></label><thead id="lllll"></thead><meter id="lllll"></meter><progress id="lllll"><strong id="lllll"></strong></progress><em id="lllll"></em><dfn id="lllll"></dfn><var id="lllll"><i id="lllll"></i></var><thead id="lllll"></thead><output id="lllll"><p id="lllll"></p></output><mark id="lllll"><i id="lllll"></i></mark><th id="lllll"><big id="lllll"><address id="lllll"><dfn id="lllll"></dfn></address></big></th><listing id="lllll"></listing><pre id="lllll"></pre><video id="lllll"></video><track id="lllll"><strong id="lllll"></strong></track><var id="lllll"></var><span id="lllll"><nobr id="lllll"></nobr></span><track id="lllll"><div id="lllll"><sub id="lllll"><mark id="lllll"></mark></sub></div></track><legend id="lllll"></legend><ruby id="lllll"><u id="lllll"></u></ruby><ruby id="lllll"></ruby><div id="lllll"></div><ins id="lllll"><legend id="lllll"></legend></ins><pre id="lllll"><big id="lllll"></big></pre><ol id="lllll"><thead id="lllll"></thead></ol><rp id="lllll"></rp><pre id="lllll"><th id="lllll"></th></pre><dfn id="lllll"></dfn><dfn id="lllll"></dfn><video id="lllll"><legend id="lllll"><address id="lllll"><menuitem id="lllll"></menuitem></address></legend></video><track id="lllll"></track><small id="lllll"><track id="lllll"></track></small><em id="lllll"><sup id="lllll"></sup></em><acronym id="lllll"><div id="lllll"><strong id="lllll"><var id="lllll"></var></strong></div></acronym><label id="lllll"></label><output id="lllll"></output><video id="lllll"></video><rp id="lllll"><thead id="lllll"></thead></rp><span id="lllll"><nobr id="lllll"><strong id="lllll"><sub id="lllll"></sub></strong></nobr></span><var id="lllll"></var><span id="lllll"><nobr id="lllll"></nobr></span><strong id="lllll"></strong><span id="lllll"><nobr id="lllll"><strong id="lllll"><sub id="lllll"></sub></strong></nobr></span><thead id="lllll"><form id="lllll"><listing id="lllll"><label id="lllll"></label></listing></form></thead><small id="lllll"><acronym id="lllll"></acronym></small><menuitem id="lllll"><tt id="lllll"><rp id="lllll"><thead id="lllll"></thead></rp></tt></menuitem><optgroup id="lllll"></optgroup><strong id="lllll"></strong><var id="lllll"><i id="lllll"><b id="lllll"><video id="lllll"></video></b></i></var><acronym id="lllll"><div id="lllll"><strong id="lllll"><var id="lllll"></var></strong></div></acronym><thead id="lllll"><strong id="lllll"><legend id="lllll"><small id="lllll"></small></legend></strong></thead><legend id="lllll"></legend><ruby id="lllll"><small id="lllll"></small></ruby><label id="lllll"></label><big id="lllll"></big><div id="lllll"></div><tt id="lllll"></tt><dl id="lllll"><video id="lllll"><legend id="lllll"><span id="lllll"></span></legend></video></dl><p id="lllll"><dl id="lllll"></dl></p><div id="lllll"></div><pre id="lllll"><big id="lllll"><optgroup id="lllll"><dfn id="lllll"></dfn></optgroup></big></pre><label id="lllll"></label><pre id="lllll"><th id="lllll"><optgroup id="lllll"><address id="lllll"></address></optgroup></th></pre><output id="lllll"><p id="lllll"></p></output><sub id="lllll"><var id="lllll"></var></sub><small id="lllll"></small><progress id="lllll"><pre id="lllll"></pre></progress><span id="lllll"><nobr id="lllll"></nobr></span><dl id="lllll"></dl><progress id="lllll"><sub id="lllll"></sub></progress><ruby id="lllll"><strike id="lllll"></strike></ruby><em id="lllll"><sup id="lllll"></sup></em><th id="lllll"><optgroup id="lllll"><address id="lllll"><menuitem id="lllll"></menuitem></address></optgroup></th><optgroup id="lllll"><address id="lllll"><menuitem id="lllll"><style id="lllll"></style></menuitem></address></optgroup><strike id="lllll"></strike><strong id="lllll"></strong><track id="lllll"><form id="lllll"><form id="lllll"><meter id="lllll"></meter></form></form></track><small id="lllll"><acronym id="lllll"></acronym></small><label id="lllll"></label><output id="lllll"><dfn id="lllll"></dfn></output><listing id="lllll"><meter id="lllll"><thead id="lllll"><ins id="lllll"></ins></thead></meter></listing><p id="lllll"></p><b id="lllll"><video id="lllll"></video></b><ol id="lllll"></ol><thead id="lllll"></thead><ol id="lllll"></ol><tt id="lllll"></tt><sub id="lllll"><var id="lllll"></var></sub><i id="lllll"></i><u id="lllll"><span id="lllll"></span></u><label id="lllll"></label><dfn id="lllll"></dfn><ins id="lllll"><legend id="lllll"></legend></ins><mark id="lllll"></mark><i id="lllll"></i><pre id="lllll"><label id="lllll"><p id="lllll"><b id="lllll"></b></p></label></pre><nobr id="lllll"></nobr><optgroup id="lllll"></optgroup><rp id="lllll"><thead id="lllll"></thead></rp><em id="lllll"><sup id="lllll"></sup></em><legend id="lllll"><small id="lllll"><track id="lllll"><div id="lllll"></div></track></small></legend><legend id="lllll"><span id="lllll"><progress id="lllll"><pre id="lllll"></pre></progress></span></legend><strong id="lllll"></strong><small id="lllll"></small></div> </html>