基于KPCA優(yōu)化IHS-RVM的小時(shí)間尺度網(wǎng)絡(luò)流量預(yù)測(cè)模型

楊 波

(昆明理工大學(xué)質(zhì)量發(fā)展研究院 云南 昆明 650093)

(云南省計(jì)量測(cè)試技術(shù)研究院 云南 昆明 650228)

基于KPCA優(yōu)化IHS-RVM的小時(shí)間尺度網(wǎng)絡(luò)流量預(yù)測(cè)模型

楊 波

(昆明理工大學(xué)質(zhì)量發(fā)展研究院 云南 昆明 650093)

(云南省計(jì)量測(cè)試技術(shù)研究院 云南 昆明 650228)

網(wǎng)絡(luò)流量時(shí)間序列具有高維度、非線性和時(shí)變性等特征，針對(duì)傳統(tǒng)時(shí)間序列模型預(yù)測(cè)精度較低的問(wèn)題，提出基于KPCA(Kernel Principal Component Analysis)優(yōu)化IHS-RVM的小時(shí)間尺度網(wǎng)絡(luò)流量預(yù)測(cè)模型。首先對(duì)網(wǎng)絡(luò)流量時(shí)間序列進(jìn)行相空間重構(gòu)，確定嵌入維數(shù)和延遲時(shí)間。然后利用KPCA對(duì)網(wǎng)絡(luò)流量樣本進(jìn)行核主成分特征提取，降低嵌入維數(shù)，并獲取核主元矩陣。在此基礎(chǔ)上，通過(guò)改進(jìn)HS(Harmony Search)算法(IHS)確定RVM核參數(shù)。最后利用參數(shù)優(yōu)化的RVM模型進(jìn)行小時(shí)間尺度網(wǎng)絡(luò)流量預(yù)測(cè)。為了交叉驗(yàn)證模型的性能，采用實(shí)際數(shù)據(jù)進(jìn)行性能對(duì)比分析。結(jié)果表明，本模型性能優(yōu)于KPCA-IHS-ESN、KPCA-IHS-SVM和IHS-RVM模型，取得了良好的效果。

小時(shí)間尺度 網(wǎng)絡(luò)流量 改進(jìn)和聲搜索算法 KPCA RVM

0 引 言

我國(guó)網(wǎng)民數(shù)量世界第一，網(wǎng)絡(luò)服務(wù)質(zhì)量成為當(dāng)前網(wǎng)絡(luò)管理和優(yōu)化的重要內(nèi)容[1]。網(wǎng)絡(luò)流量是記錄和反映網(wǎng)絡(luò)用戶活動(dòng)的重要載體，其預(yù)測(cè)和控制優(yōu)化問(wèn)題備受關(guān)注[2]。

大時(shí)間尺度網(wǎng)絡(luò)流量預(yù)測(cè)已經(jīng)取得了較好的結(jié)果，但所得結(jié)論無(wú)法對(duì)網(wǎng)絡(luò)流量實(shí)現(xiàn)實(shí)時(shí)優(yōu)化與控制[2-3]。因此，近年小時(shí)間尺度(采樣時(shí)間小于1 s[4])網(wǎng)絡(luò)流量預(yù)測(cè)問(wèn)題備受青睞。小時(shí)間尺度網(wǎng)絡(luò)流量時(shí)間序列建模往往是一個(gè)多輸入的高維、非線性建模問(wèn)題[1]，傳統(tǒng)的線性回歸模型如ARMA、ARIMA模型等都難以獲得令人滿意的預(yù)測(cè)精度，且診斷時(shí)間較長(zhǎng)，難以滿足實(shí)時(shí)診斷的要求。人工神經(jīng)網(wǎng)絡(luò)(ANN)、支持向量機(jī)(SVM)和相關(guān)向量機(jī)(RVM)等技術(shù)[3-6]在小時(shí)間尺度網(wǎng)絡(luò)流量預(yù)測(cè)和網(wǎng)絡(luò)安全診斷得到了大量應(yīng)用。但ANN需要大量訓(xùn)練樣本，易出現(xiàn)過(guò)擬合并且泛化性能差[7]；SVM泛化性能強(qiáng)但是核函數(shù)需滿足Mercer條件并且處理大數(shù)據(jù)集訓(xùn)練速度慢[8]；RVM泛化能力強(qiáng)并且訓(xùn)練速度快，但RVM模型的精度和泛化能力都受其核函數(shù)參數(shù)的影響，需要進(jìn)一步優(yōu)化[7-8]。和聲算法HS具有比GA、梯度算法更加優(yōu)異的尋優(yōu)性能，但HS算法中的HMCR、PAR和BW三參數(shù)獲取方法直接影響其尋優(yōu)性能，為了更好地滿足小時(shí)間尺度網(wǎng)絡(luò)流量預(yù)測(cè)實(shí)時(shí)性要求，進(jìn)而對(duì)HS進(jìn)行改進(jìn)。因此采用IHS進(jìn)行RVM超參數(shù)優(yōu)化[9]。由于小時(shí)間尺度網(wǎng)絡(luò)流量具有高維度、非線性特征，如果直接進(jìn)行RVM預(yù)測(cè)不僅嵌入維數(shù)較多，且計(jì)算時(shí)間較長(zhǎng)。因此，引入核方法的核主成分分析KPCA可實(shí)現(xiàn)非線性問(wèn)題的高效求解[3]。另外，可以利用相空間重構(gòu)理論還原小時(shí)間尺度網(wǎng)絡(luò)流量時(shí)間序列的非線性動(dòng)力特性。

鑒于上述分析，本研究首先利用相空間理論對(duì)網(wǎng)絡(luò)流量樣本數(shù)據(jù)進(jìn)行空間重構(gòu)，然后利用KPCA提取網(wǎng)絡(luò)流量時(shí)間序列的核主成分信息，實(shí)現(xiàn)降維；將獲得主元矩陣作為訓(xùn)練樣本集利用IHS算法進(jìn)行RVM訓(xùn)練優(yōu)化，獲取參數(shù)優(yōu)化的RVM網(wǎng)絡(luò)流量預(yù)測(cè)模型。為了交叉驗(yàn)證模型的性能，采用實(shí)際數(shù)據(jù)進(jìn)行性能對(duì)比分析。結(jié)果表明，本模型優(yōu)于KPCA-IHS-ESN、KPCA-IHS-SVM和KPCA-IHS-RVM模型，能夠滿足小時(shí)間尺度網(wǎng)絡(luò)流量預(yù)測(cè)的性能要求。

1 基本理論方法

1.1 相空間重構(gòu)

小時(shí)間尺度網(wǎng)絡(luò)流量影響因素(網(wǎng)絡(luò)利用率、網(wǎng)絡(luò)協(xié)議等)較多，在進(jìn)行網(wǎng)絡(luò)流量預(yù)測(cè)之前，需要找出網(wǎng)絡(luò)流量混沌時(shí)間序列中隱藏的混沌吸引子的演化規(guī)律，使現(xiàn)有的小時(shí)間尺度網(wǎng)絡(luò)流量數(shù)據(jù)納入某種可描述和預(yù)測(cè)的系統(tǒng)框架之下。這樣不僅可以減少訓(xùn)練時(shí)間，還可以提升小時(shí)間尺度網(wǎng)絡(luò)流量訓(xùn)練精度。對(duì)于小時(shí)間尺度網(wǎng)絡(luò)流量時(shí)間序列S=[s1,s2,…,si,…,sM]，假設(shè)si與si-1,si-2,…,sMi-r的非線性映射關(guān)系如下式所示：

si=ξ(si-1,si-2,…,si-r)i=r+1,…,M

(1)

式(1)中：r為小時(shí)間尺度網(wǎng)絡(luò)流量嵌入維數(shù)；ξ(·)為小時(shí)間尺度網(wǎng)絡(luò)流量非線性映射函數(shù)。

1.2 KPCA降維過(guò)程及步驟

小時(shí)間尺度網(wǎng)絡(luò)流量具有高維、非線性特征，直接進(jìn)行預(yù)測(cè)不僅預(yù)測(cè)時(shí)間較長(zhǎng)，且預(yù)測(cè)精度難以保障，不能滿足實(shí)時(shí)要求。因此，在相空間重構(gòu)后有必要進(jìn)行網(wǎng)絡(luò)流量數(shù)據(jù)的降維。KPCA是從數(shù)據(jù)集中提取非線性特征的有效方法，能夠有效處理網(wǎng)絡(luò)流量時(shí)間序列變量之間的非線性耦合問(wèn)題，通過(guò)將輸入空間映射到高維特征空間實(shí)現(xiàn)非線性變換，最終轉(zhuǎn)化為求核矩陣的特征向量和特征值，使之變?yōu)榫€性問(wèn)題，再在特征空間中利用PCA提取網(wǎng)絡(luò)流量主元[3]。因此，采用KPCA提取小時(shí)間尺度網(wǎng)絡(luò)流量序列的有效信息，降低RVM預(yù)測(cè)模型復(fù)雜度，將有效減少訓(xùn)練時(shí)間，提升訓(xùn)練精度。KPCA降維過(guò)程及步驟主要如下：

Step1對(duì)輸入樣本X進(jìn)行標(biāo)準(zhǔn)化，并按式(2)計(jì)算核矩陣K；

(2)

其中1≤i≤n,1≤j≤n，l1為核寬度。

Step2根據(jù)式(3)中心化核矩陣K，中心化結(jié)果為K*，其中η為元素全為1的n維向量；

(3)

Step3計(jì)算中心化核矩陣K*的特征值λ和特征向量V；

Step4對(duì)特征值λ以及對(duì)應(yīng)特征向量V按降序重新排序；

Step5按累計(jì)貢獻(xiàn)率選取前p個(gè)特征值和對(duì)應(yīng)特征向量；

Step6按式(4)將p個(gè)特征向量V規(guī)范化：

(4)

Step7按式(5)計(jì)算數(shù)據(jù)重構(gòu)后得到的主元矩陣元素為：

(5)

其中1≤i≤n,1≤j≤p。

2 IHS-RVM

2.1 RVM

RVM是一種基于稀疏貝葉斯框架的機(jī)器學(xué)習(xí)算法，既可以用作分類器，也可以建立回歸模型[7]，其基本原理如下：

p(tn|xn)=N(tn|y(xn),σ2)

(6)

均值y(xn)可由如下線性模型表示：

(7)

其中w=(w1,w2,…,wM)T為權(quán)值向量，φ(x)=(φ1(x),φ2(x),…,φM(x))為核函數(shù)。

w和σ2的似然函數(shù)為：

(8)

其中t=(t1,t2,…,tN)T，Φ是N×(N+1)維由核函數(shù)構(gòu)成的矩陣，RVM核函數(shù)同樣選取RBF核函數(shù)，計(jì)算式如式(9)，其中l(wèi)2為RVM核參數(shù)，且1≤i,j≤N。

(9)

模型回歸就是估計(jì)權(quán)值w，而對(duì)式(11)式直接最大似然估計(jì)求w和σ2會(huì)導(dǎo)致過(guò)擬合，因此引入超參數(shù)α，αi和wi一一對(duì)應(yīng)，w滿足均值為0的高斯分布，其先驗(yàn)、后驗(yàn)分布分別為：

(10)

N(w|μ,Σ)

(11)

后驗(yàn)分布的均值和協(xié)方差矩陣為：

(12)

其中α=(α0,α1,…,αN)，A=diag(α)。

至此權(quán)值的估計(jì)轉(zhuǎn)化為超參數(shù)估計(jì)，用第二類最大似然估計(jì)超參數(shù)α和噪聲方差σ2，其邊緣似然為式(13)，式中C=σ2I+ΦA(chǔ)-1ΦT。對(duì)式(11)取對(duì)數(shù)再分別對(duì)α和σ2求偏導(dǎo)并令偏導(dǎo)為0，得到式(14)中的超參數(shù)和噪聲方差迭代式。

N(t|0,C)

(13)

(14)

式(14)中γi≡1-αi∑ii，μi、∑ii分別是式(16)中μ的第i個(gè)元素、Σ對(duì)角線的第i個(gè)元素。

對(duì)于新的網(wǎng)絡(luò)流量測(cè)試數(shù)據(jù)x*有：

(15)

那么估計(jì)值為式(16)：

y*=wTφ(x*)=μTφ(x*)

(16)

結(jié)合式(12)、式(14)的迭代以及式(9)，可以發(fā)現(xiàn)αi的迭代式與t、N、Φ、σ2有關(guān)，目標(biāo)值t和樣本數(shù)N為常量，σ2和αi相互作用，Φ則為核函數(shù)矩陣。當(dāng)σ2為最優(yōu)值時(shí)，Φ可以影響αi的取值，繼而影響wi是否為0，即核函數(shù)(核參數(shù))最終影響到相關(guān)向量數(shù)量和估計(jì)精度，因此需要選取合適核參數(shù)。

2.2 HS算法改進(jìn)(IHS)

受音樂(lè)演奏啟發(fā)，Geem等[10]模擬音樂(lè)演奏中樂(lè)隊(duì)和聲調(diào)諧的原理，提出了和聲搜索算法。HS算法原理簡(jiǎn)單、可控參數(shù)少、易于實(shí)現(xiàn)、具有很強(qiáng)的全局搜索能力。影響和聲搜索性能的關(guān)鍵環(huán)節(jié)在于HMCR、PAR和BW3個(gè)參數(shù)的控制和設(shè)計(jì)[11-12]。在基本HS算法中，HMCR、PAR和BW值是固定的，這影響了算法的搜索性能。本文優(yōu)化HMCR、PAR和BW的方法[11-13]如下：

1)HMCR調(diào)整策略。由于HMCR決定新和聲的產(chǎn)生方式，HMCR值大有利于算法的局部收縮，HMCR值小有利于群體的多樣性。因此，HMCR的改進(jìn)策略如下式所示：

(17)

式(17)中，NId表示當(dāng)前迭代次數(shù)，HMCRmax和HMCRmax分別為HM內(nèi)搜索概率最大和最小值。

2)PAR調(diào)整策略。PAR控制局部搜索過(guò)程，PAR值小可以增強(qiáng)算法的局部搜索能力，值大則有利于優(yōu)化搜索區(qū)域；PAR的改進(jìn)策略具體如下式所示：

(18)

式(18)中PARmax和PARmin分別為調(diào)節(jié)概率最大和最小值。

3)BW調(diào)整策略。BW為和聲微調(diào)幅度，在HS算法執(zhí)行前期，BW值大有助于HS算法容易跳出局部最優(yōu)，獲得全局最優(yōu)解；在HS算法執(zhí)行后期，BW值小則有利于算法在局部區(qū)域精細(xì)搜索。BW的改進(jìn)策略具體如下式所示：

(19)

式(19)中BWmax和BWmin分別為音調(diào)調(diào)節(jié)帶寬的最大和最小值。

4) 尋優(yōu)信息共享策略。為提高HS算法的收斂性，減少無(wú)效迭代的次數(shù)。在搜索過(guò)程中進(jìn)行異或操作，實(shí)現(xiàn)尋優(yōu)信息共享，如下式所示：

x(j)=xbest⊕x(j)

(20)

其中，xbest是HM中的最優(yōu)和聲；“⊕”為異或操作符號(hào)。

2.3 IHS優(yōu)化RVM超參數(shù)

RVM算法具備處理高維度、非線性問(wèn)題的能力，但其性能受到核參數(shù)(γ)的影響。Geem提出HS算法具備比遺傳算法更好的搜索能力[10]。采用IHS搜索算法尋找RVM預(yù)測(cè)模型最優(yōu)的核參數(shù)(γ)，使得RVM預(yù)測(cè)模型具有更好的預(yù)測(cè)性能。和聲所對(duì)應(yīng)的目標(biāo)函數(shù)值反映了該組參數(shù)下的算法性能，本文選取預(yù)測(cè)誤差f(x)作為目標(biāo)函數(shù)，目標(biāo)函數(shù)如下式所示：

(21)

HIS優(yōu)化RVM核參數(shù)的步驟如下：

Step1設(shè)置HMCR、HMS、PAR、BW、NImax、y和N(體和聲向量維數(shù))的初始范圍。

Step3從HM中隨機(jī)選取一個(gè)新的和聲，按更新HMCR和PAR產(chǎn)生隨機(jī)數(shù)rand1；根據(jù)HMCR產(chǎn)生新和聲；如果不滿足rand1

Step4若迭代次數(shù)達(dá)到NImax，則算法終止，輸出RVM預(yù)測(cè)模型的最優(yōu)核參數(shù)。否則，繼續(xù)執(zhí)行直到算法迭代終止。

Step5在獲得最優(yōu)核參數(shù)后，輸出超參數(shù)最優(yōu)解向量，構(gòu)造核參數(shù)優(yōu)化的RVM預(yù)測(cè)模型。

3 實(shí)例分析

3.1 實(shí)例數(shù)據(jù)來(lái)源

本文的網(wǎng)絡(luò)流量數(shù)據(jù)來(lái)源于云南省某招投標(biāo)企業(yè)網(wǎng)絡(luò)服務(wù)中心服務(wù)器的流量數(shù)據(jù)。數(shù)據(jù)采集時(shí)間為2016年9月1日，數(shù)據(jù)采樣時(shí)間單位為秒(ms)，數(shù)據(jù)采集時(shí)間為11:00-11：10，共采集到數(shù)據(jù)598 362個(gè)。聚類后得到的600個(gè)單位為KB的流量序S*，序列號(hào)(Serial Number，S/N)，測(cè)聚類時(shí)間為1.0 s的網(wǎng)絡(luò)流量序列如圖1所示。

圖1 測(cè)聚類時(shí)間為1.0 s的網(wǎng)絡(luò)流量序列

3.2 相空間重構(gòu)參數(shù)確定

首先基于Matlab2009a編程計(jì)算小時(shí)間尺度網(wǎng)絡(luò)流量的互信息函數(shù)，延遲時(shí)間τ和嵌入維數(shù)r1計(jì)算結(jié)果如圖2所示。

圖2 時(shí)間延遲(τ)

由圖2可知，當(dāng)τ=5時(shí)可以得到互信息函數(shù)第一個(gè)極小值，即表明τ=5時(shí)為小時(shí)間尺度網(wǎng)絡(luò)流量的最佳延遲時(shí)間，在確定最佳延遲時(shí)間后，運(yùn)用虛假最近鄰點(diǎn)法求嵌入維數(shù)，計(jì)算結(jié)果如圖3所示。

圖3 虛假鄰點(diǎn)法計(jì)算網(wǎng)絡(luò)流量的嵌入維數(shù)

根據(jù)圖3可知，當(dāng)嵌入維數(shù)r1為6時(shí)，假鄰近率變化趨于穩(wěn)定，即表明r1為小時(shí)間尺度網(wǎng)絡(luò)流量的合適嵌入維數(shù)。

3.3 網(wǎng)絡(luò)流量預(yù)測(cè)

經(jīng)過(guò)相空間重構(gòu)后，為進(jìn)一步降低計(jì)算復(fù)雜度，縮短計(jì)算時(shí)間，采用KPCA 提取有效信息、降維減少運(yùn)算復(fù)雜度，將 KPCA 算法中的選取百分比E取為 85%[3]。對(duì)輸入的600組樣本數(shù)據(jù)進(jìn)行相空間重構(gòu)和KPCA處理，計(jì)算獲得4個(gè)核主成分的特征值以及其方差貢獻(xiàn)率如表1所示。

表1 樣本網(wǎng)絡(luò)流量數(shù)據(jù)的主特征值及方差貢獻(xiàn)率

從表1可看出前4個(gè)主元的方差累積貢獻(xiàn)率已經(jīng)超過(guò)了90%，且特征值均大于1。因此，根據(jù)KPCA判斷原則選定前4個(gè)主元構(gòu)建降維后的主元矩陣，即將嵌入維數(shù)最終確定為r=4。由此可知，經(jīng)過(guò)KPCA后，RVM預(yù)測(cè)模型的嵌入維數(shù)6減少到4。KPCA處理更加符合小時(shí)間網(wǎng)絡(luò)流量預(yù)測(cè)的實(shí)時(shí)性要求：為了更好地驗(yàn)證本文模型預(yù)測(cè)性能以及KPCA的作用，同時(shí)參照文獻(xiàn)[14-17]構(gòu)建了IHS-ESN、IHS-SVM、IHS-RVM進(jìn)行對(duì)比分析。在訓(xùn)練過(guò)程中隨機(jī)選取2/3相空間重構(gòu)后的樣本數(shù)據(jù)作為訓(xùn)練集，即400組數(shù)據(jù)作為訓(xùn)練集。訓(xùn)練后結(jié)果為：IHS-ESN的權(quán)譜半徑SR=0.3、儲(chǔ)備池規(guī)模N=260、儲(chǔ)備池輸入單元尺度IS=0.38、稀疏程度SD=0.6；IHS-SVM的懲罰系數(shù)C=68，核函數(shù)關(guān)聯(lián)參數(shù)g=0.28；IHS-RVM的嵌入維數(shù)r為4，核寬度l為9.85。確定模型優(yōu)化參數(shù)后，利用剩余樣本量進(jìn)行小時(shí)間尺度網(wǎng)絡(luò)流量測(cè)試，測(cè)試結(jié)果如圖4所示。

圖4 實(shí)例仿真測(cè)試結(jié)果對(duì)比圖

3.4 模型性能評(píng)價(jià)

為了綜合評(píng)價(jià)不同模型的性能，選用均方根誤差(RMSE)、平均相對(duì)誤差(MAPE)、最大相對(duì)誤差(MAXE)和尋優(yōu)運(yùn)行時(shí)間(Time)作為衡量各預(yù)測(cè)模型性能的評(píng)價(jià)指標(biāo)，具體計(jì)算結(jié)果如表2所示。

表2 預(yù)測(cè)性能指標(biāo)

根據(jù)表2可知，KPCA-IHS-RVM模型預(yù)測(cè)性能最為優(yōu)異：RMSE=0.234 88、MAPE=0.127 1、MAXE=0.467 5和Time= 199.57。同時(shí)對(duì)比KPCA-IHS-RVM和IHS-RVM發(fā)現(xiàn)，KPCA不僅能夠降低預(yù)測(cè)計(jì)算時(shí)間，還能夠很好地提升預(yù)測(cè)精度。因此，本文所構(gòu)造算法的優(yōu)越性得到驗(yàn)證，能夠滿足小時(shí)間尺度網(wǎng)絡(luò)流量預(yù)測(cè)中的實(shí)時(shí)性和精度高的要求。這主要是由于SVM從樣本出發(fā)，通過(guò)最大化類間距離求解分類面，解決了利用神經(jīng)網(wǎng)絡(luò)存在的過(guò)學(xué)習(xí)與欠學(xué)習(xí)問(wèn)題、局部極小點(diǎn)問(wèn)題等，大幅度減少了SVM的計(jì)算開(kāi)銷[18-19]，但SVM的計(jì)算開(kāi)銷受限于其稀疏性弱的缺點(diǎn)，容易樣本的增大造成計(jì)算開(kāi)銷增大；RVM是基于SVM改進(jìn)的一種更稀疏的機(jī)械學(xué)習(xí)方法，其利用一系列超參數(shù)對(duì)模型權(quán)值或基函數(shù)進(jìn)行獨(dú)立支配，使得RVM具備更小的計(jì)算開(kāi)銷和更好的實(shí)時(shí)性能[20]，本文采用IHS進(jìn)一步解決限制其性能的超參數(shù)。因此，改進(jìn)后的RVM 非常適合對(duì)于小時(shí)間尺度網(wǎng)絡(luò)流量這樣分類速度有較高要求的快速在線分類處理。關(guān)于在線快速性能也在能源[21]、機(jī)械工程[22]等領(lǐng)域中得到驗(yàn)證，更加說(shuō)明了RVM模型的優(yōu)異性。

4 結(jié) 語(yǔ)

小時(shí)間尺度網(wǎng)絡(luò)流量預(yù)測(cè)數(shù)據(jù)具備小樣本、高維度等復(fù)雜特性，針對(duì)傳統(tǒng)模型難以獲得優(yōu)異的預(yù)測(cè)精度的問(wèn)題，本文提出了KPCA-IHS-RVM網(wǎng)絡(luò)流量預(yù)測(cè)模型。該模型充分發(fā)揮KPCA處理高維度數(shù)據(jù)的能力，實(shí)現(xiàn)了嵌入維數(shù)的降低，同時(shí)發(fā)揮了RVM在處理小樣本數(shù)據(jù)計(jì)算速度快，非線性處理能力強(qiáng)的特點(diǎn)，并嵌入到改進(jìn)和聲算法中優(yōu)化了其核參數(shù)。實(shí)例分析表明，該模型優(yōu)于KPCA-IHS-ESN、KPCA-IHS-SVM、IHS-RVM等模型，預(yù)測(cè)性能評(píng)價(jià)指標(biāo)十分優(yōu)異：RMSE為0.234 88、MAPE為0.127 1、MAXE為0.467 5和Time為199.57。同時(shí)，通過(guò)交叉對(duì)比分析發(fā)現(xiàn)，KPCA不僅能夠降低計(jì)算時(shí)間，還能夠很好地提升預(yù)測(cè)精度，有效地提升了本模型的綜合性能。本模型較好地提升了小時(shí)間尺度網(wǎng)絡(luò)流量預(yù)測(cè)的精度和計(jì)算速度，能夠?yàn)閮?yōu)化網(wǎng)絡(luò)流量服務(wù)和優(yōu)化管理提供新的思路和方法。

[1] 姜明,吳春明,張旻,等.網(wǎng)絡(luò)流量預(yù)測(cè)中的時(shí)間序列模型比較研究[J].電子學(xué)報(bào),2009,37(11):2353-2358.

[2] 溫祥西,孟相如,馬志強(qiáng),等.小時(shí)間尺度網(wǎng)絡(luò)流量混沌性分析及趨勢(shì)預(yù)測(cè)[J].電子學(xué)報(bào),2012,40(8):1609-1616.

[3] 田中大,李樹(shù)江,王艷紅,等.基于KPCA優(yōu)化ESN的網(wǎng)絡(luò)流量預(yù)測(cè)方法[J].電機(jī)與控制學(xué)報(bào),2015,19(12):114-120.

[4] 田中大,李樹(shù)江,王艷紅,等.基于混沌理論與改進(jìn)回聲狀態(tài)網(wǎng)絡(luò)的網(wǎng)絡(luò)流量多步預(yù)測(cè)[J].通信學(xué)報(bào),2016,37(3):55-70.

[5] 田中大,高憲文,李樹(shù)江,等.遺傳算法優(yōu)化回聲狀態(tài)網(wǎng)絡(luò)的網(wǎng)絡(luò)流量預(yù)測(cè)[J].計(jì)算機(jī)研究與發(fā)展,2015,52(5):1137-1145.

[6] 顧成杰,張順頤.基于改進(jìn)SVM的網(wǎng)絡(luò)流量分類方法研究[J].儀器儀表學(xué)報(bào),2011,32(7):1507-1513.

[7] 肖漢杰,桑秀麗.相關(guān)向量機(jī)超參數(shù)優(yōu)化的小時(shí)間尺度網(wǎng)絡(luò)流量非線性預(yù)測(cè)方法[J].計(jì)算機(jī)應(yīng)用研究,2016,33(6):1882-1885.

[8] Zhang J,Xiang Y,Wang Y,et al.Network traffic classification using correlation information[J].IEEE Transactions on Parallel and Distributed Systems,2013,24(1):104-117.

[9] Hao S,Hu J,Liu S,et al.Improved SVM method for internet traffic classification based on feature weight learning[C] //Control,Automation and Information Sciences (ICCAIS),2015 International Conference on.IEEE,2015:102-106.

[10] Geem Z W,Kim J H.A New Heuristic Optimization Algorithm:Harmony Search[J].Simulation,2001,76(2):60-68.

[11] Mahdavi M,Fesanghary M,Damangir E.An improved harmony search algorithm for solving optimization problems[J].Applied Mathematics & Computation,2007,188(2):1567-1579.

[12] 韓紅燕,潘全科,梁靜,等.改進(jìn)的和聲搜索算法在函數(shù)優(yōu)化中的應(yīng)用[J].計(jì)算機(jī)工程,2010,36(13):245-247.

[13] 王英博,王琳,李揚(yáng),等.基于BtW的和聲搜索算法在BP網(wǎng)絡(luò)優(yōu)化中的應(yīng)用[J].計(jì)算機(jī)工程與應(yīng)用,2012,48(28):52-56,76.

[14] 周鵬,陳宇峰.基于多尺度熵方法的網(wǎng)絡(luò)流量復(fù)雜度分析[J].計(jì)算機(jī)應(yīng)用研究,2015,32(12):3782-3785.

[15] 柏駿,夏靖波,趙小歡,等.一種基于EMD和RVM的自相似網(wǎng)絡(luò)流量預(yù)測(cè)模型[J].計(jì)算機(jī)科學(xué),2015,42(1):122-125.

[16] 王秋平,趙木來(lái).基于改進(jìn)和聲搜索算法的支持向量機(jī)參數(shù)優(yōu)化[J].化工自動(dòng)化及儀表,2015(11):1237-1241,1249.

[17] 李潔,張兆薇.基于和聲搜索算法和相關(guān)向量機(jī)的網(wǎng)絡(luò)安全態(tài)勢(shì)預(yù)測(cè)方法[J].計(jì)算機(jī)應(yīng)用,2016,6(1):199-202,232.

[18] 劉學(xué)軍,陳松燦,彭宏京,等.基于支持向量機(jī)的計(jì)算機(jī)鍵盤(pán)用戶身份驗(yàn)真[J].計(jì)算機(jī)研究與發(fā)展,2002,39(9):1082-1086.

[19] 田盛豐,黃厚寬.基于支持向量機(jī)的數(shù)據(jù)庫(kù)學(xué)習(xí)算法[J].計(jì)算機(jī)研究與發(fā)展,2000,37(1):17-22.

[20] 柏駿,夏靖波,鹿傳國(guó),等.基于RVM的網(wǎng)絡(luò)流量分類研究[J].電子科技大學(xué)學(xué)報(bào),2014(2):241-246.

[21] Yan J,Liu Y,Han S,et al.Wind power grouping forecasts and its uncertainty analysis using optimized relevance vector machine[J].Renewable and sustainable energy reviews,2013,27:613-621.

[22] Yang B S,Gu F,Ball A.Thermal image enhancement using bi-dimensional empirical mode decomposition in combination with relevance vector machine for rotating machinery fault diagnosis[J].Mechanical Systems and Signal Processing,2013,38(2):601-614.

SMALLTIMESCALENETWORKTRAFFICPREDICTIONMODELBASEDONKPCAANDOPTIMIZEDIHS-RVM

Yang Bo

(QualityDevelopmentInstitute,KunmingUniversityofScienceandTechnology,Kunming650093,Yunnan,China)(YunnanInstituteofMetrologyandTestingTechnology,Kunming650228,Yunnan,China)

Network traffic time series is high-dimensional, non-linear and time-varying. To deal with low prediction accuracy of traditional time series models, we propose a small time scale network traffic prediction model based on KPCA and optimized IHS-RVM. Firstly, phase space reconstruction of network traffic time series was carried out to explore the relation between input variants and output variants. Then, KPCA was adopted to make a feature extraction of nuclear components of network traffic samples and obtained the valid key information. On that basis, Improved HS (IHS) algorithm was used to determine the embedding dimension and nuclear parameters. Finally, RVM model with hyper parameter optimization was adopted to make the prediction of network traffic. To verify the performance of the model, actual data were collected to make a comparative analysis of performance. Results have shown that, it enjoys better performance than KPCA-IHS-ESN model, KPCA-IHS-SVM model and IHS-RVM model.

Small time scale Network traffic Improved harmony search KPCA RVM

TP274

A

10.3969/j.issn.1000-386x.2017.10.032

2016-10-14。云南省科技支撐項(xiàng)目(KKSTJ201358015)。楊波，高工，主研領(lǐng)域：數(shù)據(jù)挖掘與質(zhì)量管理。