一種改進(jìn)的小波神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)流量預(yù)測(cè)算法

陳振偉,王 茜,黃繼紅

（皖西學(xué)院計(jì)算機(jī)科學(xué)與技術(shù)系,安徽六安 237012）

一種改進(jìn)的小波神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)流量預(yù)測(cè)算法

陳振偉,王 茜,黃繼紅

（皖西學(xué)院計(jì)算機(jī)科學(xué)與技術(shù)系,安徽六安 237012）

為了有效地對(duì)網(wǎng)絡(luò)進(jìn)行維護(hù),提高網(wǎng)絡(luò)性能,預(yù)知網(wǎng)絡(luò)流量可以提前對(duì)網(wǎng)絡(luò)出現(xiàn)的問題采取應(yīng)對(duì)策略,從而對(duì)用戶提供更好的服務(wù)。在神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型中把隱含層的傳遞函數(shù)用小波函數(shù)替換,并采用共軛梯度下降算法,建立了一個(gè)小波神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)流量預(yù)測(cè)模型。通過實(shí)際流量數(shù)據(jù)對(duì)模型進(jìn)行仿真,結(jié)果顯示該模型與神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型相比,該網(wǎng)絡(luò)具有良好的預(yù)測(cè)效果,網(wǎng)絡(luò)訓(xùn)練時(shí)間短,有效地提高了訓(xùn)練速度。

神經(jīng)網(wǎng)絡(luò);小波函數(shù);網(wǎng)絡(luò)流量;共軛梯度

1 引言

隨著計(jì)算機(jī)網(wǎng)絡(luò)的迅速發(fā)展,目前的網(wǎng)絡(luò)規(guī)模極為龐大和復(fù)雜,基于網(wǎng)絡(luò)的應(yīng)用急劇增長(zhǎng)。網(wǎng)絡(luò)互聯(lián)環(huán)境的復(fù)雜,造成了網(wǎng)絡(luò)的安全性和穩(wěn)定性的降低,從而影響了網(wǎng)絡(luò)服務(wù)的質(zhì)量。為了給用戶提供優(yōu)質(zhì)的服務(wù),網(wǎng)絡(luò)的維護(hù)和管理顯得尤為重要,如果能預(yù)知網(wǎng)絡(luò)流量,可在很大程度上方便網(wǎng)絡(luò)的維護(hù)和管理,并且能提前采取應(yīng)對(duì)措施。因此網(wǎng)絡(luò)流量預(yù)測(cè)對(duì)網(wǎng)絡(luò)管理和維護(hù)是一項(xiàng)很必要的技術(shù)。

現(xiàn)有的網(wǎng)絡(luò)流量預(yù)測(cè)分為線性預(yù)測(cè)和非線性預(yù)測(cè)。其中ARIMA[1]作為線性預(yù)測(cè)方法的代表得到了廣泛應(yīng)用。ARIMA的理論前提是網(wǎng)絡(luò)流量具有線性寬平穩(wěn)過程特征。文獻(xiàn)[2]提出并驗(yàn)證了網(wǎng)絡(luò)流量具有多構(gòu)性、自相似性、突然繼發(fā)性。網(wǎng)絡(luò)流量在不同的時(shí)間頻率尺度上具有自相似性和多尺度特征。因此ARIMA模型預(yù)測(cè)的精度低,無法準(zhǔn)確地描述出網(wǎng)絡(luò)的全部特征。

人工神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)方法[3]用于非線性預(yù)測(cè)的效果很好,從網(wǎng)絡(luò)流量的特征來看,也是非線性的。從理論上來講,神經(jīng)網(wǎng)絡(luò)可以任意精度逼近任意非線性序列,但其不足之處在于:①難以科學(xué)地確定網(wǎng)絡(luò)的結(jié)構(gòu);②要用模型進(jìn)行預(yù)測(cè),首先要對(duì)模型進(jìn)行訓(xùn)練,而訓(xùn)練的速度有待提高;③容易陷入局部次優(yōu)點(diǎn),難于找到全局最小點(diǎn);并且時(shí)間空間復(fù)雜度太高。小波方法與神經(jīng)網(wǎng)絡(luò)的結(jié)合有兩種方法:一種是先通過小波對(duì)網(wǎng)絡(luò)流量時(shí)間序列進(jìn)行小波分解,得到小波變換尺度系數(shù)序列和小波系數(shù)序列,然后輸入到一個(gè)神經(jīng)網(wǎng)絡(luò)中加以訓(xùn)練,進(jìn)行預(yù)測(cè)。這種小波和神經(jīng)網(wǎng)絡(luò)結(jié)合的方法,雖然有較好的預(yù)測(cè)效果,但本質(zhì)上還是神經(jīng)網(wǎng)絡(luò)預(yù)測(cè),并沒有從本質(zhì)上改善神經(jīng)網(wǎng)絡(luò)訓(xùn)練速度慢,容易陷入局部次優(yōu)點(diǎn),難以找到全局最小點(diǎn)的缺點(diǎn)。另一種結(jié)合方法是把神經(jīng)網(wǎng)絡(luò)隱含層的傳輸函數(shù)用小波函數(shù)代替,這樣結(jié)合從本質(zhì)上改變了預(yù)測(cè)模型的結(jié)構(gòu),并應(yīng)用于每日太陽光總的發(fā)熱預(yù)測(cè)和電力負(fù)荷預(yù)測(cè)上[4][5]。

2 小波神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)流量預(yù)測(cè)模型

2.1 小波神經(jīng)網(wǎng)絡(luò)

在小波神經(jīng)網(wǎng)絡(luò)流量預(yù)測(cè)模型中,直接以小波函數(shù)代替常規(guī)神經(jīng)網(wǎng)絡(luò)的Sigmoid作為神經(jīng)網(wǎng)絡(luò)的隱節(jié)點(diǎn)激勵(lì)函數(shù),以小波的尺度和平移參數(shù)作為神經(jīng)網(wǎng)絡(luò)的權(quán)值和閾值參數(shù),構(gòu)成一個(gè)前饋型網(wǎng)絡(luò)。

設(shè)平方可積函數(shù)Ψ（x）∈L2（R）的傅立葉變換為^Ψ（ω）,且滿足條件

則以函數(shù)Ψ（x）∈L2（R）為母小波,采用不同的平移和伸縮因子,可生成一維小波函數(shù)系,即

ai,bi分別為伸縮和平移因子。

取上述一維小波函數(shù)系作為神經(jīng)網(wǎng)絡(luò)傳遞函數(shù)代替Sigmoid函數(shù),就構(gòu)成了小波神經(jīng)網(wǎng)絡(luò),達(dá)到對(duì)任意信號(hào)函數(shù)的最佳逼近。

2.2 網(wǎng)絡(luò)流量預(yù)測(cè)模型

網(wǎng)絡(luò)流量預(yù)測(cè)模型采用三層的小波神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),即輸入層、隱含層、輸出層。

圖1 小波神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

在輸入層中有p個(gè)輸入,即一次輸入含有p個(gè)元素的輸入序列,這p個(gè)元素是p個(gè)網(wǎng)絡(luò)流量值,p表示預(yù)測(cè)流量與它之前的相關(guān)步數(shù)。隱含層包含n個(gè)神經(jīng)元。輸出層有1個(gè)神經(jīng)元,輸出為第k+1個(gè)網(wǎng)絡(luò)流量的預(yù)測(cè)值。wm

ij表示從m-1層的神經(jīng)元i到第m層的神經(jīng)元j之間的權(quán)值,amjk表示第m層神經(jīng)元j的第k次輸入,Ψm表示第m層的轉(zhuǎn)移函數(shù),bmjk表示第m層的相應(yīng)輸出,即:

把預(yù)測(cè)值的均方誤差函數(shù)作為目標(biāo)函數(shù)C（θ）。

為了使上述誤差最小,得出網(wǎng)絡(luò)模型的最優(yōu)參數(shù),本文采用共軛梯度下降法計(jì)算誤差函數(shù)的最小值。令

2.3 小波BP網(wǎng)絡(luò)模型學(xué)習(xí)步驟

step1選用合適的小波,本文選用Morlet母小波,即

step5采用梯度最速下降法[5],來對(duì)參數(shù)w i,ai, bi進(jìn)行調(diào)整,調(diào)整方式為:

step6誤差函數(shù)的絕對(duì)值小于預(yù)先設(shè)定的某個(gè)正數(shù)值時(shí),停止網(wǎng)絡(luò)的學(xué)習(xí);否則返回step3,重復(fù)上述算法。

3 模型仿真

3.1 仿真參數(shù)說明

在Matlab 7.0仿真平臺(tái)上,分別編制神經(jīng)網(wǎng)絡(luò)算法程序和小波神經(jīng)網(wǎng)絡(luò)算法程序,提取100組網(wǎng)絡(luò)流量數(shù)據(jù),流量數(shù)據(jù)的采集是每隔5m采集一個(gè)數(shù)據(jù),共采集了100組流量數(shù)據(jù),模型采用了8-10 -1結(jié)構(gòu),即輸入層8個(gè)神經(jīng)元,10個(gè)隱含神經(jīng)元, 1個(gè)輸出神經(jīng)元。輸入層8個(gè)神經(jīng)元代表模型設(shè)定的相關(guān)步數(shù) T=8,訓(xùn)練學(xué)習(xí)率lr=0.01,動(dòng)量系數(shù)mc=0.95,訓(xùn)練的最大步數(shù)epochs=150000,訓(xùn)練目標(biāo)goal=0.025。分別對(duì)兩種網(wǎng)絡(luò)進(jìn)行訓(xùn)練,進(jìn)行了一步,五步,十步預(yù)測(cè),預(yù)測(cè)效果如圖2所示,效果良好。

圖2 神經(jīng)網(wǎng)絡(luò)和小波神經(jīng)網(wǎng)絡(luò)1、5、10步預(yù)測(cè)圖

表1 性能分析表

從表1中可以看出,在1步,5步,10步預(yù)測(cè)中,對(duì)100組流量數(shù)據(jù)進(jìn)行訓(xùn)練時(shí),平均誤差很接近,1步預(yù)測(cè)神經(jīng)網(wǎng)絡(luò)訓(xùn)練平均用了5743epochs,而小波神經(jīng)網(wǎng)絡(luò)用了4113epochs;5步預(yù)測(cè)中,神經(jīng)網(wǎng)絡(luò)訓(xùn)練平均用了7218epochs,小波神經(jīng)網(wǎng)絡(luò)用了4002epochs;10步預(yù)測(cè)中,神經(jīng)網(wǎng)絡(luò)訓(xùn)練平均用了6284epochs,小波神經(jīng)網(wǎng)絡(luò)用了3477epochs;小波神經(jīng)網(wǎng)絡(luò)在訓(xùn)練中的代數(shù)大大降低。平均到達(dá)目標(biāo)時(shí)間,1步預(yù)測(cè)中,神經(jīng)網(wǎng)絡(luò)平均用了7.4s,小波神經(jīng)網(wǎng)絡(luò)平均用了4.2s;5步預(yù)測(cè)中,神經(jīng)網(wǎng)絡(luò)平均用了7.3s,小波神經(jīng)網(wǎng)絡(luò)平均用了3.7s;10步預(yù)測(cè)中,神經(jīng)網(wǎng)絡(luò)平均用了7.6s,小波神經(jīng)網(wǎng)絡(luò)平均用了5.1s。從平均到達(dá)目標(biāo)時(shí)間上來看,小波神經(jīng)網(wǎng)絡(luò)較神經(jīng)網(wǎng)絡(luò)大大降低,從而進(jìn)一步提高了預(yù)測(cè)的實(shí)時(shí)性。

4 結(jié)束語

本文提出了一種改進(jìn)的小波神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)流量預(yù)測(cè)算法。在不影響預(yù)測(cè)精度的前提下,在一定程度上縮短了模型的訓(xùn)練代數(shù)和到達(dá)目標(biāo)的時(shí)間,從而提高了訓(xùn)練的速度,并且克服了神經(jīng)網(wǎng)絡(luò)容易陷入局部次優(yōu)點(diǎn)的缺點(diǎn),且把神經(jīng)網(wǎng)絡(luò)隱含層的傳輸函數(shù)用小波函數(shù)代替,算法易實(shí)現(xiàn),易應(yīng)用和推廣,因此它在預(yù)測(cè)方面也具有一定的實(shí)際意義。

[1]Guoqiang Yu,Changshui Zhang.Switching ARIMA Model Based Forecasting for Trafficflow[J].ICASSP,2004,（2）: 429-432.

[2]Kihong Park,Walter Willinger.Self-Similar Network Traffic and Performance Evaluation[M].Wiley Inter-Science,2000.

[3]劉芹,余一嬌,譚連生.一種利用BP神經(jīng)網(wǎng)絡(luò)的 Internet流量預(yù)測(cè)算法[Z].2003中國計(jì)算機(jī)大會(huì).

[4]A Mellit,MBenghanem,S A Kalogirou.An Adaptive Wavelet-network model for forecasting daily total solar-radiation[J].Applied Energy,2006,83（7）:705-722.

[5]Jianchang Lu,Zhihong Gu,Huiqing Wang.Research on the Application of the Wavelet Neural Network Model in Peak Load Forecasting Considering of the Climate Facto rs[J]. Proceedings of the Fourth International Conferenceon Machine Learning and Cybernetics,2005,（8）:18-21.

[6]Martin T Hagan,Howard B Demuth,Mark H Beale.神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)[M].北京:機(jī)械工業(yè)出版社,2002.

A Network Traffic Prediction Algorithm Based on Wavelet Function and Neural Network

CHEN Zhen-wei,WANG Qian,HUANG Ji-hong

（Department of Computer and Science&Technology,West Anhui University,Lu’an237012,China）

To maintain network availably,and imp rove the performance of network,the corresponding strategy could be adopted in advance by the network traffic prediction,thus better service may be offered to users.In this paper,with introducing the wavelet function into the neural network traffic prediction model,and conjugate gradient descent algorithm,a wavelet neural network model used to predict the network traffic is proposed in this paper.Simulations are performed on the model by use of some real network traffic data,and the simulation results demonstrate that the model has better prediction effect and much higher training speed,compared with the original Network Traffic Prediction model.

neural network;wavelet function;network traffic;conjugate gradient

TP393

A

1009-9735（2010）02-0036-03

2010-01-06

陳振偉（1981-）,男,河南新鄉(xiāng)人,碩士,研究方向:流量預(yù)測(cè),網(wǎng)絡(luò)管理;王茜（1980-）,女,安徽壽縣人,碩士,研究方向:基礎(chǔ)數(shù)學(xué);黃繼紅（1977-）,男,安徽霍邱人,碩士,研究方向:網(wǎng)絡(luò)安全。