俞秀婷,覃錫忠,賈振紅,傅云瑾,曹傳玲,常 春
(1.新疆大學 信息科學與工程學院,新疆 烏魯木齊830046;2.中國移動通信集團設計院有限公司,北京100080;3.中國移動通信集團新疆有限公司,新疆 烏魯木齊830063)
灰色系統理論[1]提供了一種可以在貧信息情況下解決系統問題的新途徑,該理論對灰色量是用數據生成的方法,將分布規律較弱的原始數據整理成規律性較強的數列再進行研究,而不是從尋找統計規律的角度出發對大樣本數據進行研究。在灰色系統中建立的模型被稱為灰色模型[2](GM),它可以預測貧信息、小樣本、不確定系統特征值的發展趨勢。神經網絡具有并行性處理,非線性映射、容錯力強和自適應能力等優點??梢猿浞掷没疑A測模型和神經網絡模型的相似性和互補性,將兩個模型結合,建立灰色神經網絡[3-7]模型。雖然GNN 模型的建立彌補了單一使用灰色模型或者神經網絡技術解決問題的不足,但是模型中的參數具有很大的隨機性,網絡在訓練時容易陷入局部最優導致模型逼近能力弱、預測精度不高。本文采用改進的粒子群優化算法來優化灰色神經網絡的初始參數,使網絡的預測值更加逼近真實值,提高了網絡的預測精度。
灰色系統與神經網絡技術有多種組合方式[8],根據兩者的融合方法,灰色神經網絡模型可分為串聯型灰色神經網絡 (SGNN)、并聯型灰色神經網絡 (PGNN)、嵌入型灰色神經網絡 (IGNN)和混合型灰色神經網絡 (BGNN)4種模型,本文采用混合型研究灰色神經網絡,這種模型增加了網絡的并行處理能力,可以提高GNN 模型的預測精度。
設原始數據序列為x(t)(t=1,2,3,…,n),累加生成數據序列為y(t)(t=1,2,3,…,n),其用數學表示為

將累加生成的數列建立微分方程,得到n 個參數對應的灰色神經網絡模型的微分方程

式中:y2,y3,…,yn——輸入數據,y1——輸出數據,a,b1,b2,…,bn-1——微分方程參數,組成GNN 的初始參數。式 (2)的時間響應表達式為


將式 (4)映射到一個擴展的BPNN 中即可得到一個GNN 模型,其拓撲結構如圖1所示。
由圖1可看出,灰色神經網絡分為4層,分別記為LA層、LB層、LC 層、LD 層,其中t 為輸入參數序號,y2(t),y3(t),y4(t),…,yn(t)表示網絡輸入變量,y1表示網絡輸出變量。w11表示LA 層到LB 層的連接權值,w21,w22,…,w2n表示LB 層到LC 層的連接權值,w31,w32,…,w3n表示LC 層到LD 層的連接權值。網絡的初始參數w11=a,w21=-y1(0),w2i=2bi-1/a,(i=1,2,…,n),w3j=1+e-at,(j=1,2,…,n)。每一層上神經元的輸出值可由以下公式計算給出

圖1 灰色神經網絡的拓撲結構

其中,θ為輸出層的閾值,θ= (1+e-at)(d-y1(0)),LB層上神經元的轉移函數取Sigmoid型函數:f(x)=1/ (1+e-x),其它層神經元的轉移函數取線性函數:f(x)=x。在網絡訓練過程中,通過計算網絡的期望輸出與預測輸出的誤差值,反向調整灰色神經網絡的權值和閾值,其迭代公式如下:
其中輸出層LD 的誤差σ

LC層的誤差σk

LB層的誤差σn+1

權值和閾值的計算

將誤差公式帶入式 (12),式 (13)進行權值和閾值的迭代更新。
PSO 算 法[9-13]是 將 每 個 個 體 看 作D 維 搜 索 空 間 中 的 一個沒有體積的粒子,根據對環境的適應度將種群中的粒子個體移動到更好的區域,第i個粒子表示為Xi=(xi1,xi2,…,xid)(1≤d≤D),經歷過的最優位置為Pi= (pi1,pi2,…,pid)(1≤d≤D),記為個體最優解pbest。群體中的所有粒子經歷的最優位置為Pk,記為全局最優解gbest。粒子i的速度為vi= (vi1,vi2,…,vid)(1≤d≤D)。每一代粒子的速度、位置的更新和適應度函數的計算通過如下公式得到

式 (14)中慣性權重w 的迭代公式為

其中,k為進化代數,c1和c2為加速常數,rand為 [0,1]內的隨機數,N 為種群中粒子的個數,yi為粒子i 的實際輸出,y′為粒子i的期望輸出,wmin,wmax分別為慣性權重的最大值和最小值,Tmax為設定的最大迭代次數。
PSO 算法是一種基于群體協作的隨機搜索算法,在隨機搜索后期,容易出現早熟收斂的現象。這里通過給定一個閾值h,一般設定h→0,當粒子的速度vi小于這個閥值時,通過添加一個加速動量,重新初始化速度,且使-vmax≤vi≤vmax,然后讓粒子重新飛行搜索,重新分布原來可能會出現的早熟粒子,擴展搜索以找到全局最優的位置,上述過程可表達為

式(18)中v′id表示改進后粒子的速度,λ表示優化系數,m (0<m<1)表示隨機變量參數,pid表示速度變化后經歷粒子的最優位置;x′id表示速度變化后粒子所處的位置。在算法中優化系數λ有著重要的作用,λ取值過大或過小都會影響優化的效果,λ取值過小可能導致粒子速度變化不大,優化不明顯,λ取值過大導致重新初始化粒子速度過大,影響粒子的收斂性,也可能使粒子跳過全局最優值,反而不能找到最優值。這里優化系數的值由下式確定

IPSO-GNN 計算的實現大體分為3個階段:GNN 模型結構的確定、PSO 算法的改進以及網絡的仿真,其具體步驟如下:
(1)根據給出的訓練樣本,構建灰色神經網絡模型,確定模型參數a,bi的個數和網絡的連接權值和閾值,初始化參數。
(2)對給定的訓練樣本進行歸一化和預處理。
(3)把灰色神經網絡模型的參數a,bi作為粒子群算法中的粒子,初始化粒子的加速常數,慣性權重的最大、最小值以及最大迭代次數;初始化粒子的速度、位置,確定粒子的初始最優值和全局最優值。
(4)用式 (16)作為粒子的適應度函數,計算粒子的適應度值。若粒子的當前位置比歷史最優位置好,則把當前位置作為粒子的最優位置;若當前的適應度函數值優于種群的歷史最優值,則替換種群的最優位置。反之,則保持歷史最優位置不變。
(5)比較給定的速度閾值h 和當前的粒子速度大小,若當前的粒子速度小于h,則給定一個加速動量,按式(18)計算新的速度,返回步驟 (2),重新進行優化。
(6)判斷是否滿足PSO 算法的結束條件 (達到最大迭代次數或小于給定誤差),如果滿足,則把尋找到的全局最優解作為模型參數a,bi的值,否則返回步驟 (2)重新搜索。
(7)利用確定的網絡輸入訓練樣本進行訓練,利用式(9),式 (10)和式 (11)計算誤差,再根據式 (12)和式(13)更新網絡的權值和閾值。
(8)利用訓練好的網絡對忙時話務量進行預測,并對預測值與真實值進行分析。
觀察新疆A,B兩地區2014年1月1日到2月28日的話務量數據,對每天的話務量每隔一小時統計一次,每天記錄24個數據,將這24個數據作為每天0到23點的話務量值,并找出每天24個數據中的最大值作為當天的忙時話務量,共得到59個忙時話務量數據。收集A,B 兩個地區2014年1月1日到2月28日每天17點到21點共59×5個話務量數據,將這些話務量數據作為灰色神經網絡輸入值,對應的每天的忙時話務量數據作為網絡輸出值,進行網絡訓練預測。
從收集的數據中,選取前49天的數據作為訓練樣本,后10天的數據作為測試樣本。用改進PSO-GNN 模型進行尋優、訓練和預測。文中灰色神經網絡的結構采用1-1-6-1,改進PSO 算法中初始參數設置:加速常數c1=c2=2,最大迭代次數Tmax=100,慣性權重wmin=0.2,wmax=0.9,粒子速度vmin=-1,vmax=1。選取PSO-GNNM、GNN 和BPNN 作為對比模型,對比模型中參數的初始參數值與IPSO 灰色神經網絡模型取值相同,BPNN 的隱含層神經元取11個,預測誤差評價通過式 (21)給出

式中:G——預測值,G′——真實值,k——訓練次數。用4種模型分別對A,B 地區的話務量預測,并記錄這4 種模型預測誤差,結果如圖2、圖3和表1所示。

圖2 A 地區話務量預測

圖3 B地區話務量預測

表1 A,B兩地區話務量預測誤差統計
由圖2和圖3中可以看出,運用IPSO-GNN 模型預測忙時話務量比PSO-GNN,GNN 和BPNN 模型具有更好的預測效果,更加接近于真實值。表1中,分析各個模型的預測誤差發現,對于新疆A 和B 地區而言,BPNN 模型的誤差均值分別為7.23%和6.84%,GNN 模型的誤差均值分別為5.79%和5.37%,可見在樣本較少的預測問題上,GNN 模型的預測效果要優于BPNN 模型;同時,PSOGNN 模型的誤差均值分別為3.89%和3.73%,IPSO-GNN模型的誤差均值分別為2.59%和2.55%,比較預測結果發現,IPSO 算法具有更好的全局搜索尋優能力,在預測的精度上,IPSO-GNN 具有最高的預測精度,誤差要小于其它3種模型。這說明IPSO 算法、GM 模型和BPNN 模型的集成模型能夠綜合各個單一模型的長處,更好地挖掘話務量序列背后的復雜線性與非線性特征,改善了模型的預測性能。
本文充分利用了神經網絡具有較強的非線性映射能力和灰色預測建模所需樣本較少、方法簡單的優點,將神經網絡理論和灰色理論結合起來,組成GNN 模型,在一定程度上達到了取長補短的效果。然后,針對PSO 算法在粒子尋優過程粒子的速度可能小于一定閥值而陷入局部最優導致不能達到全局最優的缺點,提出了當粒子速度小于這個閥值時,對粒子施加一個沖量,使其位置更新,促使粒子群達到全局最優。最后,運用IPSO 算法對GNN 模型的參數進行尋優,提出了IPSO-GNN 模型,并運用于忙時話務量的預測。結果表明,相比于PSO-GNN、GNN 和BPNN模型,IPSO-GNN 模型具有更高的預測精度,是一種可靠的話務量預測方法。由于研究時間有限,文中針對忙時話務量預測建立的IPSO-GNN 模型,除了對話務量預測研究外,可考慮將其研究對象的范圍擴大。
[1]Kayacan E,Ulutas B,Kaynak O.Grey system theory-based models in time series prediction [J].Expert Systems with Applications,2010,37 (2):1784-1789.
[2]Lin JJ,Sun PT,Chen JJR,et al.Applying gray model to predicting trend of textile fashion colors [J].The Journal of the Textile Institute,2010,101 (4):360-368.
[3]Zhou D.A new hybrid grey neural network based on grey verhulst model and BP neural network for time series forecasting[J].International Journal of Information Technology &Computer Science,2013,5 (10):114-120.
[4]WU Yiping,TENG Weifu,LI Yawei.Application of greyneural network model to landslide deformation prediction [J].Chinese Journal of Rock Mechanics and Engineering,2007,26(3):632-636 (in Chinese). [吳益平,滕偉福,李亞偉.灰色-神經網絡模型在滑坡變形預測中的應用 [J].巖石力學與工程學報,2007,26 (3):632-636.]
[5]Zhang D,Ren Z,Bi Y,et al.Power load forecasting based on grey neural network [C]//IEEE International Symposium on Industrial Electronics.IEEE,2008:1885-1889.
[6]Zeng B,Zou JX,Li K,et al.Wind speed prediction based on improved grey neural network model[C]//Applied Mechanics and Materials,2014:1235-1240.
[7]He Q,Chen G,Chen X,et al.Life prediction of hydraulic pump based on an improved grey neural network [J].Zhongguo Jixie Gongcheng (China Mechanical Engineering),2013,24 (4):500-506.
[8]FAN Yanmin.Prediction on stock index based on grey neural network [D].Beijing:Beijing University of Technology,2011 (in Chinese).[范艷敏.基于灰色神經網絡的股指預測方法研究 [D].北京:北京工業大學,2011.]
[9]Selvakumar AI,Thanushkodi K.A new particle swarm optimization solution to nonconvex economic dispatch problems[J].IEEE Transactions on Power Systems,2007,22 (1):42-51.
[10]Ting CJ,Wu KC,Chou H.Particle swarm optimization algorithm for the berth allocation problem [J].Expert Systems with Applications,2014,41 (4):1543-1550.
[11]MA Jiming,XU Zhongren, WANG Bingzheng.A PSObased combined forecasting grey neural network model[J].Computer Engineering & Science,2012,34 (2):146-149(in Chinese).[馬吉明,徐忠仁,王秉政.基于粒子群優化的灰色神經網絡組合預測模型研究 [J].計算機工程與科學,2012,34 (2):146-149.]
[12]Cakir O,Kaya I,Yazgan A,et al.Emitter Location Finding using Particle Swarm Optimization [J].Radioengineering,2014,23 (1):253.
[13]Li GD,Masuda S,Yamaguchi D,et al.The optimal GNNPID control system using particle swarm optimization algorithm[J].International Journal of Innovative Computing,Information and Control,2009,5 (10):3457-3469.