應(yīng)用人工神經(jīng)網(wǎng)絡(luò)構(gòu)建的ＶＰＤＮ用戶故障檢測系統(tǒng)

摘 要：討論一個應(yīng)用人工神經(jīng)網(wǎng)絡(luò)設(shè)計的CDMA網(wǎng)絡(luò)VPDN數(shù)據(jù)用戶故障檢測系統(tǒng)。該系統(tǒng)應(yīng)用反向傳播神經(jīng)網(wǎng)絡(luò)，利用理想狀況下的用戶數(shù)據(jù)訓(xùn)練網(wǎng)絡(luò)，而用帶有隨機性的模擬實網(wǎng)數(shù)據(jù)檢測故障判斷的準(zhǔn)確性。計算機仿真結(jié)果表明在噪聲的干擾下神經(jīng)網(wǎng)絡(luò)基本可以給出具有參考價值的判斷。通過實驗充分證明利用神經(jīng)網(wǎng)絡(luò)完成故障判斷的可行性，而設(shè)計、分析、檢驗等多個研究步驟為神經(jīng)網(wǎng)絡(luò)的此類應(yīng)用提供了可供參考的藍本。

關(guān)鍵詞：神經(jīng)網(wǎng)絡(luò)；VPDN；CDMA；故障判斷

中圖分類號：TP183；TN915 文獻標(biāo)識碼：B 文章編號：1004373X(2008)1607104

VPDN Users Fault Measuring System Based on Artificial Neural Network

WANG Xueyi，SHEN Xi

(Beijing Branch Corp.，China Unicom，Beijing，100038，China)

Abstract：This paper discusses a malfunction estimation system based on artificial neural network for CDMA VPDN data subscribers.This system applies back propagation neural network，uses network data in ideal conditions to train the neural network，and then utilizes simulated network data with randomness to verify the accuracy of the estimation.Simulation results suggest that the neural network can give valuable estimations even under the perturbation of noise.Investigations in this paper confirm the feasibility of using neural network to detect malfunction，and design，analysis，verification and other research procedures provide us with a prototype for similar neural network applications.

Keywords：neural network;VPDN;CDMA;fault diagnosis

1 概 述

CDMA是碼分多址(CodeDivision Multiple Access)技術(shù)的縮寫，是近年來在數(shù)字移動通信中出現(xiàn)的一種先進的無線擴頻通信技術(shù)，它能夠滿足市場對移動通信容量和品質(zhì)的高要求。基于CDMA 1X網(wǎng)絡(luò)的VPDN（Virtual Private Dialup Network）技術(shù)是中國聯(lián)通于2003年建設(shè)完成并投入使用的一項技術(shù)。該技術(shù)以CDMA 1X網(wǎng)絡(luò)作為承載網(wǎng)，使行業(yè)用戶的移動終端，經(jīng)過AAA認(rèn)證、PDSN（Packet Data Serving Node）隧道觸發(fā)，通過專線方式（或互聯(lián)網(wǎng)方式）與企業(yè)端LNS(L2TP Network Server)建立連接后，接入到企業(yè)私有網(wǎng)絡(luò)從而進行數(shù)據(jù)傳輸(具體見文獻\\)。

VPDN用戶的接入方式（圖1）決定了運營商的設(shè)備運轉(zhuǎn)正常并不是用戶業(yè)務(wù)正常的充分條件。業(yè)務(wù)能夠正常開展，運營商設(shè)備（BSC，PDSN等）正常、運營商到用戶的專線正常、用戶設(shè)備（LNS，AAA等）正常這3個條件缺一不可。而在日常的維護過程中，通常會暴露出用戶設(shè)備故障而造成服務(wù)中斷的問題，其主要原因是行業(yè)用戶的自有設(shè)備質(zhì)量水品參差不齊，無法像運營商這樣采用電信級的設(shè)備，因此其在網(wǎng)絡(luò)中成為了比較薄弱的一個環(huán)節(jié)。在用戶機房中的LNS或AAA服務(wù)器出現(xiàn)故障時，用戶的終端就會因VPDN撥號不成功而不斷重?fù)埽环矫娼o運營商的無線網(wǎng)絡(luò)造成壓力，另一方面降低了撥號成功率——這一運營商必須統(tǒng)計的網(wǎng)絡(luò)技術(shù)指標(biāo)。由于行業(yè)、企業(yè)用戶通常不能及時發(fā)現(xiàn)自有設(shè)備的故障，那么只有運營商主動發(fā)現(xiàn)故障，才能將故障造成的對網(wǎng)絡(luò)的壓力和對技術(shù)指標(biāo)的影響降到最低。而目前現(xiàn)網(wǎng)的情況是行業(yè)、企業(yè)用戶多，運營商不具備24小時對每個用戶進行觀察的條件。其次，每個行業(yè)用的行為也不同，例如有些行業(yè)用戶的終端只有工作時間上線，而有些用戶則只用凌晨之后的時間進行數(shù)據(jù)傳輸。相對較為復(fù)雜的網(wǎng)絡(luò)情況使得人工進行觀察非常困難，因此找到一種自動化的方式判斷用戶的故障成為了一個迫切需要解決的問題。

本文討論一個應(yīng)用人工神經(jīng)網(wǎng)絡(luò)所構(gòu)建的VPDN用戶故障檢測系統(tǒng)。

2 神經(jīng)網(wǎng)絡(luò)模型的建立

目前北京聯(lián)通VPDN平臺上采用圖1方式接入的行業(yè)、企業(yè)用戶超過70家，入網(wǎng)的子用戶數(shù)（號卡數(shù)）超過2萬戶。在對通信服務(wù)質(zhì)量要求日益提高的今天，如何能夠維護好這樣一個龐大的系統(tǒng)平臺給運營商提出了一個新的課題。值得注意的是，絕大多數(shù)的用戶的行為都是有規(guī)律可循的。例如，某銀行的無線ATM機，入網(wǎng)的有300個終端子用戶，每天上午9點通常約有260個終端用戶在線，而每個終端用戶此時的平均數(shù)據(jù)流量為20 kb/s；晚上10點通常有220個終端用戶在線，平均數(shù)據(jù)流量為5 kb/s。再舉另外一個例子，某媒體廣告公司有700個終端子用戶入網(wǎng)，上午九點通常約有120個終端用戶在線，每個終端用戶平均數(shù)據(jù)流量為10 kb/s；晚上十點通常有680個終端用戶在線，平均數(shù)據(jù)流量為50 kb/s。每個行業(yè)、單位用戶都遵循一定的模式使用CDMA網(wǎng)絡(luò)，而不同用戶之間的模式通常是不同的，這個前提為從數(shù)據(jù)分析中發(fā)現(xiàn)故障用戶提供了可能性。

在北京聯(lián)通的PDSN設(shè)備上，可以觀察到總的VPDN在線用戶數(shù)和系統(tǒng)的總的數(shù)據(jù)流量。這個數(shù)據(jù)其實就是所有的行業(yè)、企業(yè)用戶的行為疊加的結(jié)果。在理想情況下，所有的行業(yè)用戶都嚴(yán)格按照平均狀況使用網(wǎng)絡(luò)，那么此時如果有某一個行業(yè)用戶發(fā)生故障將很容易被發(fā)現(xiàn)。然而在現(xiàn)網(wǎng)中PDSN上觀察到的數(shù)據(jù)要復(fù)雜很多，原因是雖然每個用戶的行為模式相對固定，但也有很多隨機的因素夾雜在其中。在線用戶數(shù)、用戶流量一般都是在均值周圍的一定的范圍內(nèi)波動。這個特點決定了如果要設(shè)計自動化的故障用戶檢測機制，那么該機制必須具備一定的容錯能力。

從行業(yè)用戶的行為特征判斷，最有希望勝任自動故障用戶檢測的工具就是人工神經(jīng)網(wǎng)絡(luò)工具。首先，神經(jīng)網(wǎng)絡(luò)最擅長的功能就是模式識別，而不同行業(yè)用戶的故障狀態(tài)完全可以作為不同的模式交給神經(jīng)網(wǎng)絡(luò)來訓(xùn)練和識別.\\。第二，神經(jīng)網(wǎng)絡(luò)具備很強的容錯能力，盡管現(xiàn)網(wǎng)情況通常會在一定程度上偏離通常預(yù)測到的“均值”，神經(jīng)網(wǎng)絡(luò)仍然可以做出正確的判斷.\\。上述2點構(gòu)成了用人工神經(jīng)網(wǎng)絡(luò)完成此項研究的重要依據(jù)。在神經(jīng)網(wǎng)絡(luò)的應(yīng)用中，使用的最廣泛的就是反向傳播網(wǎng)絡(luò)（Back Propagation Neural Network，BP網(wǎng)絡(luò)）。BP網(wǎng)絡(luò)是采用WidrowHoff學(xué)習(xí)算法和非線性可微轉(zhuǎn)移函數(shù)的多層網(wǎng)絡(luò).\\。本文中的建模和仿真過程將應(yīng)用BP網(wǎng)絡(luò).\\并直接調(diào)用MatLab神經(jīng)網(wǎng)絡(luò)工具箱提供的函數(shù)。一個經(jīng)過訓(xùn)練的BP網(wǎng)絡(luò)能夠根據(jù)輸入給出合適的結(jié)果，即使這個輸入并沒有被訓(xùn)練過.\\。這個特性使得BP網(wǎng)絡(luò)很適合采用輸入/目標(biāo)對進行訓(xùn)練，而且并不需要把所有可能的輸入/目標(biāo)對都訓(xùn)練過。

為了讓數(shù)學(xué)建模的過程更加清晰，首先討論一個簡單的3用戶模型。在這個假想的VPDN網(wǎng)絡(luò)平臺上，有3個不同的行業(yè)用戶。每個行業(yè)用戶在不同的時間點的行為不同，這里將只關(guān)注一個時間點——上午9時。

表1中總結(jié)了該模型中所有的重要參數(shù)。例如用戶1，在9點它的平均在線用戶數(shù)為70，其應(yīng)用決定了每用戶的平均流量為20 kb/s，因此用戶1產(chǎn)生的總流量為1 400 kb/s。

前面已經(jīng)提到，PDSN設(shè)備可以觀測到VPDN系統(tǒng)中的用戶總數(shù)和它們產(chǎn)生的總流量。依據(jù)表1中的數(shù)據(jù)，不難分析出9點鐘PDSN可能觀察到的8種網(wǎng)絡(luò)狀態(tài)（如表2所示）。例如，如果用戶2的LNS設(shè)備或AAA設(shè)備出現(xiàn)故障，那么380個用戶和3 800 kb/s的流量將從網(wǎng)絡(luò)中消失，因此這種情況下PDSN上觀察到的在線用戶總數(shù)為670（用戶1和用戶3的總和），而總流量為25 400 kb/s。從這個表中不難分析，如果要設(shè)計一個用于判斷故障的神經(jīng)網(wǎng)絡(luò)，必須的3個輸入是時間、在線總用戶數(shù)和總流量。

在此反向傳播神經(jīng)網(wǎng)絡(luò)的設(shè)計過程中，輸出表示的明確性作為了本文考慮的重要因素：為了使輸出盡量通俗易懂，這里在輸出層用3個神經(jīng)元分別表示3個用戶。同時，將盡量讓這3個神經(jīng)元的輸出值能夠“兩極化”。考慮到反向傳播神經(jīng)網(wǎng)絡(luò)的轉(zhuǎn)移函數(shù)必須可微，這里采用“l(fā)ogsig”函數(shù)：log sig(x)=1/(1+e.-x)，并用輸出“0.9”代表故障，“0.1”代表狀態(tài)正常。總之，輸入和輸出層各設(shè)計為3個神經(jīng)元。輸入層的3個輸入分別為時間（0~23時）、在線總用戶數(shù)和總流量。考慮到輸入到各個神經(jīng)元的數(shù)值盡量避免差別過大，這里將在線總用戶數(shù)除以10、總流量除以100而作為輸入的數(shù)值。舉例而言，［9；98；278］ 這個網(wǎng)絡(luò)狀態(tài)對應(yīng)了［0.9；0.1；0.1］這個輸出，表示了用戶1出現(xiàn)了故障，用戶2和用戶3狀態(tài)正常。如圖2所示。

3 計算機仿真結(jié)果

針對3用戶VPDN系統(tǒng)的故障檢測神經(jīng)網(wǎng)絡(luò)如圖3所示。

下面以8種狀態(tài)作為目標(biāo)，開始對這個神經(jīng)網(wǎng)絡(luò)進行訓(xùn)練。首先需要確定的就是隱層（中間層）神經(jīng)網(wǎng)絡(luò)的神經(jīng)元個數(shù)。在實際的人工神經(jīng)網(wǎng)絡(luò)應(yīng)用中，中間層的神經(jīng)元數(shù)量選擇并沒有太多的理論依據(jù)予以指導(dǎo)，通常是通過實驗來找到最優(yōu)的神經(jīng)元數(shù)。多次實驗的結(jié)果表明，800~1 500個神經(jīng)元就能很好地保證網(wǎng)絡(luò)性能函數(shù)（MSE均方誤差.\\）快速收斂到目標(biāo)值，圖4中實驗的神經(jīng)元數(shù)量為900個。其他Matlab訓(xùn)練參數(shù)說明如下：

net.trainParam.show = 50： 每50次訓(xùn)練返回結(jié)果

net.trainParam.lr = 0.11： 學(xué)習(xí)步長設(shè)置為0.11

net.trainParam.epochs = 600： 訓(xùn)練次數(shù)設(shè)置為600，即使不能達到目標(biāo)也將終止訓(xùn)練

net.trainParam.goal = 0.0002： 訓(xùn)練目標(biāo)設(shè)置為0.000 2，MSE均方誤差至此目標(biāo)后終止訓(xùn)練

圖4（a）為此神經(jīng)網(wǎng)絡(luò)性能函數(shù)隨著訓(xùn)練次數(shù)的增加而收斂的情況。可以看出，在544次訓(xùn)練后，輸出與目標(biāo)的均方誤差就達到了目標(biāo)值之下，訓(xùn)練完成。為了檢驗訓(xùn)練的結(jié)果，訓(xùn)練完成后，8種網(wǎng)絡(luò)狀態(tài)被作為輸入再次代入神經(jīng)網(wǎng)絡(luò)，觀察的輸出與訓(xùn)練目標(biāo)進行對比。右圖中的“○”表示的就是8種狀態(tài)下的第一個神經(jīng)元的目標(biāo)輸出，其中有4種狀態(tài)對應(yīng)了用戶1故障，即第一個神經(jīng)元目標(biāo)輸出0.9；另外4種狀態(tài)對應(yīng)了用戶1正常，即第一個神經(jīng)元目標(biāo)輸出0.1。圖4（b）中的“×” 表示了8種狀態(tài)下的第一個神經(jīng)元的實際輸出，其中有4種狀態(tài)對應(yīng)了用戶1故障，而此時第一個神經(jīng)元實際輸出也非常接近0.9，另外4種狀態(tài)對應(yīng)了用戶1正常，此時第一個神經(jīng)元的實際輸出也非常接近0.1。從3個神經(jīng)元的全部輸出結(jié)果來看，神經(jīng)網(wǎng)絡(luò)的訓(xùn)練情況非常理想，在8種不同的總用戶數(shù)、總流量的組合輸入的情況下，神經(jīng)網(wǎng)絡(luò)均能返回非常接近兩極即0.1和0.9的數(shù)值，訓(xùn)練目標(biāo)可以達到。

網(wǎng)絡(luò)訓(xùn)練成功只是完成了神經(jīng)網(wǎng)絡(luò)設(shè)計的第一步，在本系統(tǒng)中需要用與現(xiàn)實情況比較接近的帶有隨機性的輸入數(shù)據(jù)來檢測神經(jīng)網(wǎng)絡(luò)判斷故障的能力。對于行為比較規(guī)律的行業(yè)用戶來說，如果進行長時間的觀察，通常會觀察到每天同一時刻在線的用戶數(shù)雖然不盡相同，但是都是在一個均值附近的范圍內(nèi)。按照隨機數(shù)學(xué)的理論分析，每天同一時刻的在線用戶數(shù)應(yīng)當(dāng)是在以μ為均值、σ為方差的隨機數(shù)范圍內(nèi)取值，如果觀察的數(shù)據(jù)點足夠多，應(yīng)該可以看出它們符合正態(tài)分布。對于在線用戶產(chǎn)生的流量也是如此。例如對于行業(yè)用戶3，每天9點鐘平均在線用戶數(shù)μ的取值應(yīng)為600。而對于方差σ的取值，應(yīng)該與μ有正比的關(guān)系。原因很簡單，如果用戶數(shù)數(shù)量大那么方差通常也會大，而如果用戶數(shù)小那么方差也會相應(yīng)減小。因此在本文的討論中，定義的兩種方差的選擇方式均與均值μ成正比：小方差被定義為均值的0.5%，大方差被定義為均值的2%。

下面就將用300組正態(tài)分布的隨機數(shù)所給出的在線用戶數(shù)和用戶總流量數(shù)據(jù)來檢驗前面所訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)是否能夠給出正確的故障判斷。時間在這里仍被固定為9，它和在線用戶數(shù)、用戶總流量一起作為神經(jīng)網(wǎng)絡(luò)的輸入，每次依據(jù)輸入進行計算后3個輸出神經(jīng)元的每一次輸出值被用“×”標(biāo)示在圖中（見圖5）。神經(jīng)元輸出的目標(biāo)值以“○”在圖中標(biāo)出。

從圖5中可以看出，對于小方差的情況，3個神經(jīng)元給出的300次輸出都非常接近目標(biāo)值0.1，其中分別表示用戶2、用戶3的2號、3號神經(jīng)元的偏差在0.01以內(nèi)，而表示用戶1的1號神經(jīng)元的輸出值也從沒有超過0.2（見圖5(a)）。這就說明在小方差情況下神經(jīng)網(wǎng)絡(luò)在300個樣本中都能做出正確的判斷。對于大方差的情況，3個神經(jīng)元給出的輸出的偏差均有所增大（見圖5(b)）。由于神經(jīng)元的狀態(tài)被用于故障判斷，為了簡化起見，判斷將被歸為“故障”和“正常”兩種。本系統(tǒng)中神經(jīng)元的輸出將被以0.5為界劃分為2類：大于0.5的取值被判斷為故障；小于0.5的被判斷為正常。則圖中1號神經(jīng)元有3個“×”位于0.5之上，也就是有3個樣本被錯誤地判斷成了用戶1故障，這里權(quán)且將其定義為“誤判”。那么300次有3次誤判，因此這里定義誤判率為1%。與無故障的情況的仿真模式相同，將有故障狀態(tài)的隨機數(shù)樣本交給神經(jīng)網(wǎng)絡(luò)作判斷，結(jié)果表明在小方差情況下，神經(jīng)網(wǎng)絡(luò)的判斷仍舊是完全準(zhǔn)確的，大方差情況下誤判率僅為為0.33%。

上面所介紹的3用戶VPDN系統(tǒng)較為簡單，第二步的實驗?zāi)M出一個更為真實的10用戶VPDN系統(tǒng)，用來檢測神經(jīng)網(wǎng)絡(luò)判斷故障的性能。為了識別10個用戶所帶來的更多的故障狀態(tài)，在神經(jīng)網(wǎng)絡(luò)中隱層所需的神經(jīng)元數(shù)量也大幅增長，在本次的計算機仿真中采用的是有9 000個隱層神經(jīng)元的神經(jīng)網(wǎng)絡(luò)。網(wǎng)絡(luò)訓(xùn)練和用隨機樣本檢測故障的步驟與前面相同。

圖5（a）給出的結(jié)果來看，訓(xùn)練結(jié)果與訓(xùn)練目標(biāo)十分接近，神經(jīng)網(wǎng)絡(luò)輸出的結(jié)果“兩極化”很明顯，能夠完成故障判斷的功能。而從圖5(b)給出的判斷結(jié)果來看，在以0.5作為分界進行判斷的情況下，此神經(jīng)網(wǎng)絡(luò)的誤判率保持在了很低的水平。換而言之，該神經(jīng)網(wǎng)絡(luò)同樣可以給出極具參考價值的故障判斷。

4 結(jié)果分析與結(jié)論

本文中首先分析的3用戶VPDN系統(tǒng)和用于檢測此系統(tǒng)故障的神經(jīng)網(wǎng)絡(luò)充分證明了利用神經(jīng)網(wǎng)絡(luò)完成故障判斷的可行性。盡管被用于檢測的VPDN系統(tǒng)用戶數(shù)少，因此行為模式也相對簡單，但是此系統(tǒng)比較具有代表性，可以反映現(xiàn)網(wǎng)VPDN系統(tǒng)的諸多特征。在設(shè)計完成神經(jīng)網(wǎng)路系統(tǒng)后，與現(xiàn)實情況比較接近的帶有隨機性的輸入數(shù)據(jù)被用來檢測神經(jīng)網(wǎng)絡(luò)判斷故障的能力。總體而言故障判斷的正確率在99%以上。

對于與現(xiàn)網(wǎng)更為接近的10用戶VPDN系統(tǒng)，通過選擇合適的神經(jīng)元數(shù)和訓(xùn)練參數(shù)，神經(jīng)網(wǎng)絡(luò)仍可以順利完成訓(xùn)練。而用帶有隨機性的用戶行為進行檢驗時，神經(jīng)網(wǎng)絡(luò)的誤判率也保持在了很低的水平。本文中的計算機仿真分析從實驗的角度證明了利用神經(jīng)網(wǎng)絡(luò)完成VPDN系統(tǒng)的故障檢測是完全可能的。而設(shè)計、分析、檢驗等多個研究步驟為實際應(yīng)用中神經(jīng)網(wǎng)絡(luò)系統(tǒng)的設(shè)計提供了可供參考的藍本。

參 考 文 獻

［1］顧立新，任立剛.基于cdma2000 1X移動網(wǎng)絡(luò)的新技術(shù)應(yīng)用［J］.中國電信建設(shè)，2004，16(8):2428.

［2］李明鐸，任立剛.cdma2000 1X分組域VPDN的安全性分析［J］.電信技術(shù)，2004（12）：4446.

［3］Duba R O，Hart P E.Pattern Classification and Scene Analysis\\.Wiley，New York，1973.

［4］De Wilde P.Neural Network Models\\.Springer，Berlin，

1997.

［5］Tsodyks M，Gilbert C.Neural Networks and Perceptual Learning\\.Nature，2004，431:775781.

［6］Matlab神經(jīng)網(wǎng)絡(luò)工具箱應(yīng)用簡介：202.114.88.181/File/Tools%20Ref/matlab16.pdf.

［7］Halici U.Reinforcement Learning with Internal Expectation for the Random Neural Network\\.European Journal of

Operations Research，2000，126 (2)，288307.

［8］MATLAB 神經(jīng)網(wǎng)絡(luò)工具箱函數(shù)： 202.114.88.181/File/Tools%20Ref/matlab15.pdf.

作者簡介 王學(xué)毅 北京郵電大學(xué)信息與通信工程專業(yè)博士研究生，研究方向為移動數(shù)據(jù)業(yè)務(wù)。中國聯(lián)通北京分公司技術(shù)綜合應(yīng)用部經(jīng)理，多年從事移動增值業(yè)務(wù)工作。