基于超限學習機的通信網絡彈性預測方法*

鄭小祿，黃 寧，徐 侃

（北京航空航天大學 可靠性與系統工程學院，北京 100191）

0 引 言

網絡容錯策略能夠使網絡在遭受故障時，通過主動或被動的容錯機制抵御故障，保證網絡的可靠性[1-3]。為了保證系統的容錯能力達到最佳，通常根據網絡的分層特性，在不同層面上部署多個容錯機制，形成混合容錯策略來提升網絡的容錯能力，從而保證網絡的可靠性[4]。對于網絡容錯能力的評價，目前主要通過對網絡彈性的定性和定量評估來實現[5]。網絡彈性定義為，網絡在遭受攻擊或失效后，網絡可靠性恢復到正常狀態的能力。因此，考慮容錯策略的前提下，評估和預測網絡的彈性，是網絡設計階段容錯設計面臨的重要問題。

為了評估和預測網絡彈性，相關學者進行了大量研究，其中大部分研究集中在網絡彈性評估方面。關于網絡彈性的評估研究，主要是基于模型的彈性評估。根據S. Hosseini等學者[6]對網絡彈性評估的方法分類，按照不同的容錯機理，可以將彈性評估分為基于結構和拓撲的彈性評估和基于性能的彈性評估。其中，基于結構和拓撲的彈性評估主要通過對網絡物理層拓撲具有的魯棒性和容侵性進行建模，然后基于模型分析網絡彈性。例如，A. Sydney等學者[7]基于復雜網絡理論，提出了通過網絡拓撲自然連通度來衡量網絡結構的彈性；進一步地，M. J. F. Alenazi等學者[8]提出了利用網絡“譜測度”來衡量網絡結構彈性，同時證明譜測度優于其他連通性參數，更能表征網絡結構所具有的彈性。基于網絡性能的彈性評估研究主要是對網絡運行狀態參數如時延﹑丟包率等，根據狀態空間法等方式進行建模，進而基于模型對網絡彈性進行評估。D.Zhang等學者[9]在此基礎上考慮移動因素對網絡彈性的影響；J. P. Rohrer等學者[10]在考慮網絡邏輯層協議的基礎上，提出了網絡彈性是物理層拓撲容錯和邏輯層容錯協議共同影響的結果。網絡彈性的預測相對于網絡彈性的評估，是網絡彈性領域新興的熱點，主要思路仍然是基于網絡運行參數和設計參數，通過對網絡彈性進行建模，以這些參數和網絡彈性水平之間的映射關系預測網絡彈性[11-15]。目前，比較具有代表性的研究是J.Gao和Barabási A L[13]提出的基于“模式”的預測方法。該方法基于復雜網絡理論，通過抽象出網絡控制相關的結構參數和網絡狀態參數的映射，將網絡多維動態模型抽象為一維模型，從而形成與彈性相關的模式，進而通過模式預測網絡彈性。

綜上所述，目前網絡彈性預測研究大多是延續彈性評估的研究成果，利用模型驅動方法，以模式分類﹑狀態空間方法等，基于已有的網絡結構等設計參數預測網絡彈性。然而，網絡作為一種復雜的對象，呈現出動態性和耦合性特征。因而，在混合容錯策略內部也存在這種耦合影響關系。現有的彈性預測方法僅僅能通過單一的容錯策略進行預測，如在具有某種容錯拓撲結構下，通過容錯拓撲的結構參數來預測網絡彈性，而基于邏輯層或基于多層混合容錯策略的彈性預測，由于缺乏對邏輯層容錯策略的定量分析和建模研究，導致當前的彈性預測方法不能支持考慮多種容錯機制耦合下的彈性預測。對于網絡彈性預測領域，由還原論思想導致的問題，本文從整體論思路出發，提出了一種基于數據驅動的﹑基于機器學習和彈性理論相結合的彈性預測方法。在對網絡容錯策略進行量化建模分析的基礎上，利用機器學習方法在非線性系統模式識別和線性擬合領域所具有的優勢[16]，采用超限學習機這一新興的高效機器學習算法[17]預測網絡彈性，不僅全面考慮了不同層面容錯策略對整網彈性的影響，而且能夠直觀反映不同容錯策略下網絡的彈性變化趨勢，為進一步研究混合容錯策略耦合對系統可靠性的影響打下了理論基礎。

1 網絡容錯策略模型構建

根據網絡分層理論的定義，網絡的應用和具有的功能是基于網絡物理層和邏輯層的路由等傳輸協議實現的。路由協議作為規定網絡上數據傳輸的路徑準則，直接影響網絡功能和應用的正常運行。而路由協議所產生的路由表，則是在下層物理層連通路徑的基礎上建立的。在宏觀時間尺度上，網絡的物理層以及由物理層之上路由協議等邏輯規則產生的邏輯層，各自在結構和空間維度上隨著時間變化呈現出時空的動態性特征[14]。基于此，本文為了描述這種網絡的時空動態特性，構建了網絡時空動態模型。

1.1 網絡時空動態模型

網絡時空動態模型是為了描述網絡邏輯層和物理層的時空動態特征，進而可以在此網絡模型基礎上對部署在這兩個層面的混合網絡容錯策略進行建模。綜上所述，網絡時空動態模型由兩部分組成：由物理連接構建的拓撲物理層和由路由等協議構建的邏輯層。

在此模型上，物理層的連通性變化有可能是由

該模型通過計算節點對(u,v)之間存在鏈路的概率來得到。其中，β、α∈(0,1]是模型調節參數，α表示長鏈路和短鏈路的比例，α越大，長鏈路越多；β表示鏈路的密度，β越大，鏈路密度越大。d(u,v)表示節點對(u,v)之間的歐氏距離，L是任意兩個節點之間的最大歐式距離。

（2）邏輯層模型。同樣，為了便于描述和定義邏輯層的時空動態特性，本文定義邏輯層如下：邏輯層可以被考慮成一個有向圖G=(V,E )，其中V代表網絡節點的集合，|V |代表網絡節點的個數，對于u∈V，表征了一條節點u和v之間的有效物理路徑，記為e；而(u,v)表示了u和v之間的邏輯連接，記為e(u,e)。E={e|u∈V,v∈V}為網絡中邏輯層有效邊的集合，有效邊的個數記為|E|。定義一個函數W：E→R+,W(e)表示e的權值，記為w(u,v)。如果w(u,v)為+∞，說明e是斷開的。集合V在這里定義為v1到vn的路徑；對于，vk-1是vk所在路徑上的下行節點；對于vi∈v,vj∈v,Path(vi,vj)表示源節點為vi﹑目的節點為vj的物理路徑集合，vi∈v,vj∈v,path(vi,vj)為同樣OD節點對邏輯連接的集合，f( path(vi,vj))表示對路徑path(vi,vj)的評價函數。因此，對于從vi到vj的數據包的傳輸過程，這里建立有效傳輸的過程就是其尋找最優路path*(vi,vj)的過程，即為尋找評價函數最優化的過程，定義如下：于節點移動造成的，如MANET網絡﹑移動蜂窩通信網絡等具有移動特征的網絡，節點具有強移動特征。因此，由于節點的移動特征和節點發射功率半徑的約束，網絡的物理拓撲呈現時空動態性。相應地，為了實現數據有效傳輸，路由協議會更新路由表，因此在邏輯層也呈現出時空動態性。此外，對于有線網絡和無線網絡，網絡節點和鏈路的失效也是導致網絡物理層和邏輯層呈現時空特征的原因。

為了構建網絡動態模型，本文引入以下定義。

（1）物理層模型。基于網絡物理層的時空動態性特征，可以借鑒已有的隨機圖模型來構建物理層網絡模型。如Gilbert graphs﹑Waxman graphs和Gabriel graphs等模型[8]，通常被用來對無線網絡的物理拓撲進行建模。這里為了更好地體現物理層容錯策略的特征，選取Waxman模型[18]作為物理層網絡模型：

滿足于：

物理層可以通過waxman模型得到，邏輯層由相應的路由策略得到最優路徑。由于節點失效或節點移動導致的物理層變化會對邏輯層路由選擇造成影響，從而改變了邏輯層的節點連接情況。至此，能夠反映網絡時空特征的網絡模型建立完畢，下一步可以在這個基礎上開展網絡容錯策略建模的研究。

1.2 容錯策略模型

對應于網絡時空動態模型，網絡的容錯策略模型由兩部分構成：物理層容錯策略模型和邏輯層容錯策略模型。

1.2.1 物理層容錯策略模型

從網絡科學的角度來看，網絡結構或拓撲特征能夠反映網絡一些運行時的行為特性。前文中已經提到，復雜網絡的相關研究證明，網絡的拓撲特性可以決定網絡的魯棒性和生存性。因此，與這兩種特性有緊密關系的網絡彈性，也可以由網絡結構相關參數來表征。這也是網絡彈性評估方法中，基于網絡結構和拓撲方法的依據[6]。通過文獻調研，有很多網絡魯棒性相關的參數可以用來表征網絡彈性，如前文提到的譜測度﹑自然連通度等。然而，這些參數都沒有考慮對數據包傳輸的影響，僅僅是從連通性的角度對網絡彈性做評價。例如，在相同的連通性下，高聚類系數網絡中節點聚集密度更大，比低聚類系數網絡的傳輸性能要好。基于這種情況，近年有學者提出了“流魯棒性”的概念[10]，即以端對端連通節點數量作為對物理層彈性的測量。此外，有研究證明，該參數要優于自然連通度﹑譜測度等參數[19]。因此，對于物理層容錯策略模型，本文結合“流魯棒性”理論構建了物理層容錯策略模型，并提出了物理層彈性參數phyFR：

其中，G=(n,l )表示有n個節點l條邊的網絡，{Componenti;1＜i＜k}為G中連通子團的節點個數。|n|是指網絡中的節點數目。

1.2.2 邏輯層容錯策略模型

邏輯層容錯策略的實質是建立維護多條容錯鏈路。當一條鏈路上的網絡構件受到損壞時，能夠快速切換到另外一條邏輯鏈路或盡可能快地重新發現并維護一條新的邏輯鏈路。基于這種思想，本文將這種邏輯容錯策略特有的路徑多樣化特征抽象為邏輯層容錯策略的模型，并提出相應的邏輯層彈性參數LFT：

其中，D(Pk)定義為路徑多樣化函數，源節點s，目的節點d，path P是連接兩個節點的路由，記為P=L∪N，L和N分別是path所經過的鏈路和節點的集合。|P|表示path P所有節點（除起點和終點外）和鏈路個數的和。該多樣化函數最早被用來分析美國通信主干網的傳輸層彈性[20]，基本思想是根據path（由物理層﹑數據鏈路層和網絡層決定）的個數來衡量一對OD對之間傳輸的可靠度。這里舉例說明邏輯層容錯策略的計算方法，如圖1所示。

圖1 某種基于多路徑的邏輯層容錯策略

圖1是一種通過建立多條邏輯路徑(P0,P1,P2)的邏輯容錯策略，則此時計算過程簡述如下：

在完成以上容錯策略模型建模的基礎上，需要根據模型定義，生成用于彈性預測的訓練集和測試集數據。這部分工作依賴于對整網自下而上的仿真。相對于當前的內模型仿真算法，該模型在基于離散事件仿真器的網絡仿真平臺上的實現，主要體現在對協議棧層的抽象化二次開發。通過對路由協議進行參數化抽象，在容錯機制層面上對多種協議進行仿真建模。然后，根據量化的容錯策略模型收集需要的數據作為下一步預測算法的訓練集和測試集。以目前通用的開源網絡仿真平臺NS3為例，數據生成和收集在NS3平臺上的算法實現如圖2所示。網絡設計要素部分，配置文件是平臺的輸入部分，包含網絡拓撲（鄰接矩陣）﹑數據傳輸速率和數據加載速率。輸入平臺后，該部分在路由策略子模塊基礎上，實現實時對網絡邏輯層空間特征參數的收集，遍歷輸入拓撲的所有接口，并遍歷節點進而判斷節點是否有路由功能，生成路由表。此外，根據邏輯容錯策略模型的定義，對邏輯容錯策略參數進行計算并輸出，完成訓練數據與測試數據的收集。

2 基于超限學習機的網絡彈性預測模型

在完成網絡容錯策略模型的基礎上，本文可以根據模型中定義的參數，從網絡運行數據中提取相應的結構化數據，利用網絡彈性預測模型對網絡彈性進行預測。文獻[13]提到，當前描述系統彈性的數學方法是用一個一維的非線性動力學方程去逼近復雜系統的行為：

其中，f(β, x)代表系統的彈性，參數β代表捕捉的環境變化條件。進一步地，一個由N個組件組成的網絡，其節點狀態集為x=(x1,…,xN)T，服從下述耦合非線性方程：

非線性函數F(xi)和G(xi,xj)代表了控制系統組件的動態規則，權值矩陣Aij反映了組件間的相互關系。適當選擇函數F(xi)和G(xi,xj)，式（13）可以用來對很多系統進行建模，從而得到他們的彈性。而機器學習作為一種優秀的逼近方法，在彈性預測領域無疑是一種比較理想的選擇。其中，f (aix+bi)可以從數據層面，結合激活函數和偏執，用來表征數據反映的系統動態規則。與式（13）中的F(xi)和G(xi,xj)作用相似，經過訓練的輸出權值矩陣β^可以用來表征Aij。

因此，關于網絡彈性預測模型，本文利用超限學習機（ELM）構建網絡彈性預測模型。超限學習機作為近些年來開始流行的機器學習方法，是一種前饋單隱層神經網絡模型。相對于其他機器學習方法，它具有速度快﹑泛化能力強等優勢[17]。因此，本文選取超限學習機作為預測模型的基礎。

2.1 基于超限學習機預測模型的定義

圖3為一個典型的超限學習機模型，(a,b)為隱藏節點的輸入權重和偏置（閾值），訓練樣本集為(x,T )（對應于一組訓練樣本）。

其中，x表示訓練樣本的自變量，即可以對應于容錯策略模型中各種能表征彈性的網絡設計相關參數（phyFR和LFT等），以及和網絡各類設計或配置參數，如拓撲結構﹑移動模式﹑流量模型等。t表示因變量，可以對應網絡實際運行的水平，即對應于彈性值中能夠代表網絡運行能力的參數，如數據包傳遞成功率﹑丟包率﹑時延等。隱層映射函數（激活函數）表示為f(x)。這里，為了保證激活函數連續可微，選用sigmoid函數原因在下文中解釋。輸出權重表示為β，隱層的節點個數為L，oi表示為網絡的學習誤差，則該神經網絡以損失函數表達為：

設隱層的輸出矩陣為H，期望輸出為T，則有：

因此，可得到：

其中：β=[β1,β2,…,βL]T，T=[t1,t2,…,tL]T。

圖3 超限學習機模型結構

當學習誤差為0時，即認為超限學習機具有了最好的學習能力。此時，Hβ=T，其中H為已知部分（輸入權重，偏置，訓練樣本自變量），T亦為已知部分（訓練樣本因變量），則用超限學習機學習的過程就是根據Hβ=T得到β的過程。

然而，通常情況下，隱層節點數（隨機得到的）要遠小于訓練樣本數，此時矩陣為奇異矩陣不可逆。因此，該過程轉化為求解輸出權重β的最小二乘值

對應地，廣義逆矩陣可用于求解奇異矩陣的逆矩陣。若H非奇異時，廣義逆矩陣等價于H-1。若用H+表示H的廣義逆矩陣，則β^的計算公式為若H+為H的Moore-Penrose廣義逆矩陣，則可證得所得的解值最小且唯一。

訓練中，輸出權重β通過迭代不斷優化，因此整個ELM網絡的學習過程可以定義為：

需要注意的是，極限學習機相對于其他基于神經網絡的機器學習算法，在效率上具有絕對優勢。原因是：根據插值定理和普通極限定理[21]，當前饋神經網絡（Single-Hidden Layer Feedforward Neural Network，SLFN）的隱層映射函數滿足無限可微時，其學習能力與輸入權重﹑閾值（偏置）等參數的選取沒有相關性，僅僅跟當前的網絡結構相關。因此，相對于其他方法，在激活函數選擇為連續可微函數的前提下，超限學習機輸入層權值a和偏置b可以從Rn和R空間的任何區間內，根據任意連續的概率分布隨機生成，僅需要迭代訓練輸出層權值即可。

2.2 基于超限學習機的網絡彈性預測算法

基于以上預測模型的定義，可以通過以下方法對網絡彈性進行預測。

（1）在輸入權重和閾值（偏置）的權值范圍內隨機為L個節點生成輸入權重和閾值：(ai,bi),i=1,2,…,L，同時選定連續可微的函數作為激活函數。這里除了可以選擇Sigmoid函數，還可以選擇徑向基函數（RBF）作為激活函數，從而使極限學習機在處理高維數據時避免過擬合現象。在本文的算法設計中，基于極限學習機理論對算法做了改良。在第一步初始化構建SLFN網絡時，不僅可以指定隱層節點的個數，而且可以隨機為隱層節點指定不同的激活函數，以此提高整個學習算法的泛化能力。

（2）實際應用中，可以選取隱藏層混合激活函數為：

其中：

（3）根據式（22）計算隱層輸出矩陣H：

這樣就可以將此過程簡化為簡單的線性變換過程。至此，基于超限學習機的預測模型和方法建立，本質是通過大量的訓練樣本訓練模型，尋求β^的過程。一旦可以得到最優的β^值，就可以根據訓練好的輸出權值矩陣和激活函數，對任意輸入的和網絡設計的有關參數做網絡彈性的預測。下面將通過一個簡單的案例驗證本方法的有效性。

3 案例驗證及討論

為了更好地體現網絡的時空動態特性，研究在這種特性下網絡容錯策略對網絡彈性的影響。這里以移動自組織網絡（Mobile Ad hoc NETwork，MANET）為對象構建案例。

案例介紹：文獻[10]設定了一個較為貼近現實使用剖面的案例用來對比各種彈性評價方法的優劣，因此本文的案例設定基于該文獻的啟發，設置如表1所示。

基于AODV路由算法和時空動態網絡模型，在NS3仿真平臺上對該案例進行實現，運行結果如圖4﹑圖5所示。

表1 仿真設置

圖4 失效節點為0時邏輯層連通性

圖5 失效節點為20時邏輯層連通性

仿真時，改變Waxman模型的α和β參數，隨著網絡失效節點增加，網絡物理層的彈性變化如表2所示。

從表2可以看出，在相同邏輯層設定下，不同的物理層參數設置，網絡呈現出不同的容錯能力。因此，網絡物理層參數和邏輯層容錯參數之間存在線性或非線性關系，可以用機器學習的方法對這種關系進行數據驅動的啟發式建模，從而達到預測的目的。然而，本文的目的是建立網絡容錯策略和網絡彈性水平之間的映射關系模型，從而基于這個模型實現對網絡彈性預測的目的。因此，進一步地，本文擴展了仿真實驗的場景，增加網絡的規模到1000個節點，并引入DSR協議作為和AODV協議的對比，全面討論邏輯層和物理層容錯策略參數和網絡彈性水平的關系，結果如表3所示。

表2 仿真結果（phyFR）

表3 擴充的對比仿真實驗設置

仿真仍然在NS3平臺上實現并運行，在加入了DSR協議作為對比后，兩種協議在邏輯層容錯策略的能力如圖6所示。

圖6 AODV協議和DSR協議在不同失效節點比例下的容錯能力（LFT）

圖6縱坐標代表邏輯層的容錯能力，橫坐標代表有效節點的比例。其中上方的散點表AODV協議的容錯能力，下方散點表示DSR協議表示容錯能力。可以看出，不同的邏輯容錯策略，在相同的網絡結構下，容錯策略和整網的彈性水平之間存在線性或非線性關系。因此，本文可以借助機器學習方法，在已知容錯策略部署方案的情況下，對整網的彈性做出預測。仿真試驗生成的訓練樣本如表4所示。

表4 仿真試驗生成的訓練樣本

表4是根據網絡時空動態模型和容錯策略模型，在NS3上根據表3的配置生成的用于訓練超限學習機的樣本數據。在初始化步驟，本文借用python平臺sklearn包中的train_test_split()方法，將原始結構化數據按照比例隨機分割為訓練集和測試集，這里采用30%的測試集比例進行交叉驗證。

在得到訓練數據后，可以對模型進行訓練，從而得到一個良好的彈性預測模型。通過訓練得到的模型精度可以滿足預測需要：訓練集準確率達到97.07%，交叉驗證中測試集準確率達到96.43%。從結果可以看出，本文提出的方法在通過容錯策略預測網絡彈性方面具有較高的準確性。

在得到預測模型的基礎上，進一步可以嘗試根據單容錯策略因素對整網的彈性水平進行預測分析，以期通過單容錯機制對整網彈性的影響分析和多容錯機制耦合影響下對整網彈性影響進行對比。從以上結果不難看出，網絡彈性是多種容錯策略共同作用的結果，容錯策略間的互相耦合影響因素也會對整網的彈性造成影響。這一發現可以對網絡設計階段的容錯設計提供支持：考慮容錯策略間的耦合因素，將有助于選擇更合理的容錯策略組合，從而最大程度提升網絡的可靠性。

4 結 語

本文結合網絡彈性理論和極限學習機，提出了對網絡彈性進行預測的方法。經實驗驗證表明：

（1）基于網絡時空動態特征建立起的容錯策略模型，可以有效描述和量化網絡不同層面容錯策略的容錯能力；

（2）提出的基于機器學習的彈性預測方法可以通過容錯策略量化參數準確預測網絡彈性，準確率達到96%以上；

（3）通過對實驗結果的初步分析，從數據層面可以得出，網絡彈性是多個容錯策略互相耦合作用的結果，多個容錯策略內部的互相影響也會對整網彈性產生影響。

[1] Al-Kuwaiti M,Kyriakopoulos N,Hussein S.A Comparative Analysis of Network Dependability,Faulttolerance, Reliability,Security,and Survivability[J].IEEE Communications Surveys Tutorials,2009(02):106-124.

[2] Chen I R,Speer A P,Eltoweissy M.Adaptive Fault-Tolerant QoS Control Algorithms for Maximizing System Lifetime of Query-Based Wireless Sensor Networks[J].IEEE Transactions on Dependable and Secure Computing,2011(03):161-176.

[3] Zheng Z,Lyu M R.Selecting an Optimal Fault Tolerance Strategy for Reliable Service-Oriented Systems with Local and Global Constraints[J].IEEE Transactions on Computers,2015(01):219-232.

[4] Zhou A,Liu M,Li Z,et al.Cross-layer Design with Optimal Dynamic Gateway Selection for Wireless Mesh Networks[J].Computer Communications,2015(01):69-79.

[5] JSterbenz J P G.Redundancy,Diversity,and Vonnectivity to Achieve Multilevel Network Resilience,Survivability,and Disruption Tolerance Invited Paper[J].Telecommun Syst,2014(05):17-31.

[6] Hosseini S,Barker K,Ramirez-Marquez J E.A Review of Definitions and Measures of System Resilience[J].Reliability Engineering & System Safety,2016(01):47-61.

[7] Sydney A,Scoglio C,Gruenbacher D.Optimizing Algebraic Connectivity by Edge Rewiring[J].Applied Mathematics and Computation,2013(01):5465-5479.

[8] Alenazi M J F,Sterbenz J P G.Evaluation and Improvement of Network Resilience against Attacks Using Graph Spectral Metrics[J].Resilience Week(RWS),2015(2015):1-6.

[9] Zhang D,Sterbenz J P G.Measuring the Resilience of Mobile Ad Hoc Networks with Human Walk Patterns[C].2015 7th International Workshop on Reliable Networks Design and Modeling(RNDM),2015:161-168.

[10] Rohrer J P,Jabbar A,Sterbenz J P G.Path Diversification for Future Internet End-to-End Resilience and Survivability[J].Telecommun Syst.,2013(08):49-67.

[11] James D,Babu J J,Joseph S S.Literature Survey on Establishing Wireless Sensor Networks Using Otway Rees Protocol[J].International Journal of Emerging Trends in Science and Technology,2015(02):1815-1818.

[12] Rong B,Sun S,Kadoch M.Traffic Prediction for Reliable and Resilient Video Communications Over Multi-Location WMNs[J].J Netw Syst Manage,2016(06):516-533.

[13] Gao J,Barzel B,Barabási A L.Universal Resilience Patterns in Complex Networks[J].Nature,2016(02):307-312.

[14] Chen Y,Yang H.Sparse Modeling and Recursive Prediction of Space-Time Dynamics in Stochastic Sensor Networks[J].IEEE Transactions on Automation Science and Engineering,2016(01):215-226.

[15] Alenazi M G F,Sterbenz J P G.Evaluation and Comparison of Several Graph Robustness Metrics to Improve Network Resilience[C].2015 7th International Workshop on Reliable Networks Design and Modeling(RNDM),2015:7-13.

[16] Das R,Wales D J.Machine Learning Prediction for Classification of Outcomes in Local Minimisation[J].Chemical Physics Letters,2017(01):158-164.

[17] Huang G B.What are Extreme Learning Machines?Filling the Gap Between Frank Rosen blatt’s Dream and John von Neumann’s Puzzle[J].Cogn Comput,2015(06):263-278.

[18] Waxman B M.Routing of Multipoint Connections[J].IEEE Journal on Selected Areas in Communications,1988(12):1617-1622.

[19] Alenazi M J F,Sterbenz J P G.Comprehensive Comparison and Accuracy of Graph Metrics in Predicting Network Resilience[C].Design of Reliable Communication Networks(DRCN),2015:157-164.

[20] Ip W H,Wang D.Resilience Evaluation Approach of Transportation Networks[C].International Joint Conference on Computational Sciences and Optimization,2009:618-622.

[21] Tamura S,Tateishi M.Capabilities of a Fourlayered Feed forward Neural Network:Four Layers Versus Three[J].IEEE Transactions on Neural Networks,1997(03):251-255.