周 偉,朱家琪,金 豪
(上海市信息網絡有限公司,上海 200081)
基于鏈路聚合的數據專網互聯網出口邊緣側保護機制*
周 偉,朱家琪,金 豪
(上海市信息網絡有限公司,上海 200081)
為了滿足數據專網互聯網業務量不斷增加的業務需求,提出了使用鏈路聚合技術并針對網絡邊緣側進行保護的方案,以對互聯網出口實施冗余保護。方案分析了客戶端、互聯網網關以及承載網邊緣側之間的規劃原則,并研究了聚合組、負載分擔、聚合模式等的選擇,提出了以有協議鏈路聚合為基礎的保護機制。經測試驗證,啟用這種有協議的鏈路聚合保護是較優的保護方式,可以達到毫秒級的保護效果,是未來應對數據承載網與互聯網出口之間的擴容及安全性的主流保護方式。
鏈路聚合;LACP協議;負載分擔;邊緣保護
隨著數字寬帶網絡的迅猛發展,傳輸網絡的數據承載負荷也急劇增加,尤其在運營商的Internet出口上,帶寬資源已漸入瓶頸。如何有效提升出口帶寬,并結合穩健安全的冗余保護措施來適應目前的傳輸網絡,已成為研究的熱點。使用鏈路聚合技術可以增加網絡帶寬,實現流量負載分擔,提高網絡安全性可靠性,并具備優化成本低等優點。這項技術對現存數據業務和未來的網絡擴容都有很好的支持和完善,近年來引起了極大關注和廣泛應用。在用戶對數據專線上網業務的速率保障和網絡安全性穩定性的需求不斷提高的背景下,研究應用和實施上網出口的鏈路聚合熱備冗余保護機制,具有非常重要的現實意義。
鏈路聚合技術(Link Aggregation)[1]也稱為捆綁技術,其功能是將兩個或多個相同接口類型的物理端口捆綁成一個邏輯端口,從而實現n個端口的容量疊加,n為聚合捆綁的端口數量。此外,該邏輯端口上的流量可以合理分配到每一個捆綁成員,實現負載均擔。
鏈路聚合具有如下優點。第一,可以增加鏈路帶寬。由多個物理端口聚合綁定后的邏輯端口,其鏈路帶寬等于每個被綁定的端口成員的帶寬總和。第二,可以提高網絡連接的可靠性。鏈路聚合中的端口成員都在同時工作,互為備份,如果其中某條鏈路中斷,不會影響使用,只是降低了總帶寬。
鏈路聚合必須遵循相應的規則[2]:進行聚合的端口速率類型必須一致;進行聚合的端口必須工作在全雙工模式;進行聚合的端口成員的工作模式必須一致,可以是access﹑trunk或hybrid等。
根據聚合端口上是否啟用了聚合端口控制協議,可以將鏈路聚合模式分為無協議的聚合(靜態聚合)[3]和有協議的聚合(動態聚合)[4]。聚合端口控制協議分為兩種:一種是端口聚合協議(Port Aggregation Protocol,PAgP)[5], 是Cisco的私有協議,具有學習相鄰端口組動態和信息的能力;另一種是鏈路聚合控制協議(Link Aggregation Control Protocol,LACP)[6],遵循IEEE802.3ad工業標準,能夠實現鏈路動態聚合與解聚合的協議,通過 LACPDU(Link Aggregation Control Protocol Data Unit,鏈路聚合控制協議數據單元)[7]報文與對端進行鏈路狀態信息的交互。本文所涉及的有協議的聚合方式,采用更具廣泛性的LACP協議。
無協議的聚合模式,即將多個物理端口直接加入聚合組,聚合組內的成員端口不啟用聚合端口控制協議[8]。
有協議的聚合模式,將多個物理端口加入聚合組后,在聚合組內配置dynamic模式,即啟用LACP協議。LACP能時時檢測聚合組內的端口成員狀態,自動發現故障鏈路,自動重新聚合,在獲得最大帶寬的同時,保證鏈路的有效性。
傳統的數據承載網的網絡邊緣側互聯網出口,一般采用M:N冷備的保護方式。這種冷備方式存在兩大隱患。第一,出口帶寬受到端口速率的限制。目前,傳輸網通往互聯網出口的端口速率多為GE端口和少量XGE端口,而百兆以上甚至千兆接入速率的數據專線用戶越來越多,這將造成出口流量趨于滿負荷。第二,網絡結構性隱患。在出口鏈路發生故障時,造成業務迂回割接速度慢,網絡自愈能力差。同時,M:N冷備的保護方式,可投入使用的帶寬為M,而N的帶寬只能處于閑置狀態,造成帶寬資源浪費,靈活性也不高?;ヂ摼W出口采用聚合方式,可以最高限度地利用網絡帶寬資源。例如,原本采用5:3的冷備方式,假設端口類型均為GE端口,那么出口容量為5 G,另外3 G做冷備處于閑置,可以將這8個端口整合成4對鏈路聚合端口。于是,總共可以有8 G的互聯網出口,達到了擴容的效果,同時也提升了網路自愈性?;就負鋱D形如圖1所示,即在PE2和PE3之間建立鏈路聚合。

圖1 鏈路聚合的應用網絡架構
以下分析規劃原則。
2.1 客戶端與互聯網網關的規劃原則
在客戶端CE側和運營商互聯網網關PE3側之間,可以采用靜態路由或EBGP(外部邊界網關協議)[9]來實現兩臺設備之間的路由信息交互。CE與PE3之間需要規劃一段互聯IP(多為30位掩碼),并需要對客戶端內網劃一段IP。對于EBGP模式,則需要用戶端具有私有AS號,并且用戶和運營商雙方需約定CE向PE通告的EBGP路由條目數量。
2.2 承載網邊緣側與互聯網網關側的聚合物理端口規劃原則
聚合組內端口的選擇,須保證物理上的平行分開,應選用不同槽位上的端口,以避免單板故障所造成的聚合鏈路整體失效。必須注意的是,兩設備間的互聯光纖也應保證在傳輸層面平行分開,避免在同一條光路上。一旦光路受阻,則仍舊影響整個聚合組。如果存在兩臺設備做堆疊系統[10],那么應在這兩臺設備上各選一個端口做鏈路聚合,以防止單節點失效所造成的聚合鏈路中斷。
聚合組內的端口須保證端口速率類型﹑端口模式(LACP只能是全雙工模式)﹑端口工作模式完全一致。
2.3 聚合組的類型選擇
聚合組是一組以太網接口的集合,因此也稱為聚合接口。根據路由與交換的不同應用需求,可分為二層聚合組和三層聚合組。不需要配置IP,只轉發二層以太網幀。不能宣告進路由協議的,如PE2側的聚合接口類型為二層聚合接口,通過VLAN隔離業務。需要配置IP的,可以運行路由協議。能接收并轉發IP包的,如PE3側的聚合接口,則為三層聚合接口。
2.4 鏈路聚合負載分擔的類型選擇
通過采用不同的聚合負載分擔類型及其組合,可以靈活合理地分配聚合組內的流量負載。常見的負載分擔類型[11]有以下幾種:
(1)destination-MAC:根據目的MAC地址進行聚合負載分擔;
(2)destination-IP:根據目的IP地址進行聚合負載分擔;
(3)source-MAC:根據源MAC地址進行聚合負載分擔;
(4)source-IP:根據源IP地址進行聚合負載分擔;
(5)MPLS-label1:根據MPLS報文第一層標簽進行聚合負載分擔;
(6)MPLS-label2:根據MPLS報文第二層標簽進行聚合負載分擔;
(7)per-packet:對每個數據包進行聚合負載分擔。
如圖2所示,如果做互聯的兩個鏈路聚合接口都為三層接口,那么互聯接口上會有一對互聯IP地址和MAC地址。根據IP包的轉發路徑原則,當IP包轉發到聚合口時,雖然源IP地址和目的IP地址不同,但源MAC地址和目的MAC地址將會被替換成聚合互聯接口上的那對MAC地址。如果采用destination-MAC或source-MAC的負載分擔方式,經過hash計算,假定計算結果為轉發至1號端口,那么數據流量將一直走在1號端口,負載分擔效果失效。所以,這種情況下不建議采用destination-MAC或source-MAC的負載分擔方式。

圖2 雙路由器之間的鏈路聚合架構
如圖3所示,如果互聯的兩個鏈路聚合接口都為二層接口,那么互聯接口上會有多個MAC地址。如果數據包來自于同一個源IP地址,同樣根據IP包的轉發路徑原則,假設采用source-IP的負載分擔方式,經過hash計算,假定計算結果為轉發至1號端口,則不管發往目的地址為何,都將走在1號端口,數據流的負載分擔的效果將失效。反向同理可得,destination-IP也將失效。因此,這種情況下,不建議采用destination-IP或source-IP的負載分擔方式。

圖3 雙交換機之間的鏈路聚合架構
MPLS-label1和MPLS-label2則使用在MPLS VPN的網絡環境中。Per-packet指的是對數據流的每個數據包都進行hash值的計算,然后根據計算結果分配給聚合組里的每個成員接口。這種情況下,通往同一個目的網絡的數據流將被拆開,容易造成數據包丟失或數據包亂序。同時,因為要對每個數據包進行hash計算,增加了數據轉發設備的CPU負荷,所以不建議在大型網絡中使用。
綜合以上,在業務類型比較復雜的數據承載網中,聚合端口上建議同時采用source-MAC疊加source-IP,或者destination-MAC疊加destination-IP的負載分擔方式。
2.5 聚合模式的選擇
無協議的聚合模式不啟用LACP協議,其優點是一旦配置好,端口的狀態不會受到網絡環境的影響,相對穩定。但是,它不會對一個聚合組中的端口是否真的可以被聚合在一起進行判斷。由于沒有協議的交互,因此也不能根據對端的狀態及時調整聚合組成員的轉發狀態,且其端口狀態也需要手工進行維護。
有協議的聚合方式即啟用LACP協議,能夠根據對端和本端的端口狀態進行聚合組成員的轉發狀態,比較靈活,具有很強的網絡自愈能力,因此,建議在鏈路聚合中,使用有協議的聚合模式。
本次測試主要針對上網出口的鏈路聚合的基本功能,以及采用無協議和有協議的聚合保護性能的測試,并對測試結果進行分析。
搭建測試環境,如圖4所示。網絡測試儀1模擬用戶端,先由數據承載網接入;數據承載網與互聯網出口之間采用兩個GE端口或兩個XGE端口[12]做鏈路聚合保護;由網絡測試儀1去訪問帶有公網IP的網絡測試儀2。本測試在數據承載網側采用的是中興PTN6500系列產品和H3C公司的9500系列產品,在互聯網出口采用Cisco和Juniper的路由器。

圖4 鏈路聚合測試環境
保護功能測試步驟如下:
(1)在運數據承載網與互聯網出口的互聯設備上,將兩個相同端口類型的互聯端口綁定為聚合端口。
(2)先采用無協議的聚合模式(Linkaggregation Mode Static)。
(3)通過網絡測試儀1訪問網絡測試儀2上的公網IP,每秒發送10 000個數據包。
(4)人為制造鏈路故障,先斷TX單纖,恢復TX單纖,再斷RX單纖,恢復RX單纖,最后斷雙纖,恢復雙纖,觀測并記錄丟包數量。
(5)測算鏈路故障所造成的中斷時間,中斷時間=丟包數量÷10 000(個/秒)。
(6)再采用有協議的聚合模式(Link-aggregation Mode Dynamic),重復步驟(4)和步驟(5)。
測試結果,如表1﹑表2所示。

表1 GE端口鏈路聚合中斷測試結果

表2 XGE端口鏈路聚合中斷測試結果
本此流量轉發及壓力測試,涉及多個廠商﹑不同類型的設備以及不同的以太網承載技術。可見,LACP協議具有很強的兼容性,在雙方設備經過協商后形成鏈路聚合,模擬的用戶流量在其通道上能夠被正確轉發,實現流量負載分擔。在模擬斷纖測試中,根據鏈路聚合保護功能的測試結果可以看出,相同設備的GE口和XGE口,測試結果差異不大。而在丟包情況和中斷時長方面,啟用有協議(LACP)的聚合方式,保護效果更好,其業務恢復時間可以達到毫秒級。在斷纖恢復時,甚至可以達到零丟包的效果。這充分滿足了網絡可靠性和自愈性的要求。
在運營商的實際網絡中,端口上的流量不斷增加,已成為業務量擴大和網絡性能的瓶頸。而借助鏈路聚合技術,可以為運營商提供較為經濟的網絡擴容以及更加完善的冗余保護。本文分析了鏈路聚合技術的使用方式,并對鏈路聚合在運營商網絡上的實際應用提供了優化部署方案。通過組建測試環境來驗證聚合鏈路的部署配置方案及相關功能,驗證了有協議的鏈路聚合可以提供更好的保護效果,可以滿足未來網絡不斷擴大發展對可靠性和自愈性的要求。
[1] 呂永芝,蘇鋒文.鏈路聚合及其組網應用[J].數字技術與應用,2014(09):98.
LV Yong-zhi,SU Feng-wen.Link Aggregation and Its Networking App lications[J].Digital Technology and Application,2014(09):98.
[2] 郭淵.基于中低端MSR路由器的鏈路聚合技術的研究與實現[D].西安:西安電子科技大學,2014.
GUO Yuan.Research and Imp lementation of Link Aggregation based on Mid-range MSR Routers[D]. Xi'an:Xidian University,2014.
[3] Masashi K,Satoshi T,Hidehiro T.A Port Expander Using Protocol-independent Link-aggregation Technologies for Large-scale Data-center Network[C]. The 20th Asia-Pacific Conference on Communication (APCC2014),2014:52-57.
[4] 姚君.以太網鏈路聚合實現探究[J].電子制作,2014 (11):169-170.
YAO Jun.Research on the Realization of Ethernet Link Aggregation[J].Practical Electronics,2014,(11):169-170.
[5] 朱壯普.鏈路聚合技術在企業網中的應用[J].電子商務,2013,(04):65.
ZHU Zhuang-pu.App lication of Link Aggregation Technology in Enterprise Networks[J].E-Business Journal,2013,(04):65.
[6] 郭亮.基于LACP的鏈路聚合測試方法研究和實踐[J].電信科學,2013,29(08):168-172.
GUO Liang.Study and Practice on Test Methodology of Link Aggregation based on LACP[J].Telecommunications Science,2013,29(08):168-172.
[7] 劉佃村.以太網路由器鏈路聚合的設計與實現[D].重慶:重慶大學,2015.
LIU Dian-cun.Design and Implementation of Link Aggregation for Ethernet Router[D].Chongqing:Chongqing University,2015.
[8] 李建生,曲云彩.華為設備采用靜態LACP提高網絡鏈路聚合的可靠性[J].通信電源技術,2013,30(06):100-101.
LI Jian-sheng,QU Yun-cai.Huawei Device Uses Static LACP to Improve Reliability of Network Link Aggregation[J]. Telecom Power Technology,2013,30(06):100-101.
[9] Sarakbi B,Maag S.Partial Comp lete iBGP[C].2010 IEEE International Conference on Communications (ICC),2010:1-5.
[10] Chau F.Ethernet Switches with Resilient Framework Technology[J].TelecoMasia,2005,16(02):29.
[11] 戎江霽,包杰,李松華等.基于LACP的跨系統鏈路聚合的研究[J].電視技術,2013,37(07):101-103.
RONG Jiang-ji,BAO Jie,LI Song-hua,et al.Research of Link Aggregation Cross Systems based on LACP[J].Video Engineering,2013,37(07):101-103.
[12] 武磊.萬兆以太網接口及鏈路聚合技術的研究與實現[D].成都:電子科技大學,2015.
WU Lei.The Research and Implementation of 10 Gigabit Ethernet Interface and Link Aggregation Technology[D]. Chengdu:University of Elec tronic Science and Technology of China,2015.
Edge Protection for Internet Export of Data Networks based on Link Aggregation
ZHOU Wei, ZHU Jia-qi, JIN Hao
(Shanghai Information Network Co.,Ltd., Shanghai 200081, China)
To satisfy with the increasing requirements of internet business of data networks, the method which takes the link aggregation technology and focuses on protecting the network edge is proposed, thus to implement redundancy protection of the internet export. For this scheme, the planning principles of among the clients, internet gateways and network edge sides are analyzed, the selections of aggregation combination, load balance, aggregation mode discussed, and thus the mechanism based on link aggregation protection protocol is suggested. The experimental test indicates that the mechanism based on link aggregation protection protocol is fairly good and can implement the protection in a few milliseconds, and thus would be the future mainstream protection way in satisfying the expansion and security of between the data networks and their internet exports.
link aggregation; LACP; load balance; edge protection

TN919.2
A
1002-0802(2016)-11-1541-05
10.3969/j.issn.1002-0802.2016.11.024
周 偉(1972—),男,博士,高級工程師,主要研究方向為數據通信﹑無線通信;
朱家琪(1986—),男,碩士,工程師,主要研究方向為數據通信;
金 豪(1983—),男,學士,工程師,主要研究方向為數據通信。
2016-07-11;
2016-10-14 Received date:2016-07-11;Revised date:2016-10-14