張曉平,柏玉嫻,朱金門(南京電子技術研究所, 南京 210039)
?
網絡融合技術研究
張曉平,柏玉嫻,朱金門(南京電子技術研究所,南京 210039)
摘要:大型電子裝備研制中,由于技術要求、實現成本、應用場景不同,出現了多種網絡共存的現象。在此異構的網路環境中,信息的高效、快速、可靠傳輸和共享是必須面對的問題。網絡融合設備應用多網融合技術,建立以太網到光纖通道(FC)的橋接映射關系,以太網節點通過FC ID虛擬化的方式映射到FC網絡中,形成一個以FC交換網為主干的融合網,實現了FC協議與以太網協議的簡單路由和實時交換功能。
關鍵詞:光纖通道;網絡融合;網絡管理;動態配置端口
0引言
隨著計算機和網絡技術的高速發展,涌現出大量不同類型的通信網絡,使用戶置身于復雜多樣的異構網絡環境中,信息獲取和傳輸的手段以及數據存儲和共享的方式發生了很大的變化。當前,網絡形式種類繁多,各有特點,它們之間是一種共存發展、互相融合的關系,并且從經濟和技術上考慮,這種關系仍將長期存在[1]。
異構網絡融合必須充分利用不同網絡間的互補特性,解決多種不同類型網絡的有機融合問題。異構網絡融合采用通用的、開放的技術實現不同網絡或網元的互聯、互通、互操作。
某型設備研制中,上級指控系統采用千兆以太網作為信息傳輸的骨干網,后端傳感器部分由于“確定性”、“可靠性”要求,采用光纖通道(FC),作為傳感器的主干網。為了使以太網和光纖通道有機融合,我們研發網絡融合模塊,并對網絡的構架進行了優化,實現了指控系統與傳感器之間的高效互聯。
1應用背景
網絡融合模塊安裝于傳感器FC交換插箱中,與指控系統雙冗余網絡模塊共同作為FC交換網與指控系統網(雙冗余千兆以太網)的網管設備,實現FC協議與雙冗余指控網以太網協議的轉換,完成FC設備與指控網的數據交互。如圖1所示。

圖1 網絡融合模塊功能示意圖
網絡融合模塊的具體功能如下:
1)傳感器網的FC網絡交換
傳感器網中各設備間采用FC進行互聯通信,網絡融合模塊具有FC交換的功能,可在傳感器網中充當FC交換機,實現各設備間的互聯通信。如圖1所示,傳感器網中的FC節點可以直接連接到網絡融合模塊上,由網絡融合模塊實現各節點間通信。
2)FC與系統雙冗余網連接
網絡融合模塊和雙冗余網絡模塊連接,實現FC與千兆以太網的協議轉換。網絡融合模塊的冗余利用模塊間的冗余實現,兩個網絡融合模塊直接與雙冗余網卡連接,并對等提供冗余工作模式,兩個網絡融合模塊之間通過FC鏈路上的心跳檢測實時通信。初始時,其中一塊網絡融合模塊作為工作模塊發送心跳包,另一塊作為冗余模塊接收心跳包。當工作模塊檢測到鏈路故障時退化為冗余模塊,原來的冗余模塊接管通信鏈路成為工作模塊。
2網絡融合
2.1網絡融合模塊
網絡融合模塊采用6U VPX插件形式,包含網絡融合模塊(前插模塊)、接口模塊(后插模塊),以及VPX交換背板,具體如圖2所示。

圖2 網絡融合模塊框圖
網絡融合模塊實現FC與千兆以太網之間的融合,其中,在FC網絡中還需要實現數據交換功能。模塊主要基于XC7VX485T大規模現場可編程門陣列(FPGA)、XC5VFX200T大規模FPGA、MPC8640D PowerPC處理器、BCM5396千兆網交換芯片、雙倍數據速率(DDR2)存儲器、Flash存儲器,以及各類電源模塊。XC7VX485T FPGA作為主要功能器件,硬件實現FC節點與FC交換機。XC5VFX200T FPGA作為協議轉換加速芯片,同時作為整個系統啟動的引導芯片最先加載,并在自身加載完成后配置MPC8640D Power PC的啟動,其嵌入式處理模塊上的PowerPC440處理器用于實現FC-PCIe橋接模塊的配置與管理。MCP8640D作為主要的協議轉換處理單元,通過協議棧實現FC與千兆以太網之間的協議轉換,同時也作為主控芯片實現各數據通路的配置與管理[2]。
網絡融合模塊與FC交換接口模塊通過VPX背板上的高速連接器實現信號互聯;網絡融合模塊與兩個FC交換模塊可組合擴展成一個完整的網絡融合設備。此時,如圖3所示,網絡融合模塊通過VPX背板上的16對RocketIO互聯與其他FC交換模塊實現全交換數據通信。

圖3 網絡融合設備結構圖
2.2網絡融合原理
在XC7VX485T FPGA上實現FC節點與FC交換機。來自融合網絡的FC數據經過交換接口模塊后,由交換背板連接到前插網路融合模塊,FC數據經過FC核還原成完整的FC數據幀,接收通路根據FC數據幀中的ID信息去查詢路由表,根據獲得的信息請求仲裁,實現數據交換。
XC5VFX200T FPGA用于管理FC數據包的接收,通過掛接的DDR對FC數據進行緩存,并將生成的數據包控制信息提交給MPC8640D,通過中斷與寄存器訪問的方式與MPC8640D協同完成協議轉換。在XC5VFX200T 上實現FC-PCIe橋接模塊,該模塊通過PCIE通路與MPC8640D進行交互。
交換結構上有兩路FC數據連接到XC5VFX200T芯片,用于實現FC到千兆網的協議轉換。這兩路FC數據進入FPGA后,經過PCIE通路提交給MPC8640D,MPC8640D根據橋接表將數據打包為UDP報文發送給BCM5396路由到以太網中。原理框圖如圖4所示。
3關鍵技術
3.1多網絡融合技術
多網絡融合采用ID映射,FC節點虛擬化的技術。如圖5、圖6所示,系統首先將每個子網節點通過FC ID虛擬化的方式映射到FC網絡中,形成一個以FC交換網為主干的融合網,包含所有物理和虛擬的FC節點;再將所有FC節點以適合各自子網協議的方式再次分別映射到各通信子網中,中間由融合板卡建立橋接映射關系。這種融合技術能夠盡量保證各通信子網的原始通信模型,并且保持各種跨網通信模型的一致性[3]。

圖4 網絡融合原理框圖

圖5 以太網節點映射為虛擬FC節點

圖6 FC節點映射為虛擬Eth節點
要將千兆以太網與FC網絡進行融合,使得不同節點之間可以相互通信,核心問題就是要解決不同網絡節點如何相互尋址的問題。以太網和FC協議都支持一定程度上的虛擬化,下面我們分別描述如何利用它們來實現兩個網絡的融合。
若要橋設備為每個以太網節點申請一個虛擬的FC節點ID,那么橋需要預先知道以太網節點的信息,包括節點個數、各節點的名稱以及IP地址等。有兩種方式可以讓橋設備獲得以上信息:1)FTP上傳橋接表;2)網絡管理軟件下發橋接表。無論采用什么方式,最終落實到形式上就是如表1所示的映射表。

表1 FC-ETH橋接表定義
得到上述映射表后,可以進入真正的數據收發過程,數據包到了融合網絡模塊上,通過查詢映射表進行源和目的端口的標識符轉換,之后經各自協議打包后發送到另一端。如圖7所示。

圖7 FC與Eth之間的通信示意圖
3.2協議轉換加速
(1)加速結構
在軟件上,采用CPU雙核處理的方式,由MPC8640D掛載兩路PCIe通路,分別接到FC-PCIe橋接IP核,雙核同時進行協議轉換處理,提高轉換總帶寬。在數據包交給FC-PCIe橋接IP核之前,根據橋接表進行分配,讓不同的數據包去往不同的FC-PCIe橋接IP核,以此實現雙通道的流量均衡。
在硬件上通過PCIe橋接模塊,對FC數據幀進行解包和再封裝,以PCIe事務層包的形式將數據載荷與控制信息通過DMA通道發送到MPC8640D的內存,再由MPC8640D根據控制信息進行協議轉換。在以太網到FC方向,MPC8640D通過PCIe通路將數據載荷與幀頭信息發送到FPGA的PCIe橋接模塊,PCIe橋接模塊根據幀頭信息查詢橋接表將數據載荷封裝成相應FC數據幀。這里PCIe橋接模塊在兩個方向上承擔了查詢橋接表、解幀和再封裝的主要工作,減輕了CPU的負擔,提高了協議轉換速率[4]。
(2)雙核間通信
VxWorks提供兩種多處理器技術:非對稱多核處理(AMP)與對稱多核處理。本方案使用AMP模式。核0與核1內部各自維護自己的Buffer鏈表,在PPC440內部也分別維護8640D兩個核心的序列描述符鏈表,如圖8所示。

圖8 非對稱多核處理框圖
在AMP模式下,VxWorks提供共享內存對象VxMP實現雙核間的通信。VxMP是VxWorks提供的一個用于雙核操作系統間高速同步與通信的組件,能被運行在不同處理器上的操作系統訪問。VxMP提供以下三種共享內存對象:(1) 共享信號量;(2) 共享消息隊列;(3) 共享內存分區。
由于MPC8640D雙核需要共用一個PCIe橋接模塊,所以當每個核使用PCIe橋接模塊時,需要先獲得共享信號量,獲得信號量之后進行序列的發送,完成操作后釋放信號量。
(3)流量分配策略
由于雙核采用AMP模式,FC ID-IP映射后將分成兩路,分別交由兩個核心處理。為了實現兩個雙核之間的負載均衡,需要使每個核心處理的FC ID數量盡量平衡。本方案采用CRC12與哈希算法來實現FC ID的分配策略。每一個FC ID對應一個IP,先對每一個FC ID使用CRC12算法,得到一個12位整數,再對這個12位數作哈希算法,根據得出的值,將FC ID分配到兩個核中。軟件將最終決定的分配表寫入硬件,當硬件收到FC數據時,就根據FC ID查表得出需要轉發的CPU。
3.3動態配置端口(DRP)設計
為了讓后光口中的多路能動態配置為4 Gbit FC或者1 Gbit Eth,在FC-AE交換機中使用的是用Buffer進行選通的方式,然而這種方式要求每路FC/Eth在發送和接收方向分別使用一個Buffer。在本融合模塊中,需要進行4路FC/Eth的動態切換,需要用8個Buffer才能實現,這將非常占用印制電路板(PCB)面積,也增加了設計的復雜性和布局布線的難度[5]。
通過引入DRP技術,在FPGA內部可動態配置GTX的參數,使其適配4G FC或者1GEth的收發器參數,并通過內部邏輯切換4G FC和1Gbit Eth的數據流,以及重新配置時鐘方案,使外部光口動態切換為4G FC或者1GEth端口,從而在沒有額外增加芯片的情況下實現端口的動態切換,減少原理圖和PCB設計的復雜性。
圖9為DRP設計的框圖。經過配置,分別選通來自FC邏輯核或1GEth Mac的數據連通到GTX,同時DRP控制器重配GTX的參數,使其適配對應的協議和速率。

圖9 DRP設計框圖
4結束語
本文論述的網絡融合設備用于傳感器內部各設備的FC網絡與指控系統千兆以太網的數據融合、傳輸。此外,通過加裝網絡融合設備,傳感器內部各設備將不需要單獨與指控系統的以太網互聯,所有的交互信息均可在光纖通道實現匯聚與分發,可優化系統的信息傳輸架構,滿足傳感器設備的開放式設計。
后續指控系統將使用萬兆以太網替代現有千兆以太網,因此后續需要開發萬兆網絡融合設備實現傳感器網絡與指控系統萬兆以太網的互聯,而研制千兆網絡融合設備為后期開發萬兆網絡融合設備積累的豐富的經驗。
參 考 文 獻
[1]朱凌云,宋鐵成,夏瑋瑋,等. 嵌入式異構網絡融合方案設計及實驗系統[J]. 電氣電子教學學報, 2007, 29(1): 53-57.
ZHU Lingyun, SONG Tiecheng, XIA Weiwei, et al. An embedded scheme of heterogeneous networks convergence[J]. Journal of EEE, 2007,29(1): 53-57.
[2]劉林海,張勇,常迎輝. 光纖通道SOPC系統性能優化設計技術研究[J]. 無線電通信技術,2015,41(3):43-46.
LIU Linhai, ZHANG Yong, CHANG Yinghui. Study on optimization design techique of fibre channel SPOC system performance[J]. Radio Communication Technology, 2015, 41(3): 43-46.
[3]王昊天,丁凡,熊華鋼. 光纖通道交換式網絡的虛擬通道分配策略[J].電子學報,2010, 39(10): 2251-2257.
WANG Haotian, DING Fan, XIONG Huagang. Allocation scheme of virtual channel in fibre channel switched networks[J]. Acta Electronica Sinica, 2010, 39(10): 2251-2257.
[4]劉鑫,陸文娟. 光纖通道在航空電子環境的應用及關鍵技術研究[J]. 光通信技術, 2006, 30(6): 55-58.
LIU Xin , LU Wenjuan. Application and research of fiberchannel in the avionics environment[J]. Optical Communication Technology, 2006, 30(6): 55-58.
[5]項立銀,陳楊. 結構化與結構化網絡融合技術研究[J]. 雷達與對抗,2012, 31(3): 53-55.
XIANG Liyin, CHEN Yang. A study on structured and unstructured grid fusion technology[J]. Radar & Ecm, 2010, 31(3): 53-55.
張曉平男,1959年生,高級工程師。研究方向為雷達系統控制、終端顯示技術。
柏玉嫻女,1981年生,高級工程師。研究方向為雷達系統控制、終端顯示技術。
朱金門男,1966年生,高級工程師。研究方向為計算機控制技術。
A Study on Network Convergence Technology
ZHANG Xiaoping,BO Yuxian,ZHU Jinmen
(Nanjing Research Institute of Electronics Technology,Nanjing 210039, China)
Abstract:In the development of large electronic equipment, the coexistence phenomenon of many kinds of network is existing due to differences of technical requiremnts, costs and the application scenes. In this heterogeneous network environment, information is a problem that must be faced in the process of efficient, fast and reliable transmission and sharing. Network convergence equipment uses multi network fusion technology to establish bridge mapping between Ethernet nodes and fiber channel (FC) network. With FC ID virtualization, Ethernet nodes are mapped into FC network, forming an integrated network with FC switching network as backbone. This realizes the function of simple routing and real-time exchange between FC protocol and Ethernet protocol.
Key words:fiber channel; network convergence; network administration; dynamic reconfiguration port
中圖分類號:TN957.52
文獻標志碼:A
文章編號:1004-7859(2016)02-0051-05
收稿日期:2015-11-03
修訂日期:2016-01-05
通信作者:張曉平Email:13605164656@139.com
DOI:·數據處理· 10.16592/ j.cnki.1004-7859.2016.02.012