房亮趙光恒
(1中國科學院空間應用工程與技術中心,北京 100094)
(2中國科學院大學,北京 100049)
光纖通道流量控制方法及其性能分析
房亮1,2趙光恒1
(1中國科學院空間應用工程與技術中心,北京 100094)
(2中國科學院大學,北京 100049)
針對航天應用中光纖通道(Fibre Channel,FC)傳輸效率的優化問題,提出交換式拓撲下的通用流量控制模型,設計了一種FC-2層的流量控制方法。研究了交換式拓撲下信用值設置和節點間距離、幀長度、節點處理時間等諸多因素之間的關系,推導出最優信用值和最大傳輸效率的通用計算方法。結合實際應用需求進行仿真,建議數據區長度使用2048 byte,信用設置不大于10,同時盡量減少幀間隔時間。將文章提出的方法應用到某航天任務中,實物測試系統的測試結果表明,推導出的計算方法合理可行,可以在優化網絡資源的同時有效提高網絡性能。
光纖通道;交換式拓撲;流量控制;最優信用值
航天遙感等有效載荷技術的發展,對通信帶寬和控制實時性提出的要求越來越高,目前已有大量遙感有效載荷的像元分辨率達到優于1 m的量級[1],對通信帶寬的需求則達到數百兆比特每秒至數吉比特每秒。航天器常用的MIL-STD-1553B總線雖然具備良好的實時性,但其通信速率僅有1 Mbit/s,因此未來的航天器設計中急需更高性能的通信網絡。
光纖通道(Fibre Channel,FC)是美國國家標準委員會(ANSI)提出的一種新型通信協議標準,具有傳輸速率高、兼容性好等優點[2]。其中的FC-AE-1553協議是位于FC標準中FC-4層的一種命令/響應式的通信協議,由于其具備實時性強和傳輸帶寬大的優點,同時又可以通過橋接的方式與航天器常用的MIL-STD-1553B協議設備通信[3-7],因此在航天領域中的研究越來越多。目前,FC標準定義的常用速率為1 Gbit/s、2 Gbit/s、4 Gbit/s,比傳統的MIL-STD-1553B協議高出3個數量級,可以取代航天器中的低壓差分信號技術接口(LVDS),同時可實現減少網絡種類和數量的目的,具有重要的應用價值。
目前,關于FC標準的流量控制研究主要集中在對原理的介紹和信用設置對通信鏈路的影響域分析方面,關于FC-AE-1553的研究主要集中在特性分析和橋接器設計方面。文獻[8-9]中分析了FC標準的流量控制工作原理,建立了基于網絡工程優化工具(OPNET)的仿真模型。文獻[10]中針對FC的仲裁環拓撲進行建模,依據訪問公平機制研究并給出了確定信用設置的方法。文獻[11]中針對有差錯和無差錯兩種情況,研究了FC鏈路吞吐量計算方法。文獻[12]在存儲擴展應用的背景下,通過建模研究了根據接收端服務率調整隊列門限值的方法。文獻[13-15]中對FC-AE-1553的網絡拓撲性能、MIL-STD-1553橋接器設計以及基于無源光網絡(PON)的FC協議設計進行了介紹。
以上研究中建立的模型都是基于理想情況,而在實際航天應用中還要考慮其他多種因素。此外,考慮到航天器中的資源受限,如何合理地設置信用值以及估算通信效率,是FC標準走向航天工程應用的關鍵之一。同時,FC-2層的流量控制措施對FC-4層協議的效率有重要影響。因此,本文基于FC-AE-1553協議的航天應用需求,對其FC-2層的流量控制方法進行詳細分析,提出了交換式拓撲的通用FC-2層的流量控制模型,設計了一種FC-2層的流量控制方法,推導出最優信用值和最大傳輸效率的通用計算方法,給出了網絡優化設計的建議,并進行了仿真分析。最后,以某航天飛行任務為背景搭建實物測試系統,進行了驗證分析。
FC標準將協議定義為從FC-0至FC-4的5層結構,如圖1所示。其中:FC-0是物理層(Physical Layer),用于描述傳輸接口規范和傳輸速率;FC-1是鏈路層(Link Layer),用于描述8B10B編解碼規范;FC-2是傳輸層(Transport Layer),用于組幀、解幀和流量控制;FC-3是通用服務層(Common Service Layer);FC-4是映射層(Mapping Layer),可映射多種不同的通信協議;FC-4層之上支持具體的應用協議——上層協議(Upper Layer Protocols,ULP)。
FC標準使用基于信用的方法在FC-2層進行流量控制,定義了兩種流量控制機制[6-7]:一是端到端的流量控制業務,適用于FC標準的一類、二類和六類業務;二是緩存到緩存的流量控制機制,適用于FC標準的二類、三類業務。FC-AE-1553主要使用FC標準的三類業務,使用緩存到緩存的流量控制機制。

圖1 光纖通道的協議分層結構Fig.1 FC protocol structure
基于信用的緩存到緩存的流量控制模型如圖2所示,其中端口“T”表示發送(Transmit),端口“R”表示接收(Receive)。FC標準的3種類型端口(N_Port、F_Port、E_Port),都可以使用基于信用的緩存到緩存流量控制機制。各相鄰FC端口通過登錄獲取對方的信用值(BB_Credit),使用信用計數器查看是否允許繼續發送數據幀,通過接收相鄰端口發送的R_RDY原語來獲取新的信用。圖2中,信用值的選取、數據幀的格式、節點間的距離等參數都是航天器網絡設計時要重點考慮的,各參數值設計的優劣直接影響航天器網絡的性能。

圖2 基于信用的緩存至緩存流量控制模型Fig.2 Credit-based buffer-to-buffer flow control model
基于信用的緩存到緩存流量控制機制的處理流程如圖3所示,其規則如下。

圖3 FC端口間幀傳輸流程Fig.3 FC frame transmission flowchart between ports
(1)每個FC端口負責管理自己的緩存信用計數器(BB_Credit_CNT);
(2)負責發送的FC端口在信用已經用完的情況下不允許再發送數據;
(3)每個FC端口在登錄時要將BB_Credit_ CNT設置為0;
(4)每個FC端口在發送一個數據幀后將BB_ Credit_CNT加1,在收到一個R_RDY信號后減1;
(5)在幀的接收方確認收到了幀,同時接收到的幀占用的緩存已經被釋放后,接收方須要發送一個R_RDY原語。
基于信用的緩存到緩存流量控制機制的性能與多方面因素有關,其關鍵是如何設置合理的信用值。
FC-AE-1553允許使用點到點拓撲、環形拓撲和交換式拓撲3種方式,本文以應用最廣泛的交換式拓撲為例進行分析,其他兩種可同理參考。
交換式拓撲下,2個節點設備間的通信端口共有4個,分別是Nx_Port1、F_Port1、F_Port2和Nx_Port2。定義Nx端口和交換機之間的距離(節點間距離)都是L;光在光纖介質中的傳輸速率是V(約2×108m/s);FC-AE-1553協議的傳輸速率是Vt,常見值為1 Gbit/s、2 Gbit/s、4 Gbit/s;幀長度是Lf;幀間隔長度是Li,對應協議中的空閑時間(IDLE);R_RDY原語的長度是Lps;交換機的接收數據處理時間是Tpf,節點設備的接收數據處理時間是Tpn,兩者均為節點處理時間。
FC-2幀格式的定義如圖4所示[16]。其中:幀起始(SOF)和幀結束(EOF)長度為4 byte;FC幀頭(Header)長度為24 byte;數據區(Data_Field)長度Ld為0~2112 byte可變,校驗區(CRC)長度為4 byte。因此,幀長度Lf從36~2148 byte可變。由于協議要求兩幀傳輸的間隔不小于24 byte,結合FC標準要求,定義Li的值是4的整數倍,且不小于24 byte。

圖4 FC-2幀格式定義Fig.4 FC-2 frame format definition
傳輸路徑的時延為

數據幀傳輸的時延(由于使用了8B10B編碼,傳輸時要增加25%的數據量)為

R_RDY原語的傳輸時延為

由于Nx_Port1與F_Port1、Nx_Port2與F_ Port2通信的過程類似,因此定義Nx_Port與F_ Port完成一次幀傳輸過程的總時間為T,一次完整幀傳輸的時間就是2T。

將式(1)~(3)代入式(4),可得

由于Lps?Lf,因此式(5)中Lps可忽略不計,得

3.1 最優信用值分析
實際應用中,由于受到系統硬件資源的限制,不可能將信用值設計得過大,因此要合理地選取既能夠滿足網絡高性能傳輸,又能夠滿足系統資源分配的信用值。為了使FC交換式拓撲下的幀傳輸性能最優化,理想狀態是發送端口在一次完整傳輸完成前可以一直發送數據幀,且使用的最優信用值不超過BB_Credit設定值。定義此最優信用值為Cmax,推導過程如下。

由于信用值必須是整數,因此要將得到的結果向上取整,可得

將式(6)代入式(8),得

從式(9)可以看出:最優信用值Cmax的設置和幀長度Lf、幀間隔長度Li成反比,和Vt,Tps,Tpn成正比。因此,設計協議時Lf的設置應盡量大,應用中一般建議設為接近數據區長度Ld限制的最大值。同時,為了保證傳輸效率,Li應盡量短,通過提升系統設計性能,減小Li接近最小值24 byte。為了提高通信速率,協議的傳輸速率Vt的設置越大越好,目前的主流網絡已經支持1 Gbit/s的傳輸速率,在研的網絡正在向2 Gbit/s和4 Gbit/s,甚至更高的速率發展。
3.2 傳輸效率分析
假設端口的信用值初始化為N,且N的取值不大于最優信用值Cmax,可得到FC-AE-1553的FC-2通信鏈路傳輸效率E的計算公式如下。

將式(6)代入式(10),可得

當N取值為最優信用值Cmax時,將式(7)代入式(10),定義通信鏈路的最大傳輸效率Emax,則

從式(12)得出,由于Ld<Lf+Li,Emax只能逐漸接近卻無法達到100%。當N取值超過時間T內需要使用的最優信用值Cmax時,多余的信用不會被使用。
從式(11)、(12)得出,E和N,Ld成正比,和L,Lf,Li,Vt,Tpf,Tpn成反比。在一般應用中,建議將N設置成硬件允許條件下接近Cmax的最大值,將Ld設置為協議支持的最大值,這與第3.1節中最優信用值的分析結果一致。同時,為了取得更高的傳輸效率,建議盡可能減小節點間的傳輸距離,提高節點的處理性能,減少處理時間Tpf和Tpn。在Vt的選取上,雖然選擇較快的傳輸速率會帶來傳輸效率的降低,但是提高Vt的同時會帶來數據量的提升,總體上來說,提高Vt帶來的優勢更大。在航天器的網絡設計中,一般節點間的傳輸距離足夠小,因此,如何減少軟硬件處理時間,選取更高速率的傳輸器件是提升網絡性能的關鍵。
根據以上模型和公式,通過仿真研究FC交換式拓撲的最優信用值設置方法,以及網絡中各參數選取對傳輸效率的影響,并根據仿真結果給出FC網絡的參數設計建議。
4.1 最優信用值仿真
在幀長度Lf為2148 byte,幀間隔長度Li為24 byte,節點處理時間Tpf和Tpn都是10μs,鏈路傳輸速率Vt分別為1 Gbit/s、2 Gbit/s、4 Gbit/s的情況下,最優信用值Cmax和節點間距離L的關系見圖5。從圖5中可以看出:最優信用值隨著節點間距離的增加逐漸變大,當鏈路傳輸速率提高后,這種變化趨勢更加明顯。
圖6給出了幀長度Lf為2148 byte,幀間隔長度Li為24 byte,節點間距離L為500 m,鏈路傳輸速率Vt分別為1 Gbit/s、2 Gbit/s、4 Gbit/s的情況下,最優信用值Cmax和節點處理時間(Tpf,Tpn)的關系。從圖6中可以看出:在10μs的節點處理時間里,最優信用值都在6以內,處理時間對最優信用值的影響不大。為了提高節點處理時間,通常使用現場可編程門陣列(FPGA)作為協處理器進行算法實現。

圖5 最優信用值和節點間距離的關系Fig.5 Relationship between optimal credit and distance between nodes

圖6 最優信用值和節點處理時間的關系Fig.6 Relationship between optimal credit and node processing time
圖7和圖8對數據幀長度和幀間隔長度進行了分析。在節點間距離L為500 m,節點處理時間Tpf和Tpn都是10μs,鏈路傳輸速率Vt分別為1 Gbit/s、2 Gbit/s、4 Gbit/s的情況下,分別給出了最優信用值Cmax和幀長度Lf、幀間隔長度Li的關系。當幀長度增大時,需要用到的最優信用值顯著減小。當幀間隔長度達到1000以上時,最優信用值可以設置成不大于2。一般,使用軟件進行協議??刂茣r,會帶來較多的幀間隔數據(空閑數據)。

圖7 最優信用值和幀長度的關系Fig.7 Relationship between optimal credit and frame length

圖8 最優信用值和幀間隔長度的關系Fig.8 Relationship between optimal credit and frame interval length
4.2 傳輸效率仿真
圖9給出了節點處理時間為10μs,幀長度Lf為2148 byte,幀間隔長度Li為24 byte,鏈路傳輸速率Vt為2 Gbit/s,信用值N分別為2、4、6、8、10的情況下,傳輸效率E和節點間距離L的關系。可以看出,傳輸效率隨著節點間距離的增加而顯著降低。

圖9 傳輸效率和節點間距離的關系Fig.9 Relationship between communication efficiency and distance between nodes
圖10給出了節點間距離L為500 m,幀間隔長度Li為24 byte,節點處理時間Tpf和Tpn都為10μs,鏈路傳輸速率Vt為2 Gbit/s,信用值N分別為2、4、6、8、10的情況下,傳輸效率E和幀長度Lf的關系。隨著幀長度的增大,傳輸效率有明顯的增長。圖11給出了當幀長度為2112 byte,傳輸效率E和幀間隔長度Li之間的關系,隨著幀間隔長度的增大,傳輸效率下降非常明顯。幀間隔長度的控制和系統處理能力息息相關,其值過高是現實應用中傳輸效率很難提高的主要原因。

圖10 傳輸效率和幀長度之間的關系Fig.10 Relationship between communication efficiency and frame length

圖11 傳輸效率和幀間隔長度的關系Fig.11 Relationship between communication efficiency and frame interval length
4.3 試驗測試
如圖12所示,FC網絡的性能測試平臺以某航天飛行任務為背景,由FC-AE-1553的網絡控制器(NC)節點、2個網絡終端(NT)節點、FC交換機和協議分析儀組成。其中:NC和NT1節點使用“ML507評估板+PC”的架構;NT2節點使用自研的“PowerPC+FPGA”架構的嵌入式板卡;FC交換機使用博科公司的Brocade300,協議分析儀使用JDSU公司的Xgig-B480FA,用于抓取并分析通信過程中的原始數據。

圖12 FC性能測試平臺Fig.12 FC performance test platform
測試平臺各節點間通信使用長500 m的光纖介質,2 Gbit/s的光模塊,數據幀中的數據區長度設置為2048 byte,信用值設為8。經測試,系統各節點的處理時間約為10μs,有效傳輸帶寬為370 Mbit/s,傳輸效率約為18%。研究協議分析儀抓取的數據發現,導致低效率的主要原因是幀間隔長度達到了10 000 byte左右。通過減少幀間隔長度,可以將傳輸效率提升至90%以上,進一步驗證了分析和仿真結果的正確性。
使用FC-AE-1553協議可以有效提高航天器網絡的傳輸帶寬和實時性,基于交換式拓撲的FCAE-1553協議在航天應用中得到越來越廣泛關注,本文對其FC-2層的流量控制方法和傳輸效率開展了研究,得出結論如下。
(1)在節點間距離(傳輸距離)小于500 m的航天應用中,距離對信用值設置的影響很小,一般可以不用考慮傳輸距離對信用值和傳輸效率的影響。
(2)增大數據幀長度和減少節點處理時間,有助于減少信用值的設置和提高傳輸效率。在航天器網絡設計中,考慮到資源約束限制,為了軟硬件實現簡單,數據幀中的有效數據長度建議設置為2048 byte,信用值設置不超過10。
(3)幀間隔長度過大會導致傳輸效率低,在設計中應針對軟件協議棧中相關設計進行改進。
本文提出的最優信用值和最大傳輸效率的計算方法,可在有限的航天器資源條件下解決FC協議的FC-2層流量控制問題,為優化航天器FC網絡設計提供參考。為了進一步提升航天器中FC-AE-1553協議的性能,后續可以針對FC-4層的協議繼續開展深入研究。
(
)
[1]郭金昌.商用高分辨率光學遙感衛星及平臺技術分析[J].航天器工程,2009,18(2):83-89 Guo Jinchang.Technical analysis of high resolution commercial optical remote sensing satellite[J].Spacecraft Engineering,2009,18(2):83-89(in Chinese)
[2]ANSI INCITS.Fibre Channel-Avionics Environment(FC-AE)[S].Washington D.C.:ANSI,2003
[3]ANSI INCITS.Fibre Channel-AE-1553[S].Washington D.C.:ANSI,2006
[4]曹素芝,張善從.FC-AE-1553高級特性介紹[J].光通信技術,2010,34(2):49-51 Cao Suzhi,Zhang Shancong.Analysis on advanced features of FC-AE-1553[J].Optical Communication Technology,2010,34(2):49-51(in Chinese)
[5]Xu Yajun,Zhang Xiaolin,Xiong Huagang.Study on the application of fibre channel in future spacecraft avionics system[C]//Proceedings of the 1st International Symposium on Systems and Control in Aerospace and Astronautics(ISSCAA).New York:IEEE,2006:189-192
[6]Dong Wenjie,Zhou Chunmei,Zhang Jun,et al.Application of fibre channel technology to flying control system[C]//Proceedings of the 2012 Second International Conference on Instrumentation&Measurement,Computer,Communication and Control(IMCCC).New York: IEEE,2012:1518-1521
[7]Leng Yue,Zong Zhulin,Liu Wei.Design and implementation of FC-AE-1553 point to point transmission hardware platform[C]//Proceedings of IEEE Circuits and Systems International Conference on Testing and Diagnosis(ICTD).New York:IEEE,2009:1-4
[8]蔡昭權,秦磊華.光纖通道流量控制協議性能分析與應用[J].通信技術,2008,41(5):111-115 Cai Zhaoquan,Qin Leihua.Flow control performance analysis and application of fibre channel[J].Communications Technology,2008,41(5):111-115(in Chinese)
[9]蔡昭權,秦磊華,羅偉,等.光纖通道流量控制的OPNET仿真模型設計[J].計算機工程,2011,37(8): 102-105 Cai Zhaoquan,Qin Leihua,Luo Wei,et al.Design of OPNET simulation model for fibre channel flow control[J].Computer Engineering,2011,37(8):102-105(in Chinese)
[10]林強,熊華剛,張其善.光纖通道仲裁環流量控制中信譽的確定方法[J].航空學報,2004,25(6):602-605 Lin Qiang,Xiong Huagang,Zhang Qishan.Credit determination for flow control in FC-AL[J].Acta Aeronautica et Astronautica Sinica,2004,25(6):602-605(in Chinese)
[11]曹素芝,張善從.光纖通道基于信用的流控機制與性能評價[J].半導體光電,2009,30(6):918-922 Cao Suzhi,Zhang Shancong.Flow-control mechanism based on credit and performance evaluation in fibre channel[J].Semiconductor Optoelectronics,2009,30(6):918-922(in Chinese)
[12]蔡昭權,胡輝,秦磊華,等.一種自適應的光纖通道存儲擴展流量控制方法[J].武漢理工大學學報(信息與管理工程版),2013,35(3):324-327 Cai Zhaoquan,Hu Hui,Qin Leihua,et al.An adaptive flow control mechanism for FC-SAN storage extension[J].Journal of WUT(Information&Management Engineering),2013,35(3):324-327(in Chinese)
[13]彭力,呂從民,劉迎春,等.面向空間應用的FC-AE-1553網絡拓撲性能研究[J].計算機技術與發展,2013(9):10-14 Peng Li,LüCongmin,Liu Yingchun,et al.Topology performance study of FC-AE-1553 network in space application[J].Computer Technology and Development,2013(9):10-14(in Chinese)
[14]查翔,南建國,羅海英.FC-AE-1553與MIL-STD-1553協議轉換方案的設計[J].計算機工程與設計,2012,33(3):895-900 Zha Xiang,Nan Jianguo,Luo Haiying.Design of protocol converting scheme between FC-AE-1553 and MIL-STD-1553[J].Computer Engineering and Design,2012,33(3):895-900(in Chinese)
[15]周鵬飛,宗竹林,肖龍.一種PON結構航空總線協議芯片的內存架構[J].微電子學與計算機,2013,30(9):5-8 Zhou Pengfei,Zong Zhulin,Xiao Long.The memory architecture of PON structure avionic bus protocol chip[J].Microelectronics&Computer,2013,30(9):5-8(in Chinese)
[16]ANSI INCITS.Fibre channel framing and signaling-3(FC-FS-3)[S].Washington D.C.:ANSI,2008
(編輯:夏光)
Flow Control Method and Performance Analysis of Fibre Channel
FANG Liang1,2ZHAO Guangheng1
(1 Technology and Engineering Center for Space Utilization,Chinese Academy of Sciences,Beijing 100094,China)
(2 University of Chinese Academy of Sciences,Beijing 100049,China)
Focusing on the FC(fibre channel)optimization problem of transmission efficiency in space application,this paper proposes a generic flow control model in FC-SW(FC switch fabric)topology and designs a flow control method in FC-2.By researching the relationship between the credit value,transmission distance,frame length and node processing time in FC-SW topology,the paper derives a general method for calculating the optimal credit value and the maximum transmission efficiency.According to the actual application requirements and simulation results,this paper suggests using 2048 bytes as the data field length and the credit value no more than 10,while minimizing the frame interval.With an application in a space mission,the system test results show that the calculation method is reasonable and feasible,and it can improve network performance effectively and optimize resource at the same time.
fibre channel;switch fabric topology;flow control;optimal credit value
V443.1
A DOI:10.3969/j.issn.1673-8748.2015.02.009
2014-03-11;
2014-05-20
房亮,男,碩士,副研究員,從事光纖網絡通信技術和空間信息處理與傳輸技術研究工作。Email:fangliang@ csu.ac.cn。