片上網絡：新一代的片上系統結構*

劉炎華，劉 靜，賴宗聲

（華東師范大學 微電子電路與系統研究所，上海 200062）

片上網絡：新一代的片上系統結構*

劉炎華，劉 靜，賴宗聲

（華東師范大學 微電子電路與系統研究所，上海 200062）

片上系統是使用共享或專用總線作為芯片的通信資源。由于這些總線具有一定的限制，因此擴展性較差，不能滿足發展需求。在這種情況下，目前的片內互連結構將成為多核芯片的發展瓶頸。文章介紹了一種新型的片上體系結構（片上網絡）來解決未來片上系統中總線所帶來的不足。片上網絡作為一種新的片上體系結構，可以解決片上系統設計中所帶來的各種挑戰，受到了學術界和工業界的廣泛重視。片上網絡的研究涉及體系結構、設計方法以及設計工具等諸多方面，文章從體系結構的角度對片上網絡研究中的關鍵問題作了簡單介紹。

片上系統；片上網絡；體系結構

1 引言

微電子技術發展的理論基礎是19世紀末到20世紀30年代期間建立起來的現代物理學。從1947第一支半導體晶體管的發明，到1958年采用硅平面工藝的集成電路誕生，直到目前正在發展中的SoC，半導體集成電路一直遵循摩爾定律的預言高速發展著。半導體發展速度為人類歷史上所罕見，僅近40年來，單個芯片上集成的晶體管數目就增加了數百萬倍。正是源于這種高速發展，使得移動電話、彩色電視機、數碼相機、個人電腦、互連網絡等高科技全面進入了尋常百姓家，迅速改變了人類的生產模式、文化娛樂和生活方式。

從設計的角度來看，一個SoC可以被認為是“一個將多個獨立的超大規模集成電路拼接在一起從而提供一個完整應用功能的電路。”當設計SoC時，SOC供應商除了可以調用來自內部設計的內核庫以外，還可以使用由外部設計者所提供內核庫。內核基本上是預先設計好的具有復雜功能的模塊，這些模塊稱為知識產權模塊（IP Model），虛擬元件（VC）或簡單的一些宏。由于SoC中的核來自不同來提供商，因此SoC內部是多樣的，這是使得設計過程變得復雜的一個關鍵因素。

總線結構是SoC的主要特征。總線由于結構簡單而被廣泛運用。然而隨著工藝技術的持續發展，總線漸漸無法滿足芯片對性能的新要求，其主要表現在以下幾個方面：

（1）擴展性差；

（2）線通信效率低；

（3）單一時鐘同步問題。

因而，2000年左右幾個研究小組提出了一種全新的集成電路體系結構—片上網絡（Network on Chip），其核心思想是將計算機網絡技術移植到芯片設計中來，從體系結構上徹底解決總線架構帶來的問題。

2 NOC結構

2.1 NOC基本體系結構

片上網絡（NoC）第一次將計算機網絡的技術引入到芯片設計中，從體系結構上徹底地解決這些瓶頸問題[1,2]。NoC從本質上來說就是一個基于網絡通信的多處理器片上系統，它主要由計算節點和通信節點兩部分組成。通信節點主要由路由器組成，計算節點通過路由器加以網絡協議從而規范實現片上資源的互連和通信，這些互連資源包括CPU、DPS、視頻流處理器以及I/O接口等。NoC經過幾年的發展，已經出現了多種架構方案，其中kumar提出的二維規則型網絡（2D Mesh），因其結構簡單、容易分析和布局等優點，已經成為了研究的熱點[3]。圖1是一個典型的2D Mesh結構的NoC示意圖。

從圖1我們可以看出，計算節點rn通過網絡適配單元NI和負責計算節點之間信息交換的通信節點Sn來實現數據交換。圖1給出的4×4的2D Mesh 結構包含了一個NoC 基本組成，該結構沒有采用總線和專用點對點的鏈路，而采用了一般網格拓撲結構，通過一定的路由算法可以實現任意兩個計算節點之間的通信，可采用包交換、電路交換或其他的路由方式，可使用同步、異步或其他邏輯實現。

對于一個NoC來說，常見的片上路由器結構如圖2所示。由于片上路由器的緩存（buffer）限制以及NoC對信息延遲的要求，因此蟲孔交換[4]是一種比較適合NoC信息交換的方式。

2.2 NoC層次結構

NoC借鑒OSI網絡模型中的分層思想，每一層和相鄰層之間都有數據接口，較低層通過接口向上一層提供服務，服務的實現細節是對上層屏蔽的。較高層又是在較低層提供的低級服務的基礎上實現更高級的服務。一般來說，各層的主要功能都是由NoC中的網絡適配單元來實現。關于NoC 層次結構在不同的NoC 實現中有不同的描述，各層的功能略有差異，各層的名稱和數目也不盡相同。圖3給出的NoC中各層次的結構，每個層次都對應著NoC 的不同研究問題[5,6～9]。

3 NOC關鍵問題

3.1 NoC拓撲結構

NoC的拓撲結構反映了NoC中各節點在芯片中如何分布和連接。由于通信需求約束、各計算節點的面積、芯片封裝形式等因素的不同，采用NoC體系結構時，設計者需要根據實際情況采用不同類型的拓撲結構。在選擇拓撲結構的時候，設計者主要應該考慮兩個因素：通信負載較重的計算節點之間應該盡可能靠近；NoC使用片內布線資源作為通信信道，因此節點之間的連接不能太復雜，且要具有可擴展性。

目前來說，常見的二維片上網絡拓撲結構主要有以下幾種：

（1）蜂窩結構（Honeyeomb）

蜂窩結構如圖4所示，計算節點和通信節點的比例為3∶1，每個計算節點與三個計算節點以及一個通信節點相連接，每個通信節點與六個計算節點以及六個通信節點相連。相對于其他拓撲結構，其連線資源比較緊張。圖4中白色模塊代表計算節點，黑色模塊代表路由節點。

（2）規則的二維網狀網絡（Regular 2D Mesh）

規則的二維網狀網絡是目前設計者最常用的拓撲結構，如圖5所示。每一個計算節點與一個通信節點相連，而一個通信節點與四個相鄰的通信節點相連；通信節點實現路由的功能，并作為每個相鄰的計算節點的網絡接口。

（3）二維折疊環（2D Folded Torus）

2001年6月，斯坦福大學的W.J.Daly提出使用片上互連網絡通過數據包通信的方式替代各式各樣的連線結構的構想，并提出了二維折疊環的拓撲結構，如圖6所示。與二維網狀網絡相比，它將處于邊界的通信節點也連接起來，使所有的通信節點成為一個環路，這樣可提供更多的路由選擇。但是從圖6中也可以看到，由于環路與環路之間有交叉的地方，這樣不可避免地在物理實現時需要更多的版圖布線資源[10]。

由于三維片上結構的技術發展，已經有學者提出了三維的片上結構，三維的片上網絡可提供更高效的數據通信。

3.2 路由策略

路由是確定一個數據從源節點到目的節點的發送機制。NoC中的路由算法確定如何為每個數據包建立下一條要執行的路徑，即路由算法決定數據包從源節點開始選擇哪一條路徑到達目的節點。所以，路由算法對NoC網絡性能的好壞是至關重要的。路由算法可以分為：確定性路由（Deterministic Routing）和自適應路由（Adaptive Routing）。

NoC主要的確定性路由算法有源路由算法和XY路由算法。源路由算法是由源節點指定包到目的節點的路由；XY路由算法將數據包首先在X方向進行傳輸，然后在Y方向進行傳輸到達目的地。它是一種無死鎖、確定性和基于源地址的路由算法。XY路由算法能在負載較輕和負載均勻的條件下，比較穩定地工作，但在負載加重時，NoC的性能會變得很差。文獻[11]針對XY路由在負載加重時，性能變差這一缺點提出改用一種自適應路由模式。在負載較輕和負載均勻的條件下采用XY路由模式，在負載加重時采用自適應路由模式，這路由算法稱為DyAD Routing。自適應路由涉及動態分布機制，它能根據局部鏈路擁塞的情況，很好地適應網絡狀態的變化，是具有一定容錯功能的網絡路由算法。例如，網絡中某節點不可用（故障）時，包就繞開該節點，沿著其他的路徑傳輸，但自適應路由算法實現復雜、開銷大，不適合在芯片上實現。

NoC中的路由算法應該能有效地解決活鎖、饑餓以及死鎖的問題。活鎖：當一個包在它的目的地環繞但無法到達目的節點時就發生了活鎖，該問題存在于非最短路由算法中。饑餓：使用不同優先級可能出現高優先級的包始終占用資源，而一些低優先級的包永遠不能到達其目的地，發生饑餓現象，使用公平路由算法或為低優先級的包預留一些資源可避免饑餓現象。死鎖：當兩個包彼此等待路由轉發時，由于保留了部分資源并等待對方釋放資源，因此產生死鎖，死鎖是由資源的獨占性引起的。

3.3 交換技術

交換技術是按照某種方式動態地分配傳輸線路和接口資源的規則。NoC中的基本交換技術，包括：存儲轉發交換、虛擬直通交換技術（Virtual Cut-Through）和蟲孔交換技術 （Wormhole Routing）[12]。

（1）存儲轉發交換：在計算機網絡中，這是最流行的分組交換技術。采用存儲轉發交換，整個數據包的一部分將存放在接收路由器中，直到接收路由器接收到整個數據包后，它才將數據包提交給下一個在路由路徑上的路由器。在這路由機制下，每個路由器都需要有充足的緩沖空間，以存放整個數據包。對于大的數據包而言，這種方法將會引入額外的數據包傳輸延遲。由于緩沖資源相當昂貴，除此以外，存儲轉發交換需要消耗更多的功耗和面積，因此不適合作為NoC的路由交換技術。

（2）虛擬直通交換：這種技術可以減少由于存儲轉發交換所引起的數據包延遲。在這種路由機制下，路由器不存儲整個數據包，數據包被當前路由器接收后可以馬上轉向下一個路由器。但是，如果下一個路由器無法使用，那么，當前路由器，將以完整的形式存儲待發數據包。在吞吐量相同的情況下，虛擬直通交換機制的能耗低于存儲轉發交換。

（3）蟲孔交換：這種交換機制是為并行處理器而開發的。蟲洞流程控制能夠實現較小的Buffer和較短時間的路由延遲。在蟲孔交換中，信息包被劃分成更小的流控單元（flit）。flit以流水線的方式進行路由，可明顯減少通信延遲。第一個flit通常被稱為頭flit，頭flit中包含了路由信息，當頭flit由于網絡競爭產生堵塞后，后續的flit將停止在各自所在的路由節點，因此各路由節點只需要很小的緩存就可以滿足存儲的需要。從而減少了路由器中緩存空間的需求。

通過比較了三個流行的交換技術后，可以很容易的看出，蟲孔交換是片上網絡的最佳選擇：蟲孔交換使網絡延遲對路徑長度不那么敏感。通常延遲由兩部分組成：一部分是發送數據包的時間，另一部分是各個節點尋徑時間的總和。在實際應用中，一般數據包的長度比較大，且遠遠大于各個節點尋徑時間的總和，蟲孔交換的網絡延遲主要由數據包發送時間來決定，因此采用蟲孔路由的片上網絡更易升級。同時蟲孔路由只需要很少的路由器緩存，這一點也很好的迎合了NoC的特點。因此目前的大部分片上網絡交換技術都是采用了蟲孔路由技術。

片上網絡成為了解決日益復雜的SoC設計問題最有前景的方法之一，目前NoC的研究除了集中在上述幾個方面外，還包括了NoC的服務質量（QoS）以及它的軟件模型（software model）等。

4 小結

本文所討論的問題只是 NoC設計中的一部分，具體實現一個 NoC的時候，從物理層到系統層，從軟件到硬件，NoC涉及的方方面面遠遠多于本文所討論的問題。雖然NoC的潛力是巨大的，但在實現一些關鍵技術之前：如可靠的NoC結構、高質量的服務保證和可行的軟件模型，它將還無法應用到實際設計中去。因此NoC這個領域，還有很多值得研究的地方。

［1］L.Benini, G.De Micheli.Networks on chips: A new SoC Paradigm [J].IEEE Computer Magazine, 2002, 35（1）:70-78.

［2］W.J.Dally, B.Towles.Route packets,not wires:on-chip interconnection networks[A].Proc.Design Auto- mation Conf[C],2001,684-689.

［3］Kumar S,J ant sch A,Soininen J,et al.A Network on Chip Architecture and Design Methodology [A].Proc- eedings of IEEE Computer Society Annual Symposium on VLSI[C], 2002,105-112.

［4］L.M.Ni and P.K.McKinley.A survey of wormhole routing techniques in direct networks [J].Computer, 1993, 26（2）:62-76.

［5］http:// www.st.com/[EB/OL].

［6］Dally W J, Towles B.Principles and Practices of Interconnection Networks [M]. Morgan Kaufmann, 2004.

［7］Bjerregaard T,Mahadevan S.A survey of research and practices of network-on-chip[C].ACM Computing Surveys,2006 , 38（1） :1-54

［8］Dehyadgari M,Nickray M, Afzali2kusha A, et al. A New Protocol Stack Model for Network on Chip[C]. In: Proceedings of the 2006 Emerging VLSI Technologies and Architectures （ISVLSI’ 06）, IEEE, 2006, p2

［9］Kumar S, J ant sch A, Soininen J-P, et al. A network on chip architecture and design met hodology. In: Proc. Int’s Symp.VLSI （ISVLSI）, 2002. 117-124

［10］W.J.Dally and C.L.Seitz, The Torus Routing ChiP[J].Technieal RePort 5208:TR:86,ComPuter Seienee De Pt,California Inst.Of Technology,1986:1-19.

［11］Dehyadgari M,Nickray M,Afzali - kusha A,et al. Evaluation of pseudo adaptive XY routing using an object oriented model for NoC [C]//The 17th International Conference on Microelectronics. Iran:Tehran University,2005:204-208

［12］Ye T, Benini L, De Micheli G.Packetization and routing analysis of on chip multiprocessor networks[J]. Journal of Systems Architecture,2004,50（223）:81-104.

NoC: A New Architecture for System on Chip

LIU Yan-hua, LIU Jing, LAI Zong-sheng
（Institute of Microelectronics Circuit & System, East China Normal University,Shanghai200062,China）

The shared or dedicated buses are used in System on Chip（SoC）to interconnect the communicating on-chip resources. But, these buses can not be scalable beyond a certain limit. In this case, the current interconnect infrastructure will become a bottleneck for the development of multi IP chip. In this paper, we will introduce a new design paradigm （Networks on Chip） that has been proposed to counter the inefficiency of buses in future SoC. NoC as a new architecture on chip, can be a solution for the challenges of SoC design and has been

recognition by academe and industry. The research for NoC involves many problems such as system architecture, design methodology, design tools and so on.In this paper, we simply discuss the key problems for NoC from the view of system architecture.

System on Chip（SoC）; Network on Chip（NoC）; system architecture

TN701

A

1681-1070（2011）05-0023-05

2011-04-02

江蘇省專用集成電路設計重點實驗室開放課題基金資助項目（JSICK0801）

劉炎華（1980—），男，江蘇南通人，博士研究生，主研方向為高性能SoC/NoC體系結構設計及測試。

微電子制造與可靠性