面向應用可定制的處理器

文/張悠慧

定制化設計成本較高，如果無法獲得較大使用量就不能真正推廣。因此一般認為超算領域以及大規模云計算模式將是定制化設計的用武之地。

處理器結構的多核化發展已經成為微體系結構發展的主要趨勢。這一多核化甚至眾核化的趨勢實際上是一種“不得已的選擇”。我們知道，時至今日，芯片的集成度還在以摩爾定律的速度增長，但受制于功耗、互連延遲等的限制難以設計成為一整個“大而復雜”的處理器，所以只能采用“分而治之”的辦法——在一個處理器中集成多個“小而簡單”的處理器核。這樣就沒有全局的連線延遲，處理器核的驗證也相對簡單可行。

但從應用角度來看，如何利用這種多核/眾核結構成為一個系統性的難題。并行化程序面臨編程難度大、調試困難等因素，在短期看不到有效的解決途徑。而且許多應用天然缺乏并行性，無法直接從中獲益。因此，將集成度的增長轉換為處理器能力的增長遇到了困難，通用處理器的片上資源在很大程度上無法得到有效利用。比如，美國勞倫斯實驗室（伯克利）的分析數據表明：300余條X86指令中，大致只有80余條是科學計算所常用的。進一步研究表明，不同類型應用對于處理器微體系結構的需求不同，即通用處理器在效能上難以“通用”。

這就導致計算機基礎建設設施廣泛存在規模過大、功耗過高、可靠性較低等問題。預計到2015年，超算系統峰值性能將超過100PFlops，2018 年將跨入E量級時代。然而，隨著系統峰值性能的提升，系統功耗將成為制約系統發展的最主要問題，預計未來E級系統功耗至少在數十乃至上百MW 量級上，將直接影響系統運行的可靠性和運行成本。

因此，在通過工藝發展向片內集成更高效資源的同時，進行體系結構設計方法上的改進與創新也是必要途徑，面向應用的定制處理器設計就是其中的關鍵技術。

定制處理器的概念

定制計算器（或系統）指的是針對某一特定應用或應用領域，在硬件架構（包括指令集）和軟件支持方面進行了深度優化與定制化設計的處理器（或系統），目標主要是獲得較高的應用性能與性能功耗比。與之相對的，通用處理器之所以通用是因為其被廣泛應用在完全不同的領域，“上”至超級計算機，“下”至桌面應用，比如較新的Intel IVY Bridge核心架構就被同時應用在服務器平臺、桌面平臺與移動平臺上。這樣勢必會帶來前面所提到的問題。

通用處理器這樣做有其歷史發展的必然性，處理器廠商需要維護兼容性來支持已有的應用資源，進而保持市場地位。而定制化設計則反其道而行之——不是強調兼容性，而是以應用為中心，由硬件去適應軟件或者軟件的計算模式。這一做法也有其弊端：定制化設計往往成本較高，如果沒有較大使用量就無法真正推廣。這就進一步牽涉到定制化設計的分類及其技術途徑。

技術途徑

廣義上講，定制處理器（系統）包括應用定制集成電路（ASIC, Application-Specific Integrated Circuits）與應用領域定制處理器（ADSP , Application Domain Specific Processor）兩類。由于前者過于強調專用性，限制了這一類設計的實際應用，因此本文主要集中于后者。后者在應用層面主要通過指令集的擴展來體現硬件層面的定制功能，一個簡單例子就是針對某種使用頻繁的功能，設計對應的硬件指令，使得應用可以以直接執行指令的方式來完成功能，其效率顯著高于基于通用指令的軟件執行方式。

定制化設計的最關鍵問題是對于應用的理解與分析。在此基礎上后續的模擬仿真、具體設計方法等才有立足之地。因此，定制化設計的通用技術包括如下流程。

應用分析

通過核心算法分析，得到應用的通信、計算和訪存復雜度，進而獲得其通信/訪存模式、性能熱點以及可擴展性。同時進行指令級并行性分析與優化，為處理器定制打下基礎。

擴展指令的發現與生成

通常使用指令模板來尋找應用程序代碼中的潛在候選指令。應用程序的執行過程通常可以以圖的方式描述，如數據流圖、控制流圖；指令模板則通常表示為子圖的形式。這樣，基于指令模板的擴展指令生成問題就能轉換為圖的同構問題。然后再通過開銷分析對所選指令進行約束。

擴展功能模塊的設計與耦合

擴展指令的實現對硬件架構也提出了新的要求。傳統的處理器架構針對通用計算設計，結構復雜，功耗、面積開銷大。完全定制的專用處理器結構則存在結構可擴展性差的缺點。因此，需要研究面向指令集擴展的可擴展處理器架構。

高層次建模/模擬技術

定制設計需要盡快盡早的進行應用性能、功耗與處理器資源消耗評估，以檢驗是否達到設計目標。因此需要開展高效的性能模擬技術以及高層次的芯片面積/功耗建模研究，以便在定制設計中反復快速的進行優化，直至達到目標。

發展現狀

工業界有不少定制處理器應用實例。如Tensilica公司的Xtensa系列可定制處理器、微軟的 eMIPS 和 Xilinx 的 MicroBlaze處理器。在超算領域，已經有采用了ASIC技術與/或Xtensa可定制處理器的超級計算機，如Anton超級計算機與GreenFlash。Anton是美國紐約D.E.Shaw實驗室研制的分子動力學模擬定制系統，由針對應用定制的ASIC加速部件（包括Tensilica的嵌入式可定制處理器內核）以及專門設計的3D-torus互連網絡構成。Green Flash是美國勞倫斯國家實驗室（伯克利）研制的面向全球大氣預報的定制結構超級計算機原型，采用Tensilica定制處理器以及互連結構，對它們進行裁剪以適用于全球大氣變化預報應用，預計其每個處理器核的峰值性能是2.7Gflops，如果總體性能為10P的話，系統將擁有12萬個處理器，功耗為3MW，均大大低于采用Intel或者AMD通用處理器的規模或者功耗。

學術界對可擴展的處理器架構也展開了諸多研究，部分舉例如下：

1.美國UCLA的Customizable Domain-Specific Computing研究中心自2010年起開始研究通用的可定制設計平臺。

2.英國帝國理工的Wayne Luk 教授研究組開展了一系列的定制指令處理器研究，其針對歸納邏輯程序設計（inductive logic programming）方面的定制化設計的運算性能是P4處理器的15倍。

3.Molen 是由核心通用處理器和可重構協處理器組成。Molen 的主要貢獻是解決了指令擴展導致的opcode 空間爆炸問題和可重構器件帶寬限制問題。

4.DISC 是一種采用動態部分可重構機制的指令集擴展處理器。DISC 將每個指令實現成相互獨立的電路模塊，通過類似頁換入換出的方式，根據應用需要，動態地加載或卸載指令功能模塊。

清華大學在國內較早開展了定制處理器研究，提出以通用的微體系結構擴展支持特定應用這一技術路線，并選取“全球氣候變化數值模擬”這一代表性關鍵應用集為目標，實現了可定制處理器FPGA原型，仿真結果表明處理器的應用性能功耗比是采用同工藝Intel至強處理器的一個數量級以上，且面積僅為幾十分之一。

應用前景

定制化設計成本較高，如果無法獲得較大使用量就不能真正推廣。因此一般認為超算領域以及大規模云計算模式將是定制化設計的用武之地。

第一,云計算模式下，數據中心為差異化的定制處理器提供了應用空間。

在云計算模式下，網絡的快速發展以及各種網絡終端的引入使得信息處理的界限變得模糊——通過大型數據中心提供IT基礎設施、存儲/計算資源以及應用服務成為趨勢，個人可以通過多種設備來訪問、處理其感興趣的數據與服務。這樣，未來的數據中心可能將承擔大量需求各異的數據處理任務，包括文本分析搜索、媒體處理、數據統計、事務處理等。針對這些需求各異的應用，可以設計分別為其定制的處理器結構。同時，數據中心內所需的處理器數目巨大，這就為分攤定制設計成本提供了基礎。

第二,在超級計算領域定制處理器將快速發展。

能充分利用超算系統計算能力的應用數目是非常有限的，在很多專業場合，超級計算機在其生命周期內往往只運行有限的幾種科學計算應用。所以針對主要目標應用（或應用集）。采用應用定制的方法進行處理器結構設計能顯著提升超算系統的效率。而且超算系統往往擁有數十萬個（或者更多）的處理器核，這為定制設計的經濟有效應用提供了前提條件。比如，美國能源部2013年上半年開展 Codesign Project，以科學計算需求來指導體系結構與系統軟件設計，目前計劃建設三個超算中心，分別針對燃燒（Combustion）模擬、材料模擬與核能計算。

目前，《國家重大科技基礎設施建設中長期規劃》中的“地球系統數值模擬器”正處于建設方案研討與申請階段，有關申請方提出了“應用定制體系結構”方案，這說明國內的超級計算設施建設也將逐步調整指導思想，將系統的應用效能作為關鍵指標。

應用為“王”，掌握需求、理解需求、服務需求是任何技術、產品研發具有持久生命力的根本，而且對于國內應用需求的理解與掌握不是任何一家國外處理器設計廠商所能替代的。從根本上講，理解具體的應用需求，結合國內相關科研院所在處理器設計方面的良好積累，圍繞應用進行處理器定制的指導思路將是適合我國國情的、能發揮后發優勢的發展道路。