邁向新“十”代　解析IBM Power 10處理器

李實

作為業界百年巨頭，IBM的大中型電腦在銀行、金融等行業依舊有著不可小覷的地位和勢力，而這類產品的核心正是IBM自研的Power處理器。雖然Power處理器不是民用設計，離普通用戶很遠，但是其強勁的性能和復雜的設計，也一直是其他廠商可望不可即的存在，在業內也有著獨立的地位。在今年的HotChips年會上，IBM披露了全新Power 10處理器，并宣布它將在未來12個月內開始銷售。那么，Power 10處理器都有怎樣的出色設計和強勁性能呢？今天本文就和大家一起來解讀一下這款處理器的設計和優勢。

IBM在2020年8月17日的HotChips年會上詳細介紹了其最新的Power10處理器。作為目前非x86架構中最強大的處理器之一，Power架構和相關生態圈在金融、商業、醫療保健和政府行業中依舊有著不可替代的作用和地位。上一代Power 9發布于2017年，一經發布就引發業界關注，Power 9擁有最多24核心96線程、全新的微架構、OMI內存、NVLink支持、PCIe 4.0支持等多項進步，是當時最強悍的企業級處理器之一。時過境遷，在經過多年的研發后，IB M又推出了全新Power 10。這一次，憑借7nm工藝、再度升級的架構以及大幅加強的AI算力，Power 10又將給業內帶來深遠的影響。

Power 10的發展歷史和設計理念

IBM在發布會上先回顧了IBM Power系列近幾代的發展歷史。首先從Power 7家族開始，Power 7和Power7+采用的是45n m和32n m工藝，進行了多核優化，最多8個核心32線程，支持eDRAM L3緩存。Power 7之后是Power 8，后者的工藝升級到了22nm，核心數量升級到了12核心，每個核心支持8線程SMT，12核心總計可以執行96個線程。在互聯方面，Power 8支持PCIe 3.0和NVLink，還加入了OpenPOWER聯盟，從這一代開始，IBM開始開源Power處理器的部分特性以吸引全球相關業者基于Power處理器推出產品。離我們最近的一代是Power 9家族，采用14nm工藝，核心數量升級到了最多24個，線程數量最多高達96個，這也是當前Power處理器家族的主力產品。

在2020年，Power 10終于正式上線。簡單來說，Power 10在單個系統中最多可以支持60個核心，每個插槽最多支持30個核心，每個核心可以根據配置情況的不同，支持SMT4或者SMT8，因此30個核心的處理器最多可以擁有240個線程。Power 10在處理器設計上采用了模塊化方案，處理器之間通過專用總線互聯。微架構方面，Power 10使用的是新的CPU微架構，整個處理器還增強了AI性能、提高了能耗比、增強了硬件安全特性、企業級性能等。通用互聯架構方面，Power 10支持目前最先進的PCIe 5.0技術，整體硬件架構設計非常激進。

在簡單介紹了IBM Power系列處理器發展的相關內容后，IBM給出了設計Power 10的五大重點，這五大重點包括：

1.數據的帶寬、容量、可組合性和規模，Power 10系統將帶來TB/s的單個插槽數據帶寬，PB級別的系統存儲容量，每個集群最高擁有16個處理器插槽。

2.強大的企業級核心。Power 10擁有新的核心架構，整體設計更為靈活，緩存更大且延遲更低。

3.端到端的安全功能。IBM提供了PowerVM管理程序，可以配合軟件協同實現對硬件的優化。

4.能源效率的改進。依靠全新工藝和架構，Power 10的能效比是Power 9的三倍。

5.AI性能的增強。相比Power 9，Power 10在數學矩陣方面的性能達到了前者的10倍至20倍。

Power 10的宏觀結構

IBM在處理器設計的相關信息披露上還是相當積極的，發布會上展示了Power 10的大量新特性和晶元結構圖。可以看到，一個完整的Power 10核心擁有16個CPU核心，每個CPU核心可執行最多8個線程也就是SMT8，每個CPU核心L2緩存的容量為2MB，L3緩存容量為8MB。IBM在L3緩存的設計上分為2個區域，每個區域64MB，分配給每個CPU核心為8MB。在CPU核心和L3緩存的外圍，則布置了SMP、內存、各類加速器、各種計算集群和PCI界面。再向外一層則是PowerAXON互聯界面和內存控制器（OMi）部分。

IBM給出了有關Power 10功能特性的詳細表格。在工藝和封裝方面，Power 10采用的是三星7nm工藝，這也是該工藝首次應用在規模如此巨大的核心上。值得一提的是，三星7nm工藝使用的是EUV光刻，這意味著三星已經成熟掌握了EuV高世代光刻技術，并能夠開始量產如此復雜的CPU核心。Power 10處理器有180億晶體管，整體面積高達602平方毫米，擁有18個金屬層，配置方案為單核配置或者雙核配置。

在計算功能設計方面，Power 10處理器出于良率考慮，目前只開放了最多15個核心，再加上sMT8，因此單個Power 10處理器最多能實現120個線程。L3緩存方面，最多120HB容量，但是采用了低延遲和NuHA的設計方案。整個CPU設計還增強了企業級功能、AI和安全功能等。在性能方面，IBM提到Power 10的SIHD性能在普通情況下是Power 9的2倍，在矩陣計算中是Power 9的4倍。另外在L1緩存方面，Power 10的L1 MMU性能是Power 9的4倍。

內存方面，Power 10設計了名為Open Memory Interface（開放性內存系統，簡稱0MI）的系統，這個系統能夠支持各類不同的內存，在配置DDR4的時候，其8通道內存最多可以實現410GB/s的帶寬，但是在換用GDDR6的時候，帶寬會提升至800GB，s甚至更高。另外在0MI的支持下，Power 10支持存儲容量可高達2PB。

在外部互聯方面，IBM的PowerAXON互聯界面帶來了多核心之間的互聯功能，PowerAXON能夠提供高達1TB/s的互聯帶寬，并且還可以最多連接16個插槽或者設備，它也可以借助OpencAPI功能幫助系統連接更多的內存、加速器或者I/O設備。

獨特的CPU配置方案和互聯系統

Power 10的CPU配置方案在業內算得上是很獨特的。它目前有2種規格，其中一種是單核心方案，被稱為SCM，整個處理器包括15個核心和120個線程，運行頻率高達4GHz，整個系統可以配置1個或者16個插槽（主機）。另一個方案是雙核心方案，在這種情況下，2個Power 10 CPU核心被封裝在一個基板上，被稱為DcM，形成了等效1204平方毫米、擁有360億晶體管的巨大核心。這個核心的最大CPU內核數量為30個，線程數量為240，頻率方面相比單核心產品要稍微低一些，運行頻率為3.5GHz，整個系統可以配置1個或4個插槽的方案。

接下來IBM重點介紹了Power 10的互聯系統。Power 10是通過PowerAXON和OMI在多個處理器之間組建互聯體系的。先來看PowerAXON，對SCM配置的Power 10處理器來說，PowerAXON互聯總線布置在CPU的4個角落，每個角落有32個總線通道，每個總線通道的帶寬是32GT/s，那么整個Power10能夠提供的PowerAXON互聯總線就是4×4×8×32GT/s=512GB/s。在互聯方面，每16個總線通道組成一個鏈接端子可以和外界進行互聯，整個SCM配置的Power 10總計擁有8個通道，使用其中6個就可以和16個處理器實現高速互聯。

除了PowerAXON外，OHI也值得一提。整個Power 10的OMI總計有2個，分別分布在處理器的左右兩邊，每個OHI有8×8個32GT/s的通道，單個OMI可以實現256GB/s的連接，那么2個OMI就能實現512GB/s的連接。OHI除了連接內存外，還可以連接SCH處理器。換句話來說，Power 10處理器的互聯包含了橫向的PowerAXON和縱向的OMI，最終可以利用處理器本身的互聯端口實現16個處理器的大規模互聯方案。

IBM還給出了Power 10在互聯方面的示意圖。其中SCM處理器之間的互聯可以通過PowerAXON和OHI完成，此外，OMI還留下了一部分空間用于連接內存。前文提到過，每個OMI內存連接能夠為每個處理器插槽提供高達4TB的內存空間，搭配DDR4帶寬為410GB/s，其他還可以根據情況支持GDDR系列，以及存儲加密等功能。

除了上述內容外，本次Power 10還借助PowerAXON帶來了內存聚合功能。內存初始化的時候可以將另一個節點的內存映射為它自己的內存，多個節點可以通過集群共享不同的內存。借助這個功能，在節點中直接連接鄰居節點的內存作為共享加載/存儲內存。和其他方案不同的是，內存可以作為低延遲的本地內存使用或者作為NUHA延遲的遠程內存使用。IBM舉了一個例子，比如一個集群中有8個節點，每個節點都有8TB內存，總計64TB內存的話，工作負載A對延遲要求比較敏感，那么可以將本地的4TB內存作為低延遲內存使用，滿足自己的計算需求。工作負載B對延遲不敏感，但是需要大容量的話，可以借用其他空余內存，實現24TB的容量。工作負載c需要一部分低延遲內存和一部分大容量內存，那么可以利用本地的8TB低延遲內存搭配16TB高延遲內存使用，這樣一來，對一個集群中存在的所有工作任務都可以根據需求將所有64TB內存作為自己的內存，再根據其他占用或者空閑情況進行調配，大大提高內存使用的靈活性和效率。

IBH提到，目前內存聚合功能可能不僅僅是單個集群中多個節點之間的內存容量聚合，還涉及集群之間的內存容量聚合，甚至可以建立專用的內存服務器，和無內存節點之間共享使用，非常方便。

互聯性能方面，從IBM給出的數據顯示，Power 10的內存性能在各個情況下都是Power 9系統的3倍以上，在使用DDR5 OMI內存的時候，性能甚至可以達到Power 9的4倍以上，提升幅度令人驚訝。

POWer 10的CPU內核：面向企業級計算和AI優化

由于Power 10的定位是面向企業和政府等行業用戶，因此其在設計方面自然也針對企業級計算進行了大量優化。IBM給出了一些數據，比如Power 10的整體性能相比Power 9增加了30%，單核心性能增加了20%，性能功耗比相比Power 9處理器每核心達到了2.6倍，每個插槽達到了3倍之多。

在AI優化方面，Power 10的核心加入了全新設計的4倍SIMD矩陣核心、2倍SIMD普通核心、新的ISA Prefix融合、增強的控制和分支單元、2倍的讀取單元、4倍的MMU以及4倍的L2緩存設計。由于整體計算規模大幅度增加，因此Power 10的AI計算性能相比之前的產品有了相當顯著的提升。

Power 10在架構方面做出了很多優化，IBM列出了最重要的四條內容。其中第一條是Prefix架構，這個新架構極大地擴展了操作碼空間、并行尋址、MHA掩蔽等操作的性能。第二條是新的指令和數據格式，這個內容主要是加入了用于控制流和操作對稱的新標量指令以及用于提升AI操作吞吐量和數據的新指令。第三是高級系統功能和易用性改善，包括存儲控制、debug、內存的冷頁面和熱頁面追蹤、復制粘貼的擴展等。第四是動態的能源管理，第五則是安全的云數據和云計算功能等。

最后再來看看Power 10的內核。IBM給出了一張簡圖用于描述Power 10的內核設計。從這個內核設計可以看出，Power 10分為性能和功耗兩個部分，其中前者包含了所有的性能增強，后者包含了一些功耗方面的控制。性能增強部分本文之前已有介紹，包括增加的SIMD、更大的緩存、更低的延遲、更出色的分支預測技術等。后者則主要包括工藝提升、時鐘門控電路提升、架構設計的優化、減少的端口和訪問等。在架構方面，IBM也給出了一些簡略信息。處理器的前端設計除了常規部分外，IBM還提到了LI指令緩存采用748KB、6路方案，執行部分包括4個執行區塊，每個都是128bit的規格，另外還加入了一個2×512bit的MMA也就是SIMD向量引擎和矩陣數學輔助加速單元，這是Power 10處理器計算性能最強大的部分。其余的部分包括：Load排序采用了SMT模式下128隊列、ST模式下64隊列的設計，Load失誤部分采用12個隊列的設計、指令拾取部分則是16個并行的模式等。總的來說，就現有的消息來看，Power 10的內核整體設計延續了之前Power 9的優勢，但是在很多地方做出了加強，尤其是在計算能力和方面等。最終IBM給出了一個算法，Power 10能夠在性能是Power 9 1.3倍的基礎上，功耗降低至Power 9的0.5倍，因此最終Power 10的能耗比相比Power 9提升了2.6倍，令人稱贊。

余威猶在的Power家族

IBM的Power家族和相關處理器產品已經伴隨整個業界許多年，在英特爾突飛猛進、AMD攻城略地甚至英偉達都進積極進入更多市場的今天，IBM的Power系列處理器看起來似乎“人淡如菊”，相當低調。不過，低調歸低調，Power系列處理器由于面向的市場和傳統市場完全不同，更加偏向穩定以及追求安全性的企業、金融、政府市場，因此數據互聯能力、整個處理器的穩定和持續工作能力反而更為重要，這也是IBM在Power 10中進一步提升數據互聯性能的原因。另外，在AI計算大行其道的現在，有關AI計算的加速也在Power 10中得到了體現。從Power 10的整個處理器架構來看，毫不夸張地說，這幾乎是目前最龐大、最復雜和具有最多先進功能的高性能處理器產品。現在的IBM雖然遠沒有巔峰時期那么強大，但是“余威猶在”四個字用來形容它非常恰當，很多行業依舊無法離開IBM，Power 10的未來也讓人看好。