AI時代推動存儲器的創新與發展

Mahendra Pakala

在物聯網、大數據和人工智能（AD的推動下，從交通運輸、醫療保健到零售和娛樂等眾多行業將走上轉型之路，我們將其統稱為AI計算時代。

在以前的計算時代，大型機/小型機、PC/nKC務器和智能手機/平板電腦均受益于摩爾定律的進步，伴隨著2D微縮，產品的性能、功耗和面積/成本（也稱為PPAC）得以同步提升。

雖然AI時代的各類應用正在蓬勃發展，但摩爾定律卻放緩了腳步;因此，行業需要在2D微縮以外取得突破，以全新方式推動PPAC的提升。具體而言，我們需要新的計算架構、新材料、新結構（特別是節省面積的3D結構），以及用于芯片堆疊和異構設計的高級封裝。

AI時代的架構變化正在對邏輯和存儲器產生影響。機器學習的算法大量地使用通用邏輯中極為復雜的矩陣乘法運算，這推動了加速器及其存儲器的轉變。AI計算包含兩種明顯不同的存儲器任務：第一種是存儲計算的中間結果;第二種是存儲與訓練模型相關的權重。

性能和功耗對于云計算和邊緣計算都十分重要，而存儲器方面的創新能夠為此提供助力。一種使用現有存儲器技術的方法是“近存儲器”，其中大量工作存儲器被壓縮并放置在物理上與邏輯存儲器緊密相鄰的位置，通過高速接口連接，例如，3D堆疊和硅通孔技術正愈發受到歡迎。作為這些應用中的“工作存儲器”，SRAM和DRAM的一個主要缺點在于它們是易失性存儲器，需要持續供電來保存數據（如權重）。

為了降低云和邊緣的功耗，設計人員正在評估兼具高性能和非易失性的新型存儲器，因為它們只有在主動讀寫時才需要使用電源。……