陳長林,駱暢航,劉 森,劉海軍
(國防科技大學(xué) 電子科學(xué)學(xué)院, 湖南 長沙 410073)
隨著以卷積神經(jīng)網(wǎng)絡(luò)(convolutional neural networks,CNN)、深度神經(jīng)網(wǎng)絡(luò)(deep neural networks,DNN)、遞歸神經(jīng)網(wǎng)絡(luò)(recurrent neural networks,RNN)等為代表的神經(jīng)網(wǎng)絡(luò)算法[1]的不斷成熟,人工智能(artificial intelligence,AI)在自動(dòng)駕駛、語音與圖像識(shí)別、知識(shí)搜索、語義理解等眾多應(yīng)用領(lǐng)域獲得了廣泛應(yīng)用[2]。為了提高神經(jīng)網(wǎng)絡(luò)推理計(jì)算的效率和能效,涌現(xiàn)了TPU[3]、DaDianNao[4]、Tianjic[5]、Thinker[6]等多款采用定制架構(gòu)的AI加速芯片。然而,上述AI芯片本質(zhì)上仍然采用了存算分離的馮·諾伊曼架構(gòu),在計(jì)算時(shí)需要將數(shù)據(jù)在存儲(chǔ)單元與運(yùn)算單元之間進(jìn)行頻繁搬移,因而仍然具有較高的延遲和能耗[7]。相較而言,人腦中由于神經(jīng)突觸具有網(wǎng)絡(luò)權(quán)值存儲(chǔ)和計(jì)算功能(見圖1(a))而具有極高的能效。因此,借鑒人腦結(jié)構(gòu)和信息處理機(jī)制,開發(fā)類腦芯片,突破馮· 諾伊曼架構(gòu)瓶頸實(shí)現(xiàn)高能效智能計(jì)算[8]成為當(dāng)前研究的熱點(diǎn)。
神經(jīng)網(wǎng)絡(luò)由多層神經(jīng)元以及神經(jīng)元之間的突觸連接組成,其中神經(jīng)突觸數(shù)量遠(yuǎn)遠(yuǎn)超過神經(jīng)元數(shù)量。例如在人腦中,神經(jīng)突觸數(shù)量(1014~1015)約為神經(jīng)元數(shù)量的103倍。同時(shí),神經(jīng)網(wǎng)絡(luò)推理計(jì)算過程主要由神經(jīng)元輸入向量與突觸權(quán)重矩陣的卷積(卷積層)或相乘(全連接層)組成,占所有計(jì)算的90%以上[4], 因此開發(fā)高性能的人工神經(jīng)突觸是類腦芯片設(shè)計(jì)的關(guān)鍵所在。而憶阻器是實(shí)現(xiàn)人工神經(jīng)突觸的最佳基礎(chǔ)器件選擇之一:①憶阻器阻值可以在外部信號(hào)作用下進(jìn)行調(diào)整,因此能夠模擬神經(jīng)突觸的可塑性;②憶阻器是非易失器件,可以用于儲(chǔ)存突觸連接權(quán)重;……