圖卷積神經(jīng)網(wǎng)絡(luò)在晶體材料研發(fā)中的應(yīng)用進展

勞思思，田子奇

1.寧波大學(xué)，浙江 寧波 315211

2.中國科學(xué)院寧波材料技術(shù)與工程研究所，浙江寧波 315201

引 言

深度學(xué)習(xí)技術(shù)近年來深受研究人員的關(guān)注，強大的功能使其在計算機視覺、自然語言處理等領(lǐng)域取得了突破性進展。與傳統(tǒng)的機器學(xué)習(xí)方法相比，深度學(xué)習(xí)建立了人工神經(jīng)網(wǎng)絡(luò)，可以對更深層的特征進行提取與識別，使機器能學(xué)習(xí)到更加抽象的概念，大大增強了其表征學(xué)習(xí)的能力。其中，卷積神經(jīng)網(wǎng)絡(luò)（Convolutional Neural Network, CNN）在圖像處理和語音識別等方向上體現(xiàn)出了尤其優(yōu)異的性能[1-3]。

已有的多數(shù)研究往往針對歐式結(jié)構(gòu)的數(shù)據(jù)展開，它們具有固定尺寸和維度，例如圖像、文本等。對于歐式空間的數(shù)據(jù)結(jié)構(gòu)，如若將圖像的每一個像素點視為一個節(jié)點，相鄰節(jié)點之間用一條邊表示，那么每個節(jié)點具有固定數(shù)量的鄰居節(jié)點，卷積操作可利用固定大小的卷積核來學(xué)習(xí)圖像的特征。但現(xiàn)實應(yīng)用中存在許多數(shù)據(jù)關(guān)系，如社交網(wǎng)絡(luò)、交通流量、分子結(jié)構(gòu)等圖結(jié)構(gòu)數(shù)據(jù)，均屬于非歐式空間結(jié)構(gòu)。在數(shù)學(xué)表示上，這些數(shù)據(jù)的特征矩陣維度并不統(tǒng)一。例如，對于材料和化學(xué)研究中關(guān)注的分子、晶體體系，如若將微觀結(jié)構(gòu)中的每一個原子視為一個節(jié)點，相鄰原子之間連接的鍵用一條邊來表示，則每個節(jié)點所具有的鄰居節(jié)點的數(shù)量不固定，傳統(tǒng)的CNN難以直接對其進行卷積和池化。如何將CNN等深度學(xué)習(xí)的算法應(yīng)用于此類結(jié)構(gòu)的數(shù)據(jù)是具有挑戰(zhàn)性的課題。2014 年，Estrach 等人[4]提出圖卷積神經(jīng)網(wǎng)絡(luò)（Graph Convolutional Network,GCN）概念，通過對節(jié)點之間的特征進行聚合，得到圖中每個節(jié)點規(guī)整的表達(dá)形式，以其作為GCN 的輸入。……