結(jié)合圖神經(jīng)網(wǎng)絡(luò)的小樣本圖像分類方法

摘 要：針對(duì)目前在小樣本圖像分類任務(wù)上，現(xiàn)有模型存在特征提取不足、提取的特征信息單一等問(wèn)題，提出一種結(jié)合圖神經(jīng)網(wǎng)絡(luò)的雙特征提取的原型網(wǎng)絡(luò)（Ｇｒａｐｈ-Ｂａｓｅｄ Ｄｕａｌ-Ｅｎｃｏｄｉｎｇ Ｐｒｏｔｏｔｙｐｅ Ｎｅｔｗｏｒｋ，ＧＢ-ＰｒｏｔｏＮｅｔ）。ＧＢ-ＰｒｏｔｏＮｅｔ 采用了雙特征提取器結(jié)構(gòu)，通過(guò)整合２ 種不同的神經(jīng)網(wǎng)絡(luò)，有效地捕獲并融合了樣本的全局特征信息和局部特征信息。具體而言，該模型結(jié)合了殘差網(wǎng)絡(luò)（Ｒｅｓｉｄｕａｌ Ｎｅｔｗｏｒｋ，ＲｅｓＮｅｔ） 和基于圖譜卷積網(wǎng)絡(luò)（Ｇｒａｐｈ ＳＡｍｐｌｅ ａｎｄ ａｇｇｒｅＧａｔＥ，ＧｒａｐｈＳＡＧＥ） 的圖神經(jīng)網(wǎng)絡(luò)。ＲｅｓＮｅｔ 能夠在多層網(wǎng)絡(luò)結(jié)構(gòu)中有效地傳遞和保留信息，從而提取樣本的全局特征信息。ＧｒａｐｈＳＡＧＥ 擅長(zhǎng)處理圖結(jié)構(gòu)數(shù)據(jù)，通過(guò)采樣和聚合鄰居節(jié)點(diǎn)的信息，提取出樣本的局部特征信息。ＧＢ-ＰｒｏｔｏＮｅｔ 在訓(xùn)練階段使用標(biāo)簽平滑交叉熵?fù)p失函數(shù)計(jì)算損失并更新模型參數(shù)。該模型在ｍｉｎｉＩｍａｇｅＮｅｔ 和ＣＵＢ-２００２-２０１１ 數(shù)據(jù)集上進(jìn)行對(duì)比實(shí)驗(yàn)，與其他經(jīng)典模型相比，ＧＢ-ＰｒｏｔｏＮｅｔ 在５-Ｗａｙ １-Ｓｈｏｔ 和５-Ｗａｙ ５-Ｓｈｏｔ 兩種設(shè)置上均取得最佳分類精度。

關(guān)鍵詞：小樣本學(xué)習(xí)；圖像分類；圖譜卷積網(wǎng)絡(luò)

中圖分類號(hào)：ＴＰ３９１． ４１ 文獻(xiàn)標(biāo)志碼：Ａ 開放科學(xué)（資源服務(wù)）標(biāo)識(shí)碼（ＯＳＩＤ）：

文章編號(hào)：１００３－３１０６（２０２４）０７－１６６８－０８

０ 引言

大數(shù)據(jù)時(shí)代下，隨著數(shù)據(jù)獲取和存儲(chǔ)技術(shù)的飛速發(fā)展，數(shù)據(jù)量呈現(xiàn)爆炸式增長(zhǎng)。然而，在一些實(shí)際應(yīng)用場(chǎng)景中，由于數(shù)據(jù)獲取成本高、標(biāo)注難度大和數(shù)據(jù)分布不均勻等因素，往往難以獲得大量標(biāo)注的樣本數(shù)據(jù)。因此，越來(lái)越多的任務(wù)面臨著樣本數(shù)據(jù)不足的問(wèn)題。由此引發(fā)了研究人員對(duì)小樣本學(xué)習(xí)的探索。近年來(lái)，研究人員提出了多種小樣本圖像分類方法，主要包括基于數(shù)據(jù)增強(qiáng)、基于遷移學(xué)習(xí)、基于元學(xué)習(xí)和基于度量學(xué)習(xí)的方法。

數(shù)據(jù)增強(qiáng)方法可以為機(jī)器學(xué)習(xí)模型生成數(shù)據(jù)，減少對(duì)訓(xùn)練數(shù)據(jù)的依賴性，從而提高機(jī)器學(xué)習(xí)模型的性能［１］。其中，有監(jiān)督的數(shù)據(jù)增強(qiáng)方法有幾何變換和像素級(jí)操作，可增加數(shù)據(jù)量［２］。無(wú)監(jiān)督的數(shù)據(jù)增強(qiáng)方法主要通過(guò)模型，尋找合適的增強(qiáng)方法，如ＧＡＮ［３］、ＭＦＣ-ＧＡＮ［４］、ＩＤＡ-ＧＡＮ［５］等方法。遷移學(xué)習(xí)的方法利用先驗(yàn)知識(shí)，通過(guò)相似類別的樣本來(lái)提高模型的性能［６］。根據(jù)數(shù)據(jù)和任務(wù)的相似程度來(lái)看，遷移學(xué)習(xí)可分為歸納式遷移學(xué)習(xí)、轉(zhuǎn)導(dǎo)式遷移學(xué)習(xí)和無(wú)監(jiān)督式遷移學(xué)習(xí)［７］。元學(xué)習(xí)也稱學(xué)會(huì)學(xué)習(xí)，旨在學(xué)習(xí)如何快速準(zhǔn)確地將模型適應(yīng)新任務(wù)［８］，主要分為黑箱元學(xué)習(xí)、層次元學(xué)習(xí)和貝葉斯元學(xué)習(xí)［９］。

度量學(xué)習(xí)的核心思想是學(xué)習(xí)一個(gè)距離度量，使得同一類別的樣本之間的距離盡可能小，不同類別的樣本之間的距離盡可能大［１０］。度量學(xué)習(xí)通常使用深度神經(jīng)網(wǎng)絡(luò)提取樣本特征，隨后學(xué)習(xí)一個(gè)距離度量，在新的度量空間中完成相似度比較。例如，關(guān)系網(wǎng)絡(luò)［１１］將每個(gè)樣本與每個(gè)類別原型進(jìn)行對(duì)比，學(xué)習(xí)一個(gè)關(guān)系函數(shù)來(lái)表示每個(gè)樣本與每個(gè)類別原型之間的相似性。然后，將關(guān)系函數(shù)的輸出進(jìn)行分類，得到該樣本的預(yù)測(cè)類別。原型網(wǎng)絡(luò)［１２］首先為每個(gè)類別學(xué)習(xí)一個(gè)原型，然后將待分類樣本與每個(gè)原型的距離進(jìn)行比較，將距離最小的類別作為該樣本的預(yù)測(cè)類別。匹配網(wǎng)絡(luò)［１３］的核心思想是使用余弦相似度度量樣本之間的距離，并使用支持集（ＳｕｐｐｏｒｔＳｅｔ）和查詢集（Ｑｕｅｒｙ Ｓｅｔ）進(jìn)行訓(xùn)練。ＭＡＭＬ［１４］的核心思想是學(xué)習(xí)一個(gè)初始模型，該模型能夠快速適應(yīng)新任務(wù)。Ｚｈａｎｇ 等［１５］基于圖像區(qū)域之間最優(yōu)匹配的角度，提出了一種基于度量的小樣本學(xué)習(xí)方法———Ｄｅｅｐ Ｅａｒｔｈ Ｍｏｖｅｒ-ｓ Ｄｉｓｔａｎｃｅ（ｄｅｅｐＥＭＤ）。該方法使用推土機(jī)距離（Ｅａｒｔｈ Ｍｏｖｅｒ-ｓ Ｄｉｓｔａｎｃｅ，ＥＭＤ）作為度量來(lái)計(jì)算密集圖像表示之間的結(jié)構(gòu)距離，以確定圖像相關(guān)性。任維鑫等［１６］使用孿生網(wǎng)絡(luò)作為框架，通過(guò)自監(jiān)督的對(duì)比學(xué)習(xí)和基于構(gòu)造監(jiān)督標(biāo)簽與二值交叉熵的距離損失來(lái)優(yōu)化模型的性能。Ｙｕ等［１７］通過(guò)改進(jìn)原型網(wǎng)絡(luò)中的度量學(xué)習(xí)方法，將核心度量函數(shù)改為曼哈頓距離并優(yōu)化卷積神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，減少噪聲的影響且更易于模型優(yōu)化。陸妍等［１８］針對(duì)小樣本細(xì)粒度分類中相似性度量單一的問(wèn)題，提出一種基于Ｔｒａｎｓｆｏｒｍｅｒ 的小樣本細(xì)粒度圖像分類模型，設(shè)計(jì)了具有Ｔｒａｎｓｆｏｒｍｅｒ 架構(gòu)的多軸注意力模塊，能夠更好挖掘圖像特征。許華杰等［１９］提出了一種基于特征圖增強(qiáng)原型和查詢特征聚合的小樣本圖像分類方法，有效緩解了類原型代表性不足和類內(nèi)差異較大問(wèn)題。

圖神經(jīng)網(wǎng)絡(luò)（Ｇｒａｐｈ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ，ＧＮＮ）［２０］是一種用于處理圖結(jié)構(gòu)數(shù)據(jù)的神經(jīng)網(wǎng)絡(luò)。圖結(jié)構(gòu)數(shù)據(jù)是現(xiàn)實(shí)世界中廣泛存在的一種數(shù)據(jù)形式。近年來(lái)，有許多研究者將ＧＮＮ 與小樣本學(xué)習(xí)相結(jié)合，以充分利用圖結(jié)構(gòu)對(duì)節(jié)點(diǎn)和邊的數(shù)據(jù)的提取，提高模型在小樣本上的性能［２１］。Ｚｈｏｎｇ 等［２２］提出了一個(gè)用于小樣本圖像分類的圖補(bǔ)充潛在表示網(wǎng)絡(luò)（ＧｒａｐｈＣｏｍｐｌｅｍｅｎｔｅｄ Ｌａｔｅｎｔ Ｒｅｐｒｅｓｅｎｔａｔｉｏｎ，ＧＣＬＲ ），引入ＧＮＮ 充分利用每個(gè)類別內(nèi)樣本之間的關(guān)系，提高關(guān)聯(lián)挖掘能力。Ｘｉｏｎｇ 等［２３］提出了一種利用多維邊緣特征的圖神經(jīng)網(wǎng)絡(luò)（Ｇｒａｐｈ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ ＥｘｐｌｏｉｔｉｎｇＭｕｌｔｉ-Ｄｉｍｅｎｓｉｏｎａｌ Ｅｄｇｅ Ｆｅａｔｕｒｅｓ，ＭＤＥ-ＧＮＮ）。ＭＤＥ-ＧＮＮ 引入多維邊緣特征信息構(gòu)建圖中的邊矩陣，使得模型能夠更好地捕捉圖像之間的復(fù)雜關(guān)系。Ｔｏｎｇ 等［２４］提出了一種用于高光譜圖像（ＨｙｐｅｒｓｐｅｃｔｒａｌＩｍａｇｅ，ＨＳＩ）小樣本分類的注意力加權(quán)圖卷積網(wǎng)絡(luò)（Ａｔｔｅｎｔｉｏｎ-ｗｅｉｇｈｔｅｄ Ｇｒａｐｈ Ｃｏｎｖｏｌｕｔｉｏｎａｌ Ｎｅｔｗｏｒｋ，ＡｗＧＣＮ）模型，通過(guò)構(gòu)建注意力加權(quán)圖和利用圖卷積網(wǎng)絡(luò)傳播標(biāo)簽，解決ＨＳＩ 少樣本分類所面臨的巨大標(biāo)記數(shù)據(jù)需求問(wèn)題。Ｃｈｅｎ 等［２５］提出了分層圖神經(jīng)網(wǎng)絡(luò)（Ｈｉｅｒａｒｃｈｉｃａｌ Ｇｒａｐｈ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ，ＨＧＮＮ），著眼于挖掘類別內(nèi)部和類別之間的區(qū)分特征，從而更好地進(jìn)行小樣本分類。李凡等［２６］將ＲｅｓＮｅｔ 與ＧＮＮ 相結(jié)合，設(shè)計(jì)了殘差圖卷積網(wǎng)絡(luò)，增強(qiáng)網(wǎng)絡(luò)穩(wěn)定性，并結(jié)合注意力機(jī)制提高信息傳遞效率。

本文提出了一種基于ＧＮＮ 的雙特征提取原型網(wǎng)絡(luò)（Ｇｒａｐｈ-Ｂａｓｅｄ Ｄｕａｌ-Ｅｎｃｏｄｉｎｇ Ｐｒｏｔｏｔｙｐｅ Ｎｅｔｗｏｒｋ，ＧＢ-ＰｒｏｔｏＮｅｔ），并對(duì)其在小樣本圖像分類任務(wù)中的表現(xiàn)進(jìn)行了研究。ＧＢ-ＰｒｏｔｏＮｅｔ 在原型網(wǎng)絡(luò)的基礎(chǔ)上進(jìn)行了改進(jìn)，主要貢獻(xiàn)如下：① 雙編碼特征提取模塊。該模塊融合了ＲｅｓＮｅｔ 和基于圖譜卷積網(wǎng)絡(luò)（Ｇｒａｐｈ ＳＡｍｐｌｅ ａｎｄ ａｇｇｒｅＧａｔＥ，Ｇｒａｐｈ-ＳＡＧＥ）的ＧＮＮ分別提取樣本的全局信息和局部信息，提取更全面、更魯棒的圖像特征。② ＧｒａｐｈＳＡＧＥ ＧＮＮ。采用Ｇｒａｐｈ-ＳＡＧＥ 構(gòu)建ＧＮＮ，捕捉圖像中的局部依賴關(guān)系，增強(qiáng)模型對(duì)圖像細(xì)節(jié)的表達(dá)能力。③ 標(biāo)簽平滑交叉熵?fù)p失函數(shù)。通過(guò)加入一個(gè)平滑項(xiàng)，可以減小梯度的大小，有效緩解模型過(guò)擬合問(wèn)題，提升模型的泛化能力。

實(shí)驗(yàn)表明，ＧＢ-ＰｒｏｔｏＮｅｔ 在ｍｉｎｉＩｍａｇｅＮｅｔ 和ＣＵＢ-２００２－２０１１ 數(shù)據(jù)集上取得了優(yōu)異的性能，在５-Ｗａｙ １-Ｓｈｏｔ 和５-Ｗａｙ ５-Ｓｈｏｔ 設(shè)置下分別取得了８７． ０５％ 、７６． ２２％ 和９６． ７６％ 、８８． ７０％ 的精度。

１ 本文方法

１． １ 小樣本問(wèn)題定義

在小樣本學(xué)習(xí)中，對(duì)于給定任務(wù)，其包含３ 個(gè)數(shù)據(jù)集為訓(xùn)練集、驗(yàn)證集和測(cè)試集，這３ 個(gè)數(shù)據(jù)集類別兩兩正交。為了方便對(duì)比不同方法，通常在Ｎ-ＷａｙＫ-Ｓｈｏｔ 任務(wù)上進(jìn)行測(cè)試，認(rèn)為如果一個(gè)方法可在Ｎ-Ｗａｙ Ｋ-Ｓｈｏｔ 任務(wù)上取得較好結(jié)果，則該方法具備小樣本學(xué)習(xí)能力。Ｎ-Ｗａｙ Ｋ-Ｓｈｏｔ 任務(wù)也稱為Ｎ-ＷａｙＫ-Ｓｈｏｔ Ｑ-ｑｕｅｒｙ 任務(wù)，一般來(lái)說(shuō)，小樣本學(xué)習(xí)的訓(xùn)練集中包含了很多類別，每個(gè)類別有多個(gè)樣本。在訓(xùn)練階段，從訓(xùn)練集中隨機(jī)選取Ｎ 個(gè)類別，每個(gè)類別抽取Ｋ 個(gè)樣本作為Ｓｕｐｐｏｒｔ Ｓｅｔ，Ｓｕｐｐｏｒｔ Ｓｅｔ 包括Ｎ×Ｋ 個(gè)樣本，Ｋ 通常設(shè)為１ 或５；每個(gè)類再抽取Ｑ 個(gè)樣本作為Ｑｕｅｒｙ Ｓｅｔ，Ｑｕｅｒｙ Ｓｅｔ 可以為１ 個(gè)樣本也可以為多個(gè)樣本，根據(jù)其標(biāo)注的類別，計(jì)算分類損失用于模型學(xué)習(xí)。模型在訓(xùn)練過(guò)程中定期在驗(yàn)證集上進(jìn)行評(píng)估，驗(yàn)證集同樣被劃分為Ｓｕｐｐｏｒｔ Ｓｅｔ 和ＱｕｅｒｙＳｅｔ，并根據(jù)驗(yàn)證集上計(jì)算的損失調(diào)整模型參數(shù)，以防止模型過(guò)擬合訓(xùn)練集。在測(cè)試階段，測(cè)試集被分為Ｓｕｐｐｏｒｔ Ｓｅｔ 和Ｑｕｅｒｙ Ｓｅｔ，此時(shí)僅計(jì)算模型的分類精度，用于評(píng)估模型在未知數(shù)據(jù)上的泛化能力。

１． ２ 模型總體架構(gòu)

小樣本圖像分類任務(wù)通常由特征提取模塊和特征比較模塊構(gòu)成。本文提出了ＧＢ-ＰｒｏｔｏＮｅｔ，在原型網(wǎng)絡(luò)的基礎(chǔ)上，使用雙特征提取模塊，引入殘差特征提取模塊和ＧＮＮ 特征提取模塊分別進(jìn)行特征提取。ＲｅｓＮｅｔ 是一種經(jīng)典的深度卷積網(wǎng)絡(luò)，擅長(zhǎng)提取圖像的全局特征；ＧＮＮ 特征提取模塊中的ＧｒａｐｈＳＡＧＥ，擅長(zhǎng)提取圖像的局部特征。雙特征提取模塊可以充分利用圖像的空間結(jié)構(gòu)信息和局部特征信息，從而提高模型的泛化能力。

在特征提取階段，殘差特征提取模塊將圖像轉(zhuǎn)換為全局特征向量，ＧＮＮ 特征提取模塊則將圖像序列化為圖，并使用ＧＮＮ 進(jìn)行圖像節(jié)點(diǎn)特征的聚合，得到每個(gè)圖像的局部特征向量。隨后，將全局特征向量和局部特征向量進(jìn)行融合，獲得具有更全面圖像信息的特征向量。在分類階段，使用標(biāo)簽平滑交叉熵?fù)p失函數(shù)計(jì)算損失，用歐氏距離度量樣本與各個(gè)類原型間的距離進(jìn)行分類。基于ＧＮＮ 的小樣本圖像分類模型如圖１ 所示。

１． ３ 殘差特征提取模塊

ＲｅｓＮｅｔ 由多個(gè)殘差模塊組成，在防止梯度消失和加強(qiáng)特征提取能力方面效果良好。ＲｅｓＮｅｔ 的核心是殘差結(jié)構(gòu)。殘差結(jié)構(gòu)［２７］的思想是：將原本要學(xué)習(xí)的函數(shù)Ｈ（ｘ）改為學(xué)習(xí)Ｆ（ｘ）＝ Ｈ（ｘ）－ｘ，其中ｘ 是輸入。如Ｈ（ｘ）的梯度較小或消失，則Ｆ（ｘ）的梯度仍有可能較大，從而避免梯度消失問(wèn)題。ＲｅｓＮｅｔ 的計(jì)算如下：

ｙ ＝ Ｈ（ｘ） ＝ Ｆ（ｘ）＋ ｘ， （１）

式中：ｙ 為輸出，Ｆ（ｘ）為殘差函數(shù)，ｘ 為輸入。

本文提出的殘差特征提取模塊中包含４ 個(gè)ＲｅｓＮｅｔｌａｙｅｒ，每個(gè)ＲｅｓＮｅｔ ｌａｙｅｒ 由多個(gè)ＲｅｓＮｅｔ Ｂｌｏｃｋ 組成。ＲｅｓＮｅｔ Ｂｌｏｃｋ 結(jié)構(gòu)如圖２ 所示，其計(jì)算如下：

ｙ ＝ Ｆ（ｘ） ＝ Ｆ（ｘ；Ｗ）。（２）

為了避免殘差特征提取模塊學(xué)習(xí)到過(guò)多圖片噪聲，在其輸入端添加了高斯濾波器。高斯濾波器能夠有效消除圖片噪聲，其輸出在局部區(qū)域是平滑的，并且具有平滑的邊緣，能夠保持圖片的整體結(jié)構(gòu)。高斯濾波器是一種線性濾波器，其輸出如下：

式中：ｙ 為高斯濾波器的輸出，ｗｉ 為濾波器的權(quán)重，ｂｉ 為濾波器的偏置，ｘ 為輸入，σ 為濾波器的標(biāo)準(zhǔn)差。

在小樣本學(xué)習(xí)中，由于訓(xùn)練數(shù)據(jù)量有限，模型容易過(guò)擬合。為了防止過(guò)擬合，在ＲｅｓＮｅｔ ｌａｙｅｒ 后添加了Ｄｒｏｐｏｕｔ 模塊，對(duì)特征進(jìn)行稀疏化。Ｄｒｏｐｏｕｔ 操作會(huì)隨機(jī)丟棄一部分特征，從而增加模型的隨機(jī)性和魯棒性，提高模型的泛化能力。Ｄｒｏｐｏｕｔ 操作的輸出如式下：

ｙ ＝ ｘ⊙ｄ， （４）

式中：ｘ 為輸入特征矩陣，ｄ 為Ｄｒｏｐｏｕｔ 矩陣，⊙為按元素相乘運(yùn)算。

Ｄｒｏｐｏｕｔ 矩陣的生成方法如下：

ｄ ＝ Ｂｅｒｎｏｕｌｌｉ（ｐ）， （５）

式中：Ｂｅｒｎｏｕｌｌｉ（ｐ）表示伯努利分布，ｐ 表示Ｄｒｏｐｏｕｔ率，即在訓(xùn)練過(guò)程中丟棄特征的概率。在訓(xùn)練過(guò)程中，生成Ｄｒｏｐｏｕｔ 矩陣ｄ。將輸入特征矩陣ｘ 與Ｄｒｏｐｏｕｔ 矩陣ｄ 按元素相乘，得到Ｄｒｏｐｏｕｔ 操作的輸出ｙ。模型使用輸出ｙ 進(jìn)行訓(xùn)練。

在殘差特征提取模塊中，首先使用高斯濾波器對(duì)圖像進(jìn)行處理，以去除圖像中的噪聲并提高圖像的整體質(zhì)量。然后通過(guò)１ ×１ 的卷積和最大池化操作，有效地提取輸入圖像中的特征，并降低特征圖的維度。接著通過(guò)４ 個(gè)ＲｅｓＮｅｔ ｌａｙｅｒ，每個(gè)ＲｅｓＮｅｔ ｌａｙｅｒ由多個(gè)ＲｅｓＮｅｔ Ｂｌｏｃｋ 組成，其中ＲｅｓＮｅｔ Ｂｌｏｃｋ 由２ 個(gè)卷積層和一個(gè)殘差連接構(gòu)成。殘差連接可以有效地防止梯度消失，提高模型的深度可訓(xùn)練性。然后通過(guò)Ｄｒｏｐｏｕｔ 層，在訓(xùn)練過(guò)程中隨機(jī)丟棄一部分特征，從而增加模型的隨機(jī)性和魯棒性，提高模型的泛化能力，避免過(guò)擬合情況。最后通過(guò)平均池化層，在降低模型的計(jì)算量的同時(shí)保留特征圖中的均值信息，提高模型的魯棒性。殘差特征提取模塊如圖３ 所示。

１． ４ ＧＮＮ 特征提取模塊

為了提取樣本圖像的局部特征，在殘差特征提取模塊的基礎(chǔ)上引入一個(gè)ＧＮＮ 模塊組合成雙提特征提取器。ＧＮＮ 可以通過(guò)學(xué)習(xí)圖中的節(jié)點(diǎn)和邊的關(guān)系，從而提取圖中的信息。本文使用ＧｒａｐｈＳＡＧＥ［２８］構(gòu)建ＧＮＮ 特征提取模塊，它基于鄰居聚合（Ｎｅｉｇｈｂｏｒｈｏｏｄ Ａｇｇｒｅｇａｔｉｏｎ），將每個(gè)節(jié)點(diǎn)的特征聚合為一個(gè)新的特征，該特征包含了該節(jié)點(diǎn)和其鄰居的相關(guān)信息。一個(gè)ＧｒａｐｈＳＡＧＥ 模塊的運(yùn)行流程可以分為２ 個(gè)步驟：① 鄰居采樣；② 聚合。

在鄰居采樣階段，為了降低計(jì)算復(fù)雜度，對(duì)每個(gè)頂點(diǎn)采樣ａ 個(gè)鄰居頂點(diǎn)作為待聚合信息的頂點(diǎn)。如果頂點(diǎn)的鄰居數(shù)少于ａ，則采用有放回抽樣，直到采樣出ａ 個(gè)頂點(diǎn)；如果頂點(diǎn)的鄰居數(shù)多于ａ，則采用無(wú)放回抽樣。由于本文中的輸入為圖像，因此構(gòu)建的鄰接矩陣將圖像像素視為圖的節(jié)點(diǎn)，并在相鄰像素之間建立邊連接。以此用于鄰居采樣。

在聚合階段，采用ｍｅａｎ 聚合函數(shù)聚合鄰居頂點(diǎn)蘊(yùn)含的信息，其運(yùn)算如下所示。

ｈｋｖ← σ（Ｗ·ＭＥＡＮ（｛ｈｋ －１ｖ ｝∪ ｛ｈｋ －１ｕ ，?ｕ ∈ Ｎ（ｖ）｝）），（６）

式中：ｈｖ 為節(jié)點(diǎn)ｖ 的特征向量，ｈｕ 為節(jié)點(diǎn)ｕ 的特征向量，σ 為非線性激活函數(shù)，Ｗ 為鄰接矩陣，Ｎ（ｖ）為節(jié)點(diǎn)ｖ 的鄰居節(jié)點(diǎn)集合，ｋ 為聚合深度。

本文提出的ＧｒａｐｈＳＡＧＥ 構(gòu)建的ＧＮＮ 特征提取模塊如圖４ 所示。該模塊首先將輸入圖片的每個(gè)像素視為圖的節(jié)點(diǎn)，并構(gòu)建鄰接矩陣。鄰接矩陣表示了圖中節(jié)點(diǎn)之間的連接關(guān)系。然后，該模塊通過(guò)２ 個(gè)ＧｒａｐｈＳＡＧＥ 模塊提取圖像的局部特征。ＧｒａｐｈＳＡＧＥ模塊是一種基于鄰居聚合的ＧＮＮ，通過(guò)聚合每個(gè)節(jié)點(diǎn)的鄰居信息，來(lái)更新節(jié)點(diǎn)的特征。最后，該模塊通過(guò)Ｆｌａｔｔｅｎ 和自適應(yīng)平均池化調(diào)整輸出特征的形狀。Ｆｌａｔｔｅｎ 操作將多維張量展平為一維張量。自適應(yīng)平均池化操作根據(jù)輸入張量的大小，選擇合適的池化窗口大小。

１． ５ 雙特征提取結(jié)構(gòu)

如圖４ 所示，本文所提出的ＧＢＰｒｏｔｏＮｅｔ 設(shè)計(jì)了２ 個(gè)網(wǎng)絡(luò)，分別提取圖片的全局特征和局部特征。圖３ 所示的殘差特征提取模塊為Ｅｎｃｏｄｅｒ １，表示為ｆ１（ｘ），ｘ 為輸入的圖片，用于提取圖片全局特征。圖４ 所示的ＧＮＮ 特征提取模塊為Ｅｎｃｏｄｅｒ ２，表示為ｆ２（ｘ），用于提取圖片局部特征。２ 個(gè)特征提取模塊輸出的特征向量尺寸均為１×２ ０４８。

分別提取全局特征和局部特征后，使用下式對(duì)２ 個(gè)特征進(jìn)行合并，生成圖片的融合特征。

ｆ（ｘ） ＝ Ｃａｔ（ｆ１（ｘ），ｆ２（ｘ））， （７）

式中：Ｃａｔ（）操作在最后一個(gè)維度對(duì)特征向量進(jìn)行拼接，融合特征ｆ（ｘ）的特征向量尺寸為１×４ ０９６。

１． ６ 損失函數(shù)

交叉熵?fù)p失（Ｃｒｏｓｓ Ｅｎｔｒｏｐｙ Ｌｏｓｓ）函數(shù)是一種常用的損失函數(shù)，多用于分類任務(wù)。其計(jì)算如下：

式中：Ｍ 表示類別數(shù)量，ｙｉｃ 表示符號(hào)函數(shù)，ｐｉｃ 表示觀測(cè)樣本ｉ 屬于類別ｃ 的預(yù)測(cè)概率。

交叉熵?fù)p失函數(shù)衡量了２ 個(gè)概率分布之間的差異。在分類任務(wù)中，真實(shí)標(biāo)簽表示樣本的真實(shí)類別，預(yù)測(cè)概率表示模型對(duì)樣本的預(yù)測(cè)類別。它的值越小，表示模型對(duì)樣本的預(yù)測(cè)類別與真實(shí)類別越接近，也就是說(shuō)模型的預(yù)測(cè)結(jié)果越準(zhǔn)確。

但交叉熵?fù)p失函數(shù)在訓(xùn)練過(guò)程中可能會(huì)出現(xiàn)震蕩，并對(duì)噪聲敏感，會(huì)影響模型的收斂速度和對(duì)噪聲的魯棒性。因此本文使用標(biāo)簽平滑交叉熵?fù)p失函數(shù)（Ｓｍｏｏｔｈ Ｃｒｏｓｓ Ｅｎｔｒｏｐｙ），通過(guò)加入一個(gè)平滑項(xiàng)，可以減小梯度的大小，從而提高模型的穩(wěn)定性，計(jì)算如下：

式中：Ｋ 為類別數(shù)量，ｙｋ 為觀測(cè)樣本的類別，ｐｋ 為樣本屬于類別ｋ 的預(yù)測(cè)概率，α 為平滑參數(shù)。

２ 實(shí)驗(yàn)

２． １ 數(shù)據(jù)集

本文在ｍｉｎｉＩｍａｇｅＮｅｔ［１３］和ＣＵＢ-２００２-２０１１［２９］數(shù)據(jù)集上進(jìn)行了實(shí)驗(yàn)。ｍｉｎｉＩｍａｇｅＮｅｔ 數(shù)據(jù)集是ＩｍａｇｅＮｅｔ 數(shù)據(jù)集的一個(gè)子集，共有１００ 個(gè)類別，每個(gè)類別包含６００ 張彩色圖片，共６０ ０００ 張。ＣＵＢ-２００２-２０１１ 數(shù)據(jù)集是一個(gè)鳥類數(shù)據(jù)集，共有２００ 個(gè)類別，共１１ ７８８ 張圖片，該數(shù)據(jù)集由加州理工學(xué)院于２０１０ 年提出。由于２ 個(gè)數(shù)據(jù)集的圖片尺寸大小不一，為方便進(jìn)行訓(xùn)練，在預(yù)處理階段，將所有圖片的大小設(shè)置為３×１２８ ｐｉｘｅｌ×１２８ ｐｉｘｅｌ。

訓(xùn)練集、驗(yàn)證集和測(cè)試集在數(shù)據(jù)集中的占比分別為６４％ 、１６％ 、２０％ 。在ｍｉｎｉＩｍａｇｅＮｅｔ 數(shù)據(jù)集上，訓(xùn)練集包含３８ ４００ 張圖片，共６４ 個(gè)類別；驗(yàn)證集包含９ ６００ 張圖片，共１６ 個(gè)類別；測(cè)試集包含１２ ０００ 張圖片，共２０ 個(gè)類別。在ＣＵＢ-２００２-２０１１ 數(shù)據(jù)集上，訓(xùn)練集包含７ ５４５ 張圖片，共１２８ 個(gè)類別；驗(yàn)證集包含１ ８８６ 張圖片，共３２ 個(gè)類別；測(cè)試集包含２ ３５７ 張圖片，共４０ 個(gè)類別。值得注意的是，ＣＵＢ-２００２-２０１１數(shù)據(jù)集并非全是彩色圖片，因此本文在預(yù)處理階段將一維圖像擴(kuò)充為三維圖像。數(shù)據(jù)集的示例如圖５所示。

２． ２ 實(shí)驗(yàn)設(shè)置

本文的所有實(shí)驗(yàn)均在Ｕｂｕｎｔｕ ２０． ０４ 系統(tǒng)上，ＮＶＩＤＩＡ ＲＴＸ Ａ５０００ （２４ ＧＢ），在ＰｙＴｏｒｃｈ １． １１． ０、Ｐｙｔｈｏｎ ３． ８ 和ＣＵＤＡ １１． ３ 環(huán)境下進(jìn)行。實(shí)驗(yàn)中使用ＡｄａｍＷ 優(yōu)化器進(jìn)行訓(xùn)練，學(xué)習(xí)率初始值為０． ０００ １，衰減系數(shù)為０． ５，每１０ 個(gè)ｅｐｏｃｈ 衰減一次。訓(xùn)練采用余弦退火學(xué)習(xí)率調(diào)整策略，訓(xùn)練輪數(shù)為２００。本實(shí)驗(yàn)使用５-Ｗａｙ １-Ｓｈｏｔ 和５-Ｗａｙ ５-Ｓｈｏｔ 實(shí)驗(yàn)策略進(jìn)行訓(xùn)練。

２． ３ 評(píng)價(jià)指標(biāo)

為了評(píng)估本文提出的方法在小樣本分類任務(wù)上的有效性，使用分類準(zhǔn)確率作為主要性能指標(biāo)。在ｍｉｎｉＩｍａｇｅＮｅｔ 和ＣＵＢ-２００２-２０１１ 數(shù)據(jù)集上，本文的ＧＢ-ＰｒｏｔｏＮｅｔ 和其他對(duì)比實(shí)驗(yàn)的精度，均使用１ ０００ 個(gè)ｅｐｏｃｈ 的測(cè)試結(jié)果計(jì)算平均準(zhǔn)確率，并計(jì)算了每個(gè)模型分類準(zhǔn)確率的９５％ 置信區(qū)間。準(zhǔn)確率計(jì)算如下：

ＡＣＣ ＝ ＴＰ ＋ ＴＮ／ＴＰ ＋ ＦＮ ＋ ＦＰ ＋ ＴＮ， （１０）

式中：真陽(yáng)性（ＴＰ）表示正確分類為正類的正樣本，假陰性（ＦＮ）表示被誤分類為負(fù)類的正樣本，假陽(yáng)性（ＦＰ）表示被誤分類為正類的負(fù)樣本，真陰性（ＴＮ）表示正確分類為負(fù)類的負(fù)樣本。

２． ４ 對(duì)比實(shí)驗(yàn)結(jié)果

為了驗(yàn)證本文所提ＧＢ-ＰｒｏｔｏＮｅｔ 模型的有效性，分別與多種小樣本學(xué)習(xí)方法進(jìn)行對(duì)比實(shí)驗(yàn)，如Ｐｒｏ-ｔｏＮｅｔ、ＲｅｌａｔｉｏｎＮｅｔ、ＭＡＭＬ、ＤｅｅｐＥＭＤ 等模型，并在ｍｉｎｉＩｍａｇｅＮｅｔ 和ＣＵＢ-２００２-２０１１ 數(shù)據(jù)集上進(jìn)行對(duì)比實(shí)驗(yàn)，結(jié)果如表１ 和表２ 所示。

從表１ 和表２ 可以看出，ＧＢ-ＰｒｏｔｏＮｅｔ 在２ 個(gè)數(shù)據(jù)集上都取得了最優(yōu)的性能。在ｍｉｎｉＩｍａｇｅＮｅｔ 數(shù)據(jù)集上，１-Ｓｈｏｔ 設(shè)置的準(zhǔn)確率為８６． ９６％ ，５-Ｓｈｏｔ 設(shè)置的準(zhǔn)確率為９６． ７６％ 。在ＣＵＢ-２００２-２０１１ 數(shù)據(jù)集上，１-Ｓｈｏｔ 設(shè)置的準(zhǔn)確率為７６． １３％ ，５-Ｓｈｏｔ 設(shè)置的準(zhǔn)確率為８８． ７０％ 。與其他方法相比，ＧＢ-ＰｒｏｔｏＮｅｔ的優(yōu)勢(shì)主要體現(xiàn)在以下方面。

利用ＧＮＮ 捕捉圖像的局部特征。ＧＮＮ 能夠有效地學(xué)習(xí)圖像中的節(jié)點(diǎn)信息，這對(duì)于小樣本圖像分類任務(wù)非常重要。ＧＢ-ＰｒｏｔｏＮｅｔ 使用ＧｒａｐｈＳＡＧＥ 來(lái)生成圖像特征，通過(guò)鄰接聚合學(xué)習(xí)圖的節(jié)點(diǎn)特征，從而能夠更好地捕捉圖像的局部信息。

使用雙特征提取模塊進(jìn)行分類。雙特征提取模塊能夠從全局和局部?jī)煞矫鎭?lái)學(xué)習(xí)特征，可以提高分類性能。ＧＢ-ＰｒｏｔｏＮｅｔ 使用２ 個(gè)特征提取模塊，其中殘差特征提取模塊用于生成圖像全局特征，ＧＮＮ特征提取模塊用于生成局部特征。

２． ５ 消融實(shí)驗(yàn)

消融實(shí)驗(yàn)是評(píng)估模型性能的重要手段之一。通過(guò)消融實(shí)驗(yàn)，可以分析模型的不同組成部分對(duì)性能的影響，從而更好地理解模型的工作機(jī)制。在數(shù)據(jù)集ｍｉｎｉＩｍａｇｅＮｅｔ 上對(duì)ＧＢ-ＰｒｏｔｏＮｅｔ 進(jìn)行消融實(shí)驗(yàn)，以分析ＧＮＮ 特征提取模塊和標(biāo)簽平滑的交叉熵?fù)p失函數(shù)對(duì)模型性能的影響。實(shí)驗(yàn)結(jié)果如表３ 所示。

在消融實(shí)驗(yàn)中，ＧＢ-ＰｒｏｔｏＮｅｔ-Ａｂｌａｔｉｏｎ-１ 為保留殘差特征提取模塊、使用交叉熵?fù)p失函數(shù)的模型，ＧＢ-ＰｒｏｔｏＮｅｔ-Ａｂｌａｔｉｏｎ-２ 為保留雙特征提取模塊、使用交叉熵?fù)p失函數(shù)的模型，ＧＢ-ＰｒｏｔｏＮｅｔ 為使用雙特征提取模塊、使用標(biāo)簽平滑交叉熵?fù)p失函數(shù)的模型。實(shí)驗(yàn)結(jié)果表明，當(dāng)添加ＧＮＮ 特征提取模塊時(shí)，分類效果有所提升，說(shuō)明ＧＮＮ 能有效提取模型的局部信息，增強(qiáng)模型的特征提取能力。模型ＧＢ-ＰｒｏｔｏＮｅｔ 在ｍｉｎｉＩｍａｇｅＮｅｔ 數(shù)據(jù)集上的５-Ｗａｙ １-Ｓｈｏｔ 和５-Ｗａｙ ５-Ｓｈｏｔ 兩種設(shè)置的分類性能最佳，準(zhǔn)確率分別達(dá)到８７． ０５％ 和９６． ７６％ 。

３ 結(jié)束語(yǔ)。

現(xiàn)有的小樣本圖像分類模型存在特征提取不足、信息單一等問(wèn)題。針對(duì)這些問(wèn)題，提出了一種結(jié)合ＧＮＮ 的雙特征提取的原型網(wǎng)絡(luò)———ＧＢ-ＰｒｏｔｏＮｅｔ。ＧＢ-ＰｒｏｔｏＮｅｔ 采用雙特征提取器，分別使用ＲｅｓＮｅｔ和基于ＧｒａｐｈＳＡＧＥ 的ＧＮＮ 提取樣本的全局特征和局部特征。全局特征反映了樣本的整體信息，而局部特征反映了樣本的局部細(xì)節(jié)。在訓(xùn)練階段，ＧＢ-ＰｒｏｔｏＮｅｔ 使用標(biāo)簽平滑交叉熵?fù)p失函數(shù)，該損失函數(shù)可以有效緩解模型在訓(xùn)練過(guò)程中的極端值問(wèn)題，提高模型的穩(wěn)定性。通過(guò)對(duì)比實(shí)驗(yàn)，本文提出的ＧＢ-ｒｏｔｏＮｅｔ 模型在ｍｉｎｉＩｍａｇｅＮｅｔ 數(shù)據(jù)集上，１-Ｓｈｏｔ設(shè)置下的準(zhǔn)確率為８６． ９６％ ，５-Ｓｈｏｔ 設(shè)置下的準(zhǔn)確率為９６． ７６％ ；在ＣＵＢ-２００２-２０１１ 數(shù)據(jù)集上，１-Ｓｈｏｔ 設(shè)置下的準(zhǔn)確率為７６． １３％ ，５-Ｓｈｏｔ 設(shè)置下的準(zhǔn)確率為８８． ７０％ 。相較于ＰｒｏｔｏＮｅｔ、ＲｅｌａｔｉｏｎＮｅｔ、ＭＡＭＬ、ＤｅｅｐＥＭＤ 等同類模型，ＧＢ-ＰｒｏｔｏＮｅｔ 在２ 個(gè)數(shù)據(jù)集上均取得了最優(yōu)性能，充分驗(yàn)證了其先進(jìn)性和有效性。

參考文獻(xiàn)

［１］ ＸＵ Ｍ Ｌ，ＹＯＯＮ Ｓ，ＦＵＥＮＴＥＳ Ａ，ｅｔ ａｌ． Ａ ＣｏｍｐｒｅｈｅｎｓｉｖｅＳｕｒｖｅｙ ｏｆ Ｉｍａｇｅ Ａｕｇｍｅｎｔａｔｉｏｎ Ｔｅｃｈｎｉｑｕｅｓ ｆｏｒ ＤｅｅｐＬｅａｒｎｉｎｇ［Ｊ］． Ｐａｔｔｅｒｎ Ｒｅｃｏｇｎｉｔｉｏｎ，２０２２，１３７：１０９３４７．

［２］ ＫＨＡＬＩＦＡ Ｎ Ｅ，ＬＯＥＹ Ｍ，ＭＩＲＪＡＬＩＬＩ Ｓ． Ａ ＣｏｍｐｒｅｈｅｎｓｉｖｅＳｕｒｖｅｙ ｏｆ Ｒｅｃｅｎｔ Ｔｒｅｎｄｓ ｉｎ Ｄｅｅｐ Ｌｅａｒｎｉｎｇ ｆｏｒ Ｄｉｇｉｔａｌ Ｉｍａｇｅｓ Ａｕｇｍｅｎｔａｔｉｏｎ ［Ｊ ］． Ａｒｔｉｆｉｃｉａｌ Ｉｎｔｅｌｌｉｇｅｎｃｅ Ｒｅｖｉｅｗ，２０２１，５５（３）：２３５１－２３７７．

［３］ ＧＯＯＤＦＥＬＬＯＷ Ｉ，ＰＯＵＧＥＴＡＢＡＤＩＥ Ｊ，ＭＩＲＺＡ Ｍ，ｅｔ ａｌ．Ｇｅｎｅｒａｔｉｖｅ Ａｄｖｅｒｓａｒｉａｌ Ｎｅｔｗｏｒｋｓ［Ｊ］． Ｃｏｍｍｕｎｉｃａｔｉｏｎｓ ｏｆｔｈｅ ＡＣＭ，２０２０，６３（１１）：１３９－１４４．

［４］ ＡＬＩＧＯＭＢＥ Ａ，ＥＬＹＡＮ Ｅ． ＭＦＣＧＡＮ：ＣｌａｓｓｉｍｂａｌａｎｃｅｄＤａｔａｓｅｔ Ｃｌａｓｓｉｆｉｃａｔｉｏｎ Ｕｓｉｎｇ Ｍｕｌｔｉｐｌｅ Ｆａｋｅ Ｃｌａｓｓ ＧｅｎｅｒａｔｉｖｅＡｄｖｅｒｓａｒｉａｌ Ｎｅｔｗｏｒｋ ［Ｊ ］． Ｎｅｕｒｏｃｏｍｐｕｔｉｎｇ，２０１９，３６１：２１２－２２１．

［５］ ＹＡＮＧ Ｈ，ＺＨＯＵ Ｙ． ＩＤＡＧＡＮ：Ａ Ｎｏｖｅｌ Ｉｍｂａｌａｎｃｅｄ ＣａｔａＡｕｇｍｅｎｔａｔｉｏｎ ＧＡＮ［Ｃ］∥２０２０ ２５ｔｈ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｐａｔｔｅｒｎ Ｒｅｃｏｇｎｉｔｉｏｎ （ＩＣＰＲ）． Ｍｉｌａｎ：ＩＥＥＥ，２０２１：８２９９－８３０５．

［６］ ＺＨＵＡＮＧ Ｆ Ｚ，ＱＩ Ｚ Ｙ，ＤＵＡＮ Ｋ Ｙ，ｅｔ ａｌ． Ａ ＣｏｍｐｒｅｈｅｎｓｉｖｅＳｕｒｖｅｙ ｏｎ Ｔｒａｎｓｆｅｒ Ｌｅａｒｎｉｎｇ ［Ｊ ］． Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅＩＥＥＥ，２０２０，１０９（１）：４３－７６．

［７］ ＡＧＡＲＷＡＬ Ｎ，ＳＯＮＤＨＩ Ａ，ＣＨＯＰＲＡ Ｋ，ｅｔ ａｌ． ＴｒａｎｓｆｅｒＬｅａｒｎｉｎｇ：Ｓｕｒｖｅｙ ａｎｄ Ｃｌａｓｓｉｆｉｃａｔｉｏｎ［Ｊ］． Ｓｍａｒｔ Ｉｎｎｏｖａｔｉｏｎｓｉｎ Ｃｏｍｍｕｎｉｃａｔｉｏｎ ａｎｄ Ｃｏｍｐｕｔａｔｉｏｎａｌ Ｓｃｉｅｎｃｅｓ，２０２１，１１６８：１４５－１５５．

［８］ ＬＩ Ｘ Ｘ，ＳＵＮ Ｚ，ＸＵＥ Ｊ Ｈ，ｅｔ ａｌ． Ａ Ｃｏｎｃｉｓｅ Ｒｅｖｉｅｗ ｏｆ Ｒｅｃｅｎｔ Ｆｅｗｓｈｏｔ ＭｅｔａＬｅａｒｎｉｎｇ Ｍｅｔｈｏｄｓ［Ｊ］． Ｎｅｕｒｏｃｏｍｐｕｔｉｎｇ，２０２１，４５６：４６３－４６８．

［９］ ＰＥＮＧ Ｈ． Ａ Ｃｏｍｐｒｅｈｅｎｓｉｖｅ Ｏｖｅｒｖｉｅｗ ａｎｄ Ｓｕｒｖｅｙ ｏｆ ＲｅｃｅｎｔＡｄｖａｎｃｅｓ ｉｎ Ｍｅｔａｌｅａｒｎｉｎｇ ［ＥＢ ／ ＯＬ］． （２０２０ － ０４ － １７ ）［２０２４－０２－０１］． ｈｔｔｐｓ：∥ａｒｘｉｖ． ｏｒｇ ／ ａｂｓ／ ２００４． １１１４９．

［１０］ ＬＩ Ｘ Ｘ，ＹＡＮＧ Ｘ Ｃ，ＭＡ Ｚ Ｙ，ｅｔ ａｌ． Ｄｅｅｐ Ｍｅｔｒｉｃ Ｌｅａｒｎｉｎｇｆｏｒ Ｆｅｗｓｈｏｔ Ｉｍａｇｅ Ｃｌａｓｓｉｆｉｃａｔｉｏｎ：Ａ Ｒｅｖｉｅｗ ｏｆ Ｒｅｃｅｎｔ Ｄｅｖｅｌｏｐｍｅｎｔｓ［Ｊ］． Ｐａｔｔｅｒｎ Ｒｅｃｏｇｎｉｔｉｏｎ，２０２３，１３８：１０９３８１．

［１１］ ＳＵＮＧ Ｆ，ＹＡＮＧ Ｙ Ｘ，ＺＨＡＮＧ Ｌ，ｅｔ ａｌ． Ｌｅａｒｎｉｎｇ ｔｏ Ｃｏｍｐａｒｅ：Ｒｅｌａｔｉｏｎ Ｎｅｔｗｏｒｋ ｆｏｒ Ｆｅｗｓｈｏｔ Ｌｅａｒｎｉｎｇ［Ｃ］∥２０１８ＩＥＥＥ ／ ＣＶＦ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｃｏｍｐｕｔｅｒ Ｖｉｓｉｏｎ ａｎｄ ＰａｔｔｅｒｎＲｅｃｏｇｎｉｔｉｏｎ （ＣＶＰＲ）． Ｓａｌｔ Ｌａｋｅ Ｃｉｔｙ：ＩＥＥＥ Ｃｏｍｐｕｔｅｒ Ｓｏｃｉｅｔｙ，２０１８：１１９９－１２０８．

［１２］ ＳＮＥＬＬ Ｊ，ＳＷＥＲＳＫＹ Ｋ，ＺＥＭＥＬ Ｒ． Ｐｒｏｔｏｔｙｐｉｃａｌ Ｎｅｔｗｏｒｋｓｆｏｒ Ｆｅｗｓｈｏｔ Ｌｅａｒｎｉｎｇ［Ｃ］∥Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ ３１ｓｔ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｎｅｕｒａｌ Ｉｎｆｏｒｍａｔｉｏｎ Ｐｒｏｃｅｓｓｉｎｇ Ｓｙｓｔｅｍｓ． Ｎｅｗ Ｙｏｒｋ：ＡＣＭ，２０１７：４０８０－４０９０．

［１３］ ＶＩＮＹＡＬＳ Ｏ，ＢＬＵＮＤＥＬＬ Ｃ，ＬＩＬＬＩＣＲＡＰ Ｔ，ｅｔ ａｌ． ＭａｔｃｈｉｎｇＮｅｔｗｏｒｋｓ ｆｏｒ Ｏｎｅ Ｓｈｏｔ Ｌｅａｒｎｉｎｇ ［Ｃ］∥ Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅ３０ｔｈ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｎｅｕｒａｌ Ｉｎｆｏｒｍａｔｉｏｎ Ｐｒｏｃｅｓｓｉｎｇ Ｓｙｓｔｅｍｓ． ［Ｓ． ｌ． ］：ＡＣＭ，２０１６：３６３７－３６４５．

［１４］ ＦＩＮＮ Ｃ，ＡＢＢＥＥＬ Ｐ，ＬＥＶＩＮＥ Ｓ． Ｍｏｄｅｌａｇｎｏｓｔｉｃ Ｍｅｔａｌｅａｒｎｉｎｇ ｆｏｒ Ｆａｓｔ Ａｄａｐｔａｔｉｏｎ ｏｆ Ｄｅｅｐ Ｎｅｔｗｏｒｋｓ［Ｃ］∥ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｍａｃｈｉｎｅ Ｌｅａｒｎｉｎｇ． Ｓｙｄｎｅｙ：ＡＣＭ，２０１７：１１２６－１１３５．

［１５］ ＺＨＡＮＧ Ｃ，ＣＡＩ Ｙ Ｊ，ＬＩＮ Ｇ Ｓ，ｅｔ ａｌ． ＤｅｅｐＥＭＤ：Ｄｉｆｆｅｒｅｎｔｉａｂｌｅ Ｅａｒｔｈ Ｍｏｖｅｒｓ Ｄｉｓｔａｎｃｅ ｆｏｒ Ｆｅｗｓｈｏｔ Ｌｅａｒｎｉｎｇ ［Ｊ］．ＩＥＥＥ Ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ Ｐａｔｔｅｒｎ Ａｎａｌｙｓｉｓ ａｎｄ Ｍａｃｈｉｎｅ Ｉｎｔｅｌｌｉｇｅｎｃｅ，２０２２，４５（５）：５６３２－５６４８．

［１６］ 任維鑫，曹新亮，白宗文． 一種單樣本農(nóng)作物病害識(shí)別方法［Ｊ］． 無(wú)線電工程，２０２３，５３（２）：４８４－４８９．

［１７］ ＹＵ Ｚ Ｃ，ＷＡＮＧ Ｋ，ＸＩＥ Ｓ Ｘ，ｅｔ ａｌ． Ｐｒｏｔｏｔｙｐｉｃａｌ ＮｅｔｗｏｒｋＢａｓｅｄ ｏｎ Ｍａｎｈａｔｔａｎ Ｄｉｓｔａｎｃｅ［Ｊ］． Ｃｏｍｐｕｔｅｒ Ｍｏｄｅｌｉｎｇ ｉｎＥｎｇｉｎｅｅｒｉｎｇ ＆ Ｓｃｉｅｎｃｅｓ，２０２２，１３１（２）：６５５－６７５．

［１８］ 陸妍，王陽(yáng)萍，王文潤(rùn)． 基于Ｔｒａｎｓｆｏｒｍｅｒ 的小樣本細(xì)粒度圖像分類方法［Ｊ］． 計(jì)算機(jī)工程與應(yīng)用，２０２３，５９（２３）：２１９－２２７．

［１９］ 許華杰，梁書偉． 采用特征圖增強(qiáng)原型的小樣本圖像分類方法［Ｊ］． 計(jì)算機(jī)科學(xué)與探索，２０２４，１８ （４ ）：９９０－１０００．

［２０］ ＺＨＯＵ Ｊ，ＣＵＩ Ｇ Ｑ，ＨＵ Ｓ Ｄ，ｅｔ ａｌ． Ｇｒａｐｈ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋｓ：Ａ Ｒｅｖｉｅｗ ｏｆ Ｍｅｔｈｏｄｓ ａｎｄ Ａｐｐｌｉｃａｔｉｏｎｓ ［Ｊ］． ＡＩ Ｏｐｅｎ，２０２０，１：５７－８１．

［２１］ 楊潔，董一鴻，錢江波． 基于圖神經(jīng)網(wǎng)絡(luò)的小樣本學(xué)習(xí)方法研究進(jìn)展［Ｊ］． 計(jì)算機(jī)研究與發(fā)展，２０２４，６１（４）：８５６－８７６．

［２２］ ＺＨＯＮＧ Ｘ，ＧＵ Ｃ，ＹＥ Ｍ，ｅｔ ａｌ． Ｇｒａｐｈ ＣｏｍｐｌｅｍｅｎｔｅｄＬａｔｅｎｔ Ｒｅｐｒｅｓｅｎｔａｔｉｏｎ ｆｏｒ Ｆｅｗｓｈｏｔ Ｉｍａｇｅ Ｃｌａｓｓｉｆｉｃａｔｉｏｎ［Ｊ ］． ＩＥＥＥ Ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ Ｍｕｌｔｉｍｅｄｉａ，２０２３，２５：１９７９－１９９０．

［２３］ ＸＩＯＮＧ Ｃ，ＬＩ Ｗ，ＬＩＵ Ｙ，ｅｔ ａｌ． Ｍｕｌｔｉｄｉｍｅｎｓｉｏｎａｌ ＥｄｇｅＦｅａｔｕｒｅｓ Ｇｒａｐｈ Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋ ｏｎ Ｆｅｗｓｈｏｔ Ｉｍａｇｅ Ｃｌａｓｓｉｆｉｃａｔｉｏｎ［Ｊ］． ＩＥＥＥ Ｓｉｇｎａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｌｅｔｔｅｒｓ，２０２１，２８：５７３－５７７．

［２４］ ＴＯＮＧ Ｘ Ｙ，ＹＩＮ Ｊ Ｈ，ＨＡＮ Ｂ Ｎ，ｅｔ ａｌ． Ｆｅｗｓｈｏｔ Ｌｅａｒｎｉｎｇｗｉｔｈ Ａｔｔｅｎｔｉｏｎｗｅｉｇｈｔｅｄ Ｇｒａｐｈ Ｃｏｎｖｏｌｕｔｉｏｎａｌ Ｎｅｔｗｏｒｋｓ ｆｏｒＨｙｐｅｒｓｐｅｃｔｒａｌ Ｉｍａｇｅ Ｃｌａｓｓｉｆｉｃａｔｉｏｎ［Ｃ］∥ＩＥＥＥ ＩｎｔｅｒｎａｔｉｏｎａｌＣｏｎｆｅｒｅｎｃｅ ｏｎ Ｉｍａｇｅ Ｐｒｏｃｅｓｓｉｎｇ （ＩＣＩＰ ）． Ａｂｕ Ｄｈａｂｉ：ＩＥＥＥ，２０２０：１６８６－１６９０．

［２５］ ＣＨＥＮ Ｃ，ＬＩ Ｋ Ｌ，ＷＥＩ Ｗ，ｅｔ ａｌ． Ｈｉｅｒａｒｃｈｉｃａｌ ＧｒａｐｈＮｅｕｒａｌ Ｎｅｔｗｏｒｋｓ ｆｏｒ Ｆｅｗｓｈｏｔ Ｌｅａｒｎｉｎｇ［Ｊ］． ＩＥＥＥ Ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ Ｃｉｒｃｕｉｔｓ ａｎｄ Ｓｙｓｔｅｍｓ ｆｏｒ Ｖｉｄｅｏ Ｔｅｃｈｎｏｌｏｇｙ，２０２２，３２（１）：２４０－２５２．

［２６］ 李凡，賈東立，姚昱，等． 結(jié)合殘差與自注意力機(jī)制的圖卷積小樣本圖像分類網(wǎng)絡(luò)［Ｊ］． 計(jì)算機(jī)科學(xué)，２０２３，５０（增刊１）：３７６－３８０．

［２７］ ＨＥ Ｋ Ｍ，ＺＨＡＮＧ Ｘ Ｙ，ＲＥＮ Ｓ Ｑ，ｅｔ ａｌ． Ｄｅｅｐ ＲｅｓｉｄｕａｌＬｅａｒｎｉｎｇ ｆｏｒ Ｉｍａｇｅ Ｒｅｃｏｇｎｉｔｉｏｎ［Ｃ］∥Ｐｒｏｃｅｅｄｉｎｇｓ ｏｆ ｔｈｅＩＥＥＥ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｃｏｍｐｕｔｅｒ Ｖｉｓｉｏｎ ａｎｄ Ｐａｔｔｅｒｎ Ｒｅｃｏｇｎｉｔｉｏｎ． Ｌａｓ Ｖｅｇａｓ：ＩＥＥＥ，２０１６：７７０－７７８．

［２８］ ＨＡＭＩＬＴＯＮ Ｗ Ｌ，ＹＩＮＧ Ｚ，ＬＥＳＫＯＶＥＣ Ｊ． Ｉｎｄｕｃｔｉｖｅ Ｒｅｐｒｅｓｅｎｔａｔｉｏｎ Ｌｅａｒｎｉｎｇ ｏｎ Ｌａｒｇｅ Ｇｒａｐｈｓ［Ｃ］∥ Ｐｒｏｃｅｅｄｉｎｇｓｏｆ ｔｈｅ ３１ｓｔ Ｉｎｔｅｒｎａｔｉｏｎａｌ Ｃｏｎｆｅｒｅｎｃｅ ｏｎ Ｎｅｕｒａｌ ＩｎｆｏｒｍａｔｉｏｎＰｒｏｃｅｓｓｉｎｇ Ｓｙｓｔｅｍｓ． Ｎｅｗ Ｙｏｒｋ：ＡＣＭ，２０１７：１０２５－１０３５．

［２９］ ＷＡＨ Ｃ，ＢＲＡＮＳＯＮ Ｓ，ＷＥＬＩＮＤＥＲ Ｐ，ｅｔ ａｌ． Ｔｈｅ ＣａｌｔｅｃｈＵＣＳＤ Ｂｉｒｄｓ２００２０１１ Ｄａｔａｓｅｔ［ＤＢ］． ［２０２４－０１－１０］． ｈｔｔｐ：∥ｗｗｗ． ｖｉｓｉｏｎ． ｃａｌｔｅｃｈ． ｅｄｕ ／ ｄａｔａｓｅｔｓ ／ ｃｕｂ＿２００＿２０１１ ／ ．

作者簡(jiǎn)介

齊露露 女，（１９９８—），碩士研究生。主要研究方向：小樣本圖像分類。

（*通信作者）俞衛(wèi)琴 女，（１９８２—），博士，副教授，碩士生導(dǎo)師。主要研究方向：非線性動(dòng)力學(xué)理論與應(yīng)用。