遙感影像要素提取的可變結構卷積神經網絡方法

王華斌,韓 旻,王光輝,李 玉

1. 遼寧工程技術大學測繪與地理科學學院, 遼寧 阜新123000; 2. 自然資源部國土衛星遙感應用中心, 北京 100048

近年來，以卷積神經網絡模型為典型代表的深度學習技術帶動了遙感影像要素提取研究的迅速發展[1-2]。相較于傳統的人工定義指數和淺層機器學習方法[3-6]，卷積神經網絡模型通過對海量圖像的深層特征建模實現了圖像信息的有效提取[7]，在非樣本數據集上的泛化能力顯著增強。因此，基于卷積神經網絡的遙感影像要素提取成為研究熱點。

基于卷積神經網絡模型的遙感影像要素提取方法通常利用包含卷積操作的神經網絡模型描述影像與要素的類屬關系，進而利用隨機梯度下降算法求解模型中的未知參數[8]。按照要素提取的粒度，利用卷積神經網絡模型的要素提取研究主要分為3個層次[9]：圖像層的場景分類、像素層的影像分割和目標層的實例分割。

文獻[10]提出的LeNet，將卷積操作引入神經網絡模型，也是現代卷積神經網絡模型的原型。該模型利用2次重復的卷積、下采樣和3次全連接對圖像的深層特征進行建模，在文本數字圖像識別領域得到了有效應用。但由于卷積操作的計算代價過于高昂且缺乏明確的理論基礎，該算法在提出后并未引起學界的關注。文獻[1]提出的AlexNet以絕對優勢榮獲2012年ImageNet競賽的冠軍，加之低價的圖形處理單元(GPU)提供了充足的計算資源，引起研究人員對于卷積神經網絡模型的廣泛關注。文獻[11]利用AlexNet提取多尺度遙感影像的深層卷積特征，并對其進行特征編碼以獲取全局表征，結合支持向量機(support vector machine，SVM)分類影像所屬的場景類別，是卷積神經網絡模型在遙感領域的探索。文獻[12]提出了一種結合顯著性檢測與稀疏自編碼器的顯著要素稀疏特征非監督提取算法，結合SVM準確地區分出了遙感影像的場景類別。然而，以場景分類為目標的要素提取結果受影像邊界的制約，無法顧及影像中非主要類別的要素。

文獻[13]提出的FCN(fully convolutional networks)是一種支持逐像素分類的卷積神經網絡結構，將分割粒度由圖像層細化到像素層。在該網絡結構中，原本用于分類的卷積神經網絡中的全連接層被替換為卷積層和轉置卷積層，并加入了多個跨越連接。由于網絡中間層全部為(轉置)卷積層，訓練所需的數據量較大，訓練時間長，分割邊緣不夠清晰。針對這一問題，文獻[14]引入數據增強技術并提出了U-Net。該網絡先通過多個卷積、池化層提取高度抽象的深層特征，再通過轉置卷積和卷積操作還原背景信息，同時利用帶有裁切的跨越連接細化分割邊緣。數據增強技術顯著減少了模型訓練時所需的樣本數量，然而裁切和卷積操作降低了輸出標記圖像的空間分辨率，模型訓練緩慢的問題依然存在。文獻[15]將端到端的影像分割網絡抽象分解為編碼器、解碼器和像素分類層，并且引入了利用最大池化指數的上采樣層和批標準化層[16]定義SegNet。該網絡結構通過邊緣補零的卷積操作統一了輸出標記圖像與輸入圖像的空間分辨率，通過批標準化層縮短了訓練所需的時間。但是該網絡利用Softmax層作為像素多類別分類器，其類別間的競爭影響了分類結果，平均像素分類精度仍然有待提高。

文獻[17]提出的R-CNN率先將候選區生成過程、卷積神經網絡與支持向量機(SVM)結合用于目標檢測問題。在該研究中，卷積神經網絡模型主要負責候選區的特征提取，與其他過程耦合較為松散。其續作Fast R-CNN通過多任務損失(multi-task loss)建立了分類與包圍盒修正網絡[18]。在此基礎上，Faster R-CNN將候選區生成過程替換為候選區生成網絡[19]。至此，卷積神經網絡模型完整地覆蓋了目標檢測任務的各個階段。受Faster R-CNN啟發，文獻[20]提出的Mask R-CNN在原有架構的基礎上增添了目標掩膜預測分支，從而將目標的檢測、分類、分割納入到統一的卷積神經網絡模型中。該網絡由多個部分構成，第1部分是殘差連接網絡(ResNet50或101)與特征金字塔網絡(feature pyramid network)組成的特征提取網絡，第2部分是候選區生成網絡(region proposal network)，第3部分是感興趣區分類、位置修正及分割網絡。特征網絡首先提取圖像多個尺度的特征，并由候選區生成網絡直接在卷積特征層直接生成感興趣區域，最后由分類及分割網絡對感興趣區域中的目標進行分類和分割。相關試驗表明該模型能夠十分準確地標注并分割出圖像中的地物。然而，目標層的要素提取適用于獨立特殊地物[21](如房屋、機場等)的提取，而對成片的大面積要素(如耕地)的提取支持較弱。

在卷積神經網絡模型中，網絡的結構定義是關鍵。上述幾種方法雖然提取粒度不同，但普遍采用固定結構的卷積神經網絡構造要素提取模型，網絡的表達能力受到固定結構的制約。另一方面，固定結構網絡的設計完全由專家依據專業知識手動定義，自動化水平低。針對以上問題，本文以像素層為要素提取粒度，將卷積神經網絡的結構納入要素提取問題的數學模型中，提出了基于可變結構卷積神經網絡的遙感影像要素提取方法。本文方法將卷積神經網絡中的關鍵結構作為變量，將形式化模型的要素提取指標作為目標函數。目標函數的最優解對應為關鍵結構最優的卷積神經網絡模型。由于該目標函數對于網絡中關鍵結構的導函數不可求取，采用遺傳算法搜索最佳關鍵結構。對于遺傳算法列舉出的每個網絡模型，基于傳統交叉熵目標函數和梯度下降算法求解其中的未知參數，并以網絡的要素提取性能作為相對應個體的適應性度量。最后，通過試驗證明了本文方法的有效性。

1 方法描述

1.1 模型變量

1.1.1 數據變量

約定影像張量X=[xn,h,w,c]N×H×W×C，其中xn,h,w,c為灰度值，其下標代表4個維度，n為影像索引，h為像素高度位置索引，w為像素寬度位置索引，c為像素光譜通道索引，Y=[yn,h,w,0]N×H×W×1是像素類屬目標要素的布爾標記。則對于某一類別的要素(如道路)，已知數據集可表示為

D={(X,Y)|x∈UInt16,y∈Boolean}

(1)

式中，UInt16={0,1,…,216-1}；Boolean={0,1}。

1.1.2 網絡結構變量

考慮要素提取粒度為像素層，必須對卷積神經網絡模型的架構進行約束。本文選定編碼器解碼器網絡作為基本架構。典型的編碼器、解碼器網絡包括U-Net和SegNet。SegNet可以描述為帶有跨越連接的編碼器和解碼器操作序列，其中編、解碼器中的不可變部分是網絡骨架，可變部分為關鍵結構，符合本文方法的應用要求。同時，為了便于拓展，本文設計了類SegNet作為可變結構卷積神經網絡的基礎架構。一個簡單的具備兩個編碼單元和解碼單元的類SegNet如圖1所示。

圖1 具有兩個編碼單元和解碼單元的類SegNetFig.1 A SegNet with 2-units encoder and 2-units decoder

約定F代表類SegNet引入的全部操作序列，fij是其中的一個操作，下標i為操作的順序索引，下標j為操作的種類索引，θij為fij引入的變量，ξij為fij引入的常量。可以將該網絡模型表達為

(2)

1.2 目標函數構建

基于上述模型變量，形式化地定義要素分類指標平均Jaccard指數為目標函數

Jaccard(D,F′)=

(3)

式中

(4)

式中，σ為概率閾值，一般按照經驗設定為0.5。本文方法按照目標函數最大化準則求取最優F′，從而獲得關鍵結構設計最優的卷積神經網絡模型。

1.3 基于遺傳算法的組合優化

由于F′代表類SegNet中可變部分全部操作的一組序列，在已知數據D的條件下最大化目標函數問題可以轉化為對F′的組合優化問題。遺傳算法(genetic algorithm,GA)[22]是一種模仿生物種群進化過程的隨機優化算法。對數據規模較大的組合優化問題，GA在求解非線性的函數優化問題等方面有良好的適用性[23]。因此，本文基于GA框架求解對F′的組合優化問題。利用GA求解編碼單元和解碼單元組合優化問題的關鍵步驟在于可行解的編碼、種群初始化設定、個體適應度的定義和遺傳算子的設計。

1.3.1 可行解的編碼

本文利用一個個體P代表一組可行解，由結構染色體CA和超參數染色體CP組成

P=(CA,CP)

(5)

結構染色體由一組結構基因AUu組成，超參數染色體由一組超參數基因PUu組成，下標u為基因位置索引,U為基因長度，取偶數

(6)

結構基因是一組二進制數，可通過映射字典對應編碼單元或解碼單元中的操作類型，超參數基因是設置操作的超參數，例如卷積核數量、卷積核大小和激活函數名稱等。為了對可行解的編碼過程進行更加清晰的闡述，舉例如下。

表1列出基因-結構單元的映射字典。根據表1給出數據，當取U=6，類SegNet編碼過程可得如圖2所示網絡結構。

表1 基因-結構單元映射字典

圖2 類SegNet的個體編碼過程Fig.2 The code of individual and corresponding SegNet

在圖2右側所示的類SegNet中，第1個編碼單元的定義是先卷積層后激活層，其中卷積操作的卷積核數為32，卷積核大小為(3,3)，激活操作的激活函數為elu(文獻[24])，對應到結構染色體中第1個結構基因為00，超參數染色體中第1個超參數基因為((32,(3,3)),(elu))，其余單元可依次類推，最終形成左側的個體。

1.3.2 種群初始化設定

設Gv表示第v世代所有個體的集合

(7)

(8)

(9)

式中

(10)

1.3.3 個體適應度定義

考慮到GA中的個體數量較多，為降低估計個體適應度所需的計算量，本文采用數據抽樣和不充分訓練的策略計算個體適應度。

數據抽樣策略假定已知數據集D是均勻的，對其抽樣N′張影像和標注，形成抽樣數據集D′?D，

(11)

log(1-Z(I))]

(12)

在經驗損失函數最小化準則下，利用自適應低階矩的隨機一階梯度下降算法[25]。在固定數據遍歷次數和附加提前停止的條件下，求解模型中未知參數的數值解。由此，可實現以較小的計算成本初步估計網絡的表達能力。

1.3.4 遺傳算子的設計

(1) 隨機聯賽選擇算子。對當前世代G，隨機選取K個個體作為參加聯賽的個體集合GSt，以t表示聯賽次數索引

GSt={Pk}?Gk=1,…,K

(13)

將每次聯賽中適應度最優的個體保留，組成撫育下一種群的候選GP

GP={Pt|max(GSt),t=1,…,T}

(14)

(2) 單點交叉算子。將選擇出個體按奇偶順序兩兩配對，分別作為父代和母代

Pa,Pb∈GP

(15)

式中，a=1,3,…,T-1;b=2,4,…,T。以一定概率αco交換父母代染色體中的部分基因，即

(16)

(17)

(3) 基本位變異算子。染色體交叉后種群中的每個個體以一定概率αmt發生基本位的變異。假設Pmt為概率判定要發生基本位變異的個體

Pmt∈GE

(18)

對其結構染色體CA(mt)中每個基因按一定概率αfp重新初始化。假設AUγ(mt)為概率判定要發生變異的結構基因

(19)

則重新初始化后結構基因

(20)

由于AUγ(mt)發生變化，超參數染色體CP(mt)相同位置的超參數基因PUγ(mt)也必須相應改變。將AUγ(mt′)代入式(9)，將PUγ(mt)重新初始化為PUγ(mt′)。由此得到CA(mt′)和CP(mt′)，合并后表示變異后個體Pmt′

Pmt′=(CA(mt′),CP(mt′))

(21)

1.3.5 方法流程

綜合以上概念，本文方法分解為3個部分，第1部分為架構定義，第2部分為結構優化，第3部分為固定結構CNN的要素提取。流程如圖3所示，描述如下：

步驟1：定義參數。包括網絡層范圍參數、基因結構字典設計、單元數量和遺傳參數等。

步驟2：初始化種群。設定隨機初始化種群個體的染色體。

步驟3：估計每個個體的適應度。將種群中每一個個體映射為類SegNet卷積神經網絡，采用數據抽樣和不充分訓練的策略求解模型未知參數，計算目標函數值作為個體適應度。

步驟4：進化終止條件判定。判斷最佳個體適應度是否達到預期值或達到限制的最大進化世代數。若滿足停止條件則轉向步驟9，否則進入步驟5。

步驟5：選擇運算。將隨機聯賽選擇算子作用于種群。

步驟6：交叉運算。將單點交叉算子作用于種群。

步驟7：變異運算。將基本位變異算子作用于種群，由此得到下一代種群。

步驟8：返回步驟3。

步驟9：報告最優個體。最優個體映射的類SegNet卷積神經網絡結構即為求解得到的決策函數族，在取消數據抽樣和不充分訓練策略的條件下求解模型未知參數。

步驟10：利用求取的模型對遙感影像中的要素進行提取。本文這里采用方法在獨立測試集上的指標進行效果評估。

圖3 本文方法流程Fig.3 The flowchart of the proposed method

2 試驗和分析

2.1 試驗設定

為了驗證本文方法的有效性，研究基于DSTL競賽數據集中的遙感影像和10種要素標記，利用本地交叉驗證[26]的策略評估本文方法的可靠性。

DSTL數據集是以World-View3衛星所拍攝的遙感影像為基礎制成的要素標記數據集，提供了57個區域的遙感影像，其中25個區域包含居民地、瀝青道路、林木與河流等10種要素標記。每個區域提供空間分辨率為31 cm的融合后RGB遙感影像、空間分辨率為31 cm的全色遙感影像、空間分辨率為1.24 m的多光譜8波段遙感影像及空間分辨率為7.5 m的短波8波段遙感影像。

數據準備過程如下：①將25張影像及其對應的地物要素類別圖劃分為17張模型訓練集與8張獨立測試集；②在模型訓練集中，對每種地物要素生成與8波段多光譜影像長寬相同的目標要素標記二值圖像；③將模型訓練集中8波段多光譜影像與目標要素標記二值圖像裁切成大小相同的圖塊，影像圖塊與其對應的二值標記圖塊稱為一組；④對所有的組抽樣32%作為抽樣集，其余作為余樣。表2為各組數據集中的組數量。

表2 數據準備分組

試驗使用表3所示的基因-結構單元映射表，不充分訓練的具體設定是固定數據遍歷次數為70，批張量大小設定為2。為了避免計算時間過長，在試驗中設定最大進化數V為200代。卷積核數量候選集filters_ud為{3,…,16}，卷積核窗口大小kernel_size為{1,2,3}，卷積核數量隨深度變化系數filters_scale為{2,3,4,5}，激活函數候選集{'elu','selu','relu','tanh','softplus','softsign','sigmoid','hard_sigmoid'}，批標準化動量集{0.8,0.81,…,0.99},失活率集{0.5,0.51，…,0.99}，種群規模O為20，聯賽規模K為3，染色體交叉概率αco為0.5，基因變異概率αmt為0.02。卷積神經網絡模型中權重求解的收斂條件為損失小于0.001或超過2000次數據遍歷。

表3 基因-結構單元映射字典

試驗的硬件環境為Intel(R) Core(TM) i7-7700 HQ 2.80 GHz，NVIDIA Quadro M1200和Intel(R) Xeon(R) E5-2630U3 2.40 GHz，4塊NVIDIA Tesla M40，軟件環境為Python 3.5.2，主要依賴庫為Tensorflow1.4.0，Keras2.0.8。

2.2 試驗結果

2.2.1 遺傳過程

利用可變結構卷積神經網絡模型對10種要素提取過程建模并進行試驗，圖4反映了結構優化過程中種群適應度與進化世代數之間的關系。其中，種群適應度分布由小提琴寬度表示，種群適應度上下限由小提琴上下頂點表示。對進化過程中種群適應度絕對值的觀察顯示，長度為6的類SegNet架構對不同要素的提取表現不同，體現為耕地要素提取網絡的絕對提取效果最高，非瀝青公路要素提取網絡次之，之后依次是河流、瀝青公路、林木、湖泊、建筑物，小型車輛、大型車輛。

圖4 10種要素網絡模型結構優化遺傳過程小提琴圖Fig.4 The violin figures of evolution of CNN architectures for ten features

從種群進化過程前后個體適應度的相對變化來看，多數要素提取網絡的表達能力在進化過程后都得到了一定程度的優化(表4)。分析表4數據可以看出，個體適應度優化的幅度與要素種類相關，例如提取河流、瀝青公路、非瀝青公路的指標優化幅度在0.15至0.35之間，而提取建筑物、混雜附屬物、林木、耕地、湖泊的指標優化幅度均在0.10以內，大型車輛、小型車輛的提取指標在優化前后并未有所提升。由此得出結論：在長度為6的類SegNet架構約束下，網絡結構優化過程對不同要素的適用性不同，對非瀝青公路、瀝青公路、河流的要素提取網絡的結構優化較為有效，而對建筑物、混雜附屬物、林木、耕地的網絡優化效果有限。對于大型車輛和小型車輛而言，提取模型的絕對指標幾乎為0，并且優化結構也不能獲得任何提升，因此可以判斷網絡結構并非提取該類特殊要素的制約條件。

2.2.2 最終網絡

取結構優化過程中末代網絡的最優個體，并映射為所對應的最終網絡，表5為10種要素的可變結構卷積神經網絡的最終結構。B、C、A分別表示批標準化層、卷積層、激活層，后面附加的是該層所需的超參數。(C-卷積核數量，卷積窗口大小，B-動量系數，A-激活函數)。

表4 結構優化前后適應度變化

Tab.4 The fitness changes caused by architectureoptimization

要素初代最優個體末代最優個體優化幅度建筑物0.5750.6380.063混雜附屬物0.0570.1320.075瀝青公路0.4210.6530.232非瀝青公路0.5220.8800.358林木0.5750.6510.077耕地0.8250.9250.099河流0.6580.8050.147湖泊0.6010.6480.048大型車輛0.0000.0020.002小型車輛0.0010.0070.006

表5 10種要素提取網絡模型結構

圖5(a)為對多種要素提取網絡模型中激活操作的函數統計頻數。分析發現relu函數的出現頻數顯著高于其他函數，tanh次之，最少出現的是softsign。說明激活函數的選擇上relu函數非線性激活的處理效率高于其他函數，通用性強于其他函數。

建筑物、瀝青公路、非瀝青公路、林木、河流等要素的提取網絡中，卷積核數量服從隨深度遞增的設定，圖5(b)的折線圖呈現倒U形；而耕地、湖泊、混雜附屬物、小型車輛、大型車輛要素提取網絡中，卷積核數量并未服從隨深度遞增的設定。說明卷積核數量的設定受要素種類影響，并非完全服從隨深度遞增的規律。對卷積核窗口大小的統計顯示寬度為3的卷積窗口頻數較高，為22次；寬度為5的窗口出現了18次；寬度為4的出現了10次。說明寬度為3的卷積窗口較寬度為4的卷積窗口通用性更強。圖5(c)中批標準化操作中動量系數按要素種類不同呈現3種分布：混雜附屬物和瀝青公路的要素提取網絡中，動量系數呈現W形，非瀝青公路、耕地、河流、湖泊的要素提取網絡中，動量系數呈現M形，其他要素提取網絡中，動量系數在編碼器階段變化幅度不大，而在解碼階段劇烈變化，呈現倒扣的勺狀。Dropout處理出現在混雜附屬物、河流、大型車輛、小型車輛4種要素提取網絡中。說明模型優化過程對多光譜特征較為復雜的要素會利用Dropout的模型平均作用來嘗試提高其提取效果。

圖5 參數分析統計Fig.5 The statistics of parameters analysis

2.2.3 提取效果

圖6為獨立測試集上一張影像按本文方法提取要素的效果。其中要素真值與預測值的真正(true positive)部分以綠色標記，假負(false negative)部分以紅色標記，假正(false positive)部分以黃色標記，真負(true negative)部分以白色標記。

通過視覺觀察，對于測試影像中的林木、非瀝青公路、耕地、建筑物、瀝青公路、湖泊要素，模型提取出了大部分目標區域，說明模型具備一定的分類泛化能力。由于河流要素未出現在示例圖像中，模型的預測結果均為假正，說明對負樣本的處理是模型實用化的關鍵。另一方面，模型對于混雜附屬物、大型車輛、小型車輛要素的提取效果并不理想。究其原因是混雜附屬物包含了多種建筑物附屬結構，其像元光譜十分復雜導致模型難以區分。另外，多光譜影像的分辨率為1.24 m，這3類要素在影像上的圖斑尺寸過小，客觀上也增加了提取的難度。

將本文AVCNN方法與Logistic、SVM、SegNet模型進行對比，評價指標選取模型在獨立測試集合(8張影像)上的Jaccard指數。必須說明的是，方法對要素負樣本的正確提取將使得Jaccard指數無意義，在統計時被忽略，但對要素負樣本的錯誤提取仍會被統計。這種統計方式會極大地降低無法對負樣本做完全正確預測的模型的評分，本文將其稱為Jaccard指數的負樣本抑制統計效應。圖7為評價指標分布箱形圖，表6為各提取方法在測試集合上的平均指標。

圖7反映出AVCNN對多數要素的提取效果優于其他3種方法。在獨立測試集中，僅有1張影像包含河流要素，Logistic模型通過負樣本上的正確預測規避了平均Jaccard指數在統計上的負樣本抑制效應，而本文方法雖然在正樣本上的表現與Logistic模型相當(圖7(d)中河流要素的孤立點)，但在負樣本上產生了少量的錯誤預測，導致在統計的平均Jaccard指數上顯著低于Logistic模型(表6)。

圖7 4種方法在獨立測試集Jaccard指數箱形圖Fig.7 The box plots of Jaccard indexes of four methods on test set

表6 不同方法提取目標要素的Jaccard指數

Tab.6 The Jaccard index of different methods for target features

要素名稱提取方法LogisticSVM[27]SegNet[15]AVCNN建筑物0.050.000.120.22混雜附屬物0.000.000.000.04瀝青公路0.030.010.000.19非瀝青公路0.020.000.010.49林木0.200.000.050.52耕地0.100.120.100.26河流0.180.060.000.02湖泊0.010.000.020.09大型車輛0.000.000.000.00小型車輛0.000.000.000.00

2.3 分 析

圖8為遺傳過程中多個網絡模型對非瀝青道路要素提取的對比?？梢钥闯觯?0、100、150代以及最終輸出網絡經充分訓練在測試集的提取結果中，假負部分(紅色部分)逐漸減少，真正部分(綠色部分)逐漸增多，提取效果逐漸提升，說明利用不充分訓練估計模型表達力的策略是有效的。

將本文方法得出各要素最終提取網絡結構在要素間交叉地執行訓練和提取，得到圖9所示的適配性矩陣(縱坐標代表網絡權重訓練所基于的要素索引，橫坐標代表最終提取網絡結構所基于的要素索引，坐標值為模型在獨立測試集上的平均Jaccard指數)。由圖中可以看出，遺傳算法得到的網絡結構與要素間的適配性與要素類型有關：對非瀝青公路、林木兩種要素，遺傳算法得到的網絡結構對其要素本身的提取是最優的，其中非瀝青公路要素的網絡與其他網絡差異較為明顯；對于建筑物、混雜附屬結構、瀝青公路，耕地、河流、湖泊、小型車輛等7種要素，遺傳算法得到的網絡結構對其要素本身的提取效果并非最優，但也具備相當的提取能力，說明本文方法表現出相當大的隨機性，但能夠作為求解具有一定容量的網絡結構的方法；對于大型車輛，所有要素提取網絡都未獲得有效的提取效果，說明本文方法的適用性受限于數據條件和要素特點。綜上，遺傳算法對一種要素求解得到的網絡結構對其他要素也具有一定的適應性，當目標地物發生變化時，重新利用遺傳算法得到的新的網絡可以獲得具備一定容量的模型結構，但仍受要素特點與數據條件的限制。

圖6 目標要素提取結果Fig.6 The extraction results of target surface features

圖8 遺傳過程中類SegNet的性能改善Fig.8 The performance improvement of AVCNN in evolution

圖9 各要素與解網絡間的適配性矩陣Fig.9 The adaptive array of AVCNN of different features

以非瀝青道路為例，調整輸入模型的影像塊大小并對網絡結構進行相應重構，得到影像塊大小對最終網絡結構提取效果的影響(圖10)。從圖中可以看出，輸入影像塊大小會影響網絡模型的預測效果。具體表現為隨著影像塊大小的增加，模型在獨立測試集要素提取指標呈現先增后減的趨勢。

圖10 影像塊大小對模型性能影響 Fig.10 The performance of models with different input size

遙感影像的要素提取中，一般認為像素的類別具有唯一性。然而，在DSTL數據集中，部分要素的矢量數據在空間上存在重疊，例如林木與耕地，林木與非瀝青公路等。這一部分重疊要素從影像中像元的光譜特征上難以分辨，但在邏輯上存在合理性?；赟oftmax分類器的SegNet雖然架構簡單，訓練方便，但其所分像素具備類別上的排他性。因此本文認為針對每種要素建立像元的二值分類模型更加符合人類的主觀認知和數據集特性。

圖11 本文方法各步驟的平均時間消耗/hFig.11 The average time consuming of our method/h

AVCNN的核心步驟是利用進化算法對卷積神經網絡模型進行結構及參數的調優。進化算法的收斂效率低，卷積神經網絡的訓練時間長，都使得本次研究中AVCNN的時間成本異常高昂，在使用4塊24 GB顯存GPU的條件下，各步驟的平均時間消耗如圖11所示。事實上，現有關于網絡結構自動化搜索的其他研究[28-31]都依賴于強大的硬件支撐。本文方法繼承了進化算法的可并行特性、卷積神經網絡模型的可分布式特性。因此可以結合分布式計算技術縮短方法的執行時間，提高方法的實用性。

3 結 論

針對現有卷積神經網絡模型多為人工固定定義，在提取遙感影像中的目標要素時表達能力受到固定結構制約且自動化水平低的問題，提出了基于可變結構卷積神經網絡要素提取方法。本文面向遙感影像要素提取場景定義類SegNet架構，將其中的關鍵結構作為變量，將模型的要素提取精度作為目標函數，設計了適用于該優化問題的遺傳算法以求解網絡結構，最后依據求解后得到的網絡結構提取遙感影像中的目標要素。得出以下結論：①以“定義架構而非定義結構，求解結構而非固定結構”為核心思想的可變結構卷積神經網絡模型設計思想是可行的；②本文設計的GA能夠作為求解具備一定容量的可變卷積神經網絡中關鍵結構的一種實用方法；③相比傳統固定結構卷積神經網絡，可變結構卷積神經網絡具備更加靈活的模型容量和更強的模型表達能力。在僅使用多光譜數據的條件下，基于可變結構卷積神經網絡模型提取DSTL數據集中各要素的Jaccard指數均優于基于Logistic、SVM和SegNet模型的方法。更重要的是，可變結構卷積神經網絡將結構定義提升到了架構定義，減少了網絡設計過程對專家知識的依賴，是深度學習自動化方面的重要探索。然而，必須注意的是模型自優化算法普遍需要高密度的計算資源，需要與分布式計算集群配合才能滿足一般的業務的時間需求。另外，本文方法仍然受限于卷積神經網絡的基礎架構和網絡深度，要素分類的絕對精度仍然有限。如何將整體架構和網絡深度也納入網絡結構優化選擇的過程中是下一步研究的方向。