卷積神經網絡在目標輪廓檢測中的應用

沈陽理工大學信息科學與工程學院 李海燕 胡玉蘭

卷積神經網絡在目標輪廓檢測中的應用

沈陽理工大學信息科學與工程學院 李海燕 胡玉蘭

輪廓；特征；損失函數；softmax；BSDS500

引言

本文應用現在比較熱門深度學習，來解決特征的提取、輪廓的檢測。Martin[1]等人通過與自然邊界相關的亮度、顏色和紋理特征變化的特征，并且通過學習分類器來組合特征。Dollar[2]等人使用大量的特征塊和概率增強樹[3]來檢測輪廓,達到了主流的準確率。Ren和Bo[4]發現了一種稀疏編碼梯度特征，對于輪廓的檢測效果非常好，目前為止，用深度學習方面來檢測目標輪廓的文獻還比較少， Ganin和Lempitsky第一次讓卷積神經網絡學習輪廓特征，通過kd-tree將學習到的輪廓特征送到注釋的邊緣圖中去。本文通過卷積神經網絡來學習輪廓特征，最后通過結構化的隨機森林提取輪廓最終達到我們的目標。

1 卷積神經網絡

我們首先介紹我們的卷積神經網絡模型，然后對網絡結構中使用的損失函數進行詳細的解釋。

1.1 卷積神經網絡結構

通過查閱文獻[1,2,3,4]可知，四層的卷積神經網絡能夠提取足夠的信息來對輪廓和背景進行區別。我們設計的網絡中包含輸入層，卷積層，還包含全連接層。其中：輸入：45×45×3；卷積1:45×45×32；卷積2:22×22×48；卷積3：11×11×64；卷積4：5×5×128；全連接1:128；全連接2:101。其中我們只在4個卷積層和兩個全連接層中進行參數的學習，其他層只是隨機的進行初始化。結構如圖1所示：

圖1 卷積神經網絡結構圖

1.2 損失函數

我們的目標把損失函數降到最低，對于給定的訓練集，如果包含m個圖像塊，x(i)表示第i個圖像塊，y(i)表示的是它所屬的類標簽，如果y(i)=0說明圖像塊沒有用，如果y(i)=k＞0表示這是一個有用的圖像塊，在第二個全連接層能夠找到置信度為j的有用圖像塊的概率如下：

在標準的卷積神經網絡中，輸出的結果會送到下一個的softmax分類器中，損失函數如下：

由(1)、(2)可知，對于每個類來說對分類錯誤的處理都是一樣的。為了提高實驗結果的準確率，我們就引入了額外的項來對這個損失函數進行調整,改進的損失函數如下：

λ=1的時候，由公式(3)可知，我們應該用不同的形狀類來適應結果。

全連接層我們的處理分兩個階段，第一個階段計算softmax損失函數，第二個階段是求出J對于a0(i)、al(i)的導數。過程如下：

式中γ的大小在-1到1之間，通過在我們的目標損失函數上使用隨機梯度下降函數，可以適當的把學習率降低。來進行迭代實驗。

2 結構化隨機森林

從卷積神經網絡第一個全連接層提取到的深度特征進行可視化，然后通過結構化的隨機森林，得到目標的輪廓。

2.1 隨機決策森林

二元分割函數h(x,j)∈0,1值為0時，x歸類到右節點，值為1，類到左節點，直到遞歸結束。輸入x對應的為y存在葉子節點，最后得到的結果是每個葉子節點得到結果的集合。我們使用的增益函數是：

其中,Sj=x,y∈Sj| h(x,j)=0 ,SjR= SjSjL其中信息增益的值Ij為最大的時候，用SjL,SjR來進行訓練，對于多級分類的情況來說，需要重新定義信息增益：

在這個式子中，H(S)表示的是香農的信息熵，其中在這個式子中基尼不純度也會引入來進行使用。H(S)=∑ypy(1-py)為基尼不純度。

在遞歸的過程中，信息熵和信息增益可以被理解為連續的變量，回歸的做法是最小化葉子節點的標簽方差。但是如果是

的話，經過化簡可以得到，單因素回歸的標準形式。

2.2 結構化隨機森林

單個的決策樹，方差偏高，容易出現過擬合的現象，可以通過引入隨機因素，來降低最后得出的方差。訓練多個決策樹，來實現多樣性，解決單個決策樹不能解決的問題。對于給定的離散標簽，我們可以直接計算信息增益，用信息增益代替計算得到的增益信息，每次訓練的之前，完成結構化標簽映射。

3 實驗結果與分析

BSDS500數據集，共500張圖片，200張為訓練圖片，200張為測試圖片，100張作為檢驗圖片，另外數據集有人工標記，使用起來很方便。我們使用比較流行的Caffe網絡框架，采用ODS(optimal dataset scale),OSI(optimal image scale), AP(average precision)來衡量。在下表中給出不同方法的比較，其中human是人工標記的結果，我們的結果和它越接近說明實驗效果越好。

表1 輪廓檢測在BSDS數據集上的結果

圖2 卷積神經網絡得到的圖像輪廓

結果如圖2所示：最左邊original一列中為原圖，第二列GroundTruth為人工標記得到的輪廓，第三列是SketchTokens,素描令牌法，是一種通過中層特征學習得到的輪廓，最后一個是本文的方法得到的輪廓。第一幅圖中的天鵝的輪廓，第二幅圖像中城堡的輪廓圖，說明我們的方法對于光照不均勻的環境下，輪廓效果比較理想的，有一定的魯棒性。

4 結論

對于目標輪廓檢測這個問題，本文提出了一種卷積神經網絡算法，在基本的卷積神經網絡上進行改進，同時改進損失函數，提高了特征提取的準確度，最后顯示經過訓練得到的模型能夠一定程度上抑制背景噪聲的影響，相比傳統的邊緣檢測算法，具有應用價值和研究價值。

[1]D.R.Martin,C.Fowlkes,D.Tal,and J.Malik.A database of human segmented natural images and its application to evaluating segmentation algorithms and measuring ecological statistics.In Proc.ICCV,pages 416-425,2001.

[2]P.Dollar,Z.Tu,and S.Belongie.Supervised learning of edges and object boundaries.In Proc.CVPR,volume 2,pages 1964-1971,2006.

[3]Z.Tu.Probabilistic boosting-tree: Learning discriminative models for classification,recognition,and clustering.In Proc.ICCV,volume 2,pages 1589-1596.IEEE,2005.

[4]X.Ren and L.Bo.Discriminatively trained sparse code gradientsfor contour detection.In Proc.NIPS,pages 593-601,2012.

李海燕，女，碩士，主要研究領域為自適應信號處理。

胡玉蘭，女，教授，主要研究領域：數字圖像處理、模式識別與人工智能。