HOG特征值的筆跡鑒定算法

楊 東， 王以松

(貴州大學 計算機科學與技術學院， 貴陽 550025)

0 引 言

統計學習理論(Statistical Learning Theory，SLT )是在20世紀60年代由Vapnik等人提出并于20世紀90年代中期建立的一種針對小樣本情況研究統計學習規律的理論，由于解決了機器學習中小樣本、過學習、欠學習和局部最小點等實際問題，從而成為20世紀90年代末發展最快的研究方向之一，其核心思想是學習機器要與有限樣本相適應，從而實現最佳推廣能力[1-2]。統計學習理論為小規模樣本的機器學習問題提供了良好的理論框架，機器學習中的支持向量機(SVM)是最重要的算法之一，在諸多領域得到了運用[3]。郭輝[4]等人提出一種改進鯨魚優化算法，同步優化SVM的特征選擇模型，該算法的原理是利用Levy飛行策略對鯨魚優化算法的螺旋更新位置進行變異擾動，改進了單純形策略中的反射操作對種群中的精英個體，標準函數的測試結果證明，其改進能有效提高算法的收斂速度和計算精度。利用SVM核參數和特征選擇目標作為共同優化對象，對UCI標準數據集和真實乳腺癌數據集進行特征選擇仿真實驗，真實乳腺癌數據集上的分類精度與傳統支持向量機相比提高了11.053%。

方向梯度直方圖(Histogram of Oriented Gradient, HOG)特征是在計算機視覺中用來對圖片進行處理的一種特征描述子。HOG特征通過計算和統計圖像局部區域的梯度方向直方圖來構成特征[5]。韓松來[6]等人提出主成分分析(Principal Component Analysis，PCA)和 HOG特征的遙感異源圖像匹配算法，利用HOG提取圖像間的幾何結構共性特征，能有效克服異源圖像非線性灰度畸變的問題，實現多種遙感異源圖像匹配性能的明顯提升；宋建輝[7]等采用融入HOG特征對ResNet殘差模型進行改進，利用自裁殘差(Cropping Inside Residual，CIR)模型塑造的孿生目標可以增強跟蹤網絡的骨干網絡對圖形幾何變化的魯棒性；高達義[8]通過注意力模型(Convolutional Block Attention Module，CBAM)調節網絡上下文信息的HOG特征比例，使網絡中各特征圖發揮出最好的效果。實驗結果表明，該算法在OTB100的精確率和成功率分別達到81.9%和60.6%。

筆跡鑒定是司法領域的一個重要鑒定手段，張偉[9]等通過一起刑事申訴中的筆跡鑒定案例，闡述了筆跡鑒定意見在刑事審判中的關鍵性作用；張樂[10]等對中國裁判文書網平臺的筆記鑒定意見資料進行歸納和分類，進而討論筆跡鑒定在司法案件的應用，增強了筆跡鑒定意見的公信力，從而最大限度發揮筆記鑒定意見在訴訟案件中的證據作用。

目前，深度學習、強化學習等模型訓練呈現訓練規模大、時間長，對計算資源要求高的問題，在實際使用過程應用較為困難。本文探索提取筆跡HOG特征對筆跡的SVM模型進行訓練，對筆跡的真偽進行鑒定。實驗結果表明，該模型在較小的樣本和較短的訓練時間、資源條件下，能成功鑒定偽造筆跡。

1 算法思想

SVM(支持向量機)是定義在特征空間上通過求解間隔最大的線性分類器的二分類模型。SVM的求解問題可以形式化求解的凸二次規劃問題中的間隔最大化，也等價于正則化的合頁損失函數的最小化問題。SVM的學習算法就是求解凸二次規劃的最優化算法[8]。本文提取筆跡的HOG特征向量，利用SVM算法訓練出筆跡特征的HOG特征向量超平面。

1.1 SVM算法原理

SVM的基本算法思想是能夠對訓練數據集正確劃分并且求解幾何間隔最大的分離超平面。如圖1所示，ω·x+b=0即為分離超平面，對于線性可分的數據集來說，雖然分離超平面可能有無窮多個，但是幾何間隔最大的分離超平面卻是唯一的。

幾何間隔：對于給定的數據集T和超平面ω*x+b=0，定義超平面關于樣本點 (xi，yi)的幾何間隔，公式(1)：

(1)

SVM模型的求解最大分割超平面通過求解二次規劃問題得到最小化泛函，式(2)：

(2)

圖1 SVM超平面圖

約束條件為不等式類型：yi[(xi·ω)-b]≥1,i=1,2,3,…,l

這個優化問題的解是由拉格朗日泛函的鞍點給出的，式(3)：

(3)

其中，αi為拉格朗日乘子。

最優超平面具有兩個特性：

(1)系數αi必須滿足約束，式(4)：

(4)

(2)最優超平面，向量ω0是訓練集中的向量的線性組合，式(5)：

(5)

只有所謂的支持向量可以在ω0的展開式中j具有非零的系數αi。不等式yi[(xi·ω)-b]≥1,i=1,2,3,…,l在等號成立時得到支持向量，其最優超平面，式(6)：

(6)

1.2 HOG特征向量的計算

紋理特征是圖片的一種獨特的特征。紋理作為反映圖像同質現象的一種視覺特征，當物體表面具有緩慢變化或者周期性變化時，紋理就會體現出相應的變化。紋理的3大標志：非隨機排列、某種局部序列性不斷重復以及紋理區域內大致為均勻的統一體。紋理特征包含統計型紋理特征和模型紋理特征。統計型紋理特征從像元及其鄰域內的灰度屬性出發，研究紋理區域中的統計特征；模型紋理特征是假設圖片紋理是某種參數控制的分布模型的形式，再以紋理圖像的實現來估計計算模型參數[5]。HOG特征是描述局部紋理的有效特征向量 ，計算筆跡圖片的HOG特征的方法為：將一張筆跡圖片按照8×8像素的大小分割為若干個細胞單元，每個細胞單元中梯度角度的取值范圍介于0～180°之間，將角度范圍分成9份，每20°為一個組；在細胞單元中，對內部所有的像素的梯度進行統計；將每一組中所有像素對應的梯度值進行累加，可以得到9個數值。直方圖就是由這9個數值組成的數組，每個細胞單元就會得到一個9維的特征向量，特征向量每一維對應的值是累加的梯度幅值。在獲得每個細胞單元的梯度方向直方圖后，再對細胞單元組合形成區塊。在筆跡圖片中，選取2×2個細胞單元作為一個區塊，每次滑動8個像素得到一個新的區塊，按照此步驟循環結束后得到整個筆跡圖片的HOG特征向量。結合SVM的算法，可求解出筆跡圖片中的HOG特征向量超平面。

2 實驗步驟

本文的實驗包括3個步驟：分別是圖像預處理、計算梯度直方圖并進行池化處理并訓練模型，通過測試樣本對模型進行檢測。

(1)圖像預處理包括伽馬校正和灰度化。使用伽馬校正減少光度對實驗的影響。灰度化是將彩色圖片變成灰度圖，降低圖片處理的計算量。考慮到本實驗的筆跡均為黑白色，因此采用灰度圖來處理。筆跡圖片預處理后獲取外部紋理特征如圖2所示。

圖2 筆跡圖片預處理

(2)提取筆跡圖片的HOG特征值，再對HOG特征值矩陣進行平均值池化處理，最終得到筆跡圖片的HOG特征向量，如圖3所示。

圖3 筆跡圖片的HOG特征向量

(3)通過測試樣本對SVM模型的訓練結果進行驗證，如用仿冒的筆跡進行驗證，則系統判定出屬于仿冒的筆跡，且給出其屬于仿冒筆跡的相應的概率值。兩組數據分為訓練數據組和測試數據組，而測試數據組則是用來檢驗模型是否可以對筆跡進行鑒別。通過人工標注方式對數據進行標注：本人筆跡標記label為1，仿冒筆跡標記為0。

3 實驗結果

為了評估實驗訓練模型的有效性，本文采用數據集CEDAR的部分英文筆跡作為實驗對象進行鑒定。采用人工標注數據，真跡標簽值為1，仿冒標簽值為0。利用HOG特征值訓練的SVM模型鑒定筆跡的鑒別結果見表1。

表1 HOG筆跡特征模型驗證統計表

本實驗實現了仿冒筆跡的基本鑒別。總體的23個樣本中，有15個樣本被成功鑒別，識別成功率達65.21%。本實驗在較短時間內和較低的計算資源下基本鑒定了筆跡的真偽，在要求快速響應的機器學習應用場景下有一定的參考價值。

4 結束語

針對深度學習在訓練過程中資源要求過高的問題，本文提出了針對筆跡HOG特征值訓練SVM模型的方法，該模型可以對筆跡進行基本的鑒別，可以通過少數的樣本特征和較少的計算資源即可訓練出模型。但是，由于SVM在多分類場景時將耗費大量的計算資源和時間，本文提出的SVM算法不適用于多分類的場景。