KNN 分類器在新疆維吾爾藥材圖像分類中的應用

KNN分類器在新疆維吾爾藥材圖像分類中的應用

木拉提·哈米提1, 張歲霞1，嚴傳波1, 阿布都艾尼·庫吐魯克1, 孫靜1,

艾賽提·買提木沙2, 員偉康1， 楊芳1， 伊利扎提·阿力甫1， 孔喜梅1

(新疆醫科大學1醫學工程技術學院；2公共衛生學院， 烏魯木齊830011)

摘要：目的探討K近鄰結點算法(k-Nearest Neighbor algorithm，KNN)分類器在新疆維吾爾藥材圖像分類中的應用。方法采用KNN分類器對新疆維吾爾藥材圖像的灰度-梯度共生矩陣特征和Tamura紋理特征進行判別分類。選取訓練樣本為80、100、120的3個訓練集，訓練并得到最優K值，并分別在測試樣本為120、100、80的3個測試集中驗證結果。結果K值越小(3~13)，KNN分類器對葉類圖像分類準確率越高；K值越大(63~71)，KNN分類器對花類圖像分類準確率越高。當K值取3~13時，120、100、80的3個測試集中葉類圖像的平均分類準確率分別為94.72%、89.45%、82.61%；K值取63~79時，120、100、80的3個測試集中花類圖像的平均分類準確率分別為74.71%、72.79%、76.55%。結論KNN分類器可為新疆維吾爾藥材圖像類型判斷提供一定的依據，為新疆維吾爾藥材圖像檢索系統的檢索精度的提升奠定了基礎。

關鍵詞：KNN分類器； 灰度-共生矩陣； Tamura紋理特征； 圖像分類

中圖分類號：R318.04文獻標識碼：A

doi:10.3969/j.issn.1009-5551.2015.07.001

[收稿日期：2015-04-19]

基金項目：國家自然科學基金(81160182，81460281，61201125)； 江西民族傳統藥協同創新項目(JXXT201401001-2)； 留學人員科技活動擇優資助項目(2013-277)

作者簡介：嚴傳波(1970-)，男，本科，副教授，研究方向：數據庫應用、圖像處理。

Classification of Xinjiang Uygur medicine image based on KNN Classifier

Hamit Murat1, ZHANG Suixia1,YAN Chuanbo1, Abdugheni Kutluk1, SUN Jing1, Asat Matmusa2,

YUAN Weikang1, YANG Fang1, Elzat Alip1, KONG Ximei1

(1CollegeofMedicalEngineeringTechnology;2CollegeofPublicHealth,

XinjiangMedicalUniversity,Urumqi830011,China)

Abstract:ObjectiveTo investigate the classification capability dealing with Xinjiang Uygur medicine by means of k-Nearest Neighbor algorithm (KNN)classifier. MethodsMatlab was used to preprocess and extract features based on gray gradient co-occurrence matrix and Tamura texture features. KNN classifier was used to classify image features. We selected training samples of 80, 100, 120 as train sets, trained and got optimal k value, then tested results in three test samples of 120, 100, 80. ResultsThe smaller the k value (3-13) was the higher accuracy KNN classifier on the leaf image classification. The average accuracy rate in three test samples reached 94.72%, 89.45% and 82.61% respectively. The larger k value (63-71) was the higher accuracy KNN classifier on the flower image classification. The average accuracy rate in three test samples reached 74.71%, 72.79% and 76.55% respectively. ConclusionThe data show that when adopting mixed texture combined with the KNN classifier, the classification ability can be improved and provide a certain basis for judgment of Xinjiang Uygur medicine types. This laid the foundation for improvement of accuracy of Xinjiang Uygur medicine image retrieval system.

Key words: KNN Classifier; gray gradient co-occurrence matrix; tamura texture features; image classification

維吾爾醫藥是維吾爾族人民在長期的醫療實踐中，通過不斷積累和總結防病治病經驗，集阿拉伯醫藥、古希臘醫藥之長，在中醫學的影響下，逐漸形成的有系統的醫學理論、完整的醫療方法、豐富的藥材資源及單驗方制劑的醫學體系[1]。據初步統計，維吾爾藥材現有1 100多種，其中植物藥1 000多種，礦物藥80多種，動物藥50多種；國產的有1 000多種，新疆產的有100多種，進口藥60多種。K近鄰結點算法(KNN)分類是一種簡單、有效、非參數的方法，現已廣泛應用于文本分類、模式識別、圖像及空間分類等領域[2]。本研究將KNN分類算法應用于新疆維吾爾藥材的分類中，根據新疆維吾爾藥材圖像在紋理和灰度上的差異，使用灰度-梯度共生矩陣法和Tamura紋理特征法提取混合紋理特征，并且通過KNN分類器對特征值進行判別分類，通過調節K值來提高不同類型圖像的分類準確率，旨在探討KNN分類器在新疆維吾爾藥材圖像分類中的應用。

1新疆維吾爾藥材圖像預處理

采用圖像預處理模塊,首先對采集到的新疆維吾爾藥材圖片進行灰度歸一，將RGB模式的圖片轉換為GRAY模式，再利用中值濾波和直方圖均衡化對食管癌X線醫學圖像進行去噪和增強，從而得到更清晰的灰度圖像。選取花類圖像亞麻和葉類圖像銀杏圖像預處理結果作為示例，其圖像預處理結果見圖1、2，其中a為尺寸歸一化后的圖像，將獲取的大小不等的圖像規定為200 400像素；b為經過灰度化后的維吾爾藥材圖像，將圖像從RGB模式轉換到GRAY模式[3]；c為中值濾波去噪后的圖像，在不減小圖像對比度的情況下減小異常值的影響；d為經過有限對比度自適應直方圖均衡化后的藥材圖像，抑制圖像的某些特征而使另一些特征得到增強[3]。

a　　　　　　　　　　　b　　　　　　　　　　　c　　　　　　　　　　　d

圖1新疆維吾爾藥材亞麻圖像預處理結果

a　　　　　　　　　　　b　　　　　　　　　　　c　　　　　　　　　　　d

圖2新疆維吾爾藥材銀杏圖像預處理結果

2混合紋理特征提取

2.1基于灰度-梯度共生矩陣的特征提取灰度-梯度共生矩陣紋理分析方法是用灰度和梯度的綜合信息提取紋理特征，其考慮像素灰度與邊緣梯度的聯合統計分布。要獲得圖像的梯度信息，就必須用一種微分算子來與圖像進行卷積運算，檢測出圖像領域灰度相差較大的部分，因而產生了基于灰度-梯度共生矩陣的圖像紋理特征提取的方法[4-6]。灰度-梯度共生矩陣能夠使圖像內各像素灰度與梯度的分布規律得到很清楚地描述，同時也使圖像中各像素點與其領域像素點之間的空間關系得到很好地反映，因此它能很好地描繪圖像的紋理。

本研究提取新疆維吾爾藥材圖像的灰度-梯度共生矩陣：小梯度優勢(T1)、大梯度優(T2)、灰度的不均勻性分布(T3)、梯度的不均勻性分布(T4)、能量(T5)、灰度平均(T6)、梯度平均(T7)、灰度均方差(T8)、梯度均方差(T9)、相關(T10)、灰度熵(T11)、梯度熵(T12)、混合熵(T13)、慣性(T14)、逆差距(T15)共15個特征值。

2.2基于Tamura紋理的特征提取在人類對紋理的視覺感知的研究基礎上，Tamura等于1978年提出了一種紋理特征的表達[7-8]，Tamura紋理特征的6個分量對應于心理學角度上紋理特征的6種屬性，分別是粗糙度(coarseness)、方向度(contrast)、方向性(directionality)、線性度(linelikeness)、規整度(regularity)、粗略度(roughness)。Tamura紋理特征是紋理分析中經典算法，文獻[9-10]詳細介紹了該算法的原理。本研究利用MATLAB對Tamura紋理特征進行編程，并應用于新疆維吾爾藥材圖像，提取維藥圖像的粗糙度(H1)、對比度(H2)、方向度(H3)、線性度(H4)、規整度(H5)5個分量作為特征向量。

2.3基于混合紋理特征的提取結果本研究對維吾爾藥材圖像進行分類，隨機抽取新疆維吾爾藥材圖像200張，其中花類藥材圖像100張，葉類藥材圖像100張。對新疆維吾爾藥材圖像的花類圖像和葉類圖像，提取圖像基于灰度-梯度共生矩陣和Tamura紋理的混合紋理特征：T1、T2、T3、T4、T5、T6、T7、T8、T9、T10、T11、T12、T13、T14、T15、H1、H2、H3、H4、H5共20個特征值，組成了新疆維吾爾藥材圖像的的特征向量。新疆維吾爾藥材花類圖像和葉類圖像的混合紋理特征提取結果見表1。

表1　新疆維吾爾藥材圖像花類和葉類圖像混合紋理特征

3KNN分類算法

近鄰法(Nearest Neighbor algorithm,NN)是模式識別非參數法中最重要的方法之一，NN的一個很大特點是將各類中全部樣本點都作為“代表點”。1NN是將所有訓練樣本都作為代表點，因此在分類時需要計算待識別樣本到所有訓練樣本的距離，結果就是與最近的訓練樣本所屬于的類別，KNN是1NN的推廣，即分類時選出的一個最近鄰，看這個近鄰中的多數屬于哪一類，就把分到哪一類[11]。圖3為KNN算法原理展示圖，圖3a為KNN算法將總樣本分為兩部分，一部分作為訓練集，其余部分作為測試集[12-13]。圖3b為KNN算法分類示例：圖中黑色圓點為未知的數據點，白色圓點為已知類別的數據集，基于歐幾里得定理，利用降序排序，刪選出離黑色圓點(未知數據點)最近的3個白色圓點(已知類型的數據點)。示例中為4個點，此時未知的數據點被分為a類。

圖3　KNN算法原理圖

3.1KNN分類器訓練集分類過程本研究利用MATLAB R2013a 對KNN分類器進行編輯。提取新疆維吾爾藥材圖像的梯度-灰度共生矩陣和Tamura紋理的混合紋理特征(共20特征向量)。將KNN分類器應用于新疆維吾爾藥材圖像的分類，隨機抽取新疆維吾爾藥材圖像200張，其中花類藥材圖像100張，葉類藥材圖像100張。將樣本按4∶6、5∶5和6∶4選取訓練集和測試集。選3個不同大小的訓練集80、100、120，分別作為訓練數據集，余下的樣本120、100、80分別作為3個測試集數據。在訓練過程中，當取不同K值時，得到不同分類準確率，根據分類準確率來確定最優K值。

第1個訓練集為80張藥材圖片，其中花類圖像訓練樣本為40張，葉類圖像訓練樣本為40張。圖4為在此訓練集下，K取3~71時，花類和葉類圖像分類準確率的折線圖。根據折線圖的變化趨勢，將花類和葉類圖像分類準確率，分為幾個區間，并計算出該區間內花類圖像和葉類圖像的平均、最大、最小分類準確率。由圖5可以得到：當訓練集為80時，根據花類和葉類圖像的分類準確率對比可以得到當K值越小(3～19)，葉類圖像分類準確率越高，平均分類準確率達78.93%。K值越大(63～71)時，花類圖像分類準確率越高，平均分類準確率達75.35%。

圖4　訓練集為80時的分類準確率

第2個訓練集為100張草藥圖片，其中花類圖像訓練樣本為50張，葉類圖像訓練樣本為50張。圖6為在此訓練集下，K取3~71時，花類和葉類圖像分類準確率的折線圖。根據折線圖變化趨勢，將花類和葉類圖像分類準確率，分為幾個區間，并計算出該區間內花類圖像和葉類圖像的平均、最大、最小分類準確率。由圖7可以得到：當訓練集為100時，根據花類和葉類圖像的分類準確率對比可以得到當K值越小(3～13)，葉類圖像分類準確率越高，平均分類準確率達84.90%。K值越大(61～71)時，花類圖像分類準確率越高，平均分類準確率達73.68%。

a

b

圖6　訓練集為100時的分類準確率

第3個訓練集為120張草藥圖片，其中花類圖像訓練樣本為60張，葉類圖像訓練樣本為60張。圖8為在此訓練集下，K取3~71時，花類和葉類圖像分類準確率的折線圖。根據折線圖變化趨勢，將花類和葉類圖像分類準確率，分為幾個區間，并計算出該區間內花類圖像和葉類圖像的平均、最大、最小分類準確率。由圖9結果可以得到：當訓練集為120時，同前2個訓練集，花類和葉類圖像的分類準確率對比可以得到當K值越小(3～19)，葉類圖像分類準確率越高，平均分類準確率達95.78%。K值越大(57～71)時，花類圖像分類準確率越高，平均分類準確率達82.57%。

a

b

3.2KNN分類器測試集分類結果綜合樣本量為80、100、120的3個訓練集的訓練結果(最優K值區間取交集)，可以得出：當K值越小(3～13)，KNN分類器對葉類圖像分類準確率越高；當K值越大(63～71)，KNN分類器對花類圖像分類準確率越高。選取樣本量為120、100、80的3個測試集分別對訓練結果做驗證。當K值取3～13時，120、100、80的3個測試集中葉類圖像的平均分類準確率分別為94.72%、89.45%、82、61；K值取63～79時，120、100、80的3個測試集中花類圖像的平均分類準確率分別為74.71%、72.79%、76.55%，結果見表2、3。

表2　K取3～13不同測試集花類圖像的分類準確率/%

表3　K取63～71不同測試集葉類圖像的分類準確率/%

圖8　訓練集為120時的分類準確率

a b

4結論

根據新疆維吾爾藥材圖像在紋理和灰度上的差異，使用灰度-梯度共生矩陣和Tamura紋理特征提取混合紋理特征，并且通過KNN分類器對特征值進行判別分類。由實驗結果可以看出，根據待測樣本圖片類型，可以通過調節K值從而達到理想的分類準確率。本研究根據KNN分類器選取的3個訓練集，訓練結果顯示：當K值越小(3～13)，KNN分類器對葉類圖像分類準確率越高；當K值越大(63～71)，KNN分類器對花類圖像分類準確率越高，同時3個測試集的測試結果也驗證了該結論的正確性。在樣本量為120、100、80的3個測試集測試結果中，還可以得出另一個結論：當樣本量越大時，花類圖像的分類準確率越高，而葉類圖像分類并非如此。在后期研究中，用KNN分類器分類新疆維吾爾藥材圖像的過程中，將增大樣本量和訓練次數，來獲得更精確的分類趨勢。通過本研究結果可以看出，KNN分類器為新疆維吾爾藥材圖像類型判斷提供一定的依據,為新疆維吾爾藥材圖像檢索系統的檢索精度的提升奠定了基礎。

參考文獻：

[1]黃秀蘭,周秋蘭.維吾爾醫藥發展現狀及存在問題分析[J].中央民族大學學報:自然科學版,2007,16(3):223-228.

[2]張曉輝, 李瑩, 王華勇，等. 應用特征聚合進行中文文本分類的改進的KNN算法[J].東北大學學報:自然科學版,2003, 24(3):229-232.

[3]Mir AH, Hanmandlu M, Tandon SN.Texture analysis of CT images[J].IEEE Eng Med Biol, 1995, 14(6):781-786.

[4]張逵,朱大奇.基于D.S證據理論的信息融合圖像識別[J].上海海事大學學報,2012, 33(3):81-86.

[5]張弘,范九倫.灰度一梯度共生矩陣模型的加權條件熵閾值法[J].計算機工程與應用, 2010, 46(6):10-14.

[6]周德龍,申石磊,蒲小勃,等.基于灰度-梯度共生矩陣模型的最大熵閾值處理算法[J].小型微型計算機系統,2002, 23(2):135-138.

[7]張松林.基于紋理特征圖像檢索方法研究[D].重慶大學,2010.

[8]楊秀娟.基于紋理特征的圖像檢索研究[D].西安科技大學,2009.

[9]景軍鋒,張媛媛,李鵬飛,等.LBP和Tamura紋理特征方法融合的織物疵點分類算法[J].計算機工程與應用,2012,48(23):155-160.

[10]孫勁光,尹達,張華偉.基于顏色和紋理特征的圖像檢索技術研究[J].河北工業大學學報, 2008,37(6):23-30.

[11]李蓉,葉世偉,史忠植.SVM-KNN分類器一種提高SVM分類精度的新方法[J].電子學報,2002,30(5):745-748.

[12]Li GH, Fan P, Yuan L. Continuous K-Nearest neighbor processing based on speed and direction of moving objects in a road network[J].Telecommun Syst,2014 ,55(3):403-419.

[13]Ahmet A, Gong DH, Kahveci T. Network-based prediction of cancer under genetic storm[J]. Cancer Inform,2014,13(3):14-31.

(本文編輯施洋)

通信作者：木拉提·哈米提，男(維吾爾族)，教授，碩士生導師，研究方向：醫學圖像處理及生物醫學信號分析，E-mail:murat.h@163.com。