主成分分析結合支持向量機輔助激光誘導擊穿光譜對塑料快速分類識別

劉俊安， 李嘉銘， 趙 楠， 馬瓊雄， 郭 亮， 張慶茂

華南師范大學信息光電子科技學院， 廣東省微納光子功能材料與器件重點實驗室， 廣東 廣州 510006

引 言

世界上最早的合成塑料誕生于1907年， 標志著全球塑料工業的開端。 截至2015年， 全球大約產生了6 300噸塑料垃圾， 其中只有約9%被回收， 12%被焚燒， 剩余的大部分進入環境當中。 如果不能對塑料進行分類回收再利用， 到2050年， 大約有1.2萬噸塑料廢物將被扔到垃圾填埋場或自然環境中[1]。 在塑料回收中有一個關鍵環節是塑料的分類， 目前多采用傳統的人力分類篩選或是經過復雜的化學工藝進行分選， 這些方法不但效率低下， 而且易對人體健康產生危害。 除此之外， 常見的分類方法還有紅外識別光譜[2-4]， 拉曼光譜[5]， X射線熒光光譜[6]等。 雖然這些技術在塑料分類方面有較高的識別精度， 但易受環境條件和材料表面附著物的影響， 處理工序繁雜， 成本較高， 不能滿足工業生產的需求。 激光誘導擊穿光譜(laser-induced breakdown spectroscopy， LIBS)技術是一種原子發射光譜分析技術， 能夠在不對樣品做任何處理的情況下， 采集光譜信息用于大多數樣品的分析， 靈活方便且具有快速檢測能力。 目前LIBS技術被廣泛應用于各個領域， 如生物醫療[7]， 環境污水檢測[8]， 食物元素含量鑒定[9]以及冶金工業[10]等領域。

近年來， 國內外有許多學者已成功將LIBS技術應用于塑料分類領域， 并取得顯著的效果， 主要包括： Myriam Boueri等[11]采用優化之后的人工神經網絡(artificial neural networks， ANN)算法， 將LIBS光譜作為ANN的輸入， 實現了對8種塑料制品的分類， 準確率在94%～100%之間； Banaee和Tavassoli等[12]利用CN， C2， N， Cl， O和H的譜線強度進行歸一化后作為判別函數分析(discriminant function analysis, DFA)的輸入。 結果表明， LIBS結合DFA對PET， HPDE等6種商用塑料可以實現99%以上的識別率； Yu等[13]提出了光譜權重調整結合激光誘導擊穿光譜， 通過提高O Ⅰ 777.41 nm, C—N(0, 0)和C—C(0, 0)譜線的強度， 使得原本識別率較低的四種塑料(PE， PP， PU和PC)都能被100%識別； Rajendhar Junjuri等[14]用偏最小二乘判別分析法對10種常見塑料進行分類， 總體分類精度達到了93.30%， 另外還通過選取C， H， N等元素的譜線強度(譜線利用率占全譜的7.3%)重新建模后， 獲得的分類準確度與全譜相當。 上述研究雖然都得到了很高的準確率， 但往往需要對原始數據做復雜的處理， 特別是分類準確度易受特征譜線選取的影響。 相較于其他算法， 支持向量機(support vector machines, SVM)是一種基于決策邊界實現樣本分類的機器學習算法， 特別適合用來解決復雜的中小型數據集的分類， 而且SVM算法能得到全局最優解， 訓練和預測過程也比較穩定， 但是易受輸入變量和噪聲的影響， 面對高維數據的分類普遍存在耗費時間長， 無法有效地去除噪聲帶來的影響等問題。 主成分分析(principal component analysis, PCA)是一種常用的數據降維方法。 降維后的數據代表了原始數據的大部分特征， 而且去除了大部分噪聲。 本文將PCA算法和SVM分類模型結合起來， 以實現又快又準地對塑料進行分類識別。

1 實驗部分

1.1 LIBS裝置

激光誘導擊穿光譜實驗裝置如圖1所示。 該系統主要由激光器、 數字延時脈沖觸發器(DG535)、 光譜儀和增強型電荷耦合器件(ICCD)探測器組成。 數字觸發器DG535會發出兩路脈沖信號用來觸發激光器和控制ICCD電子開關。 激光脈沖經過反射鏡后， 垂直穿過焦距為150 mm的聚焦透鏡， 到達樣品表面， 燒蝕樣品并激發等離子體。 此時產生的光譜由采集頭收集并通過光纖(長2 m， 芯徑50 μm)傳到光譜儀， 通過ICCD處理傳到計算機進行數據處理。 本實驗采用的是調Q開關的Nd∶YAG激光器， 輸出波長為1 064 nm。 所使用的光譜儀為ME 5000中階梯型光柵光譜儀， 其分辨率為λ/Δλ=5 000， 波長精度為0.05 nm， 光譜檢測范圍200～975 nm。 經過對部分樣品進行采樣分析后得到最佳的延遲時間為2.6 μs， 門寬對應于2 μs。 另外， 實驗樣品是放在一個可以進行三維移動的載物臺上。 采集光譜過程中將樣品的運動軌跡設置為“弓”形。 電腦的處理器為AMD Ryzen 5 2500U with Radeon Vega Mobile Gfx， 核心參數為14 nm工藝， 四核八線程， 基礎頻率為2.00 GHz， 加速頻率為3.6 GHz， 一級、 二級和三級緩存分別為384 kB, 2 MB和4 MB。 電腦內存大小為8.00 GB， 頻率為2 400 MHz。

圖1 LIBS實驗裝置圖

1.2 樣品

實驗樣品均為常用工業塑料樣品， 從塑料的分子式來劃分總共有11種， 分別是工程塑料(ABS)， 尼龍(PA)， 有機玻璃(PMMA)， 聚氯乙烯(PVC)， 聚碳酸酯(PC)， 聚乙烯(PE)， 聚苯乙烯(PS)， 聚甲醛(POM)， 聚氨酯(PU)， 聚四氟乙烯(PTFE)和聚丙烯(PP)。 這些塑料樣品在加工的過程中， 往往添加某些化合物以改善塑料的外觀和性能， 如增塑劑、 阻燃劑、 著色劑等。 本實驗采取的樣品中有一部分是同一類型但有不同顏色的工業塑料， 也將它們歸為不同類型， 所以本實驗總共有20種塑料樣品， 見表1。

表1 實驗樣品信息

2 結果與討論

2.1 光譜數據的采集與處理

總共采集了20種塑料的光譜， 每種塑料取100幅光譜圖像， 總共有2 000組數據。 樣品光譜范圍為200～980 nm， 共有25 745個輸入變量。 為降低光譜強度的波動， 所有譜線均除以C Ⅰ 247.86 nm譜線強度進行歸一化處理。 圖2所示為樣品PVC1的LIBS光譜強度經C線歸一化后的全譜圖。

圖2 樣品PVC1的LIBS光譜強度歸一化全譜圖

2.2 支持向量機結果分析

為了訓練支持向量機， 提前將原始數據集隨機分成訓練集和測試集， 并為每種塑料設置相應的標簽值。 我們將所有數據集打亂， 再從每種塑料光譜中隨機取出50組數據作為訓練集， 并將余下50組作為測試集用來評估分類器的效果。 將訓練集的1 000組光譜數據及它們的標簽值作為SVM的輸入， 參與訓練SVM模型， 另外的1 000組數據(不帶標簽值)輸入到訓練好的模型中去， 最后得到分類的平均準確度和每種塑料各自的識別準確率。

采用5折交叉驗證， 尋得最佳的參數C=2，g=0.001 953 125， 分類結果如圖3所示。 藍色的圓點代表樣品的實際標簽， 紅色的加號代表樣品的預測標簽， 當這兩種標簽相互重疊在一起時說明結果正確預測。 由圖可知， 1 000個測試集的樣品， 只有一個樣品被預測錯誤， 識別準確率達到99.90%。 這說明LIBS結合SVM算法對塑料分類識別具有良好的應用前景。

圖3 SVM算法對測試集樣品分類結果(1 000個樣品)

但是， 在進行參數優化過程中， 為了得到最佳參數， 訓練時長總共耗費1小時58分41.13秒， 1 000個測試數據集預測結果的輸出花了11.96 s。 雖然我們得到了很高的識別準確率， 但是為此付出了巨大的時間代價， 過長的訓練時間顯然不符合現實當中工業生產的要求。 為了能夠在保證高識別精度的情況下， 縮短SVM訓練的時間以及預測的時間， 我們提出了主成分分分析結合支持向量機模型對塑料進行分類識別。

2.3 主成分分析結合支持向量機算法結果分析

上述用SVM對塑料分類過程中， 是將全譜數據作為SVM的輸入， 每種塑料的光譜數據有25 000多個特征， 共有20種塑料樣品， 2 000組數據， 由此可知整個SVM訓練和預測過程將需要處理龐大的數據， 這造成了運算的時間成本上升， 導致處理速度降低， 這一點在進行參數搜索過程中表現明顯。 由于在進行全譜輸入過程中引入了大量不相關的數據， 浪費了程序運行的存儲空間， 同時也引入大量的背景噪聲， 致使分類識別的準確度可能會降低。

基于以上問題， 引入主成分分析法。 在訓練模型之前， 將2 000組數據進行降維處理， 得到前20個主成分的累計貢獻率圖4所示， 前兩個主成分的累計貢獻率已經達到97.13%， 能夠代表大部分原始數據的特征。 當主成分個數為13或更多時， 貢獻率的增加逐漸變得緩慢。

圖4 前20個主成分的累計貢獻率

為了能更直觀地看到不同數據間的重疊程度， 把第一主成分， 第二主成分以及第三主成分各自的貢獻率畫在三維空間中。 它們的空間的分布如圖5所示， 可以看到20種塑料間的區分度并不明顯， 彼此交疊在一起難以區分， 這說明用三個主成分并不能很好地實現分類。 我們需要要做更進一步的分析。

圖5 20種塑料光譜數據在前3個主成分中的散點圖

研究了在不同主成分下對應的分類識別準確率， 為盡可能減少樣本分類過程中的偶然性， 降低實驗誤差， 每個主成分對應的準確率均進行了10次訓練后再取平均的結果， 具體數值如圖6所示， 從圖中可以看到， 隨著所取得主成分個數的增加， 識別的準確度也逐漸增加， 并最后到達一個平臺期。 當主成分個數為13時， 采用10次訓練求平均的方法， 得到的平均識別準確度是99.80%。 選取主成分個數為13， 訓練得到時20種塑料的分類結果如圖7所示。 當實際標簽和預測標簽相互重疊時， 即說明樣品預測正確。 由圖可見， 1 000個光譜數據中只有兩個預測錯誤， 得到分類識別準確度為99.80%。 當主成分個數超過13后， 分類識別的準確度基本不再變化， 維持在99.90%以上。 由此可見， 經過PCA降維后， 去除了噪聲和大量不相關數據帶來的影響， 通過選取前幾個特征值作為SVM的輸入， 也能夠實現很高的分類精確度。

圖6 20種塑料光譜數據在不同維度下的平均識別準確率數

圖7 PCA-SVM算法對測試集樣品分類結果 (主成分個數為13)

為了分析實驗過程所用時間， 本文先是研究將原始數據降成不同維度所需時間， 如圖8所示。 PCA算法對數據的處理速度極快， 將原始數據降成13個維度也只需1.44 s。 雖然隨著主成分個數的增加， PCA算法處理數據的時間也會增加， 但增加速度緩慢， 即使主成分個數達到20， 花費時間也不會超過2秒。 這體現了PCA算法在數據快速處理領域的優勢。

圖8 PCA算法處理數據所需時間

接著進一步研究引入PCA算法后SVM分類器的效果。 將降維后的數據， 同樣使用網格搜索和5折交叉驗證的方法， 研究了在選取不同主成分個數的前提下， 相對應的模型訓練所需時間， 如圖9所示。 即使主成分個數已經取到20， 訓練所耗費的平均時間僅為13.45 s， 這跟上述單純用SVM訓練時長(1小時58分41.13秒)相比， 速度提高了非常多。 除了第一主成分的訓練時間波動較大外， 其他數量的主成分每次訓練所需時間大致相同， 每次的訓練過程均比較穩定。

圖9 20種塑料光譜數據在不同維度的平均建模時間

最后， 還研究了20種塑料光譜數據在不同維度下1 000個樣本的預測時間， 如圖10所示， 由于預測時間太短， 以至于預測時間在不同測試集間波動較大， 但是總體上1 000個樣本預測所需時間也不超過0.04 s。 與上一節提到的11.96 s相比， 優化后SVM的預測速度得到很大提高。

圖10 20種塑料光譜數據在不同維度下的平均預測時間

為了直觀比較兩種實驗方法在識別效率和識別精度上的區別， 選取主成分個數為13， 比較它們各自的識別時間和準確率， 如表2所示。 由表可知， 無論是實驗過程的總體時間， 還是訓練時間和預測時間， PCA算法結合SVM分類器的實驗方法在分類識別速度上優勢明顯， 即使其準確率有些許的降低， 但兩種方法的識別準確率仍處于同一水平上， 綜合來看， 結合PCA算法利用SVM分類更加符合工業生產的要求。

表2 當主成分個數為13時SVM和PCA+SVM 實驗結果比較

3 結 論

主成分分析結合支持向量機輔助激光誘導擊穿光譜對20種塑料進行快速識別， 取得了預期成果。 在用支持向量機算法對塑料進行建模分析中， 得到99.90%的識別準確度， 訓練時間長達1小時58分41.13秒， 預測時間為11.96 s， 整個實驗過程總共花費1小時58分53.09秒。 這說明SVM算法分類準確度很高， 但是需耗費大量時間。 為了優化SVM的訓練時間， 引入PCA算法對數據進行降維處理， 實現了分類識別準確率達到99.90%以上， 所需時間也在十幾秒內， 特別是當主成分個數為13時， 降維時間為1.44 s， 訓練時間也只需12.16 s， 相對應的預測時間為0.02 s左右， 從建立模型到輸出預測標簽所花時間也不超過12.18 s， 整個實驗過程總共花費13.62 s， 而識別精度達到了99.80%。

兼顧塑料分類識別的準確率和分類識別速度， 將PCA算法和SVM算法相結合， 為實現塑料高效率、 高準確度自動分類提供了一種有效的方法， 有望運用在工業生產中。