基于增量學習的X射線安檢系統檢測算法研究

田敏皓，陳 平

(中北大學 信息探測與處理山西省重點實驗室，山西 太原 030051)

X光安檢機是安檢過程中的關鍵設備. 長期以來安檢作業都是人工看圖識別，但有時會由于疲勞而造成漏檢誤檢問題. 為了解決此問題，將人工智能的深度學習算法應用于安檢系統，實現對圖像識別的智能化[1]. 深度學習模型復雜，對其優化需要龐大的數據量[2]. 乘客可能攜帶的危險物種類復雜，且不斷更新，難以一次性獲取全部訓練數據，致使依賴訓練數據集的智能安檢系統不能對新型危險物進行有效檢測. 同時，實際應用中安檢系統需保持較高的檢測效率，而對其重新訓練要耗費較長時間，于是需要一種模型隨訓練數據變化而不斷變化的目標檢測算法.

增量學習可以通過對新樣本的學習實現神經網絡權值的調整，并在已獲取知識的基礎上學習新知識，從而適應不斷變化的環境[3]. 利用所有危險物重新訓練模型會造成內存占用大、訓練時間長以及完全遺棄原模型的問題，而增量學習思想可以有效地解決以上問題. 現有增量學習算法中：Divvala等人用數據的固定表示實現增量學習[4]； Chen等人用所有收集的數據重新訓練模型以實現增量學習[5]. 二者都專注于不斷更新訓練數據集，但遺棄了在舊數據集上的訓練模型，并且訓練時間會隨著訓練樣本的增加而增加； 為解決以上問題，Ristin和Mensink等人通過固定的圖像表示來學習分類[6,7]，然而該方法將所有訓練樣本都進行了存儲； 為了使在一種分布數據上學習到的知識能遷移到另一個與之相關的數據分布上，Hinton等人提出了蒸餾(distillation)法，該方法無需存儲所有數據且節約了時間，但依然存在災難遺忘問題[8,9]； 于是Li 和Hoiem 在此基礎上將知識蒸餾用于機器視覺，并通過原始訓練數據的子集來保留網絡在舊類上的性能[10]； 此外也有通過其他方式進行知識蒸餾以實現增量學習的方法，比如采用新層來增強網絡的性能、參數正則化等，但是這些方法會導致網絡中要學習參數數目的急劇增加[11]. 以上增量學習算法都只對分類問題進行了研究. Shmelkov等人將增量學習應用于目標檢測器，解決了以上方法中遺棄原模型重新訓練以及不依賴舊數據的災難遺忘問題[12].

為使現有智能安檢系統將形態各異的危險物都檢測出來，本文研究了一種無災難遺忘的目標檢測增量學習算法. 通過對傳統目標檢測Faster rcnn網絡的修改與調整，構造了目標檢測增量網絡，并在該網絡中構造了一種新型損失函數. 利用安檢系統上新采集的4類數據在原始7類數據訓練好的模型基礎上對該算法進行了驗證.

1 目標檢測網絡及算法

1.1 傳統目標檢測網絡

目標檢測不同于圖像分類. 它不僅需要對目標進行分類，同時由于邊框回歸對于精確目標檢測很重要，于是也需要對目標的邊框進行回歸. 傳統基于深度學習的目標檢測算法中，Faster rcnn[13]是檢測精度較高且應用較為普遍的一種基于提議的算法，其算法框圖如圖 1 所示. 然而，正如圖 1 所示，該算法將用于生成區域提議的RPN網絡與檢測器整合到一個網絡中，且利用對RPN訓練生成的提議來訓練目標檢測器. 為使現有安檢系統將新舊危險物都檢測出來，需要用新舊安檢數據更新訓練集，并用其重新訓練Faster rcnn模型，但它遺棄了原訓練模型，且訓練時間隨訓練數據集的增加而增加. 該方法在實際應用中，不能在原模型基礎上繼續學習，即不具有增量學習能力，故無法適應數據集不斷變化的安檢系統場景.

圖 1 Faster rcnn算法框圖Fig.1 Framework of the algorithm of Faster rcnn

1.2 目標檢測增量學習網絡設計

為使目標檢測算法能適用于數據集不斷變化的安檢系統場景，并解決增量學習中利用傳統網絡不使用舊類數據會造成對舊類的遺忘，及使用新舊類數據重新訓練模型效率低的問題，本文設計了一種基于CNN模型的目標檢測增量學習網絡，如圖 2 所示. 在該網絡中對傳統目標檢測網絡Faster rcnn進行了修改. 首先，由于目標檢測算法中邊框回歸對于準確檢測目標具有重要意義，于是目標檢測的增量學習不僅要實現目標所屬類別的增量，而且要對邊框回歸也進行增量. 傳統目標檢測Faster rcnn中RPN網絡生成的提議與類別信息是相關的，不利于對邊框的提取與增量. 于是本文利用Edge boxes算法對圖像生成2 000個預計算好的目標提議，該算法生成的目標提議不依賴目標類別、無需訓練且速度較快[14]. 然后，將特征提取換為速度更快、精度更高的ResNet-50，并在conv5_1層之前加入ROI池化層，最后用兩個兄弟全連接層代替最終的分類層，最終形成本文目標檢測的基網絡. 該基網絡的設計解決了對邊框回歸增量過程中，算法生成提議依賴目標類別的問題，有利于在其基礎上實現目標檢測的增量學習，并且加快了目標檢測速度.

圖 2 網絡整體框架Fig.2 Overall network architecture

圖 2 中，網絡A是目標檢測基網絡，主要針對舊類危險物的訓練； 網絡B是目標檢測增量網絡，其網絡結構在A網絡的最后全連接輸出層增加了新類別危險物的目標分類與邊框回歸神經元，該增量設計確保了增量網絡B對新舊類別危險物的檢測能力. 在增量學習訓練過程中，首先凍結基網絡A的權值，增量網絡B的權重初始化復制了對舊類危險物有檢測能力的網絡A的權值，為保證將網絡A對舊類別危險物的檢測能力遷移到網絡B中，本文引入了蒸餾損失. 該增量網絡及算法的設計實現了在訓練B網絡時只使用新類數據，提高了訓練效率.

1.3 目標檢測增量學習損失函數設計

以上目標檢測增量學習網絡核心部分為增量學習損失函數的設計，其將蒸餾損失與標準交叉熵損失相結合作為新型損失函數. 具體公式為

L=Lrcnn+λLdist,(1)

式中：Ldist為蒸餾損失；Lrcnn為標準交叉熵損失；λ為平衡兩損失的超參數.

Ldist(yA,tA,yB,tB)=1/(N|CA|)·

式中：N是提取感興趣區域樣本的數目(本文采用的個數是64)； |CA|是舊類的數目，求和表示對舊類在所有感興趣區域上進行求和.

此外，對于目標中新類的計算，算法生成提議經網絡B在向前傳播的過程中，對得分比較高的依據邊框回歸算法進行微調，然后在每類上進行非極大值抑制(NMS)以獲得最終檢測結果 . 該過程相應的損失函數為

Lrcnn(p,k*,t,t*)=

-logpk*+[k*≥1]R(t-t*),(3)

式中：p是網絡對于所有類分類響應的集合；k*是真實類別；t是邊框微調層的輸出；t*是真實邊框提議.

2 實驗及結果分析

本實驗利用安檢系統獲取了包含11類待檢測目標的數據集，其中一類是對于刀具中刀刃的標識即刀尖(DJ)，剩余10類檢測目標的實物數據如圖 3 所示. 該數據集既包括了訓練原網絡的7類數據，又包括了需新增的4類數據(SQ(手槍)、XGD(西瓜刀)、YSD(鑰匙刀)、ZHD(組合刀)) ，這些新增類在訓練A的過程中沒有出現或者至少在原始圖像中沒有進行標注. 整個數據集中用于訓練驗證(trainval)和測試的圖片各301張.

圖 3 目標數據集Fig.3 The data of objects

本文利用該數據在具有NVIDIA Geforce GTX 1080顯卡的計算機上進行了實驗，目的是使網絡能將新增的4類目標也檢測出來. 用原始7類訓練A時學習率為0.001，動量值為0.9. 用新增類訓練網絡B的過程為：在原始7類基礎上用新增的一類訓練網絡B，之后將所得網絡凍結，并在該網絡基礎上繼續新增一類，以此類推，直到將所有4種新類全部增加完. 在訓練網絡B的過程中，由于新增類數據量太小，會出現損失不收斂的問題，于是學習率設為0.000 01.

圖 4(a)為安檢系統測試圖像中的原圖，圖4(b)為用原始7類訓練后網絡在該測試圖像上的結果，即增量前網絡的檢測結果，圖4(c)為在原始7類訓練好網絡基礎上利用本文算法依次增加4類數據后所得網絡在測試圖上的檢測結果，即增量后網絡的檢測結果. 其中RSD，MGD為參與訓練的兩類，YSD，ZHD為新增的兩類. 由結果可知：原始7類訓練的網絡在參與訓練類別上獲得1.00的檢測精度，但對新類不能有效檢測，而本文算法不僅能將新類目標以大于0.9的精度檢測出來，而且保留了網絡在舊類上1.00的檢測精度.

圖 4 原圖與增量前后網絡在新舊類上的檢測結果Fig.4 The original images and test results before and after increment in new and old

圖 5 中SQ，XGD，YSD，ZHD為新增類. 圖5(a)為增量前網絡在新增4類后的檢測結果，圖 5(b)～圖5(e)為在原始7類網絡基礎上依次新增SQ類、XGD類、YSD類、ZHD類訓練網絡的檢測結果. 由圖 5 可知：只用原始7類訓練的網絡不能對新增類進行有效檢測，而本文算法能將新增類的目標檢測出來，并且都有大于0.95的檢測精度.

圖 5 增量前網絡及依次增加4類數據所得網絡的檢測結果Fig.5 Detect results before Increment and after sequential increase for four types

利用本文算法在原網絡基礎上依次新增4類數據后的網絡在原始類及新增類上的檢測結果以及用所有類聯合訓練網絡在新舊類上的檢測結果如圖 6 所示.

圖 6 增量后網絡及聯合訓練網絡在原始類及 新增兩類后的檢測結果Fig.6 Test results after the joint training of all classes

圖6(a)為增量后網絡的檢測結果，圖6(b)為聯合訓練網絡的檢測結果，其中SQ，ZHD為新增的兩類. 由圖6可得本文算法在新舊類上都取得了與用所有類聯合訓練所得網絡相近的結果，即在舊類上保持了1.00的檢測精度，在新類上取得很接近1.00的檢測精度，說明本文算法對于改進安檢機的性能是有效的.

本實驗也用均值平均精度對網絡進行了評估，結果如表 1 所示. 表 1 顯示了不同設置下網絡在安檢系統測試數據集上的均值平均精度. 由表1可見：本文算法相比聯合訓練所得網絡在整體性能上略有下降，但其仍能保持網絡在舊類上的性能，并且可以對新類進行有效的學習.

表 1 不同設置下的均值平均精度

表 2 為訓練原始7類、用本文算法依次用新增類進行訓練、一次性用所有4類新增數據進行訓練以及對所有11類聯合訓練所需時間. 由表2可知：本文算法在依次添加1類，即新增類較少時，極大地縮短了訓練時間，提高了訓練效率，并且該情況在實際中更加具有實用性. 此外，本文算法在新增類較少時比用所有11類數據聯合訓練所用時間短，也說明本文算法可以提高訓練效率. 另外，本文算法在新類上性能的下降可能是由于增量網絡只在包含新類的幾百張圖上進行了訓練，新類分類器沒有獲得足夠的信息，未來的工作是通過增加新類樣本來解決該問題.

表 2 依次增加一類訓練網絡時間

3 結束語

為使現有智能安檢系統能對新出現的異種危險物進行有效檢測，并且避免重新訓練網絡的問題，本文研究了一種基于目標檢測的增量學習算法，該算法通過構建目標檢測增量學習網絡以及設計新的損失函數，使現有安檢系統在利用原模型及新數據完善性能時不產生災難遺忘問題. 實驗結果表明：該算法保持網絡舊類檢測性能的同時在新類上也獲得了大于0.9的檢測精度. 同時該算法相比用新舊數據重新訓練網絡，提高了訓練效率.