基于數據關聯表征的工業零件檢測

摘 要：為實現自動化工業生產中零件的自動識別，對深度殘差網絡的殘差結構進行改進。將儲備池模塊應用到殘差網絡的殘差連接結構中，使得輸入數據的各個區域互相關聯后重新進行表征。將提出的模型在工業零件數據集以及公開數據集上與其他深度學習模型進行比較。結果表明：在工業零件數據集上提出的具有數據關聯表征的殘差網絡ResNet18-RC比ResNet18提高了0.17%，且均比其他模型的識別率高。在CIFAR-10、CIFAR-100、Tiny-ImageNet等公開數據集上，具有數據關聯表征的殘差網絡ResNet50-RC分別比ResNet50提高了0.35、0.62、0.54、1.31個百分點的精度，具有很好的圖像檢測性能。

關鍵詞：圖像識別；殘差神經網絡；儲備池計算；數據關聯表征；工業零件

中圖分類號：TP391.41" 文獻標志碼：A" 文章編號：1671-5276（2024）05-0191-04

Industrial Parts Detection Based on Data Correlation Representation

Abstract：For the realization of automatic identification of industrial parts in automated industrial production， the residual structure of deep residual network is upgraded. The reservoir module is applied to the residual connection structure of the residual network so that each area of the input data can be represented after being correlated with each other. The proposed model is compared with other deep learning models on industrial parts dataset and public dataset. The experimental results show that the proposed residual network with data correlation representation Resnet18-RC is 0.17%， better than ResNet18 on the industrial parts dataset， and the recognition accuracy is higher than other models. The public dataset like CIFAR-10， CIFAR-100 and Tiny-Imagined indicates that the residual network Resnet50-RC is respectively 0.35， 0.62， 0.54， 1.31 per cent， higher than ResNet50 in terms of accuracy， and has good image recognition performanc.

Keywords：image recognition；residual neural network；reservoir computing；data correlation representation；industrial parts

0 引言

近年來，隨著人工智能技術的發展，自動化的生產車間已經越來越普遍。因此，對于如螺絲、螺母等零件的正確識別非常重要。近年來有人通過GAPSO-SVM方法進行鈑金零件圖像識別［1］。機器錯誤地識別和抓取零件可能會造成難以估量的損失。為了解決這個問題，通過先進的圖像識別模型算法來完成對零件的正確選擇尤為重要。

圖片分類算法的研究一直是最近幾年來的熱點，期間許多性能強悍的模型不斷涌現。比如在2012年的ILSVRC［2］分類挑戰大賽中，基于卷積結構的深度網絡AlexNet［3-4］取得了很好的成績。除此之外，VGG［5］網絡模型的top-5準確率也達到了93.2%。而ResNet［6］通過殘差學習的方式，解決了CNN深度很深時性能退化的問題，提高了網絡的可擴展深度，并在ILSVRC中達到了很高的分類準確率。

在圖像識別的算法中，卷積模塊、殘差結構以及注意力機制［7］等模塊互相組合，有效提取圖像特征。除了這些經典的深度神經網絡模塊，其他的一些機制或許可以被利用。近年來，一種新的機器學習范式—儲備池計算（reservoir computing， RC）［8］，開始被廣泛地使用和研究，儲備池也在語音識別等一些工程領域有很好的效果。

本文對殘差神經網絡的殘差結構進行改進。通過將處于混沌邊緣狀態的儲備池模塊［9-11］應用在殘差神經網絡的殘差層中，提出了具有數據關聯表征殘差結構的殘差神經網絡模型。在工業零件數據集上，改進ResNet18模型，并對相關的圖像識別模型進行訓練并對比驗證。除此之外，為驗證提出的方法在圖像識別模型的有效性，本文在ResNet50的殘差網絡基礎上進行改進，在CIFAR-10，CIFAR-100［12］， Tiny-ImageNet［13］等圖像數據集上與其他網絡模型進行對比實驗，充分驗證了本文所提出的模型對于正確物體圖像識別的可能性。

1 模型與方法

1.1 殘差連接的改進

殘差連接是當前深度神經網絡的最重要結構之一，它保證了人工神經網絡能夠往更深的深度發展，并使網絡更好地收斂。圖1展示了ResNet18網絡中殘差連接的方式以及對殘差連接結構的改進。圖1（a）表示普通的殘差連接結構，輸入經過卷積層后通道數改變，輸出與輸入直接相加前，原輸入需要卷積成與輸出相同的通道數；圖1（b）的結構表示對殘差結構的改進，在殘差連接中加入了儲備池模塊。

1.2 儲備池模塊

儲備池計算由輸入層、儲備池以及讀出層3部分構成。儲備池的基本結構如圖2所示，其中Win表示輸入權重，在［0，1］的范圍內隨機均勻采樣。處于中間層的儲備池，是一個RNN網絡，內部具有循環連接權重Wres，神經元之間稀疏連接，其中xi表示神經元i的值。在儲備池中，Win和Wres均不訓練，在初始化后保持固定不變。Wout表示讀出權重，它將儲備池和讀出層連接起來。

儲備池內部的神經元狀態更新方式如式（1）所示。

x（n+1）=（1-α）x（n）+αtanh［Wresx（n）+Winxin（n+1）］（1）

式中：x（n）是第n時刻儲備池神經元電壓組成的狀態列向量；α表示神經元的泄露率，在［0，1］區間內取值；tanh是非線性激活函數。

1.3 數據關聯表征殘差連接

本文將普通的殘差連接更改為具有儲備池模塊的數據關聯表征殘差連接結構，如圖1所示。

在殘差連接的卷積層之前，加入了儲備池模塊。首先將輸入數據按照區域分為一個個的小塊，每一個小塊按照從左到右、從上到下的順序依次進行拉平，在某個時刻輸入給儲備池，每個時刻只輸入一個小圖片塊。小圖片塊輸入給儲備池后，網絡在混沌邊緣的狀態下，將不同部分的小數據塊互相關聯起來，相當于一個全局的注意力操作，數據被表征出了更多的特征，變為了高維的網絡狀態。隨后網絡狀態經過一個線形層讀出信息后再進行一個相反的操作，把網絡狀態變為輸入的原始形狀。圖片分塊輸入給儲備池的過程如圖3所示。

2 實驗

2.1 數據集

為了提高模型在對于工業零件識別的準確率和有效性，首先從公開數據集中選取了螺栓（bolt）、定位銷（locatingpin）、螺母（nut）、墊片（washer） 等。除此之外，為了驗證提出的模型在多物體數據集上的物體識別能力和泛化能力，本文還在CIFAR-10、CIFAR-100、Tiny-ImageNet、FLOWER數據集上與其他的網絡模型進行了比較。

2.2 實驗環境和參數設置

本文實驗基于Pytorch框架，在NVIDIA V100上完成網絡的訓練和測試過程。實驗使用SGD優化器，采用0.01的學習率，學習率隨著實驗過程逐漸減小，優化器中的參數weight-decay設置為1×10-4。損失函數選擇了交叉熵損失CrossEntropyLoss。儲備池的特征值譜半徑設置為1，儲備池神經元數目設置為1 000。

2.3 工業零件分類實驗結果

本文根據2.2節中的實驗環境和參數設置，在工業零件圖片數據集上進行了圖片識別驗證。對ResNet18的殘差網絡模型進行改進，在殘差結構中加入1.3節所示的數據關聯表征，提出了ResNet18-RC模型。該模型與其他模型在此工業零件數據集上的比較如表1所示。ResNet18-RC達到了99.67%的準確率，能夠準確地識別4種工業零件的圖片。由表1可知，ResNet18-RC與ResNext、VGG16、DenseNet和ResNet18等模型相比，具有更高的模型識別準確率。

在此實驗中，隨機選擇一些圖片進行測試，模型分類零件的熱力圖如圖4所示。圖4表明提出的數據關聯殘差結構模型能夠觀察到各類不同零件上的關鍵特征。

2.4 公開數據集分類實驗結果

為了進一步驗證本文提出的數據關聯表征殘差結構在模型上的效果，接下來在公開數據集上驗證模型的識別準確率。本文繼續使用2.2節中的實驗環境和參數設置，在比ResNet18深度更深的殘差神經網絡ResNet50上對殘差結構進行改進，提出了ResNet50-RC模型，在公開數據集CIFAR-10、CIFAR-100、Tiny-ImageNet以及FLOWER上與其他模型VGG16、ResNext、DenseNet以及ResNet50進行比較，在測試集中計算。實驗結果如表2所示。

如表2所示，無論是在CIFAR-10、CIFAR-100還是在Tiny-ImageNet數據集上，所提出的具有數據關聯表征殘差結構的模型ResNet50-RC和其他模型相比，均有更好地準確率。從表2中可以看出，ResNet50-RC模型在CIFAR-10、CIFAR-100、Tiny-ImageNet以及FLOWER數據集上的準確率比ResNet50模型分別高了0.35、0.62、0.54、1.31個百分點。

表1和表2都表明：提出的具有數據關聯表征殘差結構在圖片識別上能夠提高網絡的準確率，無論是在機械零件數據集，還是在公開數據集上，具有數據關聯表征殘差連接的網絡均有很好的效果。

最后在CIFAR-10數據集上，對ResNet50-RC模型在不同的Stage上加入數據關聯表征殘差連接進行了消融實驗，結果如表3所示。表3表明，在第3、第4個stage改進殘差連接的模型分類準確率越高。

3 結語

在自動化工業組裝生產中，提高機械零件的識別率是降低生產事故、減少損失的關鍵之一。通過在殘差神經網絡的殘差結構中引入儲備池模塊，對殘差輸入進行數據關聯表征，實現了全局注意力的操作，增加了數據的特征，提高了網絡識別圖像的準確率。實驗結果表明：深度殘差網絡結合基于儲備池的數據關聯表征殘差連接，能夠實現更高的圖像識別準確率，無論是在工業機械零件數據集還是在公開數據集中都有一定的提升。

參考文獻：

［1］ 方舟，程筱勝，崔海華，等. 基于GAPSO-SVM的鈑金零件圖像識別方法［J］. 機械制造與自動化，2020，49（5）：116-118，122.

［2］ RUSSAKOVSKY O，DENG J，SU H，et al. ImageNet Large scale visual recognition challenge［J］. International Journal of Computer Vision，2015，115（3）：211-252.

［3］ KRIZHEVSKY A，SUTSKEVER I，HINTON G E. ImageNet classification with deep convolutional neural networks［J］. Communications of the ACM，2017，60（6）：84-90.

［4］ SZEGEDY C，LIU W，JIA Y Q，et al. Going deeper with convolutions［C］//2015 IEEE Conference on Computer Vision and Pattern Recognition （CVPR）. Boston，MA，USA： IEEE，2015：1-9.

［5］ SIMONYAN K，ZISSERMAN A. Very deep convolutional networks for large-scale image recognition ［EB/OL］. （2014-04-04）［2022-10-08］. https：//doi.org/10.48550/arXiv.1409.1556.

［6］ HE K M，ZHANG X Y，REN S Q，et al. Deep residual learning for image recognition［C］//2016 IEEE Conference on Computer Vision and Pattern Recognition （CVPR）. Las Vegas，NV，USA： IEEE，2016：770-778.

［7］ DOSOVITSKIY A，BEYER L，KOLESNIKOV A，et al. An image is worth 16x16 words：transformers for image recognition at scale ［EB/OL］. （2020-10-22）［2022-10-08］. https：//doi.org/10.48550/arXiv.2010.11929.

［8］ SCHRAUWEN B，VERSTRAETEN D，CAMPENHOUT J V. An overview of reservoir computing：theory，applications and implementations［C］//ESANN'2007 Proceedings - European Symposium on Artificial Neural Networks， Bruges （Belgium）： ［s.n.］， 2007： 471-482.

［9］ LUKOEVICˇIUS M， JAEGER H. Reservoir computing approaches to recurrent neural network training［J］. Computer Science Review，2009，3（3）：127-149.

［10］ SOMPOLINSKY H，CRISANTI A，SOMMERS H J. Chaos in random neural networks［J］. Physical Review Letters，1988，61（3）：259-262.

［11］ LANGTON C G. Computation at the edge of chaos：phase transitions and emergent computation［J］. Physica D：Nonlinear Phenomena，1990，42（1/2/3）：12-37.

［12］ KRIZHEVSKY A， HINTON G. Learning multiple layers of features from tiny images［R］. Technical report， University of Toronto， 2009.

［13］ LE Y，YANG X S. Tiny ImageNet visual recognition challenge［J］. ［S.I：s.n.］. 2015.