基于改進(jìn)BP神經(jīng)網(wǎng)絡(luò)的機(jī)床溫度預(yù)警*

李澤陽(yáng)，鄭飂默，李備備，劉信君

(1. 中國(guó)科學(xué)院大學(xué)，北京 100049；2.中國(guó)科學(xué)院沈陽(yáng)計(jì)算技術(shù)研究所，沈陽(yáng) 110168；3.沈陽(yáng)中科數(shù)控技術(shù)股份有限公司自動(dòng)化裝備事業(yè)部，沈陽(yáng) 110168)

0 引言

隨著運(yùn)動(dòng)控制工藝的發(fā)展與進(jìn)步，在加工過程中，由于部件切削熱、移動(dòng)和旋轉(zhuǎn)部件發(fā)熱或由于機(jī)床結(jié)構(gòu)設(shè)計(jì)不合理等原因，會(huì)造成機(jī)床局部發(fā)熱而膨脹，進(jìn)而影響加工零件精度。實(shí)際生產(chǎn)環(huán)境中，通常在機(jī)床加工發(fā)熱位置安裝溫度傳感器進(jìn)行實(shí)時(shí)采集數(shù)據(jù)至工控機(jī)分析來避免溫度產(chǎn)生的影響。但傳統(tǒng)的過熱保護(hù)僅是在發(fā)生過熱時(shí)通過數(shù)控系統(tǒng)通知過熱報(bào)警，無法達(dá)到溫度預(yù)測(cè)的效果。因此，研究并設(shè)計(jì)一種基于實(shí)驗(yàn)數(shù)據(jù)建立的數(shù)學(xué)模型使之實(shí)現(xiàn)溫度預(yù)警的方法十分必要。

近年來，BP神經(jīng)網(wǎng)絡(luò)由于其強(qiáng)大的非線性映照功能，出色的自組織和容錯(cuò)能力[1]，在網(wǎng)絡(luò)安全[2]，故障診斷[3]，股票預(yù)測(cè)[4]，情境推薦[5]等不同專業(yè)領(lǐng)域得到充分運(yùn)用，是目前最為成功的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法之一。但由于應(yīng)用領(lǐng)域技術(shù)的快速發(fā)展，BP網(wǎng)絡(luò)算法也出現(xiàn)了一些弊端，其中最為突出的是在學(xué)習(xí)過程中誤差收斂速度過慢以及算法收斂效果不能將局部最優(yōu)和全局最優(yōu)區(qū)分開來等問題。國(guó)內(nèi)外研究人員對(duì)此也提出了不同的改進(jìn)方法和研究，袁圃等針對(duì)BP算法運(yùn)算過程中隱含層節(jié)點(diǎn)數(shù)的選擇問題，在最佳隱含層節(jié)點(diǎn)數(shù)下通過遺傳算法優(yōu)化BP網(wǎng)絡(luò)模型的初始權(quán)重及閾值，進(jìn)而解決了BP網(wǎng)絡(luò)易陷入局部最優(yōu)的缺欠[6]。王虹等為解決BP算法對(duì)初值敏感和易陷入局部最優(yōu)解的問題，通過對(duì)粒子群的尋優(yōu)計(jì)算式改進(jìn)BP網(wǎng)絡(luò)模型，有效地提高了數(shù)據(jù)融合精度和網(wǎng)絡(luò)收斂速度[7]。Shi S等采用二次規(guī)劃和廣義最小二乘法對(duì)BP網(wǎng)絡(luò)權(quán)重和閾值進(jìn)行優(yōu)化，提高了目標(biāo)識(shí)別算法的精度[8]。

本文在算法學(xué)習(xí)過程中通過自適應(yīng)學(xué)習(xí)率的方法改進(jìn)BP神經(jīng)網(wǎng)絡(luò)。在完成數(shù)控機(jī)床溫度傳感器的采集數(shù)據(jù)后，運(yùn)用MATLAB軟件進(jìn)行數(shù)據(jù)訓(xùn)練，將傳統(tǒng)BP算法和針對(duì)學(xué)習(xí)率改進(jìn)后的BP算法訓(xùn)練結(jié)果進(jìn)行仿真對(duì)比和誤差分析。實(shí)驗(yàn)仿真表明，采用自適應(yīng)學(xué)習(xí)率的BP改進(jìn)算法準(zhǔn)確率更高，學(xué)習(xí)迭代次數(shù)更少，對(duì)數(shù)控機(jī)床溫度過熱預(yù)測(cè)具有積極的實(shí)際應(yīng)用價(jià)值。

1 數(shù)據(jù)采集

以五軸數(shù)控機(jī)床作為研究對(duì)象，在熱源(傳動(dòng)部件，如主軸)處安裝溫度傳感器進(jìn)行數(shù)據(jù)采集監(jiān)測(cè)，采用ModbusTCP協(xié)議作為遠(yuǎn)程監(jiān)控系統(tǒng)與數(shù)控機(jī)床之間傳輸數(shù)據(jù)的通信協(xié)議。溫度傳感器接入機(jī)床設(shè)備的子設(shè)備與連接方式步驟如下：

(1)子設(shè)備的處理選用雙UART的ARM處理器，5V供電，供電通信采用USB接口的物理層，Modbus協(xié)議物理層接口采用RS485標(biāo)準(zhǔn)，整體設(shè)計(jì)如圖1所示。

圖1 電氣設(shè)計(jì)

(2)主設(shè)備與子設(shè)備之間采用菊花鏈的形式串聯(lián)起來，采用Master/Slave方式通信，其結(jié)構(gòu)如圖2所示。

圖2 主設(shè)備與子設(shè)備之間菊花鏈結(jié)構(gòu)

實(shí)時(shí)獲取的機(jī)床各溫度傳感器實(shí)時(shí)溫度如表1所示，將表1中A組溫度數(shù)據(jù)作為BP神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練集作為輸入，B組溫度數(shù)據(jù)作為測(cè)試集進(jìn)行比較。

表1 實(shí)時(shí)測(cè)量溫度值

2 BP神經(jīng)網(wǎng)絡(luò)算法設(shè)計(jì)

2.1 BP網(wǎng)絡(luò)原理

BP神經(jīng)網(wǎng)絡(luò)是一種典型的非線性算法，通常由輸入層、輸出層和中間的隱含層組成[9]，每一層可以有若干個(gè)節(jié)點(diǎn)。各層之間節(jié)點(diǎn)的連接狀態(tài)通過權(quán)重來體現(xiàn)。本文采用的溫度預(yù)測(cè)模型如圖3所示。

圖3 基于BP神經(jīng)網(wǎng)絡(luò)的溫度預(yù)測(cè)模型

經(jīng)典BP算法分為兩個(gè)過程，正向傳播是指數(shù)據(jù)(或信息、信號(hào))從輸入端輸入之后，沿著網(wǎng)絡(luò)的指向，乘以對(duì)應(yīng)的網(wǎng)絡(luò)權(quán)重之后再加和，并將結(jié)果作為輸入在激活函數(shù)中進(jìn)行計(jì)算，將計(jì)算的結(jié)果作為輸入傳遞給下一個(gè)節(jié)點(diǎn)。依次計(jì)算，直到得到最終的輸出。反向傳播是指將預(yù)測(cè)輸出的結(jié)果與理想的輸出結(jié)果進(jìn)行比較，將預(yù)測(cè)輸出結(jié)果與理想輸出結(jié)果之間的誤差利用網(wǎng)絡(luò)進(jìn)行反向傳播的過程。具體的過程是通過多次迭代，不斷地對(duì)網(wǎng)絡(luò)上各個(gè)節(jié)點(diǎn)間所有的權(quán)重進(jìn)行調(diào)整，權(quán)重調(diào)整的方法采用梯度下降法。

本文采用的BP網(wǎng)絡(luò)機(jī)床溫度預(yù)測(cè)模型的參數(shù)選定如下：

(1)激活函數(shù)

激活函數(shù)在預(yù)測(cè)網(wǎng)絡(luò)輸出結(jié)果和誤差反向調(diào)節(jié)中起到重要作用。Sigmoid函數(shù)可以把任意輸入的實(shí)數(shù)轉(zhuǎn)換到[0,1]分布空間且函數(shù)具有非常好的對(duì)稱性，故選用S型函數(shù)作為激活函數(shù)，表達(dá)式如下：

f(x)=(1+e-x)-1

(1)

(2)隱含層節(jié)點(diǎn)數(shù)目

BP網(wǎng)絡(luò)的函數(shù)逼近能力與隱含層神經(jīng)元數(shù)量有很大關(guān)聯(lián)[10]。隱含層節(jié)點(diǎn)數(shù)量過多會(huì)使得算法收斂速度降低，過少將使得網(wǎng)絡(luò)不能得到較好訓(xùn)練，最終結(jié)果精度不會(huì)很高。通過大量實(shí)驗(yàn)，估計(jì)隱含層節(jié)點(diǎn)的最佳數(shù)目經(jīng)驗(yàn)表達(dá)式為：

(2)

其中，I、M和O分別表示網(wǎng)絡(luò)輸入、隱藏、輸出三層神經(jīng)元節(jié)點(diǎn)數(shù)，σ為范圍在1～10之間的正整數(shù)。

(3)學(xué)習(xí)誤差

定義樣本中第k個(gè)神經(jīng)元的誤差函數(shù)為：

(3)

其中，EK為學(xué)習(xí)誤差，Yi為真實(shí)值，yi為預(yù)測(cè)輸出值。

2.2 算法改進(jìn)

標(biāo)準(zhǔn)BP算法采用固定學(xué)習(xí)速率進(jìn)行訓(xùn)練，通過梯度下降的思想尋找最佳權(quán)重，促使網(wǎng)絡(luò)誤差不斷減小。網(wǎng)絡(luò)的學(xué)習(xí)速率決定了學(xué)習(xí)過程中的權(quán)值變化[11]。學(xué)習(xí)速率過大，就會(huì)發(fā)生振蕩現(xiàn)象，出現(xiàn)圖4a的情況，即初始權(quán)重w0錯(cuò)過最優(yōu)調(diào)整權(quán)重w′得到新權(quán)重w1，但w1和w′距離很遠(yuǎn)，需要進(jìn)一步迭代學(xué)習(xí)。學(xué)習(xí)速率過小，會(huì)促使訓(xùn)練時(shí)長(zhǎng)增加，網(wǎng)絡(luò)收斂能力降低，出現(xiàn)圖4b的情況，即初始權(quán)重w0按照梯度下降法搜索得到新權(quán)重w1，但w1距離最優(yōu)調(diào)整權(quán)重w′較遠(yuǎn)，迭代效果不理想[12]。

(a) 學(xué)習(xí)率過大的情況 (b) 學(xué)習(xí)率過小的情況圖4 學(xué)習(xí)速率較大與較小情況

由上述分析可得，如果算法學(xué)習(xí)速率能在訓(xùn)練過程中自動(dòng)適應(yīng)變化，則網(wǎng)絡(luò)收斂速度和性能都能得到有效提高。本文通過比較本次迭代的學(xué)習(xí)誤差與上次迭代的學(xué)習(xí)誤差，采用靈活的學(xué)習(xí)速率進(jìn)行訓(xùn)練來改進(jìn)BP神經(jīng)網(wǎng)絡(luò)收斂過慢的缺陷。其數(shù)學(xué)表達(dá)式為：

(4)

其中，η(k)是第k次迭代學(xué)習(xí)速率，E(k)和E(k-1)分別是本次和上次學(xué)習(xí)誤差函數(shù)值，λ1、λ2均為常數(shù)。具體的調(diào)整為，當(dāng)本次誤差函數(shù)值E(k)小于上一次學(xué)習(xí)誤差值E(k-1)時(shí)，將學(xué)習(xí)速率η(k)擴(kuò)大為η(k-1)的λ1倍，以加快收斂速度；當(dāng)本次誤差函數(shù)值E(k)大于上一次誤差值E(k-1)時(shí)，將學(xué)習(xí)速率η(k)縮減為η(k-1)的λ2倍，以進(jìn)一步探索權(quán)值最優(yōu)點(diǎn)。

2.3 網(wǎng)絡(luò)建模

本文BP網(wǎng)絡(luò)結(jié)構(gòu)均為單層結(jié)構(gòu)，即輸入層、隱藏層和以及輸出層[13]。三層的神經(jīng)元數(shù)目分別為a，b，c。輸入樣本集xi(i=1,2,…,a)表示輸入層第i個(gè)節(jié)點(diǎn)的輸入，隱含層輸出節(jié)點(diǎn)為yj(j=1,2,…,b)，輸出層輸出節(jié)點(diǎn)為zn(n=1,2,…,c)。wij(i=1,2,…,a;j=1,2,…,b)表示輸入層第i個(gè)神經(jīng)元到隱含層第j個(gè)神經(jīng)元的連接權(quán)值；vjn(j=1,2,…,b;n=1,2,…,c)表示隱含層第j個(gè)神經(jīng)元到輸出層第n個(gè)神經(jīng)元的連接權(quán)值。θj(j=1,2,…,b)表示隱含層各神經(jīng)元的輸出閾值，γn(n=1,2,…,c)表示輸出層各神經(jīng)元的輸出閾值。

為了縮小數(shù)量之間的相對(duì)關(guān)系和提高算法運(yùn)算效率[14]，對(duì)網(wǎng)絡(luò)各層輸入、輸出數(shù)據(jù)進(jìn)行最值歸一化處理，使得原始數(shù)據(jù)轉(zhuǎn)換到[0,1]區(qū)間中，轉(zhuǎn)換函數(shù)為：

(5)

其中，x′為歸一化后的數(shù)據(jù)，x為原始樣本數(shù)據(jù)，xmax為樣本數(shù)據(jù)的最大值，xmin為樣本數(shù)據(jù)的最小值。

采用自適應(yīng)學(xué)習(xí)率的BP神經(jīng)網(wǎng)絡(luò)算法步驟為：

(1)初始化網(wǎng)絡(luò)參數(shù)

連接權(quán)值wij、vjn，輸出閾值θj、γn在區(qū)間[0,1]之間隨機(jī)取值；設(shè)置收斂精度ε=0.01；表達(dá)式(4)中λ1=1.5，λ2=0.5。

(2)計(jì)算隱含層輸入與輸出

其中第j個(gè)神經(jīng)元的輸入為αi(j):

(6)

結(jié)合表達(dá)式(1)，隱含層第j個(gè)神經(jīng)元的輸出為αo(j)為:

(7)

其中，j=1,2,…,b。

(3)計(jì)算輸出層輸入與輸出

其中第n個(gè)神經(jīng)元的輸入βi(n)為:

(8)

結(jié)合表達(dá)式(1)，輸出層第n個(gè)神經(jīng)元的輸出βo(n)為：

(9)

其中，n= 1,2,…,c。

(4)輸出層權(quán)值與閾值調(diào)整

由表達(dá)式(5)可得，輸出層神經(jīng)元的預(yù)測(cè)輸出βo與樣本中期望輸出Y之間學(xué)習(xí)誤差數(shù)學(xué)函數(shù)為：

(10)

基于鏈?zhǔn)椒▌t，可得輸出層權(quán)值調(diào)整表達(dá)式：

(11)

輸出層閾值調(diào)整表達(dá)式為：

(12)

(5)隱含層權(quán)值與閾值調(diào)整

與步驟(4)同理，可得隱含層權(quán)值調(diào)整為：

(13)

隱含層閾值調(diào)整表達(dá)式為：

(14)

(6)更新各層權(quán)值和閾值，計(jì)算總誤差Etotal：

(15)

(16)

(17)

(18)

(19)

若Etotal達(dá)到收斂精度標(biāo)準(zhǔn)或達(dá)到訓(xùn)練最大迭代次數(shù)，則結(jié)束訓(xùn)練，否則按照自適應(yīng)學(xué)習(xí)率進(jìn)行調(diào)整學(xué)習(xí)率，繼續(xù)下一輪學(xué)習(xí)。溫度預(yù)測(cè)模型流程如圖5所示。

圖5溫度預(yù)測(cè)模型流程圖

3 仿真實(shí)驗(yàn)與分析

3.1 參數(shù)設(shè)置

讀取表1中A組實(shí)時(shí)溫度數(shù)據(jù)作為輸入數(shù)據(jù)，設(shè)定輸入層、輸出層神經(jīng)元數(shù)量為I=10和O=10，取常數(shù)σ=1，根據(jù)公式(2)，可得隱含層神經(jīng)元個(gè)數(shù)M=5。選用MATLAB作為計(jì)算機(jī)仿真平臺(tái)，經(jīng)過大量實(shí)驗(yàn)測(cè)試，設(shè)定標(biāo)準(zhǔn)BP的初始學(xué)習(xí)率η=0.047效果最佳，訓(xùn)練最大迭代次數(shù)為1000次，網(wǎng)絡(luò)誤差如果連續(xù)6次迭代沒有變化則終止訓(xùn)練。

3.2 預(yù)測(cè)結(jié)果對(duì)比

進(jìn)行網(wǎng)絡(luò)建模，對(duì)訓(xùn)練樣本進(jìn)行擬合。標(biāo)準(zhǔn)BP神經(jīng)網(wǎng)絡(luò)與采用自適應(yīng)學(xué)習(xí)率改進(jìn)的BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)溫度值和真實(shí)溫度值對(duì)比如圖6所示。

圖6 預(yù)測(cè)溫度與真實(shí)溫度對(duì)比圖

可以看出，在同樣的訓(xùn)練樣本下，改進(jìn)后BP算法模型預(yù)測(cè)的溫度值比標(biāo)準(zhǔn)BP算法精度更高，與真實(shí)溫度值更為接近。

3.3 誤差分析

標(biāo)準(zhǔn)BP算法和改進(jìn)后的BP網(wǎng)絡(luò)的誤差曲線如圖7所示。分析圖7可得，采用標(biāo)準(zhǔn)BP神經(jīng)網(wǎng)絡(luò)的MSE(Mean Square Error，均方誤差)在經(jīng)過最大迭代次數(shù)1000次后接近于誤差精度0.01，而采用自適學(xué)習(xí)率改進(jìn)的BP網(wǎng)絡(luò)模型僅在經(jīng)歷300余次迭代后達(dá)到誤差精度要求。可知，采用自適應(yīng)學(xué)習(xí)的BP算法經(jīng)過更少的迭代次數(shù)便可滿足誤差精度要求，誤差收斂速度相較標(biāo)準(zhǔn)BP算法更快。

(a) 標(biāo)準(zhǔn)BP誤差曲線圖

(b) 改進(jìn)后BP誤差曲線圖 圖7 模型改進(jìn)前后誤差曲線圖

為了評(píng)價(jià)溫度預(yù)測(cè)模型的性能，本文引入MAPE(平均百分比誤差)和RMSE(均方根誤差)兩項(xiàng)指標(biāo)進(jìn)行預(yù)測(cè)溫度值與真實(shí)溫度值之間的整體偏差估計(jì)。其計(jì)算表達(dá)式如下：

(20)

(21)

其中，Yi為真實(shí)值，yi為預(yù)測(cè)輸出值。

同時(shí)考慮P(Precision，精確率)和R(Recall，召回率)兩項(xiàng)評(píng)估指標(biāo)[15]，計(jì)算標(biāo)準(zhǔn)BP模型和采用自適應(yīng)學(xué)習(xí)率的BP模型評(píng)價(jià)參數(shù)如表2所示。

表2 模型改進(jìn)前后的評(píng)價(jià)參數(shù)表

實(shí)驗(yàn)結(jié)果的數(shù)據(jù)表明，改進(jìn)后的BP算法訓(xùn)練結(jié)果理想，對(duì)數(shù)控機(jī)床溫度過熱預(yù)測(cè)具有很好效果，能夠較為準(zhǔn)確的預(yù)測(cè)機(jī)床溫度變化。

4 結(jié)論

本文針對(duì)數(shù)控機(jī)床由于溫度過熱產(chǎn)生熱變形的問題，引入自適應(yīng)學(xué)習(xí)率的改進(jìn)BP神經(jīng)網(wǎng)絡(luò)作為溫度預(yù)測(cè)模型。仿真結(jié)果表明，在確保誤差精度的前提下，改進(jìn)后的BP模型有效提高了算法收斂速度和網(wǎng)絡(luò)性能。該研究的提前預(yù)測(cè)不僅提高了數(shù)控機(jī)床安全性，降低了機(jī)床維修費(fèi)用，而且避免了因溫度過熱而造成的進(jìn)一步損失，具有顯著意義。