基于最小二乘法的某型號程控電阻箱示數(shù)校正算法研究

張曉勇

(鶴壁職業(yè)技術(shù)學(xué)院,河南 鶴壁 458030)

0 引言

程控電阻箱是電學(xué)測量的重要精密儀器之一,在工業(yè)機(jī)器人、數(shù)控機(jī)床、機(jī)器視覺、智能汽車、芯片生產(chǎn)等智能制造領(lǐng)域的元器件生產(chǎn)中發(fā)揮著重要作用。在工程科學(xué)領(lǐng)域,由于測量要素(如儀器儀表、計算方法、環(huán)境變化等)不能達(dá)到最高標(biāo)準(zhǔn),往往導(dǎo)致測量對象的真值與測量結(jié)果之間存在一定的偏差,在計算數(shù)學(xué)中統(tǒng)稱為測量誤差。目前,學(xué)者針對如何評估、校正、降低測量讀數(shù)動態(tài)誤差這類問題提出了許多經(jīng)典算法,如小波變換、遺傳算法、樽海鞘算法、卡爾曼濾波法、BP神經(jīng)網(wǎng)絡(luò)法、時間序列分析法等[1-6],取得了一定的效果,因此構(gòu)造有效算法對提高電阻箱輸出電阻的精確度并實現(xiàn)智能制造行業(yè)的快速、穩(wěn)定、高質(zhì)量發(fā)展具有重要的推動作用。

1 算法介紹

1.1 程控電阻箱

某型號程控電阻箱的內(nèi)部結(jié)構(gòu)如圖1所示。

圖1 某型號程控電阻箱的內(nèi)部結(jié)構(gòu)Fig.1 Internal structure of a type of programmed resistance box

從圖1可以看出,由于連接導(dǎo)線固有電阻、旋轉(zhuǎn)開關(guān)觸頭接觸電阻、輸出端子固有電阻的存在,實際的輸出電阻不可能達(dá)到0 Ω。圖中的r表示電路中的固有電阻,也稱為最小電阻。本電阻箱的最小電阻r規(guī)定為0.01 Ω(這是經(jīng)多次實測后給定的平均數(shù)值)。電阻箱的電阻調(diào)節(jié)范圍為0.01～100 000.00 Ω,最小步進(jìn)值為0.01 Ω。

1.2 算法假設(shè)

為了避免變阻箱校正問題過于復(fù)雜,考慮變阻箱的自身屬性與工作環(huán)境,提出以下幾點(diǎn)研究假設(shè):

A.變阻箱工作時的狀態(tài)保持持續(xù)穩(wěn)定,受外界條件的影響較小,可忽略不計。

B.固有電阻為最小電阻(0.01 Ω)。

C.根據(jù)實驗過程中搜集的數(shù)據(jù)可視化結(jié)果,給定值與測量絕對誤差近似為線性關(guān)系(如圖2所示),由此提出假設(shè):絕對誤差隨著給定電阻值的級數(shù)(步長為10)增長呈現(xiàn)線性疊加。

圖2 某型號程控電阻箱的給定值與絕對誤差間的線性擬合及誤差Fig.2 Linear fitting and error between the given value and the absolute error of a programmable resistance box of a certain type

1.3 符號變量

為了使算法的建立過程更為方便、高效,定義以下幾個量并用相應(yīng)的字母符號表示。如不加特殊或?qū)Ｒ徽f明,所列的字母符號均表示對應(yīng)的量。各個字母符號及其對應(yīng)表示的量如下:

g(j):各倍率檔位的給定值;s(j):各倍率檔位的實際測量值;c(j):各倍率檔位的校正值;r(j):各倍率檔位的相對誤差(%);sc:要求的實際電阻值;sj:要求的實際電阻值的校正值;sk:首次校正值對應(yīng)的實際電阻值;Rk:首次校正值對應(yīng)的實際電阻值與sc之間的絕對誤差;j:1～63,各倍率的序列號。

1.4 算法設(shè)計

根據(jù)研究假設(shè)C,本模型對各擋位電阻的絕對誤差與給定值之間的相關(guān)性系數(shù)進(jìn)行求解,公式為:

(1)

當(dāng)相關(guān)性系數(shù)R值超過0.9時,嘗試找到各檔位倍率的校正值,具體如下:

(2)

(2′)

在上述算法模型基本假設(shè)的基礎(chǔ)上嘗試建立相應(yīng)的數(shù)學(xué)模型,對要求的實際電阻值sc(sc∈[0.01,99 999.99])進(jìn)行檔位拆分,阻值拆分公式具體如下:

(3)

這里以實際電阻值sc=88 888.88 Ω為例,按照式(3)進(jìn)行拆分,結(jié)果如下:

88 888.88=8×104+8×103+8×102+8×101

+8×100+8×10-1+8×10-2

如此便可得到:

k(1)=8,k(2)=8,k(3)=8,k(4)=8,

k(5)=8,k(6)=8,k(7)=8

k(i)的矯正過程具體如圖3所示:

圖3 實際電阻的拆分及校正Fig.3 Separation and correction of actual resistance

圖3中,k(1)表示104檔位;k(2)表示103檔位;k(3)表示102檔位;k(4)表示101檔位;k(5)表示100檔位;k(6)表示10-1檔位;k(7)表示10-2檔位。校正公式如下:

(4)

其中,數(shù)字7表示變阻箱的檔位數(shù),C0表示電路中固有的電阻。由于該電阻箱的精度為0.01 Ω,為了減少數(shù)值計算的舍入誤差,對模型求解的結(jié)果sj進(jìn)行誤差分析及二次校正。其中,誤差分析過程如下:對實際電阻值的校正值(模型的首次計算結(jié)果)sj進(jìn)行檔位拆分,阻值拆分公式如下:

(5)

以實際電阻的校正值sj=88 889.65 Ω為例,按照式(5)進(jìn)行拆分,結(jié)果如下:

88 889.65=8×104+8×103+8×102+8×101

+9×100+6×10-1+5×10-2

如此便可以得到:

k′(1)=8,k′(2)=8,k′(3)=8,k′(4)=8,

k′(5)=9,k′(6)=6,k′(7)=5

將k′(i),i=1,…,7依照實際測量值g(j)計算首次校正值對應(yīng)的實際電阻值sk,計算公式為:

(6)

此時,記Rk=|sc-sk|,表示首次校正值對應(yīng)的實際電阻值sk與sc(要求的實際電阻值)之間的絕對誤差。

1.5 二次校正

二次校正的具體過程如下:當(dāng)|R|≤0.005時,說明校正結(jié)果在電阻箱的精度(0.01 Ω)要求范圍內(nèi),符合要求,sk不需要進(jìn)行二次校正;當(dāng)R≤-0.005,說明校正結(jié)果偏大,超出了電阻箱的精度(0.01Ω)要求范圍(正偏誤差超過精度0.01),sk需要二次校正:sk=sk-0.01;當(dāng)R≥0.005,說明校正結(jié)果偏小,超出了電阻箱的精度(0.01 Ω)要求范圍(負(fù)偏誤差超過精度0.01),sk需要二次校正:sk=sk+0.01。根據(jù)以上誤差分析及二次校正過程設(shè)計了相應(yīng)的算法流程,如圖4所示。

圖4 實際電阻校正值的誤差分析及二次校正流程Fig.4 Error analysis and secondary correction process of actual resistance correction

2 結(jié)果分析

2.1 各倍率檔位實測值校正前后的相對誤差

在上述研究基礎(chǔ)上對該型號電阻箱各倍率檔位實測值校正前后的相對誤差進(jìn)行對比,結(jié)果如圖5所示。可以看出,經(jīng)提出的算法校正后,各倍率檔位實測值的相對誤差明顯下降,具有一定的校正效果。但下降幅度不大,相對精確度的提升約為0.1%。

圖5 各倍率檔位實測值校正前后的相對誤差對比分析Fig.5 Comparative analysis of relative errors before and after calibration of the measured values of each rate gear

2.2 誤差分析

選取一些固定編號的實際需求電阻值,通過該算法進(jìn)行校正,具體結(jié)果如圖6所示。

圖6 實際電阻輸出值校正前后的對比分析Fig.6 Comparative analysis of actual resistance output before and after correction

從圖6可以看出,經(jīng)過本算法進(jìn)行校正后,這些固定編號的實際需求電阻值在電阻箱輸出過程中表現(xiàn)出更強(qiáng)的穩(wěn)定性,魯棒性顯著降低。與校正前實際輸出電阻值相比,精度度更高(誤差在0.001以內(nèi)),具體如表1所示。

3 結(jié)論與展望

目前,動態(tài)誤差校正技術(shù)研究取得了一些成果,但仍存在一些問題,如動態(tài)誤差建模實時預(yù)報修正問題[7]。未來,需進(jìn)一步深入研究,將動態(tài)誤差校正技術(shù)精度顯著提升至0.0001以上,使其魯棒性顯著降低,靈敏度提高至0.0001 s,具有更強(qiáng)的自適應(yīng)度[8-10]。