基于Excel的改進四舍五入法在平板檢定數(shù)據(jù)處理中的應用

汪宇涵

衢州市質(zhì)量技術(shù)監(jiān)督檢測中心 浙江衢州 324000

1 平板檢定原始記錄的數(shù)據(jù)處理

平板的檢定通過求取平板工作面的平面度，進而評定該平板的等級。平板檢定的原始記錄則需要通過對現(xiàn)場檢定數(shù)據(jù)進行大量數(shù)據(jù)運算來計算平板的平面度。現(xiàn)場檢定數(shù)據(jù)多，但后續(xù)數(shù)據(jù)地處理量更多又復雜。如果采用人工手算來作平板的原始記錄不僅計算效率低且準確性也不高[1]。

2 Excel自帶的四舍五入法存在的問題

由于Excel帶有數(shù)據(jù)處理模塊，可以運用Excel來編寫一個應用程序來提高平板檢定數(shù)據(jù)處理的效率。但是Excel自帶的四舍五入法由于存在以下兩個問題影響了數(shù)據(jù)計算的準確性：

2.1 采用過時的取舍位大于等于五就進一的四舍五入規(guī)則，不符合現(xiàn)今的定義；

2.2 進行過四舍五入取舍運算的數(shù)據(jù)在參與后續(xù)運算時，參與運算的是該數(shù)據(jù)四舍五入前的數(shù)值。

3 對Excel自帶四舍五入法的改進及應用

本人通過對Excel自帶四舍五入法進行改進，解決了數(shù)值計算不夠準確的問題。

以一塊規(guī)格為630mm×630mm的平板為例：在程序的紅色單元格中輸入對角線截面及各邊線的橋板跨距；在黃色單元格輸入水平儀在各截面每個測量點的讀數(shù)ai（格數(shù)）。采用改進的四舍五入法，程序運行后如下表所示[2]。假定數(shù)據(jù)精確到個位，表中對Bi、μm列中涉及到乘、除運算的單元格采用了改進的四舍五入法[3]。以對角線截面a1e5的測點d4的Bi值為例，其值為測點e5的Bi值的3/4，假設(shè)e5的Bi值對應的單元格為F8，則采用Excel自帶的四舍五入法，其值可表示為：=F8＊3/4，而采用改進的四舍五入法，其值可表示為：=IF(AB S(TRUNC(F8＊3/4,5)-TRUNC(F8＊3/4,0))＜0.49999 9,ROUND(F8＊3/4,0),IF(ABS(TRUNC(F8＊3/4,5)-T RUNC(F8＊3/4,0))＞0.500001,ROUND(F8＊3/4,0),-CEILING(ABS(TRUNC(F8＊3/4,1))-0.5,2)＊SIGN(F8＊3/4)))。

4 數(shù)值比對結(jié)果及意義

把采用改進算法后產(chǎn)生的數(shù)值與人工手算得出的數(shù)值進行一一比對，發(fā)現(xiàn)兩者的數(shù)值完全吻合。這說明基于Excel的改進四舍五入法編寫的應用程序可以實現(xiàn)對平板檢定數(shù)據(jù)地快速、準確處理。