淺談檢驗過程中測量數據處理及修約方法

崔淑玲（呼倫貝爾市產品質量計量檢測所）

淺談檢驗過程中測量數據處理及修約方法

崔淑玲（呼倫貝爾市產品質量計量檢測所）

本文論述了測試數據處理種類及適用范圍，如何優化數據處理、有效給出測試數據。

數據處理 適用范圍 有效

化學實驗中常見的數據處理有: （1）公式計算;（2）用實驗數據作圖或對實驗數據計算后作圖; （3）線性擬合,求截距或斜率; （4）非線性曲線擬合; （5）作切線,求截距或斜率。計算機作圖軟件越來越多。利用計算機Origin 軟件可方便地進行作圖、線性擬合、非線性曲線擬合等數據處理,還可以求出R2（相關系數的平方） 、SD （標準偏差） 、RSD （相對標準偏差）、ρ值（ R2= 0 的概率）等。能夠滿足化學實驗數據處理的要求，特別是先進的儀器設備大都具備自動檢測及數據處理功能,但是對于一些異常值的處理和判定,儀器設備還存在缺陷和不足，儀器有時會出毛病，需要人工驗證。本文介紹常規檢驗中一些小數據的處理方法適用范圍、優缺點。

1 實驗數據修約、修正

1.1 數據修約

實驗數據修約按GB/T 8170—2008《數值修約規則與極限數值的表示和判定》，按照其修約間隔或指定單位進行修約，比如按0.1，0.2，0.5修約間隔及指定單位修約。如檢測化肥中有效磷的修約用0.1修約間隔，假設磷含量15.1160%，標準要求三位有效數字，在運算過程多保留一位，所以修約15.12%；如柴油中閃點的數據修約要求按0.5修約間隔，假設閃點數值56.4℃，則按修約要求修約后為56.4×2=112.8℃=113℃,113÷2=56.5℃。不允許連續修約,如45.4546,按1修約間隔,要求保留整數,正常修約為45,要是連續修約（錯誤的修約）就是45.455→45.46→45.5→46。

1.2 進舍規則

四舍六入五考慮,五后非零則進一,五后皆零視奇偶,五前為偶則舍去,五前為奇則進一，要一次修約完成,不可連續修約。

特例：對于非連續型數值個數、分數、倍數、名義濃度等，其有效位數可視為無限多位。如0.5mol/L氫氧化鈉標液中的“0.5”為名義濃度，其有效位數為無限多位，規格項目下的“10g”“1mL”等，其有效位數為無限多位。

在單次檢驗數據保留中，要根據最少有效精度的條件來決定。如在檢驗化肥總氮含量過程中，用萬分之一天平稱取分析試樣1.5002g，天平檢定證書給出示值誤差（檢定結果的）為0.2mg（0.0002g），所使用的25mL或50mL的堿式滴定管，樣品消耗氫氧化鈉標準溶液體積為12.78mL，是四位有效數字，由天平稱量及滴定管準確度決定,在計算總氮含量時，最多保留五位有效數字（在運算過程），多留無意義。最后保留四位或四位以下才有意義，當然根據產品標準要求，也可以保留四位以下的有效數字。

結論：在計算中，其有效數位應根據其他數值的最少有效位數來定。

1.3 數據修正

在油品餾程檢測數據處理過程中，要進行溫度和大氣壓修正，如柴油餾程溫度計讀數264.0℃，經溫度計修正及大氣壓修正后為（溫度計修正值由檢定證書給出，大氣壓修正值按GB/T 6536—2010中表6，當地大氣壓為93kPa，計算出來）：264.0+0.4+4.09=268.5℃。

2 處理異常值

2.1 判別異常值常用的統計方法——格拉布期準則

設定一組重復結果Xi中殘差最大者為可疑值Xd，設置信概率ρ，顯著水平α=1-ρ，s為實驗標準偏差，為要計算的一組數據的平圴值，G（α， n）為格拉布期準則臨界值（由表查出），可以用來判定是否存在可疑值，當＜ G(α，n )無可疑值；≥ G(α，n )為可疑值，依此類推，連續判定，直到無可疑值，取平均值作為檢驗結果。

2.2 方法標準中給出重復性限和再現性臨界差要求

在GB/T 214—2007《煤中全硫的測定方法》中，當St≤1.50%時，重復性限0.05%（St,ad）；再現性臨界差0.10%（St,d），符合誤差要求的，取算術平均值作為最終結果，若不符合，按CB/T 483—2007《煤炭分析試驗方法一般規定》加大檢驗數量，求重復性測量的極差值，然后再進行數據處理，符合要求的取算術結果的平均值，當樣品測定數量加大至規定極限時，仍不符合要求的，舍棄全部結果，從人、機、料、法、環上查找原因，重新試驗。

2.3 準確度值的實際應用

GB/T 6379.6—2009《測量方法與結果的準確度（正確度與精密度） 第6部分：準確度值的實際應用》應用的基礎是基于超過兩個值的比較。

2.3.1 一個實驗室內兩組測量結果的比較

在重復性條件下進行兩組測量，第一組測試結果數為n1，其算術平均值為，同理，第二組為n2，，在GB/T 6379控制條件下，σr為重復性測量結果的估計值代替標準差Sr，則的標準差為；在ρ=95%概率水平下，臨界差為 ，（當n1=n2=1，臨界差化簡為 r =2.8σr）。

2.3.2 兩個實驗室兩組測量結果的比較

在重復性條件下，第一個實驗室測試結果數為n1，其算術平均值為，同理，第二個實驗室為n2，的標準差=ρ=95%條件下，的臨界差為：CD0.95=，（當n1=n2=1，臨界差化簡為R=2.8σR）。

2.3.3 一個實驗室的測試結果與參照值的比較

在重復性條件下，第一個實驗室得到n個實驗結果，其算術平均值為，與某個確定的參照值μ0比較,在偏倚的實驗室分量尚未確定的情況下，（-μ0）的標準差為：

2.3.4 多個實驗室的測試結果與參照值的比較

若有p個實驗室，分別在重復性條件下得到 ni（i=1,2,...,p）個測試結果，每個實驗室測試結果的算術平均值為，所有實驗室測試結果的總平均值為，其算術平均值為y，與某個確定的參照值μ0比較,在偏倚的實驗室分量尚未確定的情況下，（-μ0）的標準差為：

2.3.5 報告比較結果

測試結果的絕對值符合要求的，可以取平均值，報出測試結果，超過以上條款給出的合理限值，應認為相應的絕對差可疑，可認為用于計算此絕對差值的所有測量結果可疑，需要做進一步審查。

檢查測試結果可接受的方法包括：

（1）重復性條件下所得測試結果可接受性的檢查方法；（2）在再現性條件下所得測試結果可接受性的檢查方法。

3 結語

通過用多種方法對測試數據進行處理，可以在日常分析及實驗室比對中，正確處理、評估測試數據，及時發現數據中存在的偏倚情況，有效的提供科學測試數據。

[1]GB/T 8170—2008 數值修約規則與極限數值的表示和判定

[2]CB/T 483—2007 煤炭分析試驗方法一般規定

[3]GB/T 214—2007 煤中全硫的測定方法

[4]中國計量測試學會. 二級注冊計量師基礎知識及專業實務[M]. 北京：中國計量出版社，2009.

[5]GB/T 6379.6—2009 測量方法與結果的準確度(正確度與精密度) 第6部分：準確度值的實際應用

Discussion on Data Processing and Rounding off Method during the Inspection

Cui Shuling ( Hulunbeier Product Quality Measurement Institute )

This paper discusses data processing methods and application scope, how to optimize data processing and obtain valid data.

data processing, application scope, effective