有效數字、數據處理在實驗室測試中的應用

■梁玉蘭

〔石河子纖維檢驗所，新疆石河子832000〕

有效數字、數據處理在實驗室測試中的應用

■梁玉蘭

〔石河子纖維檢驗所，新疆石河子832000〕

實驗室提供的檢測數據或檢測結果，可以為科學研究、生產活動、商品交易、產品質量技術判斷和糾紛仲裁等方面提供依據。為保證實驗室所出具的數據或提供結果的可信度，就必須要考核數據提供者的資格條件、技術能力。

一、有效數字的使用及運算

在實際測試工作中，不僅要準確地進行測量，還應當正確地進行記錄和計算，當記錄表達數據結果時，不僅反映測量值的大小，還反映了測量值的準確程度。

有效數字是指實際上能測量到的數字，包括全部準確數字和一位不確定的可疑數字。有效數字保留的位數與測量方法及儀器的準確度有關。

（一）記錄測量數據

記錄測量數據時，允許保留一位可疑數字，即不允許增加位數，也不應該減少位數。

例如：3.800 0g是五位有效數字，質量為3.8000g，誤差為±0.0001g，人們一看就知道是天平稱量，

記3.80g誤差為±0.01g就知道是臺秤稱量，

2002是四位有效數字，

0.011 ‘0.0’不是有效數字，它們是定位的。

（二）有效數字的修約

在正常情況下，測量數據本身并不是最后結果，通過一系列的運算后才能獲得。在計算中會出現準確度不同即有效數字位數不同的數據，在確定了有效數字后將多余的數字進行修約，這一過程稱為數字修約，也稱為數的化整或數的湊整。為了簡單計算準確測量結果，必須對有關數字進行修約。按GB 8170-2008《數值修約規則與極限數值的表示和判定》制定各類測試數據的處理原則，并對數據計算做出具體規定。

四舍六入五考慮，即當尾數≤4時舍去；尾數≥6時進位；當尾數為5時，則應視保留的末位數是奇數還是偶數，5前為偶數應將5舍去，5前為奇數則將5進位。

例如：28.2645取3位有效數字時，則有效數字為28.3，

28.350 、28.250、28.050取3位有效數字時分別為：28.4、28.2、28.0，

28.175 、28.165取4位有效數字時為：28.18、28.16，

后面的數字不全是零，無論前面數字是偶數還是奇數皆進1。

如：28.2501取3位有效數字時為28.3，

若被舍去的數字包括幾位數字時，不得對該數進行連續修約，

28.154546 取4位有效數字時為28.15而不是28.16。

（三）有效數字運算

1.加減運算，以參加運算的各數據中絕對誤差最大（即小數點后位數最少）的數據為標準，決定了結果的有效位數。

12.35+0.0056+7.8903=12.35+0.01+7.89=20.25

2.乘除運算，以參加運算的各數據中相對誤差最大（即有效數字位數最少）的數據為標準，決定結果的有效位數。

0.0121×25.64×1.05784=0.0121×25.6×1.06=0.328

3.計算器的運用，勿照抄計算器上的顯示數字，根據有效數字修約和計算法則來對計算結果的數字數進行舍取。

二、數據處理

（一）原始數據的有效數字應與測量儀精度一致

根據試驗方法標準中規定的進行試驗，確認實驗室的條件、儀器、設備測量精度相一致。

如：用分析天平稱量，準確到±0.0001g，

用臺秤稱重，準確到0.1或0.01g。

（二）原始數據必須進行系統誤差的校正

1.校正測量儀器，如天平校驗、儀器檢定等。

2.標準方法校對所有的測量儀器重復試驗，進行校正。

3.在相同條件下，用所選的測量儀器測標準樣品，與標準值比較，進行校正。

（三）確認被校正過的，才能采用，才是可信數據

為了保證實驗室出具的報告/證書的測試數據可靠性和可比性，應必須滿足實驗室認可準則的要求，加大力量培訓測試人員，充實自己的技術能力。對原始記錄中所需處理的數據，按GB8170-2008《數值修約規則與極限數值的表示和判定》制定各類測試數據的處理原則，并對數據計算驗證工作做出規定。切實確保實驗室能夠做到“以公正的行為、科學的手段、準確的結果”來為社會提供滿意的和有效的服務，這也是實驗室的客戶對所使用的實驗室基本要求。☆