用穩健統計法處理方法標準驗證實驗中方法檢出限數據

殷惠民，任立軍，閆 巖，王婧瑞，李玉武

國家環境分析測試中心，北京 100029

為配合實施環境質量標準和污染源排放限值標準，環境保護部每年都有大批環境監測方法標準立項，也有大批監測方法標準頒布執行。《環境監測 分析方法標準制修訂技術導則》(HJ 168—2010)[1](以下簡稱技術導則)對這些標準的制修訂提出了明確的技術要求。例如，標準編制說明附件《方法驗證報告》應列出驗證實驗方案、全部原始測量數據、方法檢出限、測定下限、精密度和準確度等方法性能指標計算過程及結果。可以看出，方法檢出限是方法驗證數據匯總時需要確認的技術指標。它直接關系到標準頒布后，相關實驗室檢測能力符合性判斷。

文獻[2] 對計算檢出限的國內外代表性方法標準進行了比較和解讀。目前，標準編制單位大多采用參加方法驗證的各家實驗室方法檢出限數據中的最大值，并未按技術導則要求對各家實驗室檢出限數據進行合格性判斷。因此，最大值很有可能是離群值。這將直接導致部分項目方法檢出限偏高，也可能與標準制定者擔心部分實驗室過不了檢測能力符合性驗證及檢查有關。在文獻中也有識別和刪去離群值后再取最大值作為方法檢出限的報道[3]。筆者查閱了近期有代表性的標準編制說明和文獻，收集了其中4組數據，并結合筆者制定《環境空氣 顆粒物中無機元素的測定 X射線熒光光譜法》標準時組織方法驗證的2組數據，對方法檢出限3種計算方法：①穩健統計法；②識別并刪去離群值后合并計算；③在符合要求的數據中取最大值計算結果進行了比較。提出了實驗室數據與標準中方法檢出限比值是否小于曼德爾k檢驗臨界值作為實驗室某項目方法檢出限符合性判據。

1 計算方法

1.1 科克倫方差檢驗法

科克倫方差檢驗法[4-5]應用于所有標準偏差都是在重復性條件下，且由相同數目(n)的測試結果計算得出的情形。在實際工作中，由于數據的缺失或剔除，使測試結果個數可能會不同。假定在正常組織的實驗中，每個實驗室的測試結果數目不同所造成的影響是有限且可以忽略的，在科克倫檢驗中所用的n可取多數實驗室的測試結果數。

該統計方法是對標準偏差的最大值進行評定，屬于單側檢驗。統計過程：首先將各家實驗室檢測結果標準偏差從小到大排列，然后根據公式(1)計算科克倫檢驗的統計量。最后，查閱科克倫檢驗臨界值表[5]，通過比較相同顯著水平下的臨界值來判定該最大標準偏差是否為離群值。如果標準偏差的最大值是離群值，則將該值舍去后對剩余的標準偏差重新計算科克倫檢驗統計量。

式中：sj為第j個實驗室的標準偏差，smax是sj中最大值，L為參與檢驗的系列標準偏差數據個數(即參與方差檢驗的協作實驗室個數)。

可疑值和離群值按下列規則進行判斷[4]：

1)當統計量小于等于α=0.05的臨界值時，認為該值是正常值。

2)當統計量大于α=0.05的臨界值且小于等于α=0.01的臨界值時，該值為可疑值(用*標記)。

3)當統計量大于α=0.01臨界值時，認為該值是統計離群值(用** 標記)。

當平行測定次數n=7，參與檢驗的實驗室個數L分別等于6、5、4時，對應α=0.01的臨界值分別為0.487、0.553、0.641；對應α=0.05臨界值分別為0.418、0.478、0.560 。

1.2 穩健統計法

穩健統計法[6]可計算一組測定結果的平均值和標準偏差(算法A)，也可用于計算標準偏差(或極差)的穩健合并值(算法S)。算法S計算步驟如下：

L個數據為w1,w2,……,wL(這些數據可以是極差或標準偏差)。

w*為穩健標準偏差合并值，與每個wi相關的自由度為ν(當wj為極差時，ν=1；當wj為n次測試結果的標準偏差時，ν=n-1)。當n=7時，可查得算法所需的ξ和η值分別等于1.024 和1.332。

計算w*的初始值：w*=med[wj](j=1, 2，……，L)，med表示取中位數。

按以下步驟更新w*的值，計算中間參數ψ=η×w*；對于每個wj(j=1，2，……，L)，如果wj大于ψ，有w*=ψ；如果小于或等于ψ，則有w*=wj；計算新的w*：

穩健估計值w*可由迭代算法得到，即不斷更新w*直到過程收斂。當穩健估計值的第三位有效數字連續2次迭代后數值不再變化時，即可認為該過程是收斂的，迭代終止。

1.3 曼德爾k檢驗法

考慮到標準文本上的方法檢出限是以多家協作實驗室數據為基礎，因此可采用曼德爾k檢驗法對各家實驗室方法檢出限實驗的標準偏差進行一致性檢驗。計算公式如下：

式中：sj為某家實驗室測試結果標準偏差，sr為各家協作實驗室方法檢出限實驗重復性標準偏差：

k臨界值可以查表[4]，也可以按式(5)進行計算，兩者完全一致：

式中：Fα,ν1,ν2為方差檢驗臨界值。計算示例見表1。符合性判別規則與科克倫方差檢驗相同。

表1 不同條件下曼德爾k檢驗臨界值計算示例

注：F(α,ν1,ν2)可利用Excel?函數FINV(α,ν1,ν2)計算得到。

2 實驗部分

3組數據來源于環境保護部官方網站標準征求意見專欄公開發表的標準編制說明附件《方法驗證報告》，分別為《水質 百菌清及擬除蟲菊酯類農藥的測定 氣相色譜-質譜法》(HJ 753—2015)[7]，《土壤和沉積物 11種元素的測定 堿熔-電感耦合等離子體原子發射光譜法》(征求意見稿)[8]和《環境空氣 無機元素的測定 X射線熒光光譜法》(征求意見稿)[9]。1組數據來源于沉積物標準樣品中無機元素協作定值[10]；1組數據來源于海水中常規污染物方法檢出限協作驗證[3]。

3 結果與討論

根據目前通常做法，標準編制組得到各實驗室的方法檢出限數據后，取其中最大值作為方法檢出限確認值寫入標準文本。如果這些數據中有離群值該怎么辦?從數理統計學的角度看，首先應該判斷各實驗室上報的檢出限數據是否存在離群值，如果有，則應該刪去。常見的判別方法有科克倫方差檢驗法。對于存疑的數據，實驗室應進行復核，同時應盡量找到對應的技術原因后重新做實驗，得到新的結果后再上報。

科克倫方差檢驗法比較嚴格，是否需要刪去有時還需要結合專業經驗判斷。例如，協作定值中，有些實驗室數據方差離群，如果其相對標準偏差在允許范圍內，數據仍可保留[10]。必要時應該請標準審查專家組確認。現行有效的統計方法標準中，處理各家實驗室數據還有一種方法是穩健統計法[6]，其優點是不需要識別可疑值和離群值。在計算過程中，可直接將離群數據對最終結果的影響降低到最小，不需要反復數輪進行檢驗，可以避免由于忘記進行方差檢驗，直接取最大值作為最終結果的錯誤。等同采用ISO 13528—2005的標準[6]規范性附錄C推薦的穩健統計法。其中，算法A可以得到數據平均值和標準偏差的穩健值。算法S用于計算一組標準偏差的穩健合并值(或稱穩健聯合值)。

3.1 標準偏差數據存疑情況下不同計算方法結果比較

表2、表3為文獻[10]中沉積物中無機元素協作定值2種方法處理結果比較。從表2、表3可以看出，不含離群值或僅含一個離群值，刪去離群值后進行均方根處理合并標準偏差的經典方法和穩健統計處理結果基本相符。

表4為海水中常規污染物方法檢出限3種計算方法的比較。第1列為原文計算結果：采取科克倫方差檢驗法識別離群值，取通過方差檢驗合格的標準偏差數據中最大值用于計算方法檢出限；第2列為刪去離群值后進行方差合并計算方法檢出限；第3列為穩健統計結果。從表4可以看出，后2種方法結果更為接近。第1列結果和后2列結果基本相符(符合性判斷詳見3.2小節)。

表2 協作定值數據標準偏差2種方法處理結果比較(不含離群數據)

注：L=9～12，n=6;“*”表示數據單位為μg/kg，其余數據單位為mg/kg。

表3 協作定值數據標準偏差2種方法處理結果比較(含離群值數據)

注：L=9～12，n=6；“*”表示數據單位為g/kg，其余數據單位為mg/kg。

表4 海水常規污染物檢出限3種計算結果比較

匯總方法檢出限數據時，有時會發現上報數據中存在異常值。原則上應該通知數據存疑的實驗室復核數據，查找原因并重新做實驗。如果時間及人力安排均不允許，此時可以連續應用科克倫方差檢驗法識別離群值后，再對合格數據進行方差合并計算或取最大值。

表5～表7列出了標準編制說明附件《方法驗證報告》中方法檢出限匯總數據[7-8]及科克倫統計量。各項目方法檢出限數據按數值大小排列。將表中各項目方法檢出限最大值科克倫統計量C與臨界值比較，可以將其分為合格、可疑(*)和離群(** )3類。相應數據的統計量C計算值同樣分別用“*”或“** ”標記。如果該項目最大值為離群值，將繼續下一輪方差檢驗，直至符合要求。3組數據均表明，已確認的方法檢出限屬于離群值是普遍存在的情況。參與統計的29組數據中，有8組方法檢出限數據被判定為離群值，占比為27.6%。由此表明，如不按要求進行方差檢驗，直接取最大值作為方法檢出限存在估值偏高的風險。

表5 農藥-GC-MS(液液萃取)方法檢出限數據及方差檢驗結果

注：①n=7,α=0.01：L=6，臨界值=0.487,L=5，臨界值=0.553,L=4，臨界值=0.641；n=7,α=0.05：L=6，臨界值=0.418,L=5，臨界值=0.478,L=4，臨界值=0.560；② 1#～6#數據單位為μg/L，統計量C無單位；③“**”表示離群值,“—”表示無該值。下同。

表6 農藥-GC-MS(固相萃取)方法檢出限數據及方差檢驗結果

注：“*”表示可疑值。下同。臨界值參見表5注。

表7 元素-堿熔-ICP-OES測定方法檢出限原始測定數據及方差檢驗結果

由第1輪方差檢驗可知，表5有4個項目存在離群值，表6有1個可疑值，表7有4個離群值和3個可疑值。針對出現離群值的項目繼續進行方差檢驗，在第2輪檢驗中，刪去離群值后，表4所有項目剩余數據均通過檢驗；表7 中MgO、Fe2O3仍存在離群值。2輪檢驗共發現10個離群值和4個可疑值。

對應表5～表7方法檢出限匯總數據，表8～表10比較了4種方法計算結果。表8～表10中的第1行數據均是直接取最大值。即在各家實驗室上報的數據中直接取最大值(原結果)；第2行為穩健統計(算法S)計算結果；第3行為合格數據-合并，是指利用科克倫方差檢驗法識別并去掉離群值后，將剩下的數據按常規方法進行均方根合并處理；第4行合格數據-max表示經科克倫方差檢驗后，在合格數據中取最大值。從這些表中可以看出，取最大值方法的結果明顯偏高，其他3種方法計算結果基本相近。

表8 農藥-GC-MS(液液萃取)方法檢出限計算結果比較

表9 農藥-GC-MS(固相萃取)方法檢出限計算結果比較

表10 元素-堿熔-ICP-OES測定方法檢出限計算結果比較

大氣顆粒物中無機元素測定XRF方法標準驗證實驗[6]中，有7家實驗室提供了石英濾膜和聚丙烯濾膜樣品的波長色散X熒光光譜法(WD-XRF)測試數據。經過幾輪科克倫方差檢驗發現，大多數元素方法檢出限數據中都有1～2個離群值。利用穩健統計法、合格數據的合并處理、合格數據中取最大值3種方法來處理這2組數據，處理結果見圖1、圖2。

圖1 石英濾膜樣品WD-XRF方法檢出限3種方法計算結果比較Fig.1 Comparison of three methods to calculate detection limit on elements determination in quartz filter samples by WD-XRF

圖2 聚丙烯濾膜樣品WD-XRF方法檢出限3種方法計算結果比較Fig.2 Comparison of three methods to calculate detection limit on elements determination in polypropylene filter samples by WD-XRF

從圖1、圖2可以看出，大多數元素在3種方法(合格數據的合并處理、穩健統計和合格數據中取最大值)中，穩健統計法結果更接近于合格數據的合并處理后結果。合格數據中取最大值一般均大于前2種方法結果。3種方法之間沒有顯著性區別。對于需要數輪方差檢驗才能進行方差合并計算或取最大值的方法，穩健統計法具有操作簡單，無需人工干預的特點。

3.2 方法檢出限的不確定性及符合性判斷

上述幾組實測數據均證實，如果不進行方差檢驗，直接從上報結果中采用取最大值作為方法檢出限，其結果存在偏高的風險。穩健統計與刪去離群值后合并計算標準偏差的方法結果基本相符。在上報數據中取最大值作為方法檢出限，可能與實驗室計量認證(CMA)或合格實驗室認可(CNAS)要求所有實驗室均要達到標準文本上的方法檢出限要求有關，也與管理部門充分考慮到全國實驗室水平差異，特別是針對當前國內不同地區實驗條件相差較大有關。如標準規定的方法檢出限較低，會使一些實驗室抱怨。實際工作中，在標準偏差基礎上得到的方法檢出限本身就具有不確定性。同一實驗室、同一操作人員在不同時間得到的標準偏差數據有一定波動性。

如何判斷實驗室的結果與標準文本上的方法檢出限有無顯著性差別？方法檢出限來源于特定樣品系列測試數據的標準偏差。F方差檢驗是判斷2個獨立實驗結果方差是否存在顯著性差別的有效工具。基于F方差檢驗的曼德爾k檢驗可以用于方法檢出限符合性判斷。如果某實驗室根據自己的實驗數據計算得到的方法檢出限與標準上的值相比較，其比值小于等于臨界值(表1)，則認為其結果是合理的，即不存在顯著性差別。如果采用此比值判據，就無需在制定方法標準時有意放寬方法檢出限。曼德爾k檢驗比值判別法相較科克倫方差檢驗方法的優點是可以一次性識別一組數據中的離群值，無需進行多輪檢驗。

3.3 用曼德爾k檢驗法識別離群值

以原始結果均方根為基準，用曼德爾k檢驗法(比值法)核查表2～表4所列出的檢出限數據是否存在離群值，并與經典的科克倫方差檢驗法進行了比較。結果見表11～表13。

表11 用比值法檢驗農藥-GC-MS(液液萃取法)方法檢出限數據

注：科克倫檢驗臨界值參見表5注；曼德爾k檢驗離群值和可疑值臨界值分別為1.568、1.399 。

表12 用比值法檢驗農藥-GC-MS方法(固相萃取法)檢出限數據

注：參見表11注。

從表11～表13中可見，共有13個數據大于臨界值1.568 (α=0.01，參見表1)，被判為離群值。表明，這些數據與基準值之間有顯著性差別，即這些實驗室操作程序可能存在問題，需要仔細查找原因。方差檢驗中發現的10個離群值同樣被比值法識別。比值法結論與科克倫方差檢驗結論基本相符。比值法識別的其他3個離群值均在科克倫方差檢驗判定的6個可疑值之列。這些可疑值的科克倫統計量與離群值的臨界值(α=0.01)非常接近。

如果以穩健統計結果為基準，用曼德爾k檢驗法判斷表2～表4數據也可以得到相似結果。

WD-XRF數據按數值大小排列后，分別用科克倫方差檢驗法和比值法處理。將表中各元素方法檢出限最大值科克倫統計量C與臨界值比較后，將離群值用“**”表示。如該項目最大值為離群值，將繼續進行下一輪方差檢驗，直至符合要求。比值法先分別求出方法檢出限均方根值或穩健統計結果后再分別計算與各實驗室上報數據的比值。由于平行測定次數為6，故大于1.553～1.634 (取決于參與檢驗的數據個數)的數據用“**”標記。石英濾膜和聚丙烯濾膜樣品測量數據計算結果(以均方根為基準)分別見表14、表15。3種方法結果比較見表16。

表13 用比值法檢驗堿熔-ICP-OES測定方法檢出限數據

注：參見表11注。

表14 科克倫方差檢驗及曼德爾k檢驗結果比較(WD-XRF石英濾膜數據)

注：①科克倫方差檢驗：α=0.01,n=6：L=7、6、5、4,臨界值分別為0.466、0.520、0.588、0.676；α=0.05，n=6:L=7、6、5、4，臨界值分別為0.397、0.445、0.506、0.589；②曼德爾k檢驗：α=0.01，n=6:L=7、6、5、4，臨界值分別為1.634、1.616、1.591、1.553；α=0.05，n=6:L=7、6、5、4，臨界值分別為1.442、1.433、1.421、1.402。

表15 科克倫方差檢驗與曼德爾k檢驗結果比較(WD-XRF聚丙烯濾膜數據)

注：臨界值見表14注。

表16 科克倫方差檢驗及曼德爾k檢驗結果匯總

從表16可以看出，如果僅以離群值識別個數為標準進行統計，科克倫方差檢驗和穩健統計比值法顯得更嚴格一些，這可能與科克倫方差檢驗連續進行多輪檢驗有關。據文獻[4]介紹，當分布為近似正態的假定沒有充分滿足時，科克倫檢驗有可能導致過度的拒絕，因其不是為同時檢驗多個離群值而設計的，故下結論時要格外小心。

穩健統計由于已降低了離群值的影響，直接降低了基準值，從而影響了比值結果。如果只考慮科克倫檢驗的第1輪檢驗結果，以均方根為基準的比值法與科克倫方差檢驗法結果基本相符。比值法判定為離群值的大部分實例中，科克倫檢驗法也判定其為離群值。有些被比值法判定為離群值的數據中，科克倫檢驗法則判定其為合格(表14中Ni)，這與比值法中的穩健統計結果或均方根偏低有關。如果數據分布出現2個峰值，此時采用穩健統計法可能不合適。當出現類似現象時，應增加技術原因分析環節并結合專業經驗確認最終結果。

上述驗證結果表明，科克倫方差檢驗、穩健統計或均方根比值法均可有效識別離群值。2種方法得到的結果可相互驗證，保證結果不出現計算失誤。

4 結論

1)目前環境保護系統監測方法標準制定過程中，將參加方法驗證的各家實驗室方法檢出限數據匯總后，不經方差檢驗，直接取最大值作為標準文本的方法檢出限的做法不妥。其結果存在數值偏高的風險。

2)利用科克倫方差檢驗法識別并去除離群值后，將剩余數據進行均方根合并處理或取最大值得到方法檢出限。也可以直接采用穩健統計(算法S)對數據進行處理，該方法更簡便，無需人工干預。

3)以方法檢出限上報數據均方根數值為基準，利用比值法判據，同樣可識別各家實驗室上報數據中的離群值。其結果與科克倫方差檢驗法結論基本相符。

4)基于實驗室數據與標準文本上的方法檢出限進行符合性比較時，可采用比值法進行判斷。如果兩者比值小于或等于曼德爾k檢驗臨界值，則表明兩者無顯著性差別。

[1] 環境保護部科技標準司.環境監測 分析方法標準制修訂技術導則：HJ 168—2010[S].北京：中國環境科學出版社，2012.

[2] 李玉武，任立軍，王婧瑞，等.方法檢出限三個評估方法標準解讀與比較[J].中國無機分析化學，2015，5(3)：24-33.

LI Yuwu，REN Lijun，WANG Jingrui，et al，Interpretation and comparison of three procedures for the determination of method detection limit[J].Chinese Journal Inorganic Analytical Chemistry，2015,5(3)：24-33.

[3] 譚愛民，蔣海威.從實驗室質量保證探討海水新國標分析方法檢出限的應用[J].海岸工程，2003，22(4)：55-60.

TAN Aimin，JIANG Haiwei.Study on application of detection limit of new national standards for seawater analysis[J].Journal of Coastal Engineering，2003，22(4)：55-60.

[4] 全國統計方法應用標準化技術委員會.測量方法與結果的準確度(正確度與精密度)第2部分：確定標準測量方法重復性與再現性的基本方法：GB/T 6379.2—2004[S].北京：中國標準出版社，2009.

[5] 全國統計方法應用標準化技術委員會.數據的統計處理和解釋-測試結果的多重比較：GB/T 10092—2009[S].北京：中國標準出版社，2009.

[6] 全國統計方法應用標準化技術委員會.利用實驗室間比對進行能力驗證的統計方法：GB/T 28043—2011[S].北京：中國標準出版社，2011.

[7] 國家環境分析測試中心.水質 百菌清及擬除蟲菊酯類農藥的測定 氣相色譜-質譜法：HJ 753—2015.標準編制說明[EB/OL].(2015-04-02)[2016-04-07].http://www.mep.gov.cn/gkml/hbb/bgth/201504/W020150414523636829552.pdf.

[8] 吉林省環境監測中心.土壤和沉積物 11種元素的測定 堿熔-電感耦合等離子體原子發射光譜法(征求意見稿)編制說明[EB/OL].(2016-01-22)[2016-04-07].http://www.mep.gov.cn/gkml/hbb/bgth/201601/W020160129549434188472.pdf.

[9] 國家環境分析測試中心.環境空氣 無機元素的測定 X射線熒光光譜法(征求意見稿)編制說明[EB/OL].(2016-03-16)[2016-07-15].http://www.zhb.gov.cn/gkml/hbb/bgth/201603/W0201603 22374754 088793.pdf.

[10] 吳忠祥.水系沉積物和及標準樣品研制與定值技術[M].北京：中國環境科學出版社，2012.