細胞毒性試驗多孔平行數(shù)據(jù)異常值檢驗方法的比較

管 瑩，夭建華，朱洲海，米其利，曾婉俐，黃海濤，高 茜，李雪梅

（云南煙草科學研究院，云南 昆明650106）

生物實驗中為了實現(xiàn)高通量的測定，常以多孔板作為實驗的工具載體，其檢測體系可低至微升級樣品量，通量可擴充至1536孔板。該檢測手段使得研究者可以在一次試驗中獲得多個平行檢測數(shù)據(jù)，但伴隨著通量的提高，檢測體系的體積相應(yīng)減小，較小的檢測體系的穩(wěn)定性也有所下降。細胞毒性試驗作為一類重要的體外實驗，廣泛應(yīng)用于評定食品、藥品、化妝品對細胞的毒性作用［1－3］。該試驗是將受試物加入到種植有受試細胞的96孔細胞培養(yǎng)板中，通過檢測受試物對細胞存活率的影響，來判定受試物的細胞毒性。由于在將受試細胞種植到96孔細胞培養(yǎng)板的過程中，很難保證接種到每孔中的細胞數(shù)量和狀態(tài)完全一致，可能會導(dǎo)致在同一批平行檢測的數(shù)據(jù)中有個別數(shù)據(jù)與其它數(shù)據(jù)明顯不一致，這種數(shù)據(jù)稱為異常值，也稱為異常數(shù)據(jù)或離群值［4］。實際運用中，當檢測數(shù)據(jù)中存在與其它檢測值差異較大的數(shù)據(jù)時，應(yīng)首先排除檢測過程中操作技術(shù)、儀器故障、數(shù)據(jù)計算、筆誤等產(chǎn)生的誤差［5］。未經(jīng)正式統(tǒng)計分析處理就將主觀上認為異常的值任意舍棄的做法是不可取的，這樣做表面上得到了分散很小、精密度很高的結(jié)果，但實質(zhì)上可能降低了重復(fù)測量得到的平均值的準確度，以相同條件再次檢測時，超過該誤差指標范圍的“異常值”必然還會再次出現(xiàn)。

如何評估檢測數(shù)據(jù)的準確性是統(tǒng)計學研究的重要課題，也是當前檢測工作中普遍關(guān)心的問題。選取適當?shù)漠惓Ｖ禉z驗方法對數(shù)據(jù)進行分析就尤為重要。鑒于此，作者對常用的5種異常值檢驗方法的適用情況及對同一組細胞毒性試驗數(shù)據(jù)異常值的檢出進行了比較研究，以期為相關(guān)科研工作者選取適當異常值檢驗方法提供依據(jù)。

1 異常值的判別方法［6］

1．1 拉依達（Pauta）準則

拉依達準則又稱3σ準則，該準則檢驗數(shù)據(jù)基于正態(tài)分布，根據(jù)正態(tài)分布理論｜vd｜≤3σ的概率為99．7%，因此在有限檢測中，某次檢測值的誤差大于3σ的幾率僅為0．3%，則認為該檢測值為粗大誤差值的異常值，需剔除。

當檢測次數(shù)n較大時，該準則簡單易行，是比較實驗中的常用方法。但當n不太大時，檢測數(shù)據(jù)中即使存在誤差較大的異常值也很難被檢出，由于貝塞爾公式意味著≤3σ，異常值無法檢出。

由此表明，當重復(fù)檢測值較少時，不宜使用拉依達準則，特別是當n≤10時，拉依達準則完全無法檢出異常值。但樣本量較大時，用拉依達準則對檢測數(shù)據(jù)的異常值進行初篩最為簡便［7］。

1．2 肖維勒（Chauvenet）準則

肖維勒準則也是以數(shù)據(jù)呈正態(tài)分布為前提。假設(shè)多次重復(fù)測量所得的n個檢測值中，某個檢測值的殘余誤差｜ΔXi｜＞Zcσ，則剔除此數(shù)據(jù)。其中Zc是樣本容量為n時的判別系數(shù)，可以由Zc值表獲取。肖維勒準則在一定程度上彌補了拉依達準則的不足，可以用于n≤10時對異常值進行判定。相對于拉依達準則，肖維勒準則更為嚴格。

1．3 格拉布斯（Grubbs）準則

格拉布斯準則與肖維勒準則相似，但判定系數(shù)不同。格拉布斯準則中假設(shè)多次重復(fù)測量所得的n個檢測值中，當某個檢測值的殘余誤差｜ΔXi｜＞T0σ，則剔除此數(shù)據(jù)。T0是樣本容量為n時的判別系數(shù)，可以由T0（n，α）值表獲取，與肖維勒準則中Zc值判定系數(shù)不同的是T0值與重復(fù)測量次數(shù)n和置信概率α均相關(guān)，格拉布斯準則概率意義更為明確。格拉布斯準則也要求檢測數(shù)據(jù)呈正態(tài)分布。

1．4 狄克遜（Dxion）準則

狄克遜準則也是以數(shù)據(jù)呈正態(tài)分布為前提，通過極差比判定和剔除異常數(shù)據(jù)。假設(shè)有一組測量數(shù)據(jù)，從小到大依次排列有X1≤X2≤…≤Xn，且為正態(tài)分布，則可能為異常值的檢測數(shù)據(jù)必然出現(xiàn)在兩端，即X1或Xn。與一般比較簡單極差的方法不同，狄克遜準則為了提高判斷效率，對不同樣本量應(yīng)用不同的極差比公式進行計算，見表1。

表1 不同樣本量對應(yīng)的極差比公式Tab．1 Formula of different sample sizes

在確定檢驗水平α后查表得出臨界值D1－α（n），分別檢驗高端值 Dn和低端值 D′n，當 Dn＞D1－α（n）或D′n＞D1－α（n）時判定 Xn或 X1為異常值，反之則無異常值檢出。

1．5 羅馬諾夫斯基（t檢驗）準則

羅馬諾夫斯基準則也是將最小檢測數(shù)據(jù)與最大檢測數(shù)據(jù)分別進行檢驗，如｜X1－｜＞K（n，α）σ′或｜Xn－｜＞K（n，α）σ′則判定X1或Xn為異常值。式中X′和σ′分別為不包含X1或Xn的n－1個數(shù)據(jù)的均值和標準差；K（n，α）為臨界值，其中n為樣本容量、α為置信度，K（n，α）值可通過查表獲得。

這種檢驗方法是將X1或Xn暫時刪去后進行計算，這樣既保證σ′的正確性又保證了其獨立性。

2 各準則檢驗步驟及應(yīng)用實例

表2給出的測量數(shù)據(jù)為本實驗室某次MTT細胞毒性試驗細胞對照組的16個平行孔于490nm波長下檢測的吸光值。以下分別用拉依達準則、肖維勒準則、格拉布斯準則、狄克遜準則、羅馬諾夫斯基準則對該組數(shù)據(jù)進行檢驗，判斷是否存在異常值。

表2 細胞毒性試驗同一劑量平行孔測量結(jié)果Tab．2 Detection results of cytotoxicity parallel

2．1 拉依達準則檢驗步驟及結(jié)果

（1）計算算術(shù)平均值：

（2）計算剩余誤差及3倍標準偏差σ：

（3）計算結(jié)果表明，16個檢測值中14＃測量值剩余誤差最大，為0．7255，但仍小于3σ（0．8549），根據(jù)拉依達準則該組數(shù)據(jù)中無異常值。

2．2 肖維勒準則檢驗步驟及結(jié)果

（1）計算算術(shù)平均值：

（2）計算剩余誤差及標準偏差σ：

（3）對應(yīng)Zc值表，當樣本量n＝16時對應(yīng)的Zc值為2．15，故Zcσ＝2．15×0．2850＝0．6127。

（4）計算結(jié)果表明，16個檢測值中14＃、15＃測量值剩余誤差分別為0．7255、0．6595，均大于Zcσ（0．6127），根據(jù)肖維勒準則該組14＃、15＃測量數(shù)據(jù)1．688、0．303為可疑值，任意選擇剔除其中一個值后繼續(xù)檢測，本例中首先剔除1．688。

（5）根據(jù)上述步驟繼續(xù)對剩余15個數(shù)據(jù)進行檢驗，檢出可疑值0．303、0．640、1．291，任意選擇剔除其中一個值后繼續(xù)檢測，本例中首先剔除0．303。

（6）根據(jù)上述步驟繼續(xù)對剩余14個數(shù)據(jù)進行檢驗，檢出可疑值0．640、1．291，任意選擇剔除其中一個值后繼續(xù)檢測，本例中首先剔除1．291。

（7）根據(jù)上述步驟繼續(xù)對剩余13個數(shù)據(jù)進行檢驗，檢出可疑值0．640，剔除后繼續(xù)檢測。

（8）根據(jù)上述步驟繼續(xù)對剩余12個數(shù)據(jù)進行檢驗，無異常值檢出。

根據(jù)肖維勒準則共剔除4個異常值，分別為0．303、0．640、1．291、1．688。

2．3 格拉布斯準則檢驗步驟及結(jié)果

（1）確定置信概率α為0．05。（2）計算算術(shù)平均值：

（3）計算剩余誤差及標準偏差σ：

（4）查表獲得T0（16，0．05）值并計算T0σ：對應(yīng)T0（n，α）值表，當樣本量n＝16、置信概率α為0．05時，對應(yīng)的 T0值為2．44，故 T0σ＝2．44×0．2850＝0．6953。

（5）計算結(jié)果表明，16個檢測值中14＃測量值的剩余誤差為0．7255，大于T0σ（0．6953），根據(jù)格拉布斯準則應(yīng)予以剔除。

（6）根據(jù)上述步驟繼續(xù)對剩余15個數(shù)據(jù)進行檢驗，剔除0．303。

（7）根據(jù)上述步驟繼續(xù)對剩余14個數(shù)據(jù)進行檢驗，剔除1．291。

（8）根據(jù)上述步驟繼續(xù)對剩余13個數(shù)據(jù)進行檢驗，剔除0．640。

（9）根據(jù)上述步驟繼續(xù)對剩余12個數(shù)據(jù)進行檢驗，無異常值檢出。

根據(jù)格拉布斯準則共剔除4個異常值，分別為0．303、0．640、1．291、1．688。

2．4 狄克遜準則檢驗步驟及結(jié)果

（1）確定置信概率α為0．05。

（2）將 16 個數(shù)據(jù)從小到大依次排序：0．303、0．640、0．854……1．080、1．291、1．688。

（3）根據(jù)樣本量選擇極差比公式：該組數(shù)據(jù)樣本量為16，屬于14≤n≤30范圍內(nèi)，故選擇公式分別對高端和低端異常值進行檢驗。

（4）計算Dn和D′n值，并確定較大值。

根據(jù)計算結(jié)果Dn＞D′n。

（5）查表獲得D0．95值為0．547。

（6）根據(jù)狄克遜準則剔除異常值：由于Dn＞D0．95（16）故該組數(shù)據(jù)中最大值1．688應(yīng)予剔除。

（7）根據(jù)上述步驟繼續(xù)對剩余15個數(shù)據(jù)進行檢驗，剔除0．303。

（8）根據(jù)上述步驟繼續(xù)對剩余14個數(shù)據(jù)進行檢驗，剔除1．291。

（9）根據(jù)上述步驟繼續(xù)對剩余13個數(shù)據(jù)進行檢驗，剔除0．640。

（10）根據(jù)上述步驟繼續(xù)對剩余12個數(shù)據(jù)進行檢驗，無異常值檢出。

根據(jù)狄克遜準則共剔除4個異常值，分別為0．303、0．640、1．291、1．688。

2．5 羅馬諾夫斯基準則檢驗步驟及結(jié)果

（1）確定置信概率α為0．05。

（2）將 16 個數(shù)據(jù)從小到 大依次排序：0．303、0．640、0．854……1．080、1．291、1．688。

（3）暫時去除X1后計算、σ′分別為1．0065、0．2321；｜X1－｜＝｜0．303－1．0065｜＝0．7035。

（4）經(jīng)查表，當樣本容量為16時，K 值為2．22，計算得到K（n，α）σ′值為0．5153。

（5）根據(jù)判定準則剔除異常值：由于｜X1－｜（0．7035）大于 K（n，α）σ′（0．5153），故判定0．303為異常值，予以剔除。

（6）根據(jù)上述步驟繼續(xù)對剩余15個數(shù)據(jù)進行檢驗，剔除1．688。

（7）根據(jù)上述步驟繼續(xù)對剩余14個數(shù)據(jù)進行檢驗，剔除1．291。

（8）根據(jù)上述步驟繼續(xù)對剩余13個數(shù)據(jù)進行檢驗，剔除0．640。

（9）根據(jù)上述步驟繼續(xù)對剩余12個數(shù)據(jù)進行檢驗，剔除1．080。

（10）根據(jù)上述步驟繼續(xù)對剩余11個數(shù)據(jù)進行檢驗，無異常值檢出。

根據(jù)羅馬諾夫斯基準則共剔除5個異常值，分別為0．303、0．640、1．080、1．291、1．688。

2．6 討論

以上判定準則都是以數(shù)據(jù)呈正態(tài)分布為前提，當數(shù)據(jù)偏離正態(tài)分布時檢驗結(jié)果不一定可靠。

從樣本量的適用情況來看，拉依達準則不需查表，計算最為簡便，但結(jié)果可靠性不高，尤其是在樣本量較小時，因此拉依達準則通常用于樣本量較大且對檢驗結(jié)果要求不太高時對大量檢測數(shù)據(jù)進行初篩；樣本量較小時選擇狄克遜準則、羅馬諾夫斯基準則對離群值的判定功效較優(yōu)，肖維勒準則、格拉布斯準則檢驗樣本量適中，但這一區(qū)分并不十分嚴格。細胞毒性試驗多孔平行數(shù)據(jù)通常屬于較小樣本量，在實際運用中選擇拉依達準則對其進行檢驗是不合適的。

從計算方式來看，肖維勒準則、格拉布斯準則、羅馬諾夫斯基準則都需要計算標準偏差σ，并通過查表獲得一個系數(shù)以此來計算相應(yīng)臨界值Xσ。對這三種準則分別對應(yīng)的Zc值、T0值、K值表進行比較，羅馬諾夫斯基準則最為嚴格，其次是肖維勒準則，格拉布斯準則相對較為寬泛［8］。除此之外，肖維勒準則所對應(yīng)的Zc值大小只與樣本量n相關(guān)，置信概率α對Zc值無影響，相較格拉布斯準則、羅馬諾夫斯基準則以及狄克遜準則，肖維勒準則概率意義較為模糊。

從檢出離群值的個數(shù)來看，以上5種判定準則均可以通過重復(fù)使用對可疑值進行逐一檢出，但重復(fù)使用同一檢驗法可能犯判多為少的錯誤，重復(fù)檢驗時狄克遜準則較好，但計算相對復(fù)雜［4］。

3 結(jié)論

細胞毒性試驗多孔平行數(shù)據(jù)屬于小樣本量數(shù)據(jù)，待檢出的異常值不僅限于1個。根據(jù)細胞毒性試驗多孔平行數(shù)據(jù)的特點綜合考慮這5種準則的適用范圍、計算方式、嚴格程度，選用狄克遜準則較為適宜，該準則概率意義明確，適用于對樣本量較小的數(shù)據(jù)進行檢驗，且在需要對1個以上異常值進行檢出時效果較好。值得注意的是，雖然可以通過重復(fù)利用狄克遜準則對數(shù)據(jù)中的多個異常值進行逐個檢出，但在一組檢出數(shù)據(jù)中，可疑數(shù)據(jù)應(yīng)很少，若一組數(shù)據(jù)中的可疑數(shù)據(jù)較多，則提示數(shù)據(jù)測量體系可能異常，可考慮重新測量。

［1］林祥梅，王建峰，梅琳，等．用人角質(zhì)細胞評價4種化妝品的細胞毒性［J］．毒理學雜志，2008，22（1）：75－76．

［2］夭建華，陳輝敏，方力，等．國內(nèi)外卷煙危害性評價方法現(xiàn)狀和發(fā)展趨勢［J］．煙草科技，2007，（1）：50－53．

［3］蘇建青，褚秀玲，李俊霞，等．中性紅染色法檢測人參皂苷及其衍生物對CEF增殖的影響［J］．安徽農(nóng)業(yè)科學，2009，37（35）：17523－17525．

［4］GB／T 4883－2008，數(shù)據(jù)統(tǒng)計處理和解釋 正態(tài)樣本離群值的判斷與處理［S］．

［5］馬林茂．數(shù)據(jù)處理中異常值的取舍［J］．疾病監(jiān)測，2010，（12）：992－993．

［6］樂立利．觀測數(shù)據(jù)的異常值統(tǒng)計檢驗方法研究［D］．長沙：中南大學，2008．

［7］熊萬杰，黃振中．用Origin軟件處理物理實驗數(shù)據(jù)［J］．大學物理實驗，2004，17（2）：65－67．

［8］何平．剔除測量數(shù)據(jù)中異常值的若干方法［J］．航空計測技術(shù)，1995，（15）：19－22．