管 瑩，夭建華，朱洲海，米其利，曾婉俐，黃海濤，高 茜，李雪梅

（云南煙草科學研究院，云南 昆明650106）

生物實驗中為了實現(xiàn)高通量的測定，常以多孔板作為實驗的工具載體，其檢測體系可低至微升級樣品量，通量可擴充至1536孔板。該檢測手段使得研究者可以在一次試驗中獲得多個平行檢測數(shù)據(jù)，但伴隨著通量的提高，檢測體系的體積相應減小，較小的檢測體系的穩(wěn)定性也有所下降。細胞毒性試驗作為一類重要的體外實驗，廣泛應用于評定食品、藥品、化妝品對細胞的毒性作用［1－3］。該試驗是將受試物加入到種植有受試細胞的96孔細胞培養(yǎng)板中，通過檢測受試物對細胞存活率的影響，來判定受試物的細胞毒性。由于在將受試細胞種植到96孔細胞培養(yǎng)板的過程中，很難保證接種到每孔中的細胞數(shù)量和狀態(tài)完全一致，可能會導致在同一批平行檢測的數(shù)據(jù)中有個別數(shù)據(jù)與其它數(shù)據(jù)明顯不一致，這種數(shù)據(jù)稱為異常值，也稱為異常數(shù)據(jù)或離群值［4］。實際運用中，當檢測數(shù)據(jù)中存在與其它檢測值差異較大的數(shù)據(jù)時，應首先排除檢測過程中操作技術、儀器故障、數(shù)據(jù)計算、筆誤等產(chǎn)生的誤差［5］。未經(jīng)正式統(tǒng)計分析處理就將主觀上認為異常的值任意舍棄的做法是不可取的，這樣做表面上得到了分散很小、精密度很高的結果，但實質上可能降低了重復測量得到的平均值的準確度，以相同條件再次檢測時，超過該誤差指標范圍的“異常值”必然還會再次出現(xiàn)。

如何評估檢測數(shù)據(jù)的準確性是統(tǒng)計學研究的重要課題，也是當前檢測工作中普遍關心的問題。選取適當?shù)漠惓Ｖ禉z驗方法對數(shù)據(jù)進行分析就尤為重要。鑒于此，作者對常用的5種異常值檢驗方法的適用情況及對同一組細胞毒性試驗數(shù)據(jù)異常值的檢出進行了比較研究，以期為相關科研工作者選取適當異常值檢驗方法提供依據(jù)。

1 異常值的判別方法［6］

1．1 拉依達（Pauta）準則

拉依達準則又稱3σ準則，該準則檢驗數(shù)據(jù)基于正態(tài)分布，根據(jù)正態(tài)分布理論｜vd｜≤3σ的概率為99．7%，因此在有限檢測中，某次檢測值的誤差大于3σ的幾率僅為0．3%，則認為該檢測值為粗大誤差值的異常值，需剔除。

當檢測次數(shù)n較大時，該準則簡單易行，是比較實驗中的常用方法。但當n不太大時，檢測數(shù)據(jù)中即使存在誤差較大的異常值也很難被檢出，由于貝塞爾公式意味著≤3σ，異常值無法檢出。

由此表明，當重復檢測值較少時，不宜使用拉依達準則，特別是當n≤10時，拉依達準則完全無法檢出異常值。但樣本量較大時，用拉依達準則對檢測數(shù)據(jù)的異常值進行初篩最為簡便［7］。

1．2 肖維勒（Chauvenet）準則

肖維勒準則也是以數(shù)據(jù)呈正態(tài)分布為前提。假設多次重復測量所得的n個檢測值中，某個檢測值的殘余誤差｜ΔXi｜＞Zcσ，則剔除此數(shù)據(jù)。其中Zc是樣本容量為n時的判別系數(shù)，可以由Zc值表獲取。肖維勒準則在一定程度上彌補了拉依達準則的不足，可以用于n≤10時對異常值進行判定。相對于拉依達準則，肖維勒準則更為嚴格。

1．3 格拉布斯（Grubbs）準則

格拉布斯準則與肖維勒準則相似，但判定系數(shù)不同。格拉布斯準則中假設多次重復測量所得的n個檢測值中，當某個檢測值的殘余誤差｜ΔXi｜＞T0σ，則剔除此數(shù)據(jù)。T0是樣本容量為n時的判別系數(shù)，可以由T0（n，α）值表獲取，與肖維勒準則中Zc值判定系數(shù)不同的是T0值與重復測量次數(shù)n和置信概率α均相關，格拉布斯準則概率意義更為明確。格拉布斯準則也要求檢測數(shù)據(jù)呈正態(tài)分布。

1．4 狄克遜（Dxion）準則

狄克遜準則也是以數(shù)據(jù)呈正態(tài)分布為前提，通過極差比判定和剔除異常數(shù)據(jù)。假設有一組測量數(shù)據(jù)，從小到大依次排列有X1≤X2≤…≤Xn，且為正態(tài)分布，則可能為異常值的檢測數(shù)據(jù)必然出現(xiàn)在兩端，即X1或Xn。與一般比較簡單極差的方法不同，狄克遜準則為了提高判斷效率，對不同樣本量應用不同的極差比公式進行計算，見表1。

表1 不同樣本量對應的極差比公式Tab．1 Formula of different sample sizes

在確定檢驗水平α后查表得出臨界值D1－α（n），分別檢驗高端值 Dn和低端值 D′n，當 Dn＞D1－α（n）或D′n＞D1－α（n）時判定 Xn或 X1為異常值，反之則無異常值檢出。

1．5 羅馬諾夫斯基（t檢驗）準則

羅馬諾夫斯基準則也是將最小檢測數(shù)據(jù)與最大檢測數(shù)據(jù)分別進行檢驗，如｜X1－｜＞K（n，α）σ′或｜Xn－｜＞K（n，α）σ′則判定X1或Xn為異常值。式中X′和σ′分別為不包含X1或Xn的n－1個數(shù)據(jù)的均值和標準差；K（n，α）為臨界值，其中n為樣本容量、α為置信度，K（n，α）值可通過查表獲得。

這種檢驗方法是將X1或Xn暫時刪去后進行計算，這樣既保證σ′的正確性又保證了其獨立性。

2 各準則檢驗步驟及應用實例

表2給出的測量數(shù)據(jù)為本實驗室某次MTT細胞毒性試驗細胞對照組的16個平行孔于490nm波長下檢測的吸光值。以下分別用拉依達準則、肖維勒準則、格拉布斯準則、狄克遜準則、羅馬諾夫斯基準則對該組數(shù)據(jù)進行檢驗，判斷是否存在異常值。

表2 細胞毒性試驗同一劑量平行孔測量結果Tab．2 Detection results of cytotoxicity parallel

2．1 拉依達準則檢驗步驟及結果

（1）計算算術平均值：

（2）計算剩余誤差及3倍標準偏差σ：

（3）計算結果表明，16個檢測值中14＃測量值剩余誤差最大，為0．7255，但仍小于3σ（0．8549），根據(jù)拉依達準則該組數(shù)據(jù)中無異常值。

2．2 肖維勒準則檢驗步驟及結果

（1）計算算術平均值：

（2）計算剩余誤差及標準偏差σ：

（3）對應Zc值表，當樣本量n＝16時對應的Zc值為2．15，故Zcσ＝2．15×0．2850＝0．6127。

（4）計算結果表明，16個檢測值中14＃、15＃測量值剩余誤差分別為0．7255、0．6595，均大于Zcσ（0．6127），根據(jù)肖維勒準則該組14＃、15＃測量數(shù)據(jù)1．688、0．303為可疑值，任意選擇剔除其中一個值后繼續(xù)檢測，本例中首先剔除1．688。

（5）根據(jù)上述步驟繼續(xù)對剩余15個數(shù)據(jù)進行檢驗，檢出可疑值0．303、0．640、1．291，任意選擇剔除其中一個值后繼續(xù)檢測，本例中首先剔除0．303。

（6）根據(jù)上述步驟繼續(xù)對剩余14個數(shù)據(jù)進行檢驗，檢出可疑值0．640、1．291，任意選擇剔除其中一個值后繼續(xù)檢測，本例中首先剔除1．291。

（7）根據(jù)上述步驟繼續(xù)對剩余13個數(shù)據(jù)進行檢驗，檢出可疑值0．640，剔除后繼續(xù)檢測。

（8）根據(jù)上述步驟繼續(xù)對剩余12個數(shù)據(jù)進行檢驗，無異常值檢出。

根據(jù)肖維勒準則共剔除4個異常值，分別為0．303、0．640、1．291、1．688。

2．3 格拉布斯準則檢驗步驟及結果

（1）確定置信概率α為0．05。（2）計算算術平均值：

（3）計算剩余誤差及標準偏差σ：

（4）查表獲得T0（16，0．05）值并計算T0σ：對應T0（n，α）值表，當樣本量n＝16、置信概率α為0．05時，對應的 T0值為2．44，故 T0σ＝2．44×0．2850＝0．6953。

（5）計算結果表明，16個檢測值中14＃測量值的剩余誤差為0．7255，大于T0σ（0．6953），根據(jù)格拉布斯準則應予以剔除。

（6）根據(jù)上述步驟繼續(xù)對剩余15個數(shù)據(jù)進行檢驗，剔除0．303。

（7）根據(jù)上述步驟繼續(xù)對剩余14個數(shù)據(jù)進行檢驗，剔除1．291。

（8）根據(jù)上述步驟繼續(xù)對剩余13個數(shù)據(jù)進行檢驗，剔除0．640。

（9）根據(jù)上述步驟繼續(xù)對剩余12個數(shù)據(jù)進行檢驗，無異常值檢出。

根據(jù)格拉布斯準則共剔除4個異常值，分別為0．303、0．640、1．291、1．688。

2．4 狄克遜準則檢驗步驟及結果

（1）確定置信概率α為0．05。

（2）將 16 個數(shù)據(jù)從小到大依次排序：0．303、0．640、0．854……1．080、1．291、1．688。

（3）根據(jù)樣本量選擇極差比公式：該組數(shù)據(jù)樣本量為16，屬于14≤n≤30范圍內，故選擇公式分別對高端和低端異常值進行檢驗。

（4）計算Dn和D′n值，并確定較大值。

根據(jù)計算結果Dn＞D′n。

（5）查表獲得D0．95值為0．547。

（6）根據(jù)狄克遜準則剔除異常值：由于Dn＞D0．95（16）故該組數(shù)據(jù)中最大值1．688應予剔除。

（7）根據(jù)上述步驟繼續(xù)對剩余15個數(shù)據(jù)進行檢驗，剔除0．303。

（8）根據(jù)上述步驟繼續(xù)對剩余14個數(shù)據(jù)進行檢驗，剔除1．291。

（9）根據(jù)上述步驟繼續(xù)對剩余13個數(shù)據(jù)進行檢驗，剔除0．640。

（10）根據(jù)上述步驟繼續(xù)對剩余12個數(shù)據(jù)進行檢驗，無異常值檢出。

根據(jù)狄克遜準則共剔除4個異常值，分別為0．303、0．640、1．291、1．688。

2．5 羅馬諾夫斯基準則檢驗步驟及結果

（1）確定置信概率α為0．05。

（2）將 16 個數(shù)據(jù)從小到 大依次排序：0．303、0．640、0．854……1．080、1．291、1．688。

（3）暫時去除X1后計算、σ′分別為1．0065、0．2321；｜X1－｜＝｜0．303－1．0065｜＝0．7035。

（4）經(jīng)查表，當樣本容量為16時，K 值為2．22，計算得到K（n，α）σ′值為0．5153。

（5）根據(jù)判定準則剔除異常值：由于｜X1－｜（0．7035）大于 K（n，α）σ′（0．5153），故判定0．303為異常值，予以剔除。

（6）根據(jù)上述步驟繼續(xù)對剩余15個數(shù)據(jù)進行檢驗，剔除1．688。

（7）根據(jù)上述步驟繼續(xù)對剩余14個數(shù)據(jù)進行檢驗，剔除1．291。

（8）根據(jù)上述步驟繼續(xù)對剩余13個數(shù)據(jù)進行檢驗，剔除0．640。

（9）根據(jù)上述步驟繼續(xù)對剩余12個數(shù)據(jù)進行檢驗，剔除1．080。

（10）根據(jù)上述步驟繼續(xù)對剩余11個數(shù)據(jù)進行檢驗，無異常值檢出。

根據(jù)羅馬諾夫斯基準則共剔除5個異常值，分別為0．303、0．640、1．080、1．291、1．688。

2．6 討論

以上判定準則都是以數(shù)據(jù)呈正態(tài)分布為前提，當數(shù)據(jù)偏離正態(tài)分布時檢驗結果不一定可靠。

從樣本量的適用情況來看，拉依達準則不需查表，計算最為簡便，但結果可靠性不高，尤其是在樣本量較小時，因此拉依達準則通常用于樣本量較大且對檢驗結果要求不太高時對大量檢測數(shù)據(jù)進行初篩；樣本量較小時選擇狄克遜準則、羅馬諾夫斯基準則對離群值的判定功效較優(yōu)，肖維勒準則、格拉布斯準則檢驗樣本量適中，但這一區(qū)分并不十分嚴格。細胞毒性試驗多孔平行數(shù)據(jù)通常屬于較小樣本量，在實際運用中選擇拉依達準則對其進行檢驗是不合適的。

從計算方式來看，肖維勒準則、格拉布斯準則、羅馬諾夫斯基準則都需要計算標準偏差σ，并通過查表獲得一個系數(shù)以此來計算相應臨界值Xσ。對這三種準則分別對應的Zc值、T0值、K值表進行比較，羅馬諾夫斯基準則最為嚴格，其次是肖維勒準則，格拉布斯準則相對較為寬泛［8］。除此之外，肖維勒準則所對應的Zc值大小只與樣本量n相關，置信概率α對Zc值無影響，相較格拉布斯準則、羅馬諾夫斯基準則以及狄克遜準則，肖維勒準則概率意義較為模糊。

從檢出離群值的個數(shù)來看，以上5種判定準則均可以通過重復使用對可疑值進行逐一檢出，但重復使用同一檢驗法可能犯判多為少的錯誤，重復檢驗時狄克遜準則較好，但計算相對復雜［4］。

3 結論

細胞毒性試驗多孔平行數(shù)據(jù)屬于小樣本量數(shù)據(jù)，待檢出的異常值不僅限于1個。根據(jù)細胞毒性試驗多孔平行數(shù)據(jù)的特點綜合考慮這5種準則的適用范圍、計算方式、嚴格程度，選用狄克遜準則較為適宜，該準則概率意義明確，適用于對樣本量較小的數(shù)據(jù)進行檢驗，且在需要對1個以上異常值進行檢出時效果較好。值得注意的是，雖然可以通過重復利用狄克遜準則對數(shù)據(jù)中的多個異常值進行逐個檢出，但在一組檢出數(shù)據(jù)中，可疑數(shù)據(jù)應很少，若一組數(shù)據(jù)中的可疑數(shù)據(jù)較多，則提示數(shù)據(jù)測量體系可能異常，可考慮重新測量。

［1］林祥梅，王建峰，梅琳，等．用人角質細胞評價4種化妝品的細胞毒性［J］．毒理學雜志，2008，22（1）：75－76．

［2］夭建華，陳輝敏，方力，等．國內外卷煙危害性評價方法現(xiàn)狀和發(fā)展趨勢［J］．煙草科技，2007，（1）：50－53．

［3］蘇建青，褚秀玲，李俊霞，等．中性紅染色法檢測人參皂苷及其衍生物對CEF增殖的影響［J］．安徽農業(yè)科學，2009，37（35）：17523－17525．

［4］GB／T 4883－2008，數(shù)據(jù)統(tǒng)計處理和解釋 正態(tài)樣本離群值的判斷與處理［S］．

［5］馬林茂．數(shù)據(jù)處理中異常值的取舍［J］．疾病監(jiān)測，2010，（12）：992－993．

［6］樂立利．觀測數(shù)據(jù)的異常值統(tǒng)計檢驗方法研究［D］．長沙：中南大學，2008．

［7］熊萬杰，黃振中．用Origin軟件處理物理實驗數(shù)據(jù)［J］．大學物理實驗，2004，17（2）：65－67．

［8］何平．剔除測量數(shù)據(jù)中異常值的若干方法［J］．航空計測技術，1995，（15）：19－22．