李 娜, 鄭學學, 譚德講, 王翠杰, 李向群, 杜 穎
(1.北京民海生物科技有限公司,北京 102609;2.國家藥品監(jiān)督管理局化學藥品質量研究與評價重點實驗室,中國食品藥品檢定研究院,北京 102629)
影響檢定實驗室質量的關鍵因素,包括是“人、機、料、法、環(huán)”等,其中,“人”是實驗室質量管理體系中的第一要素。檢測人員的檢定水平,將會直接影響一個實驗室的質量管理水平和檢測水平。2011 年1月17 日,國務院頒布的中華人民共和國衛(wèi)生部令第79號《藥品生產(chǎn)質量管理規(guī)范(2010 年修訂)》[1]提到企業(yè)應配備足夠數(shù)量和資質的人員從事質量管理和操作;CNAS CL01《檢測和校準實驗室能力認可準則》(2018)[2]中也明確說明從事檢驗的人員除滿足專業(yè)和學歷要求外,還要有相應的技術能力和經(jīng)驗。以上法規(guī)文件均強調了人員能力與技術崗位之間的匹配度,即技術人員是否有完備的專業(yè)技能以勝任所處崗位。
目前,國內對實驗室內部技術人員的資質評估方式尚沒有統(tǒng)一的規(guī)定和評判標準,現(xiàn)存法規(guī)和指導原則中缺乏科學的量化指標以評價人員檢測能力(簡稱“能力”);僅有的少數(shù)評定方法,在實際評定中因受人為主觀因素影響,導致漏判誤判風險增大。導致部分實驗室人員能力與崗位需求不符,團隊人員間檢測能力參差不齊,檢驗工作運行受阻,產(chǎn)品的誤判風險增大的現(xiàn)象發(fā)生。因此建立一套切實可行的人員能力評價模式,科學公正的人員能力評定模式已成為實驗室質量管理亟須解決的重要問題之一。
為評估技術人員及其團隊整體技術水平,確保人員能不斷適應和滿足檢測技術的新要求,參考實驗室能力驗證項目[3-7],運用統(tǒng)計學的分析方法,以嚴謹?shù)膶嶒炘O計建立了評定人員檢測能力和團隊整體水平的新方案、新方法,為實驗室質量管理規(guī)范化提供科學的技術支撐。
人員能力評定最直接有效的方法是盲樣測試,盲樣測試的方案為固定其他影響因素,僅考察人員的變動對檢測結果所導致的差異來評判人員的能力和團隊的綜合水平。即實驗室內部人員在合理的時間段內,對相同待測樣品,使用同一方法,在相同的儀器設備上完成檢測,收集數(shù)據(jù)結果來判斷人員能力是否合規(guī)。以下兩種情況為人員能力評定的常見設計方案。
當考察1 位人員的能力時,如新進人員的上崗資質考察,需要實驗人員對已知評定標準(參考值)的待測品進行獨立(重復)測定,測定結果或其均值同評定標準(參考值)相比較,這種“一對一”的評定方式稱為測量審核[3,7]。測量審核中一般要求評定標準明確已知,否則無法準確判斷技術人員的能力。
(1)多個人員單次檢測。當考察實驗室多個人員的檢測能力且每人僅進行一次獨立實驗時,常見于實驗室內部人員的技術比賽或人員能力比對,將檢測結果直接作為與評定標準相比較的報告值,若無評定標準可根據(jù)每位實驗員的檢測結果制定出一個指定值作為與之比較的值。
(2)多個人員重復多次檢測。在實驗室允許的條件下,建議每位人員都能進行多次獨立的重復操作,這樣不僅可以比較出人員之間的檢測差異,同時也能評價每位人員檢測水平的穩(wěn)定性。在該實驗設計下有寬松評定和嚴格評定兩種判定標準(見例3)。
人員能力評定包括已知評定標準和未知評定標準兩種情況,已知評定標準時直接查看檢測結果是否落在標準范圍內去評估人員能力;當檢測方法無評定標準時,可以匯總人員的檢測結果計算一個能夠準確賦予待測樣品特定性的值——指定值。確定指定值后通過能力統(tǒng)計量進行評定。其中,指定值的確定需要結合檢測數(shù)據(jù)的分布、異常值的比例以及實驗方案等因素。常見的統(tǒng)計方法分為:經(jīng)典統(tǒng)計和穩(wěn)健統(tǒng)計。統(tǒng)計方法的計算公式可參考GB/T 28043[7-8]。
確定了參考值或指定值及其標準差后,可通過能力統(tǒng)計量(Z值、PA值等)量化人員的能力,從而科學、公正地評定人員的技術能力。
人員在進行實驗后所得檢測結果通常需要轉化為能與其他目標做比較的能力統(tǒng)計量。轉化的目的是衡量檢測結果與參考值/指定值之間的偏離,從而統(tǒng)一尺度比較人員能力。能力統(tǒng)計量的表達有多種方式,本文重點介紹PA值和Z值[7]:
(1)PA值。允許偏差百分比(PA)的計算公式為:
PA值對應的含義如下:
PA≥100%或PA≤-100%表示人員能力不合格。
(2)Z值
式中:xi為參加人員的檢測結果;xPT為人員能力評定的指定值;σPT為人員能力評定標準差。
Z值對應的含義如下:
—|z|≤2 表明“滿意”,實驗員能力符合要求;
—2 <|z| <3 表明“有問題”,實驗員能力需進一步加強改進;
—|z| ≥3 表明“不滿意”,實驗員能力不符合要求。
Z值和PA值對應的結論基本一致,二者相比Z值的評定細則更加明確,且計算過程相對簡單,故在能力評定中較為常用。
在計算能力統(tǒng)計量值后,可通過圖形的方式直觀地將人員之間檢測結果進行比對,常用的能力評定圖形包括直方圖、箱線圖、核密度圖等[4](見例3)。
實驗室在進行蛋白含量測定時,選用相同且已知特性值的樣品作為能力評定項目(proficiency assessment item)或待測品。已知待測品的參考值為99.79%,標準差為0.033,產(chǎn)品的質量標準為90% ~110%,實驗室中40 個人均進行了相同的操作,根據(jù)檢測結果,判斷該實驗室人員的檢測能力。
計算每個檢測結果對應的PA值和Z值(見表1);并對能力統(tǒng)計量作直方圖(見圖1)。
表1 40 名實驗員的測試結果和能力統(tǒng)計量(參考值:99.79%)
結論①第38 號員工的PA值(-110.53%)大于100%且Z值(-3.309)大于3,表明該員工能力不符合要求;②第30 號員工的PA值(90.39%)接近100%且Z值(-2.706)絕對值在2 ~3 之間,表明該員工的能力略有不足,有待改進提升。③4 號和24 號員工的PA值(0.70%)和Z值(0.021)均接近0,表明這兩位員工的檢測結果與參考值非常接近,即檢驗能力滿足要求,檢驗水平較高。
在示例1 的條件背景下,若未知評定參考值,如何評價每位人員的檢測能力是否達標(數(shù)據(jù)同示例1)。
由于沒有評定標準,故需要根據(jù)檢測結果計算出一個能代表數(shù)據(jù)特性的指定值(xPT),具體步驟:①對檢測結果做柱狀圖和箱線圖(見圖2)。數(shù)據(jù)集呈現(xiàn)嚴重的左偏態(tài)且含有離群值,穩(wěn)健統(tǒng)計的計算方法能有效減少異常值的影響。②使用統(tǒng)計軟件PTP_RMP[9]處理數(shù)據(jù),計算出不同算法的指定值及其對應的標準差(見表2)。
圖2 40名人員的檢測結果柱狀圖和箱線圖
表2 不同算法對應的指定值和標準差
本示例中的檢測數(shù)據(jù)均為單次結果,數(shù)據(jù)呈左偏態(tài)分布,存在一定比例的離群值,從表2 中可以看出剔除異常值前后指定值大小波動較大,因此采用穩(wěn)健算法對人員進行評定較為穩(wěn)健合理,此處選用A 算法的結果,即指定值xPT=0.981,標準差σPT=0.014。將其帶入能力統(tǒng)計量中計算PA值和Z值,結果見表3。
表3 40 名實驗員的測試結果和得分統(tǒng)計量值(指定值:98.1%)
對例2 進行直方圖的圖示法分析,見圖3。
圖3 無評定標準的直方圖
結論①30 號和38 號員工檢測結果的PA值為-177.90%和- 226.69%均大于100%且Z 值-5.24、-6.67 均大于3,表明該兩名員工能力不滿足要求;②27 號員工PA值(- 89.07%)絕對值接近100%且Z值(-2.62)絕對值在2 ~3 之間,表明該員工的能力略有不足,有待進一步改進與提升;③15 號員工PA值(1.94%)和Z 值(0.06)接近于0,表明其檢測結果(98.18%)與指定值(0.981)非常接近,即這位員工檢驗能力滿足要求,檢驗水平較高。
由圖3 可見,直方圖不僅能直觀的比較人員間檢測結果的差異,而且還能隱藏具體檢測結果,僅顯示檢測人員的編號,有利于人員評比工作的保密性。圖3中超出紅色警戒線的值,表明該編號人員能力不合格,其檢測水平不滿足要求,需要進行相關培訓與考核;介于黃色和紅色線之間的值,表明人員能力較差,同樣需要進行相關培訓,以提升自身檢驗水平。
需要注意,例1 和例2 檢測數(shù)據(jù)集相同,但由于選取的不同,導致結果存在差異,見圖4。
圖4 參考值和指定值比較直方圖
當數(shù)據(jù)集有參考值時,評定結果是38 號員工能力不合格,30 號員工能力有待加強。當數(shù)據(jù)集用穩(wěn)健統(tǒng)計A算法確定指定值時,評定結果是38 號和30 號員工能力均不達標,27 號員工能力有待加強。產(chǎn)生這種差異的主要原因,是由指定值的選定方式所造成。穩(wěn)健統(tǒng)計算法計算指定值可能會導致原本能力合格的人員被誤判為能力有待加強或不合格,或相對應的原本能力不合格的被判定為合格人員,故在使用穩(wěn)健統(tǒng)計分析時應特別注意誤判風險[10]。
實驗室對36 名人員進行季度實操考核,考核方式為每名人員對未知樣品進行3 次重復測定,實驗數(shù)據(jù)見表4,試分析實驗人員操作能力如何?
表4 36 名人員檢測的結果(重復3 次)
首先對表4 中數(shù)據(jù)用統(tǒng)計軟件PTP_RMP[9]分析,計算不同算法的指定值及其對應的標準差,統(tǒng)計結果見表5。
表5 不同算法對應的指定值和標準差
從表5 的統(tǒng)計結果中可以發(fā)現(xiàn),剔除異常值前后與經(jīng)典算術法的均值和標準差比較偏倚較大,說明經(jīng)典算術法易受到離群值的影響。相反,采用穩(wěn)健方法計算的均值受離群值的影響較小,但由于樣本量低于50,中位數(shù)/四分位間距法在計算時缺乏統(tǒng)計效率[3,7],會存在對實驗人員進行錯誤評定的風險。故選擇A+S 算法(也可用Q +Hampel 算法)作為指定值(xPT=91.4)和標準差(σPT=14.3)計算能力統(tǒng)計量,見表6。
根據(jù)實驗室36 名人員的能力統(tǒng)計量值進行評定,分兩種方式:①嚴格評定標準,即每位人員的多次結果中只要有一次超出評定標準,即顯示能力不合格(如人員N17 僅第2 次實驗結果PA值超100%,則判定人員能力不合格)。②寬松評定標準,即平均每次實驗結果后再計算能力統(tǒng)計量,最后評定人員能力。
嚴格評定人員N8、N17、N30 號員工能力值有一次或多次超出或偏離標準,故認定員工能力不合格。需要注意是,PA值和Z值在此次結果判定中出現(xiàn)結論不同的情況,如人員N8、N17 的PA值超出100%,Z值未超出3 這個臨界值,導致這種情況的原因可能是因為指定值和能力評定標準差本身存在較大波動和偏倚,此時應重點關注檢測結果接近臨界值的人員。
按照寬松評定標準要求,將表6 數(shù)據(jù)中人員3 次檢查測結果先取算術均值后,再計算能力統(tǒng)計量,統(tǒng)計結果見表7。
表7 取均值后的能力統(tǒng)計量
寬松評定①人員N30 號檢測結果PA值(116%)大于100%且Z值(3.19)大于3,表明該員工能力不合格,其檢測水平不滿足要求,需要重新進行相關培訓與考核;②第N8 號和N17 號員工的PA值(93%,81%)接近100%且Z 值(2.56,2.21)在2 ~3之間,表明這兩名員工的能力略有不足,同樣需要加強相關培訓,以提升自身檢驗水平。
對表7 所得PA值和Z值作直方圖,見圖5。
圖5 能力統(tǒng)計量直方圖
從圖5 中可以看到,超出紅色警戒線的值說明人員能力不合格,介于灰色虛線和紅色實線之間的值說明人員能力較差,需要進一步提升檢驗水平。
(1)優(yōu)點。①穩(wěn)健統(tǒng)計分析主要用于指定值的估計中。對于無法進行測量審核且沒有參考值的人員能力評定,應用穩(wěn)健統(tǒng)計方法合理估計指定值是一種科學便捷且行之有效的評定方式。②與經(jīng)典統(tǒng)計方法相比較,穩(wěn)健統(tǒng)計方法對異常數(shù)據(jù)的抵抗能力和局部眾數(shù)的抵消能力更強,且不易受異常值或離群值的影響而導致結果偏離[11]。③當數(shù)據(jù)分布呈正態(tài)分布且無異常值或離群值時,經(jīng)典統(tǒng)計方法與穩(wěn)健統(tǒng)計方法計算的均值和標準差相同或接近。故當評定者不知選用何種分析方法時,采用穩(wěn)健統(tǒng)計方法更為保守。
(2)不足。①穩(wěn)健統(tǒng)計多數(shù)采用迭代和復雜的統(tǒng)計算法,需要借助統(tǒng)計軟件輔助計算。②穩(wěn)健統(tǒng)計可能會使指定值結果趨于穩(wěn)定從而可能導致偏離真實值。如例1 和例2,若真值為100%,當已知參考值為99.79%時,能較準確的替代真值進行比較;當采用穩(wěn)健分析方法估計的指定值為98.1%時,其與真值的偏倚較大,在之后能力統(tǒng)計量的計算中,評定結果出現(xiàn)漏判或誤判人員能力,從而導致人員能力評定結果的不準確、不科學。
人作為實驗室最大的變異源,是實驗室管理最不可控的因素之一。以往實驗室因不熟悉能力評定的原理和模式,故很少使用科學的評定模式進行內部人員能力評定工作。對于檢測實驗室而言,選用科學準確的評定模式對實驗室人員能力進行評定,并對評定能力不足或不合格人員進行糾錯改正,是提升實驗室檢測水平的必要途徑??茖W的能力評定模式,不僅可以降低誤判率,還可以加強實驗室質量管理,進而提升實驗室的監(jiān)管水平。
結合本實驗室內部的技術比賽數(shù)據(jù),①論述技術人員能力評定的統(tǒng)計分析方法和使用注意事項,填補了人員評定統(tǒng)計方法空白的現(xiàn)狀;②文中的評定模式可成為技術人員上崗資質考核的科學依據(jù)之一,具有公平公開的特性;③該評定模式具有普適性和通用性,除對于人員能力評定之外[11],也可以應用于實驗室儀器設備、關鍵試劑等主要影響因素的比較[12],希望通過檢測實驗室能力比對,可以進一步提升對實驗室質量的管理水平,從而科學的監(jiān)管和保障產(chǎn)品質量安全。