毛森，王曉偉，楊宇，李光旭

(河南省計(jì)量科學(xué)研究院，鄭州 450047)

電子原始記錄數(shù)據(jù)的自動(dòng)化處理功能不僅能夠提高計(jì)量技術(shù)人員的工作效率，降低技術(shù)人員工作強(qiáng)度，還能夠有效降低人工引入的差錯(cuò)率[1-2]。隨著計(jì)量技術(shù)機(jī)構(gòu)近年來的持續(xù)推廣普及，電子原始記錄在各計(jì)量儀器設(shè)備檢定、校準(zhǔn)過程中的使用覆蓋率持續(xù)升高，技術(shù)人員對(duì)電子原始記錄的依賴程度日益加深[3]。電子原始記錄的實(shí)現(xiàn)方式有多種，從目前使用情況看，依托電子表格(以Excel 軟件為代表)對(duì)原始數(shù)據(jù)進(jìn)行處理的方案較為普遍和成熟[4]。計(jì)量學(xué)對(duì)計(jì)量數(shù)據(jù)的計(jì)算及修約精度有較高要求，數(shù)據(jù)修約需嚴(yán)格符合GB/T 8170 規(guī)定[5]。由于計(jì)算機(jī)程序是采用二進(jìn)制的方式進(jìn)行數(shù)據(jù)存儲(chǔ)[6-8]，運(yùn)算過程采用浮點(diǎn)運(yùn)算方式進(jìn)行[9-11]，這種計(jì)算方法會(huì)造成計(jì)算機(jī)計(jì)算結(jié)果與實(shí)際計(jì)算結(jié)果存在極為微小的偏差[12]。通常這種偏差對(duì)日常計(jì)算結(jié)果影響很小，但卻會(huì)給計(jì)量結(jié)果造成不可忽略的影響，從而對(duì)儀器的級(jí)別判定造成本質(zhì)影響。

綜覽國內(nèi)外公開出版的學(xué)術(shù)期刊，尚未發(fā)現(xiàn)有研究這一現(xiàn)象和專門探討數(shù)據(jù)自動(dòng)化修約的報(bào)道。筆者以Excel 軟件為依托軟件，以兩種典型的修約方法為例，介紹浮點(diǎn)運(yùn)算造成的痕量偏差在修約過程中對(duì)數(shù)據(jù)結(jié)果的影響及規(guī)避方法。

1 修約方法中所用函數(shù)

使用Excel 處理數(shù)據(jù)時(shí)，采用自帶的函數(shù)實(shí)現(xiàn)數(shù)據(jù)的修約，所用到的函數(shù)有IF()、Round()、MOD()、EVEN()、TRUNC()。以上函數(shù)的功能、各參數(shù)意義及使用規(guī)則見表1。

表1 Excel 部分函數(shù)用法及含義[13]

2 典型修約方法修約過程中的結(jié)果偏差現(xiàn)象與原因分析

2.1 數(shù)據(jù)自動(dòng)修約典型

數(shù)據(jù)的修約是數(shù)據(jù)處理至關(guān)重要的一個(gè)環(huán)節(jié)，數(shù)據(jù)修約的正確與否直接關(guān)系到儀器準(zhǔn)確程度的判斷。在石油密度計(jì)檢定過程中，經(jīng)常需要對(duì)其修正值進(jìn)行修約運(yùn)算，通常Excel 在數(shù)據(jù)修約過程中采用“四舍五入”的進(jìn)舍規(guī)則，這種修約規(guī)則并不能滿足日常測(cè)量數(shù)據(jù)的處理要求。計(jì)量學(xué)中數(shù)字修約規(guī)則要符合GB/T 8170—2008 規(guī)定，即“四舍六入，逢五取偶”[14]，俗稱“奇進(jìn)偶不進(jìn)”。要實(shí)現(xiàn)這種特殊的修約規(guī)則，則需要用到多種Excel 函數(shù)進(jìn)行組合運(yùn)算。

以下列舉兩種不同的方法對(duì)數(shù)據(jù)進(jìn)行修約。

(1)方法一。具體實(shí)現(xiàn)過程：(為方便理解，默認(rèn)對(duì)被修約數(shù)修約至個(gè)位)先使用ROUND 函數(shù)對(duì)被修約數(shù)進(jìn)行四舍五入修約，再用返回值減去一個(gè)邏輯判斷的返回結(jié)果(用MOD 函數(shù)以2 作為除數(shù)對(duì)被修約數(shù)除求余，當(dāng)余數(shù)等于0.5 時(shí)返回1，否則返回0)。修約公式為：

ROUND(被修約數(shù)，有效位數(shù))-(MOD(被修約數(shù)＊10^有效位數(shù)，2)=0.5)＊10^-有效位數(shù)

(2)方法二。具體實(shí)現(xiàn)過程：首先要對(duì)被修約數(shù)進(jìn)行底數(shù)為10 的乘冪運(yùn)算，將被修約位數(shù)移至小數(shù)點(diǎn)后一位，再用MOD()函數(shù)對(duì)被修約數(shù)進(jìn)行除數(shù)為1 的求余運(yùn)算。如果余數(shù)不為0.5，則對(duì)被修約數(shù)用ROUND()函數(shù)進(jìn)行“四舍六入”運(yùn)算；反之，則對(duì)被修約數(shù)先用TURNC()函數(shù)做取整運(yùn)算，后用EVEN()函數(shù)做向上取偶運(yùn)算，從而實(shí)現(xiàn)“逢五取偶”運(yùn)算。修約公式：

IF(MOD( 被 修 約 數(shù)＊10^ 有 效 位，1)=0.5，EVEN(TRUNC( 被 修 約 數(shù)＊10^ 有 效 位 數(shù)，0))，ROUND(被修約數(shù)＊10^有效位數(shù)，0))/10^有效位數(shù)

修約公式中各參數(shù)含義參照表1。

表1 列舉了3 種不同的修約公式是對(duì)固定數(shù)值的修約過程與結(jié)果，從結(jié)果不難判斷，ROUND 函數(shù)僅能實(shí)現(xiàn)對(duì)固定值按照四舍五入修約規(guī)則進(jìn)行修約，而以上兩種修約方法能夠?qū)崿F(xiàn)對(duì)固定值按照“奇進(jìn)偶不進(jìn)”修約規(guī)則進(jìn)行修約。

表1 三種修約公式對(duì)修約規(guī)則實(shí)現(xiàn)示例

2.2 浮點(diǎn)運(yùn)算造成的痕量偏差對(duì)數(shù)據(jù)修約的影響

儀器準(zhǔn)確度等級(jí)的判定需要對(duì)被檢儀器的多項(xiàng)性能指標(biāo)做出綜合性判斷才能得出。各項(xiàng)指標(biāo)是通過原始記錄中的數(shù)值按照規(guī)程給出的計(jì)算公式計(jì)算得出中間值，再對(duì)中間值進(jìn)行相應(yīng)的修約，最終才能得到用于判定級(jí)別的最終運(yùn)算結(jié)果。

2.2.1 現(xiàn)象描述

以酸度計(jì)檢定項(xiàng)目“電計(jì)輸入阻抗引起的示值誤差和近似等效阻抗”[15]項(xiàng)目為例：使用酸度計(jì)檢定儀(標(biāo)準(zhǔn)信號(hào)發(fā)生器)向被檢酸度計(jì)發(fā)送pH 13.000 的信號(hào)，酸度計(jì)在串聯(lián)3×109Ω 電阻前后，pH 示值分別為13.00 和13.03，ΔpHR為0.015，按照“四舍五入”的修約規(guī)則將ΔpHR修約至小數(shù)點(diǎn)后2 位，pH 結(jié)果應(yīng)為0.02，而用方法一和方法二進(jìn)行修約實(shí)際得到的pH 結(jié)果均為0.01，軟件修約結(jié)果明顯發(fā)生了錯(cuò)誤；而使用酸度計(jì)檢定儀向被檢酸度計(jì)發(fā)送pH 1.000 的信號(hào)，酸度計(jì)在串聯(lián)3×109Ω電阻前后，pH 示值分別為1.00 和1.01，ΔpH'R為0.005，按照“奇進(jìn)偶不進(jìn)”的修約規(guī)則將ΔpH'R修約至小數(shù)點(diǎn)后2 位，結(jié)果應(yīng)為0.00，用方法一、方法二分別對(duì)ΔpH'R進(jìn)行修約得到的結(jié)果亦為0.00，軟件修約結(jié)果與人工計(jì)算結(jié)果又保持了一致，如表2所示。綜上，采用方法一和方法二對(duì)兩個(gè)采用相同計(jì)算公式產(chǎn)生的中間值進(jìn)行修約時(shí)，卻出現(xiàn)了兩種不同的結(jié)果。

表2 在酸度計(jì)電計(jì)輸入阻抗引起的示值誤差中由于浮點(diǎn)運(yùn)算造成修約結(jié)果錯(cuò)誤的示例

2.2.2 原因分析

計(jì)算機(jī)采用浮點(diǎn)運(yùn)算進(jìn)行數(shù)據(jù)處理，采用二進(jìn)制對(duì)數(shù)據(jù)及運(yùn)算結(jié)果進(jìn)行存儲(chǔ)。在使用Excel 軟件對(duì)十進(jìn)制數(shù)據(jù)運(yùn)算時(shí)，計(jì)算機(jī)需要將每一個(gè)十進(jìn)制數(shù)值轉(zhuǎn)化成二進(jìn)制字符存儲(chǔ)，然后對(duì)存儲(chǔ)值進(jìn)行運(yùn)算，運(yùn)算完成后再將存儲(chǔ)的二進(jìn)制結(jié)果轉(zhuǎn)化成十進(jìn)制結(jié)果進(jìn)行顯示，數(shù)據(jù)轉(zhuǎn)換存儲(chǔ)過程中有可能造成極其微小的折損，從而造成最終的修約結(jié)果錯(cuò)誤(見表2)。

利用如下試驗(yàn)證實(shí)以上推論：用計(jì)算顯示(存儲(chǔ)) 值(ΔpHR、ΔpH’R) 與 實(shí) 際 值(0.015、0.005)作減法運(yùn)算，驗(yàn)證計(jì)算顯示值(即存儲(chǔ)值)與實(shí)際值是否一致，示例如表3。從表3 中不難看出，ΔpH’R的存儲(chǔ)值與實(shí)際值0.005 差值為0，說明兩者是一致的。而ΔpHR的存儲(chǔ)值與實(shí)際值0.015 差值為-3.19189×10-16。這證明了被修約數(shù)ΔpHR存儲(chǔ)值與顯示值存在痕量的偏差。

表3 計(jì)算機(jī)軟件的顯示值與實(shí)際值存在的微小偏差示例圖

綜上，浮點(diǎn)運(yùn)算造成的痕量偏差具有一定的隨機(jī)性，并不總是存在的。這種偏差對(duì)于粗略的運(yùn)算影響不大，但在精密的計(jì)量數(shù)據(jù)處理過程中，會(huì)對(duì)后續(xù)數(shù)據(jù)處理過程產(chǎn)生疊加影響，從而導(dǎo)致了整體結(jié)果的偏離，最終致使儀器判定級(jí)別出現(xiàn)錯(cuò)誤。

2.3 增加修正值以規(guī)避浮點(diǎn)運(yùn)算對(duì)修約過程的影響

針對(duì)2.2 中所提到的問題，可以根據(jù)其特點(diǎn)，化不確定問題為確定問題。假設(shè)痕量偏差一定存在，以此為前提，在被修約的中間值中增加修正值，把單點(diǎn)判斷變?yōu)榉秶袛?，從而將浮點(diǎn)運(yùn)算造成的痕量偏差消除。仍以2.2 中所舉示例為例：按照2.1“方法一”中的描述，對(duì)單元格“ΔpHR”存儲(chǔ)數(shù)據(jù)進(jìn)行修約(“四舍六入，逢五取偶”規(guī)則)時(shí)，需要考慮到痕量偏差造成的兩方面影響：一方面是對(duì)Round函數(shù)修約的影響，另一方面是對(duì)Mod 函數(shù)邏輯判斷的影響。針對(duì)前者，可假設(shè)單元格“ΔpHR”中存儲(chǔ)的計(jì)算顯示值一定存在痕量偏差，在采用Round 函數(shù)進(jìn)行修約之前，對(duì)單元格“ΔpHR”存儲(chǔ)值加上已知微小數(shù)(例如0.000 001)，以確?！八纳嵛迦搿毙藜s規(guī)則的實(shí)現(xiàn)；針對(duì)后者，可對(duì)單元格“ΔpHR”存儲(chǔ)值求余運(yùn)算結(jié)果與預(yù)期結(jié)果進(jìn)行差值運(yùn)算，如果存儲(chǔ)值無限接近預(yù)期值，則二者差值應(yīng)接近于0，可以預(yù)判其必定小于一個(gè)既定值(例如0.01)，以此將單點(diǎn)邏輯判斷變?yōu)榉秶袛?，從而消除痕量偏差造成的影響。具體過程如表4 所示。

表4 改進(jìn)前后的修約公式輸出結(jié)果對(duì)比圖

通過表4 中改進(jìn)前后的修約結(jié)果對(duì)比不難判斷，修約公式在改進(jìn)前，受到浮點(diǎn)運(yùn)算造成的痕量偏差的影響，其輸出值有對(duì)有錯(cuò)，也就是說其修約結(jié)果的可信度很差，如果以此作為儀器級(jí)別判定的標(biāo)準(zhǔn)，可能會(huì)產(chǎn)生錯(cuò)誤結(jié)果。而通過改進(jìn)修約公式，其結(jié)果的正確性得到了保證，證明上述改進(jìn)方案是可行的。

3 結(jié)論

用計(jì)算機(jī)做數(shù)據(jù)處理時(shí)，計(jì)算機(jī)的浮點(diǎn)運(yùn)算及二進(jìn)制存儲(chǔ)過程會(huì)對(duì)計(jì)算結(jié)果產(chǎn)生微小影響，這種影響具有一定的不確定性并且會(huì)累積，通常情況下，不會(huì)對(duì)復(fù)雜的中間運(yùn)算結(jié)果修約造成干擾，但在一些特殊情況中，會(huì)導(dǎo)致數(shù)據(jù)修約結(jié)果錯(cuò)誤，從而對(duì)一些特殊行業(yè)產(chǎn)生較大的影響。通過用范圍判斷取代單點(diǎn)判斷的方法可以消除這種影響，較好的規(guī)避數(shù)據(jù)浮點(diǎn)運(yùn)算及二進(jìn)制存儲(chǔ)對(duì)修約過程造成的干擾，從而保證修約結(jié)果的準(zhǔn)確。由于數(shù)據(jù)處理具有復(fù)雜性，文中所給方法并不能解決所有計(jì)算機(jī)浮點(diǎn)運(yùn)算造成的干擾，遇到具體問題仍需要對(duì)癥下藥，給出合適的預(yù)判方案以規(guī)避風(fēng)險(xiǎn)，期望越來越多的實(shí)用技巧被計(jì)量相關(guān)從業(yè)人員開發(fā)并推廣。另外，根據(jù)GB/T 8170—2008 規(guī)定，按照修約間隔不同，還可分為0.1 間隔修約、0.2 間隔修約、0.5 間隔修約[16-17]。在具體的數(shù)據(jù)修約過程中，還要結(jié)合不同的修約間隔對(duì)數(shù)據(jù)作出精細(xì)化的分析。數(shù)據(jù)處理作為檢測(cè)能力的一種具體體現(xiàn)，其與信息化技術(shù)相結(jié)合是提高檢測(cè)能力的有效途徑。對(duì)數(shù)據(jù)自動(dòng)化處理中隱藏的問題進(jìn)行深入挖掘分析，有助于提高計(jì)量檢測(cè)精度，規(guī)避行業(yè)潛在風(fēng)險(xiǎn)，具有十分重要的現(xiàn)實(shí)意義。