根據JJG49-1999《彈簧管式精密壓力表及真空表》檢定規程的要求,對其檢定結果的讀取值應讀至最小分度值的1/10格,同時將正、反行程讀數的算術平均值修約至最小分度值的1/10格。那么,如何進行合理的數據修約呢?
下面就彈簧管式壓力表及真空表檢定結果的處理,結合上述數據修約規則作以下討論:
(1)上述規則所說的“半個單位”意指數字“5”,而針對彈簧管式壓力表及真空表,因其1/10格有0.0005、0.0002、0.0001、0.005……,其有效數字或為“5”,或為“2”,或為“1”,聯系上述規則,這里的“半個單位”就不是規則中所述的“5”了。例如:檢定0.4級、上限為1.0MPa的彈簧管式精密壓力表,其1/10格為0.0005MPa。在標準值為0.2MPa這一點,若正行程讀數為0.1990MPa,反行程讀數為0.1995MPa,其平均值為0.19925MPa,按要求應保留至小數點后第4位,根據上述規則進行數字舍入,則修約后的數值為0.1992MPa,顯然并未修約到1/10格。
彈簧管式精密壓力表及真空表屬于模擬式儀表,國家計量檢定規程及其宣貫材料等始終未明確其檢定結果數據的修約問題,特別是如何對“2”、“5”間隔讀數進行修約。
GB8170-1987《數值修約規則》或GB3101-1993《有關量、單位和符號的一般原則》對“1”、“2”、“5”均有明確的修約規則,但實際工作中如何運用該修約規則?根據JJG49-1999《彈簧管式精密壓力表及真空表》檢定規程的要求,對其檢定結果的讀數應讀至最小分度值的1/10格。按照精密壓力表的國家標準對其分度值規定有“1”、“2”、“5”間隔,按1/10來估讀,其結果始終為“1”、“2”、“5”間隔的問題。其修約結果因為是分度值的1/10,所以必須達到這個1/10,否則示值的有效位數就不對,反映出測量時未按要求取值。下面分別舉例說明對“1”、“2”、“5”的間隔修約結果:
來源:http://m.for815.cn/原創