1、数值修约规则方法的探讨摘要:本文阐述了对测量数值进行运算的准则及两种数值修约的简要、直观方法,并对测得值或其计算修约值于结果报告中报出的方法进行了探讨。以期为各检验机构准确描述测量结果及提高检测报告的质量要求提供帮助。 关键词:末 有效数字 数值修约 全数值比较法 修约值比较法 0、前言: 测量结果的数据处理和最终表达是测量过程的最后环节,而有效数字的确定,数据的正确修约与表达对测量数据的正确处理和结果的准确表达有着重要的意义。本文详细阐述了对数值进行修约的简要、直观的规则的方法。 1、术语: 1.1 (末)1的概念: (末)指的是任何一个数最末一位数字所对应的单位量值。 如:某长度测量值 2
2、0.1mm,该测量值的(末)为 0.1mm。 1.2 有效数字1: 某个数测量结果的计量数字的有效数字是指从该数左边的第一个非零数字算起直到最末一位数字为止的所有数字。测量结果的计量数字,其有效位数代表结果的准确程度。有效位数不同,它们的准确度也不同。同时,计量数字右边的“0”不能随意取舍,因为这些“0”都是有效数字,它决定着测量结果的准确度。 例 1:二氧化硫残留量测试结果为 0.0010g/kg,有效位数为 2 位。 例 2:某长度测量值 20.1mm,有效位数为 3 位;若是 20.10mm,则有效位数为 4 位。测量结果为 20.10mm 比 20.1mm 的准确度高。 1.3 数值修
3、约1: 对拟修约数根据保留数位的要求,将其多余位数的数字进行取舍,按照一定的规则选取一个其值为修约间隔整数倍的数(称为修约数)代替拟修约数,这一过程称为数值修约。 1.4 修约间隔1 修约间隔又称修约区间,即修约值的最小数值单位,它是确定修约保留位数的一种方式。 修约间隔一般以 K10n(K=1,2,5;n 为零或正、负整数)的形式表示。修约间隔一经确定,修约数只能是修约间隔的整数倍。 例如:若指定修约间隔为 0.1,则修约数应在 0.1 的整数倍的数中选取;若修约间隔为 210n,则修约数的末位只能是 0,2,4,6,8 等数字;若修约间隔为 510n,则修约数的末位只能是 0 或 5。 1
4、.5 极限数值(指标数值) 标准(或技术规范)中规定考核的以数量形式给出且符合该标准(或技术规范)要求的指标数值范围的界限值。 2、近似数的运算及其计量数字位数的确定 2.1 加、减运算 如果参加运算的数不超过 10 个,运算时以各数中(末)最大的数为准,其他的数字比其多保留一位,多余位数应舍去。计算结果的(末)应与参与运算的数中(末)最大的那个数相同。若计算结果尚需参与下一步运算,可多保留一位。 例如:18.3+1.4546+0.876 18.3+1.45+0.88=20.6320.6 计算结果为 20.6。若尚需参与下一步运算,则取 20.63 2.2 乘、除(或乘方、开方)运算 在进行数
5、的乘除运算时,以有效数字位数最少的那个数为准,其余的数的有效数字均比其多保留一位。运算结果(积或商)的有效数字位数应与参与运算的数中有效数字位数最少的那个数相同。若尚需参与下一步运算,有效数字可多取一位。 例如:1.1m0.3268m0.10300m 1.1m0.327m0.103m=0.0370m30.037m3。 计算结果为 0.037m3。若需参与下一步运算,则取 0.0370m3。 乘方、开方运算类同。 3、数值修约规则: 3.1 当要求对某拟修约数进行修约时,需确定修约数位, 其表达形式有以下几种: (1)指明具体的修约间隔 (2)将拟修约数修约至某数位的 0.1 或 0.2 或 0
6、.5 个单位。 (3)指明按“K”间隔将拟修约数修约为几位有效数字,或者修约至某数位(注意:有时“1”间隔可不必指明,但“2”间隔或“5”间隔必须指明) 。 3.2 国家标准 GB/T8170数值修约规则与极限数值的表示和判定对“1” “2” “5” 间隔的修约方法均分别作了规定,但使用时较为繁琐。下面介绍一种适用于所有修约间隔的修约方法,该方法只需直观判断,简便易行。现将该修约规则描述如下: 1)最接近原则。即:如果为修约间隔整数倍的一系列数中,只有一个数最接近拟修约数,则该数就是修约数。 例 1:将下列数值按 0.1 修约间隔进行修约 拟修约数值 与拟修约数邻近的修约值 修约值 1.150
7、001 1.1 1.2 (最接近拟修约数) 1.2 0.351 0.3 0.4 (最接近拟修约数) 0.4 例 2:将下列数值修约至十分位的 0.2 各单位(即修约间隔为0.02) 拟修约数值 与拟修约数邻近的修约值 修约值 1.015 1.00 1.02 (虽然该数为修约间隔 1.02 0.02 的 51 倍,但由于 1.02 最接近拟修约数, 因此 1.02 就是修约数) 2)偶数倍原则。即:如果为修约间隔整数倍的一系列数中,有连续的两个数同等地接近拟修约数,则这两个数中,只有为修约间隔偶数倍的那个数才是修约数。 例 1:将下列数值修约至十分位的 0.2 个单位(即修约间隔为0.02) 拟
8、修约数值 与拟修约数邻近的修约值 修约值 8.87000 8.86 8.88 (该数为修约间隔 8.88 0.02 的偶数倍) 例 2:将 8150 按 100 间隔修约 拟修约数值 与拟修约数邻近的修约值 修约值 8150 8.1103 8.2103(该数为修约间隔 8.2103 100 的偶数倍) 例 3:将 8.77700 按 2 间隔修约至千分位 拟修约数值 与拟修约数邻近的修约值 修约值 8.77700 8.776 (该数为修约间隔 8.776 2 的偶数倍) 8.778 例 4:将 7.07500 按“5”间隔修约成 3 位有效数字 拟修约数值 与拟修约数邻近的修约值 修约值 7.
9、75007.05 7.10 (该数为修约间隔 7.10 5 的偶数倍) 3)不允许连续修约。即:拟修约数字应在确定修约间隔或指定修约数位后,一次修约获得结果,不得多次连续修约。 例 1:将 97.46 按“1”修约间隔修约为 2 位有效数字 正确的做法:97.46 97 不正确的做法:97.46 97.5 98 例 2:将 15.4546 按 1 修约间隔修约为 2 位有效数字 正确做法:15.4546 15 不正确的做法:15.4546 15.455 15.46 15.5 16 4、结束语: 本文对数值修约介绍了一个简要、直观的规则方法,该方法直观、好用,避免了标准 GB/T8170-2008 中繁琐的过程。 参考文献: 1GB/T8170-2008数值修约规则与极限数值的表示和判定 作者信息: 姓名:尤荣瑞;男 学历:大学本科 职称:高级工程师, 职务:质量负责人、技术负责人 单位:福建省晋江市质量计量检测所(福建省鞋类产品质量监督检验中心) ; 身份证号码:350582197105242553