2.4.1 有效数字
有效数字的位数:自左起第一个非零数开始的数字个数,如称23.4 mm是3位有效数字,又如,23.40 mm与0.023 40 m都是4位有效数字。
有效数字包含两个部分:可靠数字和可疑数字。
(1)直接测量量(原始数据)的读数应反映仪器的精确度
游标类器具(游标卡尺、分光计度盘、大气压计等)读至游标最小分度的整数倍,即不需估读。
如图2.5所示为一游标卡尺测量某物体长度时的读数。

图2.5 游标卡尺测量某物体长度时的读数
数显仪表及有十进步式标度盘的仪表(电阻箱、电桥、电位差计、数字电压表等)一般应直接读取仪表的示值,如图2.6所示为一电阻箱和电位差计的读数。

图2.6 一电阻箱和电位差计的读数
指针式仪表及其他器具,读数时估读到仪器最小分度的1/2~1/10,或使估读间隔不大于仪器基本误差限的1/5~1/3。如图2.7所示为一螺旋测微器测量一物体外径时的读数。
(2)中间运算结果的有效数字位数
加减运算的结果末位以参与运算的末位最高的数为准。
如:11.4+2.56=14.0
75-10.356=65
乘除运算结果的有效位数多少以参与运算的有效位数最少的数为准,可比其多取一位。
如:4 000×9=3.6×104

图2.7 螺旋测微器测量一物体外径时的读数
2.000÷0.99=2.00(https://www.daowen.com)
乘方和开方运算规则与乘除法运算规则相同,即结果的有效位数与被乘方、开方数的有效位数相同。
如:1.402=1.96
![]()
(3)测量结果表达式中的有效数字位数
①总不确定度σ的有效位数,取1~2位。
②首位大于5时,一般取1位。
③首位为1,2时,一般取2位。
如:估算结果σ=0.548 mm时,取σ=0.5 mm
σ=1.37Ω时,取σ=1.4Ω
④相对误差的有效位数:大于10%取2位,小于10%取1位,取舍位为0时全舍,非0位时只进不舍。
如:相对误差计算结果Er=2.567%时,取Er=3%
Er=2.067%时,取Er=2%
Er=20.567%时,取Er=21%
(4)被测量值有效数字位数的确定
如式(2.21b)y=
±σy中,被测量值
的末位要与不确定度σy的末位对齐。(求出
后先多保留几位,求出σy,由σy决定
的末位)
如:环的体积![]()
不确定度分析结果σV=0.08 cm3最终结果为:V=(9.44±0.08)cm3
即不确定度末位在小数点后第2位,测量结果的最后1位。也取到小数点后第2位。
(5)常数和非测常量的有效数字位数是无限的
如常数3=3.000…,对无理常数π等为无穷多位有效数字。