2.4.1 有效数字

更新于 2026年10月10日 版权声明
2.4.1 有效数字

有效数字的位数:自左起第一个非零数开始的数字个数,如称23.4 mm是3位有效数字,又如,23.40 mm与0.023 40 m都是4位有效数字。

有效数字包含两个部分:可靠数字和可疑数字。

(1)直接测量量(原始数据)的读数应反映仪器的精确度

游标类器具(游标卡尺、分光计度盘、大气压计等)读至游标最小分度的整数倍,即不需估读。

如图2.5所示为一游标卡尺测量某物体长度时的读数。

图示

图2.5 游标卡尺测量某物体长度时的读数

数显仪表及有十进步式标度盘的仪表(电阻箱、电桥、电位差计、数字电压表等)一般应直接读取仪表的示值,如图2.6所示为一电阻箱和电位差计的读数。

图示

图2.6 一电阻箱和电位差计的读数

指针式仪表及其他器具,读数时估读到仪器最小分度的1/2~1/10,或使估读间隔不大于仪器基本误差限的1/5~1/3。如图2.7所示为一螺旋测微器测量一物体外径时的读数。

(2)中间运算结果的有效数字位数

加减运算的结果末位以参与运算的末位最高的数为准。

如:11.4+2.56=14.0

75-10.356=65

乘除运算结果的有效位数多少以参与运算的有效位数最少的数为准,可比其多取一位。

如:4 000×9=3.6×104

图示

图2.7 螺旋测微器测量一物体外径时的读数

2.000÷0.99=2.00(https://www.daowen.com)

乘方和开方运算规则与乘除法运算规则相同,即结果的有效位数与被乘方、开方数的有效位数相同。

如:1.402=1.96

图示

(3)测量结果表达式中的有效数字位数

①总不确定度σ的有效位数,取1~2位。

②首位大于5时,一般取1位。

③首位为1,2时,一般取2位。

如:估算结果σ=0.548 mm时,取σ=0.5 mm

σ=1.37Ω时,取σ=1.4Ω

④相对误差的有效位数:大于10%取2位,小于10%取1位,取舍位为0时全舍,非0位时只进不舍。

如:相对误差计算结果Er=2.567%时,取Er=3%

Er=2.067%时,取Er=2%

Er=20.567%时,取Er=21%

(4)被测量值有效数字位数的确定

如式(2.21b)y=图示 ±σy中,被测量值图示 的末位要与不确定度σy的末位对齐。(求出图示后先多保留几位,求出σy,由σy决定图示的末位)

如:环的体积图示

不确定度分析结果σV=0.08 cm3最终结果为:V=(9.44±0.08)cm3

即不确定度末位在小数点后第2位,测量结果的最后1位。也取到小数点后第2位。

(5)常数和非测常量的有效数字位数是无限的

如常数3=3.000…,对无理常数π等为无穷多位有效数字。

↑上一章 ↓下一章
关注公众号获取验证码
复制内容需要验证码(7.99元/天)