有效数字运算
发布网友
发布时间:2022-04-30 01:38
我来回答
共3个回答
热心网友
时间:2022-06-28 05:40
数学上:
一个数从左边第一个不是零的数字起,到最后一位数字止,所有的数字,都叫做这个数的有效数字.
例 0.03050是一个近似数时,它精确到0.00001,有效数字是四个:3,0,5,0.
注意:0.03050与0.0305不同,精确度不同,有效数字也不同,前者有四个有效数字后者有三个有效数字.
物理测量上:
由于物理量的测量中总存在着测量误差,因此,测量值及其运算都要使用有效数字及其运算法则。
对于一般的刻度式仪器仪表,如刻度尺、指针式电表等,可以简单的认为,能在最小刻度上直接读出的数值是可靠数字,最小刻度以下还能再估读一位,但这样估读出的数字是可疑的,这样得到的结果中就包括了可靠数字和一位可疑数字,并统称为有效数字。对于游标式的仪器,如游标卡尺等,所得到的结果是直接测出的,都是有效数字。数字式仪表仪器上所显示的数字也都是有效数字。
在测量中仪器上显示的最后一位数是“0”时,这个“0”也是有效数字,也要读出和记录。例如,用毫米的刻度尺测量一物体长度为2.50厘米,这表示物体的末端刚好与刻度线“5”对齐,下一位数字是0,这时若写成25厘米就不能肯定这一点,所以这个“0”是有效数字,必须记录下来。必须注意的是,在进行单位换算时必须保证有效数字的位数不变,这样就要采用科学计数法,即用10的指数形式表示,例如上面的例子中可以写成2.50×10-2米或2.50×104微米等;如果记成0.0250米,当然也可以,只是要记住纯小数中小数点后的0不是有效数字;而如果记成25000微米就不行了,因为这时可能被误认为是有5位有效数字。
对于有效数字的运算规则,这里只作一个简单的介绍,主要供教师参考。
1.实验后不计算误差的,测量结果有效数字位数按下述规则粗略确定。
(1)加减运算后的有效数字。根据误差理论,加减运算后结果的绝对误差等于参与运算的各数值误差之和,因此运算后的误差应大于参与运算各数中任何一个的误差。所以加减运算后小数点后有效数字的位数,可估计为与参加运算各数中小数点后位数最少的相同。
(2)乘除运算后的有效数字。根据误差理论,乘除运算结果的相对误差等于参加运算各数值的相对误差之和。由干一般说来有效数字位数越少,它的相对误差就越大,所以乘除运算后的有效数字位数,可估计为与参加运算各数中有效数字位数最少的相同。
2.实验后计算误差的,应当由绝对误差决定有效数字。一般情况下误差的有效数字只取一位,因此只要将测量值有效数字的末位与误差的位置取齐就可以了。例如,用单摆测得某地的重力加速度为
3.有效数字运算中的几个问题:
(1)有多个数值参加运算时,在运算中途应比按有效数字运算规则规定的多保留一位,以防止多次取舍引入计算误差,但运算后仍应舍去。
(2)尾数的舍入法则。现在通用的法则是尾数凑成偶数:尾数小于五则舍,大于五则入,等于五则把尾数凑成偶数。这种舍入法则的依据是,这样做以后使尾数入与舍的几率相等。
(3)参与计算的常数如、等,可取比按有效数字运算规则规定的多保留一位。
(4)对数运算时,首数不算作有效数字。
(5)在乘除运算中,计算有效数字位数时,对首位数是8或9的数可多算一位。
热心网友
时间:2022-06-28 05:41
1)13.02÷(5.876-5.866)-103.1
= 13.02÷ 0.010 -103.1
= 1302 -103.1 第1项应该只有两位有效数字
= 12×10^2
2)656.3+234.2÷(3.541-3.441)
= 656.3+234.2÷0.100
= 656.3+2342 第2项应该只有3位有效数字
= 300×10
热心网友
时间:2022-06-28 05:41
1)13.02÷0.01-103.1=1302-103.1=1198.9
2)656.3+234.2÷0.1=656.3+2342=2998.3