数值分析中对有效数字的定义

定义:

设数x是数x的近似值,如果x的绝对误差限是它的某一数位的半个单位,并且从x左起第一个非零数字到该数位共有n位,则称这n个数字为x的有效数字,也称用x近似x时具有n位有效数字。

看几个例题
(1)
在这里插入图片描述
(2)
在这里插入图片描述
(3)
在这里插入图片描述
(4)
在这里插入图片描述

总结
动笔计算就好,用近似值减去真实值取绝对值,看精确到哪一位时能满足要求(计算绝对误差小于等于哪一数位的半个单位(精确到该数位时的绝对误差限))。

比如有准确值I=0.9460831,一个复化梯形法求得的结果为 T n = 0.9456909 T_n=0.9456909 Tn=0.9456909只有2位有效数字,而一个通过复化Simpson法的结果 S n = 0.9460832 S_n=0.9460832 Sn=0.9460832却有6位有效数字

评论 8
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值