算法笔记重点(3)浮点数误差

经过一系列计算后的浮点数会发生细小的改变,这将导致==不再适用,下面给出新的解决方案。

令eps=1e-8

声明浮点数a,b

1.相等条件

|a-b|<eps

2.大于条件

a>b+eps

3.小于条件

a<b-eps

4.大于等于条件

a>b-eps

5.小于等于条件

a<b+eps

综上,我们认为误差绝对值在eps之内是相等的,那么小于和大于的范围就相应的缩减了。

除此之外,我们对pi的定义可以用acos(-1),以达到精准的目的。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值