精度问题

精度问题一种是注意微小的量变是否会引起质变。


常见的有:

1、判断两数是否相等;

2、无聊的-0;

3、acos、asin参数是否到了[-1,1]以外;

以后遇到了再补充=。=|||



精度问题还有一种是运算方法导致误差偏大:

比如0.0001223423+2349870000000000000-2349870000000000000结果就会变0.000000,如果把后两项先运算就会得到较精确的0.000122。

就大概这么个意思。如果运算过程中有相对结果来说较大的数,把它们放在一旁先算下,消得差不多了再放进来。遇到的比较少。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值