浮点数判等

浮点数判等

(本文仅为笔者的个人学习笔记,如有不当之处恳请各位读者指正)

    由于计算采用的是二进制表示法,所以对一些浮点数(小数)不能准确的表示出来。例如0.1就不能被准确的表示出来,所以在计算及判等的过程中就会出现极小的误差。

    在一些计算中因为不需要很高的精度所以一般进行舍入对结果没有什么影响。而在浮点数的判断中这中不能用二进制表示的小数就不能参与判断,例如用计算机计算0.1+0.2,结果为0.30000000000000004!=0.3。

    所以在比较两个浮点数是否相等时一般取这两个数的差值的绝对值(|a-b|),再判断这个绝对值是否接近0


const double eps=1e-10;
double a=1/3*3;
double b=1;
if(abs(a-b)<eps)
    cout<<"Yes"<<endl;


public class Main {
	public static void main(String[] args) {
		System.out.println(0.2+0.1);//由于计算机采用的是二进制编码,导致一些浮点数不能被精确的用二进制表示出来
		System.out.println((0.2+0.1)==0.3);
		System.out.println((Math.abs(0.2+0.1)-0.3)<1E-10);//近似判断
	}
}

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值