浮点型问题

本文探讨了浮点型数据在比较时遇到的精度问题,包括相同数值但不同浮点类型间的比较以及接近但不完全相等的浮点数比较。总结指出,直接比较浮点数可能导致错误,建议通过比较它们的差值来避免精度误差。尽量避免使用float类型进行直接比较。
摘要由CSDN通过智能技术生成

浮点型数据直接比较

第一篇文章,记录自己学习过程中的问题

一、同一个数不同浮点类型

float f = 0.1f;
double d = 1.0/10;

System.out.println(f==d);//比较结果false
System.out.println(f);//0.1
System.out.println(d);//0.1

两种浮点类型数据进行直接比较,都是0.1,但是两数精度不同,取0.1是因为大约为0.1

二、不同数浮点类型比较

float d1 = 12345156165f;
float d2 = d1+1;

System.out.println(d1==d2);//比较结果true

进行直接比较时,舍入误差,两数接近但不等于

三、总结

浮点数比较问题:由于精度有限,直接比较容易失误,通常用数的差值是否接近某个数进行直接比较。

!!!在进行直接比较时,尽量不使用float类型比较

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值