1.2 浮点型数据深入研究

64 篇文章 0 订阅 ¥79.90 ¥99.00

1.2 浮点型数据深入研究

目录介绍
  • 01.浮点数据对比
    • 1.1 先看一个案例
    • 1.2 浮点数如何判断
    • 1.3 浮点数如何表示
  • 02.什么是精度丢失
    • 2.1 看一个面试题
    • 2.2 看精度丢失案例
    • 2.3 精度为何丢失
  • 04.如何避免精度丢失
    • 4.1 先说一个业务
    • 4.2 BigDecimal介绍
    • 4.3 BigDecimal原理

01.浮点数据对比

1.1 先看一个案例
  • 先看一个案例,思考一下是否妥当
    • 下面这个案例。用 == 从语法上说没错,但是本来应该相等的两个浮点数由于计算机内部表示的原因可能略有微小的误差,这时用==就会认为它们不等。
    float a = 2.0000001f;
    float b = 2.0000001f;
    
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值