1.2 浮点型数据深入研究
目录介绍
- 01.浮点数据对比
- 1.1 先看一个案例
- 1.2 浮点数如何判断
- 1.3 浮点数如何表示
- 02.什么是精度丢失
- 2.1 看一个面试题
- 2.2 看精度丢失案例
- 2.3 精度为何丢失
- 04.如何避免精度丢失
- 4.1 先说一个业务
- 4.2 BigDecimal介绍
- 4.3 BigDecimal原理
01.浮点数据对比
1.1 先看一个案例
- 先看一个案例,思考一下是否妥当
- 下面这个案例。用 == 从语法上说没错,但是本来应该相等的两个浮点数由于计算机内部表示的原因可能略有微小的误差,这时用==就会认为它们不等。
float a = 2.0000001f; float b = 2.0000001f;