java扫盲系列1-float,double详解

当时在做区块链项目时,遇到过用户下订单时候因为使用的float计算金额引起的问题,才意识到自己对这个数据类型了解不是很深,就详细了解了下float和double这两个基本数据类型

基本介绍

浮点数用来表示有小数值的数值,在java中有两种:

这里主要是有两个问题

为什么浮点数是不精确的?

我们首先来看为什么浮点数是不精确的:
其实这句话本身就不精确， 相对精确一点的说法是： 我们码农在程序里写的10进制小数，计算机内部无法用二进制的小数来精确的表达
首先计算机是二进制,我们表示的任何数都要转换成二进制进行计算,而十进制是怎么转换到二进制的呢?
先看一个示例:

101.11 就等于 1 * 2^2 +0 *2^1 + 1*2^0 + 1*2^-1 + 1*2^-2 = 4+0+1+1/2+1/4 = 5.75

如图所示:

从图中可以看到，对于二进制小数，小数点右边能表达的值是 1/2, 1/4, 1/8, 1/16, 1/32, 1/64, 1/128 … 1/(2^n）
现在问题来了， 计算机只能用这些个 1/(2^n） 之和来表达十进制的小数。
我们来试一试如何表达十进制的 0.2 吧。

0.01 = 1/4 = 0.25 ,太大
0.001 =1/8 = 0.125 , 又太小
0.0011 = 1/8 + 1/16 = 0.1875 , 逼近0.2了
0.00111 = 1/8 + 1/16 + 1/32 = 0.21875 , 又大了
0.001101 = 1/8+ 1/16 + 1/64 = 0.203125 还是大
0.0011001 = 1/8 + 1/16 + 1/128 = 0.1953125 这结果不错
0.00110011 = 1/8+1/16+1/128+1/256 = 0.19921875 

已经很逼近了， 就这样吧。
这就是我说的用二进制小数没法精确表达10进制小数的含义。

符点数的有效位数6-7,代表什么意思?

那计算机内部具体是怎么表示的呢？
计算机不可能提供无限的空间让程序去存储这些二进制小数。
它需要规定长度， 在Java 中， 提供了两种方式： float 和double ， 分别是32位和64位。
种类-------符号位-------------指数位----------------尾数位----
float—第31位(占1bit)—第30-23位(占8bit)----第22-0位(占23bit)
double–第63位(占1bit)—第62-52位(占11bit)—第51-0位(占52bit)

可以这样查看一下一个float的内部表示（以0.09f为例）：

Float.floatToRawIntBits(0.09f)

你将会得到：1035489772， 这是10进制的， 转化成二进制， 在前面加几个0补足 32位就是：

0 01111011 01110000101000111101100

你可以看到它分成了3段：
第一段代表了符号(s) : 0 正数， 1 负数 ， 其实更准确的表达是 (-1) ^0
第二段是阶码(e)：01111011 　，对应的10进制是　123
第三段是尾数(M)
你看到了尾数和阶码，就会明白这其实是所谓的科学计数法:
(-1)^s * M * 2^e

对于0.09f 的例子，就是：
0101110000101000111101100 * (2^123)
好像不对，这肯定远远大于0.09f !

这是因为浮点数遵循的是IEEE754 表示法， 我们刚才的s(符号) 是对的，但是 e(阶码)和 M（尾数）需要变换：
对于阶码e ， 一共有8位， 这是个有符号数， 特别是按照IEEE754 规范， 如果不是0或者255， 那就需要减去一个叫偏置量的值，对于float 是127
所以 E = e - 127 = 123-127 = -4
对于尾数M ，如果阶码不是0或者255， 他其实隐藏了一个小数点左边的一个 1 （节省空间，充分压榨每一个bit啊）。
即 M = 1.01110000101000111101100
现在写出来就是:

1.01110000101000111101100 * 2^-4 
=0.000101110000101000111101100 
= 1/16 + 1/64 + 1/128+ 1/256 + …. 
= 0.0900000035762786865234375

你看这就是0.09的内部表示， 很明显他比0.09更大一些， 是不精确的！
double同理,这就是它们在内存中的实际存储

精度(有效数字)主要看尾数位：
float的尾数位是23bit，对应7~8位十进制数，所以有效数字有的编译器是7位，也有的是8位
float 为4个字节，表示为：一个符号位，8个指数位，23个尾数，所以有效位数由尾数来决定，即2^23
=8388608为7位，指数的范围是2^(-127~127)

解决java中金额运算的方案

java中提供了BigDecimal类进行精确的数值计算