8深入理解浮点数精度

一道面试题

0.1 + 0.2 是否等于 0.3 作为一道经典的面试题，已经广外熟知，说起原因，大家能回答出这是浮点数精度问题导致，也能辩证的看待这并非是 ECMAScript 这门语言的问题，今天就是具体看一下背后的原因。

存储

ECMAScript 采用的就是双精确度，也就是说，会用 64 位字节来储存一个浮点数。

浮点数转二进制

1020用二进制表示

1020 = 1 * 2^9 + 1 * 2^8 + 1 * 2^7 + 1 * 2^6 + 1 * 2^5 + 1 * 2^4 + 1 * 2^3 + 1 * 2^2 + 0 * 2^1 + 0 * 2^0

所以表示为: 1111111100

而浮点数呢, 例如0.75, 然后不断的乘以2

0.75 = a * 2^-1 + b * 2^-2 + c * 2^-3 + d * 2^-4 + ...
//乘以2
1 + 0.5 = a * 2^0 + b * 2^-1