Number、BigInt、0.1+0.2

本文探讨了JavaScript中数值的64位双精度存储方式,包括符号位、指数位和尾数位的细节。通过实例展示了最大安全整数、最小安全整数以及0.1+0.2不等于0.3的原因,并提出了转换为十进制、使用toFixed和比较误差范围的解决方案。
摘要由CSDN通过智能技术生成

在 JavaScript 中采用的是 64 位双精度存储的。

符号位S:第1位是正负符号位,0表示是正值,1代表是负值。 63位为指数位。

指数位E:中间的11位存储指数,用来表示次方数。52-62位。

尾数位M:最后的52位尾数,超出的部分自动进一舍零。0-51位。

console.log(Number.MAX_VALUE)//1.7976931348623157e+308
console.log(Number.MAX_SAFE_INTEGER)//9007199254740991
console.log(Number.MIN_VALUE)//5e-324
console.log(Number.MIN_SAFE_INTEGER)//-9007199254740991

最大的整数是2^53-1

0.1+0.2的问题

1.可以转化成十进制再相加,在除以10

console.log(0.1*10+0.2*10===0.3*10) //true

2.tofixed

console.log((0.1+0.2).toFixed(1)===0.3)//false

console.log((0.1+0.2).toFixed(1)==0.3)//true

3.做减法小于Number.EPSILON(IE需要自己求:2^-52)

console.log(Math.abs((0.1+0.2)-0.3)<Number.EPSILON)//true

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: 解决 JavaScript 中 0.10.2 的精度丢失问题的方法有以下几种: 1. 使用整数运算:将小数乘以 10 的整数次方,在运算完成后再除回去。 2. 使用第三方库:例如 Big.js、Decimal.js 等。 3. 使用 toFixed() 方法:该方法可以将一个数字转换为字符串,保留指定的小数位数。 例如: ``` var num = 0.1 + 0.2; console.log(num.toFixed(1)); // 输出 0.3 ``` 不过需要注意,使用 toFixed() 方法仍有一定的精度误差。 ### 回答2: 在JavaScript中,由于使用浮点数进行计算时,会出现精度丢失的问题。这是由于计算机使用二进制来表示浮点数,而二进制无法精确表示所有的实数。 为了解决这个问题,可以使用一些技巧,例如: 1. 使用整数进行计算:将小数转换为整数进行计算,最后再将结果转换回小数。例如,可以将0.1转换为10,0.2转换为20,然后进行计算,最后再将结果除以10即可得到正确的小数结果。 2. 使用toFixed方法:toFixed()方法可以将一个浮点数保留指定位数的小数。例如,可以使用toFixed(1)将0.1保留一位小数,得到0.1,同样可以使用toFixed(1)将0.2保留一位小数,得到0.2。 另外,还可以使用一些第三方库来处理精度问题,例如BigDecimal.js、decimal.js等,这些库提供了更精确的计算功能,可以避免精度丢失问题。 需要注意的是,虽然上述方法可以解决大部分精度丢失问题,但是在涉及到非常复杂的浮点数计算时,仍然可能出现精度丢失。因此,在编写JavaScript代码时,应尽量避免对浮点数进行复杂的计算或比较操作,或者使用第三方库来处理这些计算。 ### 回答3: JavaScript中的0.10.2的精度丢失问题可以通过以下方法来解决: 1. 使用toFixed()函数:可以将浮点数转换为指定位数的字符串。例如,可以使用toFixed(1)将0.1转换为"0.1",将0.2转换为"0.2",然后再进行计算。 2. 使用BigInt对象:BigInt对象可以处理超出JavaScript数字类型最大安全整数范围的数字。可以将0.10.2转换为BigInt对象,然后进行计算。 3. 使用第三方库:一些第三方库,如Decimal.jsBig.js,提供了更精确的浮点数计算功能。这些库可以处理小数的精度丢失问题,提供更准确的计算结果。 下面是一个使用toFixed()函数解决0.10.2精度丢失问题的示例代码: ``` let num1 = 0.1; let num2 = 0.2; let result = (num1 + num2).toFixed(1); console.log(result); // 输出 0.3 ``` 注意,使用toFixed()函数返回的结果是字符串类型,需要根据需要进行类型转换。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值