js精度问题(0.1+0.2;js浮点数双精度64位)

1》原因

因为计算机内部的信息都是由二进制方式表示的,但由于某些浮点数没办法用二进制准确的表示出来也就带来了一系列问题

将小数转换成二进制:

整数部分:除2取余,若商不为0则继续对它除2,当商为0时则将所有余数逆序排序

小数部分:乘2取整数部分,若小数不为0则继续乘2,知道小数部分为0将取出的整数位正序排序(若小数部分无法为0,根据有效位要求取得相应值)

0.1的二进制:0.0 0011 0011 0011...0011...(0011无限循环)

2》解决方法

基本思路就是将浮点数转换成整数进行计算,然后在将整数的小数位调整

方法一:定义一个自定义的转换和处理函数

Math.formatFloat=function(f,digit){

var m=Math.pow(10,digit);

return Math.round(f*m,10)/m;

}

console.log(Math.formatFloat(0.1+0.2,1));0.3

console.log(Math.formatFloat(6.8-0.9,1));5.9

console.log(Math.formatFloat(6.8-0.4,1));6.4

方法二:

function formatFloat(x,y,f){

return +(x+y).toFixed(1);

}

var x=0.1;

var y=0.2;

console.log(formatFloat(x,y));0.3

toFixed是一个四舍六入五成双的诡异方法(也叫银行家算法)

四表示<=4时舍去,六表示>=6时进上,五指的是根据5后面的数字来决定,当5后有数字时,舍5入1;当5后有效数字时,需要分两种情况:1)5前为奇数,舍5入1;2)5前为偶数,舍5不进(0是偶数)

但是chrom并没有完全根据这个规则

var a=1.334;

console.log(a.toFixed(2));//1.33

var b=1.336;

console.log(b.toFixed(2));//1.34

var c=1.3352;

console.log(c.toFixed(2));//1.34

var d=1.335;

console.log(b.toFixed(2));//1.34

var e=1.345;

console.log(b.toFixed(2));//1.34

 

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: 解决 JavaScript 中 0.10.2精度丢失问题的方法有以下几种: 1. 使用整数运算:将小数乘以 10 的整数次方,在运算完成后再除回去。 2. 使用第三方库:例如 Big.js、Decimal.js 等。 3. 使用 toFixed() 方法:该方法可以将一个数字转换为字符串,保留指定的小数位数。 例如: ``` var num = 0.1 + 0.2; console.log(num.toFixed(1)); // 输出 0.3 ``` 不过需要注意,使用 toFixed() 方法仍有一定的精度误差。 ### 回答2: 在JavaScript中,由于使用浮点数进行计算时,会出现精度丢失的问题。这是由于计算机使用二进制来表示浮点数,而二进制无法精确表示所有的实数。 为了解决这个问题,可以使用一些技巧,例如: 1. 使用整数进行计算:将小数转换为整数进行计算,最后再将结果转换回小数。例如,可以将0.1转换为10,0.2转换为20,然后进行计算,最后再将结果除以10即可得到正确的小数结果。 2. 使用toFixed方法:toFixed()方法可以将一个浮点数保留指定位数的小数。例如,可以使用toFixed(1)将0.1保留一位小数,得到0.1,同样可以使用toFixed(1)将0.2保留一位小数,得到0.2。 另外,还可以使用一些第三方库来处理精度问题,例如BigDecimal.js、decimal.js等,这些库提供了更精确的计算功能,可以避免精度丢失问题。 需要注意的是,虽然上述方法可以解决大部分精度丢失问题,但是在涉及到非常复杂的浮点数计算时,仍然可能出现精度丢失。因此,在编写JavaScript代码时,应尽量避免对浮点数进行复杂的计算或比较操作,或者使用第三方库来处理这些计算。 ### 回答3: JavaScript中的0.10.2精度丢失问题可以通过以下方法来解决: 1. 使用toFixed()函数:可以将浮点数转换为指定位数的字符串。例如,可以使用toFixed(1)将0.1转换为"0.1",将0.2转换为"0.2",然后再进行计算。 2. 使用BigInt对象:BigInt对象可以处理超出JavaScript数字类型最大安全整数范围的数字。可以将0.10.2转换为BigInt对象,然后进行计算。 3. 使用第三方库:一些第三方库,如Decimal.js和Big.js,提供了更精确的浮点数计算功能。这些库可以处理小数的精度丢失问题,提供更准确的计算结果。 下面是一个使用toFixed()函数解决0.10.2精度丢失问题的示例代码: ``` let num1 = 0.1; let num2 = 0.2; let result = (num1 + num2).toFixed(1); console.log(result); // 输出 0.3 ``` 注意,使用toFixed()函数返回的结果是字符串类型,需要根据需要进行类型转换。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值