JS浮点运算精度丢失问题

JS浮点运算精度丢失问题

问题的出现

当对浮点型小数进行运算时,js可能会精度丢失,事实上,所有的高级语言都面临着这个问题,这是因为对于浮点数的运算是二进制运算。
在这里插入图片描述

问题的解决

java有一个BigaungDecimal类专门解决着一个问题,对于js,我们也可以参考Java的思路,把数字变成字符串,一个字符一个字符的计算,就和我们小学列竖式一样,这样必然不会出问题。但是我现在有一个新的解决思路。
在这里插入图片描述
可以看到,0.3*3会精度丢失,但是先让0.3*10然后再把10除回来,就不会了。所以只要我先把小数都变成整数,再把位数调回来,问题是不是就解决了,然后如下,我在js中封装了一个这样的类。

const BigDecimal=function(num){
   
    if(typeof(num)!="string"&&isNaN(num)){
   
        throw "The Value must be a string that can be transform to nummber"
    }else{
   
        this.num=num
        this.class="BigDecimal"
        this.getInt=function(){
   
            return this.num.replace(".","")*1
        }
        this.getDigit=function(){
   
            let list=this.num.split(".")
            if(list.length
  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 2
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值