siebel意外的数字精度问题

在用eScript代码进行数字运算时,会遇到如下情形,意外的数字精度问题:

10.22  - 10      = 0.220000000000001

100.22 - 100     = 0.219999999999999
100.22 - 100.00  = 0.22

200.22 - 199.99  = 0.23

为了规避,只好只用toFixed函数指定数字精度,这样保证计算结果在一定范围内是正确的。

var profits=2487.8235
var profits3 = profits.toFixed(3)  //returns 2487.824 
var profits2 = profits.toFixed(2)  //returns 2487.82
var profits7 = profits.toFixed(7)  //returns 2487.8235000
var profits0 = profits.toFixed(0)  //returns 2488
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值