浮点数乘除出现超长小数

最新推荐文章于 2023-05-29 13:42:04 发布
最新推荐文章于 2023-05-29 13:42:04 发布
阅读量1.1k 收藏 1
点赞数 2
分类专栏： js
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/superYe7/article/details/104656339
版权

今天遇到一个问题，当我想把小数以百分比形式展示时，发现某一些小数乘以100后会变成一个超长小数

这是浮点数计算的bug，由于计算机是用二进制来存储和处理数字，不能精确表示浮点数，而js中没有相应的封装类来处理浮点数运算，直接计算会导致运算精度丢失。

通过各种尝试用这个方法可以解决：

Math.round((t * 10000) / 100)

 

superYe7
关注
  • 2
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
解决JS浮点数运算出现Bug的方法
12-03
37.5*5.5=206.08 (JS算出来是这样的一个结果，我四舍五入取两位小数) 我先怀疑是四舍五入的问题，就直接用JS算了一个结果为：206.08499999999998 怎么会这样，两个只有一位小数的数字相乘，怎么可能多出这么小数点出来。 我Google了一下，发现原来这是JavaScript浮点运算的一个bug。 比如：7*0.8 JavaScript算出来就是：5.6000000000000005 网上找到了一些解决办法，就是重新写了一些浮点运算的函数或直接扩大倍数运算。 下面就把这些方法摘录下来，以供遇到同样问题的朋友参考： 代码如下://除法函数，用来得到精确的除法结果 /
解决JS中计算出现无限小数位问题
weixin_56242672的博客
12-06 4014
在项目中遇到了浮点数转换为百分数的问题，用浮点数乘以100结果产生了一堆小数位。查资料发现原因是由于计算机计算会先把数字转换成二进制计算，然后在转换为10进制，导致精度丢失。对一些方法进行了封装
前端计算+-*/精度问题
weixin_43869524的博客
09-05 3453
/** * 加法运算，避免数据相加小数点后产生多位数和计算精度损失。 * * @param num1加数1 | num2加数2 */ numAdd(num1, num2) { var r1,r2,m; try{ r1 = num1.toString().split('.')[1].length; ...
python：float数乘以100后小数点位数变多问题
热门推荐
u011550708的专栏
04-11 1万+
问题：在将元换算成分的时候，会出现下面的问题，而不是我们理想的203>>> float(2.03*100)202.99999999999997解决：>>> round(float(2.03*100))203注意： round函数进行四舍五入，因此尤其需要注意小数位数及乘数，如下面的例子，此时将会出现不准确的结果，原因是乘以100以后后面的小数点数字3被舍弃，所以...
double数据乘以100出现位数变多问题
caoyizhi1987的专栏
09-05 8217
很奇怪，我在做除法运算获取一个double数据后，再乘以100转换为百分数时竟然出现位数增多的现象 不知为何 ，但是转换为float后再乘就会解决这个问题 这里记录一下： BigDecimal b1 = new BigDecimal(Dou
js 乘法运算 导致的浮点数问题数问题
weixin_56037622的博客
09-16 489
js 乘法运算 导致的浮点数问题数问题
C#【中级篇】浮点数“大数吃小数”示例
05-12
浮点数在计算机内部是通过二进制表示的，这导致它们无法精确地表示所有十进制数字，尤其是在进行加减乘除等运算时，可能会出现看似不合理的计算结果。本篇将深入探讨这个话题，并通过一个实例来展示这个问题。 ...
解决JS浮点数(小数)计算加减乘除的BUG
05-23
解决JS浮点数(小数)计算加减乘除的BUG
FPGA浮点数加减乘除基于verilogHDL
05-12
一个浮点数由三个部分组成：符号位（1位），指数（通常用二进制补码表示，位宽取决于所需精度），以及尾数（也称为小数部分，一般用原码表示）。指数部分决定了数值的大小，尾数则存储数值的精确度。 2. **Verilog ...
js小数运算出现多位小数如何解决
10-23
关于JavaScript小数进行加、减、乘、除出现多位小数问题，自己研究了一下，而且作了相关的测试，收获不少知识点，需要的朋友可以参考下
JavaScript 小数与整数相乘后小数点后面多出很多位
hanjiale3的博客
03-06 4295
记一次js遇到的bug–小数与整数相乘后小数点后面多出很多位 今天写前端js代码，数量乘以单价等于金额，其中数量是整数，单价是浮点数，在输入数量是11，单价是22.9的时候，金额变成了251.899998，很明显结果有问题，查了一下，发现是js的浮点运算的bug，可以用**toFixed（2）**来进行约束，也可以先单价和数量各乘以100,相乘，再除以10000，我的代码是下面的， var len...
float类型小数乘100后小数点位数变多问题
羸鹄的博客
06-15 8040
在做项目过程中接口需要返回float类型的小数,前端页面需要显示成百分数形式, 在代码处理 float*100, 接口返回数据造成精度缺失 //服务查询float类型数据*100 float fat = iloviBodyDeviceRunDataService.getFat(param)*100; //fat=15.000001 ...
js 小数乘积位数太长
billhepeng的专栏
04-23 462
function accMul(arg1,arg2) { var m=0,s1=arg1.toString(),s2=arg2.toString(); try{m+=s1.split(".")[1].length}catch(e){} try{m+=s2.split(".")[1].length}catch(e){} return Number(s1.replac...
js二个小数相乘结果出现很多小数点
微笑的博客
03-27 4207
二个小数相乘有时的结果 html页面的 <div id="banner"> 第一个小数：<input type="text" id="num1"/> <br/> 第二个小数：<input type="text" id="num2"/> <br/> <input type="button" value="计算" ...
Mysql 加减乘除运算后结果的小数部分出现多个不精确的值处理
强哥叨逼叨
07-27 8149
mysql钱存的类型用的varchar类型,然后在更新钱的时候，在相加减某个值得时候会出现运算后结果的小数部分出现多个不精确的值。处理需要用case函数将varchar类型转成decimal然后进行操作，例如： update t set prj_money_use = cast(prj_money_use as decimal(11,2)) + cast(#{returnMoney} as ...
double数值乘以100后精度增加的问题
m0_37791204的博客
04-23 3187
问题代码: Double dou = Double.parseDouble("77.10")*100; String str = dou.toString(); System.out.println(str); //7709.999999999999 System.out.println(str.substring(0,dou.toString().indexOf("."))...
js 解决小数相乘，后面多出多位小数，解决精度问题
m0_58266149的博客
05-29 785
当我们在使用js的小数相乘的时候，容易因为进制问题，遇到相乘结果不是我们想要的。 下面以vue中的方法为例子，请参考一下代码...如有不明白的可以留言探讨。
用c语言输入2个浮点数，输出其加减乘除运算结果。
最新发布
06-13
好的，以下是用C语言实现输入2个浮点数，输出其加减乘除运算结果的代码： ```c #include int main() { float a, b; printf("请输入第一个浮点数："); scanf("%f", &a); printf("请输入第二个浮点数："); ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值