Java中计算导致的精度问题

最新推荐文章于 2024-05-15 19:05:40 发布
最新推荐文章于 2024-05-15 19:05:40 发布
阅读量596 收藏
点赞数
分类专栏： Java
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/baidu_35192370/article/details/82186434
版权
在Java中，将0.57转换为double并乘以100后，由于二进制表示的精度损失，结果变为56.999999999，转换为int后变成56，导致微信充值功能出现误差。解决此类问题的方法是避免直接使用int类型，确保传递精确的数值。
摘要由CSDN通过智能技术生成

先说下我遇到的问题：

App做调用微信充值功能，输入框明明输入的是0.57，但是调用微信支付的时候却成了0.56

一脸懵逼...

查原因：

拿到输入框中的内容， 转换成double类型后  乘以 100，通过log 发现 变成了 56.999999999

(计算过程中  计算机转化成二进制计算会产生一些失精)

然后强转成 int 类型就变成了  56，调用微信的时候api传参是要 单位为分的

问了主管用：

BigDecimal
封装了工具类：
package com.temiao.jiansport.utils;

import java.math.BigDecimal;

/**
 * ==================================
 * Created by 边江洲 on 2018/8/29.
 * 作    者：WY_BJZ
 * 创建时间：2018/8/29
 * ==================================
 */
最低0.47元/天 解锁文章
边先生_
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
专栏目录
Java实现 蓝桥杯VIP 算法提高 高精度乘法
南 墙
06-22 1万+
算法提高 高精度乘法 时间限制：1.0s 内存限制：256.0MB 问题描述 　　在C/C++语言中，整型所能表示的范围一般为-231到231（大约21亿）,即使long long型，一般也只能表示到-263到263。要想计算更加规模的数，就要用软件来扩展了，比如用数组或字符串来模拟更多规模的数及共运算。 　　现在输入两个整数，请输出它们的乘积。 输入格式 　　两行，每行一个正整数，每个整数不...
Java中浮点数精度问题的解决方法
09-01
在Java编程中，浮点数精度问题是一个常见的困扰，尤其是在进行数学计算或财务计算时。浮点数精度问题主要体现在，当使用float或double类型的数值进行运算时，结果并不总是与预期相符，这主要是由于计算机内部对...
java double 运算精度问题_java Double计算出现精度问题
weixin_39564386的博客
02-13 217
在使用double进行浮点数运算时会出现精度问题，因为这是科学计算得出的结果而不是我们想要的结果'''System.out.println(478d * 0.95d);结果454.09999999999997'''这是就要使用BigDecimal这个类进行计算了'''加法new BigDecimal(Double.toString(478d)).add(new BigDecimal(Double....
如何解决Java 中的精度问题
最新发布
qq_33326733的博客
05-15 1432
在 Java 编程中，处理浮点数和超大整数时常常会遇到精度丢失和数值溢出的困扰。为了确保计算结果的精确性，尤其是在金融计算等对精度要求极高的场景中，我们需要使用BigDecimal和BigInteger类。本文将详细介绍浮点数精度丢失的原因、如何解决该问题，以及如何处理超出long范围的整数。
JAVA中遇到金额精确计算时候的问题解决
jiacc0110的博客
02-29 2490
原则上是使用BigDecimal（String）构造器，我们建议，在商业应用开发中，涉及金额等浮点数计算的数据，全部定义为String，数据库中可定义为字符型字段，在需要使用这些数据进行运算的时候，使用BigDecimal（String）构造BigDecimal对象进行运算，保证数据的精确计算。同时避免了科学记数法的出现。如果科学记数表示法在应用中不是一种负担的话，可以考虑定义为浮点类型。  
JAVA中高精度金额计算
weixin_30544657的博客
08-02 397
一般java代码中遇到高精度金额计算，日常使用bigDecimal类型。 在使用BigDecimal类来进行计算的时候，主要分为以下步骤： 1、用float或者double变量构建BigDecimal对象。 2、通过调用BigDecimal的加，减，乘，除等相应的方法进行算术运算。 ...
货币计算中的精度问题－－java.math.BigDecimal
soleghost的专栏
06-16 4882
在项目开发中,经常遇到金额货币的计算,这时候使用float或者double是不满足要求的,以前因为没有经验,所以使用了float,结果造成了计算结果的错误.后来了解到需要使用java.math.BigDecimal.以前通常的写法是:1.01+2.02+3.03=6.0600000000000005 ,这样肯定不好办.换用 BigDecimal,但是注意,不能这样写:　
Java POI读取excel中数值精度损失问题解决
08-19
这种问题的出现是因为 Excel 中的数值单元格在读取时，可能会被格式化为浮点数，从而导致精度损失。 例如，在 Excel 单元格中输入 1，读取后可能会变成 1.0，而输入 2.2 可能会变成 2.1999999997。这种情况下，我们...
java和js的计算精度的实现
09-22
在金额的加减乘除运算时我们往往会忽略计算结果的精度问题，导致莫名奇妙出现了过多的小数位，这在我做银行项目时尤其需要关注的一个问题点。 其实在我们使用正常的 + - * / 运算时，在某些情况下就会出现精度丢失...
java精度计算代码 java指定精确小数位
08-31
在Java编程语言中，进行精度计算时，我们经常会遇到浮点数运算导致的精度丢失问题。这是因为Java中的float和double类型是基于IEEE 754标准的，它们无法精确表示所有的小数。为了确保计算结果的精确性，我们需要使用`...
JAVA浮点数计算精度损失底层原理与解决方案
08-31
浮点数计算在Java中常常会遇到精度损失的问题，这是由于计算机硬件的限制以及浮点数在二进制表示上的特性所导致的。在Java中，浮点数类型包括单精度浮点数`float`（4字节，32位）和双精度浮点数`double`（8字节，64...
Java-关于基本数据类型中浮点数计算产生的精度问题
12-22
简单关于BigDecimal类 在基本数据类型中，float和double都表示浮点型数据，而计算机计算采取的是对二进制的计算，所以会存在一定程度上的精度丢失问题。 BigDecimal类是一个大小数操作类，可以用来对超过16位有效位的数据进行精确的运算，在这里我们使用BigDecimal类来解决浮点数计算产生的精度丢失问题。 精度问题 在这里我们讨论一个问题：3 – 2.7 == 0.3 的值是什么？ 首先对表达式进行分析，该表达式有两个运算符，分别为减运算符 -和关系运算符 = = ，由于减运算符 – 的优先级高于关系运算符，所以该表达式将输出一个布尔值，即输出一个true或者false，
java---高精度乘法（每日一道算法2022.9.26）
SRestia的博客
09-26 373
给定两个非负整数（不含前导 0） A 和 B，请你计算 A×B 的值
Java float double 乘法精度损失
修也
05-19 292
System.out.println(0.58); System.out.println(Double.valueOf(0.58)*100); System.out.println(0.58*100); System.out.println( (int) (Double.valueOf(0.58) * 100)); 0.58 57.99999999999999 57.99999999999999 57 0.58 x 100 = 58 但是 java..
JS 通过传参的方式输出 ab,java的double乘法精度问题
u011277123的博客
01-03 757
达人科技 2016-12-23 13:58 //fn(param) 传参，如何输出"ab" function fn(param){ if(param){ console.info("a"); }else{ console.info("b"); } } //这个是正确的，不过在控制台分行输出"ab" //fn(fn(true)); //如果硬要一行输出"ab"，可参考这个方法 f
Java 两个整数 除法的精度问题 int / int
热门推荐
wuyujin1997的博客
09-18 1万+
文章目录两个 int 变量的除法运算 结果的精度问题Java中其他基本类型的运算规则 && 数值存储规则延伸 两个 int 变量的除法运算 结果的精度问题 代码如下： public class Test { public static void main(String[] args) { // / 的两个操作数都为int变量，则运算结果也为int System.out.println(5 / 2); // 2 // 将其中
金融系统中正确的金额计算及存储方式
茅坤宝骏氹的博客
04-26 707
转载自 金融系统中正确的金额计算及存储方式经典的精度丢失问题Java中的类型float、double用来做计算会有精度丢失问题，下面来看下面的示例。public static void main(String[] args) {    test1();    test2(); } private static void test1() {    double totalAmount = 0...
java中的加减乘除精度问题
qq_36984017的博客
05-13 648
package com.dcb.service.business.util; import java.math.BigDecimal; public class Arith{ //默認除法運算精度 private static final int DEF_DIV_SCALE = 10; //這個類不能實例化 private Arith(){ } ...
js处理小数加减乘除法计算精度问题
小鲁班-JAVA开发
05-30 230
先根据小数点的位数，把小数扩大适当的倍数， /** * 计算需要乘以的倍数 */ var getMaxBaseNum = function(num1, num2) { var baseNum, baseNum1, baseNum2; try { baseNum1 = num1.toString().split(".")[1].length; } catch (e) { base
javadouble计算精度问题
08-23
Java中的简单浮点数类型float和double存在计算精度问题。这是因为在大多数编程语言中，包括Java在内，无法对浮点数进行精确运算。换句话说，浮点数的计算结果可能会存在一定的误差。这是由于浮点数的内部表示方式和...
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值