小记编程语言浮点精度问题

注意: 本文内容于 2024-09-15 20:21:12 创建,可能不会在此平台上进行更新。如果您希望查看最新版本或更多相关内容,请访问原文地址:小记编程语言浮点精度问题。感谢您的关注与支持!

浮点数在计算机中不能精确表示所有的十进制小数,所以在进行运算时可能会出现微小的误差。

浮点数精度问题主要影响使用二进制浮点表示法的编程语言。大多数主流编程语言(如 Java、C、C++、Python、JavaScript 和 Ruby)都使用 IEEE 754 标准来表示浮点数,因此都会受到这一问题的影响。

直观的测试

0.14*100
0.12*100

我后面采取的方式是四舍五入保留一位小数。

/**
 * 将传入的 double 转换为小数点后一位
 *
 * @param value 要转换的 double 值
 * @return 转换后的小数点后一位的字符串
 */
public static double roundToOneDecimal(double value) {
    BigDecimal bd = new BigDecimal(value);
    BigDecimal roundedValue = bd.setScale(1, RoundingMode.HALF_UP);  // 四舍五入到小数点后一位
    return roundedValue.doubleValue();  // 返回字符串形式的结果
}

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值