对于double的精度设置

最新推荐文章于 2022-11-16 14:34:55 发布
最新推荐文章于 2022-11-16 14:34:55 发布
阅读量2.4k 收藏 1
点赞数
分类专栏： java
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/hzlimeng/article/details/1576747
版权

double p;

//你的获得double p的过程

BigDecimal b = new BigDecimal(p, new MathContext(4));

//将p转换为，获得4位有效数的b 

hzlimeng
关注
专栏目录
double类型 精度丢失的问题
A_aspectJ的博客
08-05 2336
因为计算机只能识别0和1，即二进制，无论哪种编程语言，都需要翻译成二进制才能被计算机识别。这种舍入误差的主要原因是浮点数值采用二进制系统表示， 而在二进制系统中无法精确地表示分数 1/10。这就好像十进制无法精确地表示分数 1/3—样。
Hive基础
Wilson的专栏
03-25 576
primitive type TINYINT 1byte的长度，通过后缀Y声明，如:13Y。 SMALLINT 2byte长度，通过后缀S声明，如14S。 INT 4byte长度，普通数字默认为INT FLOAT 4byte单精度浮点数 DOUBLE 8byte双精度浮点数 DECIMAL 可指定精度的浮点数，默认精度为decimal(10,0) BINARY 二进制数
解决double的精度问题-BigDecimal
Dustin_CDS的博客
02-24 8639
BigDecimal的用法 不可变的，任意精度的，有符号十进制数。BigDecimal valueOf(double val)说明文档： public static BigDecimal valueOf(double val) { // Reminder: a zero double returns '0.0', so we cannot fastpath
JAVA对double或者float的浮点数精度计算控制方法
二南的程序人生
04-26 4026
 /* * Created on 2005-6-5 * Author stephen * Email zhoujianqiang AT gmail DOT com * CopyRight(C)2005-2008 , All rights reserved. */package com.soft4j.utility;import java.math.BigDecima
控制double,float类型数据的精度
LEE的专栏
01-08 2015
 我们知道,计算机中double, float类型的数据常常需要你去确定到底四舍五入到小数点后的几位. 所以, 我专门写了一个函数来完成这个功能.注意,下面我以保留小数点后两位来说明.如果想保留三位,四位......可以依此类推////Here I analyze if the double data should be carry. //For example, 8.494 should
关于double精度
lfrhate的博客
10-10 152
公司一个项目，在进行对账的时候，突然提示我，金额不符； 原金额为1659960分，而我上传的为1659959分 ，查看数据库发现数据库是16599.60元，所以判断是我在上传的时候，处理数据的时候，导致精度丢失； 下面是我原代码，其中yamount 是double类型数据【】 int b = IntegerUtils.toInteger(yamount*100); 为了保持精度，我使用...
详解iOS之关于double/float数据计算精度问题
08-27
iOS 之关于 double/float 数据计算精度问题详解 iOS 开发中，double 和 float 数据类型的计算精度问题是一个常见的问题。本篇文章将详细介绍 iOS 中 double/float 数据计算精度问题的根源、解决方案和高精度计算...
jisuanqi.rar_double精度
09-23
在这个"jisuanqi.rar_double精度"的压缩包中，我们关注的是在VC++环境下，使用double类型进行四则运算时可能出现的精度丢失问题。double类型是C++中用于表示浮点数的一种数据类型，具有较高的精度，但并非无限精确。...
解决java数值范围以及float与double精度丢失的问题
08-30
解决java数值范围以及float与double精度丢失的问题 Java中的数值范围和浮点数精度问题是许多开发者经常遇到的问题。下面我们将详细探讨Java中的数值范围、float和double类型的精度问题，并且提供解决方案。 一、...
mysql double 精度_Double类型精度问题引起的错误
weixin_30909915的博客
01-19 6502
场景说明研发同事让把某个double类型字段的值四舍五入保留2位小数，mysql中round(col,2)可以实现四舍五入并且保留2位小数，但是神奇的事情发生了：发现有的四舍五入是正确的，而有的不是我们想要的结果，如下：简单模拟此场景：yujx>drop table dd;yujx>create table dd (a double);yujx>insert into dd va...
double精度丢失总结
kxd828的博客
04-28 3478
这里写自定义目录标题1、double的结构2、double的存储原理3、精度丢失示例4、解决方法
hive 脚本测试时候注意 double 和 decimal 的精度差异示例
最新发布
m0_37847964的博客
11-16 1841
亲爱的小伙伴们，在涉及到金额或者精度要求较为高的场景的时候，特别注意乘法和除法，数据的类型和类型之间的转换问题，此例子就是在下遗漏的一个BUG，对于这种隐深的问题开发和测试都很难发现，但是这次也是一次累积和更深刻理解一些hive-sql的知识。
java 和sql 实现double小数位精确
ITgirl1的博客
08-13 717
round(AVG(a.amount), 3) as "amount", round(AVG(a.quality), 3) as "quality", round(AVG(a.quality_test), 3) as "quality_test", round(AVG(a.timely_delivery), 3) as "timely_delivery", round(AVG(a.pack), 3) as "pack", round(AVG(a.identify), 3) as "identi.
hive中计算精度 double和decimal 的精度差异示例
热门推荐
沉迷数据无法自拔
11-04 1万+
hive中计算精度 double和decimal 的精度差异示例 1、hive将字符串默认转换成double类型进行计算 执行一下代码： explain select '0.0407'*2500 -->10.1749999999 执行计划 - 可以看到，hive将字符串 ‘0.0407’ 转换成 double类型，最终输出值是： 10.1749999999 2、将字符转换成decimal后再计算 执行下面代码： explain select cast（'0.0407' as dec
设置double类型数字精度
满天星星的专栏
12-24 3120
import java.math.BigDecimal ; public class testScale { public static void main(String[] args) { Double pDouble; BigDecimal bd = new BigDecimal(12.123456); BigDecimal bd1 = bd.setScale...
double类型精度问题格式设置
球球之家
11-08 4582
我们知道double类型在进行处理时会涉及到精度丢失问题比如 double d=100*1.005; 结果d的结果为100.49999999999999 怎么解决这种问题呢，用DecimalFormat，它对double类型的进行四舍五入处理用法如下： DecimalFormat df=new DecimalFormat(pattern);  String nums=df.forma
hive 数字长度控制
CottonDuke的博客
11-16 1万+
hive 数字如果想存储为String，数字太长会存储为科学计数法，如果不想这样，可以用printf select cast(34343424.5534324 as string) from table; 结果3.43434245534324E7 select printf("%.2f",34343424.5534324 as string) from table; 结果3
Java Double精度处理与运算技巧
为了解决这个问题，我们可以采用一些策略来提高double精度的处理。首先，可以使用`BigDecimal`类，这是一个内置的精确算术类，可以处理任意精度的十进制数值。以下是一些关键的方法： 1. **round方法**： `public ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值