java excel不输出浮点_匹配Java中的Excel浮点

小编典典

我同意mcnamara的先前回答。这个答案就此展开。

不幸的是,这与用户在Excel中看到的数字不同。谁能指出我要使用一种算法来获得用户在Excel中看到的相同数字?

我认为这里没有使用算法。Excel在内部使用IEEE754 double,并且我猜它printf在显示数字时仅使用一种样式格式:

$ python -c 'print "%.14g" % -130.98999999999069'

-130.98999999999

$ python -c 'print "%.14g" % -130.9899999999907'

-130.98999999999

对于每个IEEE 754

64位二进制浮点数,在输入时会有一个十进制小数范围会四舍五入。从-130.98999999999069开始,最接近的可表示值为-130.98999999999068677425384521484375。在使用半舍入四舍五入规则进行四舍五入到最接近的情况下,[-130.9899999999907009851085604168474674274224853515625,-130.9899999999906725633991300128400325775146484375]范围内的任何内容都会四舍五入到该值。(该范围是封闭的,因为中心数字的二进制表示形式是偶数。如果它是奇数,则该范围将是开放的)。-130.98999999999069和-130.9899999999907都在范围内。

您确实具有与Excel相同的浮点数。 您确实具有与输入到Excel相同的浮点数。不幸的是,进一步的实验表明Excel

2007只能转换输入的最高15位数字。我将-130.98999999999069粘贴到Excel单元格中。它不仅显示为-130.98999999999,使用它的算术运算还与最接近该值的双精度数-130.989999999990004653227515518665313720703125一致,而不是原始输入。

为了获得与Excel相同的效果,您可能需要使用例如BigDecimal将其截断为15个十进制数字,然后转换为double。

Java对浮点值的默认字符串转换基本上选择了十进制小数,该十进制小数位数最少,可以转换回原始值。-130.9899999999907的小数位数少于-130.98999999999069。显然,Excel显示的数字较少,但是Apache

POI正在获得与Java中相同数字的表示形式之一。

这是我用来获取此答案中数字的程序。请注意,我仅使用BigDecimal来获取精确的双打输出,并计算两个连续双打之间的中点。

import java.math.BigDecimal;

class Test {

public static void main(String[] args) {

double d = -130.98999999999069;

BigDecimal dDec = new BigDecimal(d);

System.out.println("Printed as double: "+d);

BigDecimal down = new BigDecimal(Math.nextAfter(d, Double.NEGATIVE_INFINITY));

System.out.println("Next down: " + down);

System.out.println("Half down: " + down.add(dDec).divide(BigDecimal.valueOf(2)));

System.out.println("Original: " + dDec);

BigDecimal up = new BigDecimal(Math.nextAfter(d, Double.POSITIVE_INFINITY));

System.out.println("Half up: " + up.add(dDec).divide(BigDecimal.valueOf(2)));

System.out.println("Next up: " + up);

System.out.println("Original in hex: "+Long.toHexString(Double.doubleToLongBits(d)));

}

}

这是它的输出:

Printed as double: -130.9899999999907

Next down: -130.989999999990715195963275618851184844970703125

Half down: -130.9899999999907009851085604168474674224853515625

Original: -130.98999999999068677425384521484375

Half up: -130.9899999999906725633991300128400325775146484375

Next up: -130.989999999990658352544414810836315155029296875

Original in hex: c0605fae147ae000

2020-10-15

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值