DecimalFormat的疑惑

最新推荐文章于 2024-09-14 23:01:09 发布

MaoZhua

最新推荐文章于 2024-09-14 23:01:09 发布

阅读量1.3k

点赞数

文章标签： float 测试 string c

本文链接：https://blog.csdn.net/MaoZhua/article/details/481004

版权

DecimalFormat的疑惑
前几天做一个程序，要格式化的Float型数据最多5位小数，要求输出的格式为“有几位小数显示几位，不能用科学计数法表示”
用DecimalFormat格式化，格式化的模式为“0.#####”，
但对float a = 1234.22f，总是格式化不对，被莫名其妙的格式化为1234.21997
于是写了下面的一个小测试程序：
public static void main(String[] agrs)
    {
        DecimalFormat df = new DecimalFormat("0.#####");
        float a = 12345.22f;
        float b = 1234.22f;
        float c = 123.22f;
        float d = 0.123456789f;

        double e = 123456789.22;
        System.out.println("Before Formation");
        System.out.println(a);
        System.out.println(b);
        System.out.println(c);
        System.out.println(d);

        System.out.println(e);


        System.out.println("After Formation");
        System.out.println(df.format(a));
        System.out.println(df.format(b));
        System.out.println(df.format(c));
        System.out.println(df.format(d));

        System.out.println(df.format(e));

        df = new DecimalFormat("0.################################################################################");
        System.out.println("Format double type");
        System.out.println(df.format(e));
    }
输出的结果为：
    Before Formation
        12345.22
        1234.22
        123.22
        0.12345679
        1.2345678922E8
    After Formation
        12345.21973
        1234.21997
        123.22
        0.12346
        123456789.22
    Format double type
        123456789.22

关于这个测试结果的疑问及个人解释：
1。1234.22f ---> 1234.21997      123.22f ---> 123.22
Float类型的精度为8位  格式化串为"0.#####"
123.22f整数部分3位，加上“#####“5位，一共8位，在精度范围内，故被格式化为123.22
1234.22f整数部分4位，加上“#####“5位，一共9位，超出精度范围，故被格式化为1234.21997
2。double类型
double e = 123456789.22
格式化串为"0.################################################################################", 一共80个“#”
却一直是正确的，是否对于double在此时不检查是否超出精度

结论：
建议在用浮点类型数据以double型为主，尽量少用float
1.double精度高于float
2.避免格式化时出现上面讨论的现象

本篇文章对您是否有帮助？投票：是否投票结果：

作者其它文章：作者全部文章

评论人：rower 参与分: 91 专家分: 0

发表时间: 2004-8-4 上午10:42

你好，我对你的“关于这个测试结果的疑问及个人解释”有不同看法.

造成上述测试结果的原因是：df.format(a) 的参数要求是double(or long),对于你所给的float型隐含着float->double的转换。所以你的参数实际分别是：
a=(double)12345.22f=12345.2197265625
b=(double)1234.22f=1234.219970703125
c=(double)123.22f=123.22000122070312
d=(double)0.123456789f=0.12345679104328156
e 不需转换，数值不变。
所以能看到你的测试结果。
如果DecimalFormat df =new DecimalFormat("0.######");//增加一个#
那么System.out.println(df.format(c));就可得到123.220001而不是123.22了。

所以，如果认识到df.format()参数的转型，你的所有测试结果都好理解了。