关闭

fmt标签浮点数精度设置问题

标签: firefoxiejspfloat
3149人阅读 评论(0) 收藏 举报
分类:

fmt标签浮点数精度设置问题  

2011-07-05 15:13:38|  分类: 学习 |字号 订阅

<%@ taglib uri="http://java.sun.com/jsp/jstl/fmt" prefix="fmt" %>

在jsp里使用<fmt:formatNumber/>, 对double,float,等浮点类型数值,进行 四舍五入时,使用

1. ie6 <fmt:formatNumber />不起作用的问题

<fmt:formatNumber value="${prdsAmount - ctocOrder.orderAmount+ctocOrder.transAmount}" pattern="0.00" />  四舍五入,精确到小数点后两位,在ie7,ie8,和firefox上,可以正确使用,但 有的ie6,是不支持的,它会把格式过的内容,重新忽略掉,直接是el表达式的结果,所以在使用formatNumber前,最好 先设置 <fmt:setLocale value="en_US"/>.就不会出问题了。

2. 格式完后,减法运算时,显示-0.0的问题。

本人认为,可能由于计算机精度的问题,有时候几个数相减时,因为相减的数值均为浮点类型,我们看着两个相同 的数相减,应该为0.0,其实由于精度的不同,而是-0.000000000000099等小数点后,未知的小数,所以实际上是负值。如果你只是为页面显示,可以在减法结束后再加上不影响结果的小数值,从而得到正数0.0. 最好的方法,就是在程序里,直接把浮点数的精度设置好,就不会出现上述问题了。


from:http://feixia-168.blog.163.com/blog/static/182440992011653442954/
0
0

查看评论
* 以上用户言论只代表其个人观点,不代表CSDN网站的观点或立场
    个人资料
    • 访问:562829次
    • 积分:3954
    • 等级:
    • 排名:第8310名
    • 原创:39篇
    • 转载:120篇
    • 译文:0篇
    • 评论:60条
    文章分类
    最新评论